摘要： 语言文字是人类最重要的交际工具和信息载体，是人类文化的重要组成部分，特别是在蒙学识字阶段尤为重要。目前，传统蒙学教育不仅教学内容单一、教学方法陈旧、教学过程忽视学生的感受，而且在蒙学识字阶段运用字理进行识字的方式较为刻板、机械，不利于学生理解汉字的文化意义。而《说文解字》中汉字的形、声、意相结合的结构方式通俗易懂、富有趣味性，并且注重学生感受和价值观的培养。结合前人的研究成果，从汉字本身及教学特点出发，阐述在学生蒙学识字阶段中应用《说文解字》形、声、意相结合的方法的可行性，并提出形、声、意相结合的方法在应用时的学习意义。

关键词： 深度学习   放射治疗   肿瘤分割   剂量预测  

摘要： 目的:癌症是导致人类死亡的主要原因之一,严重阻碍着人类平均寿命的提高。放射治疗是一种常用的癌症治疗手段。放射治疗计划的制定和实施过程工作量大、耗时长,且依赖主观临床经验。人工智能技术的兴起为上述问题的解决带来了可能性。基于人工智能模型的放射治疗计划制定和实施过程具有效率更高、一致性更好等优势。因此,本课题将探索应用于放射治疗计划制定中的人工智能新技术。材料和方法:人工智能技术在放射治疗中的主要应用场景包括自动分割、自动计划、生成电子计算机断层扫描(Computed Tomography,CT)图像和自动质量保证(Quality Assurance,QA),其中自动分割和自动计划的临床需求量更大。因此,本课题将利用深度学习技术来实现放射治疗实施前的靶区自动分割和放射治疗计划的剂量预测,以提高放射治疗的效率和精度。本课题以鼻咽癌为例进行实验探索。对于靶区勾画任务,我们基于注意力机制设计了多模态信息融合模块,利用磁共振成像(Magnetic Resonance Imaging,MRI)的信息来辅助CT图像中的肿瘤分割。本实验纳入了192例鼻咽癌患者,这些患者的数据中均包含CT图像、MRI和肿瘤的掩膜。实验中将数据集划分为训练集、验证集和测试集,分别包含134、20和38例患者。分别验证了模型中的域对齐模块和多模态信息融合分割网络的性能。对于剂量预测任务,我们设计了距离变换模块,在模型中引入了距离先验信息,以提高剂量预测的精度。本实验纳入了201例鼻咽癌患者,其中有40例来自另一医院,将作为外部测试集使用,这些患者的数据中均包含计划CT、感兴趣区域的掩膜和临床计划。实验中将内部数据集划分为训练集、验证集和测试集,分别包含130、11和20例患者,对比了有无距离变换模块时的剂量预测性能。结果:对于靶区勾画任务,首先通过MRI序列筛选确定了T2图像能够辅助CT图像中的肿瘤分割。随后在CT和T2图像中分割肿瘤,基于配准的多模态图像的肿瘤分割结果的Dice相似系数(Dice similarity coefficient,DSC)、95%豪斯多夫距离(95%Hausdorff Distance,HD95)和平均对称表面距离(Average Symmetry Surface Distance,ASSD)分别为0.7181、9.6637mm和2.8014mm,基于图像生成的多模态图像的肿瘤分割结果的DSC、HD95和ASSD分别为0.7062、9.7620mm和2.8882mm,整体上均优于单一CT图像的肿瘤分割结果(0.7020、10.0757mm和3.0472mm)。对于剂量预测任务,我们分别对预测的剂量分布和逆向计划结果进行评估。我们所提出的模型预测的剂量分布的剂量误差和剂量-体积直方图(dose-volume histogram,DVH)误差分别比基于Mask的方法低7.51%和11.6%。我们提出的模型得到的逆向计划在鼻咽癌肿瘤区(nasopharynx gross tumor volume,GTVnx)和危及器官上的性能表现与基于Mask的方法相近,在淋巴(lymph node gross tumor volume,GTVnd)和临床靶区(clinical target volume,CTV)上表现更佳,通过率分别从89.490%和90.016%提高到了96.694%和91.189%。结论:上述的靶区勾画及剂量预测模型均通过了实验的验证,表现出了良好的性能,为人工智能技术辅助放射治疗计划制定带来新的研究方向,也为自动高效的放射治疗计划制定和实施带来了新的可能性。

摘要： 2020年，陕西省启动“城乡教师学习共同体——名师引领行动”，组织省级骨干教师与县域中小学教师结成学习共同体，发挥教学名师的示范引领作用，对一线教师进行实实在在的帮扶，也让骨干教师在帮扶中得到成长。经过一年多的探索，基本建立了共同体的运作机制和工作方式，逐步探索出教师专业成长的有效模式。

关键词： 红外热成像   复合材料   无损检测   缺陷检测   深度学习  

摘要： 复合材料的制造工序繁琐、过程复杂,易产生缺陷,且多服役于飞机尾翼、火箭壳体等重要部件,若出现缺陷将造成重大安全隐患。因此,如何对复合材料进行准确的缺陷检测与质量评估是其制备和服役过程中的重要课题。红外热成像技术已广泛应用于缺陷检测领域,但由于复合材料的原始热图像序列中背景、噪声等因素的干扰,缺陷特征辨识度不高。因此,研究准确性高、适用范围广的热图像缺陷检测算法,以增强缺陷对比度,实现对缺陷的智能提取,具有重要的现实意义。本文将多维度深度学习引入红外热成像无损检测领域,分别研究时间、空间、时空融合三种数据维度下的深度学习方法在红外热成像检测中的可行性。论文主要完成的工作如下:首先,从红外热成像技术的理论基础出发,对脉冲激励下被测试件的表面温度场分布做出了理论推导;并对带有平底孔缺陷的复合材料试件和复合材料基底涂层脱粘缺陷试件,进行联动扫描激光热成像实验,和脉冲激励COMSOL有限元仿真,以获取红外热成像检测原始数据。其次,通过分析原始数据的热时间特征和热空间特征,利用Label Me和MATLAB分别对实验和仿真样本数据进行标定,建立一维温度-时间序列数据集、二维热图像分割数据集、三维热视频分割数据集,并对热图像和热视频数据集进行数据增广,以增加数据量。再次,针对三种数据维度及对应的缺陷特征,设计和修改神经网络结构。针对试件表面温度与时间和缺陷埋藏深度的非线性关系,建立了1D-CNN缺陷检测模型,用于温度-时间序列数据的特征提取与回归;针对热图像中温度场分布异常,结合空间注意力门机制建立了AG-UNet模型,用于热图像空间特征的提取;为同时提取热时间和热空间特征,采用三维卷积,并增加时间轴卷积模块,获得3D-UNet模型,用于热视频缺陷分割。最后,训练三种模型并对实验数据进行缺陷检测,以径深比和缺陷检出率为定量评估指标,与主成分分析、热成像信号重建、傅里叶变换等传统方法检测结果对比,实验证明本文方法缺陷检出率更高,且可检测到径深比更小的缺陷。而且1D-CNN不受缺陷空间特征影响,能够实现任意形状缺陷的检测。

关键词： 知识图谱   知识表示学习   知识图谱补全   激活机制   联合表示学习方法  

摘要： 在大数据时代,知识图谱成为表示和组织海量知识的一种重要形式。其中,知识图谱的新探索领域是分布式知识表示学习,它主要研究在低维空间中如何表示知识图谱的关系与实体,同时捕捉其语义信息。但是,实体稀疏性常见于知识图谱,导致现有的分布式知识表示学习方法难以正确地学习到稀疏实体的向量表示,从而影响知识图谱的应用效果,为此,本文开展了以下工作:(1)提出一种捕获稀疏实体特征的激活机制,用于优化知识表示学习模型。该激活机制通过激活向量获取某个关系和实体之间的相互作用特征,然后激活稀疏实体在某个关系下的对应特征维度,帮助模型捕获稀疏实体特征维度的相互作用。通过实验表明,该激活机制可有效地提取出稀疏实体的特征,提升模型对稀疏实体的链接预测精确度。此外,为进一步提升稀疏实体嵌入效果,提出了一种自适应的负样本生成方法,减少训练过程中生成假负例三元组的概率,提升模型在三元组分类任务上的准确率。(2)提出一种基于关系层次结构信息和三元组结构的联合表示学习方法,通过引入关系层次结构信息缓解实体稀疏性的影响。从现有的知识表示学习研究来看,基于三元组信息的实体嵌入,对外部信息的利用还不足,导致在稀疏知识图谱的场景下,可能无法建模准确的语义关系。本文提出了一个运用关系层次结构信息的知识表示方法,分别对关系层次结构信息和三元组结构的进行表示学习,并且合并为一个联合表示学习框架,使得它可以共同加强稀疏实体的语义表示效果。(3)基于上述知识表示学习研究成果,提出一种结合激活机制和关系层次结构的联合表示学习模型(ACTrans H-RHS),以新冠知识图谱为应用场景,执行知识图谱补全任务。实验结果表明,ACTrans H-RHS在新冠知识图谱的关系预测任务上和当前先进的模型相比具有一定的竞争力。

关键词： 众包学习   弱监督学习   主动学习   真值推断   深度学习   多标签分类  

摘要： 众包模式的发展使得数据挖掘与机器学习领域的研究者们能够通过众包平台快速、低成本地获取大量有标注数据,代替传统价格昂贵且获取周期长的专家标注数据模式,用于构建有监督的学习模型,这有利于学习模型的快速迭代更新而不受标签数据收集困难的影响。然而,与高质量的专家标注不同,非专业的众包工作者提供的标注质量无法保证,这对众包学习在人工智能领域的应用提出了极大的挑战。如何高效准确地从众包噪声标签中进行真值推断获得高质量的集成标签以及后续利用噪声数据训练高质量的分类模型成为了机器学习范式中热门的研究领域与应用方向。本文将众包学习与深度学习、主动学习等技术方法相结合,旨在对众包噪声标签的有效利用进行深入的研究和探索,主要工作及创新点如下: (1)考虑标注者主观性感知的真值推断算法。为了解决众包模式下由于标注者专业知识的限制而导致的主观性偏置问题,以及恶意标注者的普遍存在影响真值推断结果的问题,提出了一种基于期望最大化算法(EM)的真值推断算法。该算法使用标注者主观性和可靠度,以及标注样本的困难度作为参数建立概率模型,并通过EM算法迭代估计隐变量,即样本的真值(ground truth),同时计算和更新参数的值;并且,在算法迭代过程中,该算法动态地利用计算得到的标注者参数来识别标注者是否有恶意,并对恶意标注者给出的数据进行处理(如标签纠正或舍弃),以减少此类标注者对算法性能的影响。最后,实验通过在不同数据集上与其他经典算法进行比较,验证了算法有效性,尤其在专业性要求较高的数据集中表现出更好的性能。 (2)基于深度学习的标签预测算法。为了解决传统的二阶段众包模型中在真值推断阶段信息损失的问题,提出了一种端到端的深度神经网络模型。该模型采用一种特殊的神经网络结构“众包层”对标注者的标注行为进行建模,用于学习标注者的可靠性和偏置信息。该模型能够直接利用众包噪声标签作为期望输出对神经网络进行端到端的训练,不需要提前进行真值推断。在模型训练完成后即可作为分类器完成分类及预测任务。此外,本文将该算法应用于异构数据信息检索系统的相关性评估任务中,针对异构数据构建了一种基于特征融合的深度神经网络结构,通过两种不同的神经网络结构对异构数据分别进行特征提取,同时引入相似性因子,对异构数据特征进行有效融合,再利用融合特征训练神经网络模型。实验表明了本工作提出的深度神经网络具有较高的真值推断准确性,分类性能也优于其他分类算法。 (3)基于主动学习的多标签众包学习算法。针对目前机器学习中多标签学习标注成本高、分类精度低的问题,本文提出了一种基于主动学习的多标签众包学习算法。本文训练一组分类器对多标签数据进行分类预测,并利用分类器参数与标注者可靠度构建概率模型,使用EM算法对样本真值进行估计,并计算模型参数。考虑多标签之间潜在的关联关系对学习模型的帮助,算法引入了样本相似度信息,对样本的多标签关联性进行编码并为每个样本生成一个强化特征,用于提升分类器性能。同时,本文提出了一组新的主动学习策略,在算法迭代过程中动态的选择最有价值的样本和标签,并针对所选样本和标签选择最可靠的标注者进行标注,合理分配众包资源,减少标注成本。实验表明本工作提出的主动学习算法能够在标签较少的情况下快速收敛,并且分类性能优于其他多标签学习算法。

关键词： 有意义学习   社会建构理论   教师观察与支持能力   播棋游戏  

摘要： 学前教育是终身学习的开端,幼儿的高质量学习经历对后继发展产生深远影响。幼儿的学习以游戏为基本形式,教师是支持幼儿在游戏中有意义学习与发展的重要他人,教师能否正确理解幼儿在游戏中的学习,有效发挥支持者角色对保证学前教育高质量发展至关重要。然而实践中,教师在观察与支持幼儿游戏中的有意义学习上仍存在困境,主要表现为对新时代幼儿学习的理解与时代要求脱节,对游戏中幼儿学习的观察与解读不足,难以把握游戏、幼儿与教师三者关系,支持者角色难以有效发挥,且数学领域尤其突出。有意义学习理论的研究在时代背景下取得突破性进展,将社会建构的视角应用于理解和支持学习者的学习,强调学习的情境性、互动性,关注教师支架的有效提供,并将视线聚焦于学习的过程,关注过程中使学习者受益终身的品质与能力的培养,呼应了终身学习的时代号召,与当前人才培养诉求相一致。因此,有意义学习理论对教师在时代背景下反思幼儿的学习,正确把握游戏、幼儿与教师三者关系、有效发挥教师主体性和支持者角色具有理论指导价值。综上所述,本研究以社会建构理论和游戏化学习理论为基础,以有意义学习理论为指导,聚焦幼儿数学游戏区角,以播棋游戏为实践载体。选取1位一线幼儿教师为研究对象,12位大班幼儿为观察对象,采用质的研究方法并结合研究共同体形式,推动教师在真实游戏情境中对幼儿的学习展开观察、解读与支持,呈现教师理解与支持幼儿有意义学习的发展变化过程。整个研究共分为以下三个阶段:一、研究前期,探索教师在游戏中支持幼儿有意义学习的现状,并结合访谈了解教师的实践困境与能力提升需求;二、研究中期,借助播棋游戏中有意义学习的理论框架,在研究共同体对话的推动下,探索教师在播棋游戏中观察与解读有意义学习的发展变化,并对理论框架进行修正与完善;三、研究后期,在真实游戏情境中了解教师支持幼儿有意义学习的成效。通过对研究中教师专业能力发展过程的真实呈现,本研究结论如下:1、有意义学习理论对教师在时代背景下反思幼儿学习具有重要价值;2、对游戏中幼儿的学习展开观察与解读是教师支持有意义学习的前提;3、把握好游戏、幼儿与教师三者关系是教师有效发挥支持者角色的关键;4、善用游戏材料与同伴关系是教师支持幼儿有意义学习的有效途径;5、对话与反思是推动教师专业能力持续发展的源泉。

关键词： 增益模型   机器学习   倾向得分匹配   PMM模型  

摘要： 随着移动互联网和人工智能技术的发展,智能化营销正在渗透各行各业。如何评估和衡量营销活动对公司带来的增益提升,而不是把营销预算浪费在本来就会转化的用户上,成为了目前智能营销算法最重要的挑战之一。增益模型是对用户施加某种干预策略引起的增量效果进行建模评估的一系列模型,为了克服反事实结果无法被观测和随机对照实验难以在现实中实施的困难,利用机器学习方法来处理混淆因素影响,生成近似无偏差的样本空间,已成为目前的研究热点。 基于此,本文尝试利用机器学习方法构建增益模型的仿真数据集,并根据生成的数据对四种增益模型进行数值实验,针对实际的项目数据,提出了结合倾向得分匹配和元学习器技术的PMM增益模型。 首先,为了模拟真实的增益数据,给出了四种不同类型的仿真数据集构成,并提供了相应的带参函数。接下来对不同的增益模型进行数值实验,在基于Lasso的回归算法中,R-Learner模型始终能保持良好的增益值评估精度,尤其在复杂的数据集上,其均方误差值是最低的。同时在噪声的鲁棒性实验中,R-Learner模型会在噪声逐渐增大的过程中出现明显的拐点。因此对于较低的噪声水平时,R-Learner能够匹配更准确的增益值评估效果。 其次,在传统的增益模型基础上,本文提出了结合倾向得分匹配和元学习器技术的PMM模型。该模型通过机器学习的技术增加有效样本的数量,利用样本匹配模型提高干预组和对照组的样本平衡性,并且基于元学习器的交叉验证框架有效提高了增益模型的评估精准性和稳健性。 最后,本文利用国内某头部电商的金融APP转化新用户项目数据进行实验,对PMM模型进行实证分析。利用本文提出的PMM模型评估在商城的支付完页曝光营销补贴的文字链对用户是否转化为金融新用户的增益效应,根据模型的评估结果,分析并推理出了该项目的营销补贴对新用户的增益是有效的结论,并且通过敏感度分析验证了 PMM模型具有良好的平衡性和稳健性。

关键词： 图像处理   半色调图像   逆半色调方法   多阶段多分辨率深度网络   多尺度生成对抗网络   融合Transformer阶段式网络  

摘要： 半色调技术是指将连续调图像转换为二值图像但视觉上近似连续调图像的技术,其广泛应用于印刷、出版、纺织、电子显示等领域。对于这些大量存在的半色调图像,若要再次利用,一般需要先将其转换为连续调图像。逆半色调技术就是将半色调图像转换为连续调图像的一项特殊的数字图像恢复技术,其在图像处理、图像印刷再现及机器视觉等任务中具有重要的学术研究意义及实际应用价值。由于半色调过程中不可避免的存在着图像信息损失,逆半色调是一个病态的问题。同时,半色调噪点去除与细节恢复互为矛盾,不同类型半色调图像存在着网点形状及分布的不一致性,扫描半色调图像无成对图像监督信息。这些挑战性的问题,成为逆半色调技术中需要攻克的技术难点。本文针对这些问题,研究基于深度学习的逆半色调技术。本文的主要工作和贡献包括:1)构建了逆半色调研究用的图像数据集为了推动逆半色调方法的研究,构建了一个公开的半色调图像数据集,该数据集包括多类型数字半色调图像数据集MDHD和扫描半色调图像数据集SHD。MDHD包含了连续调图像和相应4种半色调图像,共23445幅图像,分为训练数据集(2375张)、验证数据集(500张)和测试数据集(20570张)。SHD包含8000幅扫描半色调图像,分为训练数据集(6400张)、验证数据集(800张)和测试数据集(800张)。MDHD和SHD中包含了人物、植物、动物和建筑等生活中常见的图像,目标种类多。MDHD和SHD的创建为本文多类型半色调图像的恢复提供了保障,也为其他研究人员进行相关研究奠定了坚实的基础。2)提出一种基于多阶段多分辨率增强的单类数字半色调图像复原方法现有方法在去除半色调噪点时存在图像细节恢复不够清晰、复原图像颜色有一定差异的问题。针对这些问题,基于不同子网络侧重恢复不同图像信息的思想,本文提出了一种多阶段多分辨率单类数字半色调图像复原网络(MM-Net)。首先,利用多分辨率卷积神经网络实现噪点的去除;然后,结合稠密残差块和细节损失函数实现细节增强;最后利用图像高级语义信息实现包括色彩恢复的全局调整。在三个公开数据集上采用峰值信噪比、结构相似度和色差三个指标进行方法评价。实验结果表明,相比于已有逆半色调方法,所提出的MM-Net,无论是在客观指标还是主观可视化效果方面,都取得了最好的结果:在结构相似度方面提高了 0.02-0.11,在峰值信噪比方面提高了 1.61-6.8dB,在色差方面减少了 0.48-2.73。3)提出一种实现多类型数字半色调图像高质量恢复的网络模型目前的逆半色调方法大多都是针对单一类型的数字半色调图像进行复原的,尚不能兼顾不同类型数字半色调图像的噪点去除和细节恢复。为了解决这个问题,研究中提出了一种基于多尺度生成对抗网络的逆半色调方法(MS-GAN)。首先,提出通过多尺度特征提取模块来丰富当前像素点与周围邻域的关系。其中,通道注意力机制自适应地对融合后的特征权重进行重新分配,从而有选择性地关注更为重要的信息。然后,应用细节增强网络增强生成图像细节。最后,采取多尺度鉴别器进一步优化逆半色调图像,增强逆半色调图像的视觉感知效果。实验结果表明,针对Bayer有序抖动法(BDD)生成的半色调图像,本方法恢复得到的逆半色调图像峰值信噪比值提高了 0.25-0.61dB,结构相似度提高了 0-0.03;针对Knuth点分散法(KDD)生成的半色调图像,采用本方法恢复得到的逆半色调图像峰值信噪比提高了 1.14-1.28dB,结构相似度提高了 0.03-0.04;针对迭代法(DBS)生成的半色调图像,采用本方法恢复得到的逆半色调图像峰值信噪比提高了 0.45-0.72dB,结构相似度提高了 0-0.01;只有在处理Floyd-Steinberg误差扩散法(FSDD)生成的半色调图像时,效果稍逊于MM-Net。4)提出一种融合Transformer的扫描半色调图像阶段式逆半色调复原方法针对扫描半色调图像受纸张、油墨影响,退化情况复杂且不存在对应标签图像问题,为了得到高质量的扫描逆半色调图像,基于问题简化的思想,提出基于融合Transformer的阶段式逆半色调方法(ST-Net)。首先,通过无监督退化网络实现连续调图像向扫描半色调图像的转化,生成类扫描半色调图像。然后,通过应用成对数据集训练融合Transformer逆半色调网络模型生成扫描逆半色调图像。实验结果表明,与现有扫描逆半色调方法相比,由融合Transformer的阶段式逆半色调方法得到的扫描逆半色调图像在主观效果和客观指标上都取得了较好的结果:在MOR(Mean Opinion Rank)方面降低了0.67-2.28,在清晰度方面提高了 1.97-11.74,在 FID(Fréchet Inception Distance)方面减少了 1.80-10.96。

关键词： 联邦学习   图像分类   基础层   个性层   深度互学习  

摘要： 联邦学习是在不共享客户端数据前提下,通过所有客户端与服务器之间的多次交互建立联邦模型的机器学习方法。由于联邦学习支持客户端在不交换原始数据的条件下联合训练模型,因此成为图像分类领域的研究热点。本文主要针对现有集中式联邦学习存在的问题展开研究,主要研究内容如下: 1、针对集中式联邦学习所存在的客户端模型精度低和通信成本高的问题,提出基于模型参数异步更新的个性化联邦学习方法。引入距离度量函数,建立共性个性特征的描述方式,实现基础层与个性层参数的有效划分。设置基础层和个性层参数的异步传输机制,减少客户端与服务器的参数传输量,降低通信成本。基于模型参数异步传输机制,在客户端构造个性化联邦学习模型,提高客户端本地模型精度。通过在MNIST图像数据集上仿真实验验证表明,与现有方法对比该方法的个性化模型精度最高可提高20.7%,并且通信成本最高降低28%。 2、针对集中式联邦学习中难以有效处理客户端之间的多速率异步传输和数据分布差异性的问题,提出一种基于移动式服务器的联邦学习方法。引入模型知识迁移思想,建立服务器与客户端模型之间的移动融合机制,实现全局模型的移动异步更新,提高全局模型性能。基于移动式服务器框架构建个性化联邦学习机制,解决数据分布差异大时客户端本地模型分类性能较低的问题。通过在MNIST、Fashion-MNIST、CIFAR-10三种图像数据集上仿真验证表明,与现有方法对比,该方法的全局模型分类精度及所需通信轮数均优于基线方法。 3、针对集中式联邦学习过于依赖一个既可靠又强大的中央服务器且存在服务器故障导致整个网络瘫痪的问题,提出一种无需中央服务器的分散式联邦学习方法。引入度量函数,建立客户端的动态划分机制,采用对比客户端之间模型参数距离的方式,实现客户端的动态划分。构建客户端模型更新机制,通过深度互学习(Deep Mutual Learning,DML)更新其模型参数,提高模型精度。最后通过在3种数据集的独立同分布(Independent and Identically Distributed,IID)和非独立同分布(Non Independent and Identically Distributed,Non-IID)的实验表明,该方法能够显著提高精度和稳定性,并具有可扩展性和灵活性。