关键词： 机器学习   模仿学习   哈希   重要性加权   最近邻集成  

摘要： 模仿学习研究智能体如何通过对给定专家示范进行模仿以学得专家策略的学习问题,近年来受到越来越多的关注。现有的模仿学习方法难以解决专家示范的状态高维、状态空间与智能体所处的环境异质、以及可能出现新动作示例的问题。本文针对这些问题开展研究,主要取得了以下创新成果:1.提出了针对高维输入的模仿学习方法Hash Reward,通过使用有监督的哈希技术对高维输入进行降维,使得奖赏函数达到“奖赏”-“判别”的平衡,从而有效激励策略学习,理论分析指出该方法能达到该平衡所需的条件,实验结果验证了所提方法的有效性。2.提出了针对专家示范的状态空间与学习环境异质的模仿学习方法IWRE,通过使用重要性加权和拒绝学习技术来处理学习过程中分布和支撑集不匹配的问题,以对奖赏函数的学习进行修正,实验验证了所提方法的有效性。3.提出了针对专家示范可能出现新的动作示例的模仿学习方法SENNE,通过使用最近邻集成的技术,从监督学习的角度来处理不同难度下的该学习问题,实验验证了所提方法的有效性。

关键词： 深度学习   类别增量学习   图像分类   语义分割   正则化  

摘要： 随着人工智能技术的发展,在许多任务中,以神经网络为代表的机器学习模型已经表现出接近甚至超越人类水平的性能。但是,此模型通常是无法扩展其“功能”的静态模型。每当有新数据出现需要进行训练时,模型就需要使用全部数据重新开始训练。在现实世界中,这种做法在部分应用场景中会变得非常棘手。由于存储限制或隐私问题,很多数据可能会在给定时间后就会消失,甚至根本无法存储,这使得神经网络能够随着时间的推移进行适应和更新至关重要。单独使用新数据训练原本模型会造成模型对旧知识的“灾难性遗忘”,增量学习技术旨在缓解模型持续学习过程中的“灾难性遗忘”。结合现有增量学习方法中的正则化方法,我们分别提出了适用于神经网络图像分类和语义分割的类别增量学习方法,具体研究内容如下:首先,本文对图像分类的神经网络模型进行数学建模,借用递归最小二乘法的思想来近似神经网络的训练过程。本文提出特征空间约束算法,改变特征空间中参数更新方向,使得新数据训练时尽可能少地影响旧知识。该算法将增量训练中发生的计算分为任务间训练和任务内训练,任务间训练会借助矩阵迭代记录输入数据变化,任务内训练时可以使用先前任务间训练产生的矩阵得到投影矩阵,借助投影矩阵来改变新数据学习过程中的梯度方向。此外,针对类别增量学习中出现的新旧类别数量不平衡问题,本文提出自适应损失权重,用来平衡学习新数据所产生的梯度和保护旧知识的知识蒸馏梯度之间的比值。实验结果表明,在不使用旧数据的前提下,该方法优于部分现有的类别增量学习方法。其次,本文总结了图像分类的类别增量学习方法不适用于类别增量的语义分割任务的原因:一是语义分割中存在背景类别,二是两者网络架构不同。因此可以使用改进后的知识蒸馏损失函数计算损失,并使用背景参数初始化新类别参数,利用背景类别帮助学习新类别。该算法在新数据训练阶段使用特征参数约束算法约束语义分割网络解码器部分参数的更新,使用特征图蒸馏算法保护编码器部分特征。实验结果表明,该方法可以有效缓解类别增量语义分割任务中的“灾难性遗忘”现象。综上所述,本文所提出的适用于图像分类和语义分割的类别增量学习算法可以有效缓解模型持续学习过程中出现的“灾难性遗忘”现象,并且本文方法都不需要在新数据训练过程中使用旧数据。

摘要： 目的评估利用深度学习(DL)来降低脑MRI钆对比剂(GBCA)剂量的临床效能,并进一步明确该方法的便捷性和局限性。方法连续纳入2019年3—8月间83例接受头

关键词： 医学图像配准   深度学习正则化   一致性形变配准   形变场先验模型   脑图谱演变分析   新冠肺炎感染   肺结节良恶性  

摘要： 医学图像配准是一个复杂的具有不适定性的科学问题。如何设计和实现高精度、高效率的配准算法是目前临床医学影像辅助诊疗中亟待解决的难题。现代医学成像技术的发展使得图像更加复杂和多样化,传统的图像配准算法在配准的准确度、效率、普适性和鲁棒性等方面表现出一定的局限性。最近的研究发现,深度学习方法可以通过大样本训练学习,建立高效、准确的医学图像配准模型。本文针对现有医学图像配准难点,系统深入地研究了深度学习配准方法。提出了端到端无监督学习的仿射和弹性级联配准网络结构。在弹性配准算法上,提出了形变场一致性和形变场先验分布等正则化方法。结合临床需求,已将提出的深度学习配准算法成功应用到纵向脑图谱构建和分析、新冠肺炎感染区域分布及其纵向演变规律、肺结节分布等多模态影像分析中,取得了满意的效果。主要研究成果如下:1.无监督深度学习仿射和弹性级联配准网络:在对实时性要求较高的影像导航或影像辅助介入的应用中,一般需要先进行全局仿射配准,再进行局部弹性配准。目前配准算法需迭代优化,配准过程时间长,不能满足临床实时性要求。本文提出了一种两阶段无监督深度学习仿射和弹性级联配准深度网络:第一阶段的深度网络用来学习输出图像级的全局仿射变换参数。第二阶段网络学习输出体素级的局部形变场,其输入为固定图像和第一阶段输出的仿射变换后浮动图像。两阶段配准网络分别通过最大化输入图像的全局和局部归一化相关系数进行无监督的端到端联合训练,无需医生勾画解剖学轮廓和形变场金标准。脑部MRI配准实验表明,训练好的两阶段配准网络可直接同时进行图像仿射和形变配准,无需迭代,配准耗时小于1秒。该方法在LPBA40,IBSR18,CUMC12和MGH10四个数据集中的准确度Dice分别达到0.71±0.10,0.65±0.23,0.47±0.21和0.44±0.19。2.无监督深度学习对称循环一致性配准网络:在临床肿瘤自适应放疗中,需要通过图像配准技术将治疗时图像和治疗前的计划CT进行配准,并通过形变场对放疗靶区和剂量分布进行演化和评估。该过程要求形变场是可逆、光滑、双向一致的,可通过微分同胚形变配准实现,但计算量大、耗时长。本文提出了无监督深度学习对称循环一致性配准网络,即双向形变一致性和循环形变一致性正则方法。除图像强度相似性和形变场拓扑一致性正则项外,在训练损失函数中增加图像对间的形变逆一致性正则项和图像组间的形变循环一致性正则项。首先,通过双向配准引入待配准图像对的逆一致性;然后,将一致性推广到2幅以上的图像组,使得成对一致性和组内一致性都可以很好地应用到该配准网络中。所提出的分阶段优化训练策略在不引入任何额外网络参数和计算复杂度的情况下,得到了鲁棒的配准结果,在改变待配准图像顺序后也能产生一致的形变结果。与目前最先进的传统配准算法相比,该方法达到了相似的精度,并在精度和形变一致性方面都优于没有一致性约束的深度学习网络,保证了非线性配准中形变场的可逆性、光滑性和拓扑正确性。在LPBA40,IBSR18,CUMC12和MGH10四个数据集中准确性Dice分别达到0.70±0.05,0.47±0.10,0.48±0.09和0.51±0.11,一致性Dice大于0.97,一致性距离均值为0.25mm。形变场折叠数量和千分比达到1204/0.17‰。3.基于形变场先验投影图像的多级配准框架:对不同个体的图像或者同一个体存在较大的呼吸运动的图像配准研究发现,解剖形态差距较大的图像进行配准较为困难,如肺部4D-CT图像的吸气和呼气时刻的两幅图像的配准。在图谱的构建过程中,对具有不同形态差别的图像进行配准需要鲁棒的配准算法,然而传统算法需要进行调参,对不同应用场景和图像进行迭代优化计算,大部分深度学习的算法需要进行超参数的设置,网络不具有通用性,不能使用同一个网络处理形态差距不同的图像。本文提出了基于形变场先验投影图像的多级配准框架,通过高维形变场统计分布先验模型生成先验图像来增强弹性配准的鲁棒性和精度。首先通过高维形变场分析估计形变场的先验分布,然后利用该先验分布分别生成与两个输入图像相似的中间先验图像,使得任意两个图像的配准能够以两个中间图像为桥梁,将输入图像对的配准转换成采用可逆一致的深度配准网络分别配准对应的中间生成图像和输入图像。由于中间图像在形状上和对应输入图像更为相似,该方法可以达到较高的准确性和较好的一致性,尤其是在形状外观差别较大的输入图像之间,能够产生平滑一致的形变场。实验结果表明,该方法的准确性Dice为0.74±0.05,一致性Dice为0.94±0.02,一致性距离为0.21±0.01mm,形变场折叠度为0.15‰。4.基于形变场先验知识的混合监督配准网络:为了将形变场的统计先验约束融合到配准网络的训练中,本文提出了基于形变场先验知识的混合监督配准网络。该方法同样适用于

关键词： 多视角高维数据   子空间学习   维度约简   信息融合   通用性学习框架  

摘要： 在大数据时代,人们所获得的数据正在以指数的规模快速增长。从不同视角下收集到的大量不确定性数据和模糊数据体现出了多模态、高维度的特征,这类数据频繁地出现在人们生产、生活中的各个角落。面对海量的多视角高维数据,如何高效快速地对多视角高维数据进行有效地分析、处理是机器学习、数据挖掘等领域的研究热点。尽管近年来相应算法的提出可以为其提供解决方案,但仍然不能满足工业、农业、生产生活等领域中日益增长的需求。本文主要针对多视角场景下的高维数据分析问题进行展开,利用子空间学习方法、信息融合方法、多视角学习方法等诸多技术手段对该课题的各个方面进行研究。本文主要对多视角高维数据场景下的维数约简(Dimension Reduction,DR)、信息融合(Information Fusion,IF)、通用性学习框架(General Learning Framework,GLF)等问题进行研究。首先,本文提出了多视角维数约简算法对高维数据进行降维,以提高多视角高维数据分析任务的效率;然后,本文针对多视角高维数据的信息融合问题提出了一个多视角非负矩阵分解方法,以提高不同视角间信息融合的性能;最后,本文针对如何构建通用性多视角子空间学习框架问题提出了两个通用性学习框架,将大多数单视角子空间学习方法扩展到多视角学习场景中。因此,本文针对多视角高维数据场景下的子空间学习方法进行了广泛的研究,并取得了下述成果:(1)面对高维数据的维数约简问题,基于低秩表示的子空间学习方法被广泛地应用,然而这类方法通常忽略了样本空间的局部拓扑结构,同时不能被直接用来解决多视角问题。针对目前低秩子空间学习算法存在的问题,本文在充分利用低秩子空间学习算法优势的基础上,将样本空间中的局部结构化信息引入到构建样本间低秩关系矩阵的过程中,提出了两个基于局部低秩结构的多视角维度约简算法——多视角局部低秩嵌入和多视角低秩保持嵌入。前者采用样本间的局部低秩关系构造合适的流形结构,并提出一个基于中心视角的方案以充分挖掘视角间的互补性和兼容性信息;后者提供了三种不同的嵌入方式来保持每个视角下的低秩重构结构,并将所有视角信息集成到一个公共的低维子空间中,最小化其与每个视角之间的不一致性程度。(2)不同于单视角信息,不同视角之间的信息不仅相互独立而且彼此互补,因此如何恰当地融合不同视角的信息依然是一个难题。针对多视角数据的信息融合问题,本文提出了图一致性非负矩阵分解方法以实现不同视角之间的信息融合,充分考虑了各视角内的潜在结构信息与视角间的互补信息。该算法通过非负矩阵分解技术发掘各个视角下的潜在结构信息,同时利用视角间和视角内的图结构信息保持彼此之间的一致性。因此,本文旨在通过新的多视角信息融合算法对各个视角下的高维特征实现恰当的信息融合,以提高多视角高维数据处理的性能。(3)子空间学习方法近年来被广泛地应用在高维数据处理领域中,但是这些方法通常无法直接被应用到多视角场景下,同时子空间学习方法间的模型原理、假设偏置差异很大。针对如何构造通用的多视角子空间学习框架问题,本文提出了两个通用性多视角子空间学习框架——相似度一致性正则化多视角学习和图结构一致性多视角学习,旨在将现有的大部分子空间学习方法直接扩展到多视角学习领域,同时还能充分地挖掘多视角高维特征的丰富信息。前者提出了基于样本间相似度一致性的正则项来挖掘视角间的互补性信息,并提出两个分别基于成对视角和中心视角的策略将单视角子空间学习算法(包括流形学习,线性子空间学习及其核函数的变种)拓展到多视角场景中;后者提出了基于异构图的图结构一致项以发掘不同视角间的补充信息和探索多个视角之间的相关性,并在多视角学习过程中保持了各视角中的图结构信息以发掘多视角特征中的多样性信息。综上所述,本文针对多视角场景下高维数据处理过程中的一系列问题进行研究,并详细介绍了相关研究成果及创新点,希望借助本文提出的研究成果能够为多视角高维数据分析领域开拓新的解决思路。

关键词： 深度学习   小学数学   方法探究  

摘要： 随着教育改革的推进和人们教育观点的转变,传统的数学教学方法已无法满足社会对人才提出的多种要求,教师必须对人才培养模式进行探索与创新,从而培养一批具有综合素质的专业人才。其中深度学习是在数学教学中具有广泛应用性的教学方法之一,通过创设教学情境、借助数形结合、重视说理应用等方法加强学生对数学知识的深层理解,形成学生自身的学习方式,提高学生的数学综合能力。文章从多个角度分析了小学数学在小学阶段人才培养中的教学效果,并结合小学阶段学生的实际学习情况与数学教学要求提出具有针对性的深度学习教学方法,以期提高小学阶段数学的教学水平,推动学生数学核心素养的增强。

关键词： 初中语文   学习方法   预习   复习  

摘要： 最有价值的知识是关于方法的知识,好的学习方法能使学习收到事半功倍的效果。《义务教育语文课程标准》明确指出,学生要初步掌握学习语文的方法。由此可见,掌握语文学习方法是极其重要的。基于此,文章主要就初中语文预习和复习的有效方法进行探讨,旨在引导学生通过高效的预习和复习方法提升学习效率,增强学习效果。

关键词： 卵巢癌   计算机辅助诊断   机器学习   卷积神经网络   核磁共振成像  

摘要： 卵巢癌(Ovarian Cancer)是女性生殖系统常见恶性肿瘤,其致死率居妇科恶性肿瘤首位。其中,上皮性卵巢癌(Epithelial Ovarian Cancer,EOC)为主要类型(占比>90%)。术前准确评估EOC状态,可帮助患者实施个性化精准治疗,提高其生存率。相比于超声和CT等常用成像技术,核磁共振成像(Magnetic Resonance Imaging,MRI)在EOC分期及复发转移评估等方面具有明显优势,是EOC首选的影像学术前诊断方法。然而,EOC影像表现异常复杂,基于肉眼的临床诊断主观性高,极易误诊。机器学习方法可借助大量样本挖掘图像中的深层次特征,构建模型提高诊断的准确率,有效减少误诊和漏诊。本文利用机器学习方法,针对EOC分割、诊断中的一系列问题开展大规模多中心研究,主要工作如下:(1)针对EOC病灶人工标注工作量大、难度高的问题,提出一种用于EOC自动分割的多边输出全卷积神经网络。该网络使用多个边输出模块对提取到的不同层级特征进行解码,以生成包含不同尺度信息的边输出分割结果,最终将其融合并生成更为精细的最终分割结果。所提模型能够减少临床医生的工作量,提高病灶勾画的准确性和稳定性。(2)针对Ⅰ型和Ⅱ型EOC临床鉴别困难的问题,提出一种基于多模态MRI的影像组学-机器学习模型。从患者的多模态MRI(T2WIFS,DWI,ADC和CE-T1WI)数据中提取形状特征、小波特征等八类特征,并分别使用支持向量机、决策树和线性模型构建多模态的混合模型。此外,我们还使用遮挡测试对模型的重点关注区域进行识别,该方法有望用于辅助术中冰冻病理切片采样的定位。(3)提出一种用于EOC和BEOT鉴别的新型多示例卷积神经网络。所提模型能够借鉴临床医生的决策方式,自动感知不同模态对决策的重要程度,并基于其重要性实现多模态MRI特征融合。此外,该模型还将肿瘤分布的强先验知识作为决策的重要参考,在对示例进行预测时参考其邻近示例的预测值,从而实现更加精准的预测。

关键词： 数学本质   比   教学过程设计   实验  

摘要： 研究数学本质是数学教育工作者的一个重要课题。比是小学数学教材中重要的概念之一。史宁中认为目前教科书对其的表述,不仅大大削弱了比的现实功能,并且很难、甚至无法让学生感悟比的数学本质;提出比的定义“两个数量倍数关系的表达或者度量”。“比的意义”不同教学过程设计对不同学业水平学生的学习影响研究,一方面为实际教学提供一种基于史宁中先生观点的“比的意义”教学过程设计思路,一方面在一定程度上弥补了既有研究在“比的意义”不同教学过程设计应用研究方面的不足。主要研究问题有:（1）如何基于史宁中先生的观点,加强数学本质在数学课程中的渗透,设计“比的意义”教学过程?（2）基于教材定义的“比的意义”教学过程设计是否优于基于史宁中先生观点的教学过程设计?（3）基于史宁中先生观点的“比的意义”教学过程设计,是否能够提高不同层次学生的学习成绩?围绕研究问题,第一步采用文献分析法梳理已有研究、明晰研究方向与研究思路。第二步策划“比的意义”教学实验研究设计,为后续实验做准备。第三步采用实验法开展实验,三个班级分别采用三种“比的意义”教学过程设计开展教学（1班:基于教材定义的“比的意义”教学过程设计;2班:基于史宁中先生观点的“比的意义”教学过程设计（选取教材情境）;3班:基于史宁中先生观点的“比的意义”教学过程设计（创设生活情境））,并进行后测测试。第四步先采用统计分析法分析后测数据,判断“比的意义”不同教学过程设计对不同学业水平学生的学习影响;再采用访谈法辅助分析实验结果。利用SPSS 22.0软件分析实验数据,得到结论:（1）采用基于教材定义的“比的意义”教学过程设计进行教学的班级与采用基于史宁中先生观点的“比的意义”教学过程设计进行教学的班级后测数学学习成绩之间存在显著性差异,后者后测数学学习成绩高于前者,差异效应为中效应;（2）“比的意义”三种不同的教学过程设计对各班不同性别学生的学习成绩不具有显著性影响;（3）对于高分组学生和中间组学生,采用基于教材定义的“比的意义”教学过程设计进行教学的班级与采用基于史宁中先生观点的“比的意义”教学过程设计（创设生活情境）进行教学的班级后测数学学习成绩之间存在显著性差异,后者后测数学学习成绩高于前者,差异效应为大效应;对于低分组学生,数学学习成绩之间不存在显著性差异。基于研究结果和研究结论,提出以下教学建议:（1）深入理解数学本质,清晰建构知识体系;（2）改进教学过程设计,注重数学本质渗透;（3）立足学生日常生活,开发适用生活情境;（4）引导学生思用并重,培育学生数学眼光。

关键词： 联邦学习   机器学习   不平衡高敏感数据集   知识蒸馏  

摘要： 大数据时代来临,同一行业内、不同行业间的大数据都可以联合起来产生巨大价值,大数据及人工智能相关技术飞速发展并被大规模投入应用。在人工智能领域,传统的数据处理模式往往是集中式的,各方收集的数据将被集中至同一处进行预处理、清洗及建模。但随着大数据相关技术及人工智能的发展和应用,数据的安全性和隐私性越来越受到相关部门及企业的重视,各方政府也相继出台了相应法律法规,限制隐私数据的流通与共享,由此产生了“数据孤岛”的问题。针对这个问题,谷歌首次提出了联邦学习的概念。联邦学习是一种使得各数据拥有方在保障数据安全和数据隐私的前提下能进行协同训练的机器学习框架,可以保证不同的数据拥有方在不共享数据的情况下进行协同训练,共享数据价值但不共享数据。目前以Google的联邦平均算法(Federated Averaging)为代表的一类主流联邦学习算法是通过集中计算模型参数或梯度从而共享学习到的知识,但是这一类联邦学习算法存在以下问题:1、在各方数据类别存在显著不平衡情况下,算法性能下降严重;2、针对敏感性高的数据,直接进行模型参数的交互存在安全风险和隐私风险。针对以上问题,在数据集严重不平衡情况下,设计了两类联邦学习算法。在数据严重不平衡但对机器学习模型隐私性要求不高的情况下,针对传统联邦学习算法在数据类别不平衡时性能下降的问题,设计了参数共享的联邦学习算法,通过迭代传递子模型间参数的方式,大大提高了模型性能。并在公开数据集上对其效果进行了评估,结果表明此算法使得准确率和损失值都逼近相同数据集在集中式机器学习下进行训练的结果。针对模型敏感性更高的严重不平衡数据,由于参数共享的联邦学习算法中存在模型参数的直接交互,有一定泄露数据隐私的隐患,引入了知识蒸馏的思想,设计了针对高敏感的不均衡数据的预测信息共享联邦学习算法,进一步提高了数据隐私的安全性,杜绝了底层数据泄露的危险,且支持各数据拥有方模型异构。针对公共数据量不足的情况,本文还进一步通过自生成公共数据集的方式改进了针对高敏感的不均衡数据的预测信息共享联邦学习算法,大大提高了准确性,降低了损失值。