关键词： 学习观   学习态度   学习方法   学习启示  

摘要： 孔子是一位杰出的教育家、思想家,其代表作《论语》对后来学者的学习思想产生了深远的影响。《论语》一书中孔子及其弟子、门人为我们树立了最早的教育规范,他们在长期的实践中积累了丰富的学识,探索出一套完整的教学方法和学习理念。借由《论语》,可以对孔子的学习观进行整理论述,得到一套完整的教学方法和学习理念,获得实践性的指导意义。

摘要： 高中生物学概念内容繁多，同时还具有抽象性、概略性、系统性等特点，要想真正理解、掌握概念知识，构建完整的学科知识体系，应当在概念学习过程中避免简单、重复的机械性记忆，并结合教师讲解概念知识时所提供的思路，通过深入思考，对新知识进行整合、加工，将其与原有认知联系起来，达到批判理解与迁移应用相结合的深度学习状态。

关键词： 半监督学习   开放世界   新类发现   图像分类  

摘要： 半监督学习(Semi-supervised learning,SSL)被用于解决监督学习高人工标注成本的问题,研究如何同时利用有标记样本和无标记样本改进学习性能。近年,SSL方法可以有效地利用伪标签和一致性正则化提高性能,同时使用少量的有标记数据作为锚点纠正模型。但这建立在一个被称为封闭世界的假设下,在封闭世界中未标注数据具有相似的分布结构,这和大多数现实情况不符。在现实环境下数据会受到各种约束条件限制,例如数据稀缺、数据分布不均匀以及数据含有未见过类等。为解决上述问题,研究人员引入一个新概念开放世界SSL。在开放世界SSL中,目标是识别已知类的样本,同时检测和分类未标记数据中出现的新类样本。本文对现有的开放世界SSL技术进行了研究和分析,总结以下两点开放世界SSL当前面临的挑战,一是开放世界SSL难以兼顾已见过类和新类的识别准确率;二是开放世界SSL方法在复杂数据集的新类识别性能上表现较差。针对以上问题,本文的研究工作如下: (1)本文针对兼顾已见过类和新类的识别准确率问题提出了基于同源特征一致性的开放世界半监督学习模型(Homologous Feature Consistency,HFC)。HFC分为半监督模块和新类发现模块,在半监督模块中,HFC通过伪标签和一致性正则化实现半监督学习;在新类发现模块中,HFC结合标记数据和未标记数据的图像特征和语义标签,利用它们的成对相似性发现新类,使模型在获得新类知识的同时仍关注已见过类的知识。HFC使用半监督模块生成的不同增强版本的特征和语义标签作为新类发现模块的输入项,计算它们的一致性来优化模型,提高了网络的分类准确率。 (2)本文针对开放世界SSL在复杂数据集上新类识别能力较差的问题,提出了基于多尺度增强特征的开放世界半监督学习模型(Multi-Scale Enhanced Feature,MSEF)。不同于HFC的弱扰动增强方式,MSEF使用弱扰动、强扰动和特征扰动相结合的数据增强方式,其中弱扰动增强分支用于监督其他增强分支进行训。然而,更复杂的数据增强会使伪标签的可靠性变低,MSEF使用不确定性引导的温度系数缩放方法提高了伪标签的可靠性。MSEF的多尺度增强方式使模型能探索更广泛的扰动空间,增强网络对新类特征的泛化能力,进而提高了网络的分类准确率。 本文在6个数据集CIFAR-10、CIFAR-100、Tiny Image Net、Oxford-IIIT Pet、FGVC-Aircraft和Stanford-Cars上进行了充分的实验,比目前最优的开放世界SSL方法在已见过类和新类的综合性能上提升了1%,在新类的性能上提升了1.5%。 实验证明,本文提出的方法有效地提高了分类的准确率,相较于现有的开放世界半监督学习方法,取得了较好的分类效果,可适用于缺乏大量数据标签且数据分布模糊的数据集。

关键词： 前交叉韧带损伤   半月板损伤   磁共振成像   疾病诊断   图像处理  

摘要： 本文主要从以下几方面展开论述：　　第一部分:基于深度学习方法检测膝关节前交叉韧带损伤　　目的:磁共振成像技术是诊断前交叉韧带损伤首选的影像学检查，低年资临床医生需要花费大量的时间手工解读膝关节MRI图像。在医学检查数量稳步增加且解读时间有限的背景下，计算机辅助诊断系统可能是提高医生工作效率、减少诊断错误的重要工具。本研究旨在探讨基于深度学习方法检测前交叉韧带损伤的可行性。　　方法:回顾性分析550例膝关节MRI数据，并构建ResNet-18为基本构架的深度学习检测分类模型。通过计算准确率、灵敏度、特异度、受试者操作特征曲线以及曲线下面积评估模型的诊断性能。同时，采用Mann-Whitney U检验评估深度学习模型与低年资临床医生诊断性能的差异性，通过Kappa检验衡量深度学习模型检测结果的一致性。　　结果:在本研究中，所构建的深度学习检测模型取得了良好的诊断性能，深度学习检测模型在二分类和多分类任务中的准确率分别为0.98和0.85。在诊断性能方面，深度学习检测分类模型与低年资临床医师无明显统计学差异（P＞0.05）。　　结论:本研究初步证实了基于深度学习方法检测和分类前交叉韧带损伤的可行性。　　第二部分:基于深度学习方法分割和检测半月板损伤　　目的:半月板损伤是一种常见的运动损伤性疾病，损伤后通常需要膝关节核磁共振检查，临床医生需要综合不同扫描层面下的图像对半月板损伤进行诊断，这个诊断过程是非常耗时的。本研究旨在探讨基于深度学习方法分割并检测半月板损伤的可行性。　　方法:回顾性分析468例膝关节MRI数据，并构建3D-ResNet-50为基本构架的深度学习检测分类模型。通过计算准确率、灵敏度、特异度、受试者操作特征曲线以及曲线下面积评估模型的诊断性能。采用配对样本T检验评估深度学习模型与低年资住院医师诊断性能的差异性。　　结果:在本研究中，所构建的深度学习检测模型取得了良好的诊断性能，准确率为0.8298,AUC为0.91。半月板损伤深度学习模型检测模型解读MRI图像所用时间比低年资住院医师手动解读MRI数据集所用时间明显缩短，差异具有统计学意义（P＜0.001）。　　结论:本研究初步证实了基于深度学习方法分割和检测半月板损伤的可行性。

关键词： 图相似度学习   图表示学习   图神经网络   Graph Transformer  

摘要： 图相似度计算是指比较两个或多个图结构之间的相似程度的过程.在社交网络分析、生物信息学、推荐系统等应用中,图相似度计算是理解和处理复杂数据结构的关键步骤,有助于帮助识别相似的图形式,从而进行数据挖掘、模式识别、信息检索等任务.近年来,图神经网络作为一种基于图结构的深度学习方法,为传统相似性度量方法提供了全新的思路和解决方案. 根据处理图结构和节点特征方式的不同,利用图神经网络解决图相似度计算的方法,可归类为两类,分别是基于嵌入和基于匹配.前者将图中的节点或边嵌入到低维空间中,学习嵌入向量之间相似度,这种方法的局限性在于其没有关注更细粒度的差异信息,从而预测精度不高.而后者利用节点级交互或图级交互,寻找图之间的最佳匹配关系,但节点比较过程的时间复杂度是平方级,消耗大量时间. 为了避免代价高昂的节点级交互,本文利用欧拉恒等式,将图嵌入映射到复数向量空间,并将图之间的相似度定义为旋转,在复数空间中学习出一个泛化能力强,计算效率高的图相似度计算模型.其主要研究内容和创新点如下: (1)提出基于Graph Transformer的图相似度学习方法.为了避免现有方法利用节点级交互来计算图对之间的图相似度时所带来的高成本计算问题,本文提出了基于Graph Transformer的图相似度学习方法.该方法首先设计多级联合图嵌入网络GTPool学习图嵌入,然后通过将图嵌入映射到复数空间,利用欧拉恒等式的旋转特性将两个图之间的相似度定义为旋转关系.实验结果表明基于Graph Transformer的图相似度计算模型能显著提高图相似度计算的性能. (2)提出基于线性Graph Transformer的图相似度学习方法.在上述方法中,Graph Transformer允许节点关注图中的所有节点,导致了相对于图中节点数量的二次时间复杂度.对于图相似度计算,这显著的增加了推理时间.为此,本文通过核化的Softmax算子将Graph Transformer的时间复杂性降低到线性,在不增加额外计算负担的情况下,有效地提取节点间的潜在结构信息.实验表明,利用核化Softmax算子将Graph Transformer线性化,不仅可以节省算法运行时的内存开销,同时也能提高模型的精度. (3)本文在AIDS、LINUX、IMDB三个公共数据集上进行了实验,并与基准算法Sim GNN、GMN、Graph Sim和MGMN进行了比较.实验结果显示,本文提出的两种图相似度学习方法在有效提高计算效率的同时,均保持了较高的准确率.具体而言,在AIDS数据集上的均方误差相较于MGMN分别降低0.233和0.294;在LINUX数据集上的均方误差相较于MGMN分别降低0.843和0.569;在IMDB数据集上的均方误差相较于MGMN分别降低0.084和0.218.此外,RGSim在所有数据集上的推理速度是基准算法的2至4倍;而ERGSim引入核化Softmax算子后,在所有数据集上的推理速度是基准算法的3至6倍.

关键词： 小样本学习   度量学习   图像分类   类原型  

摘要： 传统的图像分类在数据丰富的情况下可以很好地训练网络模型,但是在实际的应用场景中可以作为训练样本的数据往往是有限的。为了应对这一复杂情况,小样本学习被提出,它的目标是使用有限且少量的标记数据来识别从未见过的新类别。而度量学习作为一种经典的方法现又为小样本学习的发展做出了巨大的贡献。然而由于样本数量的稀少,再加上在传统的基于度量学习的小样本学习方法中经常使用简单求均值来计算类原型,这样会使得求得的类原型会与真实原型之间产生偏差,因此不具有代表性。因此本文的主要目标是研究一种可以对类原型进行校准的算法,减小原有算法对类原型计算所产生的偏差。对此本文的主要工作如下: (1)提出基于基类知识校准类原型的小样本学习方法。由于少量样本不能很好的代表该类别的样本分布,而小样本学习中可用于训练的样本数量又非常有限,所以计算得到的样本中心可能不是正确的位置。针对此问题,提出基于基类知识校准类原型的小样本学习方法。图像通过嵌入网络获得多尺度特征,之后在基类样本和新类支持集样本的特征向量分别平均求得原型后,使用本文所提出的语义信息对比模块和混合特征加权度量模块进行筛选,找出与新类支持集原型相近的基类原型,利用已经学习过的基类知识对新类支持集原型进行校准,使得它更接近真实的类原型。最后使用校准后的类原型与查询集样本进行混合特征加权度量进行分类。通过在mini Image Net数据集和CUB数据集上进行实验来证明网络模型的有效性。 (2)提出基于新类类原型聚合的小样本学习方法。在同个类别样本的分布空间中,各个样本之间的距离远近是不同的,所以同类样本的分布可能是不均匀的。而传统方法在计算类原型时使用简单的均值计算,这样就会导致在计算类原型时忽略每个样本的贡献度,最终计算出有偏差的类原型。另外,由于样本数量的稀少导致不能对图片进行充分的特征提取,使得模型泛化能力弱且分类精度降低。针对以上问题,提出基于新类类原型聚合的小样本学习方法。其中聚合类原型模块根据样本不同的远近分布为他们赋予不同的权重,以此计算更准确的类原型。此外本章提出了新的嵌入网络CS-Res Net,由多尺度通道分割模块嵌入到Res Net-12网络中,并结合注意力机制使模型具备在不同尺度上处理关键特征的能力。该方法同样在两个公开数据集上进行实验,并且提升了分类效果。 (3)基于前两章的模型开发了一个小样本图像分类系统。该系统提供了一个可交互的界面,不仅可以直观地为用户展示模型的实时训练情况,而且可以让用户方便地进行小样本图像分类任务。

关键词： 机器学习   植物基因组预测   蛋白质相互作用   分子位点预测   功能注释   作物育种  

摘要： 随着高通量测序技术的飞速发展，植物基因组学研究目前已经积累了海量多组学数据。因此如何开发和改进相关处理软件工具，从而有效利用这些海量数据发掘有用的生物学信息，成为当下亟需解决的重要科学问题。其中机器学习方法凭借其显著的预测、分类、数据挖掘和集成能力，在此领域受到广泛关注。本文系统综述了不同类型机器学习方法的基本原理和流程，以及这些方法在植物基因组功能预测中的研究进展，重点总结了机器学习模型在植物分子相互作用预测、重要功能位点预测、功能注释、作物育种等方面的应用成果，并展望了该领域未来的发展方向和应用前景。本文有助于植物研究者快速了解和应用机器学习方法，从而推进植物遗传相关机制的研究和作物性状改良。

关键词： 金属疲劳   滞回曲线   剩余疲劳寿命   机器学习   神经网络  

摘要： 由于疲劳试验耗时长且费用高昂,通常情况下,研究人员能够获取的疲劳数据样本量非常有限。同时机器学习算法通常对数据的样本量都有较强的依赖,因此小样本问题一直是使用机器学习算法预测疲劳寿命的重点和难点问题。本文基于一组小样本IN718合金试件疲劳数据,利用疲劳滞回曲线数据对剩余疲劳寿命进行预测,有效地将样本量扩大了四十余倍,并建立了一系列高精度的机器学习模型。 (1)为更精确地预测IN718合金试件疲劳寿命,本文提取疲劳滞回曲线中最大应力、最小应力、最大应变、最小应变、弹性模量、滞回环面积、阻尼比、割线刚度这八个特征作为输入预测疲劳寿命。实验结果表明与经典的机器学习算法XGBoost、SVM、RF相比,人工神经网络的预测精度较高,且在离群点的预测上表现更好,十折交叉验证MSE均值为0.0452。随后本文对提取特征进行了重要性排序,剔除不重要的特征,提高了预测精度。 (2)针对试件样本量少和疲劳滞回曲线有规律变化的特点,本文提出以两个不同时期的疲劳滞回曲线特征当作输入,剩余疲劳寿命当作输出的方案,将原有的小样本数据集扩大了40余倍。并通过双分支神经网络模型来学习特征随着疲劳试验进行而发生的变化趋势。经过实验结果对比,模型的预测精度以及稳定性都有了显著地提高,十折交叉验证MSE均值为0.0371,十次重复实验结果的MSE震荡在0.01左右。 (3)考虑到人工提取疲劳滞回曲线特征费时费力,且在计算时会带来一定噪声,本文提出以两个不同时期的疲劳滞回曲线数据作为输入,并搭建了双分支LSTM模型实现端对端的剩余疲劳寿命预测。实验结果表明,提出方法预测精度最高,十折交叉验证MSE均值为0.0104,同时也拥有较好的稳定性和泛化性。 本文提出的使用多分支神经网络预测剩余疲劳寿命的方法有效地解决了疲劳数据样本量小的难点问题,使得模型的预测精度和稳定性都有了一定的提升。同时该思路对于使用其他数据预测疲劳寿命的研究也具有一定的适用性。