关键词： 高中数学   多元智能理论   个性化学习  

摘要： 高中数学课程内容比较抽象、难懂，学生个人学习能力之间的差异比较明显。在传统的数学课堂中，数学教师采取统一的标准要求学生，学生在学习中容易遇到各种各样的难题，这直接影响了学生的学习质量和数学学科核心素养的发展。在倡导学生个性化发展的教育背景之下，教师需要在课堂中加强对学生个性化学习方法的指导，指导学生展开高质量的学习。本文将以多元智能理论为背景和指导，总结高中数学个性化学习的有效方法。

关键词： 深度学习   知识蒸馏   长尾识别   表征学习  

摘要： 随着近年来人工智能技术的飞速进步,深度学习作为人工智能领域的关键技术之一,其在图像识别、语音识别、自然语言处理等多个领域都取得了显著成果。然而,深度学习模型在实际部署过程中常常面临模型复杂度过高、计算资源需求大等问题,同时,在模型训练阶段也常遇到数据分布不均等问题,严重制约了深度学习模型在实际场景中的应用潜力。针对模型复杂度高和数据不平衡两大问题,本文分别从知识蒸馏和长尾识别两个关键技术入手进行了深入研究。首先,提出了增强模型表现的自知识蒸馏模型压缩方法;同时,设计了扩大数据特征分布的长尾识别算法。并此基础上,本文将两者有机融合,创新性的提出了基于自知识蒸馏的长尾识别方法。这种算法提高了模型自身的特征表达能力,有效地解决了长尾识别问题。 具体而言,本文的研究主要包括以下几个方面: (1)增强特征表达能力的自知识蒸馏方法。本文提出了一种自知识蒸馏方法,通过构建了一组金字塔结构的子网络,使得目标网络在训练过程中能够得到有效的辅助学习。金字塔结构的设计使得子网络能够捕获不同层次的特征信息,从而显著提升了学生网络的特征表达能力。实验结果表明,该方法相较于直接训练的模型在大型数据集Image Net准确率有0.72%的提高,在CIFAR100数据集上有3.26%的提高。 (2)基于图像数据分布的长尾识别方法。本文深入挖掘了长尾识别中容易被忽略的数据密集问题,证明了数据特征分布方差与交叉熵损失之间的关系。基于这一发现,通过向数据特征增加偏置项和噪声项,有效改善了数据特征分布密集的问题,提升了模型在长尾数据集上的准确度。实验结果表明,该方法在CIFAR10-LT数据集中获得了14.27%的提高,并在CIFAR100-LT数据集上获得了13.14%的提升。 (3)融合自知识蒸馏算法的长尾识别方法。本文将自知识蒸馏方法与长尾识别方法进行了有机结合,提出了一种基于自知识蒸馏的长尾识别算法。这种融合方法保留了自知识蒸馏在增强特征表达能力方面的优势,充分利用了长尾识别方法在处理不平衡数据分布时的有效性。实验结果表明,采用这种融合方法的深度学习模型在长尾数据集上取得了卓越的性能表现。 因此,本文的研究不仅具有重要的理论价值,更具有深远的实践意义。它不仅为解决深度学习中的模型部署问题和数据长尾问题提供了新的思路和方法,也为深度学习模型在实际场景中的广泛应用奠定了坚实的基础。

摘要： 高中生物学具有理论体系丰富且注重实验探索的特点，我们在理解自然现象的过程中，须具备批判性思维、科学方法和跨学科的综合能力。我们不应满足于单纯的记忆与机械重复，而应致力于深入理解并综合运用所学知识。一、概念网络构建，强化知识整合在高中生物学习过程时，我们需主动将学科知识进行有机整合，通过建立知识间的联系，形成系统化的知识结构。

关键词： PU学习   量子特征提取   生成模型   量子启发   判别模型  

摘要： 随着大数据的兴起,深度神经网络已在许多任务中表现出超越人类水平的能力,这种成功取决于智能机器在监督学习场景下对大量已标记数据中潜在的规则的学习.然而,在许多实际应用中,人们通常难以获得完整的标签信息.例如数据挖掘,异常值检测和医学诊断等领域中,正类样本可以轻松获取,但负类样本由于所属种类过多,或获取成本过高,往往处于缺失状态.这类问题被称为仅正类和未标记(Positive and Unlabeled,PU)数据学习问题. 目前主流的PU学习方法严重依赖于未知类别分布的先验知识.如果不考虑先验知识或不附加额外约束,想要协调未标记数据中的底层聚类信息与正类训练数据的标签信息去建立分类模型通常是不可能的.为了应对这一挑战,本文提出了适用于PU学习设置下的量子特征提取方法和分类方法,取得了良好的学习效果.下面是本文的主要研究内容. 首先,本文在生成模型框架下研究了基于量子启发的特征提取策略.该策略以生成网络模型作为后端.任意训练样本与某量子比特复合系统建立了对应关系:样本由其对应的量子复合系统重构,为了适应PU学习,复合系统的量子比特在尽量满足相互独立要求下彼此远离.我们称这一量子复合系统为样本的量子特征.其次,本文在上述量子特征提取的基础上建立了适用于PU学习的分类方法.该方法模拟人类观察事物的方式,寻找最有利于当前PU学习数据集的观测角度,将包含多个分布的量子复合系统坍塌至经典分布状态,再由采样得到经典特征.本文沿用经典的PU学习方法(如u PU,nn PU等),得到最优观测量.此外,本文提出的量子特征提取方法在指定简单的判别规则基础上也可以直接应用于分类问题. 本文在多个数据集上进行实验,实验结果证明了本文提取出的量子特征是PU数据中的有效特征,并且提出的分类方法能够实现对PU数据的准确分类.

关键词： 脑网络分类   深度哈希学习   互学习   增量学习   注意力机制  

摘要： 随着欧、美、日、中等多国脑科学计划的相继发布和实施,脑科学研究逐渐成为21世纪全球科学研究的一个前沿高地。作为脑科学领域中的一个重要研究方向,脑网络分类通过挖掘和分析脑网络的特征,能够为脑精神疾病的早期辅助诊断和发病机理的揭示提供有效的工具,因而具有重要的科学研究意义和临床应用价值。近年来,深度学习技术因其具有强大的特征提取能力,所以在脑网络分类领域得到了广泛应用。但是,由于采集过程费时耗力,脑网络数据具有典型的高维、小样本特性,目前已有的深度学习分类方法大都仅利用脑网络数据提取出的拓扑特征来进行分类,忽视了脑网络的语义信息对分类的作用,因此,在一定程度上限制了所提取特征的辨识力,导致脑网络分类的准确率不高。深度哈希学习是一种结合深度神经网络和哈希学习的新型深度学习模型,它不仅能够通过深度神经网络从输入的高维数据中提取出深层拓扑特征,而且能够通过学习哈希函数将提取出的拓扑特征映射为包含语义信息的紧凑哈希码。也就是说,该模型能够集成拓扑特征的提取和语义信息的学习,这为克服深度学习脑网络分类的上述缺陷提供了一种新的途径。为此,本文将深度哈希学习引入脑网络分类领域,提出了几种基于深度哈希学习的脑网络分类方法,所取得的创新性成果包括: 一、为了有效利用脑网络数据的语义信息来指导脑网络的拓扑特征提取以提高脑网络的分类性能,提出了一种基于深度哈希学习的脑网络分类方法。该方法首先利用卷积神经网络(Convolutional Neural Network,CNN)提取脑网络的深层拓扑特征,并通过哈希层将拓扑特征映射为初步的哈希码;然后,通过拟合临床表型语义信息来学习哈希函数,并利用脑网络间诊断语义信息的相似关系来增强脑网络拓扑特征的哈希码表示;最后,通过计算哈希码之间的距离来预测脑网络的类别。在三个真实脑网络数据集上的实验结果表明,与一些主流的脑网络分类方法相比,所提方法能够有效利用语义信息获得最优的分类性能且能够识别与脑疾病相关的异常功能连接和重要脑区。这项工作为后续的研究奠定了良好的基础。 二、为了利用脑网络数据的群体表型语义信息来进一步提升脑网络的分类性能,提出了一种基于深度哈希互学习的脑网络分类方法。该方法首先设计了一个基于可分离CNN的深度哈希学习模型来提取脑网络的个体特征并将其映射为哈希码;然后,基于表型语义信息间的相似关系构建了一个以脑网络为节点、以上一步提取的个体特征为节点属性的群体脑网络关系图,并利用基于图卷积网络(Graph Convolutional Network,GCN)的深度哈希学习模型从该图中提取脑网络的群体特征后再将其映射为哈希码;最后,通过度量两个深度哈希学习模型所得哈希码之间的分布差异来实现个体特征和群体特征间的交互,从而增强个体特征的哈希码表示。在真实数据集的三种常用脑图谱上进行了对比实验,实验结果表明所提方法利用群体表型语义信息可以更有效提高脑网络的分类性能且能够识别出与分类结果更相关的重要脑区。 三、为了缓解脑网络数据的多源异质特性给脑网络分类性能带来的不良影响,提出了一种基于深度哈希增量学习的脑网络分类方法。该方法首先根据站点数据的收集顺序和语义信息质量对站点进行排序并生成站点队列;然后,依次对队列中每个站点的数据进行锚点选择、三元组构建、特征提取和哈希映射;最后,通过累加每个站点基于三元组的损失来调整模型参数和哈希函数,以保证模型能够增量地学习队列中每个站点的数据。在三个真实脑网络数据集上的实验结果表明,所提方法采用站点数据流的增量学习代替站点数据集的批量学习,能够在多源异质数据集上获得稳定且优异的分类性能。 四、为了进一步缓解脑网络数据的多源异质特性对脑网络分类性能的影响,提出了一种注意力引导的深度哈希增量学习脑网络分类方法。该方法首先设计通道注意力模块、边级和节点级两种拓扑注意力模块来提取脑网络的层级拓扑特征;然后,设计语义注意力模块将提取的拓扑特征通过哈希层映射为能够反映脑网络语义差异的哈希码;最后,设计站点间注意力模块,通过一种自适应的站点权重调解策略来进行增量学习过程中分类的集成。在三个真实脑网络数据集上的实验结果表明,所提方法在面对多源异质数据时能够获得更优的分类性能。 本文首次提出了基于深度哈希学习的脑网络分类方法,并以此为基础结合互学习和增量学习分别提出了有效的脑网络分类方法。本文的研究工作是深度哈希学习在脑网络分类上的新探索,论文的研究不仅有望推动深度哈希学习方法的发展和完善,而且能够提升脑网络分类方法的性能,促进脑疾病辅助诊断的向前发展。

关键词： 连续学习   灾难性遗忘   类增量学习   经验回放   内存更新  

摘要： 人工神经网络因其强大的函数逼近能力、表征学习能力和预测推断能力,在计算机视觉等领域取得了突破性进展。以其为代表的人工智能技术迅速走进并深深改变了人类的日常生活,技术的进步依赖于硬件的发展、大规模标注的数据以及耗时的模型训练。过去大多数研究通常聚焦于封闭、静态的独立同分布数据集,并在完成模型的离线训练后执行单一任务。然而,当数据分布随环境不断变化时,人工神经网络会忘记在先前任务中学到的知识,即发生“灾难性遗忘”。人类对外界环境的变化有极强的适应和学习能力,如何让人工神经网络具备同样的能力成为当前研究的关键。连续学习作为一个新的学习范式,旨在赋予模型从数据分布不断变化的数据流中持续学习、累计和巩固知识的能力,使得神经网络达到“稳定性-可塑性”的平衡,进而克服灾难性遗忘。当前的连续学习研究往往放宽了约束优化的限制,比如在训练和测试时提供任务边界和任务身份等先验知识,允许在当前任务上离线训练等,这些宽松的设定不满足连续学习的真实期望,限制了算法在实际场景的应用。因此,针对人工神经网络容易遭受灾难性遗忘的问题,以及当前连续学习方法存在的不足,本文在基于回放机制方法的基础上开展在线连续学习研究,重点在回放过程中的样本利用效率、知识迁移类型和内存更新策略三个方面展开合理有效的深入探究。 针对当前连续学习设定通常放宽学习期望的问题,本文引入更具挑战的在线类增量连续学习设定,即模型以在线方式从数据流中学习新的类别和任务,任务身份和任务边界等先验知识不再被提供来辅助推断,该设定更加符合真实应用场景。在线设定约束下,可用于回放的次数是有限的,因此如何从更多维度挖掘内存样本潜力至关重要。针对回放方法内存样本利用率低的问题,本文提出了在线类增量设定下的多级回放算法,首先利用原始样本构建通用经验回放损失,其次利用样本训练过程中产生的logits信息和最终池化层特征,分别构建响应约束和特性约束。多级回放可以压榨出更多过去的知识来强化监督,克服模型遗忘。 针对当前回放方法通常从实例层面考虑知识迁移,忽略了样本间相互关系的问题,受语言结构主义启发,本文提出了一个新的在线连续学习框架,即对比相关性保留回放。利用存储在内存中的原始样本及其对应的特征表征,分别构建过去相关性和当前相关性。为了更好的捕获相关性和高阶依赖,基于贝叶斯规则建立互信息和知识迁移的的联系,通过最大化过去相关性和当前相关性之间的互信息,以迁移更多结构化的知识到当前模型。针对互信息难以精确计算的问题,利用对比学习目标最大化互信息的下界。针对对比学习过程负样本需求较大的问题,为了避免在每次回放过程中内存检索批次过大,通过直接使用内存中的过去特征来构建负相关性。 内存更新作为回放过程的重要一环,决定了哪些样本可以被存储在内存以供后续回放,因此将直接影响连续学习算法的表现。本文对内存更新过程进行深入研究,针对当前内存更新策略忽略样本间差异和内存均衡性的问题,提出了一种可以提高内存样本均衡性和多样性的在线内存更新策略,从类间和类内两个层面考虑内存样本选择,最大程度地同时保证内存样本的均衡多样性。在类间层面,在内存更新时选择替换内存中样本数量最多的类,以保证不同类别间的均衡性。在类内层面,通过样本相似性和样本多样性的计算,选择替换数量最多类中样本多样性值最低的样本,以保证每个类中的样本尽可能多样。 基于所研究的多级回放算法、对比相关性保留算法和均衡多样的内存更新策略,本文分别在足式机器人场景地面图像数据集、服务机器人场景家用物品数据集和真实机器人目标识别抓取平台上进一步开展实验验证。首先,针对足式机器人需要对地面物理特性进行预估的问题,构建真实的地面图像数据集,并在该数据集上进行连续识别验证。其次,针对服务机器人对家用物品识别的需求,选择可用于机器人视觉的连续家用目标识别数据集,用该数据集对算法进行详尽评估。最后,搭建机械臂实验平台,让机械臂依次学习不同的目标识别抓取任务,验证算法在真实机器人平台上的有效性。实验结果证明,提出的算法获得了更优的表现,为机器人在实际场景的应用奠定了基础。

摘要： 《义务教育英语课程标准（2022年版）》不仅一以贯之地重申了英语课程工具性与人文性相统一的课程属性，而且鲜明地将英语学习中的“思维品质”培养列入了英语课程的核心素养四大内涵之中。可是，“思维品质”究竟怎么培养呢？答案在于“深度学习”（Deep Learning），即只有在英语课程的学习过程中追求“深度学习”的真实发生，“思维品质”的培养和发展才有自己的根基。