关键词： 网络表示学习   加权文本信息网络   二分属性网络   离散边权网络   随机游走   图神经网络  

摘要： 网络是一种可用于模拟现实世界中复杂系统的强大数据结构,采用网络表示实体与实体之间的关系已成为数据表示的重要方式。从通信网络到引文网络,从生物网络到社交网络,网络无处不在。深入分析网络中的信息及它们之间的联系,不仅有助于我们更好地理解网络中信息传播的过程,还可以揭示社会和科学现象背后的规律。然而,高维且稀疏的网络数据存储方式给网络信息的分析带来很大困难,因此开展网络结构和节点特征表示方法研究,具有重要的研究价值及巨大的应用潜力。 网络表示学习,又称为网络嵌入,是一种新的网络信息表示方法。其基本思想是将复杂网络的节点映射为低维向量,并以此作为网络表示,以描述网络结构和特征的信息。在此基础上所获得的网络嵌入,可用于多种网络分析任务,如节点分类、链接预测、推荐系统等。加权文本信息网络,二分属性网络和离散边权网络在实际中有很广泛的应用,如社会媒体分析、异常检测和推荐系统等领域。本文针对这三种不同的网络类型开展网络表示学习方法研究,主要工作包括: (1)提出一种基于带偏随机游走的加权文本信息网络表示学习方法。该方法首先根据节点在网络中的重要程度建立一种自适应随机游走生成器,使得节点表示能够反映节点在网络中的重要性。其次,该方法对Node2vec中随机游走的偏置进行了改进,从而实现了对网络拓扑结构、节点文本信息和潜在“出边”三者之间的平衡考虑。最后,本文通过三个真实网络上的节点分类任务验证了该方法的有效性。 (2)提出一种基于图神经网络的二分属性网络表示学习方法。首先,该方法提出了一种二分属性网络的联合优化框架。该框架综合考虑了二分属性网络的显式关系和隐式关系,其中显式关系用于挖掘网络中已有的连接信息,隐式关系用于使相似节点具有相近的表示。其次,该方法在学习显式表示和隐式表示时充分利用节点的属性信息,均使用属性信息作为辅助信息以提高节点表示的质量。最后,本文通过三个真实网络的链接预测任务验证了该方法的有效性。 (3)提出一种面向离散边权网络的推荐方法。该方法克服了常见网络表示学习方法应用于离散边权网络时无法充分挖掘离散边权信息的缺点,提出了一种面向离散边权网络的推荐模型。该模型能够充分利用离散边权网络中的评分信息,使得任意节点都能够从不同的评分关系中学习到统一且有效的节点表示。最后,本文在真实网络上进行了对比实验,结果表明该方法在推荐方面具有显著优势。

关键词： 高中英语   学习环境   学习方法  

摘要： 在新课程改革的背景下，高中英语教学作为教学活动中的重要一环，其改革自然也是重中之重，而如何在改革的背景下完成高中英语教学的高效和创新，就显得极为重要。本文将从新课程改革下的高中英语教学的意义和存在的问题进行分析，然后着重探讨高中英语教学的策略和措施，从而提高高中英语教学的质量。

关键词： 机器学习   强化学习   离线强化学习   模仿学习  

摘要： 随着机器学习的不断发展,人工智能技术在各个领域得到了应用。其中强化学习已经在游戏领域如视频类游戏、棋牌游戏中取得了很大的应用进展。但是如何将强化学习高效地应用于医疗、自动驾驶、机械控制等探索交互成本较高的真实工业环境中,仍然是强化学习发展中面临的挑战。离线强化学习通过使用静态的离线数据集来训练智能体,避免了探索可能带来的成本损失。但是由于离线数据集中的行为策略和优化的目标策略分布不一致,训练过程中会产生外推误差,从而导致训练失败。为解决这一问题,现有的离线强化学习方法根据策略评估时是否选取分布外的动作进行离线策略评估,分为基于强化学习的方法和基于模仿学习的方法。前者通过值函数正则化或者策略约束限制目标策略与行为策略的距离,需要在价值估计的准确性与策略改进之间权衡,可能导致过于保守;后者基于行为策略学习,在策略评估中选取行为策略数据分布内的动作从而避免外推误差,但容易导致智能体利用性能提升有限,失去了分布外泛化的可能性。针对上述问题,本文从深度学习不确定性的角度出发,分别提出了基于强化学习和基于模仿学习的离线强化学习方法。针对基于强化学习的离线强化学习方法中价值估计过于保守的问题,本文提出了双执行者决策和不确定度优化的离线强化学习方法(DAUWC)。在策略评估中通过双执行者学习适度乐观的状态价值函数,同时通过集成的状态动作价值函数引入不确定度估计,实现更有效的价值估计。通过优势价值函数加权,在策略改进中隐式地将学习到的策略向行为策略进行规范和约束,避免重建行为策略产生误差影响,增强训练的稳定性。针对基于模仿学习的离线强化学习方法中智能体利用性能提升有限的问题,本文提出了不确定度加权的隐式Q价值学习的离线强化学习方法(UWIQL)。在策略评估中充分利用离线数据,不选取分布外的样本,避免了外推误差。利用期望回归估计状态价值函数,同时集成两种价值函数,有效提升价值函数的泛化性能。在策略提取中优势加权回归提取策略,并且使用不确定度加权,实现在分布限制下最大化优势价值函数,从而提高样本利用能力。本文使用D4RL标准数据集在MuJoCo和AntMaze部分环境进行了实验验证,提出的两种算法均取得了良好的实验效果,有效解决了上述问题,为强化学习的实际工业应用做出铺垫。在未来的工作中,我们将继续深入研究,将离线强化学习推广到更多的工业环境中。

关键词： 文本表示   句子表示   对比学习   聚类分配   多任务学习  

摘要： 文本表示一直是自然语言处理领域的重点研究对象。早些年间,研究人员们致力于通过精妙的数学模型与理论来为自然语言处理建模,提出了诸如词袋模型等基于应用统计学的经典模型。随着时代的更迭,这些传统方法慢慢地被以BERT为代表的预训练语言模型所取代。但未经过微调的预训练语言模型产生的是一个非光滑的各向异性语义空间,模型编码出的句子表示质量不佳,影响句子表示在下游任务上的表现。相关研究表明,以对比学习为代表的无监督学习方法是缓解表征空间的各向异性问题的有效手段之一。但目前这些方法大都是基于样本对比,忽略了样本间的类别关系,传统的聚类方法又具有一定的局限性。针对当前方法中存在的问题,提出基于对比聚类分配的句子表示学习方法Sw CSE(Swapping Assignments Based Contrastive Learning of Sentence Embeddings)。该方法将计算机视觉领域用卷积神经网络来聚类的算法Sw AV(Swapping Assignments between multiple Views of the same image)引入自然语言处理领域,从样本与样本对比、样本与聚簇中心对比两个层面进行训练,进一步优化预训练语言模型的句子向量表示。在该方法的基础上,为了克服聚类时采样有偏的问题,提出基于缓存队列的聚类句子表示学习方法,使用队列缓存其他样本的表征信息,以便在聚类时可以更好地利用全局信息,提高聚类效果。由于Sw CSE只针对单一的聚簇数目进行训练,聚类结果的准确率较低。受到多任务学习思想的启发,提出基于多任务的聚类句子表示学习方法,只需较少的模型参数就可以同时综合多个聚类任务上的训练结果,获得更好的句子表示。实验表明,相较于最初的基准方法,结合缓存队列和多任务的聚类句子表示学习方法在一系列句子语义相似度任务上的Spearman相关系数指标可以取得2.06%的提升,且能够更好地拉近同类别的样本,降低假负样本造成的损害,得到性能和鲁棒性更优的句子表示。此外,该方法在迁移任务上与对比方法表现相当。

摘要： 初中英语知识的综合性强，传统灌输式的教学模式，学生处于被动学习地位，缺乏展示和表达自我的机会，使其学习积极性不足，学习效果不尽理想。在初中英语教学中采取小组合作学习的方法，搭建学生学习共同体，协同完成课程的预习和任务、评价等活动。本文主要对初中英语教学中小组合作学习方法的运用意义和策略进行阐述，希望对构建高效的初中英语教学课堂起到积极参照作用。

关键词： 深度学习   目标跟踪   特征提取网络   动态模板库  

摘要： 热红外目标跟踪技术是自动目标识别(ATR)领域的研究热点。热红外图像缺乏清晰的纹理和轮廓特征,传统的跟踪方法难以提取到有效的目标表征信息,在跟踪任务中常会受到相似物、遮挡物的干扰,出现跟踪错误。针对以上问题,本文基于表征学习理论,提出了针对热红外目标跟踪的深度学习方法。主要工作如下:(1)针对热红外目标在跟踪过程中受到相似物干扰的问题,设计融合注意力机制的分层预训练特征提取网络。深入分析了热红外目标跟踪易受相似物干扰的根本原因,在此基础上,采用分层预训练方法增强网络的特征提取能力,结合注意力机制进一步提取目标的关键信息,很大程度上避免了因相似物干扰导致跟踪失败的难题。(2)针对跟踪任务中目标被部分遮挡导致表观形态变化的问题,提出构建动态模板库的方法。在热红外目标表观形态发生变化时,使用初始模板帧对形态发生变化的目标进行匹配显然是不合理的。本文提出基于构建动态模板库的目标跟踪算法在目标被部分遮挡、受光照影响时及时更新模板,有效避免了目标产生跟踪漂移的现象。(3)为验证本文算法,在公开热红外测试集上进行了消融实验。相较于基线算法,使用融合注意力机制的分层预训练特征提取网络的目标跟踪算法在成功率上和准确率上分别提高了2.8%和4.7%;使用基于动态模板库的目标跟踪算法在热红外目标跟踪数据集上成功率提高了1.2%,准确率提高了3.8%。实验结果证明,本文提出的跟踪算法在成功率和准确率方面得到有效提升。

关键词： FMS样酪氨酸激酶3(FLT3)   机器学习(ML)   构效关系(SAR)  

摘要： FMS样酪氨酸激酶3（FLT3）是治疗急性髓系白血病（AML）的重要靶点。近年来在多数AML患者中发现了FLT3的过度表达和突变。因此本文进行了FLT3抑制剂的构效关系研究。主要研究内容如下:（1）FLT3抑制剂的高低活性分类研究。收集了含有3867个人源野生型的FLT3抑制剂数据集。运用随机森林（RF）、支持向量机（SVM）、极致梯度提升树（XGBoost）、深度神经网络（DNN）和循环神经网络（RNN）算法共建立了39个定性分类模型。四个最优模型Model 3A（SVM模型）、Model 3C（SVM模型）、Model 3H（XGBoost模型）和Model 3L（DNN模型）对测试集的马修斯相关系数（MCC）在0.70到0.72之间,预测准确率（Q）在84.95%到85.83%之间;对外部测试集的MCC在0.70到0.82之间,预测准确率（Q）在85.05%到90.97%之间。（2）基于模型和聚类进行构效关系分析。计算了描述符的信息增益（IG）以及在高低活性抑制剂中的频率差异,发现2-氨基嘧啶、1-乙基六氢吡啶、2,4-双（甲基氨基）嘧啶等分子片段为高活性抑制剂中的重要片段。随后,结合决策树算法生成的树状图,通过描述符组合得到了2个高活性骨架和1个低活性骨架。除此之外,采用K-means聚类总结了FLT3抑制剂的骨架结构类型和代表性侧链特征。（3）FLT3抑制剂活性的定量预测研究。收集了411个放射性测定方法测定的FLT3抑制剂及其IC50值。基于支持向量机（SVM）和随机森林（RF）两种算法共建立了48个定量预测模型。最优模型Model 8G（RF模型）对测试集的决定系数（R2）为0.715,均方根误差（RMSE）为0.557。对描述符分析后发现分子的相对分子质量、复杂度以及分子不饱和键数目与FLT3抑制剂活性的相关性较大。

关键词： 红外弱小目标   深度学习   单帧检测方法   多帧目标融合检测方法  

摘要： 红外弱小目标检测技术在周界安防、目标跟踪、防火防灾等领域具有广泛的应用。红外弱小目标由于其尺寸小、特征不明显且经常受到背景杂波干扰等特点而导致检测难度极大,现有的目标检测方法存在严重的漏检和虚警。针对这些问题,本课题基于深度学习理论开展了红外弱小目标检测方法的研究。主要工作如下:(1)提出了基于孪生Transformer的单帧红外弱小目标检测方法。该方法将原图划分为若干个不重叠的子图,然后将目标子图与一组训练好的包含位置信息的模板分别送入孪生特征提取网络以提取特征。最后,将提取到的子图特征与模板特征送入特征匹配模块,通过二者的匹配程度来确定目标子图中是否包含目标并计算坐标。该方法以目标整体为对象进行特征提取,这种特征提取方式充分考虑了目标的上下文信息,使得特征提取结果更加充分。实验结果表明,单帧检测方法在一些目标突出等简单场景下拥有较高的检测率。(2)提出了多帧红外弱小目标融合检测方法。使用多张连续数据帧,通过多帧目标融合模块分析连续图像中背景与运动目标的深层语义特征来识别运动目标,以此突出目标并抑制背景,将处理完成的特征图送入优化后的目标检测网络预测目标。实验结果表明,相比于单帧目标检测方法,多帧目标融合检测方法即使在复杂背景下也依然拥有较高的平均检测率与较低的虚警率,表现出了更优的检测性能。(3)进行了充分的消融实验和对比实验。本课题分析了多帧融合检测网络主要模块中的不同参数可能对网络性能产生的影响,采用不同的消融实验进行对比测试以使网络的最终评估指标达到最优,并为类似任务的网络设计提供了实验参考。选取了现存的几种检测方法在公共数据集上进行测试。实验结果表明,本课题提出的检测方法的平均检测率与虚警率分别为0.985和1.96×10,相比于现有最好方法的0.765和9.5×10,本课题将平均检测率提升了28.76%,虚警率下降了79.37%。

关键词： 知识表示学习   图神经网络   链接预测   推荐算法  

摘要： 知识图谱语义建模能力强大且应用场景广泛。它以符号形式的三元组集合表示了现实世界中海量的知识——不同实体通过三元组表达的关系相互链接,共同形成“图结构中的知识”。传统符号化三元组的知识表示方式,需要通过最短路径、子图匹配等图算法进行计算和应用,面临严重的计算效率和准确性问题。知识表示学习应运而生,并逐渐成为热门研究方向,在智能搜索、推荐和智能问答等领域发挥着重要作用。其旨在通过表示学习将实体和关系映射到低维稠密向量空间,从而提高知识计算效率和准确性。如何设计知识表示学习模型,使学到的向量表示能有效保留知识图谱语义信息和结构性质,并充分发挥其潜在价值,成为制约相关研究走向应用的关键。 国内外在知识表示学习方面已取得诸多研究进展。现有基于翻译距离的方法初步实现了三元组语义信息建模,图神经网络技术的发展也为图结构信息建模提供了技术基础,对后续研究工作的开展提供了极具价值的启发意义。然而目前的知识表示学习仍面临着以下挑战:(1)如何充分考虑异质实体多类型特征来设计知识表示模型;(2)如何充分建模异质长尾关系的语义信息;(3)如何充分挖掘低度实体的语义信息,克服稀疏知识表示效果退化现象;(4)如何考虑网络的动态性,从而对动态图中的知识进行有效表示和应用。 针对以上挑战,本文立足于知识图谱异质性、稀疏性、动态性的本质特征,对基于图神经网络技术的知识表示问题展开深入研究。首先,研究了多类型实体建模问题,设计适用于复杂知识表示的异质图神经网络;然后以其作为研究基础,先后设计了面向异质长尾关系的知识原型网络,以及稀疏实体的高阶语义学习方法;最后研究了动态网络中的知识表示方法,并进一步探究了上述挑战对基于知识的应用引发的新问题及解决方案。综上,本文的主要研究工作及创新点如下: (1)针对多类型实体建模问题,本文提出基于层次多类型的实体表示模型。模型首次针对具有多个类型的实体,且类型间语义相关的现象,设计了多类型表示模块,捕捉类型语义及类型间的关联性。并将编码后的多类型信息注入到类型感知的实体关联语义模块,指导实体关系语义学习过程,综合学习实体在不同层面的语义信息。通过链接预测和实体分类等实验分别验证了该异构知识表示框架的有效性。 (2)针对异质长尾关系建模问题,本文提出了双通道的关系原型知识表示模型,通过不同通道建模不同粒度的关系语义信息,从语义的角度加强关系信息建模。在通道一进行细粒度层面关系语义建模,基于多关系域的三元组划分方法学习具体的关系实例表示。在通道二进行粗粒度的关系语义建模,通过关系实例学习关系空间的原型表示。同时,采用元学习方法进行网络的训练,进一步提升模型对少样本关系的学习能力。在对知识图谱少样本关系的预测实验中,本文提出的模型相比诸多基线方法在关系预测准确性方面有显著提升,证明了上述双通道关系原型学习的有效性。 (3)针对稀疏知识带来的实体邻域信息语义建模问题,本文提出知识的多视图对比表示模型。基于层次知识设计多视图语义建模策略,分别从局部视图和全局视图挖掘低度实体的低阶和高阶语义信息。通过不同视图对比学习,充分获得表达能力强的知识,克服了图神经网络深层退化问题导致的高阶语义学习不充分或噪声问题。在上述工作的基础上,进一步研究了如何利用稀疏知识有效促进下游任务,在多个数据集上进行了基于知识的推荐实验,结果表明本文方法在不同的评价指标下均表现优异。 (4)针对知识动态演进问题,本文提出基于语义互信息的动态知识表示方法,综合建模异质语义信息和知识动态演进规律,实现准确的实体动态表示及预测。本文设计基于语义单元的异质信息学习机制,促进隐含结构挖掘和深度语义融合,并设计基于多粒度的知识演进规律建模方法,捕捉节点语义在不同粒度的演进知识。然后融合不同粒度的动态信息得到节点最终的动态表示,从而提升动态链接预测任务效果。最后在包含不同领域动态知识的真实数据集上进行大量对比实验及消融实验,结果表明本文所提出动态知识表示方法在动态链接预测应用中取得目前最优效果。 通过以上研究,本文可以为不同场景的知识表示问题提供基于图神经网络的理论框架和解决方案,并在此基础上提升知识表示模型的表达能力,为相关领域的知识应用提供理论依据和技术实践支持。