关键词： 结构多类型损伤识别   小样本   任务重要性   元学习   语义分割  

摘要： 土木基础设施在服役期间不可避免地发生损伤积累和结构抗力劣化,及时识别早期结构损伤对结构服役性能至关重要。基于动力反演的模态方法高度依赖有限测点监测信息,对早期表面微小损伤不敏感;基于传统计算机视觉和深度神经网络的损伤识别方法精度严重依赖训练样本数量和不同类型样本完备性,而实际场景中难以获取充足样本且人工标注成本昂贵。针对上述问题,本文研究了面向有限监督条件的小样本结构损伤图像辨识的任务感知元学习方法。主要研究内容如下:提出了复杂形态实际结构损伤语义分割的改进Deep Lab V3+模型。首先,采用Mobile Net V2作为模型的骨干网络,通过深度可分离卷积和瓶颈残差模块来解耦空间与通道的相互作用,降低模型参数和计算复杂度;其次,设计了改进空洞卷积金字塔池化模块,基于并行连接空洞卷积获取输入图像多尺度感受野;最后,针对损伤图像前景背景比例不平衡问题,设计了基于Dice损失和Focal损失的分段综合损失函数用于不同训练阶段模型优化。交叉验证试验结果表明,所提改进Deep Lab V3+模型对复杂形态混凝土裂纹的平均m Io U达到77.6%,保证精度的前提下,平均识别时间和参数量分别降低了39.2%和91.5%;通过对带有钢筋暴露的混凝土剥落与主缆腐蚀剥落损伤图像重新训练验证了改进Deep Lab V3+模型的鲁棒性,平均m Io U分别达到59.8%和68.1%。提出了小样本结构多类型损伤语义分割的任务重要性感知元学习方法。首先,建立了基于MAML(Model-Agnostic Meta-Learning)的元学习双层优化架构,包括基于任务的内核模型参数优化和基于元批次的外层元学习机优化;其次,提出了基于损伤图像高层级特征密度聚类的元批次任务生成算法,设计了以融合欧氏距离和Jaccard距离的相似度度量为聚类指标的元批次任务及查询池构建方法;最后,提出了基于元批次查询池测试误差的任务重要性感知方法,控制外层元学习机优化方向倾向于更重要的任务,并设计了针对不同误差放大效应的任务重要性感知函数形式。结果表明,所提方法在小样本训练数据集上对结构多类型损伤的平均m Io U达到75.7%,优于传统内核模型(如U-Net)和普通元学习方法(MAML),平均识别精度分别提高了2.0%和9.7%。同时验证了所提方法对多类型混合损伤和新出现损伤的迁移识别能力,相较普通元学习方法,平均识别精度分别提高了5.0%和5.1%。

关键词： 小学数学   空间与图形   微课教学   教学模式   学习方法  

摘要： 微课是教学改革信息化的产物，也是一种全新的学习模式。将其应用于空间与图形的教学中，可以更好地帮助学生从具体形象思维过渡到抽象逻辑思维。由“数”去找“形”，促进了学生主动探究的意识培养，提高了学生数学几何直观思维的能力。文章分析了微课在小学空间与图形教学中的设计与应用。

关键词： 时空数据   统一描述   表示学习   深度学习   数据挖掘  

摘要： 时空数据的表示学习,即如何从时空数据中学习有效的特征表示,是时空数据挖掘领域的一个关键研究问题。本文面向时空网格数据、时空图数据和时空轨迹数据等三种典型的时空数据,针对(1)时空扰动难以度量、(2)时空相关性难以建模、(3)多重异质关系难以挖掘、(4)时空轨迹难以描述等四个研究挑战,逐步深入研究不同类型时空数据的特征表达机制,并探索时空数据的统一表示学习方法,取得了以下四个方面的研究成果: 针对研究挑战(1),本文提出了融合时空扰动的时空网格数据表示学习方法DeepSTD。实验结果表明,通过融合时空扰动,DeepSTD能够学习到表达能力更强的特征表示,并显著提升在时空网格数据上的表示学习能力。 针对研究挑战(2),本文提出了两种面向复杂时空相关性的直推式时空图数据表示学习方法,包括动态时空相关性建模方法GMAN和时空联合相关性建模方法STJGCN。实验结果表明,GMAN和STJGCN在时空网格数据和时空图数据上均具有较强的表示学习能力。 针对研究挑战(3),本文提出了引入多重异质关系的归纳式时空图数据表示学习方法INCREASE。实验结果表明,INCREASE能够有效利用已知节点信息来学习未知节点的特征表示,在时空图数据的归纳式表示学习上具有优越的性能。 针对研究挑战(4),本文提出了基于时空点云的时空轨迹数据表示学习方法STPC-Net。实验结果表明,STPC-Net在时空图数据的直推式表示学习、归纳式表示学习和时空轨迹数据的表示学习上均表现出良好的性能。 本文的研究成果推进了时空数据表示学习的研究,将为时空数据的统一建模提供一定的理论和方法参考。同时,本文提出的多种算法有望为交通通行、城市规划等城市时空数据挖掘应用提供决策支持。

关键词： 符号网络   符号二部网络   网络表示学习   图神经网络  

摘要： 在线社交媒体日益普及,极大地推动了社交网络数据分析技术的发展。网络表示学习旨在学习节点的低维表示向量,已被证明在社交网络分析的链接预测、节点分类任务中有很大的应用价值。起初,大部分社交网络分析基于节点之间的同质性和社会影响,局限于在无符号或者是只有正链接的社交网络中进行表示学习。实际上,一些社交媒体平台上能清楚的展现出用户之间的好友、非好友关系,从而抽象成符号网络。 现有的在符号网络中开展表示学习的研究方法存在很多局限性,问题如下:(1)虽然现有的符号网络表示学习的算法取得了一定的进展,但是学到的节点表示都是基于节点单一的方面。然而,现实世界中的实体可能是出于多方面的动机与其他节点连接。(2)现有的与符号网络相关的工作都是基于单一类型的节点,网络中的链接可以连接任何一对节点。实际上,符号二部网络也是一种常见的符号网络形式,其正、负链接只能在不同类型节点间形成。如在电子商务和政治学领域,买家对卖家的商品持有喜欢、不喜欢的态度;国会议员对议案进行投票,投票的结果是支持或反对。 为解决上述问题,本文提出了基于节点多方面性的符号网络表示学习方法和基于节点间邻近性的符号二部网络表示学习方法。本文所做的主要工作如下: (1)本文提出了基于节点多方面性的符号网络表示学习方法MUSE,将节点的不同方面整合到表示学习的过程中。通过注意力机制计算节点间相同方面和不同方面间表示向量的重要性系数,然后用于目标节点聚合邻域特征信息的过程中。聚合邻域特征遵从符号网络的结构平衡理论,分别为目标节点聚合平衡、不平衡的节点向量表示。最终的节点表示用于下游的链接符号预测任务,实验验证了算法的有效性。 (2)本文提出了基于节点间邻近性的符号二部网络表示学习方法SBiNE,将节点表示的学习融入到深度学习模型中。没有链接直接相连的同类型节点与之共同的邻域节点间具有相同的积极、消极态度理应表现出二阶相似,于是基于节点的一阶、二阶邻近性设计了适用于符号二部网络的目标函数,为节点学习低维表示。最后,在符号二部网络数据集上进行了大量实验,实验结果验证了SBiNE的有效性。

关键词： 多任务   环境感知   半监督学习   伪标签   视觉导航  

摘要： 视觉导航是当前深度学习研究的热门领域。环境感知作为视觉导航中最重要的模块之一,包括目标检测、车道线检测、可行驶区域分割等,是一项极具挑战性并具有深远意义的任务。传统的深度学习算法通常只解决环境感知中的一个检测任务,无法满足视觉导航同时感知多种环境因素的需求,因此多任务学习引起了研究人员的广泛关注。深度学习是以数据驱动的,然而数据标注的过程极为繁琐,在多任务学习中该问题更加凸显。半监督学习可有效利用大量未标注图片的特征,丰富训练数据集并提高模型检测效果,简化了数据标注的过程。本文围绕视觉导航中多任务学习和半监督学习开展相关研究,主要工作和成果如下:1.针对视觉导航中现有多任务环境感知方法精度不高的问题,本文提出了一种基于YOLOv5的多任务环境感知算法,能够同时完成目标检测、车道线检测和可行驶区域分割任务。本算法编码部分以CSPDarknet作为骨干网络,通过多个池化层级联的方式,加快空间金字塔池化的速度。目标检测的检测头采用自上而下的多尺度结构,车道线检测和可行驶区域分割的检测头采用实时语义分割网络ENet。本文为语义分割任务设计了单独的特征金字塔结构,提高了车道线检测准确率,损失函数引入了鲁棒性更强的α-IoU计算目标检测的损失。实验表明,在BDD100K数据集和科大西区自制数据集上,本文所提多任务环境感知算法在精度和速度上都优于现有的其他多任务网络。2.针对多任务学习中图像标注繁琐的问题,本文提出了一种基于伪标签的多任务半监督学习方法。首先,本文对半监督训练方法STAC增加了伪标签更新的策略,在训练过程中,教师模型和学生模型不断迭代,根据未标注图片的推理结果对伪标签进行更新。其次,本文结合一致性学习方法,采用两个同结构但不同初始化的网络,进行交叉监督训练,引入一致性交叉损失计算损失函数,提高了未标注图片的标签稳定性。实验表明,本文所提基于伪标签的多任务半监督学习方法优于监督训练方法和半监督训练方法STAC。3.为了验证本文所提算法在视觉导航中的有效性,本文在科大西区搭建了校园无人车实验平台。实验表明,本文所提算法在校园视觉导航平台中对直线行驶纠偏和路口转向行驶起到了重要作用,满足了实际的工程需求。

关键词： 集成学习   双进化机制   进化搜索   决策树优化  

摘要： 由于信息技术的迅速发展,使得数据具有海量、复杂和快速变化的特征。如何从海量数据中挖掘出内在规律,为决策提供支持受到人们广泛的关注。集成学习通过串行或并行方式生成不同的基分类器,并将预测结果结合起来,以做出更明智的决策。这种组合可以有效地解决单一个体的缺陷,提高集成分类器的构造效率和泛化性能。但这种机制不能充分发挥基分类器之间的交互协作优势,无法对基分类器的形态结构和集成分类器的组合结构进行同步优化。集成学习的难点在于如何设计合适的集成,例如集成规模的大小,集成成员的选取,以及超参数的设置等,这些都会导致集成模型的性能很大程度上依赖于人为的设计决策。本文将进化算法用于基分类器的生成和集成的构造,对有关的理论和技术进行了深入的研究,并在此基础之上实现了两个层次进化之间的协同优化,完成的主要内容如下:(1)基于语义结构和行为多样性的决策树进化搜索机制。决策树是一种树形模型,其中间节点是判断特征值的一个函数,而叶子节点则是一系列函数运算的结果。本文将决策树作为双进化集成的基分类器,利用进化算法对决策树进行优化。从语义结构和分类行为两个角度增加决策树的多样性,使用多目标适应度函数来调节决策树的分类性能和复杂度。拆分和融合算子实现了对决策树结构的不同粒度优化,并引导决策树在进化过程中学习组合知识,从而提高集成模型的泛化能力。(2)基于双进化的集成协同搜索机制。构建集成模型时,在底层决策树进化的基础上,根据决策树之间的组合效果,动态优化集成组合以及决策树结构。通过两个进化搜索之间的协同机制,提高了集成的分类能力和可解释性,同时降低了集成系统的复杂度。通过22个分类数据集对所提方法的性能进行了验证,结果表明双进化机制能有效地减少集成冗余结构,提高集成泛化性能,并且构造的决策树复杂度低且可解释性强。(3)针对目前临床医学上的诊断问题,将双进化集成学习算法应用于威斯康星州乳腺癌早期诊断和术后复发预测的研究中,实验结果表明双进化机制构造的集成模型不仅具有良好的分类效果,而且通过删除冗余结构可以有效的提高模型的可解释性。从模型中提取的决策规则可以根据实际情况进行调整和更新,为医生诊断过程提供一种具备准确性和可解释性的方案。通过以上研究,本文完成了对分类问题的双进化集成学习方法研究,并且在医疗问题中具有一定的实用价值。尤其是双进化集成方法无须预先设置集成结构,实现了集成的自动构建,从而降低了人为决策的干扰。

关键词： 强化学习   深度强化学习   多智能体深度强化学习   Q学习  

摘要： 随着深度机器学习与人工智能的迅猛发展,强化学习作为最接近“强人工智能”范畴的机器学习方法已成为近年来的热门研究方向。强化学习采用无监督的方式进行“试错”学习,智能体基于自身经验学习最优策略,无需预先标注好的样本或大量的先验知识,对于解决动态场景下的复杂问题优势明显,应用潜力十分巨大。目前,对于强化学习的研究主要集中于深度强化学习以及多智能体深度强化学习两个方面。对于深度强化学习,已有越来越多不同种类的算法以及相关优化技术被提出,其中部分方法已经可以被成熟地应用于实际场景,解决实际问题,例如游戏对战、电子对抗、无人机控制等领域。对于多智能体深度强化学习,近年来已有多种方法被提出可以很好地解决多智能体环境下智能体协作或竞争关系、信息共享以及奖励分配等问题,对于民用和军用都具有极高的研究价值和研究意义。软“演员-评论家”算法(Soft Actor Critic,SAC)是近年来较为新颖且性能较优的AC框架下的深度强化学习算法,在一系列连续性动作环境中表现出了最优性能,但其中也存在一些问题。首先,与其他深度强化学习算法类似,SAC算法中也存在Q值高估偏差问题,且原算法对于Q值高估偏差的解决方案会使得智能体出现过度悲观估计,存在缺陷;其次,对于稀疏奖励环境,SAC算法的探索性仍然不足,算法性能较差;然后,已有的经验回放策略无法在稀疏奖励环境中充分地利用探索性较强的经验条目以加快智能体的学习速度,存在缺陷;最后,对于如何在多智能体稀疏奖励环境中提升算法性能,现有的研究仍不充分。本文针对上述四方面的问题,分别基于SAC算法提出三点改进,并将改进后的单智能体算法拓展到多智能体稀疏奖励环境中。本文主要研究内容涉及如下几方面:(1)本文提出了基于不确定性正则项校正的SAC算法——URC-SAC算法。算法中引入基于智能体认知不确定性的惩罚项、平均Q值估计以及最大化Q值估计,在控制Q值高估偏差的同时避免智能体的过度悲观估计,提升算法性能。(2)本文将RND机制与URC-SAC算法加以结合。同时,提出一种基于RND机制改进的优先级经验回放策略,与URC-SAC算法加以结合。分别从探索性和利用性两个方面提升智能体在稀疏奖励环境下的性能。(3)本文将上述结合了RND好奇心机制以及改进的经验回放策略的URCSAC算法拓展到多智能体环境,提出MA URC-SAC算法,在多智能体稀疏奖励环境中提升算法性能。(4)本文分别基于Open AI gym下的Mu Jo Co、Classical Control以及Multiagent-particle-envs环境从不同指标对比算法性能,证明本文提出的改进方法可以较好地解决上述三方面问题,取得较好效果。

关键词： 知识图谱   分布式表示   嵌入向量   认知智能   知识推理  

摘要： 随着认知智能时代的到来,越来越多的智能应用更加关注学习结果的可解释性和大数据中蕴含的知识。面对这一需要知识赋予智能的需求,知识图谱以其大规模、自动化的知识获取特点和可解释、可推理的知识应用特点为认知智能赋能,被广泛应用于智能搜索、问答系统和个性化推荐等场景。然而,传统离散符号式知识表示方法在应对现代知识图谱的大规模需求、语义关联性度量及深度模型应用等方面受到了限制。近年来,受自然语言处理领域分布式假说的启发,知识图谱分布式表示方法为解决上述问题提供了思路:通过将知识图谱中的实体和关系表示成低维的数值向量,从而将对应的语义信息嵌入到稠密、连续的向量空间中,具有高效实现语义关联性计算、易于捕获隐性知识、易于与深度模型集成的优点。因此,知识图谱分布式表示学习逐渐成为现阶段知识图谱领域的热门研究方向。受分布式假说启发,知识图谱分布式表示认为知识图谱中的实体和关系的语义取决于其周围的分布。但是,由于数据的“不完备性”导致知识图谱普遍存在的数据稀疏问题,使得现有方法也无法较为准确地学习出长尾实体的表示,在知识推理相关任务上往往准确率较低。此外,现代知识图谱的规模化需求使得现有方法很大程度上仍旧依赖弱逻辑约束,无法充分表达知识图谱蕴含的复杂知识结构如网状结构和动态结构,为知识图谱分布式表示带来了挑战。为此,本文在深入调研和分析之后,在知识图谱分布式表示学习领域开展了以下三个创新性研究工作:(1)面向数据稀疏问题,提出了一种融合实体描述信息的知识图谱分布式表示学习方法,将实体描述信息作为知识图谱中已有结构化信息的辅助与补充,为其提供更加深入的细节描述并挖掘可能遗漏的新知识,增强长尾实体的表示。首先,针对实体相关语义抽取不足的问题,提出了基于分层双向长短期记忆网络和预训练语言表征的实体描述信息编码模型,有效地抽取实体描述中包含的丰富语义信息。其次,针对文本空间与知识空间融合不足的问题,提出了一种知识约束与对齐方法,能够同时从结构三元组和实体描述中学习实体表示,并实现文本空间和知识空间的交互式融合对齐。在知识图谱补全任务上(全部及长尾案例数据)的实验结果充分证明了上述方法能够帮助建立更好的知识图谱表示并增强长尾数据的表示。(2)面向网状知识结构问题,提出了一种基于图邻域结构信息的知识图谱分布式表示学习方法,通过考虑知识图谱所蕴含的多步关系路径、节点邻域等图结构特性,从另一个角度更加丰富的刻画实体和关系的网状语义分布。首先,针对多步关系路径语义抽取的问题,提出了一种基于局部和全局注意力的多步关系路径编码模型,在对单条路径编码的基础上,考虑实体对之间的多条路径的局部和全局注意力进行编码。其次,针对实体邻域信息聚合问题,提出了一种基于图注意力网络的分层结构模型:邻域级注意力→层级注意力,有效地聚合多步邻域信息。在知识图谱补全任务上(实体及关系预测)的实验结果充分证明了上述方法能够有效地利用图结构信息学习实体和关系的分布,增强知识图谱分布式表示的知识推理能力。(3)面向动态知识结构问题,提出了一种基于时序历史记忆的知识图谱分布式表示学习方法,从双过程理论的角度解决实体和关系随时间发展的非线性演化及不确定性给知识图谱表示带来的问题。首先,提出了基于直接历史线索和关联历史线索作为预测未知事实的线索信息的重要性。其次,提出了一种可以同时考虑历史线索重复次数与时间轴趋势的滤波函数,实现更为细致的复制推理。最后,提出了一种改进的自注意生成机制,可以促使模型关注与待预测事件更为相关的实体词汇,并赋予模型从头开始预测的能力。在时序知识图谱补全任务上(未知事实推断)的实验结果充分证明了上述方法能够有效的增强时序知识图谱分布式表示的知识推理能力。

关键词： 大跨斜拉桥   拟静力响应   相关模式   健康诊断   机器学习   结构健康监测  

摘要： 交通运输是人民安全出行和经济社会运转的坚实保障,其中桥梁将江河、峡谷这样的交通天堑变为通途。大跨度桥梁承载重、服役环境恶劣、受力复杂,严重威胁桥梁服役安全。结构健康监测广泛应用于大跨桥梁,通过监测环境、荷载和结构响应对结构进行健康诊断。由于初始残余应力和缺陷、车辆和温度等荷载与结构损伤共同影响结构响应,监测数据包含桥梁状态及环境、荷载的综合信息,不能直接由结构响应数据诊断桥梁健康状态。如何挖掘与环境、荷载无关但与结构参数有关的特征是结构健康监测的核心科学问题之一。研究响应之间仅与结构参数有关的相关模式是一个切入点。本文基于机器学习挖掘数据相关特征的优势,探索监测数据的相关模式,以消去荷载与环境影响,提取结构信息,发现新健康指标,研究基于监测数据相关模式的健康诊断方法。本文主要研究内容如下: (1)研究大跨斜拉桥车致竖向变形相关模式与健康诊断方法。首先,将双侧拉索支撑桥梁横截面简化为简支梁模型,分析竖向变形沿横桥向的相关特征,提出上下游车致竖向变形比指标,采用聚类算法和EM算法识别不同车道竖向变形比作为桥梁健康诊断指标;其次,分析桥梁影响线,提出桥梁纵向不同截面竖向变形绝对值积分比指标,该指标仅与桥梁结构参数有关而与荷载无关,从而发现了桥梁健康诊断新指标。最后,提出基于健康诊断指标控制图分析的健康诊断方法,并采用某大跨斜拉桥健康监测数据对所提方法进行验证。 (2)建立基于Bi LSTM网络的斜拉桥车致竖向变形和车致索力时序相关模型。首先,分别以所有可用竖向变形通道和索力通道为输入和输出,建立斜拉桥竖向变形与索力时序相关的全桥整体Bi LSTM模型;其次,为解决个别传感器损坏将对整体模型造成不良影响的问题,构建基于Sobol’灵敏度的局部Bi LSTM模型,对于某给定斜拉索,基于Sobol’灵敏度选择仅含少数竖向变形通道的组合作为输入。最后,采用某大跨斜拉桥健康监测数据对所建模型进行验证,对比整体模型与局部模型学习效果,分析温度、噪音和车流量对所提模型的影响。 (3)研究基于域转换网络的斜拉桥车致竖向变形和车致索力分布相关建模与健康诊断方法。首先,对车致竖向变形和车致索力时程数据进行核密度估计,得到竖向变形PDF和索力PDF,作为域转换网络的输入和输出;其中类内重构和类间转换分别通过变分自编码器和生成对抗网络实现,竖向变形PDF与索力PDF之间的相互转换能力通过共享隐空间和循环一致性限制保证;然后,Wasserstein距离用以衡量预测PDF与实测PDF之间的相似度,作为斜拉索健康诊断指标。最后,采用2座大跨斜拉桥健康监测数据验证所提方法的转换效果及斜拉索健康诊断效果,对其中一座斜拉桥进行有限元分析对比索力和竖向变形对斜拉索损伤的敏感度。 (4)研究基于Transformer的斜拉桥温度和温致应变相关建模与健康诊断方法。首先,通过力学分析对比趋势项和车致项对损伤的敏感度,并分析温度与温致应变的时滞特点;其次,建立温度-温致应变Transformer模型,分别以温度和应变趋势项作为模型输入和输出,其中编码器学习温度的深度表达,解码器学习温度-应变和应变-应变之间的相关性;然后,通过对应变重构误差的控制图分析进行桥梁健康诊断。最后,采用2座大跨斜拉桥健康监测数据验证所提方法的健康诊断效果及模型改动有效性。

关键词： 环状RNA   RNA结合蛋白   疾病   机器学习   病毒circRNA  

摘要： 环状RNA(circular RNA,circRNA)是由反向剪接形成的共价闭合单链RNA分子,表达稳定。研究表明,circRNA与RNA结合蛋白(RNA binding proteins,RBP)相互作用,与多种疾病关联,是癌症诊断和治疗中新兴的生物标记物。另外已经在被病毒感染的人体细胞中发现了病毒circRNA,它们会干扰免疫系统并诱发包括人类癌症在内的疾病。因此,对circRNA进行系统研究是当前生物信息学领域的研究热点之一,开发有效的计算方法仍是未来的工作重点。本文旨在基于circRNA的多种生物数据,建立计算模型识别circRNA分子、预测circRNA-蛋白质的相互作用位点、预测circRNA-疾病关联,及对病毒circRNA进行功能分析。本文的主要研究内容如下:(1)基于改进极限学习机算法的circRNA预测研究论文首先根据circRNA的成环特点构建反向补体匹配特征(reverse complement matching,RCM)编码circRNA,及利用保守分数、图结构和核酸组成等方法编码circRNA。然后使用最大相关最大距离(max-relevance-max-distance,MRMD)方法进行重要特征选择。随后使用粒子群算法(particle swarm optimization,PSO)对极限学习机(extreme learning machine,ELM)算法进行优化,提高模型的性能。最后,在2个数据集上,使用构建的模型Cir RNAPL实现circRNA与lnc RNA、在干细胞表达的circRNA与未在干细胞表达的circRNA的区分。通过十折交叉验证(ten-fold cross-validation,TFCV)和独立测试集验证证明了Cir RNAPL模型的分类准确率、鲁棒性和可扩展性。(2)基于集成多尺度残差网络的circRNA-RBP相互作用位点预测研究为了学习有效的circRNA的文本语义信息,论文构建Circ2vec特征编码方案。并计算k-nucleotide频率、电子离子相互作用势(electron-ion interaction potential,EIIP)特征、核苷酸的化学特性及积累核苷酸频率(Accumulated nucleotide frequency,ANF)对序列进行编码。然后使用深度多尺度残差网络(multiscale residual network,MSRN)和具有自注意机制的双向门控递归单元(bidirectional gated recurrent units,Bi GRUs),提取局部和全局上下文信息,学习高层次的特征表示。并结合Adaboost集成算法构建学习模型CRBPDL。最后论文在37个circRNA数据集和31个线性RNA数据集上验证CRBPDL的有效性。(3)基于图马尔科夫神经网络的circRNA-疾病关联预测研究论文首先整合已知的circRNA-疾病关联数据,使用高斯核相互作用核分别计算circRNA、疾病的相似性网络,使用疾病间的有向无环图构建疾病的语义相似网络。然后提出一个基于图马尔科夫神经网络(graph markov neural networks,GMNN)的计算模型GMNN2CD,集成变分推断和图自动编码器,实现circRNA-疾病的预测。设计特征推理网络用于从circRNA和疾病的特征来推断表征,设计标签传播网络从已知的circRNA-疾病关联中传播标签。采用变分(expectation-maximization,EM)期望最大化算法交替训练两种自编码器。最后,使用5折交叉验证(five-fold cross-validation,FFCV)证明GMNN2CD在circRNA-疾病关联预测方面的先进性,使用案例分析证明GMNN2CD的预测性能。(4)病毒circRNA特征分析及功能研究病毒可以编码circRNA,在多种单链和双链病毒中都发现了病毒circRNA。然而,病毒circRNA的特征和功能仍然未知。论文首先对23种病毒circRNA进行系统分析,然后对冠状病毒中circRNA针对性分析。在综合分析时,论文对病毒circRNA序列进行比对分析其保守性;基于病毒circRNA序列提取RCM、保守分数特征、图结构特征、组成特征,比较病毒circRNA和一般动植物circRNA的序列特征差异;分析病毒circRNA与微RNA(micro RNA,mi RNA)相互作用,并进行了基因本体(Gene Ontology,GO)和京都基因与基因组百科全书(kyoto encyclopedia of genes and genomes,KEGG)通路分析。然后,通过分析源自RNase R处理的冠状病毒SARS-Cov1和SARS-Cov