关键词： 地物分割   深度学习   多模态数据   注意力机制  

摘要： 地物分割作为遥感领域中的重点研究问题之一,一方面直接影响土地利用和土地覆盖变化动态监测等下游任务,同时城乡规划,森林保护,水源监测等诸多领域广泛采用地物分割结果用作问题分析。精确的地物分割结果可以帮助人类实时了解自然动态,带来更好的社会、经济和环境效益。因此,基于遥感卫星提供的实时影像进行及时而准确地分割显得十分重要。现有基于深度学习的地物分割工作对于遥感影像的全局信息利用不够充分,没有针对多通道遥感影像的特点,在模型上进行针对性结构设计。针对上述问题,本文从多通道数据的特点入手,提出了一个新颖的模型结构,并以此为基础,设计了一个通用框架,以求问题的解决。本文的主要工作整理如下: (1)本文提出了基于Transformer的双分支地物分割模型(DBFormer)。针对多通道遥感影像输入数据模态不一致问题,该模型提出双分支编码器的结构设计,保证可见光与近红外的特征信息在模型编码时不会受到不同模态数据的影响;针对现有语义分割模型无法充分提取全局信息的问题,该模型通过基于Transformer的骨干网络Swin-Transformer进行特征编码,更好地对全局信息进行建模;针对不同模态特征融合不充分问题,该模型基于Transformer的融合模块(TBFM),对不同模态数据间的特征互补关系进行建模,确保各模态的特征均得到充分利用;针对模型较大导致的优化问题,该模型通过构建辅助损失来加速模型收敛,降低优化难度,提升模型精度。DBFormer在大规模真实的公开遥感数据集上进行了评估,实验结果证明DBFormer可以有效地将多通道数据信息进行充分利用,其性能优于现有方法。同时通过消融实验,分别证明了基于Transformer的骨干网络相较于卷积神经网络可以更好地提取全局信息,提升模型性能;TBFM相较于现有的融合方法,可以更充分地将各模态信息进行融合;辅助损失的使用可以加速模型收敛,提升模型性能。 (2)本文在第一项工作的基础上,进一步提出了通用双分支地物分割框架(GDBFramework)。不同于先前的工作,该工作并未提出特定的模型,而是通过构建一个通用框架,使可见光数据下表现良好的语义分割模型可以基于该框架解决多通道遥感影像下的地物分割任务。为解决多通道数据模态不一致问题,该框架参考本文第一项工作,在不改变模型精心设计的编码器和解码器结构的前提下,通过双分支结构的拓展,充分挖掘多模态数据间的互补信息,提高了基于单模态数据设计的编码器-解码器模型面对多光谱数据时的表征能力;针对不同模态数据特征融合问题,该框架提出高效多光谱注意力模块(Efficient Multi-Spectral Attention Module,EMSAM)。该模块对特征通道数和尺寸不敏感,通过相较于TBFM更少的参数进行特征融合。并在训练过程中引入额外的解耦函数,避免冗余特征的学习,提升融合特征的多样性,实现对模型性能的提升。本文针对三个在语义分割任务中表现出色的模型上开展实验,结果显示使用GDBFramework后的三个模型在多通道数据输入场景下,其性能均实现了提升,证明了GDBFramework的有效性。在消融实验中,通过对比EMSAM与TBFM和其他注意力模块,证明了EMSAM的高效性;通过对比解耦损失使用前后的模型性能,证明了解耦损失的有效性。

关键词： 图像分类   噪声标签   困难样本感知   标签纠正  

摘要： 随着深度学习的发展,医学图像分类技术得到了显著的提高。深度学习需要大量有标签的数据。由于医学专家对样本进行标注费时费力,且从众包中收集标签可能会引入噪声标签,而深度神经网络(Deep Neural Networks,DNN)很容易过度拟合噪声标签数据,不利于深度神经网络的训练,降低分类器的准确性。因此,人们迫切需要能够有效处理噪声标签的方法。然而在医学图像领域上缺乏在深度学习中处理噪声标签的研究。解决噪声标签问题,关键是要减轻这些噪声标签的影响,现有的许多方法都试图根据损失值将训练数据分类为干净的和有噪声的数据子集,然后对有噪声标签的数据进行不同的处理。其中提升模型性能的关键是要处理好困难样本,然而困难样本无论标签是干净的还是有噪声的,都会有相对较大的损失,因此目前的方法都无法精确地分类困难样本。本文针对以上问题展开研究,研究成果如下。(1)本文提出了一个新的样本分类准则,基于双网络的预测结果是否一致,以及网络的预测结果与样本给定标签是否一致,将训练样本初步分类为干净样本、困难样本和噪声样本,针对不同的样本进行分类处理,从而在噪声数据集上模型依然能够有效地进行训练。(2)本文提出了样本检测方案,基于初步分类的干净样本、困难样本和噪声样本进一步准确分类,并将其集成到本文的标签纠正阶段中,实验表明该方案可以使得原始数据集更加干净,并保留更多的困难样本。(3)在以上两点的工作基础之上,本文进一步提出了一种协同学习方案来训练噪声鲁棒分类模型,为了减少噪声标签的危害丢弃更多噪声样本,同时最大限度地提高困难样本的价值。大量实验表明,不管是在人工噪声数据集还是真实噪声数据集上此算法不仅仅可以更精准得纠正原始数据集中的错误标签,还可以在原始数据集上对抗噪声标签干扰进行鲁棒分类,与最先进的方法相比有了实质性的改进。

关键词： 量子计算   量子机器学习   参数化量子线路学习方法   参数化量子线路  

摘要： 量子计算作为一种可为经典计算带来“量子加速”的新型计算模式,引起了科学界的广泛关注。随着经典人工智能技术的进步,基于量子计算和经典机器学习方法的量子机器学习技术亦蓬勃发展。然而在有限的量子计算资源制约下,量子机器学习算法面临着线路复杂度高、受噪音影响、应用落地困难等难题。参数化量子线路作为量子机器学习领域的核心技术之一,因其线路具备简约性和可学习性等优势,为量子机器学习算法克服当前面临的困难提供了切实可行的方案。因此,研究并设计出高效且面向应用场景的参数化量子线路学习方法,成为了量子机器学习发展中所必须突破的瓶颈问题之一。 本文对参数化量子线路学习方法及应用进行了深入研究,针对量子机器学习面临的线路复杂度高、受噪音影响、应用落地困难等挑战,提出了参数化哈密顿量子线路学习方法和孤立参数化量子线路学习方法,并在计算机视觉和数据分类方面对参数化量子线路学习方法的应用进行充分挖掘,通过大量的实验结果验证了所提方法的可行性和高效性,证明了参数化量子线路学习方法对于解决实际问题具有良好的性能,为日后进一步深入研究量子机器学习提供科学的理论和技术基础。本文的主要工作如下: (1)提出参数化哈密顿量子线路学习方法,可以精确地表示量子系统演化,指数级的减少了量子资源的使用,有效降低了量子线路的复杂度,增强了参数化量子线路的表达能力,为在量子器件资源有限的前提下实现量子机器学习算法和应用方案提供了科学的理论依据。 (2)提出孤立参数化量子线路学习方法,具备一定的抗噪能力,提升了参数化量子线路的学习能力,为受噪音影响的量子机器学习算法及应用设计奠定坚实的理论基础。 (3)面向计算机视觉任务和数据处理任务,设计了基于参数化哈密顿量子线路学习的量子图像分割算法和基于孤立参数化量子线路学习的量子分类器,实现了参数化量子线路学习方法在应用场景上的推广,成功验证了参数化量子线路学习方法在解决不同类别的数据处理问题上存在潜在优势,为量子机器学习在实际应用领域的发展打下了坚实基础。 本文包含图38幅,表13个,参考文献105篇

关键词： 心肌缺血-再灌注损伤   肉桂   药物-靶点相互作用预测   网络药理学   深度学习  

摘要： 心肌缺血-再灌注损伤(Myocardial Ischemia-Reperfusion Injury,MIRI)是急性心肌梗死的一种常见并发症,它的发生会加重心脏功能障碍,增加急性心肌梗死不良预后发生的可能性,严重危害人类健康。尽管近些年来对于MIRI病理机制的理解有了很大的进展,但是目前的临床治疗效果仍然有限。而肉桂由于其具有抗氧化、抗炎和调节免疫反应的特性,已经被证明存在治疗MIRI的潜力。为了探索肉桂治疗MIRI的作用机制,更重要的是发现主要的活性成分及其作用靶点,其中网络药理学方法是最常用的方法之一。不过,由于传统的网络药理学方法主要依靠现有的药物和疾病数据库来收集相关的成分和靶点,且能获取到的化合物和作用靶点是有限的。而药物-靶点相互作用(Drug-Target Interactions,DTI)预测则可以根据已知相互作用关系的药物-靶点对去预测未知的关系,是最直接的发现潜在作用靶点的方法。因此,本研究开发了DTI预测模型去获取更多的肉桂活性成分的作用靶点,从而增加网络药理学分析和预测的准确率,主要做了以下工作:(1)提出基于深度学习的DTI预测方法。DTI预测方法通常使用药物和靶点序列信息或结构信息来进行特征学习。此外,药物原子和氨基酸之间的复杂相互作用在建模中也是值得注意的。因此,本文提出了基于深度学习的DTI预测模型GELA-DTI,通过将药物的SMILES结构式转换为分子图后利用联合模型进行特征表示学习,对于靶点的氨基酸序列则使用预训练模型Bio-Embeddings进行嵌入表示后利用Bi-LSTM进行特征表示学习,并引入注意力机制来建模原子与氨基酸之间的分子间相互作用。实验对比表明,GELA-DTI要优于最先进的基线方法。此外,本研究还通过消融实验来进一步理解GELA-DTI各部分的效果,并设计了基于动脉粥样硬化的案例分析证明了其具有实用价值。(2)提出融合DTI的网络药理学方法。传统的网络药理学分析方法主要通过药物和疾病数据库获取相关的活性成分和靶点,然后对活性成分的作用靶点和疾病靶点取交集后进行蛋白质-蛋白质相互作用分析,并设置阈值筛选关键靶点。此后,再对关键靶点进行富集分析,构建活性成分-靶点-信号通路的网络,并对其进行拓扑结构分析,从而得到核心成分和核心靶点。在此基础上,本文融合了DTI预测的方法,补充了873个肉桂的作用靶点,进行后续的分析和分子对接验证后,得到了6个核心活性成分(油酸、棕榈酸、β-谷甾醇、花旗松素、丁香酚和肉桂醛)、3个作用靶点(PTGS2,GSK3B和MAPK14)和4个信号通路(PI3K-Akt,MAPK,IL-7和HIF-1)。通过斑马鱼实验,初步表明花旗松素对于心肌缺血-再灌注损伤的治疗可能存在积极的作用。

关键词： 知识图谱   表示学习   知识图谱补全  

摘要： 知识图谱旨在将人类知识以结构化的方式组织起来,是人工智能研究的重要支撑。目前大多数知识图谱中尚有大量实体间隐含关系未被发掘导致图谱不完整,因此,知识图谱补全成为亟需解决的问题。知识表示学习是目前知识图谱补全的主要方法之一,本文基于不确定知识图谱对面向知识图谱补全的知识表示方法进行深入研究。针对现有不确定知识图谱表示学习方法还存在对辅助信息利用不足,以及在训练中会出现伪负样本的问题,本文主要研究内容如下:(1)基于语义增强的框嵌入知识表示学习方法研究。针对现有知识表示模型忽略辅助信息的不足,提出基于语义增强的框嵌入知识表示学习模型。首先将头尾实体及关系连接成的单词序列编码为单词嵌入序列,然后使用注意力机制和BiLSTM网络结构将带有置信度的头尾关联信息的语义特征映射到框嵌入学习表示空间,作为框嵌入的初始化特征,最后通过框嵌入对三元组进行表示学习。实验表明,本文提出的模型在公开数据集上,较其他表示学习模型,效果得到提升。(2)基于半监督学习的知识图谱表示学习模型方法研究。针对现有模型在训练中造成大量假性负样本的问题,提出基于半监督学习的知识图谱表示学习模型,通过利用估计的置信度采集负样本,同时利用基于语义增强的框嵌入知识表示模型计算采集样本的置信度,不仅将图谱中不存在的样本作为负样本处理,而且重新评估其置信度,来缓解伪负样本问题。实验验证了方法的实用性和有效性。(3)设计并实现知识图谱补全系统。该系统集成了基于语义增强的框嵌入知识表示学习方法和基于半监督学习的知识图谱表示学习模型方法,实现了知识图谱补全功能并验证了将本文提出的模型具有实用性。该系统实现了知识查询、知识图谱补全、置信度评估和数据管理的功能。

关键词： 土壤湿度   数据重建   深度学习   卫星遥感   长时间序列  

摘要： 土壤湿度是影响地球表面和大气之间水循环与能量循环的重要因子,准确获取土壤湿度的时空分布情况对于相关研究的开展具有重要意义。目前,卫星遥感是获取空间上大范围土壤湿度数据的重要手段,但基于卫星遥感反演得到的土壤湿度数据仍然存在着较大的数据缺失问题,限制了相关研究的开展。针对卫星遥感土壤湿度数据的时空缺失的情况,本研究首先基于CCI与CM两套卫星遥感融合得到的土壤湿度数据,使用卷积神经网络深度学习重建方法进行全球土壤湿度单变量重建,获得全球长时间序列时空完备土壤湿度数据;然后基于CCI卫星遥感融合得到的中国土壤湿度数据以及基于观测数据插值得到的中国降水、气温、相对湿度、日照时数和风速多变量CN05.1数据,使用卷积神经网络深度学习方法进行土壤湿度数据多变量重建,以获得中国长时间序列时空完备土壤湿度数据;最后利用全连接神经网络对鄱阳湖流域重建数据进行精细栅格化重建,以获得鄱阳湖流域高空间分辨率长时间序列时空完备土壤湿度数据。本研究的主要研究结论如下:（1）在全球土壤湿度单变量重建研究中,通过增加模拟缺失的交叉验证实验证明了所使用的卷积神经网络深度学习方法进行单变量重建的可行性与有效性;所使用的深度学习单变量重建方法可以有效学习数据的时间与空间信息来进行重建,重建数据的空间特征、时间特征与数据分布特征都与原始数据有着较高的一致性;通过与站点观测数据的比较结果表明,重建数据有效保留了原始数据的数据质量特征,与站点比较的四个评价指标综合结果表明CCIrec的整体质量优于CMrec;从全球土壤湿度数据一致性分析的结果中可以看出,CCIrec和CMrec在全球大部分地区都呈高度的正相关关系,只在中国西南部和撒哈拉沙漠区域差异较大,表现出轻微的负相关。（2）在中国土壤湿度多变量重建研究中,模拟缺失的交叉验证重建结果表明本研究使用的卷积神经网络深度学习方法进行多变量重建也具有较高的可行性与有效性;单变量与多变量重建数据的空间特征与时间特征在总体上与原始数据有着较高的一致性,但多变量重建数据的时间与空间细节特征的表现比单变量重建数据更好;相比于原始数据,单变量与多变量重建数据都在数据质量上有了一定的改善,四个评价指标综合结果表明CCImv的整体质量优于CCIsv;从模拟连续多日缺失的结果中可以看出,CCImv由于使用了其他辅助变量,使得其整体重建效果明显优于CCIsv,且对于数据的时间与空间的细节刻画能力要明显强于CCIsv。（3）在鄱阳湖流域土壤湿度精细栅格化重建研究中,模型训练损失函数与测试集重建结果表明,本研究使用的全连接深度学习方法无论是使用前133个分量还是使用全部分量进行重建都具有较高的可行性与有效性,且使用前133个分量训练得到的最优模型与使用全部分量的最优模型的重建效果与表现基本一致;重建数据的空间分布格局以及逐日最大值与均值的时间序列与原始数据相比有着较高的一致性,表明重建数据的空间与时间重建效果较好;从与站点数据的比较结果中可以看出,重建数据有效保留了原始数据的大部分的数据质量特征,重建数据与站点数据的时间相关系数有了一定的提升。

关键词： 图像超分辨   人脸盲超分   有监督   无监督   鉴别性先验  

摘要： 人脸图像代表一个人的身份属性,一直是图像处理和计算机视觉领域的关键研究对象之一。尽管目前基于深度学习的人脸超分算法已经取得了较大的进展,但现有超分模型预假设的退化与现实世界的复杂退化往往不一致,导致大部分的超分网络不适用于复杂成像环境。基于此问题,本文一方面从构建有效且鲁棒的有监督超分网络入手,另一方面从基于鉴别性先验的无监督优化模型出发,探讨如何在复杂未知退化条件下提升人脸超分深度方法的泛化性能。具体而言,本文开展了以下研究工作:1、考虑到注意力机制有助于人脸超分模型更好地关注复原人脸的特征,本文将自然图像超分模型ELAN作为基准方法,以此讨论如何将之优化适配到人脸图像。一方面,为了提高训练稳定性与学习模型的精度,本文用Mish激活函数代替Re LU激活函数;另一方面,为应对复杂场景下捕捉到的人脸可能产生形变的问题,本文在ELAN的基础上添加空间变换网络模块,最终提出名为ELAN+的人脸超分模型。为了探究ELAN+在人脸盲复原问题上的泛化性能,进一步选用更接近复杂场景退化方式的EDFace-Celeb-1M数据集重新训练测试ELAN+。实验结果表明,当人脸退化为简单下采样时,ELAN+与多种代表性人脸超分方法相比达到了可媲美甚至更优越的效果;而当人脸退化复杂多样且未知时,ELAN+与新近人脸盲复原方法相比取得了最好的像素域评估结果,验证了ELAN+对于复杂退化场景的泛化潜力。2、本文进一步从无监督学习出发,借助深度生成网络构建人脸盲超分模型,通过在损失函数中新引入鉴别性图像先验,以有效提升人脸图像与模糊核的估计精度。考虑到以L0+X为代表的主流盲恢复图像先验是不可微的,本文进而结合近期盲去模糊领域的一类鉴别性重下降先验(RDP),一方面,将基于理论分析而得的RDP鉴别性先验迁移应用到无监督盲人脸超分,以拓展RDP先验的应用范围、提升盲人脸超分的效果;另一方面,受RDP启发,本文随后提出一类基于Beta概率密度函数的鉴别性先验,不仅丰富了RDP先验的方法内涵,而且验证了Beta鉴别性先验之于无监督盲人脸超分的合理性。最后,实验结果验证了基于鉴别性先验的无监督人脸盲超分方法的有效性与先进性。

关键词： miRNA-疾病关联预测   链路预测   图神经网络  

摘要： miRNA-疾病之间的关联预测一直是生物医学领域的一个热门研究方向。很多研究表明,该研究有助于从miRNA分子水平上了解疾病的致病机制,能够促进疾病的预防、诊断、治疗和预后。传统的通过生物实验进行miRNA-疾病关联的预测方法研究存在人工成本高、实验周期长和实验结果不确定性等不足,不能满足社会需求。因此,研究有效识别miRNA-疾病之间的潜在关系具有重要意义。深度学习有望加速miRNA-疾病关联预测研究进展,为理解疾病机制、开发新的治疗方法和个性化医疗 供有力的支持。本文面向生物医学复杂数据处理的深度学习方法研究,主要工作如下: (1)现有的miRNA-疾病关联预测计算模型很多,但大多数模型仅利用单一特征源,无法取表征miRNA-疾病的全面特征。为了解决这个问题,出一种基于多特征融合的miRNA-疾病关联预测模型(Multi-Feature Fusion for miRNA-disease Association Prediction,MFFMDA)。该模型利用已知的miRNA-疾病关联数据构建了六个相似性网络模块,用于更好地表述网络中节点特征,利用带有多源特征注意力的自编码器,从多源输入中获取miRNA-疾病的低维特征表达,选择三种不同的特征融合策略,生成具有丰富信息的特征组,进行潜在的miRNA-疾病关联预测; (2)MFFMDA模型有着较高的预测精度,但其预测精度依赖于外部库作为辅助输入信息。为了解决这个问题,出一种基于多视图的miRNA-疾病关联预测模型(Multi-View Network for miRNA-disease Association Prediction,MVNMDA)。该模型使用已知的miRNA-疾病的关联信息来取特征,并在多个视图上学习不同类型节点的嵌入特征,包括两个元路径供的语义特征、局部特征以及节点感知的全局特征,通过级联注意力融合多层特征,得到不同层之间、特征之间的相关性,并抑制特征中的噪音。 在HMDD v2.0和HMDD v3.2数据集上进行了大量实验,验证所出的MFFMDA和MVNMDA模型。结果表明,MFFMDA能够预测潜在的miRNA-疾病关联关系,而MVNMDA通过多个视图传递和聚合节点特征,进一步高了miRNA-疾病预测的准确性。在案例分析中,MFFMDA和MVNMDA模型对食管癌、乳腺癌和肺癌的前30位预测结果,大多数都被最新的HMDD数据库所证实,进一步证明出方法的预测能力。

关键词： 智能集群系统   集群智能   群体智能   强化学习   感知决策  

摘要： 智能集群系统是人工智能的重要分支，所涌现出的智能形态被称为集群智能，具有个体激发时的自组织性和群体汇聚时的强鲁棒性等特征.智能集群系统的协同决策过程是融合人-机-物，覆盖多元空间，囊括感知-决策-反馈-优化的复杂非线性问题，具有开放的决策模型和庞大的解空间.然而，传统的算法依赖大量的知识与经验，使其难以支持系统的持续演化.强化学习是一类兼具感知决策的端到端方法，其通过试错的方式不断迭代优化，具有强大的自主学习能力.近些年来，受生物群体和人工智能的启发，强化学习算法已由求解个体的决策问题，向优化集群的联合协同问题演进，为增强集群智能的汇聚和涌现注入了新动能.但是，强化学习在处理集群任务时面临感知环境时空敏感、群内个体高度自治、群间关系复杂多变、任务目标多维等挑战.本文立足于智能集群系统的协同决策过程与强化学习运行机理，从联合通信、协同决策、奖励反馈与策略优化四个方面梳理了强化学习算法应对挑战的方法，论述了面向智能集群系统的强化学习算法的典型应用，列举了相关开源平台及其适用算法.最后，从实际需求出发，讨论总结了今后的研究方向.

关键词： 学习意义感   数学问题链   教学设计  

摘要： 为什么要学习数学?学习数学到底有什么用?时至今日,这些仍然是许多学生困惑的问题。这也启示着,提高学生的数学学习意义感是非常重要的。问题是触发学习意义感的重要载体。因此,利用问题(尤其是问题链)进行教学应当是培养学生数学学习意义感的重要手段。反过来,为了培养学生的意义感,对原有的问题链教学又提出了新的要求。数学学习意义感不仅来自数学内部的意义和价值,还来自和学生的文化、经验的内在关联,这些是问题链教学已有研究中关注不够的。基于上述背景,主要研究:(1)如何设计指向学习意义感的数学问题链教学?(2)指向学习意义感的数学问题链教学设计效果如何? 通过理论分析发现,数学学习意义感的形成是以数学知识为载体的意义理解为基础的,依赖于学习活动中的价值体验和主体性体验中的自我完善。而数学问题链教学中所强调的情境的共鸣性、主干问题序列的内在联系性、思考时间和空间的适度性、交流与表达的充分性和学习评价的伴随性恰好为意义感的培养提供了条件,因此数学问题链教学可以促进学生意义感的培养。指向意义感培养的问题链教学需要关注以下方面:第一,多样文化关联学习过程;第二,“真情境”引发“真问题”;第三,问题脉络实现主体回归;第四,成果展示完善自我认识;第五,分层问题适切学生水平。 基于上述认识,在通过问卷调查学生已有的意义感水平后,以两则案例为载体开展实践研究。同时通过课堂观察、问卷调查、访谈等方式,对教学实践后学生的数学学习意义感进行分析,并从意义感的三个维度,即意义理解、价值体验和自我概念逐一进行报告。结果发现,数学问题链教学能提高不同水平学生的学习意义感;文化关联的问题链教学能有效促进学生的价值体验和自我概念;数学问题链教学可以辅助不同的课型促进学生的学习意义感。