关键词： 异源图像匹配   特征学习   孪生神经网络   检测与描述耦合  

摘要： 异源图像匹配(Heterogeneous Image Matching)旨在解决不同成像模态图像的特征提取与匹配问题,是计算机视觉领域的重要研究方向,在军事、医学成像、夜间监测等领域,异源图像匹配技术发挥着至关重要的作用。然而,由于多模态图像的成像机制不同,导致图像间存在显著非线性差异,使得异源图像匹配任务受到模态方差、强度或梯度差异和噪声干扰的影响。在进行异源图像匹配时,消除多模态图像间固有的影响具有挑战性,本文针对不同模态图像之间的特征学习问题,在基于端到端孪生(Siamese)和多尺度特征传递、基于特征检测和描述耦合增强的异源图像匹配两方面展开了研究。本文的主要研究工作如下: 针对异源图像匹配中难以提取稳定、判别性强的多模态特征问题,本文提出了一种特征提取与匹配框架。此框架通过改进传统孪生神经网络模型,捕获了跨模态信息的空间相关性,使得红外与可见光图像的关键特征得到准确和全面的表达;在验证待匹配图像块之间的潜在邻域共识方面,该框架引入的编码器考虑了图像中邻域特征的局部一致性,即具有相似视觉特征或语义信息的区域在空间上趋于邻近,进而实现了准确匹配;此外,通过定制的多级嵌入编码器架构,在骨干网络输出的多尺度特征图上,实现了远程特征交互与模态不变性特征的聚合,从而进一步优化了匹配精度。实验结果表明,与基准中其他方法相比,该端到端异源图像匹配方法在VIS-NIR场景数据集中取得了较优的匹配性能。 针对异源图像匹配过程中特征检测和描述阶段分离导致的匹配性能下降问题,本文提出了一种特征检测-描述联合框架,该框架基于耦合增强的多模态特征学习方法,通过制定特征检测的重复性损失和局部峰值损失函数,以及设计多模态场景描述的对比损失函数,实现了检测和描述之间的精细约束。通过引入相互加权策略,凸显了具有高检测率的特征,并保持检测率在不同模态间的局部峰值一致性。同时提出了一种具备大感受野和局部非极大值抑制块的检测器,该检测器通过扩大感受野,捕获了更丰富的上下文信息,提升特征提取的完整性;最后,通过可学习的局部非极大值抑制块,有效地过滤掉冗余的响应,提高检测的准确性和鲁棒性。实验结果表明,该特征检测-描述联合框架有效地提高了模型的异源图像匹配准确率。

关键词： 正弦型模糊熵   密度峰值聚类   遗传算法   自动机器学习   SMOTE  

摘要： 对数据进行有效的整理并进行合理归类,可以更好地储存数据,更快地提取数据以获得必要信息。根据数据是否带有可供识别的标签分为无标签数据和有标签数据,而这两种数据所用到的算法不尽相同。 针对无标签数据,需要利用无监督学习,即通过聚类算法将数据进行划分归类。本文提出利用改进的密度峰值聚类(Density Peaks Clustering,DPC)算法来进行无标签数据的聚类,但是传统的DPC算法具有对参数敏感,初始聚类中心选择非自动化的缺陷。针对以上缺陷,本文提出一种基于正弦模糊熵与三支聚类划分准则,利用遗传算法进行阈值调优的密度峰值聚类算法(GS-DPC)。本算法首先构建了正弦型模糊熵,然后运用此概念来确立三支聚类的分割标准。通过遗传算法进行自动调参,在三支聚类的结构中划分出了核心域、边缘域以及琐碎域,并最终完成聚类。该创新算法可以自动选取最优聚类中心,且对参数的敏感度较低,并可以高效筛选噪声点。 针对有标签数据,需要利用有监督学习,即通过分类算法将数据进行有效划分。传统机器学习、深度学习等算法存在构建复杂,参数难以设定等缺点,本文根据自动机器学习(Auto ML)思想,选取Autogluon算法进行数据分类。同时针对有标签数据集普遍存在的数据不平衡问题,引入SMOTE＿variants技术,融合构造出SV-AG算法来克服上述问题。本算法首先识别数据集并通过SMOTE＿variants技术选取合适的SMOTE变种算法,并对数据集进行有效过采样,使之成为平衡数据集。然后将平衡数据集输入Autogluon算法自动识别并进行模型的构建与拟合。最终,通过构建拟合的模型便可对数据进行有效的分类。该创新算法通过过采样技术可以很好克服不平衡数据集的不利影响,并通过Auto ML思想和技术进行自动堆叠与调参得到最优化模型。 结合机器学习中普遍适用的评价指标可以直观看出本文创新算法的实验结果。随后本文选择了在聚类与分类任务中比较流行的几种算法同本文算法进行比较,并结合统计学中的Friedman检验与Nemenyi检验来验证本文算法。最终通过检验可以看出本文所创新两种算法分别在各自领域占据明显优势。 综上所述,本文从实际角度出发,对于无标签与有标签两种不同类型数据的归类工作,针对性地提出了聚类与分类算法。根据实验结果并通过统计学中两种检验方法证明了本文算法的有效性与先进性,具有一定的研究意义与实际使用价值。

关键词： 贝叶斯网络   结构学习   树宽   A*搜索算法  

摘要： 贝叶斯网络是一种基于概率论和图论的不确定性处理模型,能够清晰地表示变量间的因果关系,具有解释性,目前已经成功应用于人工智能的多个领域。贝叶斯网络学习包括结构学习和参数学习。现有的结构学习方法可以学习出评分最高的贝叶斯网络,但是并不保证贝叶斯网络的推理复杂度也是最佳的。贝叶斯网络的推理复杂度和贝叶斯网络的树宽有着密切的联系,因此本文研究如何在贝叶斯网络的学习方法中限制贝叶斯网络的树宽,从而使得贝叶斯网络具有不错评分的同时,还具有较高的推理效率。本文提出了两种限制树宽的贝叶斯网络学习方法,它们都基于A*搜索算法: (1)提出了一种结合A*搜索和k-greedy算法的限树宽贝叶斯网络学习方法A-greedy。传统的基于A*搜索算法学习贝叶斯网络能够学习出全局最优的贝叶斯网络,但是推理复杂度可能不是最优的,因为没有对树宽进行限制。k-greedy算法根据k-树的递归定义构造k-树,并从k-树中学习贝叶斯网络,保证了贝叶斯网络的道德图是k-树的子图,从而起到了限制树宽的作用。A-greedy方法结合了A*搜索和k-greedy算法的优点,保证学习到的贝叶斯网络是限制树宽的,从而降低推理复杂度;同时,提高了贝叶斯网络的评分。在多个数据集上的实验结果表明,A-greedy方法学习到的贝叶斯网络BIC评分总体上要优于k-greedy和k-max算法。 (2)提出了一种结合A*搜索和k-max算法的限树宽贝叶斯网络学习方法A-max。k-max和k-greedy算法都能学习出限制树宽的贝叶斯网络,并且总体思想基本相同,但是k-max在k-greedy算法的基础上进行了一些改进。k-max算法在选择要添加的节点时会依据评分函数,而不是随机抽样节点序,这提高了节点序的质量。除此之外,k-max算法依据启发式函数为每个节点选择父集,而不是简单地基于贪心思想选择评分最高的父集。对于候选父集,k-max算法会对次优的父集进行剪枝,从而提高候选父集的质量。A-max方法结合了A*搜索和k-max算法的优点,能够学习出评分更高的限树宽贝叶斯网络。在多个数据集上的实验结果表明,A-max方法学习到的贝叶斯网络BIC评分总体上要优于A-greedy、k-greedy和k-max算法。

关键词： 原型网络   联邦学习   模型存储系统  

摘要： 基于深度学习的模型已经开始被商业机构、企业和政府部门用于数据分析和决策制定。深度学习的预测和分类性能依赖于大量的训练数据。然而,由于隐私保护制度和法律法规的限制,数据通常被独立存储于不同机构和部门之中,单一机构的数据往往存在数据类别少、数据量少和数据质量差等问题,导致可用于训练的样本数量不足。原型网络是一种小样本学习模型,该模型是在有限样本数量下进行深度学习训练任务的一种简单有效的方法。然而,原型网络是单一训练方使用的本地小样本学习模型,将该模型应用于多机构协同训练时需要设计相应的方法。联邦学习是一种分布式机器学习方法,该方法可以确保不直接接触原始数据的情况下进行协同训练,是在数据无法直接交换流通的情况下进行多方协同训练的一种有效方法。然而,传统的联邦学习方法并未考虑各个参与方数据的差异性,导致全局模型可用性低。此外,虽然原型网络与联邦学习架构应用于多方协同训练中时并未直接进行原始数据交流互换,但其训练的中间变量仍可能包含大量原始数据的隐私信息,故协同训练仍可能会涉及隐私泄露问题。本文针对上述问题,开展面向原型网络的安全个性化联邦学习方法,主要研究工作如下: (1)针对现有联邦学习方法不考虑各个参与方数据之间差异性,导致全局模型效果可用性低,某些参与方使用全局聚合模型分类精度低于本地模型,且联邦学习方法使用模型时缺乏隐私保护措施的问题。本文提出基于同态加密的个性化联邦学习方法,该方法应用了同态加密,使得该方法能够在密文下计算用户间原型特征相似性找到数据集相似的参与方,对用户聚类以提高模型聚合后的可用性。通过实验分析,该方法优于传统联邦学习方法全局模型聚合Fed Avg。 (2)针对在联邦学习框架下模型分享过程中,上传原型网络模型参数易于泄露隐私数据的问题,本文提出基于差分隐私的原型网络。该模型将差分隐私与原型网络结合,在梯度计算和更新过程中引入噪声,来实现对模型的差分隐私保护。虽然噪声会影响模型的收敛速度和精度,但实验证明,通过合理控制隐私预算,模型依然具有较好的可用性。 (3)针对模型与模型中间变量分享存储过程中,尤其是实际商用模型分享过程中易于遭篡改和中间变量隐私泄露的问题,本文设计基于区块链的模型存储系统。该系统可以为上述联邦学习架构实际应用中的模型中间变量存储与模型分享提供可靠传输平台,并通过引入区块链的方式防止商用过程中模型遭篡改。

关键词： 状态估计   Kalman滤波   矩阵优化   梯度下降方法   无梯度优化  

摘要： 状态估计是系统控制领域的热点研究课题.对于线性系统的状态估计,常用的方法是Kalman滤波算法.但经典的Kalman滤波是建立在系统参数和噪声统计特性均已知的基础上,其中对于线性定常系统的稳态滤波通常需要求解代数Riccati方程以求得最优的增益矩阵.但在实际应用中,噪声的协方差往往是未知或只是部分已知的,一般采用系统辨识或学习等方法先估计噪声的协方差再使用Kalman滤波.因此,对于噪声协方差矩阵未知的线性系统如何求解最优滤波的研究具有重要的实际意义和理论价值. 本文研究离散时间线性时不变系统的最优状态估计问题.首先,我们将此系统的最优状态估计策略优化问题转化为等式约束矩阵优化问题,目标是求最优增益矩阵.随后,我们给出了状态估计成本函数的梯度,强制性,梯度Lipschitz连续性和梯度支配性,为所提算法的收敛性分析提供了理论保证. 其次,我们考虑在系统参数和噪声协方差均已知的情况下,从矩阵优化的角度出发利用梯度下降方法寻求最优增益矩阵,同时给出了状态估计成本函数的二阶导数,并分析梯度下降算法的收敛性.最后通过数值例子验证了该算法能够快速有效地估计最优增益矩阵. 最后,我们考虑在过程噪声和观测噪声协方差未知时学习最优稳态Kalman增益的问题.基于无梯度优化的思想,我们对目标函数的梯度进行估计,并证明估计的梯度以高概率收敛到真实的梯度.随后给出一种投影无梯度算法来寻求最优Kalman增益,并分析了算法的收敛性.

关键词： 迁移学习   少样本和零样本学习   元学习   张量表征与计算   图表征学习  

摘要： 赋予机器模拟人类认知过程进而执行复杂任务的人工智能技术正在推动着一场前所未有的科技革命浪潮。尽管依赖大规模标注数据的监督学习在对象识别领域已经超过了人类能力范畴,然而数据标注成本十分高昂且现实世界中数据往往呈现长尾分布等问题严重阻碍了人工智能技术在各个行业的落地应用。当前研究者们根据数据标注规模开展了多方面的相关研究并取得一定进展,但离达到实际部署水平仍有较大差距。对此,提升少样本和零样本场景下的数据学习能力正成为当下多个领域的热点研究话题,也是实现通用人工智能的必由之路。 针对少样本和零样本场景下数据学习任务面临的关键问题,以数据标注规模从少到无为研究脉络,依托迁移学习和张量表征与计算等关键技术,并将视觉识别任务作为方法验证主要落脚点,依次开展少样本和零样本场景下相关研究工作,主要研究内容及贡献总结如下: (1)在少样本场景下,首先提出一种张量原型图网络,利用图结构将支持集内部信息以及与查询集样本之间的信息进行相互传播,有效缓解过拟合和领域漂移问题。该方法主要关注类别级的原型表征学习,忽略了类内和类间的样本差异问题,进而提出一种跨非局部注意力张量网络模型,设计了一种支持集和查询集特征交互指导学习的注意力机制,可以在少量样本下有效捕获类间判别性特征及类内共有特征。在少样本基准数据集上,两种方法最高均可提升约5%的准确率。 (2)在传统零样本场景下,提出一种对偶张量原型图网络,以张量原型图网络结构为核心技术指导,构建语义和视觉两种模态的张量原型图,并采用精心设计的交互式迭代式更新策略让视觉和语义两种模态原型进行互相引导式学习,缓解视觉和语义流型不一致的问题。该方法在零样本基准数据集上可实现约6%的准确率提升。 (3)在广义零样本场景下,首先提出一种张量原型进化网络嵌入式零样本模型,分别从原型级别和分布级别缩小视觉-语义差距,使得两种原型模态间紧凑、模态内疏远。该方法在零样本基准数据集上最高可提升约4%的未见类别识别准确率和2%的调和准确率。最后提出一种张量变分生成对抗网络生成式零样本模型,借助变分自编码器和生成对抗网络学习视觉样本的隐空间表达模式,然后利用语义一致性重建约束和合成特征矫正来引导高质量的样本合成,最终在零样本基准数据集上最高可提升约2%的未见类别识别准确率和4%的调和准确率。 以上研究成果可有效提升少样本和零样本场景下的数据学习能力,为深度学习领域摆脱数据标注提供新的思路。

关键词： 无监督学习   社区划分   图表示学习   图对比学习   互信息  

摘要： 图数据结构在现实世界中广泛存在,不同领域的图数据各具特色。如何从丰富的图数据中提取关键信息,成为了一项富有挑战性的任务。图表示学习为解决这一问题提供了有效的途径,其核心目标在于获取图结构数据的高维表示,即图嵌入,进而利用这些嵌入完成图分类、节点分类、链路预测等下游任务。 早期的图表示学习主要依赖于有监督学习,即使用已标注标签的数据集进行模型训练。然而,在现实中,图数据集往往缺乏标注标签,导致标注工作繁重。因此,无监督(自监督)学习逐渐成为图表示学习的主流方法,其通过不带有标签的数据集进行模型训练从而避免了这一问题。作为一种优秀的无监督学习方法,图对比学习通过构建自我对比目标来训练模型,并有效地解决了无标签数据集的学习问题,展现出了强大潜力。在缺少标注标签的现实世界图数据集中,图对比学习能够自动捕捉图结构中的内在规律和模式,并提取出有用的特征表示。这种方法极大地推动了图表示学习领域的发展,并为下游任务如图分类、节点分类和链路预测等提供了有力支持。 然而,尽管图对比学习取得了显著进展,但仍然面临着一些挑战和限制。如图对比学习中的图增广器难以适应不同领域数据集的特点、对比学习过程中的负样本质量不佳以及图对比学习缺乏理论支撑等问题。为了解决这些挑战,本文提出了三种不同的改进图对比学习方法,主要贡献如下: (1)针对图对比学习方法难以适应不同领域数据集的问题,本文提出了一种基于自适应图增广器的图对比学习方法(Auto-AG方法),通过构建自适应图增广器,为每个节点选择合适的增广方式。该方法使用神经网络构建多个不同参数的自适应图增广器,每个自适应图增广器都会为输入视图中的每个节点生成对应的视图增广概率矩阵,节点的增广策略将根据增广矩阵计算,得到多个增广视图,通过反向传播优化自适应图增广器,使得自适应增广器为不同的输入视图学习到最合适的增广方式,在输入视图和多个增广视图进行正负样本的采样并进行训练用以优化编码器,最后进行图分类测试。实验结果表明,该方法在三个数据集上的结果均优于其他对比方法。 (2)针对图对比学习方法中负样本对质量低的问题,本文提出了一种基于负对优化的自适应图对比学习方法(C-NP),首先构建社区划分模块,初始化社区中心节点矩阵和节点分配矩阵,使用图数据真实边密度和期望的边密度的差异作为优化目标不断优化社区中心节点矩阵和节点分配矩阵。在对比学习模块使用不同参数的自适应图增广器产生多种不同增广视图,自适应地为不同数据集选择不同增广策略偏好,在采样负样本的过程中,选择不同社区的负样本对,用于优化图对比学习原有的负样本采集策略,能够在不增加算法复杂度的情况下提升负样本质量。实验结果表明,在节点分类和节点聚类任务上,该方法在六个数据集上均优于对比模型。 (3)针对图对比学习方法缺乏理论解释的问题,本文提出了图最小化原则(GIM)与基于图信息最小化原则的自适应图对比学习方法(IMCL)。通过探究增广视图与互信息之间的关系解释高质量的增广视图的产生条件,解释了增广视图和图对比学习方法性能之间的关系,具体而言,高质量的增广视图需要在不改变原有标签的情况下,保持与输入视图的最小互信息水平。IMCL方法使用自适应图增广器与伪标签生成器,通过自适应图增广器产生增广视图并限制其与原视图互信息最小,同时通过伪标签生成器限制增广视图标签不发生改变,从而实现图信息最小化原则。实验结果表明,该方法在六个数据集上均取得最优或次优的结果。