关键词： 少样本学习   图像分类   重加权   双层优化   语义词向量  

摘要： 近年来,人工智能技术(AI)已经在很多领域获得了极大的发展,但高精度机器学习模型往往依赖大量的有标注数据,而在很多诸如医疗、军事等实际的应用场景中,样本的获取非常困难,标注也需耗费高昂的人力成本,这极大的限制了AI的应用。此外,现在的机器学习模型越来越庞大,利用大量数据从头训练需消耗巨大的计算资源,然而,人类却具有利用少量样本快速学习的能力。因此,使机器也像人类一样具有在少样本条件下进行鲁棒性学习的能力,成为了一个具有重要现实意义的课题。本文以少样本图像分类问题作为研究对象,重点关注和研究少样本条件下的类别关系挖掘对于模型泛化性的影响。首先,本文挖掘了目标任务测试类别与基类的关联关系,以此提升少样本学习的性能。大多数现有的少样本学习方法利用基类数据预训练一个通用的特征提取模型,然后将其应用于所有少样本分类任务。本文首先证明了不同的基类对目标任务的帮助不同,有些基类甚至引入了负面影响,因此针对目标任务探究其测试类别与基类类别的关系有助于更高效的利用基类数据。为此,我们提出了一种目标指导的基类重加权(TBR)方法,该方法使用一种双层优化算法自适应地根据目标任务为基类分配一组权重。具体地,TBR通过最小化基类数据的加权经验风险来学习特征提取模型,然后根据特征提取模型在目标任务支持集上的性能优化基类权重。这种交替优化将重加权嵌入循环中,使特征提取模型对目标任务的测试类别更加敏感。大量实验表明,所提出的方法可以与基于模型的少样本学习框架结合,有效提升其性能。其次,本文探究了基类之间的关系度量对于特征提取模型类别泛化性的影响。少样本学习利用基类数据预训练特征提取模型,基类之间的度量通常采用独热编码表示,这种锋利的类别关系度量无法表示真正的相似度关系,将强化模型对基类局部判别特征的响应,不可避免的使模型发生基类类别过拟合,从而降低模型对于未见测试类的泛化性。因此,本文引入自然语义空间中的词向量表示(Word Vector)来获得更加准确的类别相关性描述,提出了一个双路特征提取模型,利用词向量作为监督信息可以使模型提取通用特征,通过独热编码可以使模型关注到判别特征,之后利用自适应注意力机制平衡两种特征,从而获得样本的鲁棒性特征表示。实验表明融合语义信息的特征提取模型显著的增加了特征表示的鲁棒性,极大的提升了少样本学习任务的性能。

关键词： 管理学原理教学   探究式学习法   应用  

摘要： 在课程改革的背景下,传统的教学方式已经无法满足管理学原理的实际需求,探究式学习法作为新的学习和教学方法正在发挥着重要作用。

关键词： 属性网络   网络表示学习   随机游走   skip-gram模型   图卷积神经网络  

摘要： 从社交网络到万维网,网络作为一种重要的数据形式广泛应用于描述现实世界事物之间的复杂关系,有效地从复杂信息网络中挖掘潜在的重要信息成为近几年学术界与工业界的研究热点。网络表示学习,也称图表示学习、图嵌入,其目的是将网络中的节点用低维、稠密、实值的向量进行表征,以应用现有的机器学习算法进行一系列网络分析任务,如链接预测、节点分类和节点聚类等。目前大多数对网络数据的表示学习只针对于网络的拓扑信息,但随着网络信息的多元化,真实网络中的节点通常包含有大量的属性信息,这些信息的学习对于后续应用至关重要。本文试图从提高属性网络表示的质量这一角度出发进行相关研究,针对其它方法在拓扑信息与属性信息不能够有效结合的缺陷,做了如下三方面的工作:(1)针对随机游走在属性网络表示学习中不能兼顾节点表征的结构对等性与同质性的问题,提出了一种基于偏置随机游走的属性网络表示学习方法。该方法首先在属性二部图中进行普通节点与属性节点之间的随机游走,在结构网络中通过引入偏置参数针对不同网络进行结构对等性与同质性的权衡,然后通过将随机游走产生的节点序列类比自然语言处理语料库中的句子,将节点序列送入到skip-gram模型中进行属性网络的表示学习。在真实的属性网络上的实验结果表明,本文所提方法在节点分类任务中准确率得到了一定的提升。(2)针对现有的属性网络表示学习方法在学习属性信息时与其互补的结构信息增强不足这一问题,提出了一种结构增强的属性网络表示学习方法,以提高节点表征的质量。该方法首先基于网络归一化邻接矩阵和属性矩阵通过自动编码器提取增强网络全局结构特性的属性信息,然后使用对比损失捕捉局部结构信息,最后引入一个联合损失函数使结构信息与属性信息在同一向量空间中得以表示。在三个真实属性网络数据上进行节点分类和链接预测实验,效果较目前流行的网络表示学习方法优势明显。(3)针对基于图卷积神经网络的网络表示算法不仅忽略了潜在表征的数据分布,而且丢失了网络中节点之间的更高阶邻近度的问题,提出了一种基于对抗和随机游走正则化网络表示学习方法共同保留了结构和属性信息。此方法采用对抗训练方式使潜在表征拟合先验分布,并且通过使用skip-gram模型的损失函数,使随机游走序列中的节点的潜在表征在隐空间距离更近。在三个真实数据集中进行链接预测和图聚类任务,实验结果表明此方法较最新的网络表示学习方法具有更好的性能。

关键词： 故障识别   深度学习分类   可解释性   显著频率   滤波器  

摘要： 随着物联网与普适计算的快速发展,故障识别在工业领域日益引起关注。在故障识别领域中深度学习模型取得了较好的应用效果,但目前的深度学习故障识别方法缺少可解释性,即从原始数据到最终分类器功能的各种映射都是非线性的,这导致在分类应用中,深度学习判断故障类型的依据不清晰。输入的时间序列信号容易受到噪声的影响,涉及大量领域知识,不好判断出其具体的物理意义。本文的目的即解决以故障时序数据作为输入的深度学习方法缺少可解释性的问题。在本文中采用了LRP(逐层相关性方法),设计了LRP方法与CNN网络相结合的双向传播模型,以连续小波变换得到的时频图作为输入,在正向传播时学习深度特征,实现高的分类准确率,通过反向传播至输入数据,基于结果进行解释,得到对于故障分类起作用的显著频率等信息。观察显著频率在时频图上的分布后,提出了基于阈值的mask方法对显著频率的正确性进行验证。最后通过显著频率构建滤波器对信号进行滤波处理,提出了基于滤波器的深度学习推理服务优化方法,从输入的角度简化了输入信息,从而使构造的深度分类网络得到简化,优化了计算量、吞吐量及推理时间等性能指标。在可解释的双向传播模型时中,采用灵敏度较高的连续小波变换方法,有效捕获与故障相关的频率分量,在时频域中表示时间序列数据。我们在两个轴承故障数据集(CWRU,DC)进行实验与评估。在可视化的解释结果中观察到对故障识别结果起到积极决策作用的显著频率在时频图上的分布,研究观察到的脉冲周期与结合轴承故障的种类及严重程度等领域知识计算出的脉冲周期之间的关系。轴承故障识别数据集多为领域知识复杂、故障多样化的工业故障数据,本文对轴承故障识别及可解释性相关知识进行分析和介绍,对于故障识别常见的机器学习以及深度学习算法进行分析,选择最合适的识别方法。并结合领域知识对轴承故障特征频率的意义和计算方法进行了说明。通过分析滤波器的构造原理与我们需要保留的频率范围设计滤波器。将依据故障类别所设计的滤波器和所设计的深度分类模型进行组合,选取合适的组合策略。我们从推理时间、计算量等多个评价指标证明了我们的模型得到了优化。

关键词： 网络表征学习   图卷积神经网络   生成对抗网络  

摘要： 网络表征目的主要是学习网络中节点的低维向量表示,以便于后续利用基于特征向量的机器学习方法进行网络任务分析,比如节点分类、社团发现、链接预测、异常检测等。近年来,随着深度学习的发展,图卷积神经网络(Graph Convolutional Network,GCN)展现出了强大的提取节点表示的能力,逐渐替代了传统的网络表征方法并且目前在工业界中诸如推荐搜索等领域有广泛的应用。然而已有的GCN方法难以处理属性缺失网络(部分节点属性完全缺失)以及高异质性网络(即大多数相连节点属于不同的类别),因此不能泛化到更复杂、更一般的真实应用场景。本文围绕GCN在网络表征学习上这两个关键问题展开研究工作,具体成果如下:第一、针对真实场景属性缺失问题,本文提出一种带有自适应属性补全的图卷积神经网络以实现属性缺失网络的网络表征学习。该方法主要利用生成对抗网络去建模真实属性与网络结构之间的语义关系,并通过从隐空间到属性空间的映射来生成更加真实的属性以拟合属性-结构语义关系,保证了生成属性的真实有效性。同时,该方法利用互信息最大化原则实现GCN表征学习和属性补全过程相互促进、联合训练。本文将该方法与八种代表性网络表征方法在一系列网络分析任务中进行对比,验证了该方法的优越性以及鲁棒性,并且验证了该方法能够有效地自适应学习任意属性缺失网络的表征。第二、针对真实场景网络异质性问题,本文提出一种带有自适应特征传播机制的图卷积神经网络以同时适应于同质性或异质性网络表征学习。本方法通过引入一种可学习的同质性程度矩阵对网络同质性或者异质性进行建模,以捕获网络潜在的同质或异质分布。同质性程度矩阵主要通过从属性空间和结构空间提取类感知信息学习估计得到。本方法将同质性程度矩阵引入到图卷积框架中来指导和控制特征传播过程,以达到自适应特征传播的目的。本文通过与九种先进算法的比较实验验证了该方法的优越性能,并通过实验证实了该方法自适应学习的能力。本文提出的研究内容以及方法缓解了图卷积神经网络在真实复杂场景下网络表征的局限性,有效扩展了图卷积神经网络的可应用范围。

关键词： 网络表示学习   随机游走   图卷积网络   线性结构   非线性结构  

摘要： 网络表示学习旨在将高维稀疏的网络数据映射到低维稠密的实值向量空间,可以自适应地提取特征,便于进行下游网络任务的分析。面向无属性图的网络表示方法可以利用网络的向量表示洞察社会结构,探索语言交流模式和发现复杂网络结构等,具有广阔的应用前景和现实意义。已有的相关工作主要是将网络结构输入浅层随机游走模型或深层图神经网络等模型,得到网络节点的向量表示,并应用于下游分析任务。目前该研究存在以下难点问题:(1)当前网络表示学习中的浅层随机游走模型不能同时有效捕获节点结构和节点内容相似特征;(2)深层图卷积神经网络无法以无监督的方式较好地嵌入无属性图,在无属性图上适用性较差;(3)改进的深层图卷积网络(HGCN)主要通过聚合邻居节点特征捕获非线性结构,忽略了网络的线性结构。基于此,本文针对浅层随机游走模型在结构和内容等价混合的网络数据上表现较差问题,提出了融合节点结构和内容的网络表示学习模型(SN2vec);针对深层图卷积神经网络在无属性图上适用性较差问题,提出基于层次图卷积网络的无监督图嵌入模型(HGCN);针对HGCN模型忽略了网络线性结构的问题,提出嵌入线性与非线性结构的网络表示方法(HGCN-DL)。论文主要工作包括:第一,提出了融合节点结构和内容的网络表示方法。网络表示学习中的浅层随机游走模型主要有节点结构相似与内容相似两类表示方法,为了克服现有方法不能同时有效捕获节点结构和节点内容的缺点,本文重新定义了节点相似性,提出了节点结构与内容相似的联合表示方法(SN2vec)。节点分类和降维可视化实验结果表明,本文提出的方法可以更有效地捕获节点结构和内容的相似信息。第二,提出了基于层次图卷积网络的增强无监督图嵌入模型(HGCN)。深层图卷积网络(GCN)是一种半监督学习模型,该模型将标签信息融入网络结构的学习过程。然而,现有网络数据的属性标注不准确和属性不易获取的特点导致图卷积网络在无属性网络上的适用性较差。为此,本文改进了网络节点属性和标签的获取方法,提出了增强无监督图嵌入模型。不同种类数据集的节点分类实验结果表明,本文提出的方法提高了图卷积网络在无属性图上的适用性。第三,提出了嵌入线性与非线性结构的网络表示方法(HGCN-L,HGCN-DL)。针对现有无监督层次图卷积网络模型(HGCN)在捕获线性结构方面存在的不足,本文定义且进一步表示了网络局部和全局的线性结构,提出了同时嵌入线性结构与非线性结构的网络表示模型。节点分类和降维可视化实验结果表明,HGCN-DL模型可以更全面捕获网络的线性和非线性结构。

关键词： 深度学习   自发微表情识别   面部运动单元检测   特征学习   细粒化特征  

摘要： 微表情是人们试图隐藏自己真实感受时所发生的一种无意识的面部表情。与普通的面部表情(宏表情)相比,微表情通常持续时间仅为1/25到1/2秒,是对情绪刺激做出的非自发的、微弱的、转瞬即逝的面部动作。微表情很难用肉眼觉察,尤其是没有经过专业训练的绝大部分人是无法对微表情进行实时捕捉和识别的。所以,在过去的几十年里,研究人员开始尝试通过计算机进行微表情的自动识别,以期获得更高质量的微表情识别技术来辅助我们感知和理解微表情,实现人工智能真正的“拟人化”——可以通过微表情去感知、识别和理解人的真实情感,并针对人的真实情感做出智能、灵敏、友好的反应。目前,尽管涌现了众多关于微表情识别的研究成果,且被用于国家安全、司法审讯、临床医学、教学评估、商业谈判等多个领域,但其研究仍然具有很多挑战。例如,微表情训练样本不足、微表情变化微弱难以捕捉、面部运动单元关联不充分以及环境变化因素不确定等。面对以上挑战,粗粒度的全局面部特征或者情感共享特征难以学习到具有显著性以及可鉴别性的情感特征。针对上述问题,本文基于深度学习中的注意力机制,研究微表情识别中的视觉注意力区域上的、特定情感上的以及面部局部区域上的细粒化的特征学习方法,从引入宏表情数据进行注意力区域特征学习与迁移、情感特定特征学习表示、面部运动单元检测与微表情任务协同合作、区域权重特征学习与其关系推理等角度出发,研究实验室场景和遮挡场景下的微表情识别问题,提出了一系列面向自发微表情识别的细粒化特征学习方法,主要贡献体现在如下4个方面:(1)提出基于注意力迁移机制的微表情识别方法。针对现有微表情训练样本不足难以训练具有良好分类能力网络的问题,提出基于注意力迁移机制的微表情识别方法。该方法借助宏表情数据来训练教师网络,并利用教师-学生网络的特征蒸馏能力,使得教师网络可以通过生成的注意力特征图来指导学生网络学习到与教师网络相近的更细粒化的注意力特征图,突显微表情中的情感相关区域。通过注意力转移机制,将教师网络学到的知识迁移给学习能力相对弱的学生模型,以此来增强学生模型的泛化能力。该方法通过注意力特征图的学习与迁移可保证在样本量少的情况下,用于微表情识别的学生模型习得良好的分类特征,相较于已有的微表情识别方法,在复合数据库MEGC2019-CD以及其子数据库上将UF1提升了1%～30%。(2)提出基于情感特定特征学习的微表情识别方法。针对微表情样本中面部表情变化微弱难以学习具有鉴别性的分类特征而导致的微表情识别率低的问题,提出基于情感特定特征学习的微表情识别方法。该方法利用浅层主干网络进行情感共享特征的学习,并从情感共享特征中提取细粒化的情感特定特征,利用注意力机制突显特定情感类别相关特征,联合情感特定检测损失对特征学习进行约束,最后通过融合情感特定特征进行微表情分类。所提方法在增强微表情特征显著性的同时提高了情感特定特征的可区分性,从而减轻了微弱面部运动对最终微表情识别结果的影响。在单个数据库CASME II、SAMM、SMIC以及复合数据库MEGC2019-CD的大量实验结果表明所提方法能够有效提升微表情识别结果,并取得了与当前最好方法可比拟的甚至最优的结果。(3)提出基于面部运动单元检测及其关系推理的微表情识别方法。针对微表情中面部运动单元活动稀疏且运动微弱,单一任务网络难以同时对面部运动单元特征进行学习并对关联不充分的面部运动单元进行建模,较难提取到有判别力的情感特征而导致模型识别率不高的问题,提出基于面部运动单元检测及其关系推理的微表情识别方法。该方法通过将捕获到的细粒化的面部运动单元特征集成为微表情分类特征以增加分类特征的鉴别能力,并通过微表情识别约束面部运动单元特征的学习。所提方法通过面部运动单元特征学习与推理,可有效建模稀疏的面部运动单元之间的关系,学习到具有良好判别能力的微表情特征,在MEGC2018-CD上的HDE任务中,相较于以往最好方法的平均WAR以及UAR,本方法分别将其提高了11%与21%。(4)提出基于区域启发关系推理网络的遮挡微表情识别方法。针对自然场景下微表情样本由于不同程度的遮挡导致的微表情识别率低的问题,提出基于区域启发关系推理网络的遮挡微表情识别方法。该方法基于实验室场景的微表情数据库样本,模拟了多种实际生活中可能存在的微表情遮挡情况,并在模拟的遮挡微表情数据库上,对面部局部区域进行细粒化的权重特征学习以减轻遮挡对特征学习的影响,并通过对区域权重特征进行关系建模来捕捉面部区域之间的协作互补关系,使得推理所得的关系特征以及学习到的细粒化区域特征共同促成更鲁棒的遮挡微表情识别。所提方法通过学习与推理局部区域细粒化特征的关系来降低遮挡对微表情识别的影响,学习到了遮挡场景下的有效情感表示。实验结果表明,本方法在遮挡MEGC2018-CD上的HDE与CDE任务中,相较于其余方法

关键词： 多视图学习   融合表征   子空间学习   隐空间学习   多视图聚类  

摘要： 从不同来源、结构或角度描述同一对象的数据称为多视图数据,其往往具有不同的特征表达、结构或维度,且视图间存在相关性、一致性和互补性等各种关系。利用不同视图间关系,通过协同学习得到融合表征,以提高任务完成性能的过程为多视图学习。融合表征是多视图学习的关键问题和技术难点。本文针对基于融合表征的多视图学习方法进行研究,探索了视图相关程度对基于融合表征的分类效果的影响,研究了多视图子空间学习、子空间聚类、隐空间学习、多视图聚类等关键技术。具体研究工作和主要创新点如下:(1)探究多视图相关程度与融合表征的分类效果的关系。本文从数据分析的实证角度,利用公开多视图数据集,分别基于最大信息系数算法计算两两视图的相关值和基于两种子空间学习模型学习融合表征并分类预测,基于以上结果,探索和分析多视图特征的相关性、基于不同视图融合表征的分类差异性、视图相关程度对融合效果的关联性。实验结果表明:视图相关性与视图融合效果关联性较强;深度学习降低了融合效果对视图相关性的依赖性;差异特征对提升融合效果更有价值。(2)基于双反馈机制的多视图子空间学习。针对多视图子空间学习中融合表征的判别性表达能力不足问题,提出一种基于双反馈机制的多视图子空间学习方法,考虑到单视图内隐含了独特的差异性特征,采用胶囊网络的动态路由机制挖掘单视图的独特特征,并在融合学习的目标函数中加入融合矩阵与网络线性变换输出矩阵的差最小约束,通过两步权重更新操作,实现特征的双反馈学习,提升了公共子空间表征的可判别性。在五个数据集上评测模型性能,实验结果表明,增强单视图学习可提升融合表征的分类和聚类性能,性能提升显著;在聚类任务中模型性能稳定;基准算法中的深度子空间学习方法性能不稳定,有待改进研究。(3)基于多视图深度特征增强的隐空间融合表征。为了使多视图子空间聚类中同时学习视图一致性和差异性,提出一种基于多视图深度特征增强的隐空间融合表征方法,充分利用子空间聚类学习一致性的优势,加入多视图隐空间增强学习,可同时适用于分类和聚类任务。在该模型中,利用单视图判别性特征学习隐空间,再学习多视图自表达矩阵,通过设计隐空间与原特征、自表达与隐空间损失最小约束重构隐空间和自表达。在四个数据集上评测模型性能,实验结果表明,增强视图表征提升了融合表征的分类和聚类性能;视图数量越多,聚类性能越好;模型聚类准确性高于基准算法;模型在单视图上分类性能差异较大时,融合表征后的整体分类能力下降。(4)基于多视图差异性和一致性的聚类融合表征。为了使多视图聚类学习中有效学习视图内、间关系,提出了基于多视图差异性和一致性的聚类融合增强学习方法,分别从视图内差异性、视图间一致性、单视图隐特征增强表达和视图间子空间融合进行模型设计。在四个数据集上评测模型性能,并与本文提出的子空间学习和隐空间融合表征两个模型进行综合性能评测,实验结果表明:模型的聚类性能提升显著,并发现聚类性能与视图数量的关系存在非单调关系。

关键词： 对比分析   词汇问题   学习方法   教学建议  

摘要： 中巴两国是全天候的战略合作伙伴关系,2013年5月,李克强总理访问巴基斯坦时提出了中巴经济走廊建设。目前巴基斯坦拥有大量的中巴合作企业和合作项目,它们需要大量的汉语本地人才,当地的学生也非常愿意学习汉语。本文主要分析了巴基斯坦学生初级汉语词汇学习问题。本篇论文共分为六章。第一章为绪论,第二章为词汇问题分析调查准备,第三章为词汇使用问题研究,第四章为针对词汇问题提出的词汇教学建议,第五章为针对词汇学习问题提出的学习建议,第六章为总结。词汇学习问题可划分为添加、省略、代替、错位、泛化五方面,不同词类的使用问题在这五方面均有体现,添加中主要为不同疑问代词或语气词的叠加使用,省略中主要是“了”和“个”的省略,代替中主要为名词的代替错误,错位中主要为时间和地点状语的使用,泛化主要为动词“是”和量词“个”的使用。对于上述问题,笔者为教师和学生提供了教学建议和学习建议。教学建议为虚词讲解与语法讲解相结合;实词词汇教学应与句子教学相结合;教师应把握重难点词汇讲解;把握词性,牢记短语结构和固定搭配;加强特殊词类的教学;把握课中媒介语的使用;为学生创造优良的上课环境。学习建议为学生应大胆运用替换,及时检查纠正;扩大思维,运用多种学习策略;分阶段设置学习目标,逐步掌握词汇。

关键词： 图像识别   度量学习   直推小样本学习   半监督小样本学习   行人重识别   模型轻量化   知识蒸馏  

摘要： 2012年以来,深度神经网络在计算机视觉、语音识别、自然语言处理、智慧医疗等多个领域取得了优异的成果。这是卜数只偶,也是水到渠成。究其本质,还是得益于三个基础的驱动,包括:大数据(充分标注)、大模型(参数量庞大)和大计算(高性能计算)。正因为对这三个基础的严重依赖,也在一定程度上限制了人工智能的进一步发展和普及。首先,大模型对大数据的过度依赖表现在其在训练阶段必须在大量的标注充分的数据下训练,否则模型的准确率将大大降低。很多新的应用场景的样本获取困难并且标注成本极高,因此不少学者开始研究小样本学习方法,目的是当面对一个新的场景时,快速的从少量的有标记样本中学会认识新的类别。其次,大模型对大计算的依赖表现在其无论在训练和测试阶段均需要拥有大量存储空间和优异计算性能的硬件平台的加持。那么,对于很多的存储和计算资源均极其有限的测试场景,比如移动端(智能手机,自动驾驶汽车等),离线监控设备(公共摄像头,汽车行车记录仪等),现有的训练好的大模型将会出现水土不服,无法顺利落地。于是,模型轻量化问题也被领域内科研人员广泛关注。研究模型轻量化的目的是压缩模型参数量,使其在移动端顺利部署。基于以上背景,本文面对实际环境中图像识别应用的真实需求,重点研究深度学习模型落地时亟待解决的两个问题:小样本(训练数据标注不充分)和模型轻量化(测试平台存储计算资源有限)的问题。首先,基于通用的小样本任务,本文主要对小样本问题中的度量方式、特征提取方法以及如何利用无标签样本进行了研究。得益于对于小样本学习方法的研究,本文进一步研究了具体细粒度图像任务中的小样本问题,即行人重识别中的单视角问题。其次,为了研究模型轻量化方法,本文选取一个代表性的智能车载应用驾驶行为分析作为具体研究载体。行人重识别和驾驶行为分析分别为图像识别算法在公共安全和交通安全领域的两大典型应用。其中行人重识别研究的是一个室外的远距离开放场景,而驾驶行为分析研究的是车内的近距离封闭场景。总之,本研究的目的在于降低图像识别应用的普及成本,突破人工智能应用的场景限制,使其在更广泛的领域为更多的人带来更多助益。具体研究内容如下:一、针对小样本问题,从度量学习(metric learning)角度出发,提出了一种新的面向直推小样本学习的局部和全局的相似度度量方式。具体地,局部相似度不仅考虑了查询集和支撑集样本之间的局部关系,而且将支撑集样本之间,以及查询集样本之间的局部关系都考虑进来。为了充分利用每个任务的局部信息,我们提出了一个新的基于特定任务的全局相似度计算方法。在手写数据集Omniglot,通用图像分类数据集miniImageNet,tiered ImageNet上的实验结果表明,局部和全局相似度结合的度量方式能够显著提高小样本分类准确率。二、针对小样本问题,从数据角度出发,提出了一种新的基于上文相似度的二阶注意力模型用于解决半监督的小样本分类问题(semi-supervised few-shot learning)。为了提高特征提取网络的表达能力,在不增加网络参数的前提下,我们提出提取中间层输出的二阶注意力特征。为了充分利用无标签样本集中的正样本的信息,提出一种基于上下文的新的相似度计算方法。在手写数据集Omniglot,通用图像识别数据集miniImageNet,tieredImageNet和细粒度图像识别数据集CUB上的实验结果证明了算法的优越性。三、针对小样本问题,从应用角度,提出一种新的面向应用的基于单视角的小样本学习方法(OVL)。将研究重心从一般问题过渡到具体任务,研究一个开放远距离场景——行人重识别问题中的跨摄像头场景下的小样本问题的解决方案。具体地,为了解决不同摄像头下数据分布不同的问题,设计了一个对抗多源学习方法,用于对齐不同摄像头数据的分布。为了避免无标签样本中负样本对模型训练的干扰,提出一个对抗负样本剔除算法。在Market-1501,DukeMTMC-reID,MSMT17三个数据集上的实验结果表明,我们提出的OVL算法在只有少量标注样本的前提下,可以达到优于现有的域自适应方法和半监督的方法的结果。四、针对模型轻量化问题,提出一种新的基于样本的多教师知识蒸馏的方法(IsMt-KD),学习准确率高,速度快的轻量卷积神经网络。以一个封闭近距离的车内场景——驾驶行为分析问题作为研究载体,研究智能车载移动端图像识别模型的轻量化问题。具体地,为了减少知识蒸馏过程中来自教师网络的误导问题,设计了一个新的基于样本的为教师打分的方法(ISTG)。基于ISTG,实现基于样本的中间层和输出层高效知识蒸馏。在AUC和StateFarm数据集上的实验结果表明,经过IsMt-KD蒸馏的轻量模型能够达到与大模型相当的准确率,并且保持了轻量模型在参数量和执行速度方面的优势。综上所述,本文重点关注应用