关键词： 不完备数据   多视图学习   张量分析   低秩表示   谱聚类  

摘要： 数据聚类是数据挖掘领域的重要研究分支之一,是对无标签信息的数据进行归类的一种方法。由于没有标记信息的指导和监督,目前的主流聚类思想是首先利用数据内在的相互关系无监督的学习数据的有效低维表示,以提高不同类簇数据间的区分能力,再将这些低维表示送入经典聚类算法得到聚类结果。传统的低维表示学习模型大多针对具有单一视图的数据。但是单视图在数据描述上的片面不能充分的发挥表示学习模型的潜在能力,进而影响后续聚类任务的性能。随着数据爆发式的增长趋势,数据的表达形式也不断在发生变化,产生了一种称作多视图的数据描述方法。多视图数据是指同一对象可以采用不同的形式对其进行描述,每种形式称为数据的一个视图,该类描述形式蕴含了数据在多个层面的多重信息,可对数据进行更全面的表达。因此,采用多视图数据进行低维表示的学习能够解决传统单视图数据对模型学习能力的限制,获得具有完整特性描述的数据低维表示。然而,真实环境下由于许多客观因素常常导致获取的视图数据受到噪声干扰或发生特征缺失等不完备现象,造成现有多视图学习方法及其在聚类应用方面的性能下降问题。面向这一问题,本文围绕多视图数据的表示学习及其聚类应用展开,提出三种针对高维不完备数据的多视图学习方法,其具体的研究内容包括以下几个方面:(1)提出了一种基于相似性学习的鲁棒多视图学习方法。该方法通过在数据表示中引入低秩约束来弥补噪声和异常值的干扰,学习一个贴近于真实数据结构的数据副本,并将该副本用于鲁棒图的学习。此外,设计了一种多视图方案,通过从所有视图中动态的学习图来获取所有视图图的一致相似性。同时,一致相似性也可以用来传播来自其他视图的潜在信息,从而促进每个视图图的学习。最后,将上述两个过程合并为统一的目标函数,并交替优化获得全局最优解。在四个公共数据集上的实验结果证明,所提方法在相似性学习方面优于现有的大多数方法,且对不完备数据具有很强的鲁棒性。(2)提出了一种基于低秩张量的可靠多视图学习方法。考虑到由于特征缺失所引起的不完备数据学习问题。一方面,该方法将数据补偿模型和图学习放入统一框架中,利用数据补偿模型对缺损数据进行恢复,实现从重建数据中学习样本对间的近邻关系,弥补由于特征缺失对数据原始分布所带来的影响。另一方面,为了同时利用数据的多视图信息并保持近邻图的二维结构,引入张量分析,构造基于多视图的融合图学习约束,进一步捕获不同视图下近邻图间的高阶潜在关联性。此外,设计了一种有效的数值方案对所提目标函数进行求解,并保证了目标函数的收敛性。两种不完备数据的多视图聚类实验结果表明,该方法在多项性能指标和鲁棒性方面均优于当前主流的多视图聚类方法。(3)提出了一种双图下基于不完备数据修复的协同多视图学习方法。不同于当前主流的不完备数据恢复方法,该方法利用多视图数据所具备的一致性和互补性特点,从数据角度出发,直接对不完备数据进行数据值的恢复,使得后续聚类过程所使用的数据是完备且含有大量有效信息的。同时,采用多核协同训练来学习数据的鲁棒表示,并引入低秩张量约束来促进多视图的融合,使得用于聚类的融合图覆盖更多隐藏在多视图数据中的高阶相关性。将上述过程放入一个联合学习框架中,使得变量在迭代过程中可相互促进、传播有效信息。此外,为了有效地对所提方法进行求解,设计了一种交替优化的求解方案。在四个可视化数据集上的实验结果证明,该方法在不完备数据聚类应用上具有明显的优势。

关键词： 多模态学习   跨模态学习   视频生成   零样本学习  

摘要： 近些年来,随着深度学习和多媒体技术的快速发展,专注于探究不同模态信息之间关联的多模态学习和跨模态学习等任务逐渐成为研究热点。由于不同模态数据的结构存在差异,因此如何关联不同模态之间的信息是该类任务的主要研究方向之一。音频与图像作为日常生活中最为常见的两种信息模态,有着丰富的现成数据可供模型训练和评估使用。本文针对这两个模态之间的联系,提出了音频与图像之间的跨模态零样本学习和基于音频驱动的演奏视频生成两个新任务,来进一步探究音频与图像跨模态领域更多的可能性。音频与图像的跨模态零样本学习任务受启发于人类根据已有知识推断新物体发出声音的能力。基于传统的研究方向,本文提出了三个子任务来验证音频与图像之间零样本推理的可行性,分别是零样本跨模态检索、零样本声源定位以及基于音频的零样本图像识别。为此,本文提出了一个统一的模型LLINet(Look,Listen and Infer)来实现这三个任务,并收集了一个新数据集INSTRUMENT-32CLASS用于模型的训练和评估。在检索任务中,本文提出了一个匹配损失来充分利用批次中的负例对于模型优化的贡献。在定位任务中,本文引入了一个注意力模块来关联音频与声源所在的图像区域。最终,本文针对三个任务设计了多组对比实验,所得的结果均验证了本文模型方法的优越性。基于音频驱动的演奏视频生成任务的主要目的是探究音频信号与视觉动作之间的关系。该任务基于声音和动作之间的高关联性和同步性出发,将图像动画化任务拓展至音频领域。与其他音频相关的生成工作不同,本文将音频信号视为一种时序特征,用于表示人体姿态的运动趋势。为了探究该方法的可行性,本文提出了一个新的模型ADIA(Audio-Driven Instrumental Animation),将给定的音乐片段作为驱动数据,结合初始图像中演奏者的姿态生成演奏动作序列,并以此驱动初始图像中的演奏者来生成一段真实的演奏视频。最后,本文从客观指标和主观评价两个方面对ADIA以及相关模型进行了对比评估,各项实验结果均证明了本文提出模型和方法的有效性和可行性。

关键词： 含噪知识图谱   三元组差异度   三元组支持度   噪声检测   知识补全   关系路径推理   实体层次类型   逻辑规则  

摘要： 知识图谱用于存储结构化事实,这些事实以三元组的形式表示,即(头实体,关系,尾实体)。当前大规模知识图谱的构建和更新通常采用(半)自动化的方法进行知识抽取,过程中不可避免地会引入噪声,但多数传统知识表示学习方法假设知识图谱中的三元组都是正确的,并据此对知识进行分布式表示。因此,对知识图谱进行噪声检测是一项至关重要的工作。此外,即使是规模巨大的知识图谱,仍不能完全覆盖现实中的所有知识,这导致了知识图谱不完整的问题。知识图谱的噪声问题和不完整问题,会对下游应用任务,例如,推荐系统和问答系统,产生不利的影响,因此成为亟待解决的问题。针对以上问题,本文对现有模型进行改进,提出了两种含噪知识图谱的表示学习方法。本文基于平移的模型,通过结合知识图谱三元组结构信息、实体层次类型信息和关系路径信息,提出了差异度和支持度感知的知识表示学习方法。在此基础上,为针对性解决关系路径信息在含噪知识图谱上起到负面作用的问题,本文提出了逻辑规则和关系路径信息结合的知识表示学习方法。此外,基于上述两个模型,本文设计了一个知识图谱噪声检测原型系统以辅助用户对知识进行判断。本文主要工作内容及创新点如下:(1)针对知识图谱存在的噪声问题以及不完整问题,基于现有模型,本文提出了一种差异度和支持度感知的知识表示学习方法,该模型可以在检测知识图谱中可能存在的噪声,同时生成无噪的知识表示。具体地,模型分为两个部分:三元组差异度估计器和三元组支持度估计器。三元组差异度估计器在基于平移模型的基础上,结合三元组结构信息、实体层次类型信息和关系路径信息,生成三元组中实体和关系的匹配度。三元组支持度估计器,通过进一步利用这三种信息,对实体和关系的匹配度进行判断。两种估计器相互结合,形成对三元组的嵌套判断以衡量三元组是否含有噪声。本研究在公开数据集上进行了实验验证,证实了所提方法的有效性。(2)通过进一步研究发现,在含噪知识图谱上进行噪声检测任务时,关系路径信息会带来负面影响。为针对性解决这一问题,基于现有模型,本文提出了一种逻辑规则信息和关系路径信息结合的知识表示学习方法,该方法沿用第三章所提模型方法,在此基础上做出改进。通过引入逻辑规则信息来指导关系路径的合成,利用逻辑规则的准确性提高路径推理的准确性,同时,关系路径推理缺乏可解释性,而逻辑规则的可解释性则很好的弥补了这一点。在公开数据集上进行了实验验证,实验结果显示了所提方法的有效性。(3)本文基于上述两个模型设计了知识图谱噪声检测原型系统,其可以辅助用户对知识进行判断,该原型系统输入为三元组,输出为三元组的评分。通过三元组评分的高低来显示三元组为噪声的可能性。该原型系统可以服务于知识驱动的应用,降低噪声知识带来的影响。

关键词： 表示学习   多视图聚类   哈希学习   自监督学习   图神经网络   对抗训练  

摘要： 随着智能时代的到来,涌现出大量无标签数据,实际应用中的数据通常来源广泛、类型多样,具有多种数据来源、采用多种方式构造的数据称为多视图数据。表示学习是人工智能领域的核心研究问题之一,多视图数据表示的质量直接关系着后续模型的学习性能。针对无监督多视图数据存在的数据规模大、数据类型多、数据质量差异大、数据分布偏移等问题,本文深入分析研究欧氏空间与非欧空间多视图数据,构建一系列无监督表示学习方法,并将这些方法应用于聚类分析以及图分类等任务。主要内容和创新点包括:(1)提出不完备多视图的二值码在线聚类方法。本文建立表示学习质量与多视图聚类泛化性能的联系,并给出多视图聚类期望风险上界。在此基础上,提出了基于哈希学习的多视图聚类框架,将多个视图数据映射到公共的二值空间以提升表示质量。针对多视图数据中视图缺失、流数据等挑战,本文提出不完备多视图数据的二值在线聚类算法。该方法以数据块的方式在线处理多视图数据,具有极低的内存空间要求,适合大规模在线数据。大量实验表明,所提出的方法在不完备多视图数据上相比最新的聚类算法有具有明显的性能提升,在运行时间方面比连续空间的聚类算法速度提升2至13倍。(2)提出自适应参数、局部结构保持的二值码多视图聚类方法。本文扩展了基于哈希学习的多视图聚类框架,提出自适应参数、局部结构保持的二值码多视图聚类方法。为了提升表示学习质量,在二值码表示学习中加入多视图数据局部结构保持的正则项。针对多视图聚类模型参数多、优化困难的问题,本文设计了启发式与数据驱动相结合的方式自适应确定模型参数。该算法具有线性的时间和空间复杂度。大量实验表明该算法在多个数据集上聚类性能优于最新的基准方法,性能提升高达12%,并验证了提升表示学习质量有助于提升聚类任务性能。(3)提出基于对抗训练多视图数据增广的图自监督表示学习方法。本文针对图数据表示学习提出一种非对称网络结构的对比自监督学习方法。该方法利用对抗训练的方式构造图数据的多个视图,减少了数据增广对专家知识和人工试错的依赖。大量实验表明,在图分类任务上采用对抗数据增广相比手工设计数据增广具有一致的性能提升,性能提升高达4.7%。本文方法在图分类任务上性能优于最新的自监督学习方法。(4)提出一种具有分布外泛化能力的图自监督表示学习方法。图数据表示与标签之间的虚假关联是造成模型性能下降的主要因素,本文将消除表示各维度的相关性转换为寻求表示各维度的独立性,提出一种具有分布外泛化能力的图自监督表示学习方法。引入希尔伯特施密特独立性检验度量表示的独立性,并且采用随机傅里叶特征以提升希尔伯特施密特独立性检验计算效率以适应大规模数据的自监督训练。大量实验表明,该模型可以学习到各维度相互独立的表示,且本文方法有效对抗因分布偏移产生的性能下降。在分布偏移的测试数据中,本文方法优于其他的自监督学习方法5.56%,与主流的图神经网络方法相比性能提升平均达7.21%。

关键词： 随机配置网络   激活函数   概率   强化学习   自学习方法  

摘要： 激活函数作为神经网络模型的重要组成部分,对模型表达和学习能力的提高起着至关重要的作用。相同拓扑结构的网络模型在不同激活函数下性能迥异,激活函数的设计一直是神经网络领域的研究热点之一。为此,多种类型的激活函数相继提出,包括参数化激活函数、集成化激活函数和自适应激活函数等。然而,经过多年的探索,人们仍然很难找到一个能够保证神经网络在任何数据分析任务中始终具有最优性能的激活函数,因此,如何根据特定数据分析任务为神经网络选配最适宜的激活函数,成为神经网络应用研究的重要工作之一。现有对激活函数的研究主要集中在深度神经网络领域,在浅层神经网络模型鲜有报道。本文以一种新颖的浅层随机神经网络即随机配置网络（Stochastic configuration network,SCNs）为研究对象,结合其增量构造过程的监督特性,提出了面向随机配置网络的激活函数自学习方法。主要工作与创新性成果概括如下:（1）深入分析激活函数对随机配置网络性能的影响,在相同网络参数、不同激活函数和不同网络参数、相同激活函数两种情况下,通过实验研究探索随机配置网络模型对激活函数的偏好,为后续激活函数的自学习方法研究提供了依据。（2）提出了一种基于强化学习的随机配置网络激活函数自学习方法,其利用强化学习算法,通过k-均值聚类自适应离散化方法将高维训练误差离散化为低维状态,构建了误差-激活函数对的学习Q表,从而构建了能够令隐藏层节点自主选择激活函数的学习方法。该方法可以指导随机配置网络模型根据当前误差为每个隐藏层节点选择出该误差状态下最合适的激活函数,达到激活函数的最优组合。（3）提出了一种基于概率的随机配置网络激活函数自学习方法,其在未增加任何训练参数的条件下,通过在网络构造过程中设计激活函数选择概率、softmax构造策略以及奖惩机制,经过一个模型训练,即可选择出与当前任务最匹配的激活函数。面向回归及分类任务的仿真实验证实了上述两种激活函数自学习方法的可行性和有效性。综上所述,所提出的两种函数自学习方法不仅是一种简单有效的激活函数选择方法,更是一种研究激活函数的新视角和新方法。

关键词： 市场分析   众筹   电商   异构图   迁移学习   注意力机制  

摘要： 融资市场集资预测一直是金融领域的一个热点研究课题,如融资市场中众筹活动的集资表现预测和众筹活动集资周期的预测。融资市场类别多种多样,如教育融资和创业融资等,很多科研人员针对特定融资市场做了相关集资预测研究。在教育类融资市场中,传统的算法更多的是利用历史数据和经验方法,这些传统的实证分析方法不能有效利用到现实生活中的社交关系和融资信息,很难精确地挖掘融资市场中众筹活动的融资能力。所以本文提出基于深度异构图注意力网络的融资预测算法,将特定教育融资市场中的不同节点及关系构建成异构图,并分别处理社交信息和融资信息来预测平台项目的融资表现。此外,过往的市场研究方法大多将视角放在孤立的市场上,依靠对特定市场内的知识来最大化预测性能。然而,这些针对特定市场的方法受到孤立市场的知识限制,无法处理不同异质市场之间复杂而潜在的关系,尤其是一些具有强烈依赖性的市场,如融资市场和销售市场。因此,本文提出了合作-竞争注意力深度迁移网络来挖掘不同市场间的复杂关系,并且能够同时促进融资市场众筹项目的集资预测和销售市场商品的流行度预测。本文的主要研究工作如下: (1)本文提出了一种基于深度异构图注意力网络的融资预测算法(HGFP),它可以有效地挖掘教育融资市场中不同角色和项目之间的复杂社交关系。具体来说,该算法将教育融资市场中的教师、项目、捐助者这三类节点和他们之间的关系建模成异构图,并对项目的属性信息进行分类,分成社交信息和融资信息两类。对于教育融资项目的社交信息,本文将其输入进异构图注意力网络,以此来获得项目的社交知识。而对于融资信息,本文利用多层感知机获取项目的融资知识,最后融合这两类知识进行项目的融资表现预测。本文在Donors Choose教育融资平台上验证了HGFP算法的性能,在所有评价指标上均优于其他对比算法。 (2)本文提出了一种跨市场的合作-竞争注意力深度迁移网络(CATN),它可以有效地在两个异质市场之间迁移众筹市场的融资能力知识和电子商务市场的销售前景知识。具体来说,为了捕捉市场间的复杂关系,特别是项目之间的合作或互补关系,来加强两个异质市场之间的知识迁移,本文设计了一种新颖的合作注意力机制;同时,为了精细度量项目间的关系,特别是在特定的同一市场内的竞争关系,本文进一步为两个市场分别设计了竞争注意力机制。此外,CATN模型还区分了对齐的特征和市场独有特征来适应跨市场的预测。利用从Indiegogo和Amazon上收集的真实世界数据集,本文在这两个市场的三种数据集上进行了广泛的实验,结果验证了CATN模型的有效性和通用性。

关键词： 小学数学   游戏化   实施背景   意义   开展路径  

摘要： 游戏化学习因为其趣味性的独特优势,可以打破学生对数学学习的恐惧,为教学的顺利进行提供保障。为此,本文从小学数学开展游戏化学习的背景入手,进而分析其在学习过程中对学生和教师双方面的意义,最后对其在课堂教学实践中的有效开展路径进行进一步探寻。

关键词： 有意义接受学习   中学历史教学   历史思维  

摘要： 美国认知教育心理学家奥苏贝尔的有意义接受学习概念全面讨论了学习方式和学习内容的组合，并提出学校情境中学生学习主要是有意义的接受学习而非发现学习，他提倡的课堂讲授教学模式与当前中学的主要教学实践方式高度契合，有意义接受学习理论为课程和教学改革提供了充分的心理学基础，对教学具有重要的指导意义。历史作为一门综合性和过去性较强的学科，在历史课程中运用有意义接受学习理论，根据学科特色制定教学策略，在学生已有的认知基础上发展历史思维，落实立德树人的根本任务，促进学生从容面对未来的学习与生活。

关键词： 多机器人系统   协作SLAM   深度强化学习   神经网络  

摘要： 协作同时定位与建图(Simultaneous Localization and Mapping,SLAM)是指多个机器人在未知环境中通过协作,实现同时定位与环境地图创建的技术。协作SLAM被广泛应用于大规模环境建图,但是对系统总体协调效率以及机器人个体之间的协作能力要求非常高。因此,将多机器人系统学习方法应用于协作SLAM成为近年来的研究热点。但是现有方法存在着学习目的及方法单一,无法解决多机器人系统由于任务类型复杂多样而造成难以学习的问题。本文对面向协作SLAM的多机器人系统学习方法进行了深入研究,研究内容主要涉及多机器人任务分配、多机器人协作定位、及多机器人协作建图。多机器人协作SLAM由上述三个部分组成,多机器人协作定位与建图指的是多机器人利用任务分配算法来协调多个机器人进行主动相互定位与探索地图,定位和建图的结果会反馈至任务分配单元,系统会根据SLAM的结果对机器人进行任务分配。本文主要研究内容包括以下三个部分:提出了基于神经网络和AGRMF(Agent Group Role Membership Function)的多机器人任务分配算法,解决了多机器人系统学习机器人能力特征效率低的问题。首先,本文提出了由特征提取层和联盟生成层两部分组成的AGRMF-NN神经网络。多机器人系统学习到每个机器人的AGRMF个体特征后,会将其传递至AGRMF-NN特征提取层,并提取出所有机器人的AGRMF角色特征,然后将AGRMF角色特征传递到基于自组织映射的联盟生成层,由联盟生成层学习AGRMF任务分组特征并对所有机器人进行分组。其次,本文提出了组吸引力函数来评估联盟质量以及机器人的贡献程度。最后,本文提出了基于组吸引力函数的学习算法来更新AGRMF-NN的所有权值。仿真实验表明,所提算法提高了多机器人系统学习机器人能力特征以及执行任务的效率。提出了基于定位协助度的多机器人协作定位算法,解决了多机器人系统协作定位时定位精度低的问题。首先,根据多机器人协作定位中观测信息可传递的特点,提出了多机器人链式定位算法,在链式定位的过程中,机器人独立运行SLAM的同时,以相对观测的形式对目标机器人进行协作定位,定位链中的每个成员在系统的整体调度下参与各自目标机器人的链式定位。其次,提出了最优定位链的定义。最后,提出了最优定位链的学习算法以及基于最优定位链的多机器人协作链式定位算法。仿真实验表明,所提算法提高了多机器人协作定位的精度。提出了基于深度强化学习的多机器人协作SLAM算法,解决了多机器人系统因没有提取并学习机器人协作SLAM特征而导致的定位及建图精度低的问题。首先,构建面向多机器人协作SLAM的任务树,并利用分层强化学习模型来计算整个多机器人系统的协作SLAM效用值。其次,提出了对整个多机器人系统建模的观察函数,以获取多机器人系统的定位及建图的状态。最后,提出了基于多机器人系统协作SLAM效用值的奖励函数,并且构建了MAS-DQN网络,用其学习系统累积的SLAM效用值以及多机器人系统中的SLAM属性和协作特征。仿真实验表明,所提算法改善了多机器人系统的定位精度和探索地图的效果。综上所述,本文围绕面向协作SLAM的多机器人系统学习方法相关问题展开研究,提出了多机器人任务分配方法、协作定位方法以及多机器人协作SLAM方法,提高了多机器人协作SLAM的定位和建图的精度。

关键词： 细粒度检索   相似性学习   属性定位   特征提取   特征融合  

摘要： 图像相似性检索是服装电商平台中不可缺少的服务之一。现有的大多数检索方法都是基于服装图像的整体相似性,没有关注到服装在特定属性下的相似性,如一件红色长袖V领T恤和一件蓝色短袖V领T恤从整体上不相似,但在领口设计上是相似的。这种检索方式能够更好地满足用户个性化的检索需求,不仅能够促进消费,也能为企业带来更大的经济价值。本课题主要研究面向这种细粒度图像检索任务的属性感知的图像相似性学习方法。缩小视觉特征编码与属性语义之间的鸿沟,是细粒度相似性检索的核心问题。本课题有针对性地提出了解决该问题的三个基本任务,即属性定位、特征提取和特征融合。目前基于空间注意力机制定位图像关键区域的属性定位方法已经被广泛的研究和应用,但是其准确性仍然有待提高,常规的下采样等方法在提取特征时很难采集到有效的特征信息,而且常用的拼接等特征融合方式很难丰富地表达多个层次的特征信息。针对这些问题,本文提出了基于注意力机制的相似性学习网络(Attn Fashion)和基于迭代定位的相似性学习网络(ISLN),并在服装检索领域的两个公开数据集上做了大量的实验来验证模型的有效性。综上,本课题的主要工作为:(1)针对服装属性定位难度大且图像和文本模态之间的语义鸿沟问题,提出了基于注意力机制的相似性学习模型Attn Fashion。Attn Fashion有两个核心的注意力模块,其中属性引导的空间注意力在属性的引导下定位图像的关键区域,属性引导的通道注意力模块提取多通道内的属性信息。最后采用自适应特征融合机制,自适应的融合空间注意力和通道注意力提取的关键特征,使特征包含更丰富的语义信息。(2)从人类视觉聚焦图像关键位置的过程中受到启发,提出了基于迭代定位的相似性学习的网络模型ISLN。ISLN包含两个核心模块,Whole模块负责定位图像的关键区域并生产新的特征图,Part模块负责融合特征图与属性特征生成新的属性特征。在迭代的过程中,ISLN能够融合多个层次的语义信息,并且不断调整属性定位的区域,优化提取到的属性特征信息。(3)在服装领域常见的数据集中进行了大量的实验,来验证Attn Fashion和ISLN的性能表现,并且通过大量的对比实验和消融实验来检验模型结构的合理性。实验表明,Attn Fashion和ISLN的性能优于现有的模型,能够有效的定位到图像的关键区域,提取属性的关键特征。