关键词： 人脸属性   类别不均衡   动态加权策略   多任务学习   跨层特征  

摘要： 人脸识别、验证和人脸检索等领域常常把人脸属性识别当做辅助任务。人脸属性是对一张人脸图片的各种特征的描述,由于人脸属性不止一个,适用于多任务识别,并且提取各个属性特征的复杂程度不一,所以人脸属性识别任务并不简单。人脸属性往往有多个,正负属性的样本数量往往相差数倍,甚至数十倍,会降低模型对一些属性的识别性能。因此,本文重点研究了类别不均衡学习方法在人脸属性识别上的应用。类别不平衡学习方法主要有三种,分别是基于数据层、基于算法层和基于特征层。其中,数据层方法对于多标签数据集而言,适用性较差;并且人脸属性数据集中属性较多,任务复杂,直接对任务的相对重要性进行加权处理往往需要多次手动设置,导致大幅增加模型训练时间;特征层方法需要设计复杂模型将数据映射到特征空间,因此特征层方法也难以实现。虽然类别不均衡学习方法可以缓解目标识别数据集类别分布不均衡,但是人脸属性复杂,类别不均衡学习方法往往不能跟人脸属性识别很好地结合。基于此,本文提出了基于动态加权策略的多任务人脸属性识别算法,并以此为基础对网络多尺度特征进行分析,提出了多输出跨层特征金字塔网络利用多尺度信息,解决了人脸属性识别的类别不均衡问题。本文主要研究工作如下:(1)本文使用多项操作对Celeb A和LFWA数据集进行数据预处理。原始图像包含了衣服、背景等过多的干扰因素,因此需要对数据进行姿态矫正、数据标准化等数据预处理。(2)提出了基于动态加权策略的人脸属性识别。针对现有研究中重采样算法改变数据分布的问题,突破不同任务的损失规模不一导致多任务网络不能同步收敛,建立动态加权策略,使用生成式采样均衡数据分布,并提出动态加权损失均衡损失分布。本文基于多任务学习方法搭建了改进的多任务人脸属性识别网络,并将动态加权策略用在模型训练和测试中,从而均衡数据分布和损失分布。实验结果表明,动态加权策略可以有效地提高模型识别性能。(3)提出了基于多输出跨层特征金字塔网络的人脸属性识别。针对多任务模型中单一尺度特征分布不均衡,特征金字塔网络使用渐进式融合方法造成特征信息损失的问题。本文在动态加权策略的基础上,提出了多输出跨层特征金字塔网络直接融合多尺度特征,从而平衡了大尺度特征与小尺度特征分布不均衡的问题,同时减少特征信息损失,提高了模型识别性能。

关键词： 耦合氢键   氢键几何   协同弛豫   机器学习   数据库  

摘要： 水在地球文明中的重要性不言而喻,然其复杂多变的相结构和反常物性促使无数科研工作者努力厘清其特殊性的物理本质及各种物性的内在联系。目前,冰水的研究现状可概括为一种现象伴随着多种理论辩争。一方面,人们对冰水结构和反常物性的认知远未达成一致;另一方面,受限于表征技术与方法,氢键几何结构参数实测数据较缺乏,且未形成体系,很大程度上限制了人们对冰水及溶液体系本质和演变规律的理解。本文以非对称耦合O:H—O键为研究对象,结合氢键协同弛豫理论,搜集冰水及溶液氢键几何结构特征的相关数据,建立不同的机器学习模型,预测了冰水及溶液体系氢键几何结构参数,构建了氢键几何结构数据库。主要研究内容如下: (1)通过论文、书籍及数据库等途径获取冰水中氢键几何结构信息,利用皮尔逊相关系数图和特征参数关系散点图进行特征选择,使用网格搜索和5折交叉验证法调整模型参数,构建了DT、KNN、SR和XGBoost四种ML算法模型,以预测冰水中氢键(O:H—O)的系列键长。结果表明,DT模型的拟合能力更强,稳定性更好,具有预测优势;对比氢键系列键长的真实值和预测值,两者重合度较高,说明DT模型不仅具有良好的拟合能力,还具有较好的泛化性能和稳定性以及较优的预测能力。 (2)通过广泛收集系列溶液的氢键几何结构信息,应用e-dragon分子描述符进行特征选择、参数调整,构建了DT、KNN、SR和XGBoost四种ML算法模型,并对各溶液的氢键键长参数进行了预测。结果表明,四个模型的预测值与实验值都十分契合,误差较小,但KNN在预测中出现了异常值,不能为后续预测所用。其他三种模型表现相当,均呈现出优异的预测性能、泛化性能和稳定性,尤其是SR模型,其各项指数皆为最优,被适用于溶液氢键几何参数的预测。 (3)根据氢键几何数据特点,结合实际需求进行数据库的可行性分析和需求分析,初步完成了氢键几何结构数据库的搭建和后台管理系统的设计,实现了对数据库信息即冰水或溶液氢键几何结构的查看、查询功能。

关键词： 资产定价模型   风险传播   企业关联   图神经网络   时序神经网络  

摘要： 资产定价是金融领域的一个长期研究方向。以往的金融研究主要使用计量经济学的统计模型来分析单一因素如宏观环境和市场微观结构对股市价格趋势的影响。然而,真实的股市是一个复杂的系统。一家目标公司的价格变动,不仅与其自身的风险因素有关,还受到相关公司的风险溢出(动量溢出效应)的影响。如何全面考虑目标公司的风险信息和相关公司的动量溢出效应,已成为研究资产定价问题中的一个新兴重要挑战。 为了应对股市中的动量溢出效应,传统的金融研究者试图在资产定价的计量模型中构建各种代理变量来代表风险因素传播产生的影响。但是,将高维的公司间拓扑信息压缩为标量不可避免地会导致大量信息的丢失,无法准确表示相关公司对目标公司的影响,从而限制了模型学习市场价格形成能力。得益于深度学习技术的快速发展,一些金融学者尝试引入图神经网络来学习股市中的动量溢出效应,希望增强股价波动的预测能力。这些前沿研究将整个市场构建为一个图结构,其中每个节点是一家上市公司,节点之间的连接强度代表不同公司间的影响。节点间的风险传播过程通过消息传递和聚合过程来表示,并通过下游任务的监督信号来学习。然而,由于传统的图神经网络机制只接受静态的公司关系输入并使用共享的权重矩阵,它们无法区分不同时期和不同公司之间的风险或价格运动模式的差异,因此只能捕捉相同滞后时间和相同运动模式的依赖性。此外,由于深度学习模型通常由多个非线性过程组成且是“黑盒”模型,研究人员很难深入理解其内部机制,无法量化公司间风险因素的影响强度。 本研究基于风险溢出的属性,设计了一个新的基于深度学习的资产定价模型,即深度风险溢出网络(DRSN),以捕捉公司关系在资产定价中的作用。该方法识别跨期时间序列依赖性(即“领先-滞后”效应),并动态推断风险传播的差异化影响。DRSN的成功归功于框架中的三项核心技术创新: 技术创新一:子序列时序特征编码器(Subsequence-based Time-series Encoder,简称STE)。该模块分离整体市场风险,检测重要子序列的边界,并编码子序列的间隔和排列以提取与“领先-滞后”效应相关的时间序列特征,从而帮助下游模型推断公司间风险传播的影响。 技术创新二:图门控网络(Graph Gating Network,简称GGN)。该模块将门控机制引入图神经网络,使其能够基于“领先-滞后”效应动态推断公司间风险传播的影响。这提高了消息传递过程的表现力和图神经网络的预测能力。 技术创新三;信息传递解耦机制(Decoupled Messaging Mechanism,简称DMM)。该模型线性化并解耦了消息传递和聚合过程,并将其整合到DRSN的预测过程中,使其能够量化风险因素传播的影响,从而增强了模型的可解释性。 在模拟数据上的仿真实验和三个真实证券交易数据集上的实证实验中,DRSN都表现出卓越的性能。具体而言,在仿真实验中,DRSN的时序组件比Bi LSTM、HM-LSTM、Transformer等现有时序神经网络都能够更有效地识别与“领先-滞后”效应相关的细粒度时序特征;此外,在实证实验中,DRSN的性能超越了包括Fin GAT、TGC在内的多个目前已知最优的基于深度学习的资产定价模型;最后,本研究还通过量化风险因子传播影响强度,讨论企业关联关系如何影响资产定价模型对证券市场价格的预测能力。 总体而言,本研究通过探索和设计遵循证券市场运行机理的深度学习框架,来解决对企业关联在证券市场资产定价任务中的影响作用进行研究时所面临的难点挑战。本研究一方面揭示了在经济管理研究中,应力诫“拿来主义”,要遵循经济运作规律来设计先进的深度学习框架,推动智能金融领域的发展;另一方面,本研究也展示了人工智能模型对经济管理研究的积极推动作用,为经济管理科学研究开辟了一个继计量统计模型之后的新视角和研究范式。

关键词： 图表示学习   图对比学习   自表示特征选择   脑疾病数据  

摘要： 静息态功能核磁共振成像(rs-f MRI)数据复杂,且提取的脑功能连接数据特征维度往往是高维的,不利于疾病识别。由于受试者之间存在相似性(如性别、年龄、地区),通过构建图结构可以捕获受试者的相似性。目前,大多数研究者通常使用深度特征学习方法来降低脑疾病数据的维度,从而提取出更有代表意义的低维特征信息。但是在这些研究中,往往会利用标签信息进行疾病识别,实际代价较大。针对上述问题,本文主要提出了两种基于深度图编码器的无监督特征学习方法来提取脑功能连接数据特征,具体研究内容如下:第一,提出基于图注意力自编码器的自表示特征选择算法(GAAS),这是一种挖掘低维特征表示的无监督方法。图注意力自编码器可以捕获节点之间的相似性,关注节点的局部邻域信息。因此,从特征子空间的角度出发,本方法设计一个特征自表示模块来增强局部到全局的线性信息。然后利用图约束项来增强原始图中相邻节点的相似性,并以图结构的形式约束自表示模块中相邻节点的重要性表示。此外,将表示全局特征关系的自表示系数矩阵作为判断特征重要性的标准以进行特征选择。最后,按重要性降序选择脑疾病亚型中最具判别力的特征子集以便于脑疾病识别。在八个脑功能连接数据集上的大量实验结果验证了选择的特征子集能准确的识别脑疾病亚型,所提出方法在现有特征学习方法中具有极大的竞争力。第二,在第一个工作的基础上,融入图对比表示学习,通过数据增强扩充原始数据。人脑疾病数据复杂,同一种疾病可能存在多种疾病亚型。现有图对比学习方法基本只考虑了对比个体疾病的表征信息,而不识别个体间的相似性信息。这可能会影响图中信息节点表示的质量。为此,本文提出联合图对比和图生成表示学习(GCGRL)方法。首先,设计一种新颖的图对比方法,通过构建多个正负样本对来学习高质量的一致表示。此外,引入一种约束机制,该机制考虑了损坏数据中的图拓扑重构,以增强节点和邻域嵌入的相似性。在八个脑功能连接数据集上的大量实验结果验证,GCGRL提高了个体表征之间的相似性和脑部疾病识别的准确性。与现有最先进的方法相比,结果表明了所提方法的有效性。

关键词： 深度学习   通用多模态学习   多模态预训练   对抗式训练  

摘要： 多模态学习旨在利用不同模态数据之间的隐含的关联性实现对多模态语义的协同理解能力,从而实现对复杂环境和任务的更好的理解。随着人工智能技术的发展,多模态学习的研究日益重要。目前多模态学习的主流方式是通过“预训练-微调”的方式在一个大框架下解决多种多模态任务的通用多模态学习。图像数据和文本数据是最常见的两种类型的数据,本文所研究的通用多模态学习方法将聚焦于“图像-文本”的多模态场景,包括视觉问答、视觉目标定位、图文检索三个典型的多模态学习任务。目前通用多模态学习方法主要依靠多模态预训练来实现,这些方法在预训练阶段和微调训练阶段面临着不同的挑战。在预训练阶段,多模态模型需要学习跨模态的语义关联,同时尽可能地学习细粒度的语义对齐,目前大多数方法只能进行粗粒度的语义对齐学习;在微调训练阶段,由于数据量的锐减,多模态模型在该阶段面临着更大的过拟合风险,一些工作尝试将对抗式训练的方式引入到该阶段增强模型的泛化性与稳健性,但同时也增加了许多时间开销。针对上述问题,本文的研究主要形成以下两种方法:1、为了解决通用多模态模型在预训练阶段需要进行细粒度语义对齐学习的问题,本文提出基于对抗式掩码学习的通用多模态预训练方法LTM。该方法提出了一个对抗式掩码生成网络,并与多模态预训练模型在一个对抗式训练的框架下进行训练。对抗式掩码生成网络会倾向于将文本中与图像相关的词或图像中与文本相关的区域选为掩码,这样的掩码方案对于多模态模型学习跨模态的细粒度语义对齐有很强的针对性。最终的实验结果证明了这种显式增强跨模态细粒度语义对齐方法的有效性。2、针对通用多模态模型在微调训练阶段容易过拟合的问题,本文提出基于对抗式特征扰动的快速通用多模态微调训练方法MAP。该方法同样在对抗式训练的框架下进行,并依靠一个对抗式扰动生成模块在输入数据的特征层面施加对抗扰动。与现有的基于对抗式训练的多模态模型不同,该方法使用一个可学习的对抗式扰动生成模块根据多模态网络的输出自动地生成对抗式扰动。在训练中,该方法还使用了一种快速训练方式,极大地减小了对抗式训练所带来的时间开销。最终,在三个多模态任务上的实验结果验证了这种对抗式特征扰动方法的有效性和通用性。

关键词： 联邦学习   噪声标签   鲁棒性  

摘要： 联邦学习是一种具有隐私保护属性的分布式学习架构,能够在隐私数据不离开本地的情况下的协同参与客户端完成全局模型的训练。联邦学习为串联数据孤岛,打破数据壁垒提供了解决思路,因此受到了学术界和工业界的广泛关注。但是,要获得一个高性能全局模型的前提是参与客户端拥有完全正确标注的数据集,这在现实条件下是一个极强的假设。一方面,客户端要获得准确的数据标签需要耗费巨大的人力成本,而低成本的标注方式极易产生大量不正确的标签;另一方面,也必须考虑到联邦学习系统中存在恶意客户端的情况,这些客户端会通过破坏本地数据集的标签对联邦学习发起投毒攻击。这种与样本不对应的错误标签也被称为噪声标签,并根据其产生的原因可以将其分为非恶意噪声标签和恶意噪声标签两类。噪声标签的存在会对联邦学习产生不可忽视的影响,包括降低模型总体性能或者导致模型对特定的样本进行错误分类等。因此,在联邦学习中,如何在客户端本地数据存在噪声标签的情况训练高鲁棒性,高性能的模型尤为重要。为了提高联邦学习在面对上述两种噪声标签时的鲁棒性,本文开展了以下三点研究:(1)为了更深入的理解两种噪声标签对全局模型行为的影响,本文通过实验分别分析了全局模型对两种噪声标签的记忆模式。实验发现全局模型对噪声标签记忆的一个共性:在训练前期其本身对于噪声标签具有一定的鲁棒性,但是随着训练的进行,逐渐开始对噪声标签进行记忆。同时实验发现防止模型对样本进行过度记忆的正则化技术只能有限的缓解这种情况。(2)针对非恶意的噪声标签,本文提出一种基于客户端自指导的鲁棒学习方法。该方法考虑了模型在训练前期对噪声标签具有一定鲁棒性的特性,提出利用客户端本地训练的历史模型指导后续的训练。该方法首先通过锐化模型预测的方式强制模型进行高置信度预测,防止模型对噪声标签的过度记忆。同时在客户端存储样本级的历史自集成logits,并通过对自集成logits进行知识蒸馏指导本地模型的后续训练。在多个数据集上的对比实验证明,该方法显著提高了全局模型对于非恶意噪声标签的鲁棒性。(3)针对恶意的噪声标签,本文提出了一种基于遗忘学习的防御策略。该方法在服务器保存联邦学习训练过程中客户端上传的梯度,并基于全局模型的记忆效应从中提取了对于恶意噪声标签高度敏感的梯度子集作为区分恶意梯度和正常梯度的特征,然后对恶意梯度进行检测。完成检测后,服务器首先从最终全局模型中擦除恶意梯度,然后通过对一个未标记的辅助数据集进行知识蒸馏校准擦除梯度后带来的模型偏差,完成对恶意噪声标签的遗忘。在两个流行的基准数据集上的实验证明,该方法能完全消除全局模型对恶意噪声标签的记忆,并能维持模型的性能。

关键词： 离线强化学习   连续控制任务   策略约束   从示范中学习  

摘要： 近年来,人工智能自主决策成为了深度学习领域的研究热点之一,而强化学习是令机械臂等人工智能载体在连续控制任务中能够学习自主决策的广泛可用解决方案。但是强化学习方法依赖于与环境大量交互并收集反馈数据以进行行为策略学习,这导致其不适用于在一些现实任务场景中训练,让机械臂等智能体与环境频繁交互是危险的且易于为机械臂带来损耗。受限于这些问题,强化学习领域衍生出了离线强化学习方法,使得智能体能够直接从离线的专家示范数据中学习,降低智能体行为策略学习过程中消耗的成本。然而离线强化学习方法缺乏在环境中进行探索与利用的机会,其面临着分布偏移问题,当智能体在应用阶段面临分布外状态时,容易产生外推误差而做出错误决策。同时连续控制任务为包含多步骤的长时序任务,它的专家示范数据集一般来自于人类专家,而人类专家的行为决策过程是非马尔可夫的,这会给智能体学习策略带来额外误差。 为了缓解以上问题,本文在面向机械臂连续控制任务的离线强化学习方法上进行了研究及实现,在离线强化学习基准上进行实验并与现有先进方法进行比较,并在任务难度更高的家具组装仿真环境上进行了优化模块的对比实验,实验结果证明了本文方法的有效性。本文主要贡献及工作如下: 1)本文设计了一种基于长程路径约束的离线强化学习方法用于智能体连续控制任务,它由候选路径生成器、最优路径选择器以及行为决策器组成。模型通过时序网络和生成模型在智能体所处状态预测多条路径,然后筛选出一条最优路径,通过跟踪路径上的每个子目标作为约束来进行行为决策,这种结合时序信息的显示策略约束方法能够有效地从非马尔可夫数据中学习完成长程连续控制任务。 2)本文构建了一种基于无监督学习的空间视觉关键点提取方法,结合空洞卷积以及自注意力机制设计了空间语义特征提取等模块,提取源图像-目标图像对的特征并融合以重构目标图像,通过降低重构误差以无监督的形式训练网络,关键点生成模块能够在不对图像进行标注的情况下将图像转换为低维的关键点坐标向量,使得机械臂等智能体能够利用视野中关键点信息对环境进行认知以帮助智能体决策。 3)本文基于图注意力网络设计了一种路径约束特征提取模块,该模块能够嵌入已有长程路径约束方法中,通过获取预测路径中其他子目标状态对当前状态的影响,对路径约束信息进行自动化提取与细化,提高智能体决策模型的灵活性和精度。

关键词： 遥感农作物提取   Sentinel 2时间序列   深度学习   不确定性   泛化性  

摘要： 随着人口的增长,迫切需要可持续的农业生产管理方法来满足日益增长的粮食需求。相比于人工考察,遥感农作物提取技术可以实现快速、精准、全面的农田变化监测,提供及时、准确的农业统计数据,为农业政策和农业管理提供参考。随着深度学习技术的发展,越来越多的模型和方法被引入遥感农作物提取的研究中,这些模型和方法的应用取得了良好的效果。然而,由于不同作物之间的光谱相似性、图像分辨率的影响,遥感作物制图中经常出现的边界模糊和空间不一致等问题,并且高精度的预测通常仅仅局限于研究区域,大多数现有的基于遥感数据的农作物制图模型通用性较差,它们不能被快速部署到不同地区的作物识别任务中,遥感农作物提取的深度学习方法研究仍然面临巨大的挑战。本文以中国东北地区为研究区,利用多时序哨兵2光学遥感影像,结合农作物物候信息,探索解决遥感农作物提取中不确定性和泛化问题的深度学习方法。主要研究内容如下: (1)首先,本文利用农作物物候特征和哨兵2时序遥感影像建立了遥感农作物智能提取样本库。本文利用Relief F特征选择算法对光谱和植被特征进行了筛选,使用哨兵2时间序列数据建立农作物NDVI时间序列曲线,并采用Savizky-Golay滤波算法对NDVI曲线进行滤波。通过将NDVI时间序列曲线与作物物候信息相结合,确定关键时间窗口,增强作物之间的特征差异,提高作物分类的准确性和模型的适用性。 (2)本文基于物候学的先验知识,结合注意力机制和残差连接,设计了一种偏心贝叶斯深度学习(OCBDL)遥感农作物提取方法,该方法可以增强物候学特征从而提升分类精度。实验结果表明,大豆、玉米和水稻的分类准确度总体上达到90.73%,平均F1和IOU分别为89.57%和81.48%,优于CNN、RNN和RFC的提取结果。本文基于贝叶斯深度学习进行了不确定性分析,分析了模型的学习过程和模型结构的可解释性,结果表明注意力机制和残差连接在网络中起着积极作用,不确定性因素会影响农作物分类的精度和图像质量。根据贝叶斯可视化的不确定性分布可以看出,遥感作物分类中的不确定性主要以噪声和混合像元两种形式存在,这些不确定性因素源于基于像素本身的分类方法。 (3)根据不确定性分析,本文进一步提出扩展以目标像素为中心的邻域窗口,增强模型的空间和光谱感知能力,并通过多尺度网络提取不同邻域大小的空间和光谱特征减少不确定性因素的影响。因此,本文设计了多尺度注意力卷积网络(MACN),通过坐标卷积模块和卷积注意力模块来进一步增强邻域的空间信息和光谱特征。实验结果表明,MACN在OA、F1得分和IOU方面分别获得了94.81%、93.75%和88.68%的准确度分数,优于Resnet-18、MLP和之前提出的OCBDL获得的分数。对不同邻域窗口大小得到的实验结果的比较表明,通过扩大邻域窗口可以有效减少作物制图中的空间不一致和边界模糊问题。在消融实验中还表明,坐标卷积和卷积注意力模块在网络中发挥了积极作用。 (4)此外,为了进一步验证MACN的适应性,本文对黑龙江省、山东省和美国伊利诺伊州坎伯兰县的主要农作物进行了提取,提取结果与官方统计数据有较高的一致性,说明了MACN模型能够在具有较高农作物提取精度的同时保证模型泛化性。因此,本文提出的方法可以为遥感作物制图提供可靠的技术支撑。

关键词： 机器学习   迁移学习   无监督域适应学习   无源域数据的域适应学习  

摘要： 无监督域适应学习是迁移学习中的重要研究方向,它是从相关的源域学习知识迁移到目标域,解决了无标签的任务域学习问题,并通常假设源域数据是在域适应阶段可直接使用。但由于个人隐私和安全问题,在一些现实应用中,源域数据往往是不可直接获取的。鉴于此,本文研究一个新的域适应问题:无源域数据的域适应学习。它仅利用预训练好的源域模型来辅助目标域学习,无需访问源域数据,具有重要的研究意义和应用价值。如何有效利用好预训练模型和目标域数据,解决好域偏移问题,是无源域数据的域适应学习问题的关键挑战。本文对此进行了深入研究,内容包括以下两个方面:一是提出了基于双矫正机制的无源域数据域适应学习模型(Source-free domain adaptation with Dual-correction Mechanism,DCM)。首先,探索目标域样本信息结构,对噪声类输出进行矫正;其次,采用教师-学生模型指导特征的学习,最大化高置信度特征间的一致性以及低置信度特征间的差异性;最后,在数字集、Office-31和Office-Home数据集上的实验结果可证实DCM的有效性。二是提出了基于类目标域原型生成的无源域数据域适应学习方法(Source-free domain adaptation with Generated Target-like Prototypes,GTP)。首先,基于源域分类器知识和目标域数据特征,通过条件生成网络生成类目标域原型;其次,计算目标域样本特征到原型中心的距离得到伪标签,在此指导下进行模型微调;最后,在Office-31、Office-Home和Vis DA数据集上取得了显著的学习性能提升。

摘要： 随着教育改革的深入推进，小学语文教学面临诸多挑战，如何构建与新时代相适应的小学语文课堂是当前需要解决的重要问题。在任务驱动目标理念下，大单元教学可以为构建小学语文课堂提供有效支持。不论是“任务驱动目标教学”，还是“大单元教学”，都是对小学语文课程进行优化的重要举措，促进了小学语文课程体系的体系化和创新化，进而达到可持续发展的目的。