关键词： 强化学习   互信息   意图控制   近端策略优化算法   数据挖掘  

摘要： 深度强化学习(Deep Reinforcement learning,DRL)作为机器学习领域的重要学习方法,主要研究智能体如何在未知环境中做出较好的决策,是最有希望实现人工智能这个目标的研究领域之一。目前,深度强化学习在诸多领域如游戏、机器人等取得巨大突破。深度强化学习的目标是找到最优策略,从而取得最大期望回报。为了实现深度强化学习的目标,要求智能体理解所处的环境状态,能够根据任务要求做出符合环境情境的决策动作。传统的策略模型动作选择主要依赖于状态感知、历史记忆及模型参数并且在最终测试及实际应用中,智能体的行为难以控制,动作不规范,难以完成预期任务。然而,当人类智能体要完成一项任务时,他们通常会考虑到自己的意图、动机,根据当前的情境以及自身意愿选择相应的行为。为了让深度强化学习中的行为选择机制更接近人类,使智能体选择包含意图的行为,本文从策略模型入手,根据人类执行任务时,通过意愿控制动作的本质特性,设计一种基于意图控制的强化学习模型,具体地,本文为基于意图控制的强化学习任务设计了全新的目标函数,使其在最大化期望回报的同时,通过意图和行动之间的互信息(Mutual information,MI)最大化让意图变量与动作产生联系。进一步地,本文推导了互信息目标的近似值,从而可以有效求解所提出的具有意图控制功能的目标函数。最后,文章在经典的多目标连续链式行走任务以及Mujoco控制任务中验证了所提基于意图控制的策略模型的有效性。

关键词： 深度学习   混响水池   比较法   辐射声功率  

摘要： 水下航行器等水下声源的声学特性的测量问题是声学领域重要的研究课题,如何准确测量水下声源辐射特性问题始终成为声学工作者热衷的研究方向之一。长期以来实验室的测量方法是在消声水池中进行的,消声水池可以模拟自由场声场条件,测量方法具有明确直观的物理意义,但也存在吸声材料低频吸收受限和高建造成本的条件制约。近年来,混响水池受到关注,在混响水池中进行声源声学特性测量具有背景干扰低、实验条件要求低、测量结果重复性好等优势。混响水池的测量方法对声场采集的完备性有明确的要求,高测量精度需要大量的声场测点才能满足测量方法对全空间声场拾取的测量要求,这在测量过程中工作量很大。如果仅通过少量测点即可满足测量要求进而达到比较高的测量精度,将显著提高混响测量的实验效率。本文尝试利用深度学习的方法通过少量测点来恢复整个混响声场,进而达到利用局部声场数据得到整个声场信息的目的,结合混响测量方法实现水下声源辐射声功率快速准确测量。本文采用了基于U型神经网络的深度学习方法利用局部样本数据集来恢复整个声场,通过COMSOL声学有限元软件建模数值计算出的声场数据训练神经网络,进一步利用水池试验实测的数据进行声场校正,结合混响场比较法测量方法,最后实现水下声源声功率的快速测量,深入分析了基于U型神经网络的深度学习方法应用在混响测量中的可行性与适用性。论文重点开展了基于U型神经网络的深度学习方法研究,构建了实现混响水池声场重建任务的神经网络,基于仿真数据样本,实现了快速声场重建,其中对一个声场样本进行重建的速度在0.2s以内,整个混响声场重建所需采样点数控制在20点以内。进一步分析了深度学习方法的适用性,研究了不同参数条件下深度学习神经网络重建声场的能力。仿真研究表明,重建声场与样本声场之间的SSIM大于0.9,达到了高相似度要求;利用重建出的混响声场通过比较法得到的声源声功率,在下限频率为10k Hz的混响声场仿真例中,1600Hz到4000Hz低频段应用深度学习方法重建声场效果比较好,以100Hz为带宽进行宽带处理,计算出的目标辐射声功率级偏差不超过2d B。通过水池实验进一步验证深度学习方法用于混响测量的可行性,依据比较法测量原理,基于深度学习方法的神经网络对水池测量样本进行提取和声场重建,在1.474m×0.9m×0.6m的混响水槽中,开展了球形声源和圆柱形声源声功率测量实验,在1600到4000Hz的低频段内,以1/3倍频程进行宽带处理,由不同声源重建出的水槽声场与实测声场之间的均方声压级偏差小于2d B,测得的不同声源辐射声功率级最大偏差不超过3d B。水池实验和仿真实验的结果表明,深度学习神经网络能够有效用于混响水池中声源辐射声功率测量简化测量系统,显著提高混响测量效率。

关键词： 耕地质量评价   卡方分箱   SMOTE   集成学习  

摘要： 耕地是人类重要的资源,也是人类生存发展的基本条件。为充分了解县域耕地资源,提高耕地质量评价效率和准确度,减少在评价过程中主观因素的影响,本论文引入机器学习的方法,选取三门峡市陕州区为研究对象并对其做耕地质量分等定级。论文通过缺失值填充、删除等方法先对耕地数据做预处理,并根据数据特征将特征变量划分为类别型变量和数值型变量,对于数值型变量分别采用卡方分箱的方法进行处理,将处理后的结果采用one-hot编码赋值,对于样本类别数较少的数据采用SMOTE方法平衡样本数据。随后,将处理好后的数据代入逻辑回归、随机森林、人工神经网络(ANN)、XGBoost、Light GBM等单一模型中进行实证研究,并根据单一模型评价结果利用Bagging组合模型对耕地质量进行评价。结果显示,通过集成学习投票的算法结果有明显优势,其中XGBoost-Light GBM-ANN的组合模型效果最好。与传统的耕地质量评价方法相比,本方法大大减少了主观因素对耕地质量评价的影响,具有效率高、评价精度高等优点,在耕地质量评价更新工作中有广阔的应用前景。

关键词： 滚动轴承   健康状态评估   剩余寿命预测   时频图像   深度学习  

摘要： 滚动轴承作为工业机械设备中不可缺少的关键零部件,其运行状态关系到设备的安全稳定。故障诊断与剩余寿命预测作为滚动轴承预测与健康管理(PHM)的重要技术,可以有效地识别滚动轴承故障发生位置并对其剩余寿命进行预估,以此实现对机械设备进行早期干预维护,保障企业安全生产。针对具有非平稳性和非线性特性的轴承振动信号,连续小波变换(CWT)可提取信号的时间和频域信息,并以时频图像展现的一种时频分析方法;深度学习方法被广泛应用于图像特征的提取和建模分析。论文针对滚动轴承振动信号的特征提取和深度识别模型的构建问题,提出了基于多维特征和时频分析的滚动轴承健康状态评估和剩余寿命预测深度学习方法,具体研究内容如下:(1)基于多维特征的滚动轴承故障诊断方法研究。利用浅层机器学习方法对滚动轴承振动信号进行建模分析时,输入特征的选择对分析结果十分重要。针对滚动轴承振动信号有效特征提取问题,提出了基于多域参数及变换特征的多维特征滚动轴承故障诊断方法。采用信号时域、频域统计参数以及时频域特征提取方法EMD、WPD以及复包络分析提取多维特征信息,结合SVM分类器进行轴承故障诊断。与自编码(AE)自动提取轴承原始振动信号特征输入SVM分类器诊断结果对比。实验结果表明,多维特征结合SVM的故障诊断模型识别率高于AE-SVM方法,在单一工况下故障识别率最高为78.20%,交变工况下识别率为70.26%。(2)基于时频图像和深度学习的滚动轴承故障诊断方法研究。针对滚动轴承强噪声背景下的振动信号特征提取不充分导致轴承故障诊断识别率低问题,提出了基于时频图像和深度学习的滚动轴承故障诊断方法。该方法中原始轴承振动信号经CWT转换为时频图像,提取振动信号时间与频域信息,使用内部参数优化的Res Net模型进行轴承故障诊断。实验结果表明,Res Net模型能充分提取时频图像中轴承运行态信息,单一工况下该模型进行100迭代训练后,在0hp、1hp、2hp和3hp四种负载下故障诊断识别率为99.24%、99.90%、98.47%和99.92%;交变工况下该模型故障诊断识别率也达到了90.56%。对比于浅层机器学习算法和浅层神经网络算法,Res Net模型在轴承故障诊断方面优势明显。(3)滚动轴承剩余寿命的深度学习预测方法研究。针对滚动轴承在剩余寿命预测过程中需要进行大量及复杂的轴承寿命退化特征提取,以及存在特征提取不充分导致轴承寿命预测精度较低的问题。本文提出了一种基于深度学习的滚动轴承剩余寿命预测方法,利用CNN提取蕴含轴承退化信息的时频图像深层特征,使用Dropout层解决CNN模型训练中参数过多和信息挖掘费时问题。实验结果表明,与LSTM模型比较,CNN模型对不同工况下轴承寿命预测精度更高,预测误差更低。

关键词： 知识表示   知识图谱嵌入   知识表示学习   数据增强   分布式表示  

摘要： 知识图谱是一种图结构化的知识库,通常用于存储实体,以及实体之间的关系描述,对于知识图谱的建模和学习被称之为知识表示学习。目前知识图谱广泛应用于在各个领域,但由于数据量的急速增长,对知识表示学习提出了新的要求。目前主流的知识表示学习方法将知识图谱中的实体和关系表示为低维、稠密的向量,一定程度上解决了计算效率问题,但仍有表示能力不强的问题。其原因在于:主流方法通常较少考虑知识图谱整体所呈现出的特点与所蕴含的隐藏信息。另外,不同知识图谱自身所包含的领域特点没有得到充分利用表达。 针对上述问题,本文对知识图谱数据扩充和表示学习算法进行研究。主要贡献如下: (1)提出了一种基于最大团的知识图谱数据扩充嵌入算法。它基于本文提出的“关系类别”的定义,利用图的最大团在知识图谱数据集分析得出的关系关联表上寻找具有一致“关系类别”的关系,然后通过对每一个最大团内的关系进行相互数据扩充,得到扩充后的知识图谱数据集。实验表明,相较与已有的算法,本算法在多个数据集和模型下都得到了性能与准确率的提高,证明本算法的有效性和优异性。 (2)提出了一种基于关系前后类别倾向的知识图谱嵌入模型,该模型基于自然语言处理领域中利用上下文的思想,加入了关系的前后类别倾向信息,能够捕获知识图谱中蕴含的隐含信息,对关系的倾向性进行刻画。通过加入语义约束,模型能够对对称关系,非对称关系与逆关系进行表达。实验表明,该模型相较于已有模型,在知识图谱通用的两个数据集的链路预测任务上的MRR值分别提高了1.8%和2.7%,证明本模型的有效性。

关键词： 推荐系统   图神经网络   社交网络   协同过滤   自监督学习  

摘要： 随着互联网技术的不断发展,网络中的信息量也呈指数级别增长。人们在享受着网络中的丰富内容的同时,也面临着信息过载问题。推荐系统作为一种信息过滤技术,可以辅助用户从海量信息中找到有用信息。协同过滤算法仅使用用户-项目交互信息进行个性化推荐,但是推荐的效果受限于数据稀疏和冷启动等问题。随着在线社交平台的不断发展,大量用户参与到社交活动中并且产生了大量的社交关系。将这些社交关系加入到推荐系统中可以极大缓解数据稀疏性和冷启动等问题,为推荐系统效果的提升带来了新的可能。但现有的社交推荐算法难以区别用户的购买动机,也无法区分用户购买是否受到朋友的影响。其次,社交关系信息过于稀疏,难以从中挖掘出用户的高阶关系,也无法充分利用用户之间的同质性关系。基于以上的研究问题,本文的主要研究如下:(1)提出了基于深度聚类分组策略的多通道社交推荐模型MSDC。该模型主要包括深度聚类模块、多通道图注意力聚合模块和评分预测模块。其中,深度聚类模块用于对用户和项目进行分组,聚类模块的目的是将同一类项目划分在一个用户-项目子图中,同一类用户划分在一个项目-用户子图中,从而完成用户兴趣的分组;多通道图注意力聚合模块融合不同子图上的信息,其目的是挖掘用户对不同类项目的兴趣以及项目更适合哪一类人群。用户的每个通道的嵌入表示指用户对某类项目的兴趣,从而完成用户兴趣的解耦表示;评分预测模块将学习到的用户表示向量和项目表示向量输入多层感知机进行评分预测。在多个真实数据集上的实验结果表明:本文提出的实验方法优于其他社交推荐算法。特别地,与最新的同类Graph Rec方法相比,在Ciao和Epinions数据集上,平均绝对误差分别降低了2.58%和3.06%,均方根误差分别降低了2.26%和2.07%。(2)提出了一种基于对比学习自监督方法的高阶社交推荐模型HSSL。首先,该模型进行数据增强构造用户协作图、项目协作图并且在协同图上进行自监督学习,从而挖掘出高阶的用户关系和项目关系。其次,在用户-项目交互图上构造邻居监督信号并且进行基于邻居的自监督学习,从而充分挖掘出用户和项目中的同质性并且减少自监督中的噪音影响。三个真实数据集上的实验结果表明:本文提出的模型优于其他社交推荐算法。特别地,与最新的同类SEPT相比,在Last FM、Douban-Book以及Yelp数据集上Precision@10分别提升了1.97%、4.95%以及4.93%,Recall@10分别提升了2.03%、5.55%以及6.95%,NDCG@10分别提升了1.62%、5.46%以及7.47%。

关键词： 变工况   改进残差网络   子域适应   滚动轴承   故障诊断  

摘要： 滚动轴承在实际工业生产中所处的工作环境往往十分复杂、多变,工作于不同工况下的滚动轴承往往振动信号分布差异极大,且部分工况下的有标签数据不易获取。因此,在变工况条件下实现滚动轴承的智能故障诊断具有十分重要的意义。针对上述问题,本文对现有的深度迁移学习方法进行改进,提出一种改进残差网络深度子域适应方法,实现了变工况条件下的滚动轴承故障诊断。在数据预处理方面,存在着数据集样本数量不足和一维数据用于故障诊断存在局限性的问题。提出通过随机数据增强的方法扩充样本集,解决样本不足问题。利用时频分析方法将一维振动信号转化为二维时频图像可以丰富样本信息,降低工况变化对诊断结果的影响。针对残差网络浅层感受野有限,通道间缺乏相关性,进而导致不能有针对性地进行特征提取的问题,本文在残差网络中引入首层宽卷积核机制和通道注意力机制,更有目的地提取输入数据的深层特征。针对传统域适应方法只针对样本的全局分布执行特征对齐操作,忽视了各子域间的关系,提出使用局部最大均值差异对源域和目标域进行子域适应处理,缩小源域和目标域各个子域之间的分布差异,避免出现特征混叠。实验结果表明,改进残差网络和子域适应方法均可有效提高模型的故障诊断准确率。将改进残差网络与子域适应方法相结合,构建端到端的改进残差网络深度子域适应模型用于变工况下滚动轴承故障诊断。通过实验的方式选择短时傅里叶变换作为预处理中的时频分析方法。在CWRU数据集上进行8个迁移任务的对比实验,本文所提方法的平均故障诊断准确率达到了98.2%,验证了所提方法在变工况条件下具有较好的故障诊断效果。结合领域泛化实验和MFPT数据集验证实验,证明了所提方法具有较好的泛化性。

关键词： 单细胞转录组测序数据   持续学习   有监督学习   半监督学习   无监督学习  

摘要： 随着单细胞测序技术被广泛地使用,传统的单细胞测序分析方法难以高效地持续应对不断增长的海量单细胞转录组测序数据。因此研究如何利用深度学习中的持续学习方法不断学习整合迅速增长的单细胞转录组基因表达数据,并对未知类型的单细胞数据进行细胞类型的预测是一个值得深入研究的问题。 针对不同单细胞转录组数据集的标签分布情况,本文分别从有监督、半监督和无监督三种不同场景进行单细胞转录组数据的持续学习研究,以实现不断学习整合迅速增长的单细胞转录组数据的目标,包括以下三个研究内容: 1.在数据标签完备的场景中,针对现有单细胞转录组数据分析方法无法对持续增加的单细胞数据进行高效持续地学习问题,提出了基于内存重放策略的持续学习模型,该模型采用均衡采样的策略抽取已学习过的历史任务数据并保存于内存中,在后续学习任务中通过重放,使得模型既可以学习新任务数据又可以避免遗忘已学习过的任务数据。 2.在数据标签部分完备的场景中,针对不断增长的单细胞转录组数据标签较少这一问题,使用半监督学习技术从无标签的样本中学习到其关键特征信息,并使用伪标签进行标记,结合持续学习网络实现半监督持续学习目标,使得模型可以充分利用整个学习过程中出现的无标签数据信息。相比其他半监督持续学习方法,该模型性能表现更优。 3.在数据标签完全缺失的场景中,针对持续增长的单细胞转录组数据无标签的问题,提出基于无监督的单细胞持续学习方法模型,该模型使用新类检测方法对持续到来的无标签数据类别进行判断,并使用伪标签进行标记,随后使用带有伪标签的数据样本训练更新持续学习网络,以完成无监督持续学习任务。 使用单细胞转录组测序数据对上述三种方法进行实验,结果表明本文提出的方法在不同的数据标签分布情况中都能有效地学习和整合持续增加的单细胞转录组数据,实现了单细胞转录组数据持续学习的目标。

关键词： e-考据   作者考证   《甲寅》月刊   吴贯因  

摘要： 民国时期,笔名的使用相当广泛,很多笔名的真实身份,我们至今仍无从得知。数字人文在史学研究中的应用是学界正在探索的方法论问题,因此,从史料发掘整理、丰富历史细节研究的角度看,如何在大数据时代考证出民国时期笔名的真实身份具有重要研究意义。本研究以考证《甲寅》杂志上署名为“无涯”的真实身份为例,尝试对考证民国时期用笔名刊发文章的真实作者身份这一问题,提出一种基本解决方案。我们认为,在史料有限的情况下,关于近代报刊杂志上大量使用笔名刊发的文章,对它们作者真实身份的考证,用传统的历史考据方法显得相当乏力,e-考据时代,引入机器学习的手段,从分析文本特征的角度帮助我们判断笔名的真实作者身份,可能是一条可行的新路径。在本研究中,我们尝试把历史实证研究与机器学习相结合,在对这一思路进行实验验证的基础上,我们通过考察《甲寅》杂志的作者群体和主要撰稿人的政治思想观念及个人经历,再结合对“无涯”史料内容的解读,大致确定了“无涯”可能是章士钊、张东荪、易白沙、吴贯因四人中的其中一人,在机器学习技术的帮助下,最终确定了“无涯”的真实身份可能是吴贯因。传统的史学考证侧重于定性研究,更依赖于经验性判断,机器学习则侧重于定量研究,从计算语言学的角度为我们量化考证笔名的真实身份提供一种新的思路。本文的创新点就在于采用跨学科的方法,借鉴其他学科成熟的理论方法和工具,为考证民国时期其他笔名作者的真实身份,提供了一种新的可供参考的思路,从实践层面对e-考据理论和方法的完善也有一定促进作用。此外,通过考证出“无涯”的真实身份,可以补充对《甲寅》杂志的研究,对研究梁启超、吴贯因等民初进步党的政治思想主张也有一定史学意义。