关键词： 集成学习   群体决策   多属性决策   泡沫浮选   工况识别  

摘要： 集成学习可以提高系统的泛化能力,而优良的结合策略是构建强集成学习系统的必要条件。论文针对机器学习中的分类问题,将群体多属性决策方法用作集成学习的结合策略,提出了基于群体多属性决策的集成学习方法(GDM-EL),以提升机器学习系统的性能。主要内容和创新性总结如下:(1)针对传统的集成学习方法只能在个体学习器相互独立的前提下进行线性集成造成泛化性差的问题,利用多种机器学习算法生成异质的个体学习器,将群体决策方法用作非线性结合策略,提出了基于群体决策的集成学习方法框架。(2)为了充分挖掘和利用知识,引入贝叶斯理论建立了融合先验知识与后验知识的群体多属性决策模型。为了求解该群体多属性决策问题,采用基于2-可加模糊测度的Choquet积分算子对多个属性进行聚合。在此基础上,提出了一种基于贝叶斯理论的群体多属性决策集成学习方法。实验结果表明该方法能有效地提高群体决策集成学习的分类准确率。(3)针对群体决策集成学习中难以确定决策者和属性权重的问题,提出了基于权重优化的群体多属性决策集成学习方法。针对决策者权重确定问题,本文提出了指标矩阵来客观反映决策者的重要程度,并利用TOPSIS方法基于指标矩阵生成决策者权重。针对属性权重确定问题,本文基于对称交叉熵和广义Shapley值构建确定属性权重优化模型,并利用最优化算法获得属性权重。实验结果表明该方法能有效地提高群体决策集成学习的分类准确率。(4)将基于群体多属性决策的集成学习方法应用于金锑泡沫浮选过程工况识别,实验结果表明了该方法的有效性。开发了泡沫浮选工况识别智能决策系统,指导泡沫浮选过程中药剂添加量的调节,从而为实现泡沫浮选过程的高效生产和节能环保提供基础。图40幅,表10个,参考文献85篇

关键词： 表征学习   旋转不变性   三维点云   无监督学习  

摘要： 近年来,随着光学相机、深度相机和激光雷达等设备的不断普及和升级,三维点云也逐渐在增强现实、自动驾驶和SLAM机器人等多个领域得到应用。三维点云表征学习作为三维点云领域中的重要课题,受到越来越多人的关注,这也使得人们也对三维点云表征学习方法的期望也越来越高。近五年来,研究者们提出了很多优秀的三维点云表征学习方法,使得分类和分割等下游任务的性能得到显著的提升。然而,目前三维点云表征学习中还存在一些有待解决的问题,包括旋转敏感和标签依赖问题。本文主要针对三维点云表征学习中的旋转敏感和标签依赖问题,提出一些创新的解决方法,主要工作如下:(1)针对三维点云表征学习中的旋转敏感问题以及当前点云旋转不变表征学习方法中存在的信息损失问题,提出了一种基于局部-全局聚合的三维点云旋转不变表征学习方法。该方法在3D笛卡尔空间和特征空间上利用点之间的几何关系,挖掘到局部上下文和长距离上下文信息,并设计了自适应的对齐方法补充全局的位置信息,最终将局部和全局信息聚合,生成旋转不变和高可区分性的点云表征。实验表明在保证旋转不变性的前提下,该表征学习方法的性能达到当前领先的水平。(2)针对当前旋转不变的表征学习方法存在的标签依赖问题——其训练需要依赖大量的标签数据,提出一种基于无监督学习的三维点云旋转不变表征学习方法。该方法基于第一部分中局部-全局聚合的旋转不变表征学习方法,将点云转换至旋转不变的表示方式。随后,构造一个基于几何-坐标推理的训练框架,并引入一个基于局部-全局预测的辅助任务帮助增强表征。实验表明该方法能够在无人工标签的情况下,学习到旋转鲁棒和高可区分性的点云表征,达到与部分监督学习方法相媲美的水平。

关键词： 人体识别   人体检测   人脸识别   步态识别   人体行为识别   卷积神经网络(CNN)   循环神经网络(RNN)   深度学习   特征提取   热红外图像   YOLOv3   Tiny-yolov3   Darknet-53  

摘要： 目标识别是计算机视觉领域的重要技术之一,人体识别技术作为目标识别技术的一个分支,可以将静态图像或视频序列中的人分类到正确的类别。在自动驾驶、安全监控和搜索救援等许多应用中需要该技术。目前最先进的人体识别系统在设计模型时重点采用深度卷积神经网络。然而,由于人们可以做出大量不同的运动和姿态,因此将图像和视频中的人进行准确识别依然是一项挑战,尤其是当被识别的人在不同的光照条件下或夜间被采集,且具有不同的表情、不同的行走状态、不同的视角和不同的行为时,更使得识别任务变得困难。人体识别技术在夜间的应用相比于白天同样重要甚至更加重要。本论文主要研究夜间红外图像和视频序列中的自动人体识别和检测问题。基于对人脸识别、性别识别、步态识别、人体行为识别和人体检测等技术的研究,本文提出了五个人体识别和检测模型,分别是TIRFace Net模型、TIRNGait Net模型、YOLOv3-Human模型、MTIR-HAR模型和TIRN-HD模型。所提出的五个模型可以实现对夜间的红外图像和视频序列的高准确率的人体识别和检测。本文的主要研究工作和创新点如下。(1)针对缺少适用的夜间红外数据集问题,本文创建了一个包括多模态的人体数据的DHU夜间红外数据集,并对数据集中的红外图像进行了预处理、标注和注释,以便所提的五个模型可以在该数据集上进行训练验证测试。(2)为了提高夜间或低照度下对红外热像和视频中的人脸识别的准确率,提出了一个TIRFace Net模型。该模型设计了一个具有23层的基于CNNs网络的新网络结构用以根据人脸来检测和识别人体。该模型包括三个子网络Net-1,Net-2和Net-3。Net-1可以实现热红外图像和可见光图像的匹配,Net-2可以实现红外热图像和可见光图像的结合以产生新的人脸样本图像用于识别,产生样本图像后,Net-3学习人脸样本以识别最具鉴别性的面部特征变化,用以预测给定的一对图像的相似性。该模型的主要贡献在于新的网络结构可以从热红外图像中获取更复杂的特征,并且该模型用较少的深度层来实现三个子网络的多个任务。获取更复杂的特征对于提高夜间热红外图像人脸识别的准确率至关重要。两个包含热红外图像和可见光图像的数据集(DHUFO数据集和DHU夜间人脸数据集)用来验证TIRFace Net模型的有效性。实验结果表明,相比于其他相关方法,所提的TIRFace Net模型可以获得更好的识别准确率,在DHUFO数据集上的准确率为98.50%,在DHU夜间人脸数据集上的准确率为98.70%。(3)为了提高对夜间热红外图像中步态的识别准确率,提出了一个TIRNGait Net模型。该模型基于CNNs网络设计了一个新的网络结构NGait Net用以识别夜间不同行走状态下的人体步态。该网络包括输入层、四个卷积层、扁平化模块、全连接层和输出层。四个隐藏层的设计基于设置基于步态识别任务的合适的参数,从而提高步态识别的准确率和速度。NGait Net网络可以增强热红外图像,获取步态的各种特征如头部、躯干、双手和双腿的特征,为识别产生平衡样本。该模型的主要贡献在于可以用更少的深度层和更快的速度从红外图像中提取更复杂的步态特征。四个隐藏层Conv1、Conv2、Conv3和Conv4可以实现如下的多个任务。Conv1可以实现填充后的批标准化使得数据更平滑和减少像素化效果。Conv2可以实现Gabor滤波来检测边缘、连接边缘之间的线以获得人体轮廓,并从步态能量图中提取步态特征。Conv3实现用联合步态不对称度量方法融合基于速度的不同的步态模式参数来获取用于识别的平衡样本。Conv4和全连接层实现检测的人体步态特征与数据集里的人体步态特征的非线性匹配,从而预测不同步行速度下的人的所属类别。该模型可以基于人体步态的不同速度来识别步态能量图中的人,因为步态能量图能更好地描述轮廓,从而提高夜间步态识别准确率。实验结果表明所提的TIRNGait Net模型在DHU夜间数据集上针对正常速度、快速和慢速行走状态分别达到了97%、86%和87%的准确率。在CASIA C数据集上,相比于其他方法,该模型对快速行走状态下的识别得到了更高的准确率98%。(4)设计了一个融合物理和行为生物特征即面部和步态特征来识别人体的新模型YOLOv3-Human模型。该模型的主要目的是在不同的步行状态下用人脸识别、性别识别和步态识别技术来自动识别人体。新的网络结构通过对只含一个分类器的YOLOv3网络进行改进,将人脸分类器和步态分类器融合到一个模型里。提出的网络结构含三个子网络OTI-Net,PDM-Net和PRM-Net。OTI-Net子网络优化热红外图像以提供更准确的图像中的面部、步态和人体形状特征。PDM-Net子网络处理优化后的图像以检测不同大小的人体。PRM-Net子网络对图像中的人进行分

关键词： 空间频率域成像   光学特性重建   深度学习   光强校正   分层组织  

摘要： 空间频率域(Spatial Frequency Domain,SFD)成像是一种新兴的光学成像技术,能够在大视场范围内实现光学特性的定量测量,其凭借快速、无创、高性价比等优点,近年来受到广泛关注并被应用于生物医学成像领域。然而,SFD成像在实际测量过程中仍面临一些问题。首先,传统SFD成像中测量图像的解调及光学特性重建过程比较耗时,限制了成像的实时性;其次,待测生物组织的形貌会使测量图像的调制特性产生畸变,进而影响光学特性重建的准确性;此外,目前的SFD成像策略普遍将生物组织近似成单层组织进行二维光学拓扑成像(Optical Topography,OT),忽略了组织沿深度方向的非均匀性(光学特性的近似多层分布)。近年来,深度学习技术快速发展并逐步应用于传统成像领域,带来成像速度、精度等多方面优势。本文针对上述问题,将SFD成像与深度学习方法相结合,发展了一套空间频率域光学拓扑成像(SFD-OT)的深度学习方法,旨在改善SFD成像的实时性和定量性,并提高其临床适用性。本文首先针对单层组织的SFD-OT,利用生成对抗网络及反向传播神经网络分别实现幅度解调及快速光学特性重建,在模型性能评估的基础上设计并开展了仿体及在体成像验证实验。结果表明,所发展的深度学习方法针对不同场景均具有良好的准确性及泛化性,相比于传统成像方法大幅度缩短了解调及重建光学特性所需时间,有望实现SFD-OT实时成像应用。针对具有复杂形貌的生理组织,本文发展了基于目标形貌的SFD测量图像校正方法,分别从入射和出射方向对SFD测量图像进行高度及角度相关的光强校正,并使用空间频率插值方法进一步对目标区域进行频率校正。仿体及在体实验结果表明,该方法对具有不同形貌组织光学特性的重建精度均有显著改善,为SFD成像的临床应用提供了可行性方案。在以上方法的基础上,本文进一步研究了面向分层组织SFD-OT的深度学习方法。首先针对人体皮肤结构分别构建了皮肤-皮下和表皮-真皮双层组织模型,利用不同空间频率调制光在组织中穿透深度的差异,通过合理选择空间频率实现多层组织结构光学特性的重建。模拟及实验结果表明,在选取的空间频率下可准确重建厚度为2 mm情况下的顶层光学特性。最后,文章初步探索了面向四层组织吸收系数重建的SFD-OT深度学习方法,为多层组织SFD成像提供思路。

关键词： 个人消费信用贷款   个人征信   违约风险   机器学习   可解释性   CatBoost  

摘要： 随着互联网金融业务的高速发展,资金需求方可以在线上申请个人消费信用贷款,目前国内个人消费市场发展繁荣,参与者众多,在这种模式下,融资效率大大提高,显著推动国内消费市场的发展,促进经济的良好运行。虽然个人消费信用贷款为机构带来了一定的发展机遇,但是个人消费信用贷款的发展还存在一定的挑战。纵观个人消费信用贷款的发展,信用评估一直是放贷环节的重点,但是随着社会的发展,传统个人信用评估体系的僵化,已经不能满足当前信息爆炸的社会环境,而互联网企业对相关信用评估的优先布局,为征信行业带来充满活力的进步。与此同时,对于个人信用贷款违约的相关评估,也带来新的发展方向。随着人工智能的发展,越来越多的复杂任务可以通过机器学习的方式得出准确的预测。将信用评估和机器学习结合起来,可以把更全面的特征纳入到信用评估的过程,提高判断准确性。本文参考了国内外相关领域的文献,对个人消费信用贷款的发展、违约因素和违约判断模型进行梳理,接下来对个人消费信用贷款违约因素进行了详细列举,最后就是将可解释机器模型运用于实证研究当中,并对行业的相关方提供建议。实证研究所采用的数据是通过Python获取了A借贷平台三年中的个人消费信用借款的全息数据,通过对数据的分析,提出机器学习的可解释性在个人信用评估上的运用。将可解释性加入到机器学习模型,降低了对于大量数据的处理难度和非专业人员对模型理解的门槛,通过机器学习技术的卓越性能,在保证准确性的同时,尽可能多的展示出模型预测的可解释性,避免了传统黑盒模型的信任问题。

关键词： 多智能体强化学习   合作型   值分解   竞争变换  

摘要： 随着近几年AlphaGo、AlphaStar的成功引起了强化学习的研究热潮,所以作为强化学习重要分支的多智能体强化学习也因此快速发展。不同于Alpha Star的宏观任务管理,目前大多数多智能体强化学习模型更多的关注于微观操作,而合作型多智能体强化学习任务即是通过算法模型控制多个智能体去合作完成一项任务。尽管目前合作型多智能体强化学习已经出现很多优秀的算法以及模型,但依旧拥有很大的上升空间,例如在一些复杂场景下表现不尽如人意以及训练多个智能体时产生的学习过程不稳定等问题。针对现有基于值函数分解的多智能体混合方法中模型结构过于单一导致,模型能表示的函数簇范围太小,从而不能在一些复杂环境中得到更好的效果的问题上做出了改进。本文提出了用于合作型多智能体强化学习任务中的竞争混合网络(Dueling Mixing Networks,简称AD＿mix)模型,通过将单智能体Dueling结构引入多智能体并加以扩展,使得混合网络分为状态值混合网络以及优势值混合网络。状态值混合网络通过使用一个基于注意力机制的结构来将个体状态值函数混合成为联合状态值函数,而优势值函数混合网络直接使用QMIX模型的超参数混合结构来进行混合,最后可以从两个角度来正向混合得到联合动作值函数,以及从两个角度来反向共同优化个体智能体网络。并且还引入了一个网络结构,目的是为了改进在很多情况下动作值函数的大小与每个智能体具体动作的选择无关的现象。而在训练过程不稳定方面,本文使用一个基于累积奖励值的学习率衰减方法来控制每次或每隔一定时间段学习的学习率,另外还使用一个基于全局观测与局部观测对应关系来将局部观测差异消除的变换模型。通过这两个方法最后可以达到使得模型训练过程稳定的目的。最后,整个模型结构是基于QMIX模型的基础上进行改进的,本文使用的稳定性方法,不仅可以用在本文提出的模型中,还可以用于此方向其他基于值函数方法的模型中。本文选择在平台星际争霸多智能体挑战(The Star Craft Multi-Agent Challenge,简称SMAC)上进行实验,而且选择了不同难度中具有代表性的几个地图。最后通过这些试验证明,本文提出的竞争变换模型相比以往的方法在不同难度任务的对战中获胜率和训练稳定性方面都有了明显的提升。最后还通过自对比实验与仅将智能体结构改为Dueling结构的模型进行了对比,验证了本文方法的有效性。

关键词： 强化学习   Q学习   Q表初始化   蚁群算法   信息素   探索概率  

摘要： 在如今这个科技高度发展的时代,无人飞行器,无人水下机器人,无人驾驶等技术日趋成熟,越来越多的“无人”产品将走入我们的生活,使人们的生活更加便捷。在这些“无人”技术中,路径规划是不可或缺的重要一环,路径的好坏直接关系到这些无人载具的耗能和时间消耗。而在路径规划这个研究领域,三维路径规划相关研究相比于二维路径规划来说数量太少,所以本文将以三维路径规划问题作为研究对象进行展开。就路径规划问题来说,Q学习算法是当今热门的路径规划解决方案。Q学习算法是强化学习众多算法中的其中一种其本身有很多优点:奖励函数和累计回报可以人为设定、Q表理论上能够收敛到精确值等,故本文以Q学习为出发点进行研究。但Q学习算法本身还有许多可以改进的地方,比如算法前期迭代效率低下,智能体反复探索次优路径,针对这两个问题,本文提出了新的解决方法。首先,文章交代了课题的研究背景和意义。文章在路径规划国内外发展现状中分别分析了路径规划的建模方法和路径规划算法,指出了当前路径规划研究较少的是三维路径规划;指出了栅格法和Q学习是路径规划领域热门的环境建模方法和路径规划算法,本文将在栅格法和Q学习的基础上进行研究。其次,本文交代清楚了文中算法的环境建模方法和运行环境。详细说明了2.5D栅格法,该方法使用两个矩阵分别存储障碍物信息和高度信息,并使用该方法对三维环境进行建模;详细说明了三维路径规划问题中的路径的约束,包括:路径长度、坡度大小,安全路径。然后,针对Q学习算法前期迭代效率低下这个问题,结合路径规划任务的特点以及Q表数值的规律利用人工势场法对Q表进行初始化,让智能体在有先验信息的前提下开始寻路,极大地减少了算法前期的低效探索次数,并在仿真实验中验证了这一点。最后,针对智能体反复探索次优路径这个问题,在Q学习中融合了蚁群算法的信息素机制,让智能体在迭代过程留下信息素对路径节点的价值进行信息素角度的价值评估,如果信息素浓度低于某一阈值,智能体后续便不再对其进行探索,缩减了智能体的探索范围;在此基础上提出了基于范围缩减大小的探索概率动态调整策略。在仿真中验证了这两种方法的有效性。

关键词： 数据中心   能耗模型   机器学习   集成学习  

摘要： 随着全球数据中心的大量部署和云计算服务需求增加,数据中心的高能耗问题日益严重,其不仅会导致数据中心的资源管理困难,而且还会对环境造成一系列影响。目前,能耗感知是一种有效的能耗管理控制技术,能耗模型作为感知技术的基础而受到广泛关注,其主要思想是通过采集影响数据中心服务器能耗的参数,建立这些参数与数据中心服务器能耗的关系以实现能耗估量。本文在大量调研相关文献的基础上,对数据中心能耗模型进行了深入研究,总结归纳如下: (1)提出了一种基于机器学习方法的服务器能耗模型。针对主流能耗模型未考虑数据中心服务器任务负载类型,导致能耗模型精度低等问题,本文提出的模型分别考虑了四种常用的服务器负载类型:CPU密集型负载、I/O密集型负载、Web密集型负载和混合负载,在真实服务器上进行实验收集能耗数据,对于每一种不同负载特征数据,采用“随机森林算法”进行能耗特征参数选择,然后使用“网格搜索法”优化支持向量机模型的超参数,对不同负载任务分别建立能耗模型。此外,本文还引入了误差置信区间描述服务器能耗的不确定性,最后通过实验得出了不同模型的精度,结果表明,与基准的能耗模型相比,本文提出能耗模型的估量精度平均提升了2.9%。 (2)针对单一机器学习模型易产生估量精度呈现边际效用下降等问题,本文提出了一种基于集成学习的能耗模型。本文在真实的云环境上进行了数据采集,对多种机器学习算法按照“训练集”和“测试集”上性能表现划分为“强回归模型”和“弱回归模型”,然后结合不同回归模型提出了4种不同的Stacking集成策略,经过实验得出了单种机器学习模型和不同集成模型的性能差异。此外,本文还讨论了不同集成策略相对于各种机器学习算法的性能提升幅度。实验结果表明,采用集成学习策略的能耗模型精度大多数场景都优于单一的机器学习模型,并且采用Stack＿2集成策略的能耗模型性能提升最大,在测试集上达到了35%。

摘要： 地不爱宝，随着考古工作与基建项目的开展，大量的古代书法墨迹重见天日。许多学者与爱好者也把关注点投向出土材料，战国简牍书法、秦简书法、汉简书法得到了前所未有的关注，成果颇丰。近些年来，汉简书法在各种国家级、省级展览中大量出现，甘肃省书法界也成立了“甘肃简牍书法院”，中国书法家协会更是于2022年7月在长沙启动了“中国简帛书法艺术研究与传播工程”，足见对于简帛书法的重视。

关键词： 小波变换   深度学习   多元输入LSTM   股价走势预测  

摘要： 金融市场是一个国家经济发展的重要驱动力,多层次的资本市场对实体经济发展起到了重要的支撑作用。随着中国资本市场改革开放不断加快,中国股票市场愈发受到国内外投资者的青睐。然而,股票市场是不稳定的,它可能给投资者带来损失。为应对市场风险,建立股票价格预测模型显得尤为重要。由于股票价格受宏观经济、政治事件、投资者预期等多种不确定因素影响,股价数据呈现出非线性、非平稳的特征,且信噪比较低,传统的线性方法在预测问题上存在较大的局限性。深度学习理论有效解决了这一问题,它具有鲁棒性、自学习能力和较强的拟合能力等优点,可以有效提高预测精度,在股价预测领域得到了广泛应用。本文在LSTM(Long-Short-Term Memory)基础上创新性地提出多元输入LSTM(Multi-input LSTM)模型,并结合小波变换来预测上证指数的走势。它不仅可以挖掘时间序列中的时频信息,还能支持不同类型的数据作为输入特征,能够有效提高模型预测准确率。整个模型分为两个部分,第一部分采用db4小波一层分解来降噪,小波变换可以从股价数据中分离出低频和高频信息,减少数据中的噪声从而优化LSTM预测结果。第二部分采用多元输入LSTM预测股价走势,改进后的LSTM模型能够处理多维数据,通过增加数据特征挖掘出更多信息提升模型预测能力。本文分别以中国股市数据、美国股市数据和技术指标作为多元输入LSTM的输入特征来预测股市,并将该模型与LSTM、决策树、随机森林、SVM和XGBoost模型进行对比。实证结果表明所提出模型的准确率为74.77%,优于其他方法。小波降噪与多元输入LSTM相结合能够简化LSTM的学习过程,缩短训练时间,解决神经网络模型收敛过慢的问题。此外,为了检验模型的实际应用价值,本文还选取了具有代表性的英国富时100、法国CAC40、德国DAX、日经225、美国纳斯达克这五只海外指数来预测,研究发现模型均取得了较好的预测结果,反映出该模型具有普遍适用性,在实际投资中具有广阔的应用前景。基于上述结论,本文向投资者、政府与金融监管部门提出以下建议。一是鼓励量化技术应用,帮助投资者与政府部门科学决策。对于投资者而言,运用深度学习等金融科技方法有利于降低其面临的风险。从政府部门角度来看,应用股价预测模型有助于判断股价走势与经济状况,防范化解重大金融风险,维护金融市场的稳定。二是金融部门适度监管,引入“沙盒监管”机制,为推动我国资本市场安全有序发展提供新的监管思路。