关键词： 稀疏表示   字典学习   卷积神经网络   半监督学习   流形   几何优化  

摘要： 近年来,我国高度重视人工智能技术的发展,加快人工智能行业布局规划,各地积极部署、实施和完善人工智能政策,推动保障相关行业的高速发展。目前,计算机视觉技术(Computer Vision,CV)已较为成熟,在算法、算力和数据量上均有较大的进展和突破。然而,高维(High Dimensional,HD)数据的特征提取仍然是目前人工智能机器学习算法中的难点问题和重点关注焦点之一。本文针对高维图像数据,研究如何有效学习图像的低维(Low Dimensional,LD)判别特征表示。通过结合卷积神经网络(Convolutional Neural Network,CNN)、稀疏编码(Sparse Coding)和正交投影(Orthogonal Projection),提出了一种通用的端到端联合学习方法,即jointly optimizing Sparse coding and Convolution for learning Lowdimensional discriminative image representations,简称Spar Conv Low。所提框架的图像表示学习过程总结如下:首先,利用骨干卷积神经网络提取高维卷积特征;其次,对卷积特征进行正交投影以降低维度,并根据正交投影后的卷积特征求取相应的稀疏编码;随后,再次利用投影矩阵将稀疏编码映射为低维稠密的判别图像表示。框架学习过程被视为解决基于迹商最大化(Trace Quotient Maximization)准则的联合优化问题,全局目标函数被定义在CNN参数空间、斯蒂菲尔流形(Stiefel Manifold)、斜流形(Oblique Manifold)和格拉斯曼流形(Grassmann Manifold)的乘积空间上,并通过显式梯度传递、梯度反向传播和共轭梯度下降算法实现优化。在八个图像数据集的实验结果表明,该方法与现有的图像分类、目标分类和人脸识别方法相比,具有很强的竞争力。同时,本文进一步提出一种联合深度半监督卷积神经网络和稀疏编码字典学习的端到端半监督学习方法,称为Semi-supervised learning based on Dictionary learning and Convolution(SSDConv),旨在学习到具有更强判别性的图像特征表示,提高半监督卷积神经网络模型的性能表现。传统卷积神经网络及Spar Conv Low的学习范式为有监督学习,需要大量有标记的训练样本,而半监督学习范式下的SSDConv框架可以利用未标记的训练样本,提高对海量数据的利用率,减少标注样本所需花费的人力和时间。SSDConv框架中卷积特征提取部分和字典学习部分具有共同的目标函数,学习判别性更强的图像低维表示,实现更准确地高维图像分类。同有监督学习场景相似,本文的半监督框架依然利用了共轭梯度下降算法、链式规则和反向传播等算法对目标函数的参数进行优化。最后,多个数据集的实验结果验证了SSDConv框架的有效性,本文所研究的图像表示学习算法在半监督分类场景中亦有出色的表现。综上,本文基于卷积和稀疏编码,针对有监督学习和半监督学习范式分别设计了两个图像低维表示的学习框架,并在图像分类任务中进行了实验。研究和实验结果验证了所提出的基于卷积和稀疏编码图像表示学习算法具有竞争力,在低维判别特征提取能力上有出众的表现。

关键词： 动态群等变卷积神经网络   变分推断   隐空间特征解耦   反事实生成   不确定性估计  

摘要： 基于群和隐空间的深度学习技术在提升模型性能、模型可解释性、不确定量化等方面起到了基础性作用。值得注意的是,基于群和隐空间的深度学习的本质是建立在两个算法原则之上:第一,在非欧空间中表征学习或者特征学习,即以自适应的、分层的方式捕获与任务相适应的规则性信息;第二,在隐空间显式的正则化目标、模型约束、特征解耦或对贝叶斯模型中先验分布的假定来优化模型。因而基于群和隐空间的深度学习仍然面临着一些挑战:1)如何在非欧空间中动态选择卷积核进行表征学习;2)如何在非欧空间中构造约束来解决小样本和数据模糊情况下图像分割问题;3)如何在非欧空间中对模型预测进行解释和反事实生成;4)如何克服变分模型隐变量崩塌来保证可靠的不确定性量化等问题。为了解决上述问题,本文基于群空间和隐空间对卷积核构造、隐空间约束、模型可解释性、不确定量化进行了研究。具体的来说,本文的创新点由以下四个方面构成:1.为了克服群卷积神经网络在构造较深模型中学习到过多的冗余信息,提出动态群等变卷积神经网络。基于人类视觉系统中的注意力机制修改了传统群等变卷积神经网络中卷积核的组合方式,使其能够动态关注数据中共现变换的集合并能够抑制不合理的、误导性的结合来增加模型的表征能力,同时将动态卷积这一感念推广到不同群构成的等变卷积神经网络上。实验表明,本文提出的动态群等变卷积神经网络能够提取到数据中有益于分类的表征,并在多个数据集上优于常规群等变卷积神经网络。2.为了解决小样本和模糊数据下的分割问题,提出群结构化条件变分分割模型。构建新的群结构化变分分割模型改善样本有效性,同时在几何隐空间对多个隐变量进行约束、解耦来提高模型对缺失数据的预测。在公开数据集,尤其在样本量较小的医疗数据集上,本文提出的方法能够在涉及小样本和模糊数据等重要现实问题中进行精确填充和分割。3.为了增强深度学习模型的可解释性,提出基于隐空间的有向反事实生成模型。在流形切空间上构造两种低维语义子空间,并通过梯度和代理模型建立隐变量与黑盒模型之间的联系。为了在梯度所对应语义空间中找到低秩可操纵的子空间,通过对梯度构成的雅可比矩阵特征解耦来构造低维可操纵的语义空间,这些解耦的低维空间为黑盒模型的反事实生成提供了方向信息。实验表明本文提出的方法能够在无监督情况下生成较为真实的属性图。4.为了解决方差网络在训练过程中隐变量崩塌的问题,提出熵正则化的方差估计模型。本文提出熵最大化来稳固变分模型的训练过程,即构建一个无偏熵正则化器来解决方差网络中隐变量崩塌问题。同时,提出了新的高阶变分结构下的回归网络和生成网络模型。在公开回归和生成数据集上验证了熵正则化器作为一个额外的约束确实消除了这种病态,且与之前的方法相比,预测不确定性有显著改善。综上所述,本文研究了基于群和隐空间的深度学习方法,提出了四种基于群和隐空间的模型,这些模型解决了深度学习特征提取、小样本下的图像分割、模型可解释性、不确定量化四个方面存在的问题。通过在公开数据集对其效果进行了实验验证与分析,证明了本文提出方法的有效性。

关键词： 网络表示学习   异质信息网络   深度异质图神经网络   动态层间特征融合   半监督学习  

摘要： 异质图表示学习是研究复杂网络从输入空间映射到低维嵌入空间的表示学习方法。但现有方法忽略了对复杂网络高阶信息的充分利用,缺少对深层异质图神经网络的研究。深层异质图神经网络有助于捕获网络中的高阶信息,提升模型拟合能力。但是网络中不同节点对邻域信息接收范围有不同的敏感度,它们需要从不同层次的邻域信息中选择有价值的特征信息。当前的异质图研究忽略了对不同网络层次特征的有效融合与充分利用,而基于池化思想的跳跃知识网络可以实现不同感受野的特征选择,融合不同层次的特征。但随模型深度的增加会出现信息压缩问题。这导致节点嵌入迅速收敛到异质图的子空间,降低了模型对复杂网络中实体的识别能力。针对当前异质图表示学习方法中缺乏对不同网络层次特征的有效融合与充分利用的问题,本文提出了基于层间特征融合的异质图表示模型。它利用不同策略的层间特征融合机制,实现对网络中低阶嵌入和高阶语义信息的自适应融合。随着网络的加深,该机制有效地捕获图中深层特征信息。同时,模型利用恒等映射增强局部卷积层输入特征的表达,缓解了消息传播过程中节点嵌入的同质化。本文与八个异质图基准模型进行了对比,实验表明本文提出的模型有效地融合和提取了不同层次的特征信息,表现出更优越的性能。针对基于池化思想的融合机制实现的异质图表示模型随网络加深时出现的信息压缩问题,本文提出了基于双向门控循环单元和注意力机制的动态层间特征融合机制,并进一步设计了基于动态层间特征融合的深层异质图表示模型。它首先稀疏化输入的稠密图,为每次训练提供不同视图的副本,有效地缓解了深层网络的过拟合问题,提升了模型泛化能力。然后使用图归一化对每层卷积间的节点嵌入进行缩放,控制节点嵌入方差,解决消息传播时节点嵌入方差被放大的问题。同时利用本文提出的融合机制,动态地选择网络中不同语义层次的节点嵌入,避免模型深度增加时的信息压缩问题,为异质图模型提供了稳定高效的动态特征捕捉能力。在与八个基准模型的对比实验中,本文提出的模型获得了先进的性能表现。

关键词： 弱观测   分层强化学习   多智能体   信念空间扩展  

摘要： 随着多智能体系统在各个领域的应用越来越广泛,其应对的任务也越来越复杂,则通过多智能体强化学习使系统与环境进行交互,在多次的试错训练中自动找到一组最优策略,成为解决复杂任务的有效方法。但当前多智能体系统执行任务的环境复杂程度高、不确定性强、自然因素干扰多,系统成员个体的观测距离、观测角度、抗干扰能力、观测精度等受限,使多智能体系统对环境的感知存在一定的偏差,并且状态、动作及其他参数数量随着任务的复杂度增高呈指数式增长,带来维度灾难。本文提出的改进算法旨在解决弱观测条件下多智能体感知信息的不确定性和复杂计算下的维度灾难问题。针对多智能体所处环境的不确定性,本文提出一种基于信念空间扩展的弱观测强化学习算法,算法首先对信念空间进行扩展,淘汰不必要进行值函数计算的信念状态,然后对扩展后的信念空间中的信念状态进行迭代优化,直至达到可接受误差范围之内,最后能够得出一组策略能够有效应对弱观测条件下不确定性问题,通过实验结果分析,本论文提出的方法收敛速度较传统的弱观测强化学习算法的速度能够提升了26%左右;另外针对弱观测条件下多智能体强化学习存在的维度灾难问题,本文提出一种基于值函数分解的弱观测强化学习算法,算法首先将总任务分层,简化状态和任务空间,然后通过基于信念空间扩展的弱观测强化学习算法对子任务分而治之,最后当所有子任务解决后,总任务也得到解决,通过实验结果分析,本论文的方法在应对弱观测问题上,在保证学习精度达到90%左右的情况下,计算速度上较传统的弱观测强化学习算法提升了25%左右。通过对实验结果分析可以推断,本论文研究成果在应对弱观测条件下多智能体所处环境的不确定性以及复杂任务带来的维度灾难问题上,有很好的效果。本论文提出的方法适用于多智能体在不可完全感知的环境中,处理各种复杂问题的场景。

关键词： 无监督学习   标签   视频   特征学习   视觉任务   稀疏性   帧间结构  

摘要： 深度神经网络的成功通常依赖于大量人工标注的标签数据,而这些标签在许多真实场景中很难获得,仅通过标签训练得到的模型实用性也不好。相反,数据本身提供的信息远比标签更加丰富,视频数据的帧间结构和稀疏性也包含大量的视觉信息。无监督方法可以不需要任何标签训练神经网络,从而挖掘数据本身丰富的特征信息。生物的视觉系统处理视觉信息主要以无监督的方式,可以在大量的无标签数据中提取丰富的视觉信息。本文的目标就是探索像生物视觉系统一样的无监督式的学习方式,在没有添加标注的图片中获得它们之间的结构信息,提升神经网络学习特征的能力,然后与其他视觉任务相结合,减少工业大数据中对各种标签的需求。为此,本文讨论了三种基于视频数据特性的无监督或弱监督特征提取算法,主要的思想与创新如下:1.针对目标检测和图像分割,设计出了一个可以通过视频中的目标实例进行稀疏分解学习的无监督特征的学习方式。相对于静态图像,视频数据可以从多个时间维度层面上显示具有更为复杂而且丰富的内容信息。另外,一张图像也能够被划分成为有许多的目标实例,这些目标实例之间存在着独立的空间变换,从而可以稀疏表示。通过构建深层神经网络来学习图像中每个独立对象的稀疏特性,从而可以在不需要额外添加任何标注信息的情况下使用不同网络分别学习不同独立对象的特征,进而区分一张图像中的不同实例。虽然该方法使用视频数据集训练,但最终目标是得到单张图片的特征。在后续的模型中,取比较简单的假设,即将单张图片拆分为前景和背景。提出的训练方法是采用自适应编码器,分别稀疏表示前景、背景以及分割的结果,通过以原输入与重构图的比较为目标函数来进行端到端的训练。在后续的各种图像分割方法基础上得到的研究结果也表明,该无监督分割方法能够更精确快速的提取分离出前景目标,并且还能够在提取前景后得到质量较清晰的背景图片,这也意味着视频无监督图像学习技术能够更好获益于视频图像帧内的高稀疏性以及视频图像的帧空间结构。2.提出了一种结合目标检测的弱监督特征学习方法。相比制作耗时又复杂的图像分割标签,目标检测任务需要的矩形框通常更容易得到。因此,该方法结合无监督学习的思想和一个预先训练好的目标检测网络来实现图像分割,利用预训练网络得到的先验信息代替昂贵的分割标签。对于无监督学习思想,利用图像实例的稀疏性和视频帧间结构,设计了一种基于对象实例稀疏分解的辅助任务来获取目标的分割结果。为了使分割目标识别得更加准确,引入一个预先训练好的目标检测网络来提供对象实例的位置信息。无监督辅助任务依旧考虑将图像分解为前景和背景,结合预训练网络得到的先验框,使分割性能得到进一步的提升,它们的共同作用使网络学到很好的特征表示。实验结果表明,模型在分割基准上能有效的提升分割性能。3.提出了一种基于压缩视频帧间差异的无监督特征学习方法。深度神经网络在计算机视觉的各个领域取得了前所未有的突破,但应用在工业大数据中需要大量手工标注的各类标签。而无监督方法可以在无标签数据中挖掘数据本身的视觉信息,从而减少下游任务对标签的需求。因此,可以利用视频帧间目标的相关性来挖掘差异信息。主要思想是:只要无监督网络成功编码了输入图像的视觉特征,就可以很好的表示它们之间的差异。这个差异可以是人为添加的参数化变换,也可以是视频中相邻帧的自然变换。通过添加学习差异的伪任务来训练网络,将学到的特征应用到其他视觉任务中。多类实验表明,该方法在多个视觉任务上达到了与有监督方法相近的效果。

关键词： 深度增强学习   机器人抓取   特征表示   策略评价   执行器-评价器  

摘要： 机器人手臂作为一类面向精准操控的机器人系统,正在被推广应用至更多的实际场景。由于机器人手臂自身的多关节高维动力学特性和操控目标的复杂性与不确定性,如何实现高维状态动作空间中的优化决策与控制是机器人手臂自主操控技术面临的挑战性问题。基于模型的机器人控制方法需要对操控环境和任务进行精确建模,难以实现对复杂场景和任务的自适应学习优化。因此,研究能够利用经验数据自主优化操控性能的机器学习方法,对于提高机器人系统特别是机器人自主抓取控制的智能化水平具有重要的意义和价值。增强学习（又称为强化学习,Reinforcement Learning）作为一类求解序贯优化决策问题的机器学习方法,对于提高机器人系统的自主控制性能具有重要作用。尤其是近年来基于深度神经网络的深度增强学习得到了广泛关注和发展,为实现端对端的机器人自主学习控制提供了有效手段。但现有的深度增强学习算法在求解高维状态空间的机器人自主控制问题中,仍然面临样本利用效率低、收敛速度慢、训练过程不稳定等挑战。本文针对以上问题,聚焦深度增强学习中的特征预训练方法与策略优化方法,从高效特征表示、快速策略评价以及高效执行器-评价器深度增强学习方法三个方面开展研究,分析现有算法的局限性,提出相应解决方法,并且在机器人抓取控制问题中进行充分的仿真和实验验证,结果表明所提方法在样本利用效率、学习稳定性和收敛速度方面相对已有算法得到显著提高。本文的主要工作和创新成果如下:（1）在面向机器人自主抓取任务的特征预训练方面,分别提出了一种多任务无监督学习的特征融合表示方法（MURS）和一种基于超限学习机的特征预训练方法（SHELM）,有效提升了端到端深度增强学习在高维图像传感输入条件下的样本利用效率。其中MURS算法采用编码特征融合表示结构,将基于残差网络的自动编码器与模型预测、奖励预测等辅助任务相结合,从原始图像中构建具有任务相关性的低维特征;SHELM算法通过监督学习的方式将高维图像特征压缩至低维状态空间,用于加速策略的训练过程。在特征预训练基础上,通过结合典型深度增强学习算法,在机器人抓取控制仿真中进行了测试,结果表明本文所提出的特征预训练方法能够有效提高以像素为输入的端到端机器人学习控制的样本利用效率。对于感知受限或状态精确测量存在困难的场景,具有重要的应用价值。（2）针对最小二乘时域差分（LSTD）算法和线性时域差分（TD）算法分别存在的局部收敛和样本利用效率偏低的问题,提出了最小二乘截断时域差分策略评价算法（LST2D）。在该算法中设计了一种自适应的算法截断与切换机制,有效结合了LSTD算法的快速收敛特性与线性TD算法的渐近收敛特性。在策略评价前期采用LSTD算法,以较快的收敛速度逼近值函数;当LSTD算法出现局部收敛或饱和情况时,自动切换为TD算法逼近状态值函数。在理论上对上述算法的性能进行了分析和讨论。此外,结合本文提出的特征预训练方法,将LST2D算法推广至图像输入条件下的策略评价问题。通过机器人抓取控制仿真与UR5机器人实验验证,结果表明LST2D算法能够在状态测量与高维图像输入条件下有效提高策略评价的收敛速度与精度,性能优于目前广泛应用的TD算法和LSTD算法。（3）提出了基于特征预训练与LST2D的深度增强学习方法（Actor-Critic based on Pre-trained Features and LST2D,ACPFL）,提升了执行器-评价器（Actor-Critic）深度增强学习方法的学习效率和稳定性。与已有的Actor-Critic深度增强学习方法不同,ACPFL算法的评价器采用了基于线性值函数逼近结构的LST2D算法,提高了值函数逼近的收敛速度与逼近精度。采用双时间尺度随机逼近理论对ACPFL算法的收敛性进行了分析。在此基础上,结合特征预训练方法,分别将ACPFL方法扩展到图像观测条件下的高效深度增强学习方法（ACPFL-MURS）;以及状态测量条件下的基于稀疏核的深度增强学习方法（ACPFL-Kernel）。在机器人自主抓取控制任务中的仿真结果表明,本文所提算法在学习效率和算法稳定性方面优于PPO、DQN等离散动作空间的典型深度增强学习算法。（4）提出了基于稀疏核与LST2D的软Actor-Critic深度增强学习算法（Kernel-based Truncated Soft Actor-Critic,KTSAC）,有效提升了高维连续状态和动作空间下Actor-Critic深度增强学习方法的探索效率和稳定性。首先,KTSAC算法通过在样本空间进行基于核稀疏化的二次采样,实现了对连续状态-动作特征表示的自动构造;在此基础上,结合LST2D算法,采用线性值函数逼近条件下软贝尔曼残差学习机制,使得Critic的策略评价过程具有快速收敛性和渐近稳定性。在理论上证明了线性值

关键词： 农业   命名实体识别   深度学习   注意力机制   自然语言处理  

摘要： 农业命名实体识别是农业自然语言处理的重要基础任务,是构建农业智能问答系统的关键技术环节。高质量的命名实体识别模型能够为农业信息抽取、语义检索等任务提供有效支撑。目前,农业领域命名实体识别研究还存在以下挑战:(1)农业实体命名方式多样化、实体边界模糊,实体自身复杂的特性影响模型性能,以单句为处理单元的模型,造成实体标记不一致;(2)农业实体在不同语境下,表达含义不同,存在一词多义的现象;(3)农业语料库实体分布不均匀,存在罕见或未知实体,模型无法学习丰富的实体特征信息,造成该类实体识别率低;(4)汉字笔画和偏旁部首包含丰富的汉字语义信息,现有基于字级、词级的命名实体识别方法,忽略了汉字本身的特征信息,造成汉字潜在特征表征不足,一定程度上影响模型性能。针对上述农业命名实体识别的挑战,本文基于深度学习技术开展农业领域命名实体识别研究,主要研究内容如下:(1)为缓解命名实体自身特性对模型造成的影响,提出一种基于注意力机制的Att-BiLSTM-CRF方法。通过Word2vec预训练工具,基于CBOW模型在大规模无标注的语料集上获取农业文本字级向量表示,缓解错误的分词结果对模型性能的影响;引入文档级Attention机制,增加模型对目标实体的关注度,以文档为模型处理单元,通过余弦对齐函数获取目标实体与相关实体的相似度,缓解实体标记不一致的问题。在文档级Attention机制的基础上,为降低模型对外部输入数据的依赖程度,设计了一种基于多头自注意力机制的MHA-BiLSTM-CRF方法,进一步提升模型的性能。多头自注意力机制通过Self-Attention机制,更深层次的挖掘序列文本词与词之间、字与字之间的内部依赖关系,获取更丰富、更全面的语义信息,提升模型对命名实体的识别准确率。试验结果表示,Att-BiLSTM-CRF方法的识别准确率、召回率、F值分别为92.05%、91.68%、91.86%,能够缓解实体标记不一致的问题。与Att-BiLSTM-CRF方法相比,MHA-BiLSTM-CRF方法在改善实体标记不一致问题的同时,进一步提升了模型性能,模型识别准确率、召回率、F值分别提升了0.44、0.14、0.29个百分点。(2)针对实体分布不均匀且存在一词多义的问题,提出一种融入词典特征的BERT-BiLSTM-CRF方法。BERT预训练工具基于双向Transformer编码器,通过对目标实体的词信息、位置信息、段落信息进行向量表示,结合上下文语境信息,动态获取目标词的向量表达,丰富序列语义信息,解决一词多义的问题。针对因实体分布不均匀导致模型对罕见或者未知实体识别率低的问题,引入外部农业知识库,通过知识库包含的命名实体对语料库进行补充和完善。为获取外部词典特征,设计了N-gram特征模板和BDMM双向最大匹配两种特征提取方法。模型将BERT获取的字级向量表示和外部词典特征进行拼接,作为BiLSTM-CRF层的初始输入,获取最优标注序列结果。试验结果表示,融入词典特征的BERT-BiLSTM-CRF方法识别准确率、召回率、F值分别为94.84%、95.23%、95.03%,对罕见或未知实体的识别准确率有一定的缓解和提升,其中未知实体、罕见实体识别准确率分别为80.29%、91.54%。(3)为缓解汉字潜在特征表征不足对模型性能的影响,提出一种融入汉字笔画特征、部首特征的RS-ALBERT-BiGRU-CRF方法。汉字的笔画和偏旁部首可以保证汉字的唯一性,为更好的获取汉字潜在特征,设计了基于CNN的部首特征提取模型和基于CNN/BiLSTM的笔画特征提取模型,通过深度学习模型获取农业文本汉字的内部潜在特征。在保证模型识别准确度的基础上,为提升模型的计算效率,通过搭建RS-ALBERT-BiGRU-CRF模型,对原有模型框架进行优化和提速。最终,模型在部首、笔画多细粒度层级学习语义信息,丰富目标词的向量表达,模型识别准确率、召回率、F值分别为95.01%、95.42%、95.21%,进一步提升模型性能和泛化能力。本研究提出的面向农业领域基于深度学习技术的命名实体识别方法能够有效解决农业领域NER任务面临的难题,能够有效提升模型对文本语义表示能力、单字潜在特征表达能力,从识别精度、计算效率多维度优化和完善模型框架,对促进农业领域自然语言处理相关任务的研究有一定推动作用。

关键词： 地铁隧道   损伤识别   服役列车   动力响应   深度学习   小波包能量   数值模拟   模型试验   现场应用  

摘要： 随着城市经济和轨道交通的快速发展,地铁隧道已成为城市交通的主要命脉。实时感知隧道健康状态,经济、高效地识别结构损伤是维护地铁隧道安全的关键,也是保证城市交通正常运行的前提。由于地铁隧道深埋于地下、地质环境复杂、岩土参数难以确定,目前隧道健康监测以观测渗漏水、错台、沉降等表观病害为主,已经难以满足地铁隧道运维监测的越来越严苛的要求。而基于结构振动监测的损伤识别方法,可以识别隧道内部结构刚度退化、壁后脱空等非表观病害,但同样面临成本高昂、缺乏有效的损伤指标等挑战。因此,有必要探索新的结构监测技术和数据处理方法,及时发现隧道结构异常并妥善处置,以预防和减少隧道灾害事故的发生,保障地铁隧道安全运营。 基于服役列车动力响应的隧道损伤识别方法是通过分析车载加速度计采集的列车振动数据来识别隧道结构损伤,具有便捷、高效、经济、灵敏等优点,可以利用运营中的列车,全天候地感知整个地铁隧道网络的健康状态。针对现有隧道结构损伤识别方法之不足,本文聚焦于该方法在实际应用中的难点,提出了小波包能量相对熵损伤指标(TDIWPE)和基于深度学习的损伤识别算法,分别从理论基础、数值模拟、实验室模型试验和现场实测等方面进行研究。本文取得的主要研究内容和成果如下: （1）通过简化的车轨模型介绍了基于服役列车动力响应的隧道损伤识别方法的理论基础,并对常见地铁隧道结构病害进行梳理和分类,为后续的分析奠定了基础。隧道病害按成因可分为结构刚度下降与荷载边界条件改变两类,从中挑选出适合本方法识别的损伤——隧道刚度下降（混凝土剥落）、隧道壁后脱空、隧道上方地表超载进行分析。 （2）提出了基于小波包能量相对熵的损伤识别算法,阐明了利用核心损伤指标TDIWPE识别隧道损伤的实现流程。同时,建立了一维三层梁式车-轨-隧-土耦合振动的有限元模型,给出了详细的推导过程和计算流程。以一维模型为基础,通过数值算例验证TDIWPE指标的识别效果,并与另一个基于谱峭度面积变化率的指标(TDIASK)进行对比。结果表明,在轨道不平顺的影响下,两个指标都能准确识别隧道刚度下降损伤、轨道板刚度下降损伤、隧道壁后脱空损伤、地表超载损伤所在区段,并且损伤处的指标值随损伤程度的增加而增大,验证了所提方法的可行性和有效性。列车速度、质量、地基弹性系数是影响隧道系统振动响应的重要因素,也会对指标的计算结果造成不同的干扰,但不会显著影响识别准确率。TDIASK指标适合于列车高速行驶,而TDIWPE指标适合于低速行驶时使用。列车质量不会影响两个指标的准确率。地基系数的增加会使两个指标值明显变大,但不影响损伤定位的准确率。 （3）利用Abaqus和UM进行了三维车-轨-隧-土耦合振动联合分析,介绍了详细的建模流程。模型中充分考虑了轨道不平顺和浮置轨道板隔振系统的影响,并模拟了四种类型的损伤。通过分析轮对竖向加速度响应,结果表明,对于隧道刚度下降、隧道壁后脱空、地表附加荷载三种损伤,两个指标都能够准确地定位损伤所在的区段,并且损伤处的指标值能随着损伤程度增大而增大。但是对于管片混凝土剥落这种微小的损伤,TDIASK指标的识别效果稍差,受噪声干扰影响明显,而TDIWPE指标能够识别出剥落损伤所在的区段,但是不能反映损伤的程度。 （4）提出了基于卷积变分自编码器（CVAE）和TDIWPE指标的隧道损伤识别算法和基于VMD-CNN-LSTM（VCL）的多步损伤识别策略,并给出了详细的算法实现和应用流程。基于CVAE和TDIWPE指标的算法,以服役列车在隧道内正常运营时的振动响应数据为分析对象,识别隧道是否存在异常,并由TDIWPE指标识别异常的位置,适用于无样本标签且缺乏负样本的情况。当积累了足够多的隧道健康和损伤场景下的数据后,采用基于VCL模型的多步损伤识别算法,可以充分利用标签信息,逐步提取隧道损伤位置、类型、损伤程度等深层信息,进一步提高损伤识别准确率。本文利用模型试验数据对这两种的深度学习算法进行了验证,并与其它算法模型对比,结果表明这两种算法都具有良好的损伤识别效果,总体识别准确率分别达到了88.82%和90.25%以上。 （5）结合工程需求,依托济南轨道2号线地铁,设计了现场测量方案,利用布置在车厢内部的加速度传感器采集了地铁列车正常运营时的动力响应。利用实测数据和数值模拟数据,合成了隧道损伤时的样本,用于测试基于深度学习的隧道损伤识别算法。结果表明,两个深度学习方法的识别准确率都达到了81.25%以上,验证了算法的有效性和监测方法的可行性。

关键词： 轨迹预测   标签噪声   深度表征学习   权重分配  

摘要： 人群移动轨迹预测对多个城市计算的相关课题都有重要作用,如城市规划、交通工程、商业决策等等。得益于移动互联网和大数据技术的蓬勃发展,捕获整个城市范围内人群的移动轨迹数据已经成为可能,而深度学习技术的应用也大大提高了对人群轨迹序列的建模能力。已有相关研究数据主要来源于志愿者设备采集、手机应用签到记录等,数据覆盖的人口数通常为数万至十数万规模,在城市范围内不具有代表性;另外,由于数据采集场景的复杂性和缺少真实可信的标签参照,轨迹数据携带的噪声往往难以清洗,人为设置固定的指标阈值和清洗规则甚至会过滤删除部分有效数据,进一步降低了预测模型的性能。针对以上问题,本文主要关注如何提升面向海量带标签噪声的城市位置数据的移动轨迹预测方法的性能。本文将其拆解为三个子问题:一是如何构建轨迹预测模型,根据用户此前的轨迹数据预测其下一时刻的位置;二是如何实现对输入数据中标签噪声的识别,即对轨迹数据准确性进行表征和量化评估;三是如何在此前轨迹预测模型的基础上,考虑和利用数据准确性的表征结果,实现整体场景下预测性能的提升。本文的主要工作有以下几点:首先,基于深度学习模型,本文实现了从分布式日志大数据处理到移动轨迹预测的完整流程,提出了结合双向门控循环单元和注意力机制的预测模型,在真实城市基站位置数据集上进行了测试,提高了预测的准确性。同时对轨迹数据中的标签噪声问题进行分析,并验证了其对预测模型的影响。其次,针对标签噪声的识别问题,本文基于深度表征学习方法设计了用户轨迹数据的校验模型及其无监督式训练方法,并验证了其对标签噪声量化评估的合理性。最后,通过利用权重分配的思想去校准神经网络参数,本文将前两者模型结合起来,提出了完整的带校验网络的移动轨迹预测方法,有效提高了海量带标签噪声的城市位置数据场景下移动轨迹预测模型的性能。