关键词： 地震预警   震级实时估计   P波到时捡拾   深度学习  

摘要： 地震预警技术旨在地震发生后、破坏性地震波尚未到达目标区之前提供预警信息,快速且准确度高的估计震级是其重要环节。由于地震预警的时效性要求极高,只能利用少量台站的初期地震波来估计地震参数。由此,基于特征参数的震级估计方法通常基于不甚准确的地震位置信息且难以通过多台平均的方式降低其离散度,现有基于深度学习方法的自提取特征的震级估计方法,虽然相比传统震级估计方法有了很大改进,但基于单台观测数据和针对网外地震的震级估计的准确性和时效性尚需继续提高。同时,基于测震数据的PhaseNet方法已广泛应用于地震监测,但其面向强震动数据的可行性有待进一步研究。 本文以提升震级估计的准确性和时效性以及提高中国强震动数据捡拾P波到时的精度为目标,基于日本强震动加速度记录研究单台与多台震级实时估计方法,基于迁移学习和中国强震动数据研究单台震级估计方法和探究定制化PhaseNet模型捡拾加速度记录P波到时的可行性。取得主要研究成果如下: (1)以快速、准确捡拾中国强震动数据P波到时为目标,迁移并定制化捡拾P波到时的PhaseNet模型,探究直接使用中国强震动数据获得模型的可行性。结果表明,PhaseNet模型具有良好的表现,其精确度、准确率和召回率分别为0.947、0.931和0.936。应用交叉验证方法的过拟合模型,验证了模型的鲁棒性和其典型结构的有效性。针对PhaseNet模型的潜在应用区域进行了详细分析,并给出定制化建议。 (2)考虑到现有单台震级实时估计模型的精确度和时效性有待提高的现实,本文提出了一种基于卷积神经网络CRNN的震级估计模型。CRNN模型仅利用波形提取相关特征进行实时震级估计,与MagNet和CNNs方法相比,震级估计的精确度和时效性有所提高,在P波到达后3s,MAE误差水平分别降低14.40%和22.46%,单台震级估计误差基本控制在±0.5,具备估计6.5级以下地震的能力,7s后初步具备估计7.0级以上地震的能力。CRNN模型较MagNet方法能有效缓解小震高估,较CNNs方法能有效缓解大震低估。本文验证了 CRNN迁移至中国强震动数据进行震级估计的可行性。 (3)考虑到震源位置估计的不确定性对震级估计的影响,提出了一种多模态、考虑估计震源位置信息变化的单、多台相融合的实时震级估计模型。本模型以触发台站的P波到达时刻和位置信息为文本输入提取隐式震源位置信息,结合模型提取的多台站波形相关特征,进行震级估计。与传统的Pd幅值和基于深度学习方法的震级估计方法CNN-Based相比,本模型在整体上具有更小的震级估计误差水平和较高的稳定性,且对震级7.0级以上的地震具有更为优越的表现。本模型估计震级的精确度,随触发台站的数量增加而提升,在触发台站数量达到3个时就具有稳定的震级估计能力,估计误差通常在±0.5内,在7s后初步具备稳定估计7.0级以上地震的能力。本模型具有较强的鲁棒性,在P波到时捡拾误差±0.2s内依然可以输出相对可靠的震级估计结果。 (4)为缓解小震高估和大震低估问题以及提高模型利用效率,在CRNN模型的基础上,提出一种多任务模式的震级和震中距实时估计模型CRNN-RM。与CRNN模型相比,在P波到达后3s和7s时,3.5级以下地震的震级估计均值误差水平降低6.48%和20.27%;7s时,7.0级以上地震的震级估计均值误差水平降低6.18%。在震中距估计方面,与日本B-Δ方法相比,P波到达后1～3s内,CRNN-RM估计结果在绝对估计误差10km内的占比更高。

关键词： 视觉感知   3C装配   强化学习   低光图像增强   数字孪生  

摘要： 3C是计算机(Computer)、通讯(Communication)和消费电子(ConsumerElectronics)产品的统称,作为智能制造的重要组成部分,近年来,工业界对使用智能算法优化3C装配生产线的需求不断增强,然而3C装配场景下的各类异形零件的装配任务对智能算法提出了较高的要求。本文针对异形零件装配任务,提出一种新的零件装配方案,以提升实际应用场景下视觉感知算法的鲁棒性以及异形零件装配效率。具体研究内容如下: (1)面向弱光环境的3C异形零件视觉感知方法研究。本文使用2D检测算法和3D检测算法相结合的方式进行零件位姿估计,其中2D检测算法通过排除输入图像中无关背景的干扰,降低了算法的误检率。为了更好地应对视觉算法尤其是传统视觉算法在弱光环境下执行3C精密作业时依赖稳定光学环境的情况,本文提出了一种面向3C场景的低光图像增强模型作为预处理模块。该模型通过网络结构优化的方式对原始模型进行轻量化处理,同时通过优化损失函数提升了模型的训练效果,该低光增强模型在公开的多个数据集上展开消融和对比实验,证明了算法的优越性,同时针对3C装配场景,本文进行了2D和3D视觉增强实验,实验结果证明了新算法可以在低光复杂环境下保持良好的鲁棒性。 (2)面向3C装配任务的策略学习框架搭建。在完成零件的视觉感知后,零件进入待装配状态,本文提出了一种新的策略学习框架,用于解决使用经典控制方法进行异形零件装配时效率较低的问题,该框架将模仿学习和强化学习进行结合,其中模仿学习算法使用仿真环境提供的示教数据进行训练,训练得到的策略将作为装配任务的基准策略,强化学习算法基于视觉信息与环境进行交互,对基准策略进行微调,为了实现高精度任务的策略学习,本文引入课程学习方法,分多步完成策略学习目标。该策略学习框架在RLbench和3C场景下的多个机械臂任务中进行消融和对比实验,实验结果显示新策略学习框架可以实现更加高效的策略学习过程,且更加适合3C高精度装配任务的训练。 (3)面向3C装配任务的策略迁移方法研究。针对经典策略迁移方法在高精度装配任务中迁移难度较大的问题,本文引入数字孪生的思想,在Coppeliasim中设计了与真实场景相匹配的仿真环境,虚拟机械臂和真实机械臂通过ROS(Robot Operating System)系统实现数据交互,使得仿真环境下训练的策略可以在真实场景下进行轨迹同步。本文主要以前置摄像头和SIM卡两个典型3C手机零件装配场景进行应用验证,训练策略通过数字孪生系统成功实现了策略迁移。

关键词： 掩码特征模型   生成式自监督学习   语义分割   遥感   Transformer   对比学习  

摘要： 基于深度学习的遥感图像智能解译严重依赖于大型数据集,通过掩码图像模型在无需标注的原始影像上对主干网络进行自监督预训练,可以有效地减少对大量标注数据的依赖。当前掩码图像模型主要基于Vi T架构,预训练得到的Vi T模型相较于卷积神经网络(CNN)在下游任务局部特征提取能力不佳,在全局建模过程中容易丢失图像细节。CNN与Transformer相结合的架构,既保留了卷积固有的局部性,又解决了卷积神经网络无法有效建模长程关系的问题,在语义分割等下游任务中表现优于Vi T模型。针对遥感图像真值标签不足场景下的检测精度不佳的问题,本文提出了两种适用于遥感图像生成式自监督学习:掩码特征模型(MFM)方法以及对比式掩码特征自编码器(CMFM),提出的两种方法通过预训练CNN+Transformer模型参数,提高下游任务的检测精度。 掩码特征模型(MFM)方法是一种结合卷积神经网络(CNN)和Transformer架构的高分辨率遥感图像生成式自监督学习方法,在卷积提取高阶影像掩码并预测原始影像。该方法具有以下几个优势:(1)预训练网络CNN+Transformer的架构,既保留了CNN架构局部特征表示的优势,又具有Transformer架构的全文信息建模能力;(2)特征提取网络可以输出多尺度特征,更容易添加上采样和跳跃连接,提高下游密集预测任务的精度;(3)预训练的MFM可以通过有限样本的微调,应用于下游任务。本文使用公开的建筑物提取数据集WHU和Massachusetts以及土壤覆盖数据集GID验证了所提方法的有效性。通过大量的实验评估了MFM用于生成式自监督学习的主要特性,并在下游语义分割任务上对MFM进行微调,与其他先进的生成式自监督学习算法进行比较。实验结果表明预训练参数结合了CNN和Transformer的优势,所提出的方法在语义分割等下游任务上具有更好的特征提取能力和更高的精度。 在提出的MFM基础上,为了进一步提升在清晰度低、样本量较少的数据集检测效果,本文进一步研究并将掩码特征模型(MFM)与对比学习模型相结合,提出了对比式掩码特征自编码器(CMFM)。CMFM在训练中同时进行正负样本对识别和掩码特征重建两大任务,得益于在高相似度的遥感影像上的对比学习,CMFM可以更准确的理解遥感影像建筑物分布,相较于MFM具备更优秀的特征提取能力。在建筑物提取数据集WHU和Massachusetts上,相较于MFM以及其他对比的方法,CMFM精度进一步提高。特别在清晰度低、样本量较少的Massachusetts数据集上,具有更大幅度的提升。 本文所提出的面向遥感影像自监督的掩码特征模型(MFM)和MFM架构下的遥感影像对比式掩码自编码器(CMFM),将CNN+Transformer架构融合进遥感影像自监督学习,可以有效减少对人工标注数据集的依赖,相较其他自监督学习方法提升了下游任务的检测效果。

关键词： 差分隐私   图神经网络   联邦学习   对比学习  

摘要： 图神经网络在各个现实世界领域都扮演着重要的角色,是解决复杂图数据分析和应用问题的有效方法。它能够从图结构数据中学习到最先进的表示,在图级别和节点级别的分类预测任务中展现出卓越性能。通常情况下,图神经网络模型需要将各个相关机构的数据汇集在一起进行训练。然而,直接将数据暴露给不可信的第三方可能导致用户重要敏感信息的泄露。因此,在考虑用户数据的隐私安全的情况下,使得各个本地数据所有者之间会形成数据孤岛问题,难以训练出一个鲁棒的模型。而联邦学习的出现,不仅保护用户的数据隐私安全,同时也有效地缓解了数据孤岛问题。 在数据独立同分布的情况下,联邦学习通过将聚合参数得到的全局模型分发给每个参与的客户端,这通常能够取得良好效果。然而,在某些场景下,客户端之间的数据可能呈现异质性或被纵向划分。这种情况导致服务器聚合的全局参数可能无法满足各参与者特定需求。此外,当前研究表明,在联邦学习的训练过程中,交换的参数或梯度可能会被恶意用户利用,以推断出数据的原始隐私信息。针对上述问题,提出了面向隐私保护的知识蒸馏图联邦学习方法GFedKRL和面向隐私保护的最近邻矫正纵向图联邦学习方法GFedCKT。本文主要内容概括如下: (1)传统图联邦学习的研究缺少考虑本地参与者之间数据非独立同分布及数据量倾斜问题。针对这种类型的数据异质性场景,提出了GFedKRL方法,旨在为参与者提供个性化的本地模型,并同时确保联邦学习训练过程中的隐私安全。具体而言,在服务器端对每个参与者上传的图嵌入进行聚类,并在聚类后的簇中利用知识蒸馏方法来训练全局模型。在分析数据上传过程中的隐私风险后,提出了个性化本地差分隐私保护方法。这不仅保护了参与者的敏感数据,还更好地控制了对数据添加的噪声量。此外,为了抵御过多噪声对模型性能的影响,在本地模型的训练中引入对比学习方法来增强模型的图表示学习能力。最后,将GFedKRL方法在8个真实数据集上进行了实验,以验证该方法的有效性和隐私保护能力。 (2)真实数据集中存在噪声标签问题,由于图神经网络在训练时,噪声信息通过图结构传播到未标记的节点,这极大损害了图模型的性能;而且在实际场景中,图数据的特征和完整的结构信息可能被不同的数据持有者所隔离,导致各方仅拥有部分特征或结构数据,这进一步加剧了模型的训练难度。面对这些挑战,提出了一种最近邻矫正的纵向图联邦学习方法GFedCKT。该方法首先将隐私图数据保留于本地学习,将聚合、线性计算等操作委托给第三方服务器,然后在本地筛选出噪声标签节点,对噪声标签节点进行矫正。最后,将GFedCKT方法在4个数据集上进行实验,以验证该方法的有效性。

关键词： 大视场天文图像   超分辨变率重建   深度神经网络   自编码器  

摘要： 受设备口径和传输过程的限制,天文图像的分辨率常常难以满足空间探测的需求。天文图像超分辨率重建是将低分辨率图像重建为具有更多细节的高分辨率图像,从而增强图像的有效视觉信息。传统的图像超分辨率方法在处理大视场天文图像时存在重建效率低下且重建内容不完整的问题。本文采用深度学习方法对大视场天文图像的超分辨率重建问题进行了研究。主要工作如下: (1)构建了完备的天文图像超分辨率重建数据集。针对天文图像超分辨率重建样本难以获取的问题,本文采用了有效的模拟天文图像退化过程的数据准备策略。首先,本文通过数据增强技术处理原始天文图像,制作出高清样本。随后,通过应用高斯模糊、下采样,并引入噪声,生成了与这些高清样本相对应的低分辨率图像;最后通过两者的结合构建了一套包含低分辨率和高分辨率图像对的大规模数据集,为深度学习模型的训练提供了必要的数据基础。 (2)构建了基于自编码器结构的渐进生成式大视场天文图像超分辨率重建网络。为克服传统超分辨率重建算法在大视场天文图像上的限制,开发了基于自编码器结构的渐进生成式超分辨率重建网络(Progressive generative super-resolution reconstruction network,PGSRNet),包含特征提取、校正和图像生成三大模块。特征提取模块从低分辨率图像中提取浅层和深层特征,捕捉细节和全局信息。特征校正模块使用移动卷积和层归一化技术优化特征。图像生成阶段,结合深层和校正后的浅层特征,渐进式生成高分辨率图像,显著提升了图像细节丰富度和真实感。 (3)设计实现了集成PGSRNet的嵌入式天文图像超分辨率重建系统。为将本文的重建算法应用于实际,实现与望远镜系统的高效对接,本文设计了一款以NVIDIA JETSON TX2 AI控制板为核心的天文图像超分辨率重建系统。该系统融合了PGSRNet重建算法、GPS、温湿度采集、WIFI及二维舵机模块,并提供了高兼容性的望远镜系统专用数据传输接口。配合友好的上位机界面,能实时处理望远镜采集的天文图像,进行精准的图像重建。 (4)实验验证了所提方法在主观评价和客观指标上的优势,同时也证实了其在不同望远镜图像数据上的泛化能力和局限性。主观评价方面,本文的网络不仅较好的保存了图像内容,而且保证了图像灰度值的正确表达。在客观指标方面,本文网络比其他方法中最优的结果在SSIM上提高了0.077,在PSNR上更是提高了1.969d B。

关键词： 深度强化学习   多目标组合优化   构造范式   改进范式   超体积  

摘要： 多目标组合优化问题广泛存在于工业、生活等各个领域,这类问题大多是NP-Hard问题,随着问题规模扩大,无法在多项式时间内穷举得到问题最优解。深度学习方法求解速度快、泛化能力强,结合强化学习强大的序贯决策能力,使得用深度强化学习方法求解多目标组合优化问题成为了一个趋势。主流深度强化学习方法在求解时都是基于分解思想,采用分解向量将其分解为若干个标量优化子问题,针对每个子问题使用深度学习网络建模。这种对于每一个子问题都需要预训练一个神经网络的求解方式,当子问题数量变大时,所需预训练网络也会增加,由此使得空间占用增大,并且多个网络模型间难以进行知识融合与共享;同时,这类求解方式不能覆盖由无数个解组成的帕累托解集,无法满足实际需要。此外,大多数深度强化学习训练方法采用的都是简单的权重和引导的目标函数,训练方法不够高效直接;大多数深度强化学习求解方法采用的是自回归的构造范式方法,而实际上迭代改进解的改进范式方法普遍可以探索到更优的帕累托前沿。 为了更完整地覆盖多目标组合优化问题的帕累托解集以满足实际需要,本文首先提出了权重和引导的深度强化学习构造方法。该方法以注意力模型(Attention Model,AM)为基础,设计了数据连接的单模型方法与权重和引导的策略梯度训练算法,以此训练单个模型灵活求解任意分解子问题。在该方法的基础上,针对权重和引导的训练方式不够高效直接的问题,本文提出了超体积引导的深度强化学习构造方法。该方法将超体积这一衡量帕累托前沿最权威的指标引入神经网络的训练和求解中,为注意力模型专门设计了超体积适应层模块与超体积引导的策略梯度训练算法,并提出了个性化求解的质量提升机制。在二目标旅行商问题和二目标车辆路径问题的随机测试例和标准测试例上的实验结果表明,本文提出的两种构造方法大大减少了模型参数的空间占用,在任意标量子问题上都可以灵活求解,求解效果在主要指标超体积上超过了当前大多数基于深度强化学习的多目标组合优化方法。 为了探索得到更优的帕累托前沿,本文进一步提出了改进范式的深度强化学习方法。该方法以双端协作Transformer作为基础改进模型,为该模型的双端设计了数据连接的单模型方法,以此实现单模型求解。该方法不仅为质量很差的随机解设计了近端策略优化驱动的随机解改进模型训练方法,还更进一步结合权重和引导的深度强化学习构造方法生成专精解,为专精解设计了邻域参数迁移的专精解改进模型训练方法以更深入探索帕累托前沿。在二目标旅行商问题的随机测试例和标准测试例的实验结果表明,该方法不仅可以利用单个模型求解任意子问题,并且与基于深度强化学习的主流多目标组合优化方法和本文前述方法相比,该方法能取得覆盖更宽广的非劣解集,在超体积等主要指标上获得了更好的求解效果。