关键词： Wi-Fi信号   通信辐射源个体识别   固定边界条件   经验小波变换   深度残差网络  

摘要： 随着信息技术的快速进步和电子通信设备的普及,连入无线通信网络的Wi-Fi设备数量快速增加,大量的个人和商业信息通过无线信道传输,无线网络的安全性遇到了挑战。而Wi-Fi通信辐射源个体识别技术可以用于检测未授权的接入点或恶意的干扰设备,从而避免非法用户进行网络攻击或窃取重要信息,对提高无线网络安全性具有积极的推动作用。 本文通过对通信辐射源个体识别技术中的通信符号波形时频域分解与深度学习结合的方法展开深入研究,提出了两种基于信号时频域分解的Wi-Fi通信辐射源个体识别的方法,针对目前通信辐射源个体识别任务中解决识别精度低,计算复杂度高,抗噪性能差的问题。本文的主要研究内容如下: 1.提出了一种基于固定边界范围经验小波变换(Fixed Boundary Range-Empirical Wavelet Transform,FBR-EWT)和Hilbert谱的Wi-Fi辐射源个体识别方法,来验证FBR-EWT方法能有效的对IEEE802.11a协议下多载波信号进行多尺度分析。根据IEEE802.11a协议下OFDM信号的多载波特点,按照子载波分布使用FBR-EWT来对Wi-Fi信号的前导码进行分解,并通过计算得到相应的Hilbert谱,然后通过ResNet50网络来对信号的指纹特征进行提取及分类。实验结果表明,在20dB信噪比条件下,对6类Wi-Fi信号辐射源进行个体识别时,能取得89.17%的识别准确率,同时与其它常用的时频域分解方法相比,具有分解效果好,计算开销小的优点; 2.针对Hilbert谱方法携带信息多、计算量大,同时随着信噪比条件的降低,识别效果不佳的问题,根据短导码的子载波频谱特点设计了一种基于固定频率边界的经验小波变换(Frequency Fixed Boundary-Empirical Wavelet Transform,FFB-EWT)和应用深度残差网络的Wi-Fi通信辐射源个体识别方法。首先,提取IEEE802.11a协议下OFDM信号的短导码,根据短导码中传输信号子载波的频率间隔划分固定边界条件,将频域边界值应用于FFB-EWT对信号进行分解,去除包含前导序列信息的子载波分量;其次,对相邻帧包含指纹特征的空子载波分量进行积累,提高指纹特征信号的信噪比;然后,使用结合了非局部注意力模块和通道注意力模块的双通道ResNet18残差网络,直接将分解后的IQ两路数据输入进行特征提取,通过Softmax函数进行分类;最后,选择Oracle公开数据集验证方法的可行性。实验结果表明利用FFB-EWT方法对6个不同辐射源个体在6dB和0dB条件下进行识别,准确率可以分别达到98.17%和89.33%,证明了该方法在低信噪比条件下的有效性。

关键词： 深度强化学习   样本效率   情节记忆   行动者-评论家框架  

摘要： 深度强化学习方法被广泛应用,但在实际任务中,它们的训练成本往往很高。提升样本效率至关重要,即在有限的交互采样次数内取得更好的训练效果。在离散动作任务中,情节控制方法通过记忆过去的高奖励状态-动作对,并在遇到相似状态时执行之前得到高奖励的动作,能够有效提升样本效率。但是,在连续动作任务中,很难使用情节控制的方法。 本文的主要目的是在连续动作任务中使用情节记忆提升样本效率,通过情节记忆优化智能体的样本采集过程,选择更有潜力的动作与环境互动,并鼓励智能体访问更新颖的状态-动作对以提升探索能力。 首先,本文解决了在连续动作任务中,使用情节控制方法进行动作选择的两个关键问题: 1)在连续动作任务中,由于动作空间规模过大导致无法通过情节记忆对每个可执行动作进行价值估计。本文提出了一种“情节记忆-双行动者-双评论家”框架,两个行动者分别对应两个评论家。收集数据阶段,在智能体与环境交互时,使用情节记忆和评论家的混合价值估计方式来选择动作。首先通过双行动者分别最大化两个评论家的价值估计,选择出两个备选动作,然后通过情节记忆对两个状态-动作对进行价值估计。如果两个状态-动作对同时出现在情节记忆中,则执行情节记忆价值估计高的动作,否则,执行评论家价值估计高的动作。情节记忆-双行动者-双评论家能够选择出更具潜力的动作,这一方法能有效缓解评论家价值估计偏差导致的样本效率低下的问题。 2)在连续动作任务中,由于状态空间的高维性和连续性,智能体很难遇到完全相同的状态,而通过传统k NN方式在情节记忆中查找近似状态所需计算资源过高,通过均等划分状态空间和动作空间的聚类方式无法准确估计状态-动作对的价值。本文提出了基于Kalman滤波优化器的情节记忆,并为Kalman滤波优化器设计了自适应观测值误差协方差。基于Kalman滤波优化器的情节记忆所需的计算成本小,且对状态-动作对的价值估计更加准确。 本文将情节记忆-双行动者-双评论家框架和基于Kalman滤波优化器的情节记忆应用于TD3算法,提出了基于Kalman滤波优化器的情节记忆-双行动者-双评论家(Episodic Memory with Kalman filter optimizer-Double Actor-Critic,EMKDAC)算法。情节记忆和评论家的混合估计,能够选择出更有潜力的动作,优化样本采集过程,实现样本效率的提升。 之后,为了进一步优化算法性能,提升智能体的探索能力,避免智能体陷入局部最优,本文基于情节记忆设计了内在奖励模块,鼓励智能体访问更加新颖的状态-动作对,通过增强智能体的探索能力来提高样本效率。并将基于情节记忆的内在奖励模块添加到EMKDAC算法中,提出了一种增强探索能力的基于Kalman滤波优化器的情节记忆-双行动者-双评论家(Exploration-capable“Episodic Memory with Kalman filter optimizer-Double Actor-Critic”,EEMKDAC)算法。 本文在带有稠密奖励的Open AI Gym的Mu Jo Co基准的连续动作任务中,对EMKDAC算法和EEMKDAC算法进行了性能测试,结果表明,EMKDAC算法和EEMKDAC算法有效提升了基线算法的样本效率,并且性能超越了目前最先进的同类深度强化学习算法。在带有稀疏奖励的Sparse Mu Jo Co环境中对EEMKDAC算法进行了性能测试,EEMKDAC算法取得了最优表现,展现出良好的探索能力。本文通过对比实验验证了情节记忆在提升样本效率中的作用,通过消融实验证明了算法各部分组件对整体性能的贡献。

关键词： 联邦学习   区块链   安全多方计算   隐私保护   机器学习  

摘要： 机器学习在各大领域取得显著成就,前景广阔,发展势头迅猛。然而,机器学习面临一个严峻问题——数据的安全性。用户数据包含大量真实且敏感的个人信息,隐私泄露不仅会导致用户遭受骚扰,还会导致用户的生命和财产受到威胁。因此,用户越来越不愿意将其本地原始数据共享。基于此,如何在机器学习中,保证用户隐私数据的安全性成为了当下机器学习发展的重要方向。 为保障数据隐私的安全,联邦学习应运而生。通过分布式机器学习方式实现对分散数据的高效训练,同时保护用户数据隐私。然而,传统联邦学习系统存在单点故障和信任问题,面临潜在攻击风险,同时难以满足更高的安全要求。在这一背景下,区块链作为去中心化、可追踪、防篡改的分布式账本为联邦学习提供新的解决方案。其记录着每个全局模型的更新过程,验证并跟踪本地更新,还拥有公平的激励机制。本文基于上述思想,为解决联邦学习中的数据安全问题提出一种基于区块链的联邦学习框架。具体研究内容如下: 1)本文提出了一种基于区块链的隐私保护联邦学习框架,该框架采用动态分组的方法增强数据隐私。通过将Fabric区块链技术与联邦学习集成,使用本文提出的动态分组技术,有效地解决了联邦学习中普遍存在的数据隐私问题。此外,本文提出的解决方案确保用户在获取训练有素的机器学习模型时,无需将个人数据分享给任何其他的用户或实体,极大程度地保护了用户原始数据的安全。通过安全性分析,展示了本方案在有效应对联邦学习固有的隐私和安全问题方面的能力。 2)本文设计并实现了基于区块链的隐私保护联邦学习系统,有效地展示了系统查询和训练的操作和结果。通过分层设计,将系统拆分成四个主要的部分——界面设计、查询和训练设计、数据安全上传设计、区块链设计,并对主要部分展开详细的介绍。除此之外,还介绍了系统的开发过程、实现过程以及性能分析。实验结果表明了系统的正确性和安全性。

关键词： 不完备多视图学习   多视图聚类   多标签分类   缺失视图复原   多视图质量判别  

摘要： 来源广泛、结构各异的数据在对同一客观或语义对象进行特征描述时即构成多视图数据,而多视图学习旨在有效利用多视图数据突破以单视图数据为基础的现有机器学习模型的性能瓶颈。然而在真实应用中,受数据采集与传输过程中存在的不确定性或部分复杂应用场景所限,多视图数据中的部分样本存在视图缺失问题,这种缺失现象难以避免且补全缺失数据的成本过高,如何对此类不完备多视图数据进行有效聚类和分类具有重要研究价值。因此,本文重点研究无监督的不完备多视图聚类和有监督的不完备多视图弱多标签分类两个任务。尽管现有不完备多视图学习方法已经取得了一些进展,但仍面临众多挑战,对多视图聚类来说:(1)基于传统的浅层特征提取方法的特征表达能力不足;(2)对数据几何结构信息的挖掘和利用不够充分;(3)缺失视图复原的研究进展缓慢。对于不完备多视图弱多标签分类来说:(1)多数方法难以同时应对视图缺失和标签缺失;(2)深度多视图对比学习存在类别冲突问题;(3)现有视图平衡策略难以精准判别个体样本的视图质量差异。针对以上问题,本文从灵活建模数据局部结构、探索深度框架下的视图复原、建立基于对比学习的一致性表示学习框架、建模样本级多视图质量判别四个方面展开不完备多视图学习方法研究,具体研究内容总结如下: (1)针对许多现有方法在处理任意视图缺失情况下的局限性和引入额外图正则项带来的高计算复杂度问题,本文提出了一种基于局部结构嵌入的稀疏不完备多视图聚类模型。该方法简单有效,通过优化带有稀疏正则化的图嵌入多视图矩阵分解模型,从不完备多视图数据中学习稀疏且结构化的多视图共享潜在表示。与现有工作不同的是,该方法的局部图嵌入项将图嵌入任务和共识表示学习任务聚合成一个整体,有效降低了模型的计算代价。此外,为了减少视图缺失带来的不平衡性,该方法引入了自适应加权学习策略以动态平衡各个视图在模型训练中的作用程度。在5个不完备多视图数据集上进行的实验证实了该方法的有效性。 (2)针对缺失视图复原困难以及深度模型中数据局部结构信息挖掘困难的问题,本文提出了一种基于信息复原驱动的深度不完备多视图聚类网络。针对现有方法存在的多视图信息交互障碍的问题,设计了一种具有自注意力结构的自编码器网络,用于同步提取多个视图的高级语义表示并进行跨视图信息融合。由近邻关系引导的缺失多视图恢复严重依赖于图的构造质量,而由不完备数据所构建的近邻图质量低下,为此,本文设计了一种循环图重建机制,巧妙地利用复原的视图来重构近邻图结构从而反向提升视图重建质量。在5个常用数据集上进行的实验证实了视图复原有利于不完备多视图聚类性能的提升。同时,部分数据集上复原结果的可视化证实了该方法的视图复原策略的有效性。 (3)针对现有不完备多视图弱多标签分类方法仅能提取浅层特征从而导致分类性能低下,以及如何在嵌入空间中保持多视图一致性的问题,本文提出了一种基于实例级对比学习的不完备多视图弱多标签分类网络。该方法能够同时处理视图和标签缺失且可以监督或半监督方式灵活训练。基于不同视图对应同一样本的实例应当具有一致的语义特征的原则,本文通过在实例层面划分正负对的方式执行对比学习,有效增强了多视图嵌入表示的一致性。针对视图和标签双重缺失问题,引入先验的缺失信息在多视图对比学习、多视图特征融合、多视图特征重建以及多标签分类四个方面帮助模型减少未知信息对模型训练与预测的干扰。在5个公开数据集上进行的实验结果表明,该方法的多标签分类性能明显超过现有先进方法。 (4)针对多视图对比学习方法存在的类别冲突问题,本文设计了一种标签驱动的多视图对比学习方法,该方法放弃推离类别上非互斥的“负对”,转而引导样本保持合适的相对距离,使其在保持跨视图一致性的同时避免破坏样本间结构关系。针对其他方法仅考虑数据集层面的视图质量,忽略个体样本的视图质量差异的问题,本文提出了一种质量判别学习方法以显式地利用多视图互补性得到高质量的样本级融合表示。针对现有深度多标签分类损失缺乏类间信息关联的问题,本文设计了一个融合标签依赖关系的多标签协同交叉熵损失,打破了传统多标签分类损失长期以来存在的类间壁垒,有效提升了多标签分类性能。该方法具有良好的迁移特性,可灵活扩展到半监督以及完备视图、完备标签等多种应用场景。在5个数据集上的不同视图和标签缺失率下的实验表明,该方法在信息缺失与完备情况下都取得了良好的分类性能。 总的来说,本文将不完备多视图表示学习与聚类和多标签分类任务相结合,分别提出了两个不完备多视图聚类方法和两个不完备多视图弱多标签分类方法。大量实验结果表明,所提出的方法相较于现有先进方法取得了明显的性能优势。

关键词： 偏标签学习   偏多标签学习   半监督学习   图像分类   一致性正则化   伪标签方法   Transformer编码器  

摘要： 偏标签学习是一种重要的弱监督学习框架,其中每个偏标签样本对应一个候选标签集,样本的唯一真实标签隐藏在候选标签集之中。大部分相关研究假设所有训练样本都具有偏标签信息,且往往只能处理基于人工特征的关系型数据集,不能直接用于图像分类。如何在仅有少量偏标签样本而同时存在大量无标签样本的场景下,构建有效的模型解决半监督偏标签图像分类问题是一个重要的研究课题。 另外,偏多标签学习是偏标签学习的一种拓展框架,其中,每个偏多标签样本拥有多个真实标签,且所有真实标签隐藏在对应的候选标签集之中。由于样本的真实标签数量未知,相比于偏标签学习,偏多标签学习更加困难。基于以上两种学习框架,本文针对半监督偏标签和半监督偏多标签学习场景,研究如何建立有效的图像分类模型,主要做了如下两方面工作: 一、针对半监督偏标签学习研究现状中存在的问题,本文采用一致性正则化和伪标签方法,提出半监督偏标签图像分类算法CR-SSPL(Semi-Supervised Partial Label Learning Method Based on Consistency Regularization)。此方法通过伪标签方法进行标签消歧,再通过一致性正则化方法构建模型损失函数,可以同时利用图像数据中的三类监督信息。此外,还设计了动态阈值函数自适应调整置信度阈值大小,提高了分类性能和收敛速度。通过在多个半监督偏标签数据集上的大量实验结果表明,CR-SSPL算法相比其它对比算法取得了更好的分类性能,在学习难度较大的数据集上,CR-SSPL算法有着明显的优势。 二、在半监督偏多标签学习问题中,大多数研究方法在利用标签相关性构建模型时,忽略了候选标签集中噪声标签的干扰,此外特征空间和标签空间被分开考虑,忽视了两者整体之间的结构信息。针对这些问题,本文基于Transformer提出了一种新的半监督偏多标签图像分类算法T-SSPML(Semi-Supervised Partial Muti-label Learning Method Based on Transformer Encoder),用Transformer编码器构建主干网络,将图像特征和标签特征共同作为特征输入,利用多头自注意力机制学习整体性结构信息,以及标签之间的关联信息。此外,本文采用标签掩码机制,提升模型学习标签关联信息的能力。本文在多个数据集上进行了大量实验,实验结果表明T-SSPML算法相比其它对比算法在绝大多数的情况下取得了更好的分类性能。

关键词： 交通流预测   自适应噪声完备集合经验模态分解   软阈值时间卷积网络   动态低秩切比雪夫图卷积   大数据预测平台  

摘要： 智能交通系统的发展高度依赖于精准的交通流量预测,这对交通管理的优化以及决策的科学性具有至关重要的作用。然而,现有的断面和区域交通流量预测方法在应对数据复杂性和动态变化时仍存在诸多挑战,导致预测的准确性和模型的运行效率难以满足实际需求。因此,提升预测模型的精度和计算效率,是实现交通系统智能化管理和高效运行的核心关键所在。 在断面交通流预测中,数据的高度非线性、强时间依赖性、特征冗余以及噪声干扰等问题导致预测精度下降;在区域交通流预测中,传统的图卷积网络往往忽视了节点的重要性差异,尽管引入高阶切比雪夫多项式和额外模块能够改善效果,但这也增加了模型参数量,降低了计算效率。针对这些问题,以下工作和成果为交通流预测提供了新的方法: (1)提出一种基于自适应噪声完备集合经验模态分解(Complementary Ensemble Empirical Mode Decomposition with Adaptive Noise,CEEMDAN)和软阈值时间卷积网络(Soft Thresholding Temporal Convolutional Network,STTCN)的断面交通流预测算法。利用CEEMDAN分解历史数据,结合时间戳编码和最大信息系数(Maximal Information Coefficient,MIC)分析,提取高低频特征并分别输入STTCN进行建模和预测。引入的软阈值机制增强了高噪声数据的处理能力,软阈值参数由黏菌优化算法(Slime Mould Algorithm,SMA)调整。实验结果显示,相较于基线模型,该算法的MSE、RMSE和Abs DEV平均降低了约54.97%、30.07%和34.39%。 (2)提出一种动态低秩切比雪夫图卷积与时间卷积融合(Dynamic Low-Rank Chebyshev Graph Convolution and Temporal Convolutional Network,DLRCN-TCN)的区域交通流预测算法。该算法采用高阶切比雪夫多项式替代一阶拉普拉斯图卷积,以更广泛地捕捉交通流中的空间依赖。同时,通过引入注意力机制动态调整多项式权重,提升对重要空间位置的关注。此外,采用低秩近似技术减少图卷积模型的参数量,并通过时间卷积网络(Temporal Convolutional Network,TCN)捕捉交通流的时间特征。实验结果表明,与基准模型相比,DLRCN-TCN在PEMS04数据集上三个预测步长的平均MAE和RMSE分别降低了25.92%和21.19%;在PEMS08数据集上,这两个指标分别降低了31.87%和27.25%。此外,DLRCN模型相较于原始切比雪夫图卷积,参数量减少了40.76%。 (3)开发了一个基于力控软件和My SQL数据库技术的交通流大数据预测平台。平台集成了登录、基础信息管理、历史流量展示、预测分析、报警监控、相关分析和用户管理等功能,为交通流的监测、预测和管理提供了全面支持。 以上工作提升了交通流预测的精度和效率,并开发了相应的大数据预测平台。未来的研究应聚焦于这些方法在实际场景中的应用,例如城市交通管理和应急响应系统中的实施,以验证其在不同环境中的适用性和稳定性,并进一步优化模型处理实时数据的性能。这一发展将推动智能交通系统的高效化和全面智能化,为交通管理提供更强有力的技术支持。

关键词： 医学图像处理   金属伪影去除   深度学习   无监督学习   双域信息  

摘要： 在计算机断层扫描(Computed Tomography,CT)中,金属植入物(如金属假牙、膝关节金属假体等)引起的破坏性伪影严重降低了图像质量,影响医生对患者病情的精确诊断。因此,金属伪影去除(Metal Artifact Reduction,MAR)方法对于确保诊断的准确性至关重要。面对大尺寸或多数量的金属植入物,传统MAR方法往往会引入严重的二次伪影,使CT重建图像严重失真。本文研究基于深度学习(Deep Learning,DL)的MAR方法,力求在尽可能去除金属伪影的同时,最大限度地保留原始图像中的组织结构细节。 本文的主要工作如下: (1)提出了一种基于对比学习的深度学习网络CLMAR,在传统的Cycle GAN基线网络上进行简化,仅保留单个生成器、鉴别器和特征采样器,使其复杂度减半。该设计不仅提升了CLMAR的预测精度,同时显著加快了模型的训练及收敛速度,并减少了对存储空间的需求,有效地解决了以往无监督DL-MAR方法中参数量大和训练耗时长的问题。本文构建了一个全新的数据集,包含骨折内固定术和全膝关节置换术后的CT图像,并生成了相应的仿真金属伪影图像。实验结果显示,CLMAR在定量和定性分析上均超越了传统方法及其他经典的无监督DL-MAR方法。此外,还探讨了不同的重建算法、窗宽和窗位设置对MAR任务的影响。 (2)提出了一种基于双域信息的无监督学习方法Du Do Trans GAN。该网络借鉴Transformer和生成对抗网络(Generative Adversarial Network,GAN)的先进架构设计,构建了图像域去噪分支和投影域补全分支,通过融合双域信息特征,显著提升了去除金属伪影的效果,缩小了无监督学习与监督学习之间的性能差距。在使用成对腹部CT图像的仿真伪影场景中,该网络在PSNR、RMSE和SSIM等定量指标上表现良好。在使用无配对膝关节CT图像的临床场景中,Du Do Trans GAN获得了四种无监督DLMAR模型中最高的人工评分。实验结果展现了其在实际临床应用中的潜在价值,有助于推动Transformer、GAN和双域信息融合技术在MAR领域的发展。 本文提出的MAR方法不仅展示了优秀的泛化性能和可迁移性,而且通过有效减少金属伪影,显著提升了CT图像的可读性,辅助医生更准确地识别和评估病灶区域。这对提高患者的治疗效果和生活质量有着积极的促进作用,预计将为MAR领域的临床实践带来更可靠、更有效的解决方案。此外,本研究还深刻意识到医学图像处理中的安全性问题,包括数据的安全性和模型的安全性。确保患者数据的隐私和安全,防止模型被恶意操作或伪造,对维护医疗诊断的准确性和可靠性至关重要。通过采用先进的深度学习技术和创新的MAR方法,有助于推动医学图像处理技术向更安全、更高效的方向发展。

关键词： “1+X”证书制度   学习者视角   高职教育  

摘要： 在国家产业结构升级对人才需求转变的背景下，“1+X”证书制度应运而生，该制度从试点开始就受到广大教育学者的推崇。会计专业作为实践性强、关联证书多的特殊学科，一直与“1+X”证书制度紧密结合，目前各个省份高职院校正在不断开展会计教育试点工作。在查阅我国大量文献和证书制度的相关政策基础上，结合会计专业开创性地从学习者视角对“1+X”证书制度实施的意义、困境与引导策略等方面进行研究。