关键词： 涡旋寿命和轨迹预测   深度学习   时空数据分析   角发散物理信息   知识融合神经网络  

摘要： 数据驱动的涡旋轨迹与寿命预测方法在海洋科学研究领域中具有重要意义。然而,由于动力学机制的复杂性,该问题面临诸多挑战。得益于海洋观测技术的进步,涡旋轨迹数据具备了大数据特性,能够满足数据密集型研究的需求。本文利用深度学习方法,对涡旋轨迹预测与寿命估计进行了系统性研究。研究过程中,将动力学机制转化为先验知识,用于启发知识融合的涡旋轨迹预测神经网络(Knowledge-fused Eddy Trajectory Prediction Neural Network,Eddy TPNet)的设计,并指导其训练和测试过程;独特的能量演变规律是序列增强表示的涡旋寿命预测神经网络(SequenceEnhanced Eddy Lifetime Prediction Neural Network,ELPNet)设计的关键。具体的研究内容如下: (1)构建海洋涡旋轨迹与寿命预测的人工智能基准数据集。涡旋数据具有多样性,复杂性和不平衡性的特点。本文采用不同的数据分割方法,分别构建了涡旋轨迹数据集和寿命数据集。主要特征包括振幅、半径、地转流速度、经纬度和角度等。 (2)设计机理驱动的海洋涡旋轨迹预测深度神经网络。在涡旋轨迹预测方法中,依据涡旋传播机理进行经向位移和纬向位移的解耦操作,并将涡旋的方向角发散传播机制作为先验知识嵌入到Eddy TPNet中。通过全球数据的预训练,实现对全球长寿命涡旋传播轨迹的预测。为了更好地适应复杂的局部区域,通过迁移预训练模型并结合微调策略,以提高局部区域的预测准确性。结果表明,Eddy TPNet能够预测未来7天的涡旋运动趋势,并保证较低的日均误差。 (3)探寻融合能量演变规律的海洋涡旋寿命估计方法。在涡旋寿命预测方法的设计中,利用分段聚合近似(Piecewise Aggregation Approximation,PAA)方法压缩长度不定的涡旋历史特征。同时,结合涡旋全生命周期中独特的能量变化,设计基于层连结构的编码器-解码器,将其应用于ELPNet中。其中,编码器以长短期记忆(Long Short-Term Memory,LSTM)网络增强历史数据的前后关联;解码器通过Transformer架构融合特征,关注全局信息,以提升网络的非线性表达能力。LSTM和Transformer之间通过逐层连接,减少信息损失,从而实现对涡旋剩余寿命的预测。

关键词： 图表示学习   图自监督学习   图对比学习   非对齐视图  

摘要： 图表示学习,作为一种处理和分析网络数据的技术,已经在社交网络、生物信息、推荐系统等多个领域显示出了强大的应用潜力。尽管图表示学习在许多领域取得了成功,但目前大多数方法采用的是监督学习范式。这种依赖大量标注数据的方法虽然在某些情境下表现出色,但存在明显的局限性:首先,在特定的领域,高质量标注数据的获取既费时又昂贵;其次,过度依赖标注数据可能导致模型的泛化能力不足。为了解决图监督学习过度依赖标注数据的问题,图对比学习应运而生。图对比学习通过从图数据本身提取监督信号来指导模型学习,解决了监督学习对数据标签的依赖。 但现有的图对比学习方法仍存在一些问题:(1)现有方法往往使用单一尺度的对比方式,限制了模型捕捉不同层次信息的能力。例如,仅采用节点间的对比方式可能导致模型忽视图的整体信息。(2)目前对比方式通常专注于对齐视图间对比,很大程度上限制了模型的灵活性,因此,探索如何在非对齐视图间进行对比是必要的。(3)现有方法仅将对比视图中相同的节点定义为正样本,没有充分考虑图结构中节点之间的丰富信息。因此,本文针对图对比学习存在的上述问题,研究了不同的对比方式,并提出了以下方法: (1)基于自动多尺度对比的图对比学习方法,该方法首先结合属性增强与拓扑增强生成两个对比视图。随后利用编码器提取每个视图的节点级表示和图级表示,并采用同尺度对比与跨尺度对比相结合的方式来深入挖掘图数据不同层次的信息。最后,通过自动搜索同尺度对比损失与跨尺度对比损失的最优权重组合,进一步优化模型的整体性能。 (2)基于非对齐视图的图对比学习方法,该方法旨在探索如何在非对齐视图上进行对比。为了生成两个非对齐的视图,该方法首先通过采样每个节点的Rego网络生成非对齐子图,然后对非对齐子图进行增强操作,进而得到非对齐视图。接着采用孪生网络架构对增强后的视图进行编码,提取出每个非对齐视图的节点表示,并采用池化操作获取子图表示。最后利用Wasserstein Distance和余弦相似度来分别最大化两个非对齐视图的节点表示和子图表示的相似性。 (3)基于社区增强和正样本选择的图对比学习方法,考虑到社区信息的重要性,该方法在图对比学习的增强和对比阶段引入社区信息来提升模型性能。首先使用社区划分算法为每个节点分配社区,然后采用以社区强度为指导的属性增强与拓扑增强方法,生成能够保持社区强度的增强视图。进一步地,利用社区信息和全局语义信息来选择正样本。最后,通过对比正样本来学习高质量的节点表示。

关键词： 偏差数据   文本分类   元学习   特征融合   预训练模型  

摘要： 随着信息技术的快速发展和互联网的普及,文本数据的数量呈现爆炸性增长,从而带来了文本分类领域的机遇和挑战。然而在现实世界中,数据存在大量的偏差,可能是由于数据采集方法不当、样本缺失或标注人员的错误判断等所导致的。由于偏差数据的存在,即类别不平衡和标签噪声问题,传统的文本分类模型在实际应用中往往表现不佳。目前,通过元学习思想训练的元神经网络,在不同的任务上具有高泛化性,通过在元任务中学习到的具有普遍性的元知识,帮助模型快速适应新的场景。 然而,现有的元学习方法偏差数据处理研究存在以下问题:(1)基于重加权法的网络模型需要人工指定一个加权函数,但通常类别不平衡问题与标签噪声问题的加权函数的单调性是截然相反的,导致无法处理包含复杂偏差情况的数据。(2)基于标签纠正方法的网络模型不能有效提取上下文的整体特征,会将包含歧义的难样本错误判断为是偏差样本,产生进行无效的标签纠正。针对上述问题,本文做了以下研究工作: (1)针对无法处理复杂偏差数据的问题,本文提出一种融合区分特征的双阶段元重加权网络。采用双阶段的训练策略,在第一阶段预先收集样本在训练时损失值的变化值。在第二阶段通过融合注意力特征的多损失重加权模块,处理样本间的差异并得到样本的区分特征,为模型提供有效辨别偏差数据的信息,提高偏差数据样本的区分度。同时采用元学习的思想训练整个模型,为有偏差的样本分配更合理的权重,以应对数据偏差挑战。实验证明,相较于基线方法,该方法在准确率指标上提升3.53%。 (2)针对无法有效提取上下文整体特征的问题,本文提出一种原型向量距离加权的元标签纠正网络。首先通过全局特征提取模块对样本的语义特征进行特征增强。然后计算元数据集中每个类别的原型向量,通过和样本特征的距离生成概率矩阵来为模型的分类结果加权。接着通过元标签矫正模块中设计的门控单元来对全局特征向量进行选择,将其中有效重要特征进行放大,降低与分类任务无关的特征权重,指导标签纠正网络的预测,使其将样本的标签纠正更接近真实的标签。实验证明,相较于基线方法,该方法在准确率指标上提升3.21%。

关键词： 机制砂混凝土   机器学习   氯离子扩散   碳化深度   SHAP分析   配合比优化设计  

摘要： 随着混凝土用量增加,天然砂的储量逐渐减少,采用机制砂代替天然砂进行混凝土的制备势在必行。而对于机制砂替代天然砂制备的混凝土耐久性缺乏相应的系统性研究。并且随着社会的发展,对混凝土自身性能的要求越来越高,这导致混凝土自身材料组成变得更加复杂,现有的性能预测方法和配合比设计公式并不适用复杂化的混凝土设计需求。机器学习在数据挖掘、非线性分析、预测和优化方面具有较强的能力,可以同时拟合得到多个输入与输出之间的非线性关系。因此,本研究选择利用机器学习方法来得到机制砂混凝土性能和成分之间的非线性关系,并在此基础上实现机制砂混凝土的配合比优化设计。主要研究内容如下: （1）利用极端梯度提升树（XGBoost）、随机森林（RF）、BP神经网络（BPNN）和支持向量回归（SVR）四种机器学习方法构建了机制砂混凝土氯离子扩散系数的预测模型。以机制砂混凝土自身材料组成和环境因素作为模型输入变量,以氯离子扩散系数作为模型的输出变量。并利用SHAP分析方法将原有的8输入变量降低为4输入变量,提高了模型的预测效果。此外,利用评价指标分析模型发现,XGBoost模型和BPNN模型的预测精度和泛化能力高于其他预测模型。 （2）利用BPNN、XGBoost、RF和SVR四种机器学习模型构建了机制砂混凝土碳化深度的预测模型,以碳化时间、CO2浓度、粉煤灰掺量、水泥用量、温度、相对湿度和水胶比作为模型的输入变量,以碳化深度为模型的输出变量。通过四种模型之间的对比分析,发现XGBosot模型在此数据集下表现的预测效果最好。此外,利用SHAP分析的方式得到不同变量的重要性排序及影响碳化深度的机理。 （3）利用NSGA-Ⅱ多目标优化算法建立机制砂混凝土配合比多目标优化模型。该模型的适应度函数采用氯离子扩散系数、碳化深度和混凝土材料成本三个因素,并通过设置相应的目标约束条件对机制砂混凝土的配合比进行了优化设计。试验结果表明,该多目标优化模型能够在保证氯离子扩散系数和碳化深度满足要求的基础上,有效降低混凝土的材料成本。 研究机制砂混凝土的耐久性能和影响因素之间的非线性关系对改善机制砂混凝土的耐久性非常重要。本文基于试验与机器学习方法结合的方式提出的机制砂混凝土耐久性模型,可为机制砂混凝土耐久性研究及配合比优化设计提供一种新方法,为完善机制砂混凝土的性能提供试验参考。

关键词： 初中英语教学   互动学习方法   英语能力  

摘要： 本文主要探讨初中英语教学中互动学习方法对学生英语能力的影响。首先分析了初中英语教学的现状和面临的挑战，接着介绍了互动学习的概念和其理论基础，之后分析了互动学习方法的种类，并依托实例探究了互动学习方法在初中英语课堂的运用及互动学习方法对学生英语能力的影响。本文可为初中英语教师提供一些有关互动学习方法的参考和建议。

关键词： 双模态情感识别   脑电信号   人脸图像   多层次时空特征   多粒度注意力   特征融合   特征分布校准  

摘要： 结合脑电图(Electroencephalogram,EEG)和人脸图像实现情感计算的方法已成为情感识别领域的研究热点,并广泛应用于安全驾驶、远程教育、医疗健康等多个领域。然而,在联合EEG信号和人脸图像的双模态情感识别领域中,存在两大挑战:（1)如何充分捕捉EEG模态或人脸图像模态的特征信息,学习更具显著性的情感语义特征;(2)如何充分建模EEG模态和人脸图像模态之间的关系,捕捉EEG模态与人脸图像模态之间的一致性或互补性。针对这两个挑战,提出了两种双模态情感识别算法,具体研究内容如下: (1)提出了多层次时空特征自适应集成与特有-共享特征融合模型。针对第1个挑战,设计了多层次时空特征自适应集成模块,用于自适应集成EEG信号的多层次时空特征,实现对相对重要特征的自适应保留,生成更具显著性的情感语义特征。通过这种方式,模型的特征学习部分可以为后续特征融合部分产生更具显著性的情感语义特征奠定基础,进而提升模型的性能;针对第2个挑战,受领域自适应工作的影响,提出了特有-共享特征融合模块,将各模态特征学习分为特有特征学习和共享特征学习两种方式,并采用损失函数约束各特征之间的相似性或差异性,保证模型对各模态特有情感语义信息与模态间共享情感语义信息的捕捉能力。在DEAP和MAHNOB-HCI两个数据集上采用跨试验验证在Valence、Arousal、Emotion 指标上的值分别为 82.60%/79.9 9%、83.09%/78.60%、67.50%/62.42%,采用5折交叉验证在Valence、Arousal、Emotion指标上的值分别为98.21%/97.02%、98.59%/97.36%、90.56%/88.77%,取得了具有竞争力的结果,展示了所提出模型的可行性和有效性。 (2)提出了多粒度注意力与特征分布校准模型。具体来说,针对第1个挑战,设计了多粒度注意力模块,旨在准确区分模态间共享信息与模态内特有信息的重要程度,更有效地捕捉各模态中更具显著性的情感语义特征;针对第2个挑战,设计了特征分布校准模块,通过双模态特征来生成各模态对应的缩放权重、偏移权重,进而校准各模态的特征分布,在降低各模态的语义差异的同时充分利用各模态信息。在DEAP和MAHNOB-HCI两个数据集上采用跨试验验证在Valence、Arousal、Emotion指标上的值分别为82.56%/81.63%、82.44%/80.81%、66.51%/65.28%,采用 5 折交叉验证在 Valence、Arousal、Emotion 指标上的值分别为97.48%/98.83%、97.96%/99.26%、90.04%/91.89%,优于现有的其他方法,展示了所提出模型的可行性和有效性。

关键词： 多智能体强化学习   角色学习   任务分解   子任务分配   技能发现  

摘要： 在合作多智能体系统中,多个智能体通过分工合作,达成一个共同目标。许多现实世界问题都可以建模为一个合作多智能体系统,例如无人机集群控制、交通灯控制和电网控制。多智能体强化学习作为解决合作多智能体系统的一个重要方向,有着广阔的应用前景,并在近年来受到广泛关注。然而,相比于单智能体场景,多智能体场景带来了更多的挑战,例如环境的非平稳性、状态的局部可观测性、奖励分配的合理性和可拓展性,并且这些挑战会随智能体数量增加而加剧。针对这些问题,本文将角色学习引入到多智能体强化学习中,把多智能体任务分解为不同的角色来完成,再让智能体按角色进行分组学习,每个智能体只需要专注于其角色对应的任务,各司其职,以简化多智能体任务复杂度,提高系统效率。本文分别从子任务学习和技能发现两个方面来研究多智能体中的角色学习,主要研究内容和贡献点可以总结为以下两点: 第一,本文提出了一种基于动态子任务分配的多智能体强化学习算法。本方法将多智能体任务分解为不同的子任务,不同子任务由智能体扮演不同的角色来完成。具体地,为了定义子任务,本方法引入一个子任务编码器,根据子任务ID来为每个子任务构建一个向量表征。然后,本方法提出一种基于能力的子任务分配策略,即基于智能体的能力来将智能体动态分配给不同的子任务。按子任务对智能体进行分组后,处理相同子任务的智能体共享策略参数来学习,不同子任务学习不同的策略参数。通过这种方式,可以让具有相似能力的智能体聚合起来处理相同的子任务,让智能体动态地共享学习以加速训练。实验结果表明,本方法学会了合理且有效的子任务分配来进行更好的协作,并显著提高了复杂多智能体任务上的性能。 第二,本文提出了一种基于分层技能发现的多智能体强化学习算法。本方法将多智能体任务分解为不同技能的组合,不同技能对应着不同角色所掌握的特定能力。具体地,本方法同时学习多智能体任务中潜在的团队技能和个人技能,并构建一个概率图模型来建模多智能体技能发现问题,进而推导出一个变分下界作为优化目标。然后,本方法提出一个两级分层的学习框架来优化下界,其中高层策略采用Transformer结构按顺序给智能体分配技能,低层策略使用基于隐变量的策略去发现分配的技能。实验结果表明,与强大的基线相比,本方法在稀疏奖励多智能体基准上实现了优越的性能提升。