关键词： 脉冲神经网络   跨模态耦合增强   多模态融合   多模态联想  

摘要： 自然环境中的大多数过程和现象都以不同的物理形式表现出来,并且现实世界中的大多数信息都是通过多个输入通道来获取的。例如,视频包含视觉信息和音频信息,生物系统通过视觉、听觉、触觉、嗅觉等不同的感官感知环境。人类的大脑天生会整合视听信息,但目前大多数研究只关注的单一模态信号的分析与识别,这种单一模态识别存在着诸多的局限性,比如图像中存在的遮挡、障碍物以及光亮照射等干扰因素,音频信息的不直观性以及测量时对噪声比较敏感,因此利用不同模态之间的共性相互弥补是非常有必要的,多模态学习具有重要的研究意义。本课题旨在利用多个模态的信息实现多模态之间的关联和联想学习,主要关注点在于理解大脑内不同感官刺激的整合和学习,同时研究多模态信息在脉冲神经网络上的广泛应用,主要内容包括: (1)探究大脑的多感觉整合和学习方法。研究表明大脑内存在交叉模态耦合现象,大脑中负责处理不同感官刺激的皮层区域之间可以直接相互传递刺激信息。同时也有研究表明大脑内部存在特定的区域对多种感官信息敏感,比如上丘的神经元可以接收多种模态的信息。生物学家根据这两个现象分别提出了Reentry原理和收敛发散理论(Convergence Divergence Zone,CDZ)。根据这两个理论,本文提出了SNN跨模态耦合增强学习模型和SNN多模态融合联想学习模型,为脉冲神经网络的多模态学习提供一种可行的模型架构。 (2)基于脉冲神经网络跨模态耦合增强学习研究。本课题从生物体内多模态信息整合的生物研究中受到启发,设计了不同模态处理模型之间的跨膜态连接结构,用于多个不同模态之间的信息交换,在MNIST数据集上的分类准确率为96.4%,在TIDIGIT数据集上的分类准确率为92.8%。与单一模态处理模型相比,利用跨膜态连接结构,在MNIST数据集的分类准确率提高了3.6%,TIDIGIT数据集的分类准确率提高了3.7%。通过不同模态之间的跨模态耦合,提高了模型的分类精度。 (3)基于脉冲神经网络的多模态融合与联想研究。基于收敛发散理论建立适用于脉冲神经网络多模态学习的网络结构,探索视听觉信息融合在分类和联想上的应用。通过同时学习MNIST图像数据集和TIDIGIT音频数据集,取得95.2%的分类精度。利用一个模态信息激活另一个模态,实现类似大脑内的联想机制。在只给定多模态融合模型视觉刺激时,听觉处理模型的输出层的分类精度为77.67%。在只给定模型听觉刺激时,视觉处理模型的输出层的分类精度为89.08%。通过输出层之间的突触双向连接,实现了不同模态的联想与记忆。

关键词： GNSS-R   CYGNSS   深度学习   海面风速   台风监测  

摘要： 海洋占据了全球70%以上的面积,蕴含着丰富的资源,在生物圈、水圈当中发挥重要作用,充分了解海洋信息对合理开发利用海洋资源有着重要意义。其中海面风速监测是人类安全开展海面活动的重要保证。然而,现有的海面风速监测手段在时间分辨率与空间分辨率方面具有局限性,不能满足人类生产生活需要。随着全球导航卫星系统反射信号(Global Navigation Satellite System Reflection,GNSS-R)技术的发展,尤其是气旋全球导航卫星系统(The Cyclone Global Navigation Satellite System,CYGNSS)卫星的成功发射为获取海面风速提供了新的途径。目前,星载GNSS-R海面风速反演方法主要包括地球物理模型函数(Geophysical Model Function,GMF)与机器学习。本文基于CYGNSS观测资料,在数据预处理后用于模型建立,论文主要研究内容如下:(1)构建基于入射角、归一化双基地雷达截面(Normalized Bistatic Radar Cross Section,NBRCS)、前沿斜率(Leading Edge Slope,LES)、真实风速的GMF模型。使用CYGNSS数据与ERA-5再分析数据集进行时间空间插值获得模型数据集,建立GMF经验模型。评估NBRCS与LES两种观测数据模型反演性能,并利用最小方差估计(Minimum Variance estimator,MV),在NBRCS模型和LES模型的反演结果基础上建立MV模型,提高风速反演精度。针对GMF模型高风速反演精度低的问题,通过数据欠采样调整中低风速在训练数据中的占比,建立高风速GMF模型。评估四种不同的GMF模型在中低风速与高风速的性能和风速反演精度,选择反演精度最高模型进行全球风速反演,验证模型服务全球风速需求可行性。实验结果表明,高风速区间高风速GMF模型反演精度最高,在中低风速区间MV模型反演精度最高。结合两种GMF模型反演2019年10月6日至10月12日全球风速,反演结果误差集中于[-2,2]m/s误差区间。(2)提出联合卷积神经网络(Convolutional Neural Networks,CNN)与长短期记忆网络(Long Short Term Memory,LSTM)的海面风速反演模型。针对GMF模型只使用部分观测量的缺点,选择GNSS反射信号特征参量与海洋状态参量,利用CNN模型提取输入数据特征,建立输入数据与海面风速的映射关系。顾及台风的持续性,由于CNN模型难以处理特征参数中的时间相关性和序列依赖性,所以联合CNN与LSTM方法反演风速。对比CNN模型与CNN-LSTM模型风速反演性能。实验结果表明:利用CNN模型优点,增加信号特征与海洋状态输入量有效提高反演精度。结合CNN模型特征提取与LSTM时间序列处理的优点,输入数据相同时,CNN-LSTM模型反演结果精度优于CNN模型反演结果精度。(3)面向台风监测需要,对比GMF模型与CNN-LSTM模型反演台风能力。应用GMF模型与CNN-LSTM模型对2019年10月6日至10月12日发生的台风“海贝思”进行反演,评估模型反演台风事件性能。实验结果表明:两种模型均可以反映台风区域内风速分布,体现台风发育过程中风速变化。CNN-LSTM模型精度明显高于GMF模型。该论文有图51幅,表16个,参考文献93篇

摘要： 我国科研团队研发出一种基于神经调制依赖可塑性的新型类脑学习方法 （NACA），可有效解决目前人工神经网络中普遍存在的“灾难性遗忘”问题，有望进一步引导新型类脑芯片的设计。相关成果日前在国际学术期刊《科学进展》在线发表。文章第一作者、中国科学院自动化研究所副研究员张铁林介绍，人工神经网络由于采用反向传播（BP）等人工学习方法，可能会导致人工智能系统在学习新任务或适应新环境时丧失以前习得的一些能力，

关键词： 时间序列   机器学习   海浪   航速   准确性  

摘要： 准确预测不同大气和海洋条件下的航速对于优化航线、减少燃料消耗和确保海上安全至关重要。本研究探索了利用随机森林模型(RF)预测中国-巴西航线航速的方法,考虑了大气和海洋条件等各种环境因素。为提高RF模型的准确性和性能,本研究采用了一种复杂的方法,称为时间序列插补与季节性分解随机森林(TISD-RF)。该方法结合了时间序列插补和季节性分解,有效处理缺失数据点并捕捉复杂的季节性模式。通过利用这些技术,TISD-RF优化了RF模型的建模过程,提高了准确性和整体性能,使其成为在时间序列场景中预测航速的有价值工具。在本论文中,我们比较了各种数据驱动模型,并选择RF框架作为基础,考虑了直接利用实时监测数据所面临的挑战。本研究利用海浪条件和航速的历史数据来训练模型,然后利用模型考虑各种影响因素来预测航速。研究结果显示,使用TISD-RF方法在20个周期内显著提高了准确性,达到了令人印象深刻的98.22%的准确率。这些结果突显了TISD-RF方法的有效性以及其在这个特定环境中提高预测准确性的潜力。此外,与基于深度学习的解决方案(如Transformer模型)和传统的机器学习算法(如k最近邻和支持向量机)相比,TISD-RF模型表现出卓越的性能。它通过显示较低的均方误差(0.00006)、较低的平均绝对误差(0.0013)和较高的决定系数(0.9999)来实现这一点。然而,本研究承认了数据和模型假设的局限性,可能限制了其在其他航线或情境中的适用性。未来的研究可以扩展模型,包括更多影响航速的变量,并探索其他建模技术以比较它们的有效性。准确估计不同海洋条件下的航速对于确保海上安全至关重要。本研究证实了TISDRF模型在实现这一目标上的成功,对航运业具有重要的实际意义。以下是为这项研究所做的创新:(1)TISD-RF方法:一个重要的创新在于引入了随机森林时间序列插补与季节性分解方法。TISD-RF通过填补RF框架中的空白数据,有效解决了缺失数据问题。此外,它整合了季节性分解的见解,对于受气象条件变化敏感的行业尤为重要。TISD-RF自动化数据插补并简化了预处理过程,提高了预测的可靠性,同时降低了资源需求。其适用性使其成为基于时间序列的航速预测的多功能工具。(2)利用TISD-RF进行航速预测:该研究首次将TISD-RF模型应用于中国-巴西航线的航速预测中,同时考虑了大气和海洋条件等多种环境因素。这种创新的方法利用了TISD-RF模型处理数据中复杂关系的能力,拓展了其在传统应用之外的实用性。(3)基于历史数据的训练:为了解决使用实时监测数据的挑战,研究采用了海浪条件和航速的历史数据进行模型训练。这一转变从单纯依赖实时数据到使用历史数据提供了一种实用可靠的解决方案,用于在各种影响因素下预测航速。

关键词： 迁移强化学习   图卷积强化学习   注意力机制   交通信号控制  

摘要： 随着深度强化学习的不断发展和优化,其在交通信号控制问题中的应用也日趋广泛。然而,深度强化学习需要通过反复试错来学习最优策略,这使得该方法存在着训练效率低、收敛速度慢等问题,限制了其在交通应用中的表现。因此,本课题提出了一种基于模型的“预训练-调优”两段式跨任务迁移框架,从预训练模型初始化和迁移调优两个方面来解决数据效率问题。该框架分为预训练框架和迁移框架两个部分。 一是用于为新任务训练提供先验知识的预训练框架,在该框架中本课题提出了基于模型图卷积强化学习算法。为学习到一个通用的策略表示,该算法引入了自编码器网络来预测下一时刻的观测,这种基于模型的建模方式为接下来的模型迁移提供了技术支持。同时,在多路口的交通信号控制问题中,为实现多智能体协作,本课题引入了注意力机制来加强路口之间的联系。 二是用于迁移调优的迁移框架,在该框架中本课题提出了基于模型图卷积迁移强化学习算法。为了能准确选择最适合新任务的源策略,使用了欧氏距离来计算下一时刻源策略的预测状态观测和目标环境中的实际观测之间的距离,以此表示目标环境与源策略对应环境的相似程度,从而在不同源策略之间快速选择。该方法能够在短时间内找到最佳的源策略,从而将在预训练阶段学习到的知识和特征迁移到目标任务中,提高模型在目标任务上的性能和泛化能力。 为检验算法的有效性,本课题从车流量和车流分布两个角度设计了五个不同的预训练交通场景,用来训练源策略。在此基础上设计了包括一个分布内迁移和两个分布外迁移的三种迁移场景。实验结果表明,本课题提出的迁移机制在训练效率方面相比从零开始训练有了很大提升,同时在最终性能方面也优于现有其它方法。综上,本课题提出的“预训练-调优”的两段式迁移框架可以有效改善以强化学习为驱动的决策智能方法在自适应交通信号控制问题中的训练效率和收敛速度,为人工智能在交通信号控制场景中落地应用提供理论和应用价值。

关键词： 路网交通流   路网空间特征提取   交通数据补全   交通流预测   图注意力网络   双向编码表征模型   循环神经网络  

摘要： 随着城市化进程的不断加快、居民出行需求的持续增长及机动车保有量的逐年提高,交通拥堵、交通污染等问题日益突出,成为了亟待解决的难题。智能运输系统结合各类先进技术,建立了全方位、高效率的综合交通管理系统,成为了当前解决交通问题的主要手段之一。而在当今交通大数据的时代背景下,交通数据处理分析技术作为智能运输系统的重要部分,无疑已经成为当下的研究重点。 随着城市中基础设施的不断完善与个人定位设备的普及,大量交通数据被收集整理,逐渐达到了惊人的规模,并且,不同于以往的单路段时间序列,越来越多的交通流数据被赋予了空间分布信息,开始以路网的形式呈现。而传统的循环神经网络等深度学习方法在对路网交通数据进行分析处理时,无法对其内在的空间分布规律进行有效的提取与拟合。为此,本文结合多头图注意力机制与双向编码表征模型(BERT)提出了基于掩码图注意力机制的路网编码表征模型(RNERT),利用BERT模型强大的上下文信息提取能力,扩大图注意力机制的邻接空间信息提取阶数,使模型能完成对路网交通流数据的深度表征,对路网空间特征进行有效提取。本文中,RNERT模型没有面向具体交通任务进行训练,而是采用掩码(mask)预训练算法,学习路网空间特征提取的共性能力,使其能作为预训练模型应用于多种交通任务中。为对模型的具体应用效果进行研究,本文选取了交通缺失数据补全与路网交通流预测两个常见任务,分别基于RNERT预训练模型提出了相应的解决方案。其中,缺失数据补全任务直接使用了RNERT预训练模型进行补全计算;而针对交通流预测问题,本文又进一步提出了基于图注意力编码表示的交通路网门控循环网络(GRU-RNERT),对路网交通流数据中的时空多维度特征进行充分提取,为路网交通流时序建模提供了可靠的模型方法。 实验表明,RNERT模型在预训练阶段就达到了预期的效果,展现出了对路网空间特征的强大提取能力,而在缺失数据补全应用中,更是能仅仅利用单时刻路网交通流数据对大面积的缺失值进行有效还原。在路网交通流预测实验中,GRU-RNERT模型也展现出了比基准模型更为优越的性能。这说明RNERT模型为路网交通流空间特征的提取提供了有效的模型支撑,并且可以作为预训练模型快速的适应于多种交通任务,具有重要的现实意义。此外,本文对文本编码表征模型在交通领域中的延伸与应用进行了初步的探讨,为交通领域深度学习理论的后续研究方向提供了思路与参考,具有一定的研究意义。 图33幅,表9个,参考文献49篇。

关键词： 任务驱动   小学语文   低学段   核心素养   学习方法  

摘要： 学习任务群是如今重要的学习方法，能否设计合适的任务成为影响教学效率的关键问题。从“基于学段视角，选择合适任务主题”“立足核心素养，合理设计学习任务”“优化学习方法，提升完成任务能力”“转变评价方法，充分落实以评促学”四个方面对设计学习任务的方法展开探究。旨在于低年级语文教学中更好地发挥任务的作用，切实培养学生能力和素养，满足新课标的要求。