关键词： 相变   蒙特卡罗方法   XY耦合模型   Ising-XY模型   图神经网络  

摘要： 相变是物质在温度、压力和磁场等外部条件下出现的突然性质变化,相变理论是统计物理领域里一项长期且重要的研究内容。相变广泛存在于经典和量子统计体系,如超冷原子体系中。Ising模型自旋有上下两种取向,XY模型的自旋矢量是可指向平面任意方向的连续变量,两者耦合起来的相图研究十分丰富。将二维Ising模型与二维XY模型结合起来可得到二维XY耦合模型和二维Ising-XY耦合模型,这两个模型中的Ising型相变和XY型相变的发生顺序是物理学者非常感兴趣的问题。本论文采用了可大规模计算的蒙特卡罗方法,包括单自旋翻转的Metropolis算法和多自旋同时翻转的集团演化Wolff算法,研究了这两个模型的相图和相变顺序情况。另外,还引入了颇具前景的图神经网络方法来模拟二维Ising-XY模型。首先,采用蒙特卡罗方法研究二维XY耦合模型的相变情况,固定Ja,通过调整Jb大小改变空间耦合系数;模拟计算不同耦合系数下的物理量,例如能量、磁化强度、比热、Binder累积量和超流密度等。再运用不同尺寸下Binder累积量交点和超流密度与直线Δρs/Tc～2/π的交点分析确定Ising型相变点和XY型相变点的位置。研究发现在空间各向同性、各向异性和各向异性极限三种情况下双层XY模型的XY型和Ising型同时发生相变,即只有一个相变点。另外,还利用超流密度尺寸外推公式由几个小尺寸的相变点外推出尺寸无穷大时该模型对应的XY型相变点,简化了计算难度。其次,采用蒙特卡罗方法研究了二维Ising-XY耦合模型的相变情况,先通过计算比热大致确定相变点,得出了A=B时的AC平面相图。AC平面相图中可观察到在C取值不同时对应的相变个数不同:C=0对应一个相变;C=0.38对应两个相变。所以在A≠B的研究中选取这样两个C值进一步分析,A≠B时借助不同尺寸下Binder累积量的交点和MxyL1/8的交点分别判定Ising型相变和XY型相变的位置,发现在各向同性、各向异性和各向异性极限三种情况下Ising型相变与XY型相变发生的顺序各不相同。从而得出A≠B时Ising-XY耦合模型的AB平面相图,结果表明该相图具有对称性。最后,采用图神经网络方法生成二维Ising-XY模型的构型。Ising-XY模型十分特殊,其Ising变量或者XY变量的相互作用依赖于体系状态发生变化,在某些参数范围下,其热平衡态难以模拟生成。为此,引入了图神经网络方法来模拟和推断Ising-XY构型的概率分布,根据该分布生成自旋构型,无需蒙特卡罗的弛豫过程。实验结果表明,图神经网络具有的强大特性可以有效地模拟从传统蒙特卡洛方法中生成的构型,并且是全新的具有相同物理特性的构型。

关键词： 图嵌入学习   注意力机制   节点分类   链接预测   RBF  

摘要： 图数据类型用于描述个体的自身属性以及与其他个体之间的关系,在生产生活中非常常见,数量和种类也非常丰富。在这个高度信息化的时代,能够快速获得更多信息就能在竞争中占得先机。因此,如何快速、准确的学习图中的信息成为了关注的焦点。随着深度学习的发展,图嵌入学习成为了目前流行的挖掘与利用图数据的方法,但在某些方面还存在一些难点。本文以图数据作为研究对象,分别完成节点和链接两部分的嵌入学习,并分析了一些现存的难点并提出改进方案。 针对基于图注意力机制的节点嵌入学习模型对全局信息的学习能力不足这一问题,提出了一种基于全局注意力的图注意力网络,其中有两项旨在提高模型全局特征学习能力的改进。首先,为了提高全局信息的获取效率,采用K-means算法得到基本图结构,并根据结构重新选择影响范围更广的训练集;其次,设计关系影响特征来表示点集之间的相互作用,并影响节点的局部特征以提高节点的全局信息表达能力。模型在公开数据集上完成了节点分类任务,实验结果表明提出的方法能够提高节点嵌入学习的质量。 针对基于图注意力机制的链接嵌入学习模型易受到样本质量影响的问题,提出了一种基于RBF的图注意力网络,并设计挤压损失函数改进训练策略。该方法包括两项改进。首先,利用带有扩展参数的RBF函数将注意力层输出的节点特征转化为链接特征。利用节点在向量空间中的距离表示节点间存在链接的概率,减少计算存储成本,为优化过程提供更明确的目标。其次,设计挤压损失函数反映样本在训练中的表现。通过损失值的调整缓解样本质量对训练结果的影响,提高模型优化效率。在多个数据集上完成的链路预测任务的结果表明,提出的方法能够提高链接嵌入学习的质量。

关键词： 机器学习   降维   逐步回归   正则化惩罚   Stepwise-Kriging模型  

摘要： Kriging模型是一种最小化均方误差损失的插值模型,由于具有较高的精度和准确性,该模型被广泛应用于具有较高计算成本的工程问题.在处理低维工程问题时,Kriging模型能够展现出较好的近似效果.然而,当处理的问题变得高维、复杂时,Kriging模型的性能显著下降,并且建模所需的时间急剧增加.出现这种情况的原因是高维的数据样本会导致Kriging建模过程相关矩阵和超参数计算的复杂度迅速增长,进而迫使Kriging模型的效率和精度低下,甚至出现建模失败等结果.因此,对高维的Kriging建模进行优化具有重要的理论意义和工程价值.鉴于以上考虑,本文对高维Kriging模型开展了研究,主要研究内容和成果如下:(1)针对高维Kriging建模时间过长和精度偏低等问题,提出了StepwiseKriging模型,有效弥补了高维Kriging方法的缺陷.将Kriging模型和机器学习的降维算法相结合,提出了一种基于逐步回归特征选择的Kriging方法,即Stepwise-Kriging模型.该方法在建立Kriging模型前,按照给定的p值大小,使用逐步回归技术将初始的高维数据进行特征选择,转化为低维数据.问题的关键是如何选取逐步回归过程中的最优p值,本文按照假定的步长进行划分,使用区间内不同的p值建立Stepwise-Kriging模型,并结合交叉验证结果,选择出误差最小的Stepwise-Kriging模型p值,以进行最优模型的建立及后续问题的分析与验证.由于降低了初始样本点的维数,该方法可以显著降低Kriging模型的计算时间.另外,得益于逐步回归可以有效解决多重共线性等问题的性质,在处理冗余变量多和变量共线性程度高的问题时,Stepwise-Kriging模型具有极大的优势.(2)对Stepwise-Kriging模型实施了正则化惩罚,建立了正则化StepwiseKriging模型,从而进一步提高了模型的精度和泛化能力.尽管提出的Stepwise-Kriging模型能够实现降维效果,但由于其本质上是将数据进行简单的降维,并没有改变模型的结构,故其精度和泛化能力有待进一步完善.特别是在处理具有很大的条件数的不适定反问题时,Stepwise-Kriging模型的结果缺乏一定的稳定性.因此,有必要对提出的模型进行合理的优化.考虑到正则化技术能够很好的处理该类问题,从理论上对Stepwise-Kriging模型的损失函数实施了正则化项的惩罚,并重新推导了模型.由于增加的正则化项系数(亦称为惩罚系数)需要使用者定义,于是,惩罚系数的选择也是一个亟需解决的问题.对给定的不同惩罚系数分别建立了Stepwise-Kriging模型,并结合交叉验证的结果确定了最优值.本文提出的Stepwise-Kriging模型和正则化Stepwise-Kriging模型都使用了一些数值函数和工程仿真实例进行了测试.测试结果验证了本文方法的精度和准确性,特别是当数据之间存在强相关性时,使用本文的方法具有显著的优势.

关键词： 深度强化学习   样本效率   稀疏奖励   样本复用   状态表征  

摘要： 深度强化学习作为人工智能领域中一个新兴的关键技术,其通过与环境不断交互的方式让智能体学习到行动策略,有潜力也有能力使无人系统获得复杂动态环境下的智能行为决策能力。然而,目前深度强化学习算法在训练阶段的样本效率较低,往往需要数千万条的交互数据才能训练出有效的策略,这对该技术的实际应用提出了巨大的挑战。因此,如何在有限交互样本下,更加高效地训练深度强化学习策略模型是本文需要解决的核心问题。 针对该核心问题,本文从深度强化学习训练阶段的样本数据探索、样本状态表征和样本复用三个部分展开研究,分析了造成深度强化学习算法样本低效的三个难点问题,并提出了相应的解决方法,以提高深度强化学习算法的样本效率。本文的主要研究内容如下: 1.基于新颖性样本探索策略的深度强化学习方法。研究了稀疏奖励场景下难以探索有效样本的问题。首先,利用内在奖励机制衡量样本的新颖程度,并以此指导智能体的有效探索。其次,提出多重采样机制解耦内在奖励和外在奖励,避免了内在奖励机制造成优化过程不稳定的现象。通过指导智能体探索有效的样本数据,提高了交互样本的质量,进而提高了深度强化学习算法的样本效率。 2.基于样本状态对比表征的深度强化学习方法。研究了高维输入下样本状态表征冗余问题。首先,对高维样本状态进行数据增广,再通过对比学习提取样本状态表征。其次,将正则化Q值网络与对比学习相结合,保证了不同增广形式下决策的不变性。通过这种方式,能够从样本状态中提取出低维且具有区分度的有效表征,使智能体专注于策略的更新,从而提高深度强化学习算法的样本效率。 3.基于优先序列样本回放机制的深度强化学习方法。研究了传统训练范式下样本复用低效问题。首先,设计了合理的复合指标来衡量样本优先级,并根据这个指标进行非均匀采样。其次,观察到序贯决策任务中样本经验间的因果关系,引入了指数衰减策略对每条经验的优先级进行逆向衰减传播。从而更频繁地回放到高优先级的样本数据并提供给策略学习,进而提高了深度强化学习算法的样本效率。 本文的研究内容采用了学术界广泛使用的基准环境(Mu Jo Co机器人环境和Mini Grid迷宫环境)、无人车目标搜索和轨迹跟踪任务的仿真环境和真实环境。并以深度强化学习中的SAC(Soft Actor-Critic)算法为基准,验证了本文所提出方法的正确性和面向实际应用的可推广性。因此,本文对于面向样本高效训练的深度强化学习方法研究及其落地应用具有一定的参考价值。

关键词： 序列推荐   联合学习   跨域推荐   知识图谱   兴趣编辑  

摘要： 近年来,互联网中的数据呈现出爆发式增长态势,用户难以从海量数据中快速找到真正需要的信息。推荐系统作为能够解决这一问题的有效工具,带来了巨大的商业价值。由于用户的交互行为具有天然的时序特征,因此序列推荐作为推荐系统的一个重要分支,成为了信息检索和自然语言处理等领域的研究热点。该任务通过从大规模稀疏的序列交互信息中挖掘出用户隐藏的兴趣,旨在给出下一个用户最有可能与之交互的物品。序列推荐任务的难点是如何得到精准的用户表示和物品表示。当前大多数序列推荐工作是把预测下一个交互物品作为监督信号来训练整个推荐模型。在真实的应用场景中,由于物品规模巨大,用户的交互序列往往存在巨大的稀疏性。同时,用户交互过程中容易受到多种因素的干扰,故具有很高的不确定性。仅仅使用这些稀疏的序列数据和单一的监督信号会给模型的学习带来噪音。联合学习能够对多个任务进行共同学习,同时也能提升不同任务的性能。因此,利用联合学习合理地引入辅助数据并改善现有训练方式能够突破当前任务的瓶颈。本文立足于现实序列推荐场景需求,针对以下三种问题,面向序列推荐的联合学习方法展开研究:(1)针对单一领域数据稀疏的问题,研究基于共享账户的跨域联合学习。提出了一个全新的基于共享账户的跨域序列推荐任务,并针对该任务设计了一种并行信息共享模型,该网络中引入了过滤门机制,可以周期性地在两个域之间提取和共享有用的信息。通过对两个域的序列推荐任务进行联合学习。利用真实世界中智能电视观看日志构建了一个全新数据集并在此之上进行了验证,实验表明提出的方法能够提升不同领域中推荐性能。(2)针对跨域序列推荐场景下可解释性不足的问题,研究基于知识增强的跨域联合学习。提出了一种混合信息流网络,该网络引入了跨域物品间的知识图谱,用于帮助用户兴趣在行为信息流和知识流组成的混合信息流上进行迁移。通过对两个域的序列推荐任务进行联合学习。在真实的电商数据集上进行验证,实验表明该方法提高了不同领域的推荐性能和可解释性。(3)针对训练监督信号单一而无法充分挖掘用户兴趣的问题,研究基于兴趣编辑的联合学习。设计了一种全新的兴趣编辑训练方式来挖掘序列间的监督信号。该训练方式包含兴趣分离操作和兴趣重组操作,用以从序列间分离出共有的和特有的兴趣表示,并将这些序列表示进行重组,以此创造新的训练监督信号。通过对兴趣编辑任务和序列推荐任务进行联合学习。在基准数据集上进行验证,实验表明该模型显著优于最先进的序列推荐方法,为序列推荐任务的训练提供了新的解决思路。

关键词： 空气处理机组   故障诊断   慢特征分析   深度学习   TRNSYS  

摘要： 空气处理机组(AHU)是暖通空调系统中的一个重要子系统,其高效和稳定的运行是维持良好室内舒适度的必要条件。由于外界环境影响,人为不当操作或者AHU自身结构存在的缺陷,可能会引起多种不同类型的故障。当AHU长时间处于故障运行状况时,会降低设备使用寿命,影响室内舒适度,甚至会造成大量的能源浪费。因此,研究一种准确、高效的AHU故障诊断方法是十分有必要的。为此,本文针对AHU时空特性和噪声敏感特性提出了基于深度学习的AHU故障诊断模型,并搭建了TRNSYS仿真平台用于AHU多工况数据采集以及故障诊断模型的性能验证。本文主要创新与贡献如下:(1)为处理AHU的时间动态特性和空间关联特性(时空特性)对故障诊断的影响,提出了一种基于核慢特征分析和深度学习的故障诊断模型(KSFA-VGG)。该模型首先使用核慢特征分析方法(KSFA)从动态数据中提取出缓慢变化的特征,并将其按照缓慢变化程度进行特征排序。随后,将特征提取和特征排序后的数据转换为二维灰度图像,并使用滑动窗口方法进行图像扩充。最后,利用生成的慢特征图像数据集,构建基于视觉几何组(VGG)的图像分类器用于AHU故障诊断。实验结果表明,KSFA特征提取方法可以有效地从动态数据中提取出缓慢变化的特征;数图转换方法可以增强特征变量之间的邻域信息和空间特征;VGG相对于其他分类方法具有更高的故障诊断准确率。(2)为同时处理噪声和AHU时空特性对故障诊断带来的负面影响,提出了基于概率慢特征分析和注意力残差网络的故障诊断模型(PSFA-ARes Net)。首先,使用概率慢特征分析(PSFA)对数据进行特征提取和初步的特征排序。随后,使用改进的数图转换方法,以每个时刻为单位将特征变量重新排列为数字矩阵,并转换为相应的空间灰度图像。最后,在深度残差网络(Res Net)中加入卷积块注意力模块(CBAM),构建基于注意力残差网络(ARes Net)的故障诊断模型。实验结果表明,相对于其他对比方法,所给出的PSFA-ARes Net模型在三种不同噪声等级影响下均具有最佳的故障诊断性能。(3)为获取更丰富的AHU运行数据并对所提出的故障诊断模型进行进一步的性能验证,利用TRNSYS仿真软件搭建了建筑模型和变风量空调系统。首先,设置建筑模型和房间区域的参数。其次,按照变风量空调系统的运行原理选择相应的元器件,并进行正确的线路连接。随后,利用建立好的仿真模型采集变风量空调正常运行数据,并通过修改部分器件参数以模拟故障的发生,进而获取故障运行数据。最后,使用采集的数据验证KSFA-VGG和PSFA-ARes Net模型的故障诊断性能。实验结果表明,KSFA-VGG和PSFA-ARes Net模型在新工作环境中仍具有较好的故障诊断性能。

摘要： 复习课不仅仅是旧知的呈现,更应该是对知识点的整理归纳以及让学生在课堂上的灵活运用。所以高阶思维的复习课堂应该是“思考、发现、定位、应用”的运用。如何在高阶思维复习课中发展学生的语言能力、学习能力和思维品质?本文以译林版六(上)“Unit 5 Signs(Revision)”为例尝试着进行一些探索。本单元的话题为“公共标识”。在教学过程中要紧密联系生活实际,

关键词： 甲醇价格预测   多模态融合   多周期预测   注意力机制   门控循环单元  

摘要： 精准的价格预测是实现工厂智能计划排产的关键,有效的价格预测能帮助决策者提前掌握市场行情,提升盈利水平。伴随着大数据时代的来临和社交网络媒体的发展,数据源呈现出多源异构的特点,以文本为代表的非数值模态数据对价格预测的参考价值不容忽视。然而,由此衍生出的多模态数据融合预测需求对预测模型的准确性和稳定性提出了挑战,传统数理统计模型、机器学习算法难以应对多模态融合预测任务中处理复杂和高维数据的需求。为实现高精度甲醇价格预测,助力焦化企业智能计划排产实施,本文提出一种基于多模态数据融合和深度学习方法的多周期甲醇价格预测方法,简称为MFCGAM-CW模型。该方法首先使用CNN和GRU网络分别对甲醇价格相关的文本和数值特征进行提取;然后,利用注意力机制实现“文本-数值”双模态特征融合,获取融合特征用于最终的预测;同时,在模型训练过程中引入“多周期-多时间窗”思想,利用价格自身存在的周期性规律,实现高精度甲醇价格预测。 本文收集了与甲醇相关的研报、资讯、评论三种不同类型文本,三个真实的数据集实验结果表明:与传统机器学习算法、基础深度学习模型、情感分析方法相比,本文所提基于多模态数据融合和深度学习方法的甲醇价格预测模型(MFCGAM模型)具有最佳预测性能;文本属性和多周期思想的引入能有效提升模型预测精度和稳定性,且不同文本类型和不同周期取值对甲醇价格预测结果有着差异性影响,研报和资讯类文本对预测性能提升效果最好;此外,在利用研报、资讯、评论三类文本开展甲醇价格预测任务时,周期取值和时间窗取值均不宜过长,间隔周期过长的历史数据容易对预测结果造成干扰;最后,通过对注意力权重进行可视化分析,发现天然气、焦炭等上游产品,燃油、汽油等替代产品,以及甲醇进口金额这几类因素对甲醇价格波动影响较大,是甲醇价格预测任务中的关键参考因素。

摘要： “在小小的花园里面挖呀挖呀挖，种小小的种子，开小小的花……”一首简单的叠词儿歌，不仅火遍了各类型的幼儿园，还火遍了成人世界的各个领域。热潮过后，除了留下网络时代的流量，对于学前教育工作者而言，究竟留下了什么？真挖——给予空间,允许试错。教育是通过学习这样一个中介来促进儿童发展的，那么，什么样的学习能够更好地达成儿童发展的目标呢？我想，必须让孩子进行有意义的学习。