关键词： 机器学习   泥石流   易发性评价   域自适应   异质性  

摘要： 泥石流易发性评价是泥石流防治工作中的一个重要环节,合理可靠的评价结果可为相关地区制定科学的防灾减灾方案提供重要依据。得益于遥感技术、地理信息系统、全球定位系统与计算机技术的发展,泥石流易发性评价技术已日趋成熟与完善。机器学习方法具有强大的非线性处理能力及鲁棒性等优势,近年来得到了广泛应用。现有的相关研究大多基于单一研究区域进行建模分析,在实际应用中,仍存在一些难题亟待解决。例如单一研究区域泥石流的样本数量较少时可能出现的少量缺陷数据严重影响模型表现以及样本代表性不足等问题。此外,当研究者面对多个研究区域时,基于单一研究区域建立的模型通常缺乏对其余研究区域的泛化能力,而泥石流易发性评价的目的在于为所有研究区域的用地规划以及防灾减灾工作提供统一的决策依据,对多个研究区域分别进行独立易发性评价还会出现评价标准不一的问题,进而影响最终决策的合理性。本文首先以提升模型性能为目的,选定北京市房山区为实例研究区对泥石流易发性评价过程中的负样本获取策略以及机器学习算法进行优选。随后引入域自适应理论,基于迁移成分分析方法,提取房山区与陇南地区的燕子河流域的共同特征进行联合评价,为机器学习应用于多区域泥石流易发性评价提供理论途径。为了降低样本异质性对模型的影响,本文以四川省北川县为实例研究区,探究无监督聚类方法在解决样本异质性问题中的应用。模型性能的提升、不同研究区域的域自适应与样本异质性问题的解决使得机器学习模型可以被推广至多个研究区域,最终本文结合上述研究成果完成了多区域的泥石流易发性评价。论文的主要工作与成果如下:1.对泥石流易发性评价的发展历程、不同研究区域的域自适应方法以及样本异质性的解决方案进行了系统性回顾,并详细阐明了泥石流易发性评价过程中的数据收集处理方法及模型的建立与评价方法。2.提出了多种泥石流负样本获取策略以提升负样本的可靠性。以房山区为实例研究区,在单网格、多网格与流域单元作为基本样本表征形式的条件下分别基于支持向量机(Support vector machine,SVM)算法、SPY技术与孤立森林(Isolation forest,IF)算法来获取泥石流负样本,并与对应的泥石流正样本相结合形成了9组建模数据集。基于各组数据集分别进行了评价因子分析与建模预测来比较不同负样本获取策略的优势与缺陷。结果表明,基于SVM算法的负样本获取策略较为依赖分类器性能,整体表现较不稳定。基于SPY技术的负样本获取策略对数据集要求较低,且对算法无明显依赖,能够改善多组数据集质量。基于IF算法的负样本获取策略的假设条件与流域单元数据集符合地很好,可被用于提高相应数据集的质量。3.结合不同样本表征形式与负样本获取策略形成的9组数据集,基于SVM、随机森林(Random forest,RF)、梯度提升树(Gradient boosting decision tree,GBDT)以及Stacking算法完成了36组机器学习模型的训练与评价。结果表明,Stacking模型具有较高的预测准确度,但其模型复杂度明显大于其余模型,且训练预测效率较低。RF模型在预测准确度、模型复杂度与训练预测效率三个方面表现较为均衡,是一种易于推广的优质算法。4.引入域自适应理论,采用迁移成分分析方法,提取不同研究区域的共同特征,实现了不同研究区域的联合评价。论文以房山区与燕子河流域为实例研究区,基于迁移成分分析方法将两研究区域的特征矩阵投影至共同的特征空间。选取RF为建模算法,基于两研究区域的样本来共同建立一个统一模型,并与基于单一研究区域样本建立的传统模型进行比较分析。结果表明,统一模型预测准确度虽不及传统模型,但统一模型的建立可有效缓解单一研究区域的样本短缺问题,提高建模效率。另一方面,统一模型的敏感性、特异性、准确率与AUC分别达到了82.2%、79.6%、80.6%与0.84,该模型表现仍是令人满意的。5.提出了基于无监督聚类方法的泥石流样本异质性的解决方案。论文以北川县为实例研究区,优选出模糊C均值聚类算法将研究区样本划分为4类。对各类数据集进行了评价因子分析并建立了个性化模型,并与基于总数据集获取的评价因子及全局模型进行了对比。结果表明,相同的评价因子在各类数据集中能发挥的预测能力具有较大差异,展现出该区域泥石流样本较强的异质性。另一方面,大部分评价因子在各类数据集中预测能力强于总数据集,最终个性化模型的总体表现也优于全局模型。因此,模糊C均值聚类算法在样本异质性问题的解决中具有良好的应用前景。6.进行了多区域的泥石流易发性评价。以流域单元为样本表征形式,基于迁移成分分析方法提取了3个研究区域的共同特征。将3个研究区域视作一个整体,基于模糊C均值聚类算法对所有样本统一进行类型划分以降低泥石流样本的异质性对模型的影响。基于各个类型中的样本分别进行共同特征分析并建

关键词： 采空区   机器学习   集成学习   主成分分析   概率神经网络  

摘要： 近年来,随着矿山的不断开采,遗留下来了大量的采空区,给矿山的安全带来了极大的隐患,因此对于采空区危险性辨识的研究已经成为矿山安全治理的重点与关键。本文以近年来广泛应用于解决土木工程中非线性问题的机器学习算法作为采空区危险性辨识的核心算法,构建了基于机器学习算法的采空区危险性辨识模型,通过具体工程实例研究分析得到的主要研究成果及结论如下: (1)通过采空区现场调研和实地勘察,确定影响华东地区某矿山采空区危险性辨识的9项主要因素,并构建采空区危险性辨识的数据集,介绍并构建出10种机器学习监督学习算法模型,提出在模型建立过程中依次减少单个特征来构建10个不同的数据集,从特征组合的角度对数据集进行优化并提升模型性能。 (2)通过不同数据集上多方面的模型性能评估系统性的探究出相对较优的算法、性能较优的数据集,其中确定了数据集D-4为相对最优的数据集,得出集成学习算法的性能普遍上优于基础机器学习算法性能的结论,得到的4种性能相对较优的算法分别是Cat Boost、RF、XGBoost和LGBoost,且Cat Boost是性能相对最优的算法。 (3)基于主成分分析和概率神经网络理论,引入PCA-PNN算法来作为补充性算法,从降维和神经网络的角度对采空区危险性辨识问题进行分析,将PCA-PNN算法应用于采空区数据集上,通过与三种机器学习算法的辨识结果进行对比分析,证实了PCA-PNN算法的有效性,使其作为采空区危险性辨识综合性方法的有效补充。 (4)根据集成学习算法原理和KNN算法分类决策规则的研究思路,根据Cat Boost、RF、XGBoost和LGBoost的预测结果,结合补充性算法PCA-PNN的预测结果,形成综合性方法来投票决策出最终的预测结果,得出综合性方法的预测排名为并列第一,且相较于单一的算法而言,其预测结果更为可靠,并对后续危险等级较高的采空区进行简要的变形与位移分析,便于后续的采空区治理建议方案、采空区回收方案等的制定工作。

关键词： 在线学习   混合数据流   高斯   半监督分类   深度字符树  

摘要： 随着科学技术的迅猛发展,数据规模已经从拍字节Peta Byte(PB)逐渐步入尧字节Yotta Byte(YB)时代。如何有效组织和处理海量数据,如何从海量数据中抽取出有用的信息和知识,为未来行为做预测,是数据分析处理的关键问题。显而易见,人类日常生活已然离不开数据的交互,如社交平台,娱乐方式,资金交易等,这些行为不仅涉及到大量的参与者,也导致数据会以混合数据流的方式不断的生成。本文针对上述挑战问题,首先采用高斯模型构建多变量间的关联,研究如何在各个不同变量间建立联系;其次,结合数据空间的几何分布结构思想,研究如何学习混合数据下的节点分布空间;最后,考虑混合数据空间所存在的异常性,研究基于非深度结构化模型,找到影响模型性能的扰动样本点。本文的主要研究内容及创新成果包括:(1)基于高斯关联Guassian Copula(GC)模型及隐特征空间分析,构建了一种针对混合数据流的缺失数据处理模型及潜在特征学习,实现了混合缺失特征数据的表征学习。针对如何有效的填充缺失特征及表达混合数据流的学习问题,本文采用多变量特征分布概率关联的处理方式,首先采用一种基于GC的多变量分布学习模型,建立缺失观测空间与潜在连续空间的关联关系,通过变量空间的映射从而实现缺失变量的填充;其次通过不同变量空间自适应权重模型,建立不同空间下数据表征学习的集成模型。(2)基于自训练标记半监督分类模型,有效克服了盲目自训练、局部最优解、无法处理非凸分布数据和错误标记等问题,解决了在线混合数据流下标签少的问题。针对在线数据流中完整标签收集时间长、成本高等问题,研究了基于局部密度峰值模型,该模型能学习混合数据流中的节点间的几何结构,通过计算不同节点的距离及密度值,构建不同类别的簇,从而为缺失标签构建相应的伪标签。(3)提出了一种基于深度字符树的扰动样本点分析模型,有效的解决了扰动因子对模型的影响、并给予解释扰动因子对模型所产生的影响。首先,通过半参数化的深度层级化结构树模型,构建具备有深度网络模型相当的学习能力,同时又具备深度网络模型所不拥有的模型抵御能力。其次,针对当前在线扰动防御模型的不可解释性,深度层级化结构具备有清晰的推理路径,能达到像素级的扰动因子解释。

关键词： 图表示学习   图神经网络   图对比学习   课程学习   聚类  

摘要： 图对比学习方法是一种自监督学习算法,应用于图数据中。这些方法首先对输入图进行随机增强,以获得两个视图,然后最大化两个视图中之间的一致性,来训练图编码器(GNN)。训练好的编码器可以用来处理大量的无标注图数据。然而,现有方法在构建对比损失时,忽视了图中少量而关键的信息,这些信息对节点或图的性质具有显著影响。同时,现有方法还存在正负样本选取不够合理的问题。本文针对节点分类和图分类两个场景中,现有对比学习方法存在上述不足,提出两个改进的对比学习方法,总结如下: 在节点分类场景中,现有的对比学习方法在优化对比损失时,可能存在三个问题,分别是:无法有效地捕获决定节点类别的关键性信息、正样本选取过于严格、出现伪负样本。现有方法通常在多个视图中,为一个节点生成多个表示,并将这些表示作为正样本对。在某些场景下,这种定义可能过于严格,而且会忽略节点与图中关键部分所共享的信息。来自关键节点及其附近子图的信息,对节点类别有显著的影响。识别出这种关键信息,能够提高节点分类任务的准确性。然而,现有方法无法有效地捕获这种信息。针对这些问题,我们提出一种基于聚类的子图-节点级对比学习方法(CSN)。首先,方法引入关键子图的概念,利用关键子图捕捉图中的关键信息,并将关键子图与节点视为实例来构建对比损失,使得节点能够包含更多的关键信息。其次,方法进一步探索了节点级正负样本的选择过程,并对正样本的概念进行了泛化,将正样本的选择从一对一的方式,扩展到一对多的方式。方法还引入聚类模块,利用伪标签指导正负样本的选择过程,为每个关键子图分配多个正样本实例,改进了正样本过于严格和伪负样本的问题。最后,通过节点分类和节点聚类等实验,验证了CSN在多种数据集上的性能。 在图分类场景中,现有方法可能存在正样本实例之间相似度较低、图中关键部分的特征和结构信息较少融入到图的表示中、缺乏样本的学习顺序的问题。针对这些问题,本文提出一种课程学习式的子图-子图级对比学习方法(SGCC)。首先,利用聚类得到的伪标签,并结合样本间距离,选择正样本对,从而提高正样本之间的相似度,细化正样本的构建方式,解决正样本相似度低的问题。其次,通过采样出多个关键子图,并将这些关键子图与原始图作为固定的正样本对,使图的表示中融合多角度、多方面的关键部分信息。此外,方法还引入图扩散模块,采样结构更丰富的随机子图。将关键子图与随机子图作为实例构建正负样本对,最大化各个子图之间的差异性,促进模型去学习更具有信息量的特征。最后,方法还引入了课程学习模块规划样本的学习顺序,由易到难逐步优化损失函数,增加学习曲线的平滑性。同时,方法利用Memory Bank控制正负样本的数量,提高子图利用效率。实验结果表明,SGCC在图分类等任务中相对于基线模型有明显的性能提升。

关键词： 机械钻速   深度学习   神经网络   模型优化  

摘要： 机械钻速一直是衡量钻井活动效率和成本的重要指标。多年来,国内外学者使用多种方法建立机械钻速预测模型,但是这些模型普遍依托传统统计学和数学方法使得这些模型通常具有数据使用量不足,未考虑到影响机械钻速参数之间的互相影响,机械钻速预测准确率低等特点。随着近些年人工智能以及深度学习的发展,钻井从业人员开始尝试使用深度学习中的神经网络来建立机械钻速预测模型并规避传统机械钻速预测模型的弊端,这也使得机械钻速预测模型从传统的经验驱动转变为现在的数据驱动。本文正是基于这一发展趋势,提出基于深度学习方法的钻速实时预测研究。论文首先收集实时钻井数据并对数据进行预处理包括数据清洗,数据归一化以及数据相关性分析并选取建立机械钻速预测模型的参数。其次,对深度学习中的深度神经网络,循环神经网络以及卷积神经网络建立机械钻速预测模型方法进行可行性分析,再设置神经网络的参数与超参数并建立机械钻速预测模型。然后,为了提高三种神经网络模型的鲁棒性和泛用性,对深度神经网络机械钻速预测模型使用结构优化机制,对循环神经网络机械钻速预测模型添加注意力机制,对卷积神经网络机械钻速预测模型使用持续学习架构。最后,以三种机械钻速训练模型为基础,建立基于深度学习方法的钻速实时预测系统。研究结果表明,三种神经网络所建立的机械钻速预测模型均具有较高的准确率。本文所研究的机械钻速精确预测模型可以进一步应用于规划阶段和实时操作优化。

关键词： 智能车辆   车辆换道   换道风险预测   换道轨迹预测   机器学习  

摘要： 驾驶员技术、驾驶习惯、心理状态以及交通安全意识等直接关系到车辆换道的安全性,是导致交通事故的主要原因。智能车辆具有多个高性能传感器和智能控制系统,能有效降低车辆换道风险,但换道风险与换道轨迹预测方法复杂、预测精度和预测时效性难以满足车辆高速行驶工况要求。为此,本文开展了相关研究,主要内容如下:首先,选取NGSIM轨迹数据集中的I-80公路作为研究对象,并采用对称指数移动平均法(Symmetric Exponential Moving Average,SEMA)对该数据集进行预处理,从而为后续的模型训练与验证奠定基础。根据数据集的特征,以车辆在主干道上发生自由换道行为进行了分析。其次,根据车辆换道过程分析,总结出车辆之间发生碰撞的四种情形,选取车辆换道过程中的车头时距(Time Headway,THW)作为换道风险指标;为了保证数据集的有效性,对数据集进行二次筛选,同时采用皮尔逊相关系数法对所选择的七种换道风险特征参数进行相关性研究;利用上述七种换道风险特征参数建立XGBoost换道风险预测模型,同时,针对模型训练需求,对数据集进行划分以及归一化处理。研究结果表明,XGBoost换道风险预测模型具有较好的换道风险指标预测性能,其预测结果的均方根误差为0.2804,且模型的预测精度和训练速度均优于随机森林(Random Forest)算法,所采用的七特征参数预测模型的预测效果也比两特征参数预测模型的预测性能更好。最后,结合卷积神经网络(Convolutional Neural Network,CNN)和长短期记忆神经网络(Long Short-Term Memory Network,LSTM),建立了CNN-LSTM换道轨迹预测模型,同时对车辆轨迹序列预测数据进行提取,比较并分析不同时间步长输入对模型预测结果的影响,并与LSTM换道轨迹预测模型进行比较;研究结果表明,CNN-LSTM换道轨迹预测模型所采用的单时间步长输入、五时间步长输入和十时间步长输入均能完成预测任务,其RMSE值分别为0.3537、0.2479和0.0584,且发现历史轨迹序列输入越多,预测精度越高;建立的CNN-LSTM模型的预测精度高于LSTM换道轨迹预测模型。

关键词： 钢琴伴奏   正谱伴奏   内在逻辑   规律性  

摘要： 探讨钢琴艺术实践时，必须关注正谱伴奏的规律，这对演奏者音乐素养和表现力的提升至关重要。正谱伴奏是作曲家为歌曲创作的伴奏曲谱，与声乐作品的融合度高，因此，学习正谱伴奏需遵循音乐的内在逻辑和规律。文章将分析学习正谱钢琴伴奏的意义与正谱钢琴伴奏的规律，以帮助伴奏学习者提升学习效率。

关键词： 探究性学习方法   初中英语阅读教学   有效应用  

摘要： 本文主要探讨探究性学习方法在初中英语阅读教学中的有效应用。首先分析了阅读在英语学习中的重要性和当前初中英语阅读教学存在的问题。然后阐述了探究性学习方法的定义和特点，并提供了探究性学习方法在初中英语阅读教学中的应用实例。最后，总结了探究性学习方法在初中英语阅读教学中的有效应用策略，包括激发学生学习兴趣、设计具有挑战性的问题、提供适当的支持和指导以及鼓励学生合作探究。本文旨在为初中英语教师提供有效的教学策略，以提高学生的阅读能力和英语水平。

关键词： 图神经网络   图表示学习   对比学习   特征白化   半监督学习  

摘要： 图结构数据已经出现在广泛的研究领域和应用领域,不同于文本和图像,图结构数据的固有复杂性(即非欧几里得空间)给机器学习带来了前所未有的挑战。近年来图神经网络展示了强大的能力,被广泛应用于各种图数据任务。虽然GNN在各种任务上表现良好,但由于过平滑原因,大多数现有的GNN模型都很浅,只能访问2跳或3跳范围内的邻居。因此,只有标记节点及其相邻节点有效地参与模型优化过程,而忽略了大量未标记节点中的丰富信息。为了充分利用未标记节点的信息,作为一种有效的自监督学习方法,对比学习技术被广泛应用于图数据挖掘领域。对比学习的关键思想是鼓励相似数据对的表示距离接近,不相似的样本对的表示距离被推开。因为无法访问所有数据样本的真实标签,所以对于给定数据点,其对应的正样本通常由该样本通过数据增强技术得到,数据集中的其他数据点通常用作该样本的负样本。节点级图对比学习方法基本采用这种方式,但这导致了两个主要问题,首先在对比学习过程中利用图的所有节点可能会使成本非常昂贵,特别是对于大型图。其次许多与中心样本具有相同标签的节点被当作负样本,接着对比学习会将具有相同标签的节点(相似节点)分开,这将会导致较差的性能。为了解决这些问题,首先本文探索了在图对比学习过程中只采样部分节点的可行性。与以往的图对比方法不同,本文在对比学习中使用联合训练分类损失来尽可能多地利用监督信号。此外,本文提出了一种负样本选择策略,利用分类预测来指导采样节点的负样本的选择。然后,本文进一步结合该策略对图进行对比学习,并提出了一个名为具有负样本选择策略的图对比学习的框架。然后本文又提出了基于特征分组白化的图对比学习方法,该方法通过保证“增强样本”之间的一致性来实现对齐性,但在对比学习过程无需负样本的参与,而是通过白化操作保证样本之间的均匀性。因为白化对样本有“特征发散”效应,避免了所有样本的表示坍缩到一个点,即维度崩塌。本文证明了与当前的图对比学习方法相比,本文提出的两种图对比学习方法可以用更少的计算内存快速训练,并且它们可以在许多数据集的节点分类任务上展示优越的性能。