关键词： 深度学习   遥感监测   NDVI   植被分类   景观格局  

摘要： 植被作为生态环境中较为敏感的指示器,对于生态环境的保护和建设意义重大。遥感影像包含丰富的地物信息,利用遥感技术可以进行较大范围的植被监测。虽然目前深度学习方法已被广泛应用于遥感植被提取,但是在植被多分类提取精度较低。除此之外,当前植被多分类提取大多利用遥感影像原始波段信息,高分辨率遥感影像由于波段信息较少而难以有效区分各类型植被。针对以上问题,本文提出一种遥感影像原始波段与NDVI相结合的深度学习方法,并利用该方法对包河区内大圩镇、骆岗街道、望湖街道、烟墩街道和滨湖世纪社区进行植被多时序变化分析。本文的主要研究如下: (1)本文基于遥感影像原始波段及其植被指数,利用深度学习方法对研究区内的农作物、草地、乔灌木、水生植物四种植被类型进行分类提取。其中农作物包括旱地作物和水田作物;草地包括人工草地和荒草地;乔灌木包括乔木和灌木;水生植物包括浮水植物和挺水植物。在经过实地调查后确定GF-2遥感影像中各植被类型的解译标志,并利用遥感影像原始波段数据、植被指数数据以及对应的目视解译结果构建样本库,用于深度学习模型训练。 (2)提出用于植被分类的深度学习方法。该方法在数据上结合合遥感影像原始波段及其植被指数。网络上采用四条子网并行连接的结构,从第一支子网到最后一支子网,特征图分辨率依次高到低,本文采用多分辨率特征融合的方式,用以最大程度地保留各种分辨率特征,引入密集连接模块,以达到提升梯度反向传播的目的,最后加入空洞空间金字塔池化模块,扩大感受野,得到多尺度信息,有效提高分类精度。 (3)本文首先利用GF-2遥感影像的原始波段进行训练和测试,再将GF-2遥感影像的原始波段分别与NDVI(Normalized Vegetation Index)、DVI(Difference Vegetation Index)、RVI(Ratio Vegetation Index)三种植被指数组合作进行模型训练和测试,证明了GF-2遥感影像原始波段与NDVI的数据组合对植被分类提取的优越性。再将本文提出的深度学习方法与Deeplab-V3+、Bise Net、DCCN三种深度学习模型的分类精度做对比,本文方法在OA(overall accuracy)、F1(F1-Score)、IOU(Intersection over-Union)的平均精度分别为94.04%、86.79%和75.03%,高于对比的三种深度学习方法,证明了本文方法的有效性。 (4)利用本文方法对2014年、2015年、2019年和2020年研究区遥感影像进行植被变化分析。利用NDVI数据分别对四年的遥感影像进行植被覆盖计算,并进行等级划分,分析相邻年份间的植被变化。结果表明:研究区整体植被整体覆盖度从2014年到2015年有所降低,在2015到2019年以及2019年到2020年这两个时间段内处于增长状态。其中植被覆盖度等级变化最大为义城街道西部、中部及南部,骆岗街道中部以及烟墩街道中部,变化最小为滨湖世纪社区、大圩镇。除此之外,本文选取了斑块数(NP)、平均斑块面积((?))、边界密度(ED)、聚集度指数(CONTAG)这四种景观格局评价指标对包河区四种植被类型进行景观格局变化分析。通过分析可知,2014-2020年期间研究区植被景观整体核心斑块分散度较高,农作物和乔灌木指标变化较大,斑块和景观稳定性较差;草地和水生植物指标变化相对较小,较为稳定。

关键词： 井震数据融合   机器学习   钻井提效  

摘要： 安全、高效的钻井作业离不开对目标地层的钻前认识。对于待钻地层,通常以附近已钻井的测井、录井等数据资料为支撑,运用地质统计法建立的地质模型进行表征。除测井、录井等数据外,地震数据中同样蕴含着丰富的地层信息,且覆盖范围广。然而地震资料存在分辨率较低、处理过程较为复杂、处理结果受人为主观因素影响较大等问题。为了充分挖掘地震数据所含信息,提升对待钻地层的认知,本文提出一种基于机器学习技术的井震数据融合方法,通过构建地震数据与测井数据的关系模型,实现对待钻地层未知点的描述,进而指导钻井设计。本文首先对地震资料与测井资料的数据特点以及机器学习算法的基本原理进行研究,分析得出机器学习方法对井震数据特征描述的适应性较强,且受人为因素影响较低,能够建立井震数据关系模型;再通过对井震数据的提取和优选,将5项地震属性作为输入特征,12项测井解释数据作为输出特征,分别构建了3种机器学习预测模型(BP神经网络、XGBoost、多层感知机),针对12项输出特征进行训练、测试以及结果对比;最后基于预测结果,指导钻井液的设计和钻头的选型,实现钻井提效。结果表明,基于机器学习方法建立的井震数据关系模型整体预测效果较好,其中多层感知机建立的预测模型输出结果拟合优度最高,9项参数拟合优度超过0.9,其余3项超过0.8。通过计算钻井液安全密度窗口,确定钻井液密度的合理范围,计算结果与工程实际相符;同时,根据储层孔隙度、泥质含量、脆性矿物含量等测井参数的预测值,为钻头的选型提供了一定参考依据。本文的研究内容对地质工程一体化的发展具有一定贡献意义。

关键词： 模拟电路   故障诊断   特征提取   1D-CNN   1D-CLSTM  

摘要： 人工智能、大数据等技术的飞速发展,使得电子系统的复杂度呈指数型增长,电路健康状态检测成为系统安全运行和合理维护的根本保障。由于元件的容差特性,模拟电路容易发生软故障,给系统健康检测带来很大的挑战。因此,开发高效的模拟电路故障诊断技术成为电子系统健康检测的必然选择。传统的故障诊断方法主要基于机器学习算法,该方法需要手动提取特征,且难以获得电路信号的深层特征信息。深度学习算法具有自动完成特征提取与分类的独特优势,本文将深度学习算法引入模拟电路故障诊断技术,探索基于深度学习的故障诊断方法,在单故障诊断的基础上,研究了双故障状态的诊断效果,进一步提高故障诊断效率。本文以模拟电路故障为研究对象,结合深度学习算法对模拟故障诊断进行研究,主要研究内容如下:1.针对基于机器学习算法的故障诊断方法严重依赖特征提取技术和双故障诊断准确率低的问题,提出一种基于Adam梯度优化的一维卷积神经网络(OneDimensional Convolutional Neural Network,1D-CNN)故障诊断方法,该方法在模拟电路故障诊断中的优势有:(1)卷积层自动提取数据特征,(2)批归一化算法解决网络内部协变量偏移问题,(3)96个大小为1的卷积核替代全连接层进行特征全局处理,(4)Adam梯度优化算法提高损失函数收敛速度,以上四点优势提高了诊断方法的学习效率和故障识别能力。基于以上优势,本文选取Sallen-Key带通滤波电路进行蒙特卡洛仿真,建立9种单故障数据集和24种双故障数据集,对提出的诊断方法进行测试和分析,单故障诊断准确率达到99.44%,双故障诊断准确率可达97.22%。测试结果表明1D-CNN诊断方法训练时间短、诊断效率高。但是1D-CNN无法获取故障信号的时间信息且双故障诊断率较低。2.为解决上述一维卷积网络方法不能获取故障信号时间信息和双故障诊断率较低的问题,研究并提出一种一维卷积长短期记忆(One-Dimensional Convolutional Long Short-Term Memory,1D-CLSTM)神经网络故障诊断方法,该方法利用1DCNN提取特征提高学习效率,利用LSTM获取时间信息并进一步提取隐藏特征信息。最后利用Sallen-Key电路数据集进行验证分析,新模型在单故障数据集上诊断准确率可达99.63%,在双故障数据集上准确率可达98.56%。验证结果表明,1D-CLSTM能够更好地获取故障信号的隐藏特征信息,双故障诊断率高于1D-CNN。

关键词： 要素禀赋   产业结构升级   机器学习   LightGBM   SHAP值  

摘要： 要素禀赋存在着天然的分布差异,而产业结构内生于要素禀赋,从要素禀赋的角度探讨产业结构升级路径对于中国高质量经济发展具有重要的理论与现实意义。本文首先构建经济理论模型,进而使用基于机器学习的计量经济学新方法,在传统线性模型判定要素禀赋影响方向的基础上,深入研究了要素禀赋对产业结构升级的要素禀赋重要度排序以及其影响路径,并针对实证研究结果提出了政策建议。首先,本文构建了基于要素禀赋约束的产业结构优化理论模型并对本文核心解释要素进行了理论分析,其主要有以下四方面工作和结论:（1）构建了多要素禀赋三产业方程组,并构建了基于向量夹角的产业结构升级指标。（2）基于上述方程组及产业结构升级指标,推导得到了资本-劳动两要素三产业下要素禀赋对产业结构升级影响的解析解,借助解析解说明了资本-劳动要素流动对产业结构升级的作用。（3）推导了资本-劳动-制度三要素三产业下要素禀赋对产业结构升级影响的理论公式,说明了在多要素情况下,要素禀赋对产业结构升级的影响是高度非线性的,且难以从理论模型观察到单个要素禀赋的变化会如何影响产业结构的升级。以上工作借助理论模型说明了多要素禀赋对我国产业结构升级的影响应是高度复杂、非线性的,为本文采用非线性的机器学习模型研究要素禀赋对我国产业结构升级的影响提供了理论基础。（4）结合我国国情对人力资本要素、物质资本要素、数据要素、政府科教支出要素和金融要素进行了理论分析,并提出了理论假设。而后,本文构建了我国2004年至2019年城市级的要素禀赋指标体系,并构建了产业结构升级代理指标,并采用机器学习的新视角进行建模和分析。其主要有以下四方面的工作和结论:（1）通过比较机器学习的决策树类模型发现Light GBM模型对本文数据的拟合表现最优,调整后R2达到了0.782。（2）通过机器学习模型Light GBM实证建模并通过SHAP值、稳定性选择法和线性计量模型进行多步稳健性检验后,实证发现金融要素的对我国产业结构升级解释力度是18.60%,对我国的产业结构升级的解读力度在核心解释要素中最高。劳动要素、政府要素、数据要素和物质资本要素的要素解释力度占比为4.99%、3.09%、2.91%和2.06%。（3）通过机器学习SHAP值法分析了本文核心解释要素的影响路径,发现了金融要素、政府要素的影响斜率是先增大而后逐渐收敛;劳动要素、物质资本要素整体是一个线性上升的影响趋势;数据要素存在着倒“U”型的影响路径。最后,依据实证结果提出了本文的政策建议,主要有以下五方面:（1）金融要素匮乏的地级市可以重点加大金融要素的投入,其早期投入会有较高的边际效益。（2）对于劳动要素,地级市普通高校人数突破约60000人时该要素边际效用存在着一个明显的跃升,应保证人力要素突破此阈值。（3）对于政府要素,科教支出占GDP比重低于4%的地级市政府应加大此方面的投入。（4）对于数据要素中人工智能要素,倒“U”型影响路径下地级市政府不应无限制地加大该要素的投入。（5）对于物质资本要素,其整体来说是一个线性上升的影响路径,地级市政府可以持续地投入。

关键词： 生命意义感   初中生   团体辅导   学习动机  

摘要： 初中阶段对于中学生而言有着非常重要的意义,在初中阶段学生的身心发展速度相对较快。在这个过程中学生需要受到正确的引导,同时加深对于生命意义的理解力。在日常学习和生活之中,对生命意义的理解往往能够转化为积极的动能,增强学生对学习和生活的兴趣。同时在学业成绩以及学习表现上,有显著提升。本研究以石家庄某初中学生为研究主体,深入分析学生的生命意义感、自我接纳与学习动机的影响及其关系。同时运用团体辅导的模式,对学生进行针对性辅导,通过直接干预的方式,让学生更加深入的了解生命意义的真实内核,为帮助学生建立学习动机和学习意愿提供依据。本研究共包含两个部分。研究一,采用“生命意义感量表”“学习动机量表”以及“自我接纳量表”对石家庄某中学学生进行施测,了解初中学生的具体情况,明确初中生自我接纳,生命意义感以及学习动机之间的内在联系。研究二,通过对照实验的方式设置分组,针对该中学的24名初中生进行分组,并按照随机的方法分为两组,实验组12人,对照组12人。对照组采用常规干预模式,实验组采用团体辅导模式进行直接干预,每周一次,共8次。通过影响实验组生命意义感,提高学生自我接纳水平,进而提升学生的学习主动性。在干预行为结束之后,采用对照的方式,明确干预的实际效果。研究结论为:(1)中学生生命意义感和自我接纳会显著影响其学习动机;(2)自我接纳在生命意义感和学习动机之间的中介效果尤其显著;(3)在团体辅导中引入生命意义的辅导内容,可以有效提升学生的学习动机和主观积极性。(4)通过团体辅导的模式对初中生进行直接引导,带来的实际影响具有一定的可持续性。

关键词： 复杂对象   多示例多标记学习   图卷积网络   异质网络表示学习   协同矩阵分解  

摘要： 多示例多标记学习(Multi-Instance Multi-Label Learning,MIML)是最近几年以来在机器学习领域比较热门的研究方向之一,多示例多标记学习算法已经被广泛应用于多媒体数据挖掘和生物信息学等领域,传统的监督学习算法可看作是多示例学习或者是多标记学习算法中的特例。进一步地,传统监督学习算法、多标记学习算法和多示例学习算法都可以视为多示例多标记学习框架中的特例。MIML框架通过建模由多个示例所构成复杂对象(包)的特征信息,这里的包或者示例被多个语义标签所标记,进而学习包、示例和标记三者的关系。尽管多示例多标记学习算法在很多领域取得了不错的效果,但由于特征表示能力有限,出现了性能瓶颈。如对于描述同一个对象的文本信息和图像信息,多示例多标记学习因为不能直接利用异质信息而造成信息缺失。 多示例多标记学习方法在设计模型时忽略了以下几个挑战:(1)目前的多示例多标记学习方法仅仅考虑了单种类型对象,不能直接对多类型对象直接建模。但多种类型的对象之间的相互联系是不可忽略的,因为这些联系里面可能包含了有用的信息,即复杂对象的标签不仅取决于其自身的属性,还可能取决于与其他类型的对象的连接信息。(2)虽然引入多类型对象可能能够提高包或者示例对象的表示能力,但存在的噪声也可能带来负面影响。(3)不同类型对象对包类型对象有着不同的重要程度,如何区分不同的权重从而提高包或者示例的表示值得去探索。(4)复杂对象的特征表示为浅层信息,且邻居节点的关系得不到充分挖掘。 针对上述提出的不足之处,本文基于异质信息网络建模的思路,利用异质信息以提高包和示例的特征信息表示。本文主要围绕多示例多标记学习框架,并结合矩阵分解、图卷积和网络表示学习等技术对复杂对象所组成异质多示例网络进行建模,提出两个有效算法,本文的主要贡献包括: (1)针对现有的多示例多标记学习框架不能直接利用异质信息的问题,本文提出的基于协同矩阵分解的异质多示例多标记学习算法(Multi-Typed Objects Multi-View Multi-Instance Multi-Label Learning via Joint Matrix Factorization,简称M4L-JMF)不仅把多示例多标记学习框架扩展到利用多类型信息场景,还提出了一种可行的方法对复杂场景下的包对象进行建模学习,充分挖掘了其他类型对象与包的关联信息。具体地说,M4L-JMF首先利用矩阵分解技术获取到多个关系矩阵的低秩表示,在通过协同在异质信息网络中对象的低秩表示进行学习,然后在通过目标方程不断优化它们,通过集成项不仅使包层标记和示例层标记得到统一,还让包层的标记去指导示例层标记,本文还通过分别增加权重矩阵来区别对待同种类型对象和不同类型对象的权重。在Lnc RNA和Isoform数据集上的实验结果表明,M4L-JMF算法不仅能够有效融合其他类型对象信息以帮助提高包的特征表示,并且与多个对比方法相比较,本文提出的方法精度更高。 (2)针对目前大多数的多示例多标记学习算法只能学习到有限的线性表示,且只能学习到较为低阶的关系,导致了包或者示例表示信息能力有限的问题,本文提出了一种基于异质信息网络嵌入的方法(Deep Multi-Type Objects Multi-View Multi-Instance Multi-Label Learning,简称Deep M4L)对包、示例、其他类型对象和标记进行有效融合。网络嵌入技术不仅可以融合多类型对象信息,并且可以学习连接节点的特征表示。Deep M4L首先构建属性异质网络去编码不同节点的类内和类间关系,然后通过使用示例嵌入网络层去学习包或者示例的复杂非线性表示。接着为了让示例层和包层在跨视图上的标记一致,Deep M4L利用多示例池化层能够自然产生包层标记。最后,通过目标方程去融合包层和示例层的标记信息并迫使它们在标记空间中一致。Deep M4L在多个公开数据集上的实验结果表明,无论是在包层的预测效果,还是在示例层上的预测效果,本文提出的方法与多个流行的方法相比较,Deep M4L能够有效地学习复杂对象的特征表示,进而提高了分类的精度。

摘要： 我们党的干部应该重视理论工作。今天，党需要你们去做研究理论的工作，并且决定给你们一些实际问题去研究处理，看是否能运用已学得的理论，这对你们是很好的。一般来讲，你们学习较长的时间后，能够学到一些理论知识，将来出去工作，就可以运用掌握了的马列主义理论去观察、解释、处理实际问题。运用理论观察、解释、处理实际问题，这就是目的。为了达到这个目的，就需要你们学习许多东西，学习马列主义基本知识，学习毛泽东著作和其他一些知识。

关键词： 网络表示学习   时间属性值   霍克斯点过程   三元闭合   元路径  

摘要： 网络表示学习是通过机器学习方法将高维稀疏数据转换为低维稠密数据,现有的工作主要集中在静态网络和动态同质网络。然而绝大部分网络属于动态异质网络。随着时间推移,网络中节点和边的增加或删除会导致网络的拓扑结构和语义发生变化。目前,大多数动态异质网络表示学习方法使用快照对动态异质网络定义,其前提是需要确保相邻两个时刻的子网络的平滑演化。但是,在一些真实网络中,子网络的节点和边存在巨大差异,基于快照的划分方式将导致空间子图之间的相关性变低。针对上述问题,本文提出了基于时间属性值的动态异质网络表示学习方法。首先将时间作为边属性值保留在网络中,然后从网络演化规律出发,利用元路径和带注意力机制的双向门控循环单元来学习网络语义信息和动态性。考虑到上述方法利用元路径不能完全提取网络中语义信息,并忽视了网络演化的驱动力,本文又从网络动力学角度出发,利用霍克斯点过程和三元闭合过程来模拟网络演化,利用多粒度思想来学习网络异质性。主要研究内容如下: (1)提出了一种基于元路径的动态异质网络表示学习方法。首先,将节点的邻域结构按照时间划分出不同的子空间结构,并为每个节点采样出所有时间加权元路径的序列,再通过门控循环单元将节点的全部时间加权元路径序列上的邻域信息进行集成,最后利用带注意力机制的双向门控循环单元对融合后的节点序列进行时空上下文信息学习,获得每个节点的最终表示向量。 (2)提出了一种结合霍克斯点过程的动态异质网络表示学习方法。将动态异质网络中的边抽象为事件,利用霍克斯点过程去模拟历史事件对现在事件发生的自激发作用,并且融合了三元闭合过程,很好地模拟了外部结构事件对事件发生的外激发作用。利用多粒度思想来融合事件邻域结构作用,捕获了网络的异质性。 通过在真实数据集上的实验表明,在节点分类,聚类等下游任务测试中均有较大提高,尤其在聚类任务上,ARI值提高了3.2%～14.49%。同时验证了本文模型能够有效捕获网络动态演化规律,以及元路径类型和数量对网络性能的影响。

关键词： 细胞核分割   自监督学习   对比学习   医学图像分割   长距离特征交互   风格迁移   生成对抗网络  

摘要： 病理学检查是疾病诊断的金标准,细胞核的形状、大小、数量等是其中重要的考量因素。因此,细胞核自动分割在临床辅助诊断和医学研究中都有着十分重要的价值。然而,在细胞核自动分割中,由于有标注数据不足,使得训练得到的模型难以拟合真实世界中样本的差异性。因此,研究如何使用大量无标注数据来拟合这种差异性,是迫切而有意义的。此外,模型的特征表达能力也十分重要,其直接关系着模型在任务上的表现。近年来,自注意力机制被广泛应用于计算机视觉领域,以提升模型的特征表达能力。但是,自注意力机制受限于过高的复杂度,捕捉长距离特征时需要在开销和距离之间权衡。针对有标注数据不足的问题,本文基于组织病理图像以及细胞核分割任务的特点,提出了一种数据增强方法和一种自监督学习方法,能够更好地利用无标注数据辅助下游的细胞核分割任务;针对卷积神经网络无法捕捉长距离特征,自注意力机制受限于其复杂度的问题,本文基于语义分割模型的特点,提出了一种能够捕捉长距离特征的模型框架。本文的工作包括以下三个方面:(1)提出了一种数据增强方法。该方法同时考虑了组织病理图像和分割任务的特点,与细胞核分割十分契合。通过该方法构造对比学习中的正例样本,并使用对比损失约束模型,模型可以学习到正例样本中的不变性。这种启发式的约束方式使得模型不需要标签也能训练,从而能够利用大量的无标注数据。通过与五种模型和六种同类型方法比较,该方法在三个测试集的m Io U等各项指标上均超过了其他模型与同类型方法。(2)提出了一种基于风格迁移的自监督学习方法。该方法假设图像风格的差异性主要来源于染剂颜色的差异性,通过风格迁移学习各染剂的特征,从而有利于下游的细胞核分割任务。迁移的源领域是颜色标准化后的图像,目标领域是原始图像,即以原始图像作为标签,因此能够利用上大量的无标注数据。与基于对比学习的预训练方法相比,该方法可以预训练整个分割模型,还可以使得预训练阶段和微调阶段具有一致的输入分布。该方法与五种模型和四种自监督学习方法进行比较,最终在三个测试集的m Io U等各项指标上均超过了其他模型和其他自监督学习方法。(3)提出了一种基于均值特征向量的长距离特征捕捉模型。该模型利用图像分割的结果,重新捕捉编码器特征之间的关系。因此,该模型不需要像自注意力机制那样,通过计算每一对特征向量之间的相似度来进行特征融合,从而减小了计算开销。在实验中,模型在三个不同类型的数据集上进行训练、验证和测试,数据类型包括组织病理图像、视网膜图像以及脑部CT图像。该模型在上述三个数据集上与多个模型进行了比较,最终实验结果显示了该模型的优越性。图20幅,表8个,参考文献126篇