关键词： FMCW   行为识别   高斯混合聚类   多帧融合平均   残差网络  

摘要： 人体行为识别技术在智能监护和生物医学研究等领域极具应用前景,该技术利用特定设备或手段,对人体的活动状态进行判定。基于雷达的人体感知技术因其具有隐私保护性好、距离分辨率及测量精度高且不惧遮挡等技术优势成为当前人体行为识别的主流技术之一。本文对基于调频连续波(Frequency Modulated Continuous Wave,FMCW)雷达的人体行为感知技术进行研究,设计了一个实现室内人体定位及双人场景下的行为识别的感知系统,具体研究工作概述如下:(1)研究了基于FMCW雷达的室内人体感知的实现方案。首先分析了FMCW雷达的距离、速度和角度的检测原理,并结合室内应用环境的特点,研究了多径干扰的消除方法,给出了使用背景消除算法去除静态干扰,以及采用2维恒虚警率(Constant False-Alarm Rate,CFAR)检测算法滤除动态多径干扰信号的实现方案。最后,结合德州仪器公司的IWR1443毫米波雷达开发板搭建了一个室内人体感知系统,对上述多径干扰消除算法进行验证,并分析了CFAR中各种参数设置对人体定位精度的影响,实测结果表明该方法能够实现室内人体定位,并有效地消除室内多径干扰对人体活动检测精度的影响。(2)研究室内人体感知系统中雷达点云数据的处理方法。为了实现双人点云的区分,针对传统的高斯混合模型存在的对随机选取的初始聚类中心敏感导致聚类结果不稳定的问题,提出一种基于对数似然函数的优化算法对传统模型进行改进,改进后的高斯混合模型在保证实时性的同时提升了聚类的稳定性,能够较好地将两个人的活动点云区分开。在此基础上,针对雷达帧内稀疏多反射点的特点,数据率的高低将影响系统的准确度与实时性,采用多帧融合取均值代表点的方法,在提高准确率的同时保证算法的实时性。(3)研究了室内人体感知系统的行为识别方案。首先采用基于传统机器学习的方法,通过分析跌倒、坐下、行走三种动作的特点,提取具有辨识力的特征输入随机森林分类器中,获得了良好的分类效果,并实现了识别准确率不受目标具体位置及动作发生方向的影响。此外,针对传统机器学习存在手工提取特征参数过程繁琐的问题,进一步提出了基于深度学习残差网络模型的行为识别方法,通过分析比较,优化数据的最佳的插值尺寸、学习率以及优化器,达到较为理想的识别效果。

关键词： 多特征学习   药物-靶标相互作用   深度神经网络   表征学习  

摘要： 药物-靶标相互作用预测是药物研发过程中的关键环节之一。传统的实验方法往往依靠大量的先验知识、生物化学实验和临床实验,才能阐明这种潜在的药物-靶标相互作用关系。这是一个需要耗费大量财力、人力、物力的过程。因此,基于计算方法的药物-靶标相互作用预测是一个迫切需要解决的关键研究问题。近几年,如何设计新的计算方法使其具有较高的预测准确率受到了研究者的广泛关注。随着深度神经网络模型在各个领域取得了巨大的成功,许多工作开始专注于研究通过深度学习方法去预测药物和靶标之间的相互作用。然而,面向药物-靶标相互作用的神经网络方法还存在诸多的挑战:(1)如何通过神经网络模型实现对药物数据和靶标数据的内容关联,以提高对药物和靶标数据的多特征融合;(2)如何建立神经网络模型实现对药物数据和靶标数据的生物化学语义理解,以提高对药物和靶标的深层表征;和(3)如何设计神经网络模型实现对药物-靶标相互作用的建模,以提高对该相互作用预测的能力。本文主要面向药物-靶标相互作用预测任务,开展其基于深度神经网络计算方法的研究和讨论。药物-靶标相互作用预测的计算模型是通过处理、分析药物和靶标数据,挖掘药物和靶标之间的关系,来预测某个药物-靶标对之间有无关联以及这种关联的程度。本文面向药物-靶标相互作用预测的挑战和研究内容,围绕不同任务背景,立足于多特征学习方法,从表达学习、生物信息语义理解、特征融合等方面开展研究,取得了以下成果:1.提出了一种基于门控-残差神经网络的药物-靶标关联预测方法,结合长短时记忆神经网络中的门控机制和残差网络中的残差连接,这两种神经网络中信息增强的信息处理机制,设计了一种新的用于信息选择和增强的网络模型,改进了对药物-靶标有无关联的预测。本文将提出的门控残差块作为基本单元,通过层级连接构成了门控-残差神经网络框架,并建立了基于门控-残差神经网络的药物-靶标预测模型。通过该模型的信息增强机制,学习并提取药物-靶标对的关联特征,以优化药物-靶标对有无关联的预测。实验表明,本文提出的基于门控-残差神经网络的计算方法不仅在药物-靶标对有无关联预测任务上表现出了良好的性能,还在多种分类任务上都表现出了较好的信息处理能力。此外,本文还通过实验分析了门控的残差块中多种不同门控函数对于该模块的影响。2.提出了一种基于多输入多特征表征的药物-靶标关联预测方法,将该任务定义为多输入任务,提取更多的药物-靶标关联信息,进一步地提升了药物-靶标相互作用的分类预测精度。该方法针对现有工作中,将药物数据和靶标数据简单组合作为模型输入而导致的关键关联信息丢失这一问题,建立多输入模型,并提出一种多特征表征的神经网络方法,来预测药物-靶标有无关联。该模型由表征学习和特征融合两部分组成,前者致力于通过卷积神经网络模型和全连接神经网络分别获取药物和靶标的深层表征;后者采用全连接神经网络层来融合药物和靶标的深层表征,以优化药物-靶标有无关联预测。实验表明,本文提出的基于多输入多特征表征的计算方法有效地提升了药物-靶标相互作用预测的精度,并成功地应用到了预测与阿尔茨海默病相关基因有关联药物的任务。3.提出了一种基于多注意力机制的药物-靶标结合亲和力预测方法,通过原子之间的相对位置信息建模了原子间的相关关系,并改善了对药物深层表征和靶标深层表征相互作用的建模,从而提高了对药物-靶标结合亲和力的预测。针对现有方法(1)忽略原子之间的相关关系;和(2)由于简单拼接药物-靶标深层表征导致融合信息缺失这两个不足,本文设计了一个多注意力框架,首先,在化合物表征阶段,通过增强原子间的相关关系来充分建模复杂化合物;其次,通过多头注意机制建模药物-靶标深层表征的相互作用特征,提高模型对药物-靶标结合亲和力预测能力。本文经实验证明了编码原子间的相关关系和建模药物-靶标深层特征的相互作用都可以进一步提高药物-靶标结合亲和力预测的性能。此外,本文将训练好的模型应用于新冠病毒相关基因和已批准药物的结合亲和力评分预测任务中,提供了一些计算模型实验结果作为参考。4.提出了一种基于多粒度编码和多尺度自注意力网络的药物-靶标结合亲和力预测方法,从编码方法和深度神经网络结构两个方面建模了化学基团之间的相关关系,提高了药物-靶标结合亲和力预测能力。编码方法方面,本文首先利用分词算法分别生成药物和蛋白质对应的多粒度编码词表;然后,通过该词表去编码药物和蛋白质序列中那些具有化学关键信息的化学官能团。深度模型网络结构方面,本文对多头自注意力机制进行不同的窗口大小分配,建立了多尺度的自注意力模型,从而获得了含有不同层次相关关系的药物和蛋白质深层表征。实验表明,本文提出的基于多粒度编码和多尺度自注意力网络的计算方法在药物-靶标结合亲和力任务上具有较好的效果。此外,多粒度编码和多尺度自注意力模型所学习的多种局部信息都被证明有利于药物-

关键词： 乳腺肿块   形状   边缘   机器学习   深度学习  

摘要： 目的:采用基于影像组学特征的机器学习（Machine Learning,ML）方法作为基线和对比研究,验证基于深度卷积神经网络（Convolutional Neural Network,CNN）的人工智能方法对乳腺肿块形状和边缘进行自动分类的可行性。方法:回顾性收集596例乳腺肿块患者的乳腺钼靶X线图像。根据乳腺影像报告数据系统（Breast Imaging-Reporting And Data System,BI-RADS）指南,对每个肿块的形状和边缘进行手动标记。以残差网络Resnet 50（Residual Networks,ResNet）为基础主干,基于深度CNN的人工智能技术进行形状和边缘自动分类,采用平衡采样器（Balanced Sampler,BS）和卷积块注意模块（Convolution Block Attention Module,CBAM）对深度CNN的性能进行改进。作为对比,首先提取图像的影像组学特征,然后采用主成分分析（Principle Component Analysis,PCA）、核主成分分析（Kernel Principle Component Analysis,KPCA）、独立成分分析（Independent Component Analysis,ICA）、因子分析（Factors Analysis,FA）四种降维方法和决策树（Decision Tree,DT）、支持向量机（Support Vector Machine,SVM）、K-近邻算法（K Nearest Neighbor,KNN）、随机森林（Random Forest,RF）、多层感知器（Multilayer Perceptron,MLP）五种经典分类器进行分类。基于Python编程软件,运用准确度（Accuracy,Acc）评价模型的性能,选择Acc最高的模型。结果:在基于影像组学的ML对肿块形状分类检测中,PCA+MLP组合的Acc为0.80,KPCA+MLP 组合的 Acc 为 0.75,ICA+SVM、ICA+RF 组合的 Acc 均为 0.77,FA+MLP组合的Acc为0.69;基于影像组学的ML对肿块边缘分类检测中,PCA+RF、KPCA+RF、ICA+SVM、FA+RF 组合的 Acc 分别为 0.64、0.67、0.60、0.68。肿块形状在 3 种不同深度学习模型（Resnet50_ori,Resnet50bs,Resnet50bscbam）的混淆矩阵Acc分别为0.8559、0.8649、0.8739;肿块边缘在3种不同深度学习模型（Resnet50_ori,Resnet50bs,Resnet50bscbam）的混淆矩阵 Acc 分别为 0.7658、0.7928、0.8378。结论:基于深度CNN的人工智能方法能准确地进行乳腺肿块形状和边缘的自动分类,可望进一步应用于乳腺钼靶的辅助影像诊断。

摘要： 人物简历王永玺,中国劳动关系学院教授,中国工人历史与现状研究会名誉会长,中国劳动关系学院党史学习教育宣讲团顾问。长期从事中国近代史、中共党史与工人运动史的教学与研究,所著《中国工人运动史研究》一书由中国工人出版社出版。

关键词： 核心素养   深度思考   学习方法   终身学习  

摘要： 核心素养的提出丰富了立德树人的课程改革内涵,为实际教学指明了方向,遵循提升学生核心素养的理念,实际教学中,教师要给学生足够的锻炼机会,要促进学生的深度思考,让学生在获取知识的时候掌握必要的学习方法,从而为学生的终身学习奠定基础。

摘要： 学习优秀的文言文,可以陶冶情操,提高品位,增强学生对民族文化的自豪感和认同感。统编教材从三年级上册开始就有文言文课文,"日积月累"板块中也有一些文言文的经典语句。由于文言文的内容距离学生生活实际较远,表达方式和现代文有较大的不同,因此小学生学习文言文有较大的难度。那么,教师应如何开展文言文教学,引导学生学习文言文,传承中华优秀传统文化呢?一、多种形式读书,读中感悟内容提高语文教学效果最有用的方法是读书。

关键词： 随机特征映射   神经网络   岭回归   增量学习   多核学习  

摘要： 在一个机器学习任务中,特征选择是样本预测的关键一步,而在面对复杂的未知领域时,我们很难判断特征与预测目标或者特征与特征之间的关联性,所以在建立一个神经网络时,常常采用随机生成的方式来初始化神经网络的参数,然后再通过一系列的算法来完成特征的选择和高维映射。有效的特征选择可以降低输入特征的维度,还可以防止过拟合,提高模型泛化能力和可解释性,加快模型的训练速度,合适的特征映射还可以提高模型的预测性能。本文对此的研究工作如下:针对传统神经网络参数多次迭代,训练时间长的问题,本文提出了一种基于随机特征映射的四层神经网络(FRMFNN)及其快速增量学习算法。FRMFNN是一种基于随机向量函数链路神经网络(RVFLNN)的四层网络模型,FRMFNN首先把原始输入特征通过特定的随机映射算法转化为随机映射特征存储于第一层隐藏层节点中,再经过激活函数对随机映射特征进行非线性转化生成第二层隐藏节点,最后传输到输出层。由于隐藏层之间的连接权重都是根据任意连续采样分布概率一次性随机生成的,不需要训练更新,而且输出层的权重可以用岭回归算法快速求解,从而避免了传统反向传播神经网络耗时的训练过程。当FRMFNN没有达到期望精度时,借助于快速的增量算法可以持续改进网络性能,从而避免了重新训练整个网络。本文详细阐述了FRMFNN及其增量算法的结构原理,证明了FRMFNN的通用逼近性,在多个主流分类和回归数据集上的实验结果表明了FRMFNN及其快速增量学习算法的有效性。为了更好地对样本特征进行高维映射,本文进一步在FRMFNN中引入核方法。而针对单核网络模型核函数选择无依据以及基于随机特征映射的四层神经网络(FRMFNN)节点规模过大的问题,提出了一种基于随机特征映射的四层多核学习神经网络(MK-FRMFNN)算法。该算法首先把原始输入特征通过特定的随机映射算法转化为随机映射特征,再经过不同的随机核映射生成多个基本核矩阵,然后将基本核矩阵组成合成核矩阵通过输出权重连接到输出层。MK-FRMFNN在基本核映射时引入了不同的随机权重矩阵,这样生成的合成核矩阵不仅可以综合各种核函数的优势,而且可以集合各种随机分布函数的特性,使数据在新的特征空间中获得更好的特征选择和表达效果。理论分析和实验表明,与宽度学习系统(BLS)及基于随机特征映射的四层神经网络(FRMFNN)单核模型相比,MK-FRMFNN模型的节点规模减少了2/3左右,且分类性能稳定;与主流的多种多核模型相比,能够对大样本数据集进行学习,并且分类性能明显优于对比算法。

关键词： 重性抑郁障碍   双相障碍   静息态功能磁共振技术   机器学习   逻辑回归  

摘要： 目的:重性抑郁障碍(Major depressive disorder,MDD)和双相障碍(Bipolar disorder,BD)是两种致残、致死率较高的情感障碍。当BD以抑郁为首发症状时,两种情感障碍鉴别诊断困难。对MDD患者进行随访可以从主观症状学角度对两种疾病进行早期识别,静息态功能磁共振技术(Resting-state functional MRI,rs-f MRI)则可以从客观角度为两种疾病的识别提供神经影像学标记。既往研究提示两种疾病常表现为多个脑区的功能差异,对两种疾病的大脑网络进行研究或许更有助于阐明两种疾病的神经影像学机制,其中基于体素水平的度中心度(Voxel-wise degree centrality,DC)是描述功能网络节点重要性最直接的度量指标,它可以敏感检测两种疾病的功能差异并具有较高的重测信度。因此,联合随访和DC方法进行研究将为MDD和BD的早期识别提供研究基础。但目前研究结果尚不能直接应用于临床,而机器学习方法则可以通过训练数据集,建立一个能够区分不同个体的模型,并将该模型应用于新的数据集进行分类或预测,为研究结果向临床应用转化提供了可能。因此,本研究首先通过对MDD患者和BD患者联合应用随访和rs-f MRI,探索MDD和BD各自特异性、素质性的神经影像学机制,为两种疾病的早期识别提供神经影像学研究基础;之后基于机器学习方法使用DC特征,建立分类性能最佳的MDD-BD分类模型,并将该模型应用于新的数据以测试该模型早期识别缺乏主观确诊症状患者的能力。方法:在基线收集MDD患者和BD患者并扫描rs-f MRI,之后对MDD患者进行2年以上的随访,将随访过程中出现了躁狂或轻躁狂症状的患者纳入转相前BD患者组,从未出现躁狂或轻躁狂症状的患者继续纳入MDD患者组。最终纳入BD患者128名(其中转相前BD患者33名),MDD患者110名(其中33名与转相前BD患者年龄、性别、学历相匹配)以及与转相前BD患者年龄、性别、学历相匹配健康对照(Healthy control,HC)40名。采集所有受试者的年龄、性别、学历、病程、用药情况、汉密尔顿抑郁量表(17项)(17-item Hamilton Rating Scale for Depression,HAMD-17)总分、汉密尔顿焦虑量表(Hamilton Anxiety Scale,HAMA)总分、杨氏躁狂评定量表(Young Mania Rating Scale,YMRS)总分。使用SPSS 24.0软件对所有受试者的人口学和临床资料进行统计分析。采用基于Matlab软件平台的DPARSFA软件包对rs-f MRI数据进行预处理,采用DPABI4.2软件对预处理后的rs-f MRI数据进行统计分析。研究分为两部分,第一部分比较MDD患者、转相前BD患者和HC之间的DC差异;第二部分首先比较明确诊断的MDD患者和BD患者之间DC差异,其次采用基于Scikit-Learn的Easylearn软件调用逻辑回归分类器,将存在统计学差异脑区的DC作为分类特征,建立MDD-BD分类模型,并使用5折交叉验证对模型进行验证;最后将模型应用于独立的测试数据集(转相前BD患者和MDD患者)。结果:1.第一部分包括33名MDD患者、33名转相前BD患者以及40名HC,三组受试者的年龄、性别、学历之间无统计学差异(P>0.05)。影像数据结果显示三组受试者主要在右侧枕中回、右侧颞上回、右侧颞中回、右侧顶下回、右侧缘上回、右侧中央后回、右侧额上回、右侧额中回、右侧三角部额下回的DC值存在的统计学差异(P<0.05,GRF校正)。提取以上脑区的DC值进行事后检验,结果显示,与HC和转相前BD患者相比,MDD患者在右侧枕中回、右侧颞上回、右侧颞中回脑区的DC值减低(P<0.05),HC和转相前BD患者在以上脑区的DC值无统计学差异(P>0.05);与HC和MDD患者相比,转相前BD患者在右侧顶下回、右侧缘上回、右侧中央后回脑区DC值增高(P<0.05),HC和MDD患者在以上脑区的DC值无统计学差异(P>0.05);与HC相比,MDD患者和转相前BD患者在右侧额上回、右侧额中回、右侧三角部额下回脑区的DC值增高(P<0.05),MDD患者和转相前BD患者在以上脑区的DC值无统计学差异(P>0.05)。2.第二部分包括77名MDD患者和95名BD患者,两组患者的年龄、性别、学历之间均无统计学差异(P>0.05)。影像数据结果显示MDD患者和BD患者在双侧额上回、双侧内侧额上回、双侧眶部额上回、双侧额中回、右侧眶部额中回、双侧岛盖部额下回、双侧三角部额下回、双侧眶部额下回、双侧内侧眶额回、双侧中央前回、双侧补充运动区、双侧中央沟盖、双侧中央旁小叶、双侧顶上回、双侧顶下回、双侧缘上回

关键词： 机器学习   Fama-French三因子模型   系数函数   聚类分析  

摘要： 我国的证券市场在改革开放的伟大历史进程中获得了长足发展,从2009年创业板的正式推出到2019年推出科创版并试点注册制,我国已完成了多层次资本市场的建立,国内资本市场也进入了加速换挡的新周期。基于证券市场的重要地位,资产的定价问题长期以来都是投资分析的热点问题。有效的资产定价模型对于开展资产配置、风险管理以及投后评估等研究具有重要意义。其中,股票回报率的影响因素备受学者们关注。Sharp提出的现代金融市场价格理论的支柱一——CAPM模型,反映了当市场处于均衡状态时,单个证的券收益率与市场组合收益率两者之间的定价关系,具有很强的理论意义,但在实证结果的解释方面却力不从心。为弥补这一缺陷,Fama&French提出了著名的三因子理论,指出市场风险因子、市值因子、账面市值比因子对超额收益率的解释能力比CAPM更为显著。之后不断有学者对该模型进行优化与改进,使其焕发出新的生机与活力。本文改变传统研究中对三因子模型中的因子进行补充的思路,提出对三因子模型的因子系数进行改进与优化。首先,将三因子模型的因子系数从常数优化为时变函数,并进行理论推导。其次,基于2000年至2019年间中国资本市场的真实月度数据对因子模型中的系数函数进行估计与刻画,证实了因子的系数函数存在的合理性与有效性,有利于提高因子模型对证券市场的超额收益率的解释能力,构建更适用于中国市场的三因子模型。最后,基于求得的三因子模型中的三类系数函数,对股票间成对距离进行度量,并使用机器学习中的组群识别聚类算法对证券进行分类,减小在构建投资组合时挑选股票的工作量,为投资者的投资决策提供理论依据与数据支持。本文的主要研究结论如下:(1)三因子模型中的因子系数是随时间变化的。将三因子模型中的系数优化为一个随时间变化的函数更符合中国股票市场的实际情况;(2)每个股票的系数函数形态各异,包括常数型,也有斜线型、曲线型、以及震荡型,故因子系数函数在时间序列上的变化情况因股票的不同而有所不同。(3)三因子模型中的三大因子(市场风险因子、市值因子以及账面市值比因子)对于不同股票的超额收益率的解释力度存在差异,且这三个因子对某一既定股票的超额收益率的解释力度也是随着时间的变化而变化的,所以在国内因子模型适用性研究领域会因为样本股票选择的不同和研究时段的不同而产生结论上的差异。(4)优化后的三因子模型可被广泛地应用于股票分类当中,并可通过组群识别聚类算法简化投资组合的构建过程。

关键词： 知识图谱   知识图谱嵌入   集成学习  

摘要： 当今互联网社会中,知识图谱技术已经变成信息产业发展的一项重要支撑技术,知识图谱能够描述现实生活中各种实体间的复杂关系,因此,有效地表示知识图谱中的“实体”和“关系”就显得尤为重要。目前,平移距离模型和语义匹配模型两种方法是知识图谱嵌入研究的主要方法。本文在平移距离模型方法的基础上展开研究,平移距离模型通过计算三元组中“头实体”和“尾实体”在向量空间上的距离来评估事实的合理性。而将“头实体”和“尾实体”平移到向量空间就是知识图谱嵌入的过程。当把知识图谱中的“实体”和“关系”平移到向量空间时,后续的研究可以使用向量计算,能够极大地提升计算效率。此外,集成学习是一种十分强大的学习模型,许多领域已经证明了其有效性,而将集成学习方法应用到知识图谱嵌入中的研究还比较少。为了进一步提高知识图谱的嵌入算法的嵌入效果,本文将集成学习方法和基于平移距离模型的算法结合起来,从而提高嵌入效果。本文主要研究内容和成果如下:1.提出基于Boosting的知识图谱嵌入算法。在平移距离模型的Trans X系列算法中引入Boosting方法,设计了一种嵌入过程中计算实体权重的方法,使得嵌入效果比较差的“实体”在下一轮的数据采样中占据更大的权重,从而提高知识图谱的嵌入效果。通过链接预测的实验和分析,表明了集成学习应用到知识图谱嵌入的有效性。2.提出基于异质Bagging的知识图谱嵌入算法。在平移距离模型的Trans X系列算法中引入Bagging算法和Stacking组合策略相结合的方法。本文使用自助采样方法进行数据集采样,将Trans X系列算法（包括Trans E,Trans H,Trans R,Trans D）中任意三种算法作为初级学习算法,剩下的一种算法作为次级学习算法。另外设计了一种权重计算方式,用来对学到的向量进行加权平均,最终通过实验验证,基于异质Bagging的知识图谱嵌入算法能够进一步提升知识图谱嵌入的效果。3.从算法的原理和实验结果角度出发,对基于Boosting的知识图谱嵌入算法和基于异质Bagging的知识图谱嵌入算法进行对比分析,不仅表明了集成学习运用到知识图谱嵌入的有效性,更表明了两种不同的嵌入算法对知识图谱嵌入效果的提升是不同的。在本文实验条件下,两种算法都能够增强知识图谱嵌入的效果,但是基于异质Bagging的知识图谱嵌入算法在性能上更加具有优越性,同时也具有时间上的优势。