关键词： 英语   语法   方法  

摘要： 初中语法教学是初中英语学习的难点,历来缺乏有效的学习方法,学生积极性不高。从树立正确的语法教学观开始,结合初中教学实践,寓游戏和角色互换进入语法教学环节,可以取得不错的效果。这种方法的尝试体现了兴趣论和教学相长论,为语法教学提供了理论指导实践的案例。

关键词： 布鲁氏菌病   时间序列   机器学习   预测  

摘要： 目的:通过分析2008-2017年辽宁省人间布鲁氏菌病（简称:布病）发病规律和气象特征的重要程度,探索季节性ARIMA（Autoregressive Integrated Moving Average,ARIMA）模型、XGBoost（e Xtreme Gradient Boosting,XGBoost）机器学习模型在布病发病短期预测中的应用。通过平均绝对误差（Mean Absolute Error,MAE）、均方根误差（Root Mean Squard Error,RMSE）和平均绝对百分比误差（Mean Absolute Percentage Error,MAPE）指标比较ARIMA模型和XGBoost机器学习模型的预测效果,从中选择出最适合辽宁省布病预测的模型。为传染病发病的精准预测提供新的思路,为制定辽宁省布病预防预警策略提供科学依据。方法:将2008年1月-2016年12月辽宁省人间布鲁氏菌病发病数据和气象数据作为训练集;将2017年1月-2017年12月辽宁省人间布鲁氏菌病发病数据作为测试集。用训练集中布鲁氏菌病发病数据建立ARIMA模型,并使用测试集测试ARIMA模型预测效果;用训练集中布鲁氏菌病发病滞后数据建立XGBoost机器学习模型（不含气象因素）,并使用测试集测试XGBoost机器学习模型预测效果;通过随机森林交叉验证的方法从训练集中布鲁氏菌病发病和气象的滞后数据中筛选出特征变量,使用特征变量建立XGBoost机器学习模型（含气象因素）,并使用测试集测试XGBoost机器学习模型预测效果。结果:1.2008-2017年辽宁省人间布鲁氏菌病发病呈现春季增长趋势,5月份发病人数最多;秋季呈下降趋势,12月份发病人数最少。2.通过随机森林交叉验证对训练集进行了特征筛选,并得到了10组数据变量,按照其重要程度由大到小排序如下:发病数滞后12个月、发病数滞后个1月、发病数滞后11个月、发病数滞后2个月、发病数滞后10个月、湿度滞后7个月、气温滞后10个月、气压滞后4个月、气压滞后11个月、湿度滞后2个月。3.季节性ARIMA（0,1,2）×（0,1,1）[12]模型训练集的MAE、RMSE和MAPE值分别为18.842、25.975和16.749%;测试集的MAE、RMSE和MAPE值分别为49.653、58.970和29.122%。XGBoost模型（不含气象因素）训练集的MAE、RMSE和MAPE值分别为12.248、19.013、和11.622%;测试集的MAE、RMSE和MAPE值分别为39.687、44.449和26.303%。XGBoost模型（含气象因素）训练集的MAE、RMSE、MAPE分别为11.777、18.560、10.276%;测试集的MAE、RMSE、MAPE分别为28.955、37.864、17.973%。结论:1.2008-2017年辽宁省人间布病发病呈现较明显的季节性。2.对于2008-2017年辽宁省人间布病发病数预测,XGBoost模型（不含气象因素）比乘积季节性ARIMA（0,1,2）×（0,1,1）[12]模型预测精度更高。3.对于2008-2017年辽宁省人间布病发病数预测,XGBoost模型（含气象因素）比XGBoost模型（不含气象因素）和乘积季节性ARIMA（0,1,2）×（0,1,1）[12]模型预测精度都要高。4.对于2008-2017年辽宁省人间布病发病数预测,加入气象数据能够大幅提高XGBoost模型的预测精度。

关键词： 无监督学习   图自动编码器   自监督学习   骨架序列   特征表示  

摘要： 骨架数据是利用关键点的二维或三维位置信息描述人体动作的数据,现已成为人体运动信息获取的重要来源。如何有效地提取骨架数据的特征是聚类、行为分析、动作识别等下游任务需要解决的重要问题之一。目前主流的方法是采用深度神经网络来提取特征,通过带有标签的大型数据集驱动网络的有监督训练。然而骨架数据的标注工作成本极高,因此研究无标签条件下的无监督学习方法来训练特征提取网络具有重要意义。本文针对上述问题,分别研究图自动编码器和自监督场景下的骨架数据表示学习方法,并将其应用到聚类和动作识别两个下游任务中,验证方法的有效性。论文主要工作包括:(1)提出了一种基于图自动编码器的骨架序列表示学习方法。编码器模块采用时空图卷积(ST-GCN)作为基本的编码单元,在每个ST-GCN内部,通过交替进行图卷积和时序卷积来综合提取骨架数据的时空特征。解码器模块采用重构输入数据的策略,使用反卷积来从数据特征中逐步恢复原始数据。为进一步增强编码器的表达能力,对其输出的潜在特征进行聚类。计算聚类结果的K-L散度,将其作为效果评估。最后综合重构输入的误差与K-L散度作为总的损失来指导模型的训练。本文方法在NTU RGB+D数据集上的预测准确率为23.8%,在NW-UCLA数据集上的预测准确率为42.8%。(2)提出了一种基于步距预测与对比学习的自监督骨架序列表示学习方法。采用步距预测作为辅助任务,通过对原始数据进行重采样,使用ST-GCN对重采样后的数据进行特征提取,并据此预测其采样时使用的步距。为增强模型的泛化能力以及对数据关键特征的挖掘能力,引入对比学习训练,并提出“同动作类别”和“同采样步距”两种正样本对构建策略。步距预测训练完成后,使用小部分标签在当前模型基础上做微调,指导模型适应动作识别任务,在实际下游任务中进一步学习骨架序列的特征。本文方法在NTU RGB+D数据集上的预测准确率最高可达66.79%,在NW-UCLA数据集上的预测准确率最高可达73.99%。在微调阶段,弱监督设置下仅使用5%数据标签的情况下,在NTU RGB+D数据集上的预测准确率最高可达71.29%,在NW-UCLA数据集上的预测准确率最高可达79.32%。全监督设置下,在NTU RGB+D数据集上的预测准确率最高可达91.78%,在NW-UCLA数据集上的预测准确率最高可达94.26%。(3)开发了一套面向增强现实虚实士兵对抗的动作识别系统。首先构建了用于虚实士兵对抗的增强现实作战环境,真实士兵通过AR头显在其中进行动作训练和虚实对抗训练;然后基于本文提出的骨架序列表示学习方法,完成了对实兵动捕动作的在线识别,实现了对抗过程中虚拟士兵对真实士兵动作的实时感知和理解。

关键词： 网络表示学习   异常节点   注意力机制   图自编码器   动态网络   循环神经网络  

摘要： 随着互联网技术的快速发展,网络数据已经涉及到了人们生活工作中的多个方面,并涵盖了越来越多的有价值的信息。网络表示学习的目的是为网络中的节点生成实值、稠密的低维向量表示,使其能有效地应用到节点分类、链路预测等多种实际任务中。但现有的网络表示学习方法大多没有考虑到对网络数据信息的筛选与提炼,而现实网络中往往包含一些具有异常邻域结构的节点,如营销号等。这些“异常节点”的存在使得网络表示学习难以更好地捕捉到普通节点之间的联系与差异性,从而影响了网络表示学习的应用效果。此外,现有的网络表示学习算法通常难以捕获网络的高阶结构信息。另一方面,现实世界中的网络多是动态的,其节点和边会随着时间的推移不断变化,基于静态网络表示学习的方法往往会面临难以处理动态网络的结构复杂性、变化多样性和演化时序性等挑战。本文针对以上问题进行了研究,提出解决方案并在多个实验中验证了算法的有效性。主要研究内容如下:1.基于异常节点识别的网络表示学习方法。针对现有网络表示学习方法未考虑到现实网络中异常节点影响的问题,将异常节点识别引入网络表示学习方法中,基于网络结构信息,识别并标注出原始网络中具有异常邻域结构的节点。为充分利用网络的高阶邻域信息,提出基于注意力机制的网络自编码器,使用多头注意力卷积层代替传统图自编码器中的的图卷积层,利用不同阶的网络概率转移矩阵聚合节点邻居信息,以捕获网络的高阶结构。2.基于循环神经网络的动态网络表示学习方法。为充分利用网络动态信息,维持动态网络嵌入的稳定性,使用循环神经网络捕获动态网络演化信息,每个循环单元为引入了门控循环单元的基于注意力机制的网络自编码器。模型以动态网络的快照序列作为输入,通过设置并维护网络节点的状态属性以应对动态网络中节点数量的变化,利用门控循环单元处理时序信息的能力挖掘动态网络演化信息,得到稳定的节点嵌入表示。本文将所提方法分别应用到节点分类、链路预测和社区发现任务中,并在多个数据集上进行了实验。实验结果表明,与基准算法相比,本文提出的方法在所有实验数据集上均取得了更优的结果。

关键词： 合唱指挥   声乐学习   意义与影响  

摘要： 合唱活动作为人民群众喜闻乐见的艺术形式,越来越多地出现在人们的视野之中。合唱活动的蓬勃发展也带动了合唱指挥教学的发展。合唱指挥教学作为音乐类高校不可或缺的课程,对培养学生的综合素质,提升学生的综合能力都具有十分积极的作用。同时,合唱指挥教学与声乐教学在学生声音的训练、音准的培养以及音乐感受力训练等方面都有许多共通之处,所以合唱指挥教学对学生的声乐学习具有积极的影响。合唱指挥教学在很大程度上能够弥补学生声乐学习的不足,这给声乐教学方式的创新也提供了一些积极的思路。

关键词： 风力发电   光伏发电   功率预测   小波分解   深度学习   注意力机制  

摘要： 现阶段,清洁能源发电比例逐步提高,其高度的不确定性与波动性为电力系统的调峰和调度带来了挑战,对新能源出力的精准预测是维护电网运营供需平衡及安全稳定的关键。针对当前新能源发电超短期功率预测难题,本文基于数据驱动,对深度学习技术在超短期功率预测中的应用进行了深入研究,具体内容包括:1)针对新能源发电运行存在的数据缺失、数据异常和噪声数据等问题,对时序数据的特征分析与预处理技术进行了研究,分析了基于孤立森林的异常数据检测方法、基于链式方程多重插补的缺失数据填补方法,并对时序数据进行了相关性分析以及聚类分析。通过实验分析改善了数据质量,提高了预测模型的泛化性与可释性。2)针对传统超短期功率预测方法对输入数据的深层特征挖掘不够,泛化能力有待提高等问题,首先分析了深度学习的结构和模型特点,选取具有代表性的三种深度学习网络模型:CNN、LSTM、GRU,以及组合模型进行对比实验,分析了各方法的预测精度及优缺点,研究了在考虑多种影响因素下复杂环境的功率预测问题;针对不同时间步长、预测步数对所提方法的影响进行了实验分析,结果表明深度神经网络模型可有效提高预测精度,为提前预警、宏观决策和电能调度计划等方面提供指导。3)针对风能和太阳能发电特性和数据差异,并且考虑到当时序数据过长时现有功率预测模型易丢失重要信息等问题,提出了一种基于Attention机制的小波分解-双向长短时记忆网络(W-Bi LSTM)超短期风、光发电功率预测方法。利用小波分解提取输入时间序列的时域信息和频域信息。考虑双向信息流,采用双向长短时记忆网络(Bi LSTM)进行预测,引入Attention机制,通过映射加权和学习参数矩阵赋予Bi LSTM隐含状态不同的权重,突出风、光功率由于数据特性差异所造成的对不同时间点位置的注意力分布的不同,有选择性地获取更多有效信息,从而捕捉数据间的时间相关性并选择相应的驱动数据进行预测。采用实际数据进行实验验证,结果表明所提模型与对比模型相比,具有良好的预测性能。

关键词： 深度学习   细粒度分类   注意力机制   多输入网络  

摘要： 宫颈癌是威胁女性健康的第四大癌症。根据WHO2018年全球癌症观测数据库显示,在2018年全球大约有570000例宫颈癌病例与311000例死亡病例,死亡率达到54.56%。提前筛查宫颈癌,可以使得该癌症得以提前发现。这有助于宫颈癌的治疗以及降低死亡率。液基薄层细胞检测(Thinprep Cytologic Test,TCT)已经成为筛查宫颈癌的主要方法。由于单个薄片上的细胞数量有成千上万个,具有丰富经验的病理专家在阅片时会出现不少漏检与误检的情况。自动阅片技术可以辅助医生完成宫颈癌筛查过程,不但可以减少漏检率和误检率,而且可以提高检测效率。精确的筛选出异常宫颈细胞是自动阅片的关键技术。筛选异常宫颈细胞常用的方法有传统的检测方法、卷积神经网络与目标检测等方法。这些方法可以达到一定的筛查精度,但是仍然有一些检测问题没有得到解决。一般情况下在同一幅图像中,异常细胞核的尺寸与正常细胞差异较大,而现阶段的目标检测方法没有在分类阶段保持宫颈细胞统一的尺寸特征。正常宫颈细胞与异常宫颈细胞都属于宫颈细胞的子类,它们之间的相似度较大,因此宫颈细胞分类任务属于细粒度分类。对于单个细胞,不易判断它是否异常,需要通过与同一幅图像上的周围细胞对比后才易判断它的类别,而目前的分类方法一般每次只输入一个细胞图像,并没有利用与周围细胞对比的方式。本文重点用深度学习方法解决上述问题,并且从目标检测、细粒度分类和多输入网络等三个方面来提高宫颈细胞的分类准确率。具体的工作内容包括以下三部分:1.设计了一种基于Mask R-CNN的深度神经网络MACD R-CNN,解决了Mask R-CNN在分类分支中没有统一保持细胞的大小与形态等特征这一问题。首先在Mask R-CNN的分类分支中,它从不同大小的Ro I生成与输入相同大小的特征图。这部分特征图的细胞核将会有不同程度的形变。我们设计了一个固定的提议模块,以生成固定大小的细胞核特征图,从而可以将新的细胞核特征用于分类。然后我们使用注意力机制来融合原始Ro I和固定大小的Ro I特征。最后我们增加了卷积层的深度,以进一步提高细胞分类的准确性。实验表明,MACD R-CNN可以有效提高异常细胞检测的性能。2.提出了弱监督分类模型MNTNet,解决了因宫颈细胞变化多样、环境复杂且异常细胞与正常细胞相似度较大这样的困难分类问题。目前的细胞分类方法性能仍然不够理想,而MNTNet引入了细粒度分类思想对于上述问题有较好的效果。我们采用了反二叉树设计方式,首先在左右子节点上分别使用空间注意力机制与通道注意力机制学习不同的特征,再通过父节点的合并操作融合左右子特征,最后利用根节点的特征实现细胞分类。在Herlev数据集与SIPa KMe D数据集上的实验结果表明,我们提出的MNTNet方法的准确率超越了目前先进的方法。3.提出了MINDDR-CNN-Shortcut多输入细胞分类网络,解决了普通分类网络不能利用整幅图像中宫颈细胞的特征对比与联系的问题。MINDDR-CNNShortcut网络是一个多输入单任务网络,用来检测异常宫颈细胞。MINDDRCNN-Shortcut的主要贡献为:首先适应多幅图像同时输入;其次增加CBAMNDDR模块,使子网络的特征融合更为平滑;最后将各个子网络CBAM-NDDR输出的特征图连接到一起,并进一步融合各个子网络的特征。实验表明,我们提出的MINDDR-CNN-Shortcut网络能够学习一幅图像中多个细胞的特征,比单网络模型具有更高的准确率。深度神经网络是实现计算机辅助自动判别诊断技术的重要工具。在使用深度学习技术解决宫颈细胞分类问题时不仅需要了解宫颈细胞类别与特点,而且要结合一定的病理知识。本文通过分析目前的异常宫颈细胞检测方法存在的问题,将深度学习技术与宫颈细胞的特征和病理知识相结合,提出了一些新的检测方法。这些方法不但可以提高宫颈癌细胞的检测效率而且可以提高其检测精度。

关键词： 图像深度哈希检索   复杂场景图像   细节感知   困难样本挖掘  

摘要： 随着信息技术的发展以及网络社交平台的普及,互联网上出现了海量的图像数据,对这些图像数据的快速检索是互联网相关产业的核心任务之一。哈希学习是图像快速检索的重要方法,因其良好的性能,近年来引起了研究者的广泛关注。基于哈希学习的图像检索方法通过将图像数据映射为具有固定长度的离散二进制码,可以实现高效率、低存储的图像近似近邻检索。但是,随着图像采集设备软硬件技术的发展,海量的图像数据在满足用户需求的同时,也产生了大量的复杂场景图像(包含难以区分的背景或多个实体)。与一般图像相比,复杂场景图像对基于哈希学习的检索方法提出了更高的要求。针对复杂场景图像,在哈希学习的研究中主要有两种解决思路:(1)构造更有效的特征提取器,提取出包含更多图像信息的特征用于生成二进制的哈希码,以提高哈希码对复杂场景图像的表征能力;(2)设计更有效的目标函数,以指导哈希码向更优的分布方向优化,来增强哈希码对复杂场景图像的判别能力。基于以上两种思路,本文分别提出了基于细节感知的复杂场景图像深度哈希学习方法和基于困难样本挖掘的复杂场景图像深度哈希学习方法。(1)在特征提取器构造方面,要提取更多的图像信息,就需要对图像的细节信息进行更为深入的挖掘。现有的图像深度哈希学习方法多是直接为整幅图像生成哈希码,但这很容易造成对图像的局部细节信息的忽视,从而降低了复杂场景图像的哈希码的表征能力。为此,本文提出了基于细节感知的复杂场景图像深度哈希学习方法,以现有的深度网络模型作为基网络来构造新的网络模型,使网络能够为图像的局部区域生成近似哈希码的表示,然后再将它们融合成全局的哈希表示。在此基础上,该方法还使用同一图像的相互重叠的局部区域作为相似样本对,这样一方面可以缓解基于成对样本的哈希学习方法中固有的类别不平衡的问题,另一方面可以优化哈希码的分布。在三个公开的数据集上进行的详尽实验验证了该方法的有效性。(2)在目标函数设计方面,更优的哈希码分布可以使得复杂场景图像在哈希码分布中更易于区分,这需要设计新的目标函数来提高对复杂场景图像的关注度,进而来优化哈希码分布。为此,本文通过在训练过程中降低简单图像的权重,并给予复杂场景图像更高的权重,以提升哈希学习方法对复杂场景图像的检索能力,这一需求与困难样本挖掘(Hard Sample Mining)的思想有相似之处。因此,本文提出了基于困难样本挖掘的复杂场景图像深度哈希学习方法,引入困难样本挖掘函数,并在这基础上结合哈希检索任务的特点(即正负样本的实际相似度与检索时认定的相似度不一致)进行适应性的改进,以更符合哈希检索任务的需求。在三个公开的数据集上的实验结果验证了该方法的优越性。

关键词： EHR   表示学习   循环神经网络   注意力机制   患者死亡率预测  

摘要： 电子健康记录(EHR)是由患者住院期间发生的疾病诊断、药物、注射、实验室检测值和病情记录等医疗信息构成的电子化数据集合。近年来,许多研究表明将EHR数据进行挖掘和二次利用可以推动医疗保健卫生事业的发展。然而,EHR数据的高维性、稀疏性、不规则性和复杂性使研究人员在处理、探索和应用EHR的过程中面临许多挑战,因此有效地特征提取和数据表示是EHR研究和应用的前提和关键。为了解决上述挑战,论文提出了两种不同的基于循环神经网络和注意力机制的患者表示学习方法,主要研究内容如下:(1)针对EHR数据独特的层次化结构和特性,提出了一种基于双向长短期记忆神经网络(BiLSTM)和注意力机制的多层表示学习方法。首先,利用多头注意力机制分析医疗代码中的潜在关联信息,并添加一个线性转换进行非负向量学习,这一过程旨在将医疗代码映射成非负实值向量表示。通过汇总学习到的就诊中的医疗代码的向量表示来构建初始就诊向量,并用作下一步的输入。其次,结合BiLSTM和自注意力机制学习不同就诊向量的权重,并通过加权求和构建患者表示。最后,将学习的患者表示应用于患者死亡率预测任务当中以评估提出方法的有效性。实验结果表明,提出的方法显著改善了患者死亡率的预测效果,另外与原始数据和其他表示学习方法相比,提出的方法学习到的向量表示在多种分类器上都表现出了良好的性能。(2)针对不同EHR研究任务对有效学习数据表示的贡献率以及它们之间的关联性,提出了一种基于双向门控循环单元网络(BiGRU)和自注意力机制的多任务表示学习方法。首先,利用BiGRU作为编码器学习患者就诊序列的隐藏状态向量,将其用作患者死亡率预测和序列重构两种不同任务网络的输入。其次,同时执行这两项任务以优化向量表示和提高患者死亡率的预测性能。在患者死亡率预测任务中,引入自注意力机制衡量患者就诊向量与患者死亡率之间的关联性,为不同的就诊向量学习不同的权重。同时,添加一个与softmax分类器相连接的全连接层用于死亡率预测。序列重构任务是一种无监督的学习过程,该过程是将BiGRU作为解码器来重构就诊向量。这两项任务共享编码网络,并共同为编码网络的参数优化和特征学习做出贡献。最后,将提出的方法应用于实际EHR数据集中,实验结果表明,该方法能够学习到有效的患者表示并且能够改善患者死亡率的预测性能。

关键词： 核心自我评价   生命意义感   应对方式   学习倦怠   初中生  

摘要： 学习倦怠是发生在初中生身上的一种常见现象,学习倦怠会使初中生对学习持有消极态度,学习动机减弱甚至导致迟到、早退、网络成瘾等不良行为。本研究将应对方式、生命意义感放入核心自我评价对学习倦怠影响路径之中,考察初中生核心自我评价是否会通过应对方式、生命意义感对学习倦怠产生影响。采用问卷调查的方法,以核心自我评价量表、简易应对方式量表、生命意义感量表、学习倦怠量表为工具,选取初二到初三729名初中生进行问卷调查,在数据处理方面通过SPSS21.0和process插件对回收问卷进行描述性统计分析、单样本t检验、独立样本t检验、相关分析以及中介效应检验等。研究结论如下:（1）初中生核心自我评价、生命意义感、学习倦怠在性别上差异显著,但应对方式在性别上不存在显著差异。（2）初中生核心自我评价、应对方式、生命意义感在是否留守上不存在显著差异,学习倦怠在是否留守上存在显著差异。（3）初中生核心自我评价、应对方式、生命意义感、学习倦怠两两之间显著相关。（4）初中生核心自我评价不仅可以直接影响学习倦怠,也能通过应对方式和生命意义感的中介作用间接影响学习倦怠。基于以上研究结论,提出如下教育启示:第一,组织学生交流自身榜样并提供成功机会。开展团体心理训练,改变初中生不当认知。第二,普及应对方式心理知识,差异化引导学生应对方式。利用课堂教学,引导学生积极应对问题。第三,开展生命教育主题的课外活动。帮助学生树立目标,学会及时求助。