关键词： 路径重积分   语音情感识别   文本情感识别   多模态情感识别   视频人脸表情识别  

摘要： 多媒体信息情感识别技术能让机器根据人的情感状态做出不同的反馈,对于提高人机交互智能化水平有重要意义。语音、文本和表情信号是人们表达情感的主要方式,包含了丰富的情感信息。因此,基于语音和文本的情感识别以及视频人脸表情识别是多媒体信息情感识别研究领域重要的研究方向。深度学习方法在情感识别领域取得了较好的效果,但仍存在网络较复杂参数量较大的问题。因此如何高效地提取情感特征仍然是具有挑战性的任务。近年来,路径重积分作为一种高效的特征提取方法,在手写体识别、金融数据分析等领域得到成功的应用,展示了其对序列型数据中的依赖关系进行建模的优秀性能。本文利用路径重积分方法,基于各种数据的特点进行了针对性的改进,设计了轻量级网络,从而以较少的参数量提取有效的情感特征,主要工作如下:1、设计了基于高层特征编码器和多支路重积分方法的轻量级语音和文本情感识别网络。(1)在语音情感识别网络中,高层特征编码器从原始声学特征中编码高阶重积分信息,能保留更多路径局部信息,避免特征冗余。多支路重积分方法将原始特征和高层特征分别视为单独的路径计算重积分特征,减少重积分特征数量的同时保留高层特征中的情感信息。(2)首次将路径重积分方法应用于文本情感识别,设计了基于高层特征编码器的文本情感识别网络。(3)结合语音和文本情感识别网络提取的重积分特征进行多模态情感识别。实验结果表明,本文方法能有效地提取和结合多种模态数据的情感特征,以轻量网络获得较高的准确率。2、提出了一种基于关键点轨迹路径重积分特征的表情识别方法,首次将路径重积分方法引入到视频人脸表情识别任务中。该方法包括利用路径重积分特征表征关键点轨迹动态变化信息,设计轻量网络提取空间结构特征,以及引入重积分特征注意力模块。路径重积分方法能在不引入训练参数的情况下提取轨迹的时空特征,空间结构特征充分利用了脸部结构信息,而重积分特征注意力能让网络关注于与情感更相关的重积分特征。实验结果表明,本文提出的方法以非常少的参数量达到了可与现有最先进算法比较的准确率,优于其他基于关键点轨迹的方法。

关键词： 工程成本   成本估算   非线性拟合   改进灰狼优化的支持向量机  

摘要： 开发住宅小区时,工程成本会受到诸多因素影响,各个影响因素之间的内部关联较大,影响因素的变化会改变其内部的关联关系。通过工程实例研究发现,住宅小区项目的成本主要取决于其工程特征,而工程成本的估算方式并不是简单的影响因素间的加权求和,因此,基于机器学习算法的评价手段,建立影响因素与工程成本之间的非线性映射关系,可以为实现工程成本的智能化估算提供新的方法和技术。首先,本文以往期住宅工程成本估算为研究对象,据企业内部成本管理手册,分析了不同工程特征（影响工程成本因素）的数据特点,确定特征组成及数据估算方案。其次将待估算数据分为华中区、河南区、华东区、京津翼、大湾区以及华西区6个区域对象,把15个特征因素作为影响因素对工程成本进行估算分析。本文在改进灰狼优化原理与支持向量机算法的基础上,提出一种改进灰狼优化的支持向量机（IGWO-SVM）方法。接着为了对比分析改进灰狼优化的支持向量机（IGWO-SVM）在工程成本估算过程中的优势和有效性,先基于经典的神经网络算法,包括BP人工神经网络（BP）、极限学习机（ELM）以及模糊神经网络（FNN）建立15个工程特征与工程成本之间的拟合关系,同时与经典的粒子群优化的群智能搜索方法进行对比,利用相关系数（R2）、均方根误差（RMSE）和相对误差（RC）来评价估算效果。最后,利用SVM的径向基核函数（RBF）将低维15个特征数据映射到高维空间中进行线性估算,利用IGWO改进影响SVM估算性能的两个重要参数,基于上述的R2、RMSE和RC进行估算效果的对比分析。从评价结果来看,整体上华中区、京津翼、大湾区的工程成本估算效果要优于河南区、华东区以及华西区。机器学习方法中FNN取得了最好的平均估算效果,对6个区域的整体平均估算R2为0.9470,RMSE为204.6303,RC为4.2283%;BP最差,对6个区域的整体平均估算R2为0.8919,RMSE为329.7094,RC为6.97%。而IGWO-SVM获得了最好的估算效果,对6个区域的整体平均估算R2为0.9902,RMSE为77.9165,RC为1.5833%。并基于IGWO-SVM,对工程实例的幸福里小区的工程成本进行了估算,得到了相对于实际工程成本2.39%的计算偏差。本文的研究结果表明,IGWO-SVM可以作为一种有效的智能化估算方法实现工程特征和工程成本之间的非线性拟合,为实现工程成本的提供新的方法和技术。

关键词： 小学数学   反思性学习能力   意义与策略  

摘要： 学习的过程就是不断反思的过程,真正有效率的学习应该是反思性的学习,特别是对于数学这门科目来说,反思性学习非常重要,如果只懂得学习而不时常反思,学习效果将会事倍功半。因此,在小学时期就应该培养学生的数学反思性学习能力,为学生未来的数学学习打下良好的基础。

关键词： 初中英语   小组合作   学习方法  

摘要： 在全球化的发展趋势下,各个国家之间的交流逐渐频繁,英语学习的重要性不言而喻。英语是世界通用的语言,是各国交流的重要"桥梁"。为了顺应时代的发展路径,英语教育教学活动需要不断的改革深化,并向着多元化的方向进行延伸。初中英语小组合作的过程中,不仅可以提升学生之间的交流与互动性,还可以加强小组之间的合作,提高实践性。因此,本文首先提出了需要探究的主要内容和问题,之后,结合当前的现状,针对性地构建出科学的应用措施,以此来激发学生的学习兴趣,更新教育理念,培养创新精神。

关键词： 图神经网络   对比学习   无监督学习   样本对构造   节点分类  

摘要： 长期以来,图表示学习都是一项重要且具有挑战性的任务。近年来,图神经网络在图表示学习方面展现出了较好的性能,显著地提升了图表示学习模型在诸如节点分类,链接预测和图分类等下游任务上的表现。许多图神经网络模型都基于半监督学习,然而对于许多实际的应用场景,例如蛋白质分析,需要大量的成本,甚至需要专业领域的知识才能人工标注足够多的数据。因此,受无监督对比学习最新进展的启发,本文提出了节点级图对比学习模型。同时,本文提出了正负样本对构造策略进一步提升节点级图对比学习模型的效果。在节点级图对比学习模型设计方面,本文将由同一个节点编码得到的两个节点表示作为正样本对,由不同节点编码得到的节点表示作为负样本对,之后进行节点级对比学习使节点嵌入更加可分。该模型主要包括三个部分:(1)图数据增强模块,负责生成以不同节点为中心的增强子图;(2)编码器和读出函数,负责将增强子图编码成表示向量;(3)节点级对比学习损失函数,使模型学习到以相同节点为中心的不同增强子图之间的相似特征。在节点正负样本对构造方面,本文分别提出了基于节点相似性的自适应正负样本对构造策略以解决类冲突问题和基于行列式点过程的多样性负样本采样策略以解决距离扭曲问题。自适应构造的正负样本对使得节点特征嵌入具有区分性的同时保留有利于下游任务的节点相似性。多样性负样本采样使得更新后的节点嵌入与各负样本在特征空间均匀远离。最后,本文对所提模型的节点编码能力进行了实验验证。实验结果表明,本文提出的节点级图对比学习模型在六个数据集的节点分类任务上取得了良好的结果,特别是在Amazon-Computers数据集和Amazon-Photos数据集上,相比当前最优秀的无监督对比学习模型分别提升了2.6%和3.6%的分类准确率。本文还通过图数据增强组合方式实验和图数据增强强度实验对图数据增强对模型性能的影响进行了分析。在图对比学习的节点正负样本对构造方面,本文通过消融实验验证了自适应正负样本对构造策略和多样性负样本采样策略的有效性,在Citeseer数据集上,自适应正负样本对构造策略将节点分类准确率提升1.7%;在Cora数据集上,多样性负样本采样策略将节点分类准确率提升1.0%。

关键词： 图像识别   机器学习   深度学习   不平衡数据分类   增量学习  

摘要： 图像识别是计算机视觉领域最为基础的任务。基于深度卷积神经网络(Deep Convolutional Neural Network,DCNN)的图像识别方法是目前的主流方法,取得了远超传统方法的性能。大多数基于DCNN的图像识别方法依赖于静态环境,并且需要规模庞大且类别分布均衡的训练数据。但在实际场景中,数据分布往往不平衡,数据规模在持续增长,新类别不断涌现,给图像识别带来了巨大挑战。在面对数据不平衡时,若采用通用的算法进行训练,DCNN在预测时将偏向于多数类,并且在少数类上易于发生过拟合,性能欠佳。数据不平衡通常伴随着数据复杂性,即数据通常具有类间相似度高,类内差异大的特点,进一步影响了模型的性能。面对数据增长问题时,因新知识的学习和新旧类别的数据不平衡,增量学习模型在旧数据上的性能将会下降,即灾难性遗忘。针对上述挑战,本文基于深度卷积神经网络强大的表示能力,从对特征学习进行校正与约束的角度开展了研究,并设计了相应的图像识别方法。本文的主要工作如下:(1)为减少数据不平衡及其复杂性的影响,设计了一种基于协方差判别损失的图像识别方法。该方法利用考虑了一阶和二阶距离的协方差判别损失,给难样本的特征学习提供了更多约束,实现了少数类和多数类的深度特征的有效分离。本文给出了相应的难样本挖掘算法,进而可筛选相应的错分样本或具有不合适特征表示的样本。通过在ISIC2018皮肤损伤数据集和不平衡FGVC-Aircrafts数据集上的实验,证实了本文设计的方法能有效校正少数类的深度特征和处理不平衡数据分类问题。(2)从考虑数据内部结构的角度出发,本文设计了一种基于聚类度量损失的图像识别方法,以更好地处理数据不平衡及其复杂性。该方法首先采用k-means方法挖掘聚类结构,然后利用交叉熵损失和聚类度量损失进行联合优化,进而增强了特征学习和分类能力。所设计的聚类度量损失通过对聚类距离、类内距离与类间距离的关系进行约束,实现深度特征的有效校正,保证了类别之间的间隔。本文在不平衡Stanford Dogs数据集和不平衡Describable Textures数据集上进行了对比实验,表明本文设计的方法一致优于对比方法;与此同时,通过消融实验证实了所设计的损失函数每一项的有效性。(3)针对新知识的学习和新旧类别的数据不平衡导致的灾难性遗忘,本文将基于模型的方法嵌入到基于存储的方法,提出一种基于样例特征学习的多类别增量学习方法。首先,本文利用基于模型的Memory Aware Synapses(MAS)模块计算参数重要度,并以此来减轻权重漂移,并保持旧数据特征的可分性。与以往增量学习方法不同的是,本文对图像尺寸进行预处理,利用预训练网络进行参数初始化,减少了训练次数,进一步减轻了模型变化。其次,利用Exemplar-Based Subspace Clustering模块进行样例挖掘,保证了样例的充分性和多样性。最后,在合适的条件下,本文采用非参数的多中心最近邻类均值分类器替代MAS模块的全连接层,来降低训练次数,并减轻新旧类别的数据不平衡的影响。本文通过进行消融实验和对比实验,表明基于样例特征学习的多类别增量学习方法方法表现良好,并显著优于对比方法。(4)提出一种基于双分支深度最近邻类均值分类器的多类别增量学习方法。在样例特征学习的方法中,特征提取器和分类器是分别获得的,二者的匹配度不高。为此,本文提出了一种基于联合训练的方法——双分支深度最近邻类均值分类器,以更好地降低灾难性遗忘的影响。首先,该方法采用集成学习的方式对原始分支和再平衡分支进行训练,降低了新旧类别的数据不平衡的影响。其次,利用激活迁移损失函数来减少特征层面的灾难性遗忘,进而保持特征对于旧类别数据的可分性。最后,采用具有天然优势的最近邻类均值分类器进行预测,并实现了特征提取模块和分类器的联合训练,提升了两者的匹配度。对比实验表明双分支深度最近邻类均值分类器在新旧类别上具有良好的分类性能,而消融实验则验证了双分支结构、联合训练、激活迁移损失等模块的重要性和必要性。

关键词： 小样本学习   图神经网络   生成网络   多粒度  

摘要： 随着人工智能的飞速发展,深度学习也在各个领域取得了重大的突破与进展。但是,随着应用场景的不断涌现,在很多领域都面临着数据短缺或手工注释昂贵的现状,这直接限制了深度学习模型对新类别的应用。小样本学习突破了数据量对深度学习模型的限制,旨在让机器能够像人类一样掌握仅从几个例子中识别新类别的能力。目前在大多数小样本学习方法中,更多考虑的是样本的全局特征和样本标签的映射关系,容易忽略局部特征。另外,由于每次训练的样本量过少,大多数学者着重关注样本特征与标签间的关系,而忽略了标记样本和未标记样本间的联系。本文针对局部特征缺失和样本关联关系挖掘不充分这两个问题提出了基于注意力机制的显著局部图像生成网络和基于判别特征的多粒度图神经网络,本文的主要工作和创新点在于:针对目前小样本学习中的特征挖掘易忽略局部特征的问题,本文提出了一种基于注意力机制的显著局部图像生成网络。该方法从人类视觉角度出发,通过显著网络提取样本的前景信息从而消除复杂环境对小样本分类任务的负面影响。在此基础上,进一步构建了基于幻觉学习的图像生成网络,通过端到端的优化策略定位并生成用于小样本图像分类的显著局部特征。针对小样本学习中已标记样本和未标记样本间的信息传递问题,本文提出一种用于小样本学习的多粒度图神经网络,将小样本分类问题转化为图模型的标签传递问题,进一步挖掘样本间的联系。结合局部图像生成网络,将图神经网络作为推理机制,通过多粒度图像之间的相似性来迭代和更新图模型,从而预测样本标签,最终在图模型上实现未标记样本和标记样本间的标签传递。最后,在mini Image Net、tiered Image Net和CUB-200-2011等三个小样本学习基准数据集上实现了全监督和半监督实验,实验结果表明本文提出的方法在小样本分类任务上显著优于现有的其他小样本学习方法。

关键词： 非谓语动词   动名词   不定式   分词  

摘要： 传统英语教学将非谓语动词划分为"to do""V.-ing"和"V.-ed"三类的做法不利于学生的理解。笔者认为,英语非谓语动词应该分成四类,即动名词、不定式、现在分词和过去分词,其中,依据语法性质,动名词和不定式归为一组,现在分词和过去分词归为一组。这样,把具有同样语法性质的两类非谓语动词放在一起学习,有助于突出它们的共性,在学习过程中就可以把重心放在对比组内两种不同非谓语动词的差异性上。

关键词： 区域创新绩效   行政生态   官员特征   公务员制度  

摘要： 区域创新在我国现代化建设全局中占据核心地位,对区域创新绩效行政学影响因素的研究,是顺应我国创新驱动发展战略和提升地方政府核心竞争力的本质要求。已有的研究证实,区域创新生态系统有利于提升区域创新绩效,而且经济学家也证实了官员特征与经济增长和发展之间的相关关系。基于此,本文从本专业的角度出发,对行政生态、官员特征和区域创新绩效三者之间的关系展开经验研究。在文献回顾的基础上,本文构建出“行政生态-官员特征-区域创新绩效”的理论分析模型,通过对各个变量进行替代指标衡量之后,选取2013年至2017年的官方统计数据,构建出31个省区的155个样本的平衡面板,运用stata15软件对研究对象展开计量分析,最终得出四个研究结果:(1)行政生态水平与区域创新绩效具有显著的正相关关系;(2)官员年龄和任期与区域创新绩效呈先增后降的倒U型关系,即官员年龄较小或处于任职初期时,承受创新风险的能力较强,就更愿意为提升区域创新绩效做贡献,且会在平均在职年龄和任期内出现创新绩效最大值点;(3)官员教育禀赋、任职经历对区域创新绩效的影响会受到行政生态因素的正向调节——在低水平的行政生态情形下,教育禀赋和任职经历差异对于区域创新绩效的影响弱于高水平行政生态情形下,教育禀赋和任职经历差异对于区域创新绩效的影响;(4)东中西部地区不同水平行政生态和不同类别官员的特征对区域创新绩效的影响亦不相同——东部地区的区域创新绩效更多地得益于其市场创新主体的资金和技术资源,而中西部地区的区域创新绩效更加依赖于良好的行政生态和当地官员对区域创新绩效的建设热情。基于此,提出四点提升区域创新绩效的政策建议:一是,重视地区协调性建设,健全地方政府行政生态系统;二是完善公务员晋升考核制度,及时关注公务员任职年龄和任期内的创新动机;三是,改进公务员培训制度,专业化教育和任职经历并重;四是,打破对政府及其官员缺乏创新的认识,关注到公共部门的创新热情。

关键词： 识字   历史回顾   学习方法  

摘要： 本文试图从历史的角度,对建国以来我国主要的识字学习法作简要回顾,纵向比较三个不同时期在不同的大纲(标准)指导下,学生识字学习发生的变化。并提出了新时期识字学习的方法。