摘要： 在小学时期由于认知能力的限制,学生对教师的依赖度比较高,而到了初中时期,学生已经具备了一定的知识基础与认知水平,这一时期是他们逐渐降低依赖,提升自我的时期。基于此,在英语学科的教学过程中,教师需要对学生进行一定的学习方法方面的指导,让他们知道如何依靠自己进行英语学习。同时,教师应当让学生明白一个道理,即学习方法没有明显的优劣之分,优秀的学习方法有很多,不能贪多,而是应当在不断的学习过程中寻找适合的自己的学习方法,并掌握学习方法的特点,强化对学习方法的运用。因此,

关键词： 物理仿真   深度学习   语义实例分割   位姿估计   机器人抓取  

摘要： 三维点云是一种重要的数据结构,能够提供比图像更加丰富的几何信息。随着传感技术的不断提高以及深度学习在三维领域的不断突破,基于点云的深度学习方法成为了许多工业自动化应用中的一种全新的解决方案。物体位姿估计是许多场景感知应用的关键,对光照和纹理信息不敏感的点云数据逐渐地发挥了重要的作用。本文围绕具体的机器人散乱抓取应用,针对非结构环境下的堆叠工件,提出了一种基于点云模型的物体位姿估计深度学习方法,其主要内容包括如下四点:(1)针对真实数据集在标注时的时间消耗过大的问题,提出了一种仿真数据集的生成方法,利用物理引擎模拟工件堆叠的真实场景,并渲染得到场景点云。每个样本中的点均包含对应的语义标签和实例标签用于分割的训练,每个实例包含对应的位姿标签用于点云位姿估计的训练。(2)提出了一种点云语义实例分割网络,能够对场景点云进行语义分割和实例分割,从而获得单个实例点云用于后续的位姿估计。本文改进了语义特征和实例特征的融合方式,显著降低了网络对内存的消耗,同时利用两次聚类算法得到了更为纯净的实例点云。实验表明,提出的分割网络能够准确地识别场景的实例,并且在仿真数据集中的模型能够很好地迁移到真实数据集中。(3)提出了一种基于投影的点云位姿估计网络,能够针对输入的单个点云预测其准确的6D位姿。本文将点云投影到二维平面生成多个易于处理的平面特征图,并进行融合,显著提高了位姿估计的准确度。同时,针对对称工件的位姿歧义性,提出了一种带权重的损失函数。实验表明,本文的位姿估计方法在稳定性和速度上都优于传统的基于特征匹配的方法。(4)针对提出的两阶段位姿估计网络,搭建了机器人bin-picking系统平台,用于验证算法在非结构环境下的有效性。本文直接利用Python脚本编写集成程序,通过Socket与机器人建立通信,控制机器人执行抓取操作,整个算法流程均通过Open3D进行了可视化。实验表明,本文提出的点云位姿估计方法在遮挡堆叠的复杂场景中仍然具备高度的鲁棒性,能够顺利完成工业零件分拣的任务。

关键词： 自动驾驶   深度强化学习   条件赋能   分布式优先级经验回放   数据聚合  

摘要： 城镇驾驶任务是当前最具有发展前景的领域之一,它具有非常大的商业价值与科研价值。模仿学习是解决该任务的一种主流方法,但是其需要大量带标签的训练数据。同时为了使车辆具有处理极端情况(比如车辆即将发生碰撞)的能力,需要大量极端情况下的训练数据,这需要大量的人力物力且困难重重。但强化学习利用奖励机制让车辆在环境中进行探索学习所以不需要任何带标签的训练数据,并且强化学习能够利用神经网络进行策略和价值估计的拟合并感知理解环境状态,从而实现端到端的自动驾驶和导航控制。由于强化学习使用奖励机制进行学习,这种奖励信号相比于直接对动作的监督信号而言非常弱,且高维度的环境观测会限制经验池的容量,所以强化学习方法难以学习规模大参数多的神经网络。此外,对学习具有更重要作用的经验数据比如车辆即将发生碰撞,在交叉路口需要转向等数据在智能体与环境交互产生的总数据中占比非常低,这导致了智能体长时间无法学习到关键策略。针对该任务中强化学习难以学习复杂网络的问题,本文将条件赋能方法引入强化学习中。通过预先训练对环境观测的降维编码器,将降维结果作为条件赋能信息并融合其他具有先验知识的离散状态的条件赋能信息作为强化学习算法的输入,降低了城镇驾驶任务的环境观测信息的复杂度,增加了经验池的容量,并使得强化学习算法只需要学习规模较小的网络。实验结果表明基于条件赋能的强化学习方法能够有效降低学习难度,并且在该任务中基于价值迭代的强化学习方法在训练难度与收敛速度上比基于策略梯度的强化学习方法有显著优势。针对高效经验数据占比非常低导致长时间无法学习到关键策略的问题,本文提出利用分布式优先级经验回放增加智能体与环境交互产生的数据的多样性。并基于数据聚合的方法,根据车辆所处任务类型以及当前策略表现进行关键状态的采集并赋予合适的优先级,从关键状态集中进行经验采样用于强化学习训练。实验结果显示该方法在仅利用单目摄像头的自动驾驶测试基准上超过了已有的强化学习方法并接近成功率最高的模仿学习方法。在最困难的驾驶情景中泛化能力超过了目前最好的模仿学习方法,并且碰撞和闯红灯次数更少,驾驶安全性更高。

关键词： 机器学习   众包   标签噪声   质量控制  

摘要： 众包技术的快速发展使得众包平台成为机器学习获取训练数据的一个重要来源。但是因为众包平台中工作者的不可靠性,获取的数据中存在着噪声。数据中的噪声会对机器学习模型产生很大的负面影响,因此需要对数据进行筛选或者是调整机器学习模型结构以减少噪声对模型的影响。传统的机器学习处理噪声的方法大多只考虑到样本的难度或者是标签的类别,而忽略了众包平台中一些工作者的相关的信息。本文着重于探索利用众包中的冗余回答来获取相关的工作者特征,对其进行建模以提高用众包数据训练的模型的准确度的方法。论文的主要贡献如下:(1)首先介绍了传统的机器学习中处理噪声的方法,然后总结了建模工作者来提升机器学习模型准确度的方法,即:一类方法通过分析工作者特征来提升聚合众包数据标签的质量来提升训练的模型的准确度,另一类方法将原始的冗余数据输入到模型中,在训练模型的同时建模工作者来提升模型准确度。(2)针对流行的二分类的任务,在同质工作者的情况下,设计了一个机器学习与众包相互辅助并融合的方法,充分利用已被完成的历史任务来训练模型以辅助完成当前任务。首先,利用历史数据中标签的冗余特性估测获取工作者的错误率以修改分类器的损失函数,并用历史数据训练分类器。然后,用分类器来预测当前批次的任务的回答,将分类器视为一个提交了当前任务的所有回答的虚拟工作者,并将其回答与工作者的回答融合在一起以辅助当前任务获得最终的回答。实验表明,该方法充分的利用了众包中的信息,达到了机器学习与众包相互辅助的效果。(3)针对多分类任务,研究了在工作者为异质,且存在恶意的工作者的情况下,使用原始冗余数据训练并优化深度学习网络模型的问题。为了减少恶意工作者对模型的影响,本文提出了一个利用可信工作者提供的可信标签计算其他工作者提供的标签与可信工作者提供标签的相似度以筛选出恶意的工作者并处理其标签的方案,通过处理恶意工作者的回答来减少标签中的噪声以提高其训练出来的模型的准确度。本文在AMT上的Label Me数据集上进行了实验,首先对数据集进行了分析,然后评估了恶意工作者对模型的影响,之后使用本文提出的方案来筛选处理数据集合,判断方案中的各个参数对筛选效果的影响,最终证明了该方法能够有效的筛选出恶意的工作者,并且使用处理完毕的数据集训练出来的模型的准确度得到了提升。

关键词： 生物医学文本   文本分类   命名实体识别   关系抽取   触发词抽取  

摘要： 随着生物医学和互联网技术的发展,近年来生物医学领域相关资料、文献、数据等数字化文本资源增长迅速。海量的生物医学资源中蕴含着丰富的、前沿的生物医学知识,是相关从业人员重要的知识来源。要从如此庞大的数字化生物医学文本资源中迅速、准确地挖掘和发现真正需要的特定知识,必须借助于智能化的有效技术手段和工具来应对信息爆炸时代所面临的挑战。为此,本文围绕生物医学文本挖掘的关键方法,利用深度学习技术从生物医学文本分类、命名实体识别、关系抽取和触发词抽取四个任务展开深入研究。对于生物医学文本分类任务,针对现有的神经网络模型未能充分有效地引入和利用领域知识的问题,提出了一种分层领域知识感知的文本分类方法。该方法通过引入完整的实体信息和规范化的概念信息并构建分层知识感知注意力模块,从单词级和句子级两方面增强领域知识与原始输入间的信息交互。在蛋白质交互关系文献分类数据集上的多项评估结果表明,所提模型能够更有效地利用领域知识,其性能达到了当前先进水平。对于生物医学命名实体识别任务,针对特定领域带标注的训练语料不足和单一的文本词向量无法充分表示输入序列隐含的语义特征两个问题,提出了一种基于多任务学习和丰富特征输入的命名实体识别方法。该方法利用词向量、字符向量和情境化向量的多种组合构建了多通道神经网络,并设计了特征整合方法实现各通道输出表示的自适应融合,同时基于多任务学习策略引入实体类型一致的辅助语料库协同训练。实验表明,多任务学习策略和多通道机制能够明显提升模型性能。对于生物医学关系抽取任务,针对临床文本存在复杂长句中实体对分布密集且样本类别不平衡的问题,提出了一种基于双路分段注意力神经张量网络的关系抽取方法。该方法基于张量权重矩阵改进神经网络的编码方式,同时设计了两种分段注意力模块提升模型对复杂长句的特征提取能力,并提出了权重自适应的交叉熵损失函数。实验结果表明该方法在临床文本关系抽取数据集上实现了先进的性能。对于生物医学触发词抽取任务,针对目前浅层神经网络提取特征不充分和触发词存在多义性和歧义性问题,提出一种基于多层残差门控神经网络的触发词抽取方法。该方法考虑到触发词词组的标签依赖性,将触发词抽取抽象为序列标注任务,设计了融合门控层的残差Bi LSTM-CRF架构迭代地捕获和提取特征,同时引入ELMo和Bi LSTM分别学习触发词的情境化表示和内部字符结构表示。实验表明该方法在生物医学触发词抽取数据集上取得了良好的性能。

关键词： 《学记》   有效学习   要素构成   方法探究  

摘要： 《学记》作为世界上最早的论"学"专著,其学习理论对当代学习方式的变革具有很好的启示意义。《学记》中学生的有效学习是指学生有效率、有效果、有效用、有效力的学习,具有主动性与交互性、普遍性与个性化、全局性与灵活性、生成性与全面性相结合的特点,有效学习由学习动机、学习准备、学习内容、学习原则和学习运用五要素构成包括重视学习、立志勤勉、了解自我、重视基础、联系生活、善于联想、善学善问、藏息相辅、活学活用等要方面。《学记》中通过自主、合作和探究的方式来促进学生的有效学习,对当代提高学生的有效学习有重要的启发作用。

关键词： 标记分布学习   局部标记相关性   标记私有特征   共享特征  

摘要： 为了更好地解决标记多义性问题,研究者们提出了一种新的机器学习范式——标记分布学习。与传统的解决标记多义性问题学习范式相比,标记分布学习在使用标记描述示例的时候,不再是只关注每个标记是否属于示例,而是给描述示例的每个标记一个具体描述度,能够准确地表示出每个标记在示例描述程度上的差异,强化了标注信息的能力。标记分布学习的任务是通过已知训练数据去构建模型,用以预测未知示例的标记分布。近年来,标记分布学习得到越来越多研究者的重视。现有的大多数标记分布学习算法要么不考虑标记间的相关性,要么从全局角度利用标记间的相关性。然而,在现实世界的任务中,能被所有示例所共享的标记相关性基本上是不可能存在的。多数情况下,标记间的相关性仅被局部范围内较为相似的示例所共享。同时,现有的标记分布学习算法大多直接使用原始高维特征进行计算,没有给描述示例的标记针对性地选择出具有辨别性的特征,使得算法性能会受到无关和冗余特征干扰。本文针对上述问题,提出了一种基于局部标记相关性的标记分布学习算法(Label Distribution Learning Based on Local Label Correlations,LDL-LLC),主要研究内容如下:对训练数据进行分组,将每组训练数据的标记相关性约束在标记输出上,并且不预先指定任何标记相关性矩阵来生成局部流形正则化器中的拉普拉斯矩阵,而是将拉普拉斯矩阵当成变量去迭代更新,来探索和利用局部标记相关性。同时,引入特征选择常用的范数正则化对权重参数矩阵进行约束,来学习每个标记的私有特征和所有标记的共享特征。最后,用求得的权重参数矩阵去预测未见示例的标记分布。在多个真实标记分布学习数据集上的对比实验验证了本文提出的LDL-LLC算法性能良好。

关键词： 高中数学   三角函数   学习方法   解题方法  

摘要： 高考是人生的重要转折点,高中是学生学习的关键期,学习方法和学习效果会直接影响学生的高考发挥,数学是高中学习主课之一,所占分值较高,三角函数是数学的重要内容,也是比较难掌握的知识点,很多学生容易对这一内容产生厌倦心理。因此高中数学教师应该结合学生实际情况深入分析三角函数的知识内容,帮助学生找到提高学习兴趣和学习能力以及学习方法的有效途径。三角函数具有数形结合和代换等特点,学好三角函数对数学综合水平的提高发挥促进作用,基于此,本文阐述高中数学三角函数知识学习方法,以提高学生数学学习水平。

关键词： 投资组合管理   图神经网络   强化学习  

摘要： 随着我国经济不断发展,根据中国统计局2019年发布的信息,我国GDP同比6%左右增长,全年全国居民人均可支配收入同比增长8.9%。我国居民收入不断提升,有了更多的闲置资金,产生了更多的投资需求,有投资意愿的人约占总人口的65%,这对提高投资组合管理效率提出了更高的要求。投资组合管理最基本的思想是要平衡风险和收益,该思想是由马科维茨在均值-方差模型中提出的,通常可以用夏普比率来衡量一个投资组合的好坏。在文献中,有许多相关研究,有基于均值-方差模型进行优化的传统算法,也有基于传统机器学习的算法。但由于金融市场的复杂性,这些并不能完全捕捉市场信息。随着大数据的兴起和计算机技术的发展,深度学习可以学到传统模型难以捕捉的深度信息和特征,往往会有更好的预测效果;同时强化学习算法因具备决策优化能力,更加符合投资组合管理决策的逻辑,因此可直接应用于投资组合管理上。综上所述,本文考虑使用深度强化学习算法解决投资组合管理问题。在现有文献中,投资组合管理的深度强化学习算法有两个问题,一是提取特征时对于投资组合中金融产品间的相关性把握不全面,忽视了金融产品间的关联性;另一个是在进行资产组合调整时,很难考虑到当前已经持有的资产组合,这样会忽视资产组合调整时带来的成本与收益问题。针对这些问题,本文提出运用图神经网络进行特征的提取,通过相似度矩阵以及谱聚类方法来获取市场的图结构信息,以此让模型可以考虑到金融产品间的关联性息,同时利用当前持有的资产组合比例向量对于获取市场的图结构信息进行加权修正,让模型能够关注到已经持有的投资组合情况,做出更加合理的决策。本文采用股票市场的真实数据对算法进行了实证研究,采用了万得数据库中提供的沪深300的股票数据,包含300支股票从2014年6月到2020年7月的日度数据。本文选取了股票开盘价,收盘价,涨跌幅,交易量,市盈率,市净率六个和收益率或波动率相关的特征,并且选取之前一周,五个交易日内的特征来获得短期历史信息,并对每个特征选择近一个月内的数据计算其指数加权平均数来获取更长期的历史信息,以此建立共计6*5=30个特征。本文通过谱聚类和分层抽样实现了市场的模拟,选取了199支股票进行建模,同时引入了现金当作一种资产选择。在此基础上构建了基于归一化优势函数算法(NAF算法)的强化学习算法,策略为调整资产组合的持有比例向量。在设计强化学习框架时,本文设计奖励函数时把收益当作奖励函数,同时奖励的折现率设置为无风险利率以贴合现实逻辑。设计策略时,考虑了现实市场情况,股票买入隔天才能卖出,所以设为日度交易,并且计算成本时完全按照中国市场情况,分买入和卖出分别计算。同时考虑到消费者心理,设立止损机制,亏损到一定程度后会结束交易,这样综合考虑了短期和长期收益的平衡及消费者的心理承受能力。在此基础上,本文在测试集上进行了验证。首先验证了本文所使用的图神经网络、以及把持有投资组合向量作为权重的方法的有效性,可以发现图神经网络可以有效提取市场信息,持有投资组合向量可以让模型能够关注到已经持有的投资组合情况并作出更好的决策,本文提出的算法相较于之前的的使用卷积神经网络,循环神经网络的算法在不同的市场情况下(包含牛市,熊市和波动较大的市场)都取得了更好的投资回报。同时本文算法学习到的策略在不同市场情况下均取得了稳定的收益率,并且显著超过了市场大盘水平,在不同的市场情况下,收益率均超过沪深300指数10%以上;在各种市场表现下,相较于其他以股票为标的物的基金:股票基金、被动指数基金、和增强指数基金,都取得了显著超过其平均水平的表现,有着稳定出色的表现,不随市场的波动而发生起伏。其收益率稳定超过指数类基金15%以上,波动率相较于股票基金下降了20%以上。本文算法学习到的策略的表现不同于股票基金和指数基金,没有股票基金那么高的波动率,同时相较于指数基金有更高的收益率,并且稳定取得了较高的夏普比率,整体投资风格趋向于成长型基金,比较适合希望希望获得长期稳定收益的投资者。本文研究得到的策略具有一定现实意义,并且相较于市场上已有的基金也有一定的优势,比较适用于那些不满足于指数基金的低收益,同时也担心股票基金风险太高的投资者们。并且使用图神经网络来提取市场信息的思路,也在实证中得到了验证。对其他金融相关业务有一定的指导意义。

关键词： 逆散射   机器学习   人工神经网络   三次样条   数据缺失  

摘要： 逆散射问题是一类典型的数学物理逆问题,在石油勘探、医学成像等领域有广泛应用,因此,关于逆散射问题的研究具有重要的科学意义和实用价值。本文主要研究一类声波逆散射问题:已知入射波场和测得的远场信息,重构未知散射体的边界形状。此类问题的数值求解通常会面临非线性性和不适定性等难点,特别地,实际问题中的观测信息常常会存在不可避免的数据缺失,使得逆散射问题的有效求解极具挑战性。近些年,随着机器学习技术的不断发展,该技术被广泛的应用于图像处理、地质勘探等领域。由于机器学习技术是数据驱动的计算技术,在一定程度上可以弥补传统算法中的数据缺失问题,所以机器学习技术被广泛应用到逆问题研究中。本文将基于机器学习技术,对这一类声波逆散射问题进行讨论分析。本文主要对以下问题进行讨论:首先,给出了通过三次样条插值函数近似散射体边界方程的方法构造数据集的数学语言表达。其次,通过人工神经网络模型,应用Fourier方法和三次样条方法分别构造数据集,对单个散射体进行数值反演,通过计算反演结果与散射体真实边界形状的相对误差,得到两种方法构造数据集获得的反演结果与真实散射体边界吻合度比较结果。同时发现对声硬边界条件下单个散射体的反演,机器学习方法同样是有效的。再次,以Fourier方法构造数据集为例,对多个散射体边界进行反演,发现通过机器学习方法对多个散射体的反演同样有很好的效果,并通过反演结果与散射体真实边界的相对误差值得到两个散射体在不同边界条件、远近及大小情况下的反演结果对比,验证了机器学习方法对上述问题均是有效的。最后,讨论了有限孔径和无相位数据问题的反演结果,验证了机器学习方法对数据缺失问题是有效的。