关键词： 强化学习方法   LSTM   FC   股票交易  

摘要： 将强化学习中的Q学习方法与深度学习方法相结合,构建基于LSTM的强化学习模型、基于FC的强化学习模型在我国A股上进行交易,使用累计收益、夏普比率评估模型性能,并与买入持有策略和MACD策略的表现进行对比。结果证明:基于强化学习方法的模型交易中在大部分选取的股票样本上的表现,优于买入持有策略和MACD策略;基于LSTM的模型获取的收益在选取的大部分股票样本上略高于基于FC的模型;针对不同的股票,因其个别趋势和特点不同,表现最优的策略会发生变化。

关键词： 数据学习   空调器   热环境   BP神经网络   LSTM神经网络   SVR模型  

摘要： 空调室内的热环境舒适性测试是评价空调器性能的重要方式之一。然而,非稳态的热环境以及种类繁多的空调器结构往往导致测试周期长,测试数量多,影响空调器热环境舒适性测试的检测效率和检测速度。为解决上述问题,本文提出一种基于数据学习的空调房间热环境预测与评价方法,为简化空调器热环境舒适性测试实验的测试流程,提升检测效率提供一种新思路。本文首先介绍了空调器热环境舒适性测试实验,并汇总了两种空调机型的热环境舒适性测试结果;其次,基于测试数据采用BP神经网络和长短期记忆神经网络(LSTM),对热环境测试的动态过程进行模拟预测,并对比分析不同处理方法对预测结果的影响;由于实验数据数量有限,结合空调系统与房间热环境协同仿真平台的模拟数据,采用多元线性回归(MLR)、BP神经网络、支持向量回归(SVR)三种数据学习方法,以空调系统主要部件结构参数(如蒸发器管径、翅片间距、管间距等)与控制参数(如设定温度、送风方式等)为输入构建了空调室内热环境评价模型,对其模拟结果展开分析。通过对空调室内热环境的预测分析发现,LSTM神经网络在预测精度上高于BP神经网络模型,单变量单步预测的拟合优度可达0.9以上;多变量单步预测中,具有最高拟合优度的参数组合均包含压缩机B相功率;在本文研究范围内,单步预测中,多变量预测不一定比单变量预测方法结果准确,应用过程中需根据实际情况选取;多步预测中,单变量多步更适用于波动较小的相对湿度预测,测试集的相对误差在3%以内,而波动较大的温度更适合多变量多步预测,测试集的相对误差在5%以内。通过对空调室内热环境的评价分析发现,基于不同结构及运行参数下的150组研究数据所构建的三类数据学习方法均具有一定的预测准确度。多输入单输出模型中,SVR模型对室内热环境评价指标(包括垂直空气温差、温度均匀度、温降速率、吹风感指数等)的预测精度均优于BP模型与MLR模型,其预测结果的相对误差分别保持在10%、8%、2%、5%左右;但在PMV指数预测方面,BP模型与MLR模型预测精度略优于SVR模型,相对误差可保持在20%左右。选取多输入单输出模型中效果最优的SVR模型构建多输入多输出模型,其测试集的拟合优度达到了0.8以上。

关键词： 企业名称   命名实体识别   BERT   双向长短期记忆神经网络   条件随机场  

摘要： 企业名称通常是字词进行复杂组合后的一个短文本,对这类实体的识别不同于其他中文语句,其具有长度较短、语义表达丰富、实体并列等特点,其识别的准确度直接影响企业名称检索、企业信息抽取与企业名称匹配等工作的效果。企业名称作为企业信息的载体能够在企业间合作及金融监管中发挥一定的作用,因此本文对企业名称命名实体识别进行了研究。传统识别技术在企业名称命名实体识别上依赖于人工建立词典与规则,需要耗费大量的人力与时间,且欠灵活性;其次利用神经网络模型对企业名称进行识别时,存在字向量表征单一,识别精确度较低的问题。本文采用自建真实的企业名称语料库,使用YEDDA工具对语料数据集进行了人工标注和分词,针对企业名称文本长度较短、语义表达丰富、词语组成复杂等结构特点,基于传统统计学方法以及深度学习框架对数据进行了试验。在对现有文献分析的基础上,选用了典型统计隐马尔科夫模型以及条件随机场模型,针对这两个模型分别设计了试验并将试验结果进行了对比,试验结果表明,在相同条件和数据集下,条件随机场模型的效能更优,综合评价指标F1值达到84.33%;同时,设计了BERT-BLSTM-CRF模型试验,使用BERT预训练语言模型以及双向长短期神经网络提取字的上下文信息以丰富字的语义,再利用条件随机场提取标签顺序特征,对相同数据集进行了试验,并与现有文献中的深度学习方法进行了对比。试验结果显示本文采用的模型得到的P值、R值、F1值分别达到96.78%、94.88%、95.22%,F1值高于其他模型10个百分点以上,有效提高了企业名称命名实体的识别率。

关键词： 发热伴血小板减少综合征   机器学习   分类   关联因素  

摘要： 目的发热伴血小板减少综合征(severe fever with thrombocytopenia syndrome,SFTS)是由感染发热伴血小板减少综合征病毒(severe fever with thrombocytopenia syndrome virus,SFTSV)引起的传染性疾病。传染性高、病死率高以及分布广泛等原因使SFTS成为严重的公共卫生问题。本研究旨在探究SFTS病人疾病严重程度的关联因素,并利用有意义的因素建立机器学习模型,为临床医生早期识别SFTS重症病人提供线索。方法选择河南省信阳市中国人民解放军联勤保障部队第九九〇医院(原中国人民解放军第一五四中心医院)作为研究现场,收集2019-2020年SFTS病人的临床资料并收集病人血清样本。根据病人病情将病例分为轻症、重症及危重症三个等级。比较三组间实验室检测指标的差异,选取有统计学意义的变量与病人疾病严重程度和血清SFTSV载量进行相关性分析,找到与病人病情及病毒载量有关联的因素。将与疾病严重程度有关联的因素纳入模型,使用机器学习方法中的决策树模型和Logistic回归模型构建早期识别模型。用交叉检验对训练的模型进行检验并得到最佳参数的模型。用受试者工作特征曲线下面积(AUC)、准者度(accuracy)、约登指数(Youden’s index)等指标对模型的预测性能进行评价。结果与病人疾病严重程度相关联的因素有年龄(r=0.478,p<0.05)、SFTSV载量(r=0.532,p<0.01)、PLT(r=-0.387,p<0.05)、WBC(r=-0.372,p<0.01)、AST(r=0.439,p<0.01)、ALT(r=0.307,p<0.05)、LDH(r=0.476,p<0.05)和CK(r=0.408,p<0.01)。其中PLT、WBC与严重程度呈负相关,其余变量均与严重程度呈正相关。与病人SFTSV载量相关联的因素有PLT(r=-0.347,p<0.05)、WBC(r=-0.307,p<0.05)、LDH(r=0.353,p<0.01)、AST(r=0.348,p<0.01)、ALT(r=0.331,p<0.01)、CK(r=0.329,p<0.05)、年龄(r=0.273,p<0.05)及淋巴结肿大面积(r=0.346,p<0.05)。使用受试者工作特征曲线(ROC)对病人严重程度进行初步预测发现,AST具有最高的预测性能,AUC和约登指数分别是0.782,0.534;其次是LDH,AUC和约登指数分别是0.763,0.485;年龄的预测性能最差,AUC和约登指数分别是0.586,0.183。使用CART算法分别基于患者实验室参数和临床特征信息构建决策树模型。通过比较发现,基于SFTS患者实验室参数构建的决策树的灵敏度为92.7%,特异度为70.0%,准确度为83.1%,约登指数为0.63,AUC为0.88;基于SFTS患者人口学和临床特征构建的决策树的灵敏度为82.9%,特异度73.3%,准确度为78.9%,约登指数为0.56,AUC为0.83。表明基于实验室参数的决策树的分类能力更加有效。构建Logistic回归模型,当准确度最大时,模型的灵敏度为66.67%,特异度为79.54%,准确度为76.09%,约登指数为0.46,AUC为0.84;当AUC最大时,模型的灵敏度为33.33%,特异度为99.17%,准确度为68.06%,约登指数为0.32,AUC为0.89。当模型的准确度达到最大时模型的预测性能达到最优。结论1.年龄、SFTSV载量、PLT、WBC、AST、ALT、LDH和CK与SFTS病人病情严重程度有关联,并且这些因素可以作为预测因子对病人进行分类。其中AST、LDH的预测性能最好。2.在决策树模型和Logistic回归模型两类机器学习算法中,决策树模型的分类能力优于Logistic回归模型,并且有结构简单、直观易懂等优点。3.随着模型复杂程度的增加,Logistic回归模型存在过拟合的风险,在临床应用的过程中应与决策树模型联合使用,综合分析。

关键词： 上证指数   频谱   深度学习   DeepAR  

摘要： 上证指数是当前最能代表国内证券市场信息的指数,其同比对数收益率具有一般金融时间序列的统计特性,适合采用深度学习的时间序列分析方法分析其历史演化的规律,对于预测上证指数未来走势从而采取风险调控或交易策略调整具有重大意义。本文探索了深度学习方法对证券市场技术分析中常用的周期分析和趋势分析的应用。首先用谱分析法对收益率分析了频谱特征,找出频谱主能量点,用正弦周期来拟合主频率周期,在深度学习的框架下构建了复合周期函数,采用梯度下降法拟合出幅值、相位等周期参数,并验证了上证指数的收益率存在典型的经济周期特征。其次用线性模型ARMA和GARCH分析了收益率趋势和波动性,为后续深度学习建模构建了基准。用深度学习领域的神经网络先手工实现了ARMA模型,接着使用常用于时间序列分析的LSTM模型分析了收益率的趋势,然后以该LSTM模型为基础网络构建了Deep AR模型分析了收益率趋势和波动性,最后将ARMA模型和Deep AR模型融合,该融合模型结合了ARMA模型和Deep AR模型的优点。

关键词： 行政处罚   自由裁量权   深度学习   卷积神经网络   自然语言处理  

摘要： 为了推进我国法治社会的建设,满足公民日益增长的法律诉求,司法行业正在不遗余力地进行深化改革。由于以律师、法官等代表的法律机构以传统人工的方式处理海量的法律文本已不再现实、“同案不同判”等涉及到司法自由裁量权的现象也屡见不鲜,因此如何借助大数据技术优势,提高相关机构工作效率,维护行政处罚决策的公平性就显得尤为重要。本文旨在通过大数据技术处理海量的法律文本,借助时下热门的深度学习方法,提高行政处罚决策的准确性。针对本研究中原始数据来源种类多、数据类型不明、裁量权推荐任务算法模型不定等情况,故在正式实验之前开展了预实验,确定了数据的具体类型以及具体的研究模型。并在随后的正式实验中,通过jieba分词、词频统计等方法,对收集到海量法律文书进行处理,使用TF-IDF构建专业的语料库,完成了数据的预处理任务。与此同时,为了证明案由分类任务的合理性,本文研究开创性的进行了案由论证任务,利用LDA模型为案由分类任务提供理论依据,在完成案由论证任务之后,使用Word2vec模型对部分文本进行文本向量化训练,并将向量化矩阵嵌入到卷积神经网络中去,完成本文研究的法律文本案由分类和自由裁量预测任务。虽然借助深度学习处理中文文本的案例并不少见,但是处理类型复杂、冗余信息繁多的司法行政文书的研究案例却非常少,所以为了保证研究的严谨性,本文作者从北大法宝、无讼网、中华裁判文书网等法律网站中选取原始数据,并在专业法律人士的建议下,对原始数据进行了重新组合（裁决书、判决书、裁决书+判决书等多种文本类型组合,以及有这些文本组合类型衍生出的信息组合）。通过在预实验中对上述这些类型文本的训练,结合多个不同阶段的效果,本文研究给出了最终的结论:由于判-决书保留的特征数最多,所以模型对其处理的效果最好。该结论从实验角度,证明了研究文本特征数越充分,研究模型的准确率也越高,对之后的相关研究具有借鉴意义。在本文正式实验中,为了给与案由分类任务直接的理论和实践支持,本文作者特意进行了案由的论证任务。在具体操作中,使用了LDA模型对法律文书进行无监督学习,取得了非常好的效果,证明了将研究收集的法律文书分为14种案由是合理的。区别于传统的法律专家评价机制,该结论在实践层面上,论证了相关法律网站将法律文书分为特定案由的合理性,对之后相关法律工作者进行案由分类提供了理论参考。为了选择最适合本研究的算法模型,本文研究借助多种模型评价指标对卷积神经网络等多种模型进行评估,并结合测试数据集的准确率情况,得出了最适合本文研究的模型,即Word2vec结合卷积神经网络。该部分成果可直接对法律工作者开展法律文本分类工作提供便利,也对相关领域选取何种模型进行分类任务具有很强的参考价值。在法律文书的自由裁量预测任务中,通过咨询法律专业人士以及相关文献,将原始数据的特定内容进行处理,得到自由裁量结果,并将其转为输出,构建了一个基于法律文本进行机器裁决的卷积神经网络模型,通过对模型的多次调参与训练,提高了模型进行法律文本裁量的准确性。该结果在一定程度上,填补了行政处罚领域有关自由裁量权的研究空缺,对后续的相关研究具有借鉴意义。

关键词： 多源无监督域自适应   负迁移   Wasserstein度量   多源非均衡域自适应MUBDA网络   样本优化  

摘要： 近年来,无监督域自适应(Unsupervised Domain Adaptation,UDA)算法成为了深度迁移学习算法的研究热点,该算法要求仅源域数据有标签,目标域数据无标签。目前,大多数UDA算法都是针对单源无监督域自适应展开研究,然而在实际场景中,源域数据往往是通过各种来源获得的,不同来源获得的源域数据与目标域数据在特征分布上相似但相似程度有所不同,而且不同来源得到的源域数据在数据分布上也会存在差异,单源无监督域自适应算法在解决这种多源域的实际情况时表现出了次优性能。而且,目前大多数多源域自适应算法也没有考虑到将各源域与目标域特征分布之间的差异信息加入到网络的迭代训练过程中,反而是均衡地利用各源域的特征信息进行迁移学习,这种处理不能合理有效地迁移各源域的特征信息,导致了负迁移现象的产生。本文主要针对多源无监督域自适应算法展开研究。首先,本文考虑多源域自适应过程中均衡利用各源域特征信息所产生的负迁移问题,基于Wasserstein度量以及最大均值差异(Maximum Mean Discrepancy,MMD)度量,提出了多源非均衡域自适应(Multi-source UnBalanced Domain Adaptation,MUBDA)网络;其次,为了进一步地提高目标域数据的识别精度,本文提出了样本优化算法,避免了无关信息的迁移。(1)针对多源域自适应过程中,均衡利用各源域特征信息所产生的的负迁移问题。首先,本文基于各源域与目标域特征分布之间的差异程度,提出了多源非均衡域自适应调节机制(Multi-source unbalanced domain Adaptation adjustment Mechanism,MAM);同时,本文也基于控制变量法提出了单源权重调节机制(Single-source weight Adjustment Mechanism,SAM),通过实验对比,进一步表明了多源非均衡域自适应调节机制的合理性;其次,本文基于多源非均衡域自适应调节机制提出了 MUBDA网络,该网络能够非均衡地借鉴各源域的特征信息,减弱了负迁移的影响;最后,本文在多个公共无监督领域自适应数据集上评估MUBDA的性能,并与多个无监督域自适应方法的实验结果进行对比,重点对比多源域自适应方法DCTN、M3SDA、MDAN的实验结果,验证MUBDA网络的有效性。(2)针对多源域自适应过程中样本优化的问题。首先,本文基于相互关系对齐(Correlation Alignment,CORAL)度量构建单源域自适应网络;其次,本文基于源域数据质量因素提出了解决负迁移现象的样本优化算法,以避免源域中无关信息的迁移;最后,本文通过将手写字符数据集输入到基于CORAL度量的单源域自适应网络中,利用样本优化算法剔除负样本,提高目标域的识别精度,同时,本文利用Office-31、Office-Caltech10以及ImageCLEF-DA数据集,将样本优化算法应用到基于Wasserstein度量的MUBDA网络中,进一步体现本文样本优化方法在多源域自适应中的有效性。实验结果表明,本文方法取得了较优的识别效果。首先,本文基于Wasserstein度量提出的 MUBDA 网络,在 Office-31 数据集、Office-Caltech10 以及 ImageCLEF-DA 数据集上均表现出了较优的识别效果;其次,本文将样本优化算法应用到基于Wasserstein度量的MUBDA网络中,对比样本优化前后的实验结果,目标域的识别精度在多个数据集上均有提升。

关键词： 高中语文   课堂教学   合作学习法   策略  

摘要： 有效且积极的合作学习,不仅可以增强学生的互动与协作能力,同时也可以使学生的个性被充分展现出来,自主性与能动性充分发挥出来,极大地遵循了当前的教育发展规律和满足了社会发展需求。

关键词： 多智能体系统   协调问题   公约形成   去中心化   强化学习  

摘要： 公约形成,是多智能体系统(MAS)中普遍存在的一种通过去中心化方式而形成一致性行为的过程,是一种通过智能体自主决策达到MAS协调的有效方式。MAS的协调有助于减少各种资源和时间的冲突,并促进智能体之间的互利共赢。形成的一致性行为也称为公约,其通过离散的方式对智能体的预期行为进行约束,极大的促进了智能体之间的协调,实现智能体自身以及MAS的利益最大化。因此在MAS中,研究如何快速有效的形成公约是一直存在的热点话题。近些年,随着MAS对抽象个体建模的快速发展,MAS普遍应用于现实各种场景,包括通信、计算和社交网络等,对MAS有关公约形成研究也越来越多,并取得了大量显著的成果。本文回顾了公约形成研究领域目前的成果,通过对当前已有前沿研究成果的总结,将公约形成过程中,智能体如何自主决策分为三类:(1)基于spreading机制决策;(2)基于当前博弈收益直接决策;(3)基于行为价值函数决策。本文针对目前最先进的机制提出了创新和改进,同时提出了本文的研究内容。主要研究思路为:1)提出智能体的多局部信息表的学习模型来改进了传统收集学习(Collective learning)模型,该模型能够更好利用邻居的局部信息,加速了智能体学习,克服了传统小世界网络公约形成的局限性,提升了公约形成的效率,提出的模型称为多局部信息表(Multiple-Local information table,Multiple-L)学习。2)引入乐观更新的思想来改进现有基于Q-value最先进策略之一的多Q学习(Multiple-Q value Learning,MQ),改进后的策略包含价值函数双更新模块,模块中价值函数具有两种更新方式,不仅能够克服MQ策略形成公约不稳定的局限,还能大幅度的提高公约形成速度,本文将改进后的策略称为乐观多Q学习(Optimistic Multiple-Q value Learning,OMQL)。3)最后在前人研究成果的基础上,根据独立R学习(IndependentReward Learning,IR)策略和多R学习(Multiple-R Learning,MR)策略提出了本文基于收益(Reward)的第三个融合改进策略,称为独立或局部学习(Independent or Multiple Reward Learning,IMRL)策略,该策略包含收益双估计和价值函数双更新模块,分别对收益和价值函数进行重新计算,IMRL策略打破了已有IR策略和MR策略单一学习方式的局限,极大的加速了公约形成。对于上述提出的每种改进的模型和策略,都是基于智能体的强化学习。本文进行了大量的对比实验,实验结果表明:在不同网络拓扑结构、不同可选行为空间大小、不同网络大小下的三类对比实验中,形成公约的效率和有效性上都更优于以往的模型和策略。特别地,Multiple-L模型相较于传统的Collective learning模型在各种网络拓扑结构中公约形成效率成倍提升,而且在几种现有的网络生成图中,Multiple-L也能快速的形成公约;在与MQ策略进行的各类对比实验中,OMQL策略在公约形成的效率上至少有20%的提升,并且实验证明了比MQ策略更具稳定性;IMRL策略相对于单一的IR策略和MR策略,在不同对比实验下均有不同的优势,大部分情况下公约形成效率比IR、MR提升了15%左右。通过分析实验结果也不难看出,本文提出的模型和策略更具鲁棒性,在各种对比实验中,公约形成性能评估上有很大的优势。

关键词： 深度学习   图像盲去运动模糊   生成式对抗网络   人脸   分阶化的损失函数  

摘要： 数字图像一直在信息的传递过程中扮演着重要的角色。如今多媒体信息爆炸的时代充斥了图像和视频等数字信息,同时也存在着包含大量模糊人脸图像的问题。无论是人们日常分享生活、传递信息还是在科研领域中如智能安防、目标或人脸检测或者自动驾驶等计算机视觉任务都需要依托大量清晰的图像,因此将模糊图像重新变得清晰是一个急切且广泛的需求。在图像处理领域中,将图像的模糊主要分为了高斯、散焦、运动、衍射等类型,其中由运动所造成的模糊是最为常见也是最难处理的。尽管目前在传统图像处理领域和深度学习新领域都针对图像去除运动模糊进行了一些研究,但现有的方法都因为前提假设过多,适用场景存在限制和去模糊效果不理想而无法被广泛接受和应用。为此本文在无任何模糊核信息的前提下,以人脸图像去除由运动所造成的模糊为研究对象,详细分析了图像运动模糊的成因与图像退化原理,在充分研究前人既往成果的基础上,提出了本文基于深度学习端到端方式的人脸图像盲去运动模糊算法。本文算法的核心是通过深度学习中对抗式学习的思想,以模糊人脸图像为输入,结合部分人脸先验,经大量数据学习下得到的算法模型处理后直接重建出清晰图像。本文工作的主要内容包括:1.提出了一种全新的用于人脸图像盲去运动模糊的算法。算法结合监督式学习的思路,将生成式对抗网络模型进行改造,通过输入单幅模糊的图像,直接输出清晰的人脸图像。该算法网络框架将改进后的残差网络和级联化的稠密U-Net网络进行连接,完成人脸定位、图像分割以及去模糊任务,其中改进的残差网络主要负责人脸内容的恢复,级联化的稠密U-Net负责人脸定位和图像分割。同时这样的组合设计可以提升网络稳定性,解决梯度消失/爆炸问题和多样性问题,更好地适应高分辨率、高清晰度人脸图像的处理任务。除此之外,算法借鉴了传统图像领域的处理方式,将图像盲去运动模糊主任务细分为人脸结构定位、特征提取、边缘检测、图像去模糊等,并利用具有不同功能的神经网络分别有针对性地处理各项子任务,以多功能网络模型组合方式代替传统的单一式网络。在网络的连接方面也采用了级联、并联等多种方式,保证了网络参数的拟合能力,提升了网络的去模糊能力和适用性。2.提出了一种全新的以损失函数为中心的深度学习网络训练方式,即在网络训练过程中的不同阶段采用不同损失函数来引导训练的策略,并将之命名为“分阶化的损失函数”。在本文中提出了一种多阶段、多分量的损失函数设计思路。多阶段指本文将网络的训练进行进度分解,通过不同衡量粒度下设计的损失函数,保证网络在训练前期能够快速收敛,在训练后期能够精细微调,从而使网络生成结果达到实验期望;多分量体现在损失函数由多个部分组成,包含了引导博弈进程的对抗损失函数部分,规范图像内容恢复的内容损失函数部分和进行图像结构精准定位的定位损失函数部分。这样的设计可以高效获取图像特征和场景下的图像语义信息,达到更好的图像恢复效果。本文中使用了不同的人脸先验来指导人脸图像去除运动模糊。3.自建了一个用于图像盲去运动模糊任务的人脸数据集。优秀数据集匮乏一直是图像去模糊研究领域一个棘手的问题,极大地制约着该领域的发展。为了能够有效解决人脸模糊问题,本文筛选清洗了优秀开源人脸图像数据集,获得了清晰人脸图像并通过算法模拟运动的方式生成模糊人脸图像,组成了包含近6000组清晰-模糊人脸图像对的数据集来解决缺乏人脸数据集的问题。同时,本文也使用了该领域其他研究中常用的一些数据集进行了广泛的实验以及定性和定量的分析、对比,以验证本文提出算法的有效性。本文建立了包含峰值信噪比、结构相似度等客观衡量标准,绝对图像视觉质量、相对图像视觉质量等主观评价准则以及其他计算机视觉任务间接指标在内的评价体系,并在自建数据集和其他公开数据集上进行了广泛实验。实验结果表明,本文提出的算法可以高效地处理图像去模糊中的各项子任务,精准地定位图像结构并重建出高质量的清晰图像。同时,通过不同的评价指标,本文实验在与该领域其他优秀方法的对比实验中均取得了优秀的成绩,证实了本文提出算法的有效性。