关键词： 迁移学习   隐含表征学习   特征适配   非负矩阵分解   属性保持  

摘要： 随着智能大数据时代的来临,多媒体数据呈现爆炸式增长。面对如此海量的、高维的、服从不同分布的大规模数据,如何快速且有效地对其进行检索、分类、并且能够从中提取有利用价值的信息,已经成为现代机器学习最具有挑战性的前沿方向之一。迁移学习是机器学习领域用于解决标注数据稀缺这一基础问题的重要方法,它放宽了传统机器学习中训练数据和测试数据需要满足独立同分布的假设条件,因而能够在两个彼此不同但又相关的领域之间发掘领域不变的特征或结构,使已经学得的知识可以在领域间实现迁移与复用。然而,迁移学习仍然面临着欠适配和负迁移两个富有挑战性的难题:欠适配是指未能充分地修正跨领域概率分布失配问题,负迁移是指在源领域上学习到的知识对于目标领域上的学习任务会产生负面作用,这给迁移学习的研究和应用发展带来了极大的影响。为了解决迁移学习特有的两个问题,本文将隐含表征学习和概率分布适配相结合,针对特征表示方法的学习能力、数据重要属性的保持、原始特征空间中噪声的影响以及目标领域样本伪标签的质量四种诱因,从统计表征和几何表征两个层面上系统地研究了无监督场景下基于特征适配的迁移学习方法。具体包括以下创新点:(1)针对特征表示方法学习能力不足的问题,提出一种基于稀疏双图正则化的非负矩阵分解方法。该方法将数据的先验标签信息、稀疏性约束、数据流形以及特征流形的内在几何结构信息编码到非负矩阵分解框架中进行联合优化,这样不仅可以发掘数据的隐含语义结构和几何判别结构,还可以提取非负数据判别性的、基于部分的特征表示,从而促进下一步的迁移学习任务。(2)针对无监督特征适配方法对数据统计特性和几何特性探索不充分的问题,提出一种基于几何保持和分布对齐的方法。该方法在带有标签约束的非负矩阵分解框架中对齐联合概率分布来充分地挖掘数据的统计特性,这在缩小领域间分布差异的同时还可以学习判别性的、领域不变的特征表示,从而缓解欠适配问题;同时,该方法通过在非负矩阵分解算法中执行实例图和特征图正则化来保持跨领域数据的几何结构信息,这可以有效地提升算法的适配性能,进而避免负迁移问题。(3)针对原始特征空间中冗余信息误导可迁移性特征学习的问题,提出一种基于自适应双图和特征选择的方法。该方法在非负矩阵分解框架中引入特征选择技术来构建适配模型,这不仅可以减少噪声或者不相关特征对知识迁移的影响,而且可以学习信息丰富的、领域不变的特征表示,进而缓解欠适配问题;同时,该方法通过在投影的低维流形子空间中学习实例图和特征图的相似性矩阵来自适应地优化双图,以精确地捕捉更多输入数据内在的局部流形结构,从而减小负迁移问题带来的不利影响。(4)针对无监督迁移学习方法中目标领域数据伪标签不准确的问题,提出一种基于特征加权和局部流形自学习的方法。该方法通过在特征变换过程中引入特征加权技术来构建迁移学习模型,这不仅可以削弱冗余信息对目标领域样本标签预测的危害,还可以学习鲁棒的、领域不变的特征表示,从而缓解欠适配问题;同时,该方法在特征适配期间进行局部流形自学习来自适应地优化跨领域图和目标标签,这在准确地捕获输入数据固有的局部流形结构的同时还可以提高目标领域样本伪标签的质量,从而提高模型的适配能力,进而克服负迁移问题带来的挑战。

关键词： 蛋白质羰基化   序列信息   特征编码   特征选择   机器学习  

摘要： 蛋白质羰基化(protein carbonylation,PCO)是一种由持续氧化应激诱导的翻译后修饰(post-translational modifications,PTMs),具有稳定性、不可逆性和相对早期形成的特点。研究发现,蛋白质羰基化可引起蛋白质结构的不可逆变化和原有生物功能的丧失以及细胞和组织功能障碍,进而导致细胞活力下降,甚至细胞死亡。蛋白质羰基化与细胞凋亡、衰老以及一些慢性疾病如慢性肺病和神经退行性疾病如阿尔兹海默症等的病因和发生机制密切相关。因此,蛋白质羰基化作为氧化应激的一个生物标志物,在多种疾病的病理过程和衰老中的作用一直以来备受关注。利用生物化学实验技术可以有效识别羰基化修饰位点,但是成本高、耗时长,并且蛋白质羰基化是一个高度动态过程,具有多种修饰形式,因此如果仅仅依赖于传统的生物化学检测技术来识别蛋白质羰基化位点将会严重限制羰基化修饰位点识别的研究进展速度。目前,随着高通量质谱技术的提升,产生了大量的蛋白质羰基化位点数据,为我们系统地对蛋白质羰基化的研究提供了数据支撑。因此,通过计算方法构建模型高效准确地识别蛋白质羰基化位点,既能为疾病的发生和发展研究提供关键线索,又能为生物实验研究提供有力的工具手段。在本文研究中,首先,我们从已发表的文献中收集经过实验验证的、包含蛋白质羰基化修饰位点的序列数据,经过严格的筛选和数据处理后,构建了一个高质量的基准数据集。接下来,我们比较分析了羰基化位点与非羰基化位点周围氨基酸残基的位置特异性序列特征以及氨基酸理化性质的分布情况,同时提出了一种新的特征编码方法即锥面体三维空间坐标特征来表征序列样本。随后利用随机森林(random forest,RF)算法来构建模型,并基于十折交叉验证评估模型的性能。为了去除冗余的特征,降低特征向量的维度,构建更加具有鲁棒性的模型,我们使用F-score方法进行特征筛选,并采用增量特征选择(increment feature selection,IFS)来确定用于构建模型的最优特征子集。与已有的模型相比,训练集上的十折交叉验证结果和独立测试集的测试结果表明,本文提出的模型对于蛋白质羰基化位点具有更好的预测性能。最终,基于最终得到的预测模型,我们搭建了一个用户友好的在线服务预测器i Car PS,同时还设计开发了一个具有图形界面的本地软件包,链接为http://***/server/i Car PS/,以方便相关研究者的使用。

关键词： 高中物理教学   合作学习方法   有效应用   实验教学  

摘要： 传统的高中物理课程以备战高考为主。随着高中教学改革，新课程背景下物理课程强化了实验教学，帮助学生以实践的方式加强对基础知识的吸收和理解，促进了教师与学生之间的交流及学生之间的合作，让学生通过自主实践和合作学习，深化对物理知识及公式的了解，从而提高其物理课程的学习效果。本文浅析了开展高中物理学习合作的意义，并对高中物理教学过程中合作学习方法的实施途径展开了研究。

关键词： 财险公司   风险预警   粗糙集   BP神经网络   机器学习  

摘要： 近年来,区域市场财险行业抢抓发展机遇,不断提升服务能力和创新能力,在实现自身快速发展的同时,已成为支持地方经济和社会发展的重要支柱,已成为服务民生和社会治理的重要力量。然而,长期以来重规模、轻效益,重速度、轻质量的粗放经营管理模式,已不能满足区域市场财险行业健康可持续发展的需求,已不能满足党中央关于防范化解重大金融风险的需求。进一步强化风险预警,提高风险管理的主动性,发挥风险管理的前瞻性,提升风险防范化解能力,走高质量发展的道路是区域市场财险公司的必然选择。机器学习方法具备强大的数据挖掘能力,是推动人工智能飞速发展的核心动力,目前已被广泛应用于金融风险预警的研究中,并取得了丰硕的成果。粗糙集理论可以在保持知识分类能力不变的前提下,保留核心属性,剔除冗余属性,能够提高机器学习的性能。因此,本文在归纳总结国内外相关领域风险预警研究经验和成果的基础上,基于财险公司的风险特性,依据财险公司风险管理理论,借鉴国内关于财险公司分支机构的权威评价体系,着眼于区域市场,结合G财险公司N分公司的经营实际和风险预警工作现状,设计了G财险公司N分公司初始风险预警指标体系。综合考虑了预警效果、预警成本和预警效率等因素,本文将2015年至2018年区域市场26家财险公司的相关数据作为样本数据,应用粗糙集理论对该指标体系进行了属性约简,并在此基础上构建了基于BP神经网络算法的风险预警模型,检验预警效果。最后,在实证分析的基础上,提出G财险公司N分公司的风险预警优化策略。实证结果表明,本文构建的基于机器学习方法的风险预警模型,对G财险公司N分公司2015年至2018年的预警准确率达75%,可以提供较好的决策支持。应收保费率、综合费用率、35周岁及以下员工占比、再保险率、总资产增长率、车险赔付率、意外险保费增长率、车险保费增长率、综合成本率、是否被银保监行政处罚等10项指标是当前G财险公司N分公司应密切关注的关键风险因素。本文的研究有利于提高G财险公司N分公司的风险管理能力,有利于规范区域财险市场的竞争秩序,有利于维护地区的金融稳定,对推动财险行业高质量发展、对防范化解重大金融风险有重要意义。

关键词： 机器学习   贷款违约   信用风险评估  

摘要： 本文针对银行个人贷款业务,借助天池贷款违约数据集模拟真实的客户特征数据,采用LR、XGBoost、Lghtgbm等八种机器学习模型,构建贷款违约分类模型,预测贷款违约概率,帮助银行尽快识别高风险贷款,从而降低不良率。结果表明,机器学习可以进一步提高个人信用评估的准确性,为商业银行个人信用评估提供科学依据和参考。

关键词： 机器学习   财务报表   舞弊识别   Stacking算法   RUSBoost算法  

摘要： 随着计算机算力的提升和数据的巨量增长,人工智能技术迅速发展,直接促进了各领域研究模型的迭代更新。人工智能技术中的机器学习方法具有处理海量数据的巨大优势,能从繁杂的数据中找到隐藏的内在联系,这一特性为分类问题和回归问题提供了很多优秀的解决思路。机器学习既可以应用在学术研究中对假设进行反驳或者佐证,也可以应用在实务中以从大量驳杂数据之间发现数据之间隐藏的规律。目前机器学习已经在许多领域得到了广泛的运用,在财务领域中机器学习也得到越来越多的重视和研究,其中就包括利用机器学习方法对财务舞弊进行识别研究。舞弊识别是一个经典的二分类不平衡样本问题,发生的概率低,但能带来极大的负面影响。目前基于中国市场的研究中鲜有将财务报表原始特征作为切入点的成果,国外已有研究Bao(2020)[52]表明,基于财务报表原始特征,运用RUSBoost算法能够搭建出较好的财务舞弊识别模型。鉴于此,本文根据中国上市公司在1998年-2016年的财务报表原始数据,对基于RUSBoost算法的国外财务报表舞弊识别模型在中国上市公司的泛化性能进行检验研究,结果表明该模型鲁棒性能较差,对中国上市公司的财务报表舞弊行为无法取得较好的识别效果。基于该检验结果,本文根据中国市场舞弊范式对数据集和机器学习方法进行调整优化,经过对Logistic回归、SVM及多个集成学习算法的尝试,研究结果表明Stacking模型可以搭建更适用于中国上市公司的财务报表舞弊识别模型。综合来看,本研究有如下贡献:(1)本文根据CSMAR数据库手工整理了 1998年-2016年适用中国上市公司财务报表舞弊识别研究的样本数据集,检验了基于RUSBoost算法的国外财务舞弊识别模型在中国市场无法取得较好的预测效果;(2)将财务报表原始数据作为样本变量,搭建了基于Stacking模型的适用于中国上市公司财务报表舞弊问题的识别模型,本文表明了基于中国市场使用财务报表原始数据作为样本变量的可行性,可以达到良好的预测效果并有效降低舞弊识别的时间成本和复杂程度,为实务中进行中国上市公司财务舞弊识别提供了重要参考;(3)针对本文实验结果进一步使用Grid-Search算法测试模型潜力以探究样本分布对模型的影响。

关键词： 零样本学习   深度学习   生成对抗网络   自动编码器   对偶学习  

摘要： 零样本学习是在可见类别图像与不可见类别图像没有交集条件下,通过学习可见类别图像信息,旨在将可见类别语义知识迁移到不可见类别,并完成对不可见类别图像进行识别的一种任务。为了建立可见类别图像与不可见类别图像的关联,需要借助类别的语义描述(例如文本描述或类别的属性信息)作为语义辅助信息。经典零样本学习方法是基于学习共享特征子空间的嵌入方法。近些年随着深度生成模型的快速发展,如何将深度生成模型应用到零样本学习并提高视觉样本的生成质量成为了零样本学习研究的热点问题,本文对基于深度生成模型的零样本学习做了系统的研究,主要包含以下研究:一、为了缓解语义信息到图像视觉特征映射的单一性,增强语义信息到视觉特征和视觉特征到语义信息双向映射的关联性,本文提出了一种基于Wassertein自动编码器生成模型的零样本学习方法(A Generative Model for Zero-Shot Learning via Wasserstein Auto-encoder,GWAE),GWAE模型将以下三种模块提供了框架:特征生成器模块、语义回归器模块、鉴别器模块。特征生成器模块负责语义→视觉映射,语义回归器模块负责视觉→语义映射,以及鉴别器模块负责评估真实图像特征和生成图像特征的真假。特征生成器和语义回归器形成对偶学习,可以保证视觉特征与语义特征的双向映射,有效缓解了视觉特征与语义信息域适应的问题。通过在四个标准数据集CUB,FLO,SUN,AWA2进行的大量实验,实验证明了GWAE模型的有效性。二、主流的研究工作聚焦于单一的语义信息(词向量或属性特征)作为辅助信息,本文认为词向量是属性特征的补充,词向量和属性特征两种语义信息对应着类别的两种视图,本文提出了一种多视图深度生成融合网络(Multi-view Deep Generative Fusion Network,GDFN)的零样本学习方法。GDFN模型使用属性特征和词向量通过生成模型为不可见类别图像合成视觉特征,并通过回归网络将视觉特征与语义特征进行匹配。GDFN模型采用词向量和属性特征两种视图的语义信息作为辅助信息,有效地弥补了语义空间的单一性。在四个标准数据上实验表明GDFN模型可以取得更好的分类效果。三、为了保证生成样本与真实样本及其语义信息具有高度的相关性,本文提出了一种原型对比网络(Contrastive Prototype Network,CPNet),原型网络学习类别的元表示,它抽象化每个类别中最具有语义信息的样本,生成网络通过添加语义特征和噪声来合成视觉特征,回归网络则将视觉特征映射到语义特征。通过对比元表示与质心的相似性,可以使CPNet模型更可靠的识别目标图像,而且还可以使CPNet模型训练更加稳定。在四个标准数据上进行的实验表明了CPNet模型的优越性。

摘要： 数学的逻辑性较强,学习数学知识可以有效锻炼和培养同学们的思维能力及创新能力.中考是初中阶段一次重要的考试,而在考试之前老师会带领同学们进行复习,为同学们进入高中、大学以及社会工作能够尽快适应不同的环境、拥有自主学习和解决问题的能力打下坚实的基础.初三复习时间紧、任务重,在短的时间内,如何提高复习的效率和质量,是每位初三学生所关心的。

关键词： 组织溯源   随机森林   机器学习   朴素贝叶斯   决策树   K近邻  

摘要： 肿瘤可以发生在身体的任何组织,并且在发生后可以转移到全身的其他任何部位。一般说来,原发部位的肿瘤及其转移部位的发生可以被顺利地发现,而转移性癌症的原发来源可以在短时间内通过临床评估来确定。但是有一些肿瘤表现为一个或多个转移点,且其原发灶不明,即使医生用标准方法对患者进行全面的检查和评估研究,也无法找到肿瘤的主要来源,这类肿瘤称为原发灶不明转移癌(CUP)。医生对肿瘤患者的医治方案、医治过程及医治用药等都会参考肿瘤的情况,明确肿瘤的发生及转移过程。除此之外,对原发或转移肿瘤组织的识别对于医生为患者制定精确的治疗计划至关重要,在肿瘤的原发部位未知的情况下,为患者设计具体的治疗计划是具有挑战性的。机器学习方法已经在预测、分类中得到广泛的应用,并在临床实践中取得了显著的优势。本文主要研究三种混合机器学习方法追踪肿瘤起源的准确性。此三种混合机器学习方法都是随机森林+分类算法混合机器学习方法的模式。对于随机森林+朴素贝叶斯混合机器学习方法追踪肿瘤起源,整合处理从癌症基因组图谱(TCGA)和GENE EXPRESSION OMNIBUS(GEO)数据库下载整理的数据,在对数据进行预处理后首先使用随机森林的Gini杂质作为评分标准挑选基因,得到输入矩阵。然后将输入矩阵输入到朴素贝叶斯分类器中得到预测的准确度。AUC(Area under the Curve of ROC)是评价模型优劣的常用指标,可以对所有可能的分类阈值的效果进行综合衡量,能直观表示分类器的性能,AUC值越大越好。10-fold交叉验证的结果显示,AUC值为0.91。对于随机森林+决策树混合机器学习方法追踪肿瘤起源,使用的数据与之前的一样处理,得到输入矩阵。然后将输入矩阵输入到决策树分类器中,得到预测的准确度为0.889。AUC值为0.886。对于随机森林+K近邻(K=5)混合机器学习方法追踪肿瘤起源,使用的数据与之前的一样处理,得到输入矩阵。然后将输入矩阵输入到K近邻(K=5)分类器中,得到预测的准确度为0.886。AUC值为0.886。

关键词： 机器学习   物理过程信息   缝洞介质   渗流   渗透率  

摘要： 储层流场参数的反演对油藏井网调整、注采调控等措施的制定具有重要指导意义。相比于测井和试井解释等传统方法,机器学习通过对油田数据的分析学习,能够挖掘数据间的隐性关系。但目前的机器学习仍属于纯数据驱动下的单一数据学习,其结果和学习过程的物理可解释性有待提高;同时,油气开发井网密度一般较小,井点数据仍属于稀疏训练样本数据,即使采用深度神经网络学习,其预测效果仍欠佳。对此,本文将油气流动物理过程信息,即渗流方程作为约束条件加入到深度学习损失函数项,建立了一种基于油气流动物理过程的深度学习新方法,并应用至缝洞性介质研究中,主要创新工作和结论如下。首先,针对单孔隙介质模型,基于油藏数值模拟结果形成样本数据,开展了单相渗流、两相渗流的渗透率参数反演研究,结果表明:在样本充足情况下,无论是传统模型还是本文新模型均能获得良好的学习和预测效果;随着数据样本的减少,传统模型的预测误差也随之增大,但本文新模型仍能保持较高精度,即使在强非均质和注采关系反转条件下。随后,在单孔隙介质模型基础上增加裂缝系统,建立强非均质性裂缝介质模型,通过离散裂缝数值模拟得到数据样本,开展了单裂缝和多裂缝单相渗流、两相渗流的渗透率参数反演研究,结果表明:对于裂缝介质,当观测井数较少时,由于裂缝介质的强非均质性,纯数据深度学习的预测结果与实际差异巨大,而本文方法能够识别出储层具有高渗区域,相比于传统模型误差减少50%。最后,在裂缝介质模型基础上,增加溶洞系统形成缝洞介质模型,其中溶洞采用Brinkman方程来表征其中的流体流动,将DarcyBrinkman方程作为缝洞介质流动物理过程信息,并以缝洞介质单相流动数值模拟结果数据作为样本库进行深度学习,结果表明:传统的纯数据深度学习效果较差,不能有效识别溶洞,而本方法能够逐步判定储层中间部分包含一定的高渗区域、确定溶洞的位置和边界、预测溶洞之外存在高渗条带、确定溶洞和裂缝的位置,并能够准确预测其渗透率参数。