关键词： 联邦学习   本地化差分隐私   二进制串比特位   随机扰动   FedAvg  

摘要： 随着人工智能技术飞速地发展,机器学习技术运用到各种算法中为人们的生活方式带来了改变,但同时也带来了隐私泄露的风险。纵观机器学习发展历史,会发现由于人们对隐私数据的重视以及各国相关法律法规对公民隐私权的保护越来越强,数据孤岛问题日益凸显,但是没有海量数据的支持,模型精确度难以提升。在这种困境下,谷歌研究团队提出了联邦机器学习的概念,既能满足各方隐私保护的需要,又能提升模型精度,因此,联邦学习一经提出,迅速成为焦点。本文关注的是横向联邦学习领域,提出了一种基于本地化差分隐私的横向联邦学习算法。本文的主要工作有:首先,本文研究并分析了联邦学习的基本流程,本地模型训练、模型参数传输、协调方模型参数聚合平均等。在模型参数传输过程中,已有学者证明,一旦发生数据泄露,攻击者可以根据梯度变化推测出用户的敏感数据。针对该问题,本文研究了差分隐私相关算法,并根据本地化差分隐私的一些特性,将本地化差分隐私应用到联邦学习中。然后,本文提出了一种新的基于本地化差分隐私的联邦学习算法——GR-FedAvg算法:基于本地化差分隐私理论,GR-FedAvg算法是在本地对Trainer端(用户端)即将要向Server端(数据收集端)传递的模型参数进行二进制转换并提出了一种基于二进制串按比特位进行随机扰动的新方法,然后,由于扰动方法的不同,在Server端为Trainer端发送过来的二进制串设计了相应的解码、校正方案和回归统计方法,将所有Trainer端传输过来的二进制串按比特位进行加法运算,然后根据比特位权重进行校正,平均。最后,本文对GR-FedAvg算法和横向联邦经典FedAvg算法进行了对比,实验表明,与在本文所选的两个数据集上的FedAvg算法复现实验相比有精度的损失,但是考虑到GR-FedAvg算法满足-本地化差分隐私,大大增强了对通信数据的隐私保护,这些代价完全是可以接受的。

关键词： 代谢组学   化学计量学   机器学习   深度学习   极限学习机   堆叠自动编码器   分层极限学习机   集成学习   选择性集成   新生儿代谢缺陷  

摘要： 代谢组学是生物流体或组织中低分子量代谢物动态变化的量度。代谢组学研究的基本策略为基于高通量分析技术量测的高维数据的获得和基于化学计量学方法的代谢组学数据解析。此类数据通常具有小样本、高维、高噪和易含奇异样本的特性。化学计量学在代谢组学数据解析中的两项主要任务为识别各组之间的代谢差异(即模式识别)并筛选出表征各组之间代谢差异的潜在的重要生物标志物(即变量选择)。近年来,分析技术平台的不断发展导致生成的数据结构的规模和复杂性不断增加,这也给现存的基于化学计量学的代谢组学数据解析方法带来了巨大的挑战。因此,探索发展适合于代谢组学数据特性和分析任务的化学计量学方法是非常必要的。代谢组学数据解析中,通常构建单个识别模型以实现代谢差异识别和潜在的生物标志物找寻。然而,已有研究表明:基于单个模型给出的结果往往在一定程度上是不稳定和不可靠的。在本论文中,鉴于分类树算法(classificationtree,CT)和随机森林算法(random forest,RF)能自动选择出重要的变量和确定其相应的重要性值,集成算法提高单个模型的识别结果和变量选择的稳定性和可靠性,机器学习算法中极限学习机(extreme learningmachine,ELM)、堆叠式自动编码器(stackedauto-encoders,SAEs)和分层极限学习机(hierarchical extreme learningmachine,HELM)优越的模式识别性能,我们发展了三种新型的代谢组学数据解析方法,并将其用于基于GC-MS量测的尿液样本的新生儿代谢缺陷(inborn errors of metabolism,IEMs)的早期筛查中。具体工作内容如下:(1)在本章中,考虑到ELM在模式识别方面的优势以及无法实现重要变量界定的缺点,我们引入CT算法作为ELM模型构建前的变量选择的filter方法,开发了一种基础学习算法,即,分类树极限学习机(classification tree extreme learning machine,CTELM)。在CTELM中,我们首先构造一棵未经修剪的分类树。在此基础上,将CT中的分枝变量作为ELM的输入。CT中涉及到的总节点数定为ELM中隐含层的神经元数。此外,考虑到选择性集成算法可以显著提高单个模型的鲁棒性和可靠性,我们又设计了基于粒子群优化算法(PSO)和Boosting的选择性集成算法,并将其与CTELM结合使用以形成一种新的稳健的适合于代谢组学数据特点和分析要求的化学计量学方法,即基于粒子群优化的选择性推进分类树极限学习机(particle swarm optimization-boosting-classification tree extreme learning machine,PSO-BST-CTELM)。在PSO-BST-CTELM中,首先通过迭代的方式不断更新权重来构建一系列的CTELM子模型,然后通过PSO选择部分准确性高且差异性大的子模型,以形成最终的集成系统。新提出的PSO-BST-CTELM与推进分类树极限学习机(boosting-classification tree extreme learning machine,BST-CTELM)、CTELM 和 ELM同时用于两种最常见的IEMs,即甲基丙二酸血症(MMA)和丙酸血症(PA)的GC-MS尿液代谢组学数据解析。结果表明,CT的引入很好地克服了 ELM的模型解释性差的问题,而PSO-BST-CTELM可以进一步提高单个CTELM模型的泛化能力和稳定性。此外,结合单因素方差分析(one-way ANOVA)和倍数差异(foldchange),PSO-BST-CTELM鉴定了 3种与MMA疾病相关的潜在生物标志性代谢物,包括甲基丙二酸、3-羟基丙酸和甲基枸橼酸,3种与PA疾病相关的潜在生物标志性代谢物,包括3-羟基丙酸、甲基枸橼酸和巴豆酰甘氨酸。(2)在本章中,考虑到自助集成分类树算法(baggingclassification tree,BAGCT)在变量选择中的良好可靠性和稳健性,以及传统的SAEs算法无法识别分类模型的贡献因子(即重要变量),我们将BAGCT与SAEs结合,发展了自助集成分类树-堆叠自动编码器(bagging classification tree-stacked auto-encoders,BAGCT-SAEs)。BAGCT首先利用Bagging技术并行建立一系列的CT模型,继而通过整合这一系列CT子模型提供的分枝变量和相应的变量重要性值,从而确定重要变量子集,以用于后续的SAEs模型构建。本文将新提出的BAGCT-SAEs联合SAEs、RBFN、SVM和PLSDA算法,用于两种最常见的IEMs(戊二酸血症1型,GA1)和丙酸血症

关键词： 冬小麦   产量   高光谱   集成方法   机器学习  

摘要： 【目的】利用2种灌溉处理下不同发育阶段的冬小麦冠层高光谱信息,通过机器学习方法对小麦籽粒产量进行估测精度研究,明确产量最佳估测模型,对于育种工作有着重要应用价值。【方法】以黄淮麦区207个主栽小麦品种为材料,于2018—2019和2019—2020年度连续2个生长季在河南省新乡基地的正常灌溉和节水处理下种植,并调查开花期、灌浆前期和灌浆中期的冠层高光谱数据,分别以6种机器学习方法和集成方法建立光谱指数产量估测模型。【结果】2种灌溉处理下,3个生育期各光谱指数均与产量呈极显著相关（P<0.0001）,且表现出较高的遗传力（0.61-0.85）,主要受遗传因素控制。在正常灌溉处理下,与传统机器学习方法表现最佳的模型相比,集成学习方法在3个生育期的平均决定系数（R2）分别由0.610、0.611和0.640提高至0.649、0.612和0.675,平均均方根误差（RMSE）分别降低至0.607、0.612和0.593 t·hm-2;节水处理下,3个生育期的平均R2分别由0.461、0.408和0.452提高至0.467、0.433和0.498,平均RMSE分别降低至0.519、0.559和0.504 t·hm-2。【结论】利用集成方法将不同模型估测结果进行结合,能够有效地提高产量估测精度,2种灌溉处理下均在灌浆中期估测精度最佳,可为冬小麦育种工作中产量估测提供参考。

关键词： X射线焊缝   缺陷检测   深度学习   注意力机制  

摘要： 当今制造业中焊接是最重要的一种加工手段。随着焊接的产品数量急剧增加以及产品结构也越来越复杂,焊接质量的好坏受到人们越来越多的关注。而如气孔、裂纹等焊缝缺陷会严重影响产品的使用寿命。因此,对焊接产品进行缺陷检测具有重大的意义和价值。然而,由于焊缝缺陷的尺度不一和背景干扰,表面缺陷在强度和形状上与背景重叠,实现焊缝缺陷检测的自动化仍然是一个挑战。此外,在工业焊接领域,由于数据的多样性、响应时间和计算能力有限,工业生产任务仍然面临巨大挑战。近年来,随着计算机视觉技术的飞速发展,深度学习为在图像上自动识别目标的研究打开了新的思路,促使人们尝试将其应用于工业检测中。但是,目前深度学习在X射线焊缝图像上的应用还比较少。因此,本文基于深度学习方法对X射线焊缝图像在工业场景下的缺陷检测展开研究。本文的研究内容和贡献如下:(1)针对焊缝检测任务中存在缺陷长宽比悬殊且特征不确定性的问题,本文提出一种端到端的注意力引导感知的深度学习焊缝检测模型。首先,提出了一种新颖的并行残差注意力模块,在通道和空间维度上充分利用全局平均池化和全局最大池化来捕获全局特征,自适应的选择缺陷特征,显著提升了网络模型的特征表达能力。其次,利用并行残差注意力模块指导锚框自学习图像特征,预测锚框的位置和形状,围绕缺陷区域自适应生成非均匀分布的感兴趣区域。通过定性的分析和定量的对比,证明了模型的有效性,满足了对焊缝缺陷的高精度检测。(2)针对背景干扰以及焊缝缺陷特征的复杂,焊缝缺陷无法精准定位的问题,本文提出了一个以级联方式紧密连接的焊缝分割模型。由膨胀卷积组成的初始模块用于提取输入图像特征的多层信息。注意力引导特征融合模块指导多尺度特征融合,抑制复杂背景的噪声特征,大大增强了模型对焊缝缺陷的判别能力。细化卷积特征模块融合了低层信息和高层信息以细化分割结果。实验结果表明在焊缝数据集图像上,本文方法对于解决复杂背景干扰下的焊缝缺陷分割问题非常有效,并且可以准确地定位焊缝缺陷。

关键词： 足球数据统计   运动场景   深度学习   行人重识别  

摘要： 足球运动作为一项风靡世界的运动项目,集对抗性强、战术多变以及参与人数多等众多特点于一身,有着“世界第一运动”的美誉,因而足球数据的统计为各方所关注。对于球迷而言,足球数据可以帮助自己更了解喜爱的球员以及球队的表现,对场上比赛乃至球员成长都有一种参与感。对于博彩公司而言,一份真实完整的历史足球数据报告能给精算师们计算初始赔率提供数据支持,比赛中及时精准的实时足球数据能帮助公司及时调整实时赔率以获取更大的收益。对于足球俱乐部而言,足球数据可以帮助球队取得胜利,或者是用最低的溢价签到最合适的球员等。当今时代,人工智能技术给社会带来了极大的便利,极大地解放和发展了生产力,因此本论文希望将人工智能技术引进到足球数据统计领域,以期达到减少足球数据统计中的人为误差、提高足球数据统计精度的目标。足球数据统计方法主要解决两个问题:其一是球在哪里,人在哪里,其二是人对球做了什么,人对人做了什么。本文聚焦于使用深度学习方法解决足球数据统计中的第一个问题,即人是谁,人在哪里。为解决上述问题,本文贡献了一个新的用于运动场景中行人重识别研究的数据集,称为“Footballer”。在本数据集中包括了属于32支欧洲冠军联赛球队球员在主场比赛中的320名球员、6800张图像,该数据集除了标注身份标签以外,还标注来了62种属性标签信息。除此之外,本文还提出了一种基于深度学习进行运动场景中行人重识别的方法。本方法通过在骨干网络中融合属性识别方法,提高了网络提取高层语义特征的能力,同时通过增加特征维度将属性特征空间与身份特征空间区分开,从而提高了属性识别与行人重识别之间的相互促进作用,提升了在运动场景中进行行人重识别的性能表现。在Footballer数据集中进行训练和测试实验的结果表明,本文提出的方法相比较于基线网络准确率有了明显的提高,很好地促进了足球数据统计智能化问题的解决。

关键词： 广告转化效果   随机森林   DeepFM   边缘计算   迁移学习  

摘要： 随着互联网和网络广告的发展,广告主对网络广告的要求也不断提高,其广告投放行为更趋于理性,也愈发追求基于广告转化来付费的投放方式。然而,转化用户预测偏差大、转化结果计算的高时延以及广告主的用户冷启动等问题,导致广告投放的转化效果并不理想。为了提升广告投放的转化效果,本文设计了基于学习方法的广告投放转化效果优化模型,具体如下:1.设计了基于RF+Deep FM的广告曝光转化率预测模型。本文提出了广告曝光转化率来代替广告转化率,以规避数据稀疏和样本选择偏差对转化用户预测的影响。同时设计了基于随机森林（Random Forest,RF）和Deep FM的算法模型对广告曝光转化率做精准预测,进一步提升广告转化用户的预测精准度。2.设计了基于计算迁移的实时边缘计算模型。本文设计了设备终端-计算节点-数据中心的实时边缘计算架构,来提升广告转化结果计算的实时性和可靠性。并在该边缘计算构架的基础上,通过计算迁移来进一步降低广告转化结果的计算时延,同时该计算迁移模型还能有效地降低广告平台计算节点的负载。低时延的广告转化结果计算能够实时判断广告投放转化效果,避免无效的广告投放。3.设计了基于用户兴趣度迁移学习的跨领域推荐方法。广告用户通过广告进入到广告主的应用中,由于缺乏历史行为数据,广告主的推荐系统无法对其进行个性化推荐,使得部分用户没能进行有效转化便流失了,即用户冷启动。为此,本文设计了一种用户兴趣度的迁移学习方法,通过迁移广告平台的用户兴趣度来解决广告主的用户冷启动问题,以促进广告用户转化,提升广告的转化效果。经实验证明,本文提出的广告曝光转化率相较于广告转化率,在转化用户预测上更胜一筹,具体来说,AUC值提升了0.0730,Logloss损失值降低了0.0614。同时,本文设计的RF+Deep FM的算法模型相较于单一Deep FM模型在转化用户预测上也有着不俗的表现,AUC值提升了0.0218,Logloss损失值降低了0.0430。基于计算迁移的广告转化结果计算模型在计算时延降低了0.86s,此外,还有效地降低了广告平台计算节点的服务负载。通过用户兴趣度迁移学习的跨领域推荐可有效解决广告主的用户冷启动问题,促进广告用户转化,实验表明,该跨领域推荐方法使得广告主的投放应用的下载注册率提升了4.3%。

关键词： 数形结合   小学数学   课程教学   学习方法  

摘要： 数学学科是一种运用数学思想发现问题、分析问题、解决问题的学科,其中解题思路和方法的选择关系着解题的速度和效率,数形结合方法因为可以提升解题速度、效率、质量,逐渐在多种学习方法中脱颖而出。其是一种通过数、式、图形相结合的方式,可以让学生直观、形象地看到数学问题之间的规律和变量关系,可以帮助学生理清思路,优化解题步骤和过程,从而提升自己数学学习能力。将数学结合教学法应用在小学数学课堂教学中,符合素质教育理念,可以提升学生的数学兴趣,帮助教师实践教学改革,最终引导学生在思维训练中提升自己自主学习和探究的能力。

关键词： 核心素养   小组合作   探究学习  

摘要： 目前,化学学科更加注重以学生为主的教育理念。在教学的过程中,教师不断尝试新的课堂教学模式,积极纳入信息技术在内的多种教学手段,可以有效提升学生的学习兴趣。小组合作是指学生为了完成共同的任务,有明确的责任分工的互助性学习,此方式在化学学科中的应用符合素质教育改革的要求。因此,研究基于化学核心素养的小组合作探究学习具有十分重要的现实意义。

关键词： 背诵   行为主义   小学英语学习   作用   策略  

摘要： 背诵是一种有意识的语言输入,在英语学习中必须重视背诵的作用。在小学英语学习阶段,背诵是一块帮助学生快速入门的"敲门砖"。本文从行为主义理论入手分析,探讨了背诵在小学英语学习中的作用、小学生在进行英语背诵学习时的存在问题及在小学英语学习中进行背诵的策略,从而引导学生正确地进行背诵学习,帮助学生更好地学习英语。

关键词： 功能对等理论   中日同形词的翻译   长句的翻译   语篇衔接的处理  

摘要： 近年来,中国的研究生院通常以学术型硕士的评价标准评价专业型硕士,导致专业型硕士评价体系不完善的问题备受关注。而日本自2008年以来,从客观评价应届生和往届生读研期间获得的知识和能力水平、招生标准、师资队伍建设等方面以及协调企业、研究生院和专业型硕士之间的关系着手,不仅完善了专业型研究生院的评价体系,而且充分发挥了应届生和往届生各自的专业和就职优势。因此,日本的专业型研究生院评价体系对于中国而言具有极大的参考价值。本次翻译实践文本选自日本早稻田大学吉田文教授《学历提升的意义——以专业型研究生院的教育和学习为例》一书。笔者选取了该书的序章、第一章和末章进行翻译。该文本的文本类型是信息型文本,逻辑性强。本次翻译实践报告由五个章节组成。分别为引言、翻译实践简介、文本分析和译前准备、案例分析和结语。其中,第四章案例分析是本次翻译实践报告的核心章节。本次翻译实践的指导理论为奈达的功能对等理论。笔者结合这一理论分析了中日同形词的翻译、长句的翻译和语篇衔接的处理这三个问题。中日同形词的翻译部分,笔者采取了词义引申并且兼顾词性和词语搭配的方式解决。长句的翻译部分,笔者综合运用拆译、增译以及缩译等翻译技巧进行翻译。语篇衔接的处理部分,笔者主要采用了增译、合译等翻译技巧进行处理。通过本次翻译实践,笔者希望在提升自身翻译能力的同时,能够进一步引起国内研究生院对完善专业型研究生院评价体系的重视。