关键词： 深度学习   增量学习   开集学习   歧视增强   灾难性遗忘  

摘要： 信息化时代的到来往往伴随着数据量指数级别增长,为了对海量新增图像进行深度挖掘,基于增量学习的技术研究具有重要应用价值。然而现实中,当新增图像数据集到来时,增量学习训练得到的深度神经网络模型会存在先前训练知识遗忘的现象,进而导致网络整体性能急剧下降。以输配电线路缺陷分类问题为例,当新增缺陷样本到来时,重新训练网络模型会造成训练效率低及缺陷识别准确率持续下降的问题。针对上述问题,本文从网络模型架构和新旧训练数据集差异的角度分别进行研究,提出了基于并行压缩激励的增量学习网络和基于开集学习的增量学习算法:(1)基于并行压缩激励的增量学习网络。本文针对增量学习过程中网络模型易受灾难性遗忘影响导致已学旧类别知识丢失的问题,提出了一种新型网络模型架构。通过分析增量学习模型中对于旧类别中知识遗忘的原因,构建多分支网络架构,深层次自动挖掘图像中更多的特征信息,以提升模型分类准确率,同时采用激励压缩模块结构,使模型能够自主学习新旧类别知识中的关键信息,提升模型对新旧类别的分类准确率,进而实现解决灾难性遗忘问题。在CIFAR-100、Image Net数据集和输配电线路缺陷数据集上的实验结果表明,模型能够在增量学习不扩增网络结构的基础上大幅缓解旧知识遗忘,并有效提高增量学习分类准确率。(2)基于开集学习的增量学习算法。在增量学习过程中,因缺少旧类别训练集参与增量模型训练,模型训练结果往往会偏向新增类别。针对这一问题,本文从新旧知识差异的角度出发,提出了一种基于歧视增强的开集增量学习算法。利用开集识别算法学习新旧知识之间的差异,并在此基础上增加歧视增强策略,克服增量学习分类器的限制,在不占用内存的情况下充分利用新旧知识差异,帮助增量模型更好的克服灾难性遗忘问题。本文提出的算法能够应用于绝大多数类增量学习算法。在公开数据集和输配电线路缺陷数据集上的实验结果表明,该算法能够提升深度增量学习的分类能力,并且具有非常大的潜力和进步空间。

关键词： 极化合成孔径雷达   时间序列影像   迁移学习   水体提取   农作物精细分类  

摘要： 极化合成孔径雷达(Polarimetric Synthetic Aperture Radar,Pol SAR)时间序列影像不受天气和光照条件的影响,可以对地表进行大范围、持续的观测,有效地获取丰富的地表变化信息,在自然灾害监测、资源调查、城乡规划、农业监测、军事侦查等依赖持续观测的领域中具有重要应用价值。随着我国迈入遥感大数据时代,训练样本的稀缺,限制了极化SAR时序影像进行信息提取的能力。 现有的迁移学习方法缺乏针对性,无法有效地在极化SAR时序影像间进行知识迁移。对此,本文结合极化SAR时序数据的特点针对性地提出了两种新的迁移学习算法,可以准确地迁移历史样本数据中包含的知识,解决训练样本不足的问题。此外,本文还针对水体提取和农作物分类这两种典型的极化SAR时序影像地物信息提取应用,基于迁移学习方法和时序分析技术,研究了更高效和可靠的应用方法。本文主要研究内容与结论如下: (1)提出了一种基于时序关联知识的直推式迁移学习方法。该方法利用一种针对极化SAR时序数据设计的特殊的三阶段时序聚类算法来筛选类别不变的时序样本,然后在同一地理位置、不同时相的样本间进行直推式的样本类别标签迁移,在不需要目标域样本类别标签的情况下实现标注样本集的扩充。实验结果证明了该方法对不同成像角度、不同传感器及地物类别复杂的极化SAR时序影像都有可靠的样本标签迁移能力。 (2)基于深度森林模型和主动学习技术,并结合极化SAR数据的特点,提出了一种主动迁移学习方法(DFATL)。该方法同时顾及了样本与特征,通过迭代地优化训练集和特征空间,逐渐降低特征空间中训练集和测试集的边际分布差异,提高模型对测试集的预测性能。实验结果证明了该方法在不同目标域标注样本数量下和在不同分布差异的极化SAR影像之间都具有良好的样本标签迁移能力。 (3)针对传统的极化SAR影像水体提取方法在实际应用中效率较低的问题,首先验证了基于机器学习分类器的极化SAR影像水体提取方法具有较高的精度,然后研究了一种迁移学习支持下的极化SAR时序影像水体快速提取方法流程。该方法流程首先进行最佳源域影像的自动选取,再利用本文提出的主动迁移学习方法(DFATL)来迁移影像间的样本标签知识,以扩充时序影像上的训练样本集;然后利用扩充后的样本集和机器学习分类器来进行水体提取,在保持较高水体提取精度的情况下,可以显著地降低水体提取所需的人工成本,提高极化SAR时序影像在洪涝灾害监测、水资源分布调查等领域中的应用价值。 (4)针对常规方法在UAVSAR时序影像的农作物精细分类中可靠性不足的问题,首先深入分析了UAVSAR时序影像的特点,然后提出了两种新的农作物精细分类策略:一是利用本文提出的主动迁移学习方法(DFATL)来代替常规的分类器,并引入像元的入射角信息辅助模型训练,同时结合更有效的时间序列特征,通过时间序列分类获取高精度的作物分类图;二是提出一种主动成对约束学习方法以生成信息量丰富的样本成对约束,然后结合约束性聚类算法对影像进行约束性时序聚类,获取高精度的聚类结果,并通过聚类后处理生成作物分类图。实验结果证明了这两种策略都能够显著提高UAVSAR时序影像的农作物精细分类精度,为相关研究与应用提供了不同且有效的解决思路。 本文不仅研究了两种新的极化SAR时序影像样本知识迁移方法以解决训练样本稀缺的问题,还在此基础上针对两种具体应用场景探索了新的极化SAR时间序列影像信息提取应用方法,为扩展极化SAR影像的应用场景、提高遥感对地观测技术的应用水平提供了理论参考和方法支持。

关键词： 易发性评价   支持向量机模型   逻辑回归模型   多层感知机模型   XGboost模型   频率比法   程序化  

摘要： 滑坡易发性评价通过分析影响滑坡的不同地质条件组合,评价潜在滑坡的地理空间分布,通常被认为是评估滑坡的首要步骤。以往基于Arc GIS平台实现的滑坡易发性评价经验模型或半定量模型带有一定的主观性,而机器学习算法通过样本来训练模型,能够客观的得出结果,所以被广泛的应用。但Arc GIS平台与机器学习算法兼容性不强,研究者大都是在Arc GIS中进行评价因子相关操作,然后再借助其他软件进行模型训练。这样多平台切换使操作繁琐复杂,同时也无法将这一套操作集成化形成一个简单快速并且不需大量人工操作的自动化易发性评价系统。本文基于机器学习与GIS空间分析等理论,对滑坡自动化易发性评价系统进行研究。主要是通过总结和对比现有的滑坡易发性评价体系方法和结果,对评价因子数据提取、因子分级、特征数据预处理及机器学习模型预测易发区等技术进行探讨,然后利用Python语言将这些技术编程实现并集成为一套完整的滑坡易发性自动化分区程序系统,解决前述的多平台操作问题。取得的主要成果如下:(1)归纳总结了一套程序化可行性大的滑坡自动化易发性评价体系,为后续实现滑坡自动化易发性评价程序提供技术指导。对比分析了滑坡易发性评价过程中运用的各种方法,提出了以栅格单元为基础评价单元、以快速聚类法筛选非滑坡单元、以7种评价因子建立评价指标体系、以频率比法进行因子分级、以四种典型机器学习算法作为评价模型、以ROC曲线及准确率为评判标准和以自然断点法为区划方法的滑坡自动化易发性评价体系。(2)利用Python语言编程实现了评价因子数据提取、分级、预处理等技术。以蓝田县为实例,研究了评价指标体系中高程、坡度、坡向、剖面曲率、地层岩性、降雨量和植被覆盖率等7种因子的数据提取算法,以频率比法对提取出的因子数据进行分级和分析,并对数据集进行预处理,转化为能够直接用于模型训练及预测的数据集。(3)通过频率比法分析了各因子敏感区间与滑坡发生的相关性。统计结果表明:研究区高程在500m～1000m范围内,坡度在10°～35°范围内,降雨量在650mm～800mm范围内,NDVI在0.4～0.6范围内,坡向为西、西北向,坡型为凹型,地层岩性为松散岩组及软硬相间岩组上滑坡频率比大于1,与滑坡发生密切相关。(4)利用Python语言编程实现了逻辑回归模型、多层感知机模型、支持向量机模型、XGboost模型的程序调用与参数优化,并以此对蓝田县进行滑坡易发性评价。以分类准确率,ROC曲线与AUC值三项指标评价模型性能,计算结果表明:四种模型的分类准确分别为:84.43%、82.81%、91.31%、88.15%;四种模型的AUC值分别为0.9024、0.9031、0.9287、0.9108。综合两者结果表明支持向量机模型在本研究区的滑坡易发性评价中泛化性能最佳。(5)以四种模型预测易发区的历史灾点数量占比和频率比来检验本次实现的程序系统的可行性。统计结果表明:四种模型在高易发区的滑坡占比分别为64.57%、54.33%、80.32%、69.05%,表明滑坡主要集中在高易发区,比较符合实际情况;在高易发区的滑坡频率比分别为3.92、1.78、3.01、3.76,都是远大于1,均表现出较强的相关性。综合两者说明本次开发的程序具体较高的可行性。(6)设计了滑坡自动化易发性评价系统两大模块的工作流程,开发了滑坡自动化易发性评价系统。系统集成了评价因子提取与预处理模块、评价模型计算与预测结果检验模块,实现了因子选择、因子提取、因子分级、数据预处理、输出专题图件、模型选择、模型参数配置、计算结果及易发性区划成果展示等功能,能够简便、快速的进行滑坡易发性评价。

关键词： 零样本学习   图像分类   生成对抗网络   潜在属性   分类偏移问题  

摘要： 零样本学习由于具有人类的“联想”能力,能够根据一些过往学习到的知识,完成对不断出现的新事物和新样本的分类。基于生成对抗网络的零样本学习方法能够从可见类样本和语义属性中训练出生成器,并通过未见类语义属性来生成未见类样本以训练传统机器学习分类器完成零样本分类。然而,由于人工语义属性的一些缺陷,导致模型所生成的样本会存在判别性不足的问题。此外,由于模型主要是在可见类样本和语义属性上学习的,模型所生成的未见类样本将会带有更多的可见类样本的特征,这会导致模型在广义零样本分类中产生分类偏移问题。为了解决这两个问题,本文提出了从视觉特征中提取潜在属性和假人工语义属性并应用至生成对抗网络的DL-GAN模型,并采用两种先验信息的获取方法优化DL-GAN模型。论文主要工作如下:1.提出了一种判别性生成对抗网络模型(Discriminative Learning Generative Adversarial Network,DL-GAN)来解决基于GAN的零样本学习模型中,人工语义属性缺陷导致特征判别性不足的问题。本文从视觉特征中提取出潜在判别属性,并将其首次应用到生成对抗网络模型中。此外,模型通过环状映射损失保证了生成的特征与人工语义属性的语义一致性。通过以上方法提高了生成器所生成的可见类样本和未见类样本的判别性。在零样本学习四个数据集上,相比于现有的解决方法,DL-GAN模型在传统和广义零样本学习上平均提高了 0.7%和1.9%的分类准确率。2.针对分类偏移问题,提出了在直接在DL-GAN模型中添加一个新的判别器D'以判断生成样本的可见类和未见类的二元分类,并将该判别器D'应用到真实测试样本中预先分类,从而得到先验信息。相比于现有针对分类偏移的解决方法,DL-GAN+D'在广义零样本学习四个数据集上平均提高了 0.6%的分类准确率。3.针对分类偏移问题,另外还提出了一种新的验证集划分方式,也即从训练集样本中选出某些类别的样本作为已知标签的未见类样本,以及一些其他的可见类样本共同组成验证集样本。使用该验证集样本训练可见类与未见类的二元预分类器fsu以缓解广义零样本分类偏移问题。相比于现有针对分类偏移的解决方法,DL-GAN+fsu在广义零样本学习四个数据集上平均提高了 2.7%的分类准确率。

摘要： 预习阶段的课文批注是学生对文本信息加工的直观体现,充分利用好学生的课文批注,可以让教师有的放矢,把学生原有的知识经验作为新知识的生长点,引导他们生成新的知识经验。下面,以《谁是最可爱的人》为例,探讨基于学生预习批注的教学设计策略。一、剖析:明确核心定目标《谁是最可爱的人》刚被收入部编版七下语文教材第二单元"家国情怀",单元导语中强调"涵泳品味""学习做批注"。课文有以下四点特质:1.从文体看,这是一则通讯,

关键词： 审辩性思维   高中历史   学习方法  

摘要： 就高中历史课程而言,审辩性思维就是在原有高中历史思维模式上深入融合了批判性思维。文章首先分析了在高中历史教学中培养学生审辩性思维的必要性,并提出在高中历史教学中培养学生审辩性思维的具体策略,目的是帮助高中生形成良好的历史思维能力,促其利用所学知识指导自身更好地生活和发展。

关键词： 房租预测   可视化分析   随机森林   神经网络   XGBoost  

摘要： 住房问题一直是我国民生问题的关注重点,在房价居高不下的现实条件下,租房成为解决住房问题的有效途径。探讨租房价格影响因素以及建立房租预测模型,对我国租房市场的健康稳定发展具有积极意义,一方面可以为租房群体提供有效参考,有助于他们选择到更具性价比的房屋;另一方面有助于房东和房屋中介进行更合理的租金定价。本文选取了某房屋租售网站中北京、上海、杭州和天津四个城市的共10672条租房数据,经过特征筛选后运用多种统计图表,讨论房屋的建筑特征、区位特征和环境特征对房租的影响。其次,对四个城市分别建立基于随机森林和神经网络的房租预测模型,并对变量重要性进行排序。通过排序结果可知,在建筑特征中房屋面积是对房租影响最大的因素;房屋所在城区、到最近地铁站的距离在区位特征中对房租影响较大;在环境特征中,租房类型也对房租有较大影响。使用测试集对两个模型的预测结果进行比较发现,随机森林模型的预测效果更好。最后,使用四个城市的整体数据建立包含城市变量的XGBoost模型,得到了合理的房租预测结果。

关键词： 机器学习   反绎学习   领域知识   深度学习   分类问题   输出纠错  

摘要： 引入领域知识以辅助机器学习已逐渐成为人工智能领域重要的研究方向之一,反绎学习是一种将机器学习与逻辑推理互促结合的新型机器学习框架,直接利用由一阶逻辑表示的领域知识帮助学习训练。在实际应用中往往难以获取一阶逻辑形式表示的领域知识,本文针对仅包括具体事实或领域知识不充分等弱领域知识的情况开展反绎学习的研究,主要取得了如下创新成果:研制了基于启发式规则扩张领域知识库的反绎学习方法GABL,该方法依靠增广的启发式规则、根据模型预测结果对知识库进行检索,并在检索过程中考虑模型给出的置信度信息,从而实现反绎推理。分析了反绎学习的性质,并发现反绎学习训练效果与初始模型之间的关系。实验表明GABL方法能利用由具体事实表示的弱领域知识和无标记数据提升模型性能。研制了利用原始特征辅助过滤具体事实的反绎学习方法RAABL,该方法利用专家给出的人工规则,构建了基于原始特征过滤器,动态地删除反绎推理时不必要的候选。所提方法应用于刑期预测任务,有效降低了构建具有可解释性的模型所需要的标记数据规模。实验表明RAABL方法可以借助人工规则提升反绎学习训练模型的效果。

关键词： 类星体   耀变体   Fermi卫星   分类  

摘要： 随着Fermi卫星巡天的进展,越来越多的活动星系核被发现。作为活动星系核的一个特殊的子类,耀变体具有与一般天体不一样的物理性质。耀变体的喷流方向几乎直接面对着观测者,因此能被探测到很强的辐射流量。在这种表现为强流量的天体中,天文学家们观测到了很多极端的观测性质。耀变体一直是天文学中的一大研究热点,而对其进行分类是进行进一步研究的必要前提。目前,对于类星体的分类仍存在较多方法。当前比较常用的方法是利用光学光谱将耀变体分成蝎虎天体(BL Lac)和平谱射电类星体(FSRQ)两个子类。受观测限制,部分耀变体难以获得其光学光谱,定义为待定分类的耀变体(Blazar Candidate of Uncertain type,BCU)。我们尝试利用有监督的机器学习方法其进行分类,但计算耗时十分长。为了减少参与运算的指标数,我们计算了各个观测指标对分类的贡献程度,结果和前人们的工作都不尽相同,于是尝试着利用几种机器学习结合主成分分析(Principal Component Analysis,PCA)的方法,计算出原始数据中的主成分个数,从而作为剔除无关指标的参考。在经过PCA算法后,我们将PCA给出的参数空间中14个指标降至6个,通过降低指标数来尝试减少引入的偏差。结果模型正确率普遍提高,调整参数的耗时普遍下降。其中5种机器学习的模型中,神经网络的模型正确率最高。我们利用这种方法对待定分类的耀变体做了分类预测,结果和前人的利用其他方法得到的基本一致。最后,我们利用4FGL中已被证认的部分与预测结果进行比对。结果显示我们对3FGL中BCU的预测结果很大程度上符合4FGL数据。最后,我们利用这一验证过的方法,对4FGL中的Blazar候选体进行预测分类。并针对利用4FGL建立的机器学习模型性能进行评估:评估结果显示,我们的方法对4FGL数据建立的模型分类器有着很好的表现,分类具有较高的正确率和鲁棒性。

关键词： 学习方法   学习技能   教学目标   小学英语阅读   牛津版   阅读学习  

摘要： 英语阅读是学生增长知识、提升技能的最重要途径,也是培养学生英语语言素养的最有效方法。很久以来,更多的英语教师还是仅仅致力于让学生能够积累丰富的英语基础知识,对于学生习得英语学习方法还是缺乏一定的重视,这对提升学生的能力存在着诸多阻碍。为此,在当下的小学英语阅读教学中,教师们更应该重视英语阅读教学,力求让学生能够掌握更多的英语阅读学习方法,为学生创造可以进行自主学习的广阔时空,促进学生能够用习得的学习方法来进行英语自主学习,不断提升学生的英语阅读学习品质。