关键词： 蛋白质亚细胞定位   不平衡学习   SMOTE   生成对抗网络   多标签分类  

摘要： 蛋白质亚细胞定位是一项探索蛋白质和亚细胞之间对应关系的研究,正确的蛋白质亚细胞定位可以用于标注蛋白质的结构和功能、探索疾病的发病原理和开发临床的治疗药物。在早期的蛋白质亚细胞定位研究中,标注亚细胞位置的主要方法是进行生物实验,但此类传统实验成本较高,因此基于机器学习的蛋白质亚细胞定位方法因应而生。该方法通过学习蛋白质的数据特征分布,从而对查询蛋白的亚细胞位置进行定位,其核心目的是最小化定位误差来提高亚细胞定位的精度。 受蛋白质数据自身特性及外在环境的影响,标注了亚细胞位置的蛋白质数据普遍存在分布不平衡的问题,即属于某一类亚细胞位置的蛋白质数目远远少于其他亚细胞位置中的蛋白质数目。蛋白质数据不平衡会严重影响亚细胞预测模型的性能,但针对蛋白质亚细胞定位中数据不平衡问题的相关研究较少,且处理蛋白质数据不平衡的方法单一。其中Synthetic Minority Oversampling Technique(SMOTE)是现有研究中用来处理蛋白质数据不平衡最常用的方法,但研究发现SMOTE生成的样本容易产生类内堆叠、类间堆叠、噪声扰动和多样性差的问题。为了解决上述问题,本文以过采样技术和生成对抗网络模型为理论基础,以生成有利于提高模型定位精度的少数类蛋白质样本为核心目的,结合蛋白质的数据特性,分别对单位点和多位点的蛋白质亚细胞定位展开研究,具体研究内容主要包括以下几个方面: (1)在单位点不平衡蛋白质亚细胞定位预测中,提出了一种不平衡学习方法Radius-SMOTE。该方法从改变样本取值空间的角度出发,通过非线性插值生成少数类样本,从而缓解蛋白质数据分布不平衡,解决SMOTE因线性插值带来的数据类内堆叠问题。同时,基于Radius-SMOTE,结合特征降维和分类方法,进一步提出单位点蛋白质亚细胞预测模型R-PLoc,并通过实验证明该模型的有效性。 (2)在单位点不平衡蛋白质亚细胞定位中,传统的不平衡学习方法生成的少数类蛋白质样本存在易受噪声干扰和多样性较差的问题,针对此问题本文基于K-近邻算法和特征空间约束,提出了一种包含噪声检测的过采样方法IRadiusSMOTE。该方法从符合少数类样本维数和样本间距的特征空间中均匀且有条件的插入新样本来解决数据不平衡问题,可有效降低噪声样本的影响,提高生成样本的多样性。此外,基于IRadius-SMOTE进一步提出单位点蛋白质亚细胞预测模型IR-PLoc,并通过两个基准数据集验证了该模型具有处理不平衡蛋白质数据的能力。 (3)在多位点蛋白质亚细胞定位预测中,蛋白质数据分布不平衡会导致原始样本类间就存在数据堆叠的问题,针对此问题本文以学习少数类样本分布为核心思想,提出了一种新的不平衡学习方法SM-GAN。该方法构建了生成器和判别器两个子模型,通过子模型间的零和博弈得到拟合少数类样本分布空间的生成器,进而生成新样本。SM-GAN摒弃了样本间距离的直接约束,避免了原始样本间堆叠对生成样本的直接影响。此外针对多位点蛋白质亚细胞的多标签分类问题,引入排序损失函数来对Deep FM进行改进,提出多标签分类方法ML-Deep FM,该方法将多标签分类问题转换为标签间的排序问题,能有效处理多位点蛋白质亚细胞定位任务。此外,本文将SM-GAN和ML-Deep FM结合进一步提出多位点蛋白质亚细胞预测模型Gm-PLoc,且基于两个多位点蛋白质数据集验证了该模型的有效性。

关键词： 睡眠分期   脑电信号   深度学习   注意力机制   空洞卷积神经网络  

摘要： 睡眠是人类生命活动中复杂且必不可少的生理过程。随着社会节奏的日益加速,人们的睡眠质量被各种因素所影响,睡眠障碍已成为世界公认的社会和民生问题。为了更加有效的评估睡眠质量,多种方法被提出以用于睡眠分期任务。目前,睡眠分期任务在数据方面和模型方面均存在一些痛点:在数据方面,由于睡眠脑电通常为不平衡类别数据,在训练过程和分期结果上均存在大众类倾向的问题。此外,脑电信号中的各式内外部干扰源也严重影响了数据的有效性。其中,眼电伪迹对脑电信号的影响最大;在模型方面,早期专家人工睡眠分期方法存在专家经验和人为误判等问题,而基于传统机器学习的睡眠分期方法则在特征提取环节复杂繁琐。现阶段基于深度学习的自动睡眠分期是一个热点,但存在分期结果准确率提升缓慢、模型通常过于复杂庞大而不适用于便携式睡眠监测设备等问题。本文结合事件相关电位技术和深度神经网络技术,分别针对上述痛点问题进行了以下工作:(1)本文在数据预处理部分提出相对电压阈值方法进行坏值剔除操作以辅助消除眼电伪迹。该方法可以降低清醒期的眼电伪迹干扰,保留快速眼动期的眼电信息以提供更多有效信息辅助睡眠分期判定。此外,在模型训练中引入Focal Loss作为损失函数以改善样本类别不平衡问题。(2)本文提出基于注意力机制的自动睡眠分期方法,构建了4个基于软注意力机制的自动睡眠分期模型。为了提升现有基于深度学习的自动睡眠分期模型的分期效果,所提出的Deep Sleep Net-SE模型和Deep Sleep Net-CBAM模型以Deep Sleep Net的模型结构作为基础,分别引入软注意力机制SE模块和CBAM模块。在注意力机制部分采用瓶颈层代替原有全连接层以减少层间频繁的维度变换、节省计算量和增加模型非线性表达能力。去掉原有双向长短时记忆网络上的快捷连接操作,在注意力机制部分采用残差结构来进行改进,使网络更加注重于注意力机制部分的学习。为了探索轻量化模型以适用便携式睡眠监测设备,提出了Attention Sleep Net-SE模型和Attention Sleep Net-CBAM模型,模型采用卷积神经网络、注意力机制和空洞卷积神经网络的组合来有效精简网络,从模型参数量、模型空间占用和运行速度等多方面降低模型复杂度,使得基于深度学习的自动睡眠分期模型可适用于便携睡眠监测系统和设备。本文实验采用了公开数据集Sleep-EDFx中前20位个体的整夜睡眠数据。实验结果显示,本文提出的4种基于注意力机制的自动睡眠分期模型大多取得了85%以上的整体准确率、78%以上的宏平均F1值和85%以上的加权平均F1值。其中,最佳模型Deep Sleep Net-CBAM模型的整体准确率为86.84%、宏平均F1值为79.82%以及加权平均F1值为86.77%。Attention Sleep Net-SE模型和Attention Sleep Net-CBAM模型以0.3M左右的模型参数量、1.4MB左右的空间占用和平均每样本0.15毫秒左右的预测时间证明了网络的有效精简。本文所提出的基于注意力机制的自动睡眠分期方法不仅提高了模型的分期性能,也使得模型更加轻量化,为基于深度学习的自动睡眠分期方法研究提供了新的思路。

关键词： 非规则数据   图学习   图信号处理   局部和全局特性   动态图  

摘要： 基于图学习的数据关联结构挖掘技术,在金融决策、社交分析以及气象预测等领域发挥着重要作用。随着应用领域日益多元化,大规模观测数据呈现空间分布不规则特征,传统的时序信号分析方法直接应用到此类空间非规则数据中面临着限制。图信号处理是针对空间非规则数据的新兴研究领域,利用图的天然关联特性,为数据表征和潜在关联结构的挖掘提供一种新的视角。本文在图信号处理理论基础上,对空间非规则数据的图学习问题展开深入研究,提出了基于空时平滑性的图学习方法,低秩和空时平滑性联合约束的图学习方法,以及基于交替方向乘子法的分布式时变图学习方法。一旦获得有效的图结构,将会极大地促进后续的数据分析和处理,从而更好地指导未来的决策。本文的主要研究内容和创新点如下:1.针对图上时变信号(time-varying graph signal)的图学习问题,首先提出了一种联合空-时表征的信号模型,用于刻画图上时变信号的局部特性,即空间相关性和时间相关性。然后,在该信号模型的基础上提出了一种基于空时平滑性的图学习方法(STSGL)。相比于传统的图学习方法,STSGL方法充分挖掘了图上时变信号局部的空时特性,将信号的空间关联结构和时间关联结构有机地融合到空时平滑性的表征中,进而通过促进信号的空时平滑性来指导图结构的学习。对于信号模型中时间关联结构已知和未知的两种情况,所提方法分别采用交替优化和块坐标下降的方式进行求解,适应了不同场景下的需求。多种合成数据和真实数据实验均表明,所提的STSGL方法具有比现有图学习方法更高的图学习精度。2.针对图学习中由于信号模型与信号特征失配带来的性能瓶颈问题,首先对真实应用的空时信号进行分析,挖掘其在局部的空时特性和全局的低秩特性,提出了一种基于局部和全局表征的信号模型。然后基于该信号模型,将图学习问题转化为联合低秩信号恢复和图拉普拉斯矩阵推断的问题,提出了一种低秩和空时平滑性联合约束的图学习方法(GL-LRSS)。该方法通过引入空时平滑性和低秩特性的惩罚项分别约束信号的局部相关性和全局相关性,从而达到利用信号更全面的相关性信息,实现了对图结构的有效学习。在多种合成数据集和真实数据集上的仿真实验验证了所提模型的有效性,同时相比于现有的图学习方法,所提的GL-LRSS方法在相同情形下能够进一步提高图学习的性能。3.针对动态结构的图学习问题,提出了一种基于空-时表征的时变图学习(time-varying graph learning)框架。首先考虑到图结构的时变特性,将传统的静态图上信号(graph signal)模型扩展为基于动态图表征的信号模型,并在信号表征的同时建模了图结构的两种典型的演进模型:边平滑变化的图演进模型和单节点突变的图演进模型。然后,通过引入惩罚函数来约束图结构的动态演进,将动态结构的图学习问题统一描述为一个凸优化问题,提出了一种基于交替方向乘子法的分布式时变图学习方法(DTVGL)。该方法利用了交替方向乘子法(ADMM)的求解策略,将大规模的图结构推断问题分解为多个局部的子问题,从而实现了局部子问题的分布式并行求解。仿真实验表明,所提的DTVGL方法能够有效解决不同图演进形式下的时变图学习问题,并且相比于静态图学习方法,所提方法能够在准确推断图结构的同时识别该结构的时变特性。

关键词： 深度学习   端到端方法   混合建模   时间序列   分类  

摘要： 数据科学是利用科学方法、算法和系统从数据中提取价值的跨领域学科。时间序列分析是数据科学的一个重要领域,分析按时间顺序排列的一系列数据点。时间序列分析可以通过数据揭示趋势、关联和相似性。很多领域都包含时间序列数据,例如,医疗保健、金融、遥感、天气预报、交通控制、工业等。近年来,时间序列分类已经成为工业界和学术界的一个重要研究问题,为此,研究人员提出了大量的时间序列分类模型。一般来说,好的时间序列分类模型可以捕获和泛化时间序列模式,可以对不可见的数据进行分类。深度学习是一个新兴的领域,以更复杂和抽象的方式象征统计数据。随着深度学习技术在文本、音频等多个序列数据分析领域的成功应用,研究人员开始采用深度学习技术解决时间序列数据挖掘问题。许多深度学习技术具有检测时间不变特征的能力,并且需要较少的数据来发现时间序列数据中的模式。它还可以处理高维数据,如多变量时间序列数据等。端到端方法可以直接从原始输入数据中学习特性,而且它们与领域无关,适用于任何类型的数据集。因此,本文采用端到端深度学习方法分类单变量和多变量时间序列数据。本文提出了四种基于端到端深度学习的单变量和多变量时间序列分类方法,在不需要大量数据预处理、特征加工、微调和细化的情况下提高了性能。本文的主要创新点如下。首先,双向长短时记忆(BiLSTM)是对传统长短时记忆(LSTM)的扩展,可以提高模型在序列分类问题上的性能。在输入序列的所有时间步长都可用的问题中,双向LSTM在输入序列上训练两个而不是一个LSTM。受此启发,可以利用BiLSTM为序列相关方法带来突破,并采用擅长特征提取的全卷积网络(FCN)作为时间序列的分类基线。因此,本文提出了一种新的BiLSTM-FCN模型用于单变量时间序列分类,它增加了两个分支,BiLSTM和FCN。本文还发现注意机制在BiLSTM-FCN上的有效性,提出了另一个模型ABiLSTM-FCN。在加州大学河滨分校(UCR)单变量时间序列档案的85个数据集上验证了这些模型的性能。实验结果表明,本文提出的模型全面优于当前最好的方法、传统技术和基线。其次,针对单变量时间序列分类问题,本文提出了另一种新的鲁棒方法残差LSTM(Res-LSTM)。Res-LSTM将残差网络(Res Net)和LSTM技术集成在一个单一的混合网络中,利用LSTM来学习长期依赖关系,并解决了消失梯度问题。有了Res Net,梯度可以直接流过跳过连接,从后面的层向后流到初始过滤器。因此,Res Net也可以帮助避免随着LSTM消失的梯度问题。此外,Res Net被认为是提出用于时间序列分类的最深层次的体系结构,可以从时间序列数据中提取深度空间特征。Res-LSTM模型是端到端的模型,不需要任何特性加工、数据预处理或微调。本文在85个单变量公共可用数据集上对Res-LSTM的性能进行了评价,实验结果表明,本文提出的方法比当前最好的方法、传统的方法和基线的性能更优越。再次,在两个端到端混合深度学习体系结构中,本文引入了注意机制、深度门控循环单元(deep Gated Recurrent Unit,d GRU)、挤压激励块(squeeze-and-励磁块)和FCN。利用注意机制构造dGRU的深度,并从时间序列数据中建立长期依赖模型。相比之下,FCN用来提取特征层次,SE块有助于从整体上重新校准特征映射,抑制信息较少的特征映射,并且可以很好地与FCN进行多元分类任务。不同领域的多变量和多变量数据集上的实验结果表明,本文所提出的模型比其他方法的性能更优越,并且不需要大量的数据预处理,可以部署在实时系统上。最后,本文研究了循环神经网络(RNN)及其变体,如双向循环神经网络(BiRNN)、双向长短期记忆(BiLSTM)、门控循环单元(GRU)和双向门控循环单元(BiGRU)等,用于多元时间序列分类。本文通过在MLSTM-FCN中替换LSTM来单独增加这些RNN变体,MLSTM-FCN是LSTM、SE块和FCN的组合。此外,本文在FCN中集成了SE块,以利用其在多变量时间序列分类任务中的高性能。由此产生的算法不需要大量的预处理或特征编码。因此,它们可以很容易地部署在实时系统上。通过对35个标准多元数据集进行综合评估,验证了本文所提方法比当前最好方法和基线的性能更优越。综上,大量的实验结果表明,本文所提出的模型新颖、高效,并且可以显著优于最先进的技术、传统方法和基线,而不需要任何繁重的数据预处理、特征加工、精炼或微调,可以很容易地部署在实时应用程序上。

关键词： 人脑功能网络   磁共振成像   功能磁共振成像   可解释性   网络分析  

摘要： 人脑是人的神经中枢,是人体最复杂的器官。研究学者发现许多神经系统疾病与脑结构和脑功能网络的异常拓扑有关。构造人脑功能网络不仅可以用于研究神经系统疾病,为理解神经系统疾病的病理机制提供新视角,还可以用来探索脑老化和认知功能的关系。随着神经影像学的不断发展,已出现了多种获取人脑结构数据和人脑神经活动信号的技术手段,这极大的推动了脑科学的发展和进步。构造人脑功能网络的方法可以采用基于宏观尺度上的人脑脑区之间的网络构建,也可以采用基于体素水平上的网络构建。针对构造人脑功能网络问题,本文使用磁共振成像(Magnetic Resonance Imaging,MRI)和功能磁共振成像(functional Magnetic Resonance Imaging,f MRI)获取与人脑相关的信息,着重研究了基于体素层面的功能网络构造方法。使用可解释的机器学习及方法,构建人脑功能网络,并在此基础上使用复杂网络的方法,对构建的功能网络进行了分析。本文的主要工作包括以下两个方面的内容:1.基于SHAP(SHapley Additive ex Planations)提出了一种人脑功能网络构建方法,并利用SHAP的可解释性分别从个体和全局方面进行了可视化的解释。针对图像刺激的f MRI数据,首先基于XGBoost分类器实现分类任务;然后将SHAP和训练模型相结合,获取特征之间的交互信息,利用这些交互信息,实现体素水平的人脑功能网络构建;最后利用SHAP的可解释性对结果进行分析和解释。结果表明,对于不同的分类任务,人脑的响应区域不同,不同任务下的人脑功能网络连接也不相同。2.针对403个被试的MRI数据,提出了一种基于二阶多项式核函数的功能网络构建方法。首先,在广义加性模型的框架下,考虑特征之间的交互作用,并结合多项式核函数支持向量回归机(Support Vector Regression,SVR)实现年龄预测;然后利用模型权值和特征的交互作用,进行功能网络的构建。实验结果表明,随着年龄的增长,体素之间的连接和年龄有一定的对应关系,属于不同功能网络区域之间的连通性增强。另外,通过对构建的两种功能网络的拓扑结构进行分析,发现和视觉刺激对应的功能网络满足复杂网络的无标度特性,而与年龄相关的功能网络具有小世界特性,并且随着年龄的增加,网络的平均度也会增加,网络的无标度特性逐渐消失,网络的模块化在下降。

关键词： 概念漂移   在线学习   数据流   极限学习机   增加新类  

摘要： 我们正处于信息技术高速发展的时代,移动互联网以及物联网的发展会产生大量的数据,需要高效率的处理工具和有效的分析方法来应对这些日益增长的数据。通常数据以流的形式到达,使得其分析和处理需要更多的资源。传统的机器学习算法都是先将数据收集起来,然后在脱机模式下进行处理,但是无法处理数据流,因为数据流是源源不断到来的,甚至可能永远不会结束,将所有数据收集起来是不现实的。随着时间的推移,数据流中的分布还可能会发生变化,即出现了概念漂移,真实的概念漂移是指在给定输入(输入特征)的情况下,输出(即目标变量)的条件分布发生变化,而输入的分布可能保持不变。由于数据流具有动态和非平稳的特性,加剧了传统机器学习算法的不准确性。因此大量在线学习算法被提出来,在线学习算法通过不断更新或使用最近一批数据进行再训练来逐步训练预测模型,从而在实时性和准确率之间取得一个平衡,可以很好的处理概念漂移。因此,针对现有问题,本文进行了面向概念漂移的在线学习方法研究,具体包括以下工作:1)为了提高模型的预测精度和运行速度,本文提出了一种基于JS散度调节遗忘因子的在线顺序极限学习机(JS-ELM)。利用两个数据块之间的JS散度来衡量概念漂移的大小,根据两个数据块之间的差异越大,JS散度越大这一特性,设计了一个JS散度与遗忘因子成正相关的公式,使得遗忘因子可以被动态地调节。当概念漂移越大时,遗忘的旧经验越多,有效地减少了概念漂移对模型准确率的影响。基于JS散度调节遗忘因子的在线顺序极限学习机改善了传统带有遗忘机制算法的遗忘因子恒定这一缺点,使遗忘因子能够适应概念漂移的大小或速率。根据实验结果表明,基于JS散度调节遗忘因子的在线顺序极限学习机能够有效地处理概念漂移,具有较高准确率的同时拥有较短的运行时间,是一种优秀的学习算法。2)为了处理有增类出现的概念漂移问题,本文提出了带有增类的在线顺序极限学习机,具体来说提出了两种模型分别用来应对两种情景。第一种模型带有绝对增类的在线顺序极限学习机(***)用于处理绝对增类问题,即以前的实例中没有出现的新类出现在接收到的新数据中。第二种模型带有分裂增类的在线顺序极限学习机(***)用于处理分裂增类问题,即一个旧的类分裂成几个新的子类。对于***,在OS-ELM中插入一个可选的输出节点,只要接收到新类,就可以对该节点进行扩展。而对于***,我们采用层次结构来适应新的分裂类。通过简单的实验验证了***和***在分别处理绝对增类问题和分裂增类问题时都具有有效性和可行性。总的来说,本文提出了JS-ELM、***、***这三种算法用来在线地处理概念漂移。经过实验验证,所提的三种算法都是行之有效的,并且具有良好的性能。

关键词： 关联学习   图嵌入   图卷积神经网络   半监督节点分类   链路预测  

摘要： 在关系数据上进行学习是近年来机器学习和数据挖掘领域的研究热点之一。许多证据表明,事物之间隐含的关联是除事物本身属性外的另一种重要数据类型。通过联合使用属性和关系,可以在许多任务上取得更好的结果。目前,关联学习方法已在社交网络分析、图像识别、自然语言处理等领域发挥了重要作用,且正在越来越多的学科内催生新的研究方向。关系数据通常以图的形式表示,图中的节点之间具有错综复杂的联系。关系学习围绕两个问题展开,一是发掘节点所处的拓扑结构与自身属性之间的关联,二是利用结构与属性的关联进行图上的预测任务。对于第一个问题,梳理了长久以来解决该问题的常用手段,并结合图嵌入算法以及统计相关系数,提出了一种新颖的属性-结构关联分析方法。对于第二个问题,以图卷积神经网络为基础,分析了其中卷积运算的实质,提出了传统图卷积算法在半监督节点分类中标签传播不充分的问题,并在真实数据集上加以证实。为解决此问题,引入了链路预测技术对原始图结构进行补全,在得到的增强图上进行模型训练,并使用Drop Edge减轻过平滑的影响。该算法命名为增强型Drop Edge(Enhanced Drop Edge),简称EDE。将提出的属性-结构关联分析方法应用于一真实的国际关系网络,得到了可靠的分析结果,与前人的实验结论相吻合,且具有灵活、量化的优点。通过在两个常用的引文网络上进行半监督节点分类,发现EDE能够有效扩大监督样本的传播范围,对提高节点的分类准确率具有显著作用。

关键词： 行人重识别   深度学习   多粒度特征提取   行人对齐   多任务学习   注意力机制  

摘要： 行人重识别(Person Re-identification)是对非重叠视域下的多个摄像头拍摄到的行人进行智能匹配,判断是否与目标属于同一行人。该技术可实现视频监控分析智能化,能够有效解决日益增长的海量监控数据与高成本、低效率人工监察模式之间的矛盾,成为了国内外研究的热点。然而在实际应用中,监控获取的行人图像普遍存在分辨率低、遮挡、姿态多变、尺度不一等问题,导致行人重识别模型在行人特征提取方面面临着挑战。为提升模型特征提取能力、提高重识别精度,本文提出了基于注意力特征增强和多粒度特征提取的行人重识别模型,并设计开发基于论文模型的行人重识别系统。具体而言,本文主要研究内容如下:(1)构建基于行人对齐的多粒度行人重识别模型。在行人重识别任务中,全局特征缺乏细粒度信息,无法很好地区分相似行人之间的差异,而单一使用局部特征又缺乏对行人整体的特征描述。针对此问题,本文使用多粒度网络对行人特征进行提取,并在此基础上引入空间变换网络对图像中的行人进行对齐。在Loss设计上,引入权重参数来平衡分类损失和度量损失在总损失中的占比,对网络产生更强的约束,提升模型性能。(2)提出基于注意力机制的全局特征和局部特征增强方法。为增强模型的特征提取能力,本文分别提出了适用于全局特征和局部特征的注意力特征增强方法,并将其融入模型设计中。全局特征注意力模块负责在通道层面上对关键信息进行加权增强,并在高层卷积中对响应度低的特征通道进行加权丢弃,进一步提升了模型泛化能力。局部特征注意力模块负责对模型划分的行人各部位特征进行重要性评估,获得注意力权重,增强关键部位特征。(3)设计开发行人重识别原型系统。系统后端功能主要由行人检测和行人重识别两部分组成。行人检测部分采用目前比较高效的目标检测模型YOLOv3,行人重识别部分采用课题设计的模型对行人进行特征提取,并对目标特征与候选行人特征进行相似度计算,相似度超过设定阈值则为查找成功。后端模型的构建和训练均利用主流深度学习框架Py Torch实现,系统前端以.Net为平台,利用C#语言编写设计。

关键词： 内部交易   市场限制   LSTM   CNN  

摘要： 随着我国的经济的发展,证券市场发展的日趋完善。股票价格预测一直是学者研究的热点,股票价格的波动受诸多因素影响,使得股票价格预测具有一定的难度。由于股票交易量的选定会影响股价的变化,如历史交易量信息,公司新闻和业绩,投资者情绪等,使得通过预测股价涨跌的方式来进行交易量选择的方法产生的效果并不是很好。本文通过股票的历史交易数据及相关的技术指标,基于内部交易的思想,利用深度学习的方法训练得到交易量与交易价格之间的关系,在满足市场限制的情况下,求解交易量模型使其超基准利润最大以求得最优交易量。首先,在市场有效性下,基于历史交易数据和相关的技术指标,分别使用长短期记忆(LSTM)模型及卷积神经网络CNN与LSTM的混合模型搭建网络,调节网络参数,训练得到当日交易量与当日交易价格的近似关系。然后根据内部交易中的利润最大化建立3个交易量模型,对3个交易量模型分别进行计算获取最优交易量。基于交易量与交易价格之间的关系模型,在满足市场限制的情况下对模型0与模型1进行求解使得模型的超基准润最大。对于计算交易量模型2的计算,需要先生成最优交易量的模拟数据,利用生成的模拟数据基于CNN模型训练得到最优交易量之间的关系模型,再调用价格与交易量模型和最优交易量之间的关系模型,满足条件的同时求得交易量模型2的超基准利润最大以及所对应的一系列交易量。最后根据计算所得到的数据计算风险指标,本文提出的策略中最优结果与两种基准模型进行对比,在年化收益率提高了分别提高了 4.5和3.49个百分点,夏普比率分别提高了 0.15和0.1个点,最大回撤率分别降低了 1.28和0.78个百分点,波动率分别降低了 0.10和0.02个点。由此可以看出本文提出的策略有效,为投资者进行投资提供了更多的选择。

关键词： 迁移学习   领域自适应   参数迁移   对抗训练  

摘要： 分类技术是数据挖掘中的热门,广泛应用于社会生活各个领域,通过学习得到一个分类模型,把每个属性集映射到一个预先定义的类标号。随着深度学习和神经网络的发展,分类任务也迎来了新的发展,但仍然面临着标注数据难获取、标注工作难度大等问题。面向少标签场景时,由于缺乏充足的标注数据,常规分类方法训练得到的模型分类效果不稳定、泛化性能差;而在一些特殊的领域,甚至无法获取到标注数据,这时由于缺乏标签信息监督模型训练,常规分类方法不再适用。迁移学习可以利用数据、模型、任务等方面的相似性,将有大量标注的源域学习到的知识应用到目标域,协助完成目标域分类任务。目前针对少标签甚至无标签的情况,基于实例的迁移学习通过实例加权策略,使源域和目标域的数据分布相似,这种方法的缺点在于难以确定权重的取值;基于特征的迁移学习寻找源域和目标域之间共同的特征表示,利用这些特征进行知识迁移,但是容易破坏领域的内部结构;基于参数的迁移学习考虑到模型的参数能够反映学习到的知识,将源域训练好的模型的参数应用到目标域上,模型参数不易收敛;基于关系的迁移学习迁移的是类比关系,这种方法应用较少,仅适用于关系域。针对上述问题,本文提出的创新性成果如下:(1)面向少标签分类任务,提出了一种基于非负稀疏约束和判别联合概率的参数迁移方法。构建了非负稀疏降噪堆栈自动编码器,提高模型的数据重构能力以及鲁棒性,提取更加有效的高阶特征;设计了基于判别联合概率的域间差异度量方法,在减少域间差异的同时保留类别信息,有助于分类训练;此外还设计了基于动态选择的参数迁移方法,根据参数敏感度确定是否将该参数设置为冻结。通过仿真实验对所提方法进行分析验证,证明了该方法的优越性和创新性。在少标签分类任务中,该方法可以充分利用目标域中的少量标注数据并有较好的分类性能。(2)面向无标签分类任务,提出了一种基于双向循环生成对抗网络的迁移学习方法。构建了双向循环生成对抗网络,充分利用源域和目标域信息,在两个方向上进行数据分布转换,生成的中间域起到数据增强的作用;另外提出了基于类级别域间差异的跨域对齐方法,在跨域分布对齐过程中防止类别信息丢失。通过仿真实验对所提方法进行分析验证,证明了该方法的优越性和创新性。在无标签分类任务中,该方法在尽可能对齐源域和目标域的数据分布的同时保留其内部结构,有较好的分类表现。