基于双向门控循环单元和双重注意力的实体关系抽取

实体关系抽取在文本信息抽取中起着关键的作用。针对卷积神经网络出现文本数据特征丢失,循环神经网络梯度消失与长期依赖等问题,提出了一种基于双向门控循环单元和双重注意力的命名实体关系抽取方法。采用基于中文汉字n元笔画信息的词向量训练模型cw2vec和双向门控循环单元的方法,通过前向和后向传播的方式解决因遗忘而丢失句子特征信息的问题,再加入句子级别和字级别的注意力机制提高模型的精确度。实验表明,相比无注意力或单重注意力机制的方法,使用cw2vec模型训练的词向量库加上双向门控循环单元和双重注意力模型的准确率有所提高。     

多特征融合与注意力机制的中文文本关系抽取

在中文关系抽取任务中,数据稀疏和噪声传播问题是其研究难点。基于此,提出了在文本特征组织方面融合位置特征、最短依存特征和N-gram特征等多元特征,并提升关键性特征的权重,以缓解传统词特征的数据稀疏问题。这种组合特征进一步改善了文本中噪声传播问题,提高了句法特征在稀疏性问题下的可靠性。此外,在传统的双向LSTM神经网络中加入注意力机制,使模型更关注较为重要的特征,降低噪声对抽取任务的影响。在人物关系公开语料集上进行实验,结果表明采用该方法进行中文文本关系抽取的效果较好,并为信息抽取、知识图谱等领域提供了方法支持。     

基于半监督卷积神经网络的文本情感分类

针对情感分析需要标注大量高质量的训练集来提高模型的准确率,以及卷积神经网络无法充分利用句子中特有的情感信息,提出了一种基于多通道半监督卷积神经网络的情感分析模型。该模型通过重构卷积神经网络的损失函数以及不改变网络的结构来实现模型的半监督学习。同时,模型针对情感分析任务中特有的情感信息来构建文本输入矩阵以及将句子不同特征信息结合形成不同的网络输入通道,使模型在训练过程中从多方面的特征表示来学习输入句子的情感信息。并在COAE 2014和IMDB数据集上进行试验,验证了所提出方法的有效性。     

面向方面级情感分类与深度学习的分层网络模型

针对已有基于方面级别的情感分类通常只考虑独立的句子及关注每个句子的方面情感的问题,提出了一种基于方面情感分类的分层区域CNN-LSTM模型。与基于注意力机制LSTM和基于注意力机制CNN不同,通过分层关注机制将注意力集中在单词级别和句子级别上。采用一种新的基于分层CNN作为输入层,在整个评论中提取基于方面的长距离依赖特征,这种分层CNN和区域LSTM可以捕获与关注更深入更细粒度的信息,并且可以在预测过程中考虑句子内部和句子之间的关系。在多领域数据集上进行实验,结果表明,与仅使用单词向量基于方面情感分类的同类模型相比,所提出的模型性能更好。     

机器人对话中的情感倾向性分类模型研究

如何使机器人能够像普通人一样识别情感,有针对性地与人聊天是目前人工智能领域研究的核心问题。将情感识别任务看成一个分类问题,构建了两种分类模型,一是基于PCA-SVM的情感倾向性分类模型,有效地提取主要特征,从而转换到一个低维空间去处理数据,有利于提高分类效率和质量;二是基于LSTM的情感倾向性分类模型,利用Word2vec进行特征选择与组合,送入长短记忆神经网络(LSTM)进行特征表示学习,输出分类结果。实验表明,针对中小规模的评论语料数据,LSTM模型比SVM模型的分类效果更好。     

基于注意力机制的HDC-BiGRU海表温度预测模型

海表温度（sea surface temperature,SST）是研究全球气候变化的重要地球物理参数,SST的精确预测对全球气候变化、海洋环境和渔业发展具有重要意义。为了提高SST的预测精度,基于时空特征的提取方法,本文提出具有注意力机制的HDC-BiGRU混合模型（HDC-BiGRU-AT,由编码器和解码器构成）,可以预测7天的SST。在模型编码阶段,混合空洞卷积（hybrid dilated convolution,HDC）能够提取SST的空间特征,双向门控循环神经网络（bidirectional gated recurrentunit,BiGRU）能够捕获SST的时序特征。通过加入注意力机制,对输出信息分配不同的权重（重要信息分配更高的权重系数）,进而实现信息编码,在解码阶段可以提高模型的预测精度。选取我国东海和南海海域的二维SST数据进行建模,实验结果表明,HDC-BiGRU-AT模型的误差指标值均低于已有的方法,充分验证了所提方法的可行性、有效性。     

深度学习神经网络在管道故障诊断中的应用研究

针对管道故障诊断特征参数选取经验化和诊断准确率低的问题,提出一种基于深度学习神经网络(DLNN)的管道故障诊断方法。首先建立由自动编码器(AE)和分类器SOFTMAX构成的深度学习神经网络分类(CDLNN)模型,并利用该模型对4类数据集进行分类性能测试;然后运用小波分析法提取8种反映管道运行状态的特征参数,输入AE中进行转换,重构反映管道运行状态的特征参数,最后输入分类器SOFTMAX中进行诊断,将这种基于DLNN的故障诊断方法应用于实验室油气储运管道泄漏检测系统中,以验证方法的有效性。结果表明:该方法的管道故障识别平均准确率达92.86%,其与凭借经验选取特征参数的BPNN方法和SVM方法相比,具有更高的稳定性和辨识率。     

基于ICEEMDAN分解和MHA-LSTM神经网络的滑坡位移预测

深度学习在机器视觉等各个领域的兴起，使长短时间记忆(LSTM)神经网络也越来越常用于滑坡预测工作中。为加强对历史信息的提取与捕捉，提出一种多头自注意力长短时间记忆(MHA-LSTM)神经网络用来预测滑坡位移。首先采用改进版的自适应噪声完备集合经验模态分解(ICEEMDAN)算法将滑坡位移分解成趋势项、周期项和噪声项；然后采用MHA-LSTM神经网络拟合带噪声的滑坡位移趋势项和周期项，两者相加即可得到滑坡总位移的预测结果；最后以白水河滑坡实测数据为例，考虑月降雨量和库水位因素的影响，对该滑坡位移的周期项和趋势项进行预测，并与其他传统神经网络的预测结果进行对比。结果表明：MHA-LSTM神经网络模型相较于其他传统神经网络模型，能更好地捕捉历史的信息特征，预测效果更佳，可为滑坡预测提供新的技术方法。     

基于时间序列谐波分析的东北地区耕地资源提取

耕地是人类社会赖以生存发展最重要的资源之一,及时获取其空间分布是国家农业决策的基础。论文利用2007年多时相的SPOT/VGT NDVI数据提取东北地区耕地资源信息。以NDVI时间序列数据年内变化振幅和周期差异性作为分类的依据,采用时间序列谐波分析法对全年时间谱NDVI数据进行重构,减少高频噪声对信息提取的影响,获得研究区地物信息在时间维度上的振幅、相位以及年均NDVI值影像图,然后将三者合成。应用神经网络分类方法,对合成后的影像选择训练样本,获取东北地区耕地资源的空间分布。实验中提取耕地的精度为83.26%,Kappa系数为0.732 4;该方法获取耕地资源空间分布的精度均高于GLC2000、UMD、IGBP和中科院1∶100万土地利用数据4种分类产品。研究表明,基于时间序列谐波分析法对NDVI数据重建,利用不同类型植被NDVI曲线在一年内振幅、相位特征的差异,采用神经网络分类的方法,可以精确地提取耕地资源信息,及时为农业和土地管理部门管理决策提供科学依据。     

基于光谱与纹理特征融合的滩涂信息提取方法

滩涂在光学遥感影像中具有光谱信息综合的特点,单纯基于光谱特征的滩涂信息提取方法精度不高.本文在海岸带地物分类过程中,引入了纹理特征分析,发展了一种基于光谱和纹理特征融合的滩涂信息提取方法.该方法首先利用神经网络分别实现基于像元光谱特征和基于图像纹理特征的海岸带地物分类;在两种分类结果的基础上,建立融合模型,完成决策级的信息融合,从而得到最终的滩涂信息提取结果.试验结果表明,在海岸带地物分类过程中引入纹理特征分析是有效的,决策级的光谱与纹理信息融合可以使滩涂信息提取的精度达到92.3%.另外,神经网络方法用于海岸带地物分类亦是可行的.