基于双向门控循环单元和双重注意力的实体关系抽取

实体关系抽取在文本信息抽取中起着关键的作用。针对卷积神经网络出现文本数据特征丢失,循环神经网络梯度消失与长期依赖等问题,提出了一种基于双向门控循环单元和双重注意力的命名实体关系抽取方法。采用基于中文汉字n元笔画信息的词向量训练模型cw2vec和双向门控循环单元的方法,通过前向和后向传播的方式解决因遗忘而丢失句子特征信息的问题,再加入句子级别和字级别的注意力机制提高模型的精确度。实验表明,相比无注意力或单重注意力机制的方法,使用cw2vec模型训练的词向量库加上双向门控循环单元和双重注意力模型的准确率有所提高。     

融合主题模型与注意力机制的情感分析方法

随着深度学习技术的深入研究,越来越多的深度神经网络模型被运用于情感分析任务。针对现有模型不能较好地表征词语的上下文信息,且存在数据稀疏与特征不明显等问题,提出了一种基于主题模型和注意力机制的情感分类方法,通过LDA模型提取主题特征,并将主题特征和文本特征融合在一起。为了捕获文本情感极性转变的语义信息,从而抽取出文本的最佳情感极性,该方法采用基于CBOW方式的Word2vec模型训练词向量,将带有主题特征的词嵌入矩阵通过Bi-LSTM神经网络模型获取文本的上下文信息,结合注意力机制进一步提取文本信息,再通过softmax线性函数输出积极情感和消极情感的概率。结果表明,该方法在情感分析(NLPCC-SCDL)评测任务的中文数据集上取得了较好的分类效果。     

面向方面级情感分类与深度学习的分层网络模型

针对已有基于方面级别的情感分类通常只考虑独立的句子及关注每个句子的方面情感的问题,提出了一种基于方面情感分类的分层区域CNN-LSTM模型。与基于注意力机制LSTM和基于注意力机制CNN不同,通过分层关注机制将注意力集中在单词级别和句子级别上。采用一种新的基于分层CNN作为输入层,在整个评论中提取基于方面的长距离依赖特征,这种分层CNN和区域LSTM可以捕获与关注更深入更细粒度的信息,并且可以在预测过程中考虑句子内部和句子之间的关系。在多领域数据集上进行实验,结果表明,与仅使用单词向量基于方面情感分类的同类模型相比,所提出的模型性能更好。     

大气中SO2浓度的小波分析及神经网络预测

应用小波分解和重构对SO2浓度年变化趋势进行分析,在此基础上,建立了一种分段BP神经网络预测模型,并对各段有针对性地设计了神经网络预测模型.采用主成分分析进行输入变量降维.在BP网络训练过程中,往往会出现过拟合的现象,为此,在训练过程中,将样本等间距地分离为训练集和验证集来防止这个问题.为了消除网络的权值初始化对学习系统复杂性的影响,采用了5个子网络输出取算术平均的神经网络集成的方法.预测结果表明,该模型应用于SO2浓度预测具有较高的预测精度和良好的推广能力,而且明显优于一般的神经网络模型.     

基于深层神经网络的电力负荷预测

精确的电力负荷预测具有很大的经济和社会效益。本文基于深层神经网络研究负荷预测。文章首先分析了负荷预测中用到的关键特征,接着描述了深层神经网络和有监督的判别式预训练方法,以及文中使用的三种激活函数。最后,在一个较大的电力负荷数据集上比较了不同神经网络模型的预测效果。实验结果表明,使用有监督的预训练的深层神经网络具有最好的预测精度。     

基于卷积神经网络的乙烯球罐泄漏检测研究

乙烯球罐泄漏会对安全生产造成严重威胁。为了解决泄漏初期不易检测到的难题,研究应用卷积神经网络进行自动泄漏识别的方法。以不同角度下的正常工况和泄漏工况的场景图像作为训练对象,搭建基于卷积神经网络的识别模型,研究确定采用最大池化法和ReLU激活函数的网络设置,可使网络性能达到最优。测试结果表明,本文提出的方法和模型能有效实现乙烯球罐泄漏的自动检测。     

基于神经网络集成的单个飞行事件噪声预测模型

通过分析影响单个飞行事件噪声的各种因素,构建了BP神经网络回归预测模型,并通过自适应遗传算法优选出参与集成的个体神经网络,提出了预测单个飞行事件噪声的神经网络集成预测模型.为了有效保证差异性,设置不同隐藏神经元个数和Bagging算法来构建和训练单个网络.实验结果表明,单个飞行事件噪声的神经网络集成预测模型相对单个BP神经网络模型泛化能力更强,稳定性能更好.本文方法在测试集上误差在3dB以内的平均比率为96.9%,比单个网络高6.8%.     

基于神经网络集成的单个飞行事件噪声预测模型

通过分析影响单个飞行事件噪声的各种因素,构建了BP神经网络回归预测模型,并通过自适应遗传算法优选出参与集成的个体神经网络,提出了预测单个飞行事件噪声的神经网络集成预测模型.为了有效保证差异性,设置不同隐藏神经元个数和Bagging算法来构建和训练单个网络.实验结果表明,单个飞行事件噪声的神经网络集成预测模型相对单个BP神经网络模型泛化能力更强,稳定性能更好.本文方法在测试集上误差在3dB以内的平均比率为96.9%,比单个网络高6.8%.     

支持向量机在太湖叶绿素a非线性反演中的应用

根据湖泊监测的特点,采用支持向量机(SVM)方法,反演太湖叶绿素a的浓度分布.将2005年8月太湖29个现场水质监测点数据分为训练测试样本集和验证样本集,利用训练测试样本集以及与其时间同步的MODIS遥感影像,分别构建了4种SVM模型.对比分析表明,直接以波段反射率以及水深信息构成输入向量的SVM模型预测效果最好.利用训练测试样本构建了线性回归模型、主成分分析模型(PCA)以及神经网络模型(ANN),并利用验证数据比较了上述3种模型与SVM模型的预测结果.结果表明ANN模型和SVM模型预测能力明显优于另外2种模型,其中SVM模型对低值和高值均有较好的预测精度,平均相对误差仅为15.91%,预测精度比ANN模型提高了10%.利用SVM模型和ANN模型分别反演了2005年8月15日太湖叶绿素a浓度分布,比较了2种模型反演结果的异同,分析了太湖叶绿素a分布特征及其成因.     

基于遗传算法的人工神经网络大气环境评价

人工神经网络模拟大脑的认知功能,通过改变连接点的权值和阈值来训练神经网络完成特定的功能。运用基于遗传算法的BP网络模型,以国家大气质量标准作为网络的输入样本对网络进行训练,对某地区大气质量进行评价,结果与综合指数法比较吻合。