神经网络的应用及其发展

来源:用户上传      作者: 李　岩

　　[摘要] 该文介绍了神经网络的发展、优点及其应用和发展动向，着重论述了神经网络目前的几个研究热点，即神经网络与遗传算法、灰色系统、专家系统、模糊控制、小波分析的结合。
　　[关键词]遗传算法 灰色系统 专家系统 模糊控制 小波分析
　　
　　一、前言
　　神经网络最早的研究20世纪40年代心理学家Mcculloch和数学家Pitts合作提出的，他们提出的MP模型拉开了神经网络研究的序幕。神经网络的发展大致经过三个阶段：1947~1969年为初期，在这期间科学家们提出了许多神经元模型和学习规则， 如MP模型、HEBB学习规则和感知器等；1970~1986年为过渡期，这个期间神经网络研究经过了一个低潮，继续发展。在此期间，科学家们做了大量的工作，如Hopfield教授对网络引入能量函数的概念，给出了网络的稳定性判据，提出了用于联想记忆和优化计算的途径。1984年，Hiton教授提出Boltzman机模型。1986年Kumelhart等人提出误差反向传播神经网络，简称BP网络。目前，BP网络已成为广泛使用的网络；1987年至今为发展期，在此期间，神经网络受到国际重视，各个国家都展开研究，形成神经网络发展的另一个高潮。神经网络具有以下优点：
　　(1) 具有很强的鲁棒性和容错性，因为信息是分布贮于网络内的神经元中。
　　(2) 并行处理方法，使得计算快速。
　　(3) 自学习、自组织、自适应性，使得网络可以处理不确定或不知道的系统。
　　(4) 可以充分逼近任意复杂的非线性关系。
　　(5) 具有很强的信息综合能力，能同时处理定量和定性的信息，能很好地协调多种输入信息关系，适用于多信息融合和多媒体技术。
　　
　　二、神经网络应用现状
　　神经网络以其独特的结构和处理信息的方法，在许多实际应用领域中取得了显著的成效，主要应用如下：
　　(1) 图像处理。对图像进行边缘监测、图像分割、图像压缩和图像恢复。
　　(2) 信号处理。能分别对通讯、语音、心电和脑电信号进行处理分类；可用于海底声纳信号的检测与分类，在反潜、扫雷等方面得到应用。
　　(3) 模式识别。已成功应用于手写字符、汽车牌照、指纹和声音识别，还可用于目标的自动识别和定位、机器人传感器的图像识别以及地震信号的鉴别等。
　　(4) 机器人控制。对机器人眼手系统位置进行协调控制，用于机械手的故障诊断及排除、智能自适应移动机器人的导航。
　　(5) 卫生保健、医疗。比如通过训练自主组合的多层感知器可以区分正常心跳和非正常心跳、基于BP网络的波形分类和特征提取在计算机临床诊断中的应用。
　　(6) 焊接领域。国内外在参数选择、质量检验、质量预测和实时控制方面都有研究，部分成果已得到应用。
　　(7) 经济。能对商品价格、股票价格和企业的可信度等进行短期预测。
　　(8) 另外，在数据挖掘、电力系统、交通、军事、矿业、农业和气象等方面亦有应用。
　　
　　三、神经网络发展趋势及研究热点
　　1.神经网络研究动向
　　神经网络虽已在许多领域应用中取得了广泛的成功，但其发展还不十分成熟，还有一些问题需进一步研究。
　　(1) 神经计算的基础理论框架以及生理层面的研究仍需深入。这方面的工作虽然很困难，但为了神经计算的进一步发展却是非做不可的。
　　(2) 除了传统的多层感知机、径向基函数网络、自组织特征映射网络、自适应谐振理论网络、模糊神经网络、循环神经网络之外，一些新的模型和结构很值得关注，例如最近兴起的脉冲神经网络(spiking neural network)和支持向量机(support vector machine)。
　　(3) 神经计算技术与其他技术尤其是进化计算技术的结合以及由此而来的混合方法和混合系统，正成为一大研究热点。
　　(4) 增强神经网络的可理解性是神经网络界需要解决的一个重要问题。这方面的工作在今后若干年中仍然会是神经计算和机器学习界的一个研究热点。
　　(5) 神经网络的应用领域将不断扩大，在未来的几年中有望在一些领域取得更大的成功，特别是多媒体技术、医疗、金融、电力系统等领域。
　　2.研究热点
　　(1)神经网络与遗传算法的结合。遗传算法与神经网络的结合主要体现在以下几个方面：网络连接权重的进化训练；网络结构的进化计算；网络结构和连接权重的同时进化；训练算法的进化设计。基于进化计算的神经网络设计和实现已在众多领域得到应用，如模式识别、机器人控制、财政等，并取得了较传统神经网络更好的性能和结果。但从总体上看，这方面研究还处于初期阶段，理论方法有待于完善规范，应用研究有待于加强提高。神经网络与进化算法相结合的其他方式也有待于进一步研究和挖掘。
　　(2)神经网络与灰色系统的结合。灰色系统理论是一门极有生命力的系统科学理论，自1982年华中理工大学的邓聚龙教授提出灰色系统后迅速发展，以初步形成以灰色关联空间为基础的分析体系，以灰色模型为主体的模型体系，以灰色过程及其生存空间为基础与内的方法体系，以系统分析、建模、预测、决策、控制、评估为纲的技术体系。目前，国内外对灰色系统的理论和应用研究已经广泛开展，受到学者的普遍关注。灰色系统理论在在处理不确定性问题上有其独到之处，并能以系统的离散时序建立连续的时间模型，适合于解决无法用传统数字精确描述的复杂系统问题。
　　神经网络与灰色系统的结合方式有：(1) 神经网络与灰色系统简单结合；(2) 串联型结合；(3) 用神经网络增强灰色系统；(4) 用灰色网络辅助构造神经网络；(5) 神经网络与灰色系统的完全融合。
　　(3)神经网络与专家系统的结合。基于神经网络与专家系统的混合系统的基本出发点立足于将复杂系统分解成各种功能子系统模块，各功能子系统模块分别由神经网络或专家系统实现。其研究的主要问题包括：混合专家系统的结构框架和选择实现功能子系统方式的准则两方面。由于该混合系统从根本上抛开了神经网络和专家系统的技术限制，是当前研究的热点。把粗集神经网络专家系统用于医学诊断，表明其相对于传统方法的优越性。
　　(4)神经网络与模糊逻辑的结合
　　模糊逻辑是一种处理不确定性、非线性问题的有力工具。它比较适合于表达那些模糊或定性的知识，其推理方式比较类似于人的思维方式，这都是模糊逻辑的优点。但它缺乏有效的自学习和自适应能力。
　　而将模糊逻辑与神经网络结合，则网络中的各个结点及所有参数均有明显的物理意义，因此这些参数的初值可以根据系统的模糊或定性的知识来加以确定，然后利用学习算法可以很快收敛到要求的输入输出关系，这是模糊神经网络比单纯的神经网络的优点所在。同时，由于它具有神经网络的结构，因而参数的学习和调整比较容易，这是它比单纯的模糊逻辑系统的优点所在。模糊神经网络控制已成为一种趋势，它能够提供更加有效的智能行为、学习能力、自适应特点、并行机制和高度灵活性，使其能够更成功地处理各种不确定的、复杂的、不精确的和近似的控制问题。
　　模糊神经控制的未来研究应集中于以下几个方面：
　　(1) 研究模糊逻辑与神经网络的对应关系，将对模糊
　　控制器的调整转化为等价的神经网络的学习过程，用等价的模糊逻辑来初始化神经网络；
　　(2) 完善模糊神经控制的学习算法，以提高控制算法的速度与性能，可引入遗传算法、BC算法中的模拟退火算法等，以提高控制性能；
　　(3) 模糊控制规则的在线优化，可提高控制器的实时性与动态性能；

　　(4) 需深入研究系统的稳定性、能控性、能观性以及平衡吸引子、混沌现象等非线性动力学特性。
　　关于神经网络与模糊逻辑相结合的研究已有很多，比如，用于氩弧焊、机器人控制等。
　　(5)神经网络与小波分析的结合
　　小波变换是对Fourier分析方法的突破。它不但在时域和频域同时具有良好的局部化性质，而且对低频信号在频域和对高频信号在时域里都有很好的分辨率，从而可以聚集到对象的任意细节。
　　利用小波变换的思想初始化小波网络，并对学习参数加以有效约束，采用通常的随机梯度法分别对一维分段函数、二维分段函数和实际系统中汽轮机压缩机的数据做了仿真试验，并与神经网络、小波分解的建模做了比较，说明了小波网络在非线性系统黑箱建模中的优越性。小波神经网络用于机器人的控制，表明其具有更快的收敛速度和更好的非线性逼近能力。
　　
　　四、结论
　　经过半个多世纪的发展，神经网络理论在模式识别、自动控制、信号处理、辅助决策、人工智能等众多研究领域取得了广泛的成功，但其理论分析方法和设计方法还有待于进一步发展。相信随着神经网络的进一步发展，其将在工程应用中发挥越来越大的作用。
　　
　　参考文献：
　　[1]张曾科.模糊数学在自动化技术中的应用[M].清华大学出版社，1997.
　　[2]李士勇.模糊控制・神经控制和智能控制论[M].哈尔滨工业大学出版，1996.250-387.
　　[3]谢联峻.模糊控制在列车自动驾驶中的应用[J].自动化与仪器仪表，1999，(4).
　　[4]Collier W C，Weiland，R J Smart Carts，Smart Highways[J].IEEE Spec-trum，1994，31(4)：27-33.
　　[5]Hatwal H，Mikulcik E C.some Inverse Solutions to an Automobile Path Tracking Problem with Input Control of Steeringand Breaks，Ve-hicle system Dynamics，1986，(15)：61-71.
　　[6]Kosuge K，Fukuda T，Asada H.Acquisition if Human Skills for Robotic System[C].In：Proc IEEE Int Symp On Intelligen Control，1991.469-489.
　　[7]王小平，曹立明.遗传算法―理论、应用与软件实现.西安交通大学出版社，2002.
　　[8]Maniezzo V.Genetic evolution of the topologh and weight distribution
　　of neural network[J].IEEE Trans on Neural Network，1994，5(1)35-67.
　　[9]Harrald P G，Kamstra M.Evolving artificial neural networks to combine financial forecase[J].IEEE Trans on Evol Computer ，1997，1(1)：39-54.
　　[10]邓聚龙.灰色系统理论教程.华中理工大学出版社，1990.
　　[11]吕宏辉，钟珞，夏红霞.灰色系统与神经网络融合技术探索.微机发展，2000，23(4)：67-109.
　　[12]Zhong L，Yuan J L，Zou C M.Parameter whiten method for neural network modeling for gray problem.SPIE，Vol.4739，Orlando，2002.
　　[13]钟珞，饶文碧，邹承明.人工神经网络及其融合应用技术.科学出版社，2007，(1)：1-35.

转载注明来源:https://www.xzbu.com/2/view-468850.htm