人工神经网络的发展与应用

来源:用户上传      作者:

　　摘要：本文简要介绍了人工神经网络的发展、应用及研究现状，通过实例来分析人工神经网络原理的设计和实现过程。
　　关键词：人工神经网络；发展；应用；研究现状
　　中图分类号：G641 文献标识码：A
　　
　　1 人工神经网络的发展、应用及研究现状
　　
　　1.1 人工神经网络发展简史
　　人工神经网络的研究是从19世纪末期开始的，其发展历史经历了以下四个时期。
　　（1）启蒙时期
　　启蒙时期开始于1980年美国著名心理学家W.James关于人脑结构与功能的研究，结束于1969年Minsky和Papert发表的《感知器》（Perceptron）一书。早在1943年，心理学家McCulloch和数学家Pitts合作提出了形式神经元的数学模型（即M-P模型），该模型把神经细胞的动作描述为：1神经元的活动表现为兴奋或抑制的二值变化； 2任何兴奋性突触有输入激励后，使神经元兴奋与神经元先前的动作状态无关；3任何抑制性突触有输入激励后，使神经元抑制；4突触的值不随时间改变；5突触从感知输入到传送出一个输出脉冲的延迟时间是0.5ms。可见，M-P模型是用逻辑的数学工具研究客观世界的事件在形式神经网络中的表述。现在来看M-P模型尽管过于简单，而且其观点也并非完全正确，但是其理论有一定的贡献。因此，M-P模型被认为开创了神经科学理论研究的新时代。
　　1949年，心理学家D.O.Hebb提出了神经元之间突触联系强度可变的假设，并据此提出神经元的学习规则――Hebb规则，为神经网络的学习算法奠定了基础。1957年，计算机学家FrankRosenblatt提出了一种具有三层网络特性的神经网络结构，称为“感知器”（Perceptron），它是由阈值性神经元组成，试图模拟动物和人脑的感知学习能力，Rosenblatt认为信息被包含在相互连接或联合之中，而不是反映在拓扑结构的表示法中；另外，对于如何存储影响认知和行为的信息问题，他认为，存储的信息在神经网络系统内开始形成新的连接或传递链路后，新的刺激将会通过这些新建立的链路自动地激活适当的响应部分，而不是要求任何识别或坚定他们的过程。1962年Widrow提出了自适应线性元件（Adaline），它是连续取值的线性网络，主要用于自适应信号处理和自适应控制。
　　（2） 低潮期
　　人工智能的创始人之一Minkey和papert经过数年研究，对以感知器为代表的网络系统的功能及其局限性从数学上做了深入的研究，于1969年出版了很有影响的《Perceptron》一书，该书提出了感知器不可能实现复杂的逻辑函数，这对当时的人工神经网络研究产生了极大的负面影响，从而使神经网络研究处于低潮时期。引起低潮的更重要的原因是：20世纪70年代以来集成电路和微电子技术的迅猛发展，使传统的冯•诺伊曼型计算机进入发展的全盛时期，因此暂时掩盖了发展新型计算机和寻求新的神经网络的必要性和迫切性。但是在此时期，波士顿大学的S.Grossberg教授和赫尔辛基大学的Kohonen教授，仍致力于神经网络的研究，分别提出了自适应共振理论（Adaptive Resonance Theory）和自组织特征映射模型（SOM）。以上开创性的研究成果和工作虽然未能引起当时人们的普遍重视，但其科学价值却不可磨灭，它们为神经网络的进一步发展奠定了基础。
　　（3）复兴时期
　　20世纪80年代以来，由于以逻辑推理为基础的人工智能理论和冯•诺伊曼型计算机在处理诸如视觉、听觉、联想记忆等智能信息处理问题上受到挫折，促使人们怀疑当前的冯•诺伊曼型计算机是否能解决智能问题，同时也促使人们探索更接近人脑的计算模型，于是又形成了对神经网络研究的热潮。1982年，美国加州理工学院的物理学家John J.Hopfield博士发表了一篇对神经网络研究的复苏起了重要作用的文章，他总结与吸取前人对神经网络研究的成果与经验，把网络的各种结构和各种算法概括起来，塑造出一种新颖的强有力的网络模型，称为Hopfield网络。他引入了“计算能量函数”的概念，给出了网络稳定性依据。从而有力地推动了神经网络的研究与发展。1986年，Rumelhart及LeCun等学者提出了多层感知器的反向传插算法，克服了当初阻碍感知器模型继续发展的重要障碍。这一时期，大量而深入的开拓性工作大大发展了神经网络的模型和学习算法，增强了对神经网络特性的进一步认识，使人们对模仿脑信息处理的智能计算机的研究重新充满了希望。
　　（4）新时期
　　1987年6月，首届国际神经网络学术会议在美国加州圣地亚哥召开，这标志着世界范围内掀起了神经网络开发研究的热潮。在这次会上成立了国际神经网络学会（INNS），并于1988年在美国波士顿召开了年会，会议讨论的议题涉及到生物、电子、计算机、物理、控制、信号处理及人工智能等各个领域。自1988年起，国际神经网络学会和国际电气工程师与电子工程师学会（IEEE）联合召开了每年一次的国际学术会议。这次会议后不久，美国波士顿大学的StephenGrossberg教授、芬兰赫尔辛基技术大学的Teuvo Kohonen教授及日本东京大学的甘利俊一教授，主持创办了世界第一份神经网络杂志《Neural Network》。随后，IEEE也成立了神经网络协会并于1990年3月开始出版神经网络会刊，各种学术期刊的神经网络特刊也层出不穷。
　　从1987年以来，神经网络的理论、应用、实现及开发工具均以令人振奋的速度快速发展。神经网络理论已成为涉及神经生理科学、认知科学、数理科学、心理学、信息科学、计算机科学、微电子学、光学、生物电子学等多学科交叉、综合的前沿学科。神经网络的应用已渗透到模式识别、图像处理、非线性优化、语音处理、自然语言理解、自动目标识别、机器人专家系统等各个领域，并取得了令人瞩目的成果。
　　1.2 人工神经网络的应用
　　人工神经网络的智能化特征与能力使其应用领域日益扩大，潜力日趋明显。目前，神经网络的主要应用于以下几个领域。
　　（1）信息领域
　　神经网络作为一种新型智能信息处理系统，其应用贯穿信息的获取、传输、接收与加工利用等各个环节。
　　1）信号处理 神经网络广泛应用于自适应信号处理和非线性信号处理。前者如信号的自适应滤波、时间序列预测、谱估计、噪声消除等；后者如非线性滤波、非线性预测、非线性编码、调制解调等。
　　2）模式识别 模式识别涉及模式的预处理变换和将一种模式映射为其他类型的操作。神经网络 不仅可以处理静态模式如固定图像、固定能谱等，还可以处理动态模式如视频图像、连续语音等。
　　3）数据压缩 在数据传送存储时，数据压缩至关重要。神经网络可对待传送的数据提取模式特征，只将该特征传出，接收后再将其恢复成原始模式。
　　（2）自动化领域
　　神经网络和控制理论与控制技术相结合，发展为神经网络控制。为解决复杂的非线性不确定、不确知系统的控制问题开辟了一条新的途径。
　　1）系统辨识 在自动控制问题中，系统辨识的目的是为了建立被控对象的数学模型。多年来控制领域对于复杂的非线性对象的辨识，一直未能很好的解决。神经网络所具有的非线性特性和学习能力，使其在系统辨识方面有很大的潜力，为解决具有复杂的非线性、不确定性和不确知对象的辨识问题开辟了一条有效途径。
　　2）神经控制器 控制器在实时控制系统中起着“大脑”的作用，神经网络具有自学习和自适应等智能特点，因而非常适合于做控制器。对于复杂非线性系统神经控制器所达到的控制效果往往明显好于常规控制器。

　　3）智能检测 所谓智能检测一般包括干扰量的处理，传感器输入特性的非线性补偿，零点和量程的自动校正以及自动诊断等。这些智能检测功能可以通过传感元件和信号处理元件的功能集成来实现。在综合指标的检测（例如对环境舒适度这类综合指标的检测）中，以神经网络作为智能检测中的信息处理元件便于对多个传感器的相关信息（如温度、湿度、风向和风速等）进行复合、集成、融合、联想等数据融合处理，从而实现单一传感器所不具备的功能。
　　（3） 工程领域
　　1）汽车工程 汽车在不同状态参数下运行时，能获得最佳动力性与经济性的档位称为最佳档位。利用神经网络的非线性映射能力，通过学习优秀驾驶员的换档经验数据，可自动提取蕴含在其中的最佳换档规律。另外，神经网络在汽车刹车自动控制系统中也有成功的应用，该系统能在给定刹车距离、车速和最大减速度的情况下一人体感受到最小冲击实现平稳刹车而不受路面坡度和车重的影响。神经网络在载重车柴油机燃烧系统方案优化中也得到了应用，有效的降低了油耗和排烟度，获得了良好的社会经济效益。
　　2）军事工程 神经网络同红外搜索与跟踪系统配合后，可发现和跟踪飞行器。例如借助于神经网络可以检测空间卫星的动作状态是稳定、倾斜、旋转还是摇摆，一般正确率可达95%。
　　3）化学工程 神经网络在制药、生物化学、化学工程等领域的研究与应用蓬勃开展，取得了不少成果。例如在谱分析方面，应用神经网络在红外谱、紫外谱、折射光谱和质谱与化合物的化学结构间建立某种确定的对应关系方面的成功应用。
　　1.3 人工神经网络的研究现状
　　早在20世纪初，人们从模仿人脑智能的角度出发，研究出了人工神经网络，又称连接主义模式。其借鉴了人脑的结构和特点，并通过大量简单处理单元，互连组成了大规模并行分布式、信息处理和非线性动力学系统。该系统具有巨量并行性、结构可靠性、高度非线性、自学习性和自组织性等特点，它能够解决常规信息处理方法难以解决或无法解决的问题。人工神经网络的产生给人类社会带来了巨大的进步，但是随着社会的发展，神经网络结构的整体能力与其限制性已被逐渐体现出来。目前，对神经网络研究的趋势主要从以下三点进行分析：
　　（1）增强对智能和机器关系问题的认识
　　研究人类智能一直是科学发展中最有意义，也是空前困难的挑战性问题。20世纪80年代中期出现了“连接主义”的革命或并行分布处理（POP），又被称为神经网络，它具有自学习、自适应和自组织的特点，而这些正是神经网络研究需要进一步增强的主要功能。构建多层感知器与自组织特行图级联想的复合网络是增强网络解决实际问题能力的一个有效途径。
　　（2）探索更有效的学习新算法
　　在当前人工神经网络学习算法中，都有一个无法避免的缺陷，就是在学习新的模式样本时，会造成已有的知识破坏。于是在给定的学习误差条件下，人工神经网络必须对这些样本周而复始的反复学习，这样不仅造成反复迭代次数多，学习时间长，而且易陷入局部极小值。因而有必要进一步去构思更有效的学习新算法，以便能类似于生物神经网络那样实现知识的积累和继承。Amari运用微分流形理论创建的信息几何，首次将非欧式空间的研究带入人工神经网络模型的研究，Amari在信息几何中的开拓性工作，是在非线性空间研究的一个极其重要的工作，研究了神经网络模型结构在整个信息处理模型空间中的各种表示，所具有的变化能力和限制，为解释人脑神经功能提供了一定的理论基础，使得从整体结构上对神经网络进行分析成为可能，为进一步构思更有效的网络结构和学习算法提供了强有力的分析工具。
　　（3）解决多功能多方法的转换问题
　　这种转换问题就是多网络的协同工作问题，单独的人工神经网络不能完成像人脑那样的高级智能活动，将这些不同的智能信息处理方法综合在一起，构成整体神经网络智能系统，必然需要在多网络之间进行工作协调。 Hinton和他的研究小组，提出通过神经网络抽取模式结构为目标，形成外界环境在神经网络中的内在表示机理，并把其作为发展人工神经网络的基础，探索通过结构组合来达到完成具有更高水平的混合模拟人工神经网络机构和非监督学习人工神经网络。另一方面，人们正在考虑基于生命模型信息处理技术的目的和意义，包括进化计算，人工生命等。研究者已经开始从分子水平上来揭示人类思维之谜，用一些生物学上的发现来研究生物计算机。
　　总之，目前人工神经网络依赖的是一种典型的非线性、非欧式空间模型。如何把基于知识表、非结构化推理、连接主义的非线性函数逼近和基于生命模型系统联系起来是科学界面临的一个挑战。
　　
　　2 实例分析――基于人工神经网络的人脸识别分类器设计
　　
　　该例是用BP网络来实现人脸分类器，其BP网络的算法可简单描述为：（1）加载待识别样本的特征向量到输入层节点；（2）计算隐含层和输出层的输出，根据输出层节点的输出判断识别结果。
　　用特征脸法对人脸图像进行特征提取后，用这些特征向量和相应的教师信号来训练BP网络。若记输入层神经元数为I，隐含层神经元数为H，输出层神经元数为J。对于人脸类型数为P的人脸识别问题来说，若提取出的特征分量的维数是M，则网络输出层的神经元数J就取为人脸类别数P，网络输入层的神经元数就是M。在对BP网络进行训练时，如果BP网络输入的特征向量是从第P幅人脸图像提出的，则相应的BP网络的输出层的期望输出是第m个神经元的输出为1，其他神经元输出都为0，所以教师信号可以表示为out=[0，0，•••，1， •••，0，0]T。在进行人脸识别时，把经过加权特征脸法得到的待识别人脸图像的特征向量，输入到已训练完成的人工神经网络，观察神经网络输出层各个神经元的输出。设输出各层神经元的输出为O1O2•••••Oj （j为输出层神经元的个数），并设定阈值T。如果对于输入的某个待识别人脸的特征向量，所有的输出层神经元的输出Oj 满足|Qj -1|>T，则认为待识别人脸不是该人脸数据库中的人脸，如果满足|Qj -1|≤T，则认为该待识人脸被识别人脸是该人脸数据库中的人脸。并且满足| Oj -1|的值最小的那个输出神经元所对应的训练样本与之匹配。例如，如果训练时输入人脸图像Ij 的教师信号是使输出层神经元Oj输出是1，而其余的输出神经元输出是0，则如果在识别某个人脸图像时输出层神经元Oj 的输出满足 | Oj -1|最小，且 |Qj -1|≤T，则认为被识别人脸图像与Ij 相匹配，否则认为被识别人脸图像不属于该人脸图像数据库。网络训练完毕达到稳定状态后，保存网络的联接权值，用于后面的识别。最后将结果用实验仿真出来，采用的BP神经网络参数为学习步长1.3和0.6，动量参数a=0.7，b=0.4。
　　
　　3 结语
　　
　　人工神经网络是在对人脑神经网络的基本认识的基础上，用数理方法和信息处理的角度对人脑神经网络进行抽象，并建立某种简化模型。因此，人工神经网络是一种旨在模仿人脑结构及其功能的信息处理系统，其本质就是一个大规模非线性连续时间自适应的信息处理系统，通过大量简单关系连接实现复杂的函数关系。人工神经系统的产生，帮助人们解决了许多以冯•诺伊曼为依据的计算机解决不了的问题，给社会带了很大的进步。虽然如此，但是人工神经网络系统还是存在着许多不足之处，有待我们去探索与研究。
　　
　　参考文献
　　[1]韩力群. 人工神经网络理论、设计及应用[M]. 北京：化学工业出版社， 2002.
　　[2]田景文， 高美娟. 人工神经网络算法研究及应用[M]. 北京：北京理工大学出版社， 2006.
　　[3]罗四维. 大规模人工神经网络理论基础[M]. 北京：清华大学出版社； 北方交通大学出版社， 2004.
　　[4]沈世镒. 神经网络系统理论及其应用[M]. 北京：科学出版社， 1998.
　　[5]金忠， 胡钟山， 杨静宇. 基于BP神经网络的人脸识别方法[J]. 计算机研究与发展， 1999，（3）.

转载注明来源:https://www.xzbu.com/1/view-192261.htm