高精度自适应小波神经网络人工智能方法探索

来源:用户上传      作者:

　　摘    要：针对当前人工智能方法存在的训练精度瓶颈问题和智能系统对高精度人工智能方法的迫切需求问题，结合小波分析和BP（back propagation）、RBF（radial basis function）神经网络的优点，提出了自适应小波神经网络（adaptive wavelet neural network，AWNN）方法，将其应用于智能视频分析系统和智能控制系统，并验证了AWNN方法可以取得更好的收敛性、准确性、精度等。通过对AWNN方法与经典的神经网络进行理论分析，并与计算机仿真进行对比分析，验证了该方法可以提升经典神经网络的速度和精度;进而通过将AWNN方法植入真实的视频分析系统进行实验，验证了AWNN方法与现有的视频分析技术相比具有更准确的内容分类能力;最终将AWNN方法与经典控制方法相结合，通过与两种现有的神经网络控制方法进行对比分析，验证了AWNN控制方法具有更好的控制性能。
　　关键词：高精度;自适应小波神经网络人工智能;方法
　　1  前言
　　经典的人工智能方法主要可以分为两大类：一是基于规则和推理技术的人工智能，例如专家系统、模糊逻辑、搜索方法、遗传算法、群集智能和基于规则的机器学习方法;二是基于人脑原理的神经网络技术，例如前馈神经网络、反馈神经网络、复合神经网络和基于神经网络的机器学习方法。
　　经典的人工智能方法在知识的海量存储和智能单元的处理能力（智能算法的局限性）两个方面遇到了瓶颈，导致其智能在一些简单的领域被有限地应用。经典的人工智能方法在学习知识的容量、精度和稳定性三方面待提升。
　　2012年以来，微软、苹果、谷歌、百度等公司相继在人工智能领域进行了重量级战略投资，开发了Cor-tana， Siri等人工智能系统，并发表了大量研究成果。2015～2016年，谷歌公司研究人员在“Nature”杂志发表多篇论文，展示了将深度人工智能方法应用于计算机，从而实现对49项游戏的学习和操控。计算机通过实时在线学习，对半数以卜比赛的操控效果达到了与测试人员非常接近的水平，在部分比赛中超过测试人员。研究表示“该成果是世界卜第一个能面对不同任务进行学习，对不同系统进行控制并胜出的人工智能算法。”计算机科学和IT领域开始向人工智能应用领域深水区迈出步伐，对具有高性能的人工智能理论和应用进行研究成为计算机科学探索的前沿阵地。2016年3月，谷歌公司采用卜述理论研发的A1phaGo人工智能系统在围棋项目人机对战中，战胜了世界围棋冠军李世石。
　　经典的神经网络可以分为前向网络和反馈网络。其中应用最广泛的两种神经网络模型是BP（ back propagation）神经网络和RBF 神经网络，还有很多基于这两类模型的改进模型。传统的BP网络算法采用基于误差反向传播的梯度算法，充分利用了多层前向网络的结构优势，算法相对成熟，具有很多应用案例;RBF网络利用差值法的研究成果，采用前馈的结构，各有优缺点。
　　BP神经网络模型的优点是：（1）具有较强的非线性映射能力;（2）具有高度自学习和自适应的能力;（3）具有良好的泛化能力，即对新鲜样本的适应能力;（4）具有一定的容错能力。
　　BP神经网络存在的缺点和问题是：（1）局部极小化影响精度;（2）算法收敛速度慢;（3）对训练样本依赖。RBF神经网络[6]采用了与 BP神经网络不同的局部激励函数，很大程度卜克服了BP神经网络的卜述缺点。RBF神经网络的优点是：（1）具有唯一最佳逼近的特性，无局部极小问题;（2）具有较强的输人和输出映射功能，在前向网络中RBF网络是完成映射功能的最优网络;（3）学习过程收敛速度快。
　　RBF神经网络存在的问题是：（1）RBF隐含层节点的中心难以获得;（2）隐含层节点数难以确认。
　　小波分析被称为数学显微镜，小波变换可以通过尺度伸缩和平移对信号进行多尺度分析，能有效提取信号的局部信息，具有良好的函数逼近能力和模式分类能力。小波神经网络已被证明在逼近单变量函数时是渐近最优的逼近器。
　　本文希望同时解决r述3个问题：BP神经网络陷人局部极小问题，RBF神经网络训练过程不稳定问题，以及在神经元规模有限的情况下训练精度瓶颈问题。试图探索将卜述3种算法优点相结合，从而克服彼此的缺陷，并引人对样本的自适应机制，构建出自适应小波神经网络方法。
　　本文首先验证了AWNN方法相对于经典神经网络的性能提升;进而应用于智能视频分析系统，在真实环境中验证了AWNN方法应用相对于其他经典神经网络应用的性能提升;最后与经典控制方法相结合，通过计算机仿真的方法验证了AWNN控制系统相对于其他经典神经网络控制系统的性能提升。
　　2  AWNN模型建立
　　AWNN设计原理如下：（1）BP神经网络结构中通过反向误差传播原理，可以获得稳定、快速、单调的误差收敛效果;（2）RBF神经网络中隐含层神经元采用基函数变换算法，相当于增加了误差调整维度，从而可以跳出陷人局部极小的情况;（3）小波变换算法的尺度变换算法具有极好的局部信息提取能力。
　　AWNN设计思路如下：采用BP神经网络拓扑结构和RBF神经网络隐含层神经元结构，将小波尺度变换函数作为神经网络隐含层的活化函数习，并设计对样本的自适应机制。
　　自适应小波神经网络的结构由5层组成：输人层、自适应层、小波函数计算层、输出层、综合层。
　　3  AWNN智能控制系统应用研究
　　将AWNN应用于智能控制实验，验证AWNN算法相对于BPNN，RBFNN算法可以使智能控制系统具有更好的特性。
　　神经网络控制系统结构图。原理是在线整定器的神经网络根据系统输出量和状态量，采用梯度下降法向着输出误差最小的方向，前向计算出控制参数的更新值，新的控制参数使得在线整定器计算出最新的控制量。
　　在线整定器先后采用BPNN，RBFNN和AWNN算法与经典控制方法相结合，从而构成一组对比实验，即BPNN-PID ， RBFNN-PID和AWNN-PID神经网络智能控制算法对比实验，从而对AWNN算法在智能控制领域应用得到的性能提升进行验证。RBFNN-PID出现不收敛的情况。
　　（1）AWNN-PID方法在响应快速性方面均优于BPNN-PID ， RBFNN-PID方法存在不稳定的情况，但具有最快的阶跃响应速度，且是唯一出现超调的算法;（2） AWNN-PID方法的平均稳态误差小于RBFNN-PID方法，BPNN-PID方法具有最小的稳态误差;（3）各算法在非线性系统应用中，面对系统内部和外部的动态波动和扰动，各算法具有自适应跟踪与恢復能力，其中AWNN算法具有快速响应系统波动与波动后快速恢复能力，具有较好的鲁棒性。
　　4 结束语
　　AWNN算法结合了小波变换、BPNN，RBFNN算法的优点：继承了BPNN的优点，具有更好的快速收敛性;继承了RBFNN的优点，可以克服局部极小问题;继承了小波分析的优点，具有更高的分辨精度。对比实验验证了AWNN算法可以通过多次重新训练，更高概率地得到更高的精度。
　　当BPNN， RBFNN，AWNN分别应用于智能视频监控系统，均可实现对带有标准数字的纸板进行人侵检测、处理、分析识别功能。通过对比实验，验证了AWNN算法在训练效率、训练成功率和精度方面具有更好的特性。特别是在高精度实验中，BPNN无法完成神经网络的训练，RBFNN的训练成功率也无法达到AWNN的水平。AWNN算法和系统可以应用到家居、提款机和博物馆等智能监控领域。
　　参考文献：
　　[1] 代艳霞，王洪益，伍倪燕.自适应因子神经网络的变压器故障诊断研究[J].机械设计与制造，2017（7）：175～178.
　　[2] 薛国峰.基于小波分析和代理模型的结构可靠性分析方法研究[D].哈尔滨工业大学，2017.
　　[3] 王超.炮控系统电动负载模拟器辨识与智能控制研究[D].南京理工大学，2017.
转载注明来源:https://www.xzbu.com/1/view-14767882.htm