安徽理工大学：《智能控制及仿真》课程教学资源（课件讲义）第7章 典型神经网络

第7章典型神经网络

7.1单神经元网络 1神经元模型 图7-1中u为神经元的内部状态，8，为阈值，x,为 输入信号，j=1,…,n,W为表示从单元u到单元u的 连接权系数，S:为外部输入信号。 图7-1神经元模型可描述为：

i u  i j 1,,n wij j x i u j u i s

7.1单神经元网络 X1 W2 8 yi 51 图7-1单神经元模型

7.1单神经元网络 Net,=∑w,x,+&,-8 u;f(Net, y;=g(u)=h(Net) 通常情况下，取 8(u)=u1 即 y;=f(Net,)

( ) ( ) i i i y  g u  h Net i ij j i i j Net  w x  s  ( ) i i u  f Net i i g(u )  u ( ) i i y  f Net

7.1单神经元网络 2.常用的神经元非线性特性有以下3种： (1)阈值型 1 Net,>0 f(Ne)= Net≤0 1.0 0 Net; 图7-2阈值型函数

1 0 ( ) 0 0 i i i Net f Net Net     

7.1单神经元网络 (2)分段线性型 0 Net;>Netio f(Net)=kNet; Neto Net;Neti Net,≥Netu 0 Nefgo Nefi1 Net; 图73分段线性函数

0 0 max 0 ( ) i i i i i i il i il Net Net f Net kNet Net Net Net f Net Net         

7.1单神经元网络 (3)Sigmoidi函数型 f(Neti)= 1+e T 1.0 0.5 Net; 图7-4 Sigmoid函数

TNet i i e f Net    1 1 ( )

7.2BP神经元网络 1986年，Rumelhart等提出了误差反向传播神经 网络，简称BP网络(Back Propagation),该网络 是一种单向传播的多层前向网络。 误差反向传播的BP算法简称BP算法，其基本思 想是梯度下降法。它采用梯度搜索技术，以期使网络 的实际输出值与期望输出值的误差均方值为最小

7.2.1BP网络结构 含一个隐含层的BP网络结构如图7-5所 示，图中1为输入层神经元，j为隐层神 经元，k为输出层神经元

7.2.1 BP网络结构 i j k 含一个隐含层的BP网络结构如图7-5所 示，图中 i 为输入层神经元，j 为隐层神 经元，k 为输出层神经元

W的 输入层 隐层 输出层 节点 节点 节点

图7-5 BP神经网络结构