人工神经网络——Artificial Neural Networks（PPT电子讲义课件）

人工神经网络 Artificial Neural Networks 2021/2/23

2021/2/23 1 人工神经网络 Artificial Neural Networks

课程目的和基本要求 作为人工神经网络的入门课程,用于将学 生引入人工神经网络及其应用的研究领域。 介绍人工神经网络及其基本网络模型,使 学生 了解智能系统描述的基本模型 掌握人工神经网络的基本概念、单层网、多层 网、循环网等各种基本网络模型的结构、特点、 典型训练算法、运行方式、典型问题 掌握软件实现方法 2021/2/23

2021/2/23 2 课程目的和基本要求 • 作为人工神经网络的入门课程，用于将学 生引入人工神经网络及其应用的研究领域。 • 介绍人工神经网络及其基本网络模型，使 学生 –了解智能系统描述的基本模型 –掌握人工神经网络的基本概念、单层网、多层 网、循环网等各种基本网络模型的结构、特点、 典型训练算法、运行方式、典型问题 –掌握软件实现方法

课程目的和基本要求 了解人工神经网络的有关研究思想,从中 学习开拓者们的部分问题求解方法。 ·通过实验进一步体会有关模型的用法和性 能,获取一些初步的经验 查阅适当的参考文献,将所学的知识与自 己未来研究课题(包括研究生论文阶段的 研究课题)相结合起来,达到既丰富学习 内容,又有一定的研究和应用的目的。 2021/2/23

2021/2/23 3 课程目的和基本要求 • 了解人工神经网络的有关研究思想，从中 学习开拓者们的部分问题求解方法。 • 通过实验进一步体会有关模型的用法和性 能，获取一些初步的经验。 • 查阅适当的参考文献，将所学的知识与自 己未来研究课题（包括研究生论文阶段的 研究课题）相结合起来，达到既丰富学习 内容，又有一定的研究和应用的目的

主要内容 °智能及其实现 ANN基础 Perceptron BP CPN 统计方法 Hopfield网与BAM ART 2021/2/23

2021/2/23 4 主要内容 • 智能及其实现 • ANN基础 • Perceptron • BP • CPN • 统计方法 • Hopfield网与BAM • ART

主要内容 第一章:引论 智能的概念、智能系统的特点及其描述基本 模型,物理符号系统与连接主义的观点及 其比较;人工神经网络的特点、发展历史。 2021/2/23

2021/2/23 5 主要内容 第一章：引论 智能的概念、智能系统的特点及其描述基本 模型，物理符号系统与连接主义的观点及 其比较；人工神经网络的特点、发展历史

主要内容 第二章人工神经网络基础 本章在介绍了基本神经元后,将概要介绍 人工神经网络的一般特性。主要包括,生 物神经网络模型,人工神经元模型与典型 的激励函数;人工神经网络的基本拓扑特 性,存储类型( CAM--LTM, AM--STM)及映象, Supervised训练与 Unsupervised训练 2021/2/23

2021/2/23 6 主要内容 第二章 人工神经网络基础 本章在介绍了基本神经元后，将概要介绍 人工神经网络的一般特性。主要包括，生 物神经网络模型，人工神经元模型与典型 的激励函数；人工神经网络的基本拓扑特 性 ， 存储类型 （ CAM──LTM ， AM──STM）及映象，Supervised训练与 Unsupervised训练

主要内容 第三章感知器 感知器与人工神经网络的早期发展;单层 网能解决线性可分问题,而无法解决线形 不可分问题,要想解决这一问题,必须引 入多层网;Hebb学习律, Delta规则,感知 器的训练算法。 ·实验:实现一个感知器。 2021/2/23

2021/2/23 7 主要内容 第三章 感知器 感知器与人工神经网络的早期发展；单层 网能解决线性可分问题，而无法解决线形 不可分问题，要想解决这一问题，必须引 入多层网；Hebb学习律，Delta规则，感知 器的训练算法。 • 实验：实现一个感知器

主要内容 第四章向后传播 BP( Backpropagation)网络的构成及其训 练过程;隐藏层权调整方法的直观分析,BP 训练算法中使用的 Delta规则(最速下降法) 的理论推导;算法的收敛速度及其改进讨论; BP网络中的几个重要问题。 实验:实现BP算法。 2021/2/23 8

2021/2/23 8 主要内容 第四章 向后传播 •BP（Backpropagation）网络的构成及其训 练过程；隐藏层权调整方法的直观分析，BP 训练算法中使用的Delta规则（最速下降法） 的理论推导；算法的收敛速度及其改进讨论； BP网络中的几个重要问题。 •实验：实现BP算法

主要内容 第五章对传网 生物神经系统与异构网的引入;对传网的 网络结构, Kohonen层与 Grossberg层的正 常运行,对传网的输入向量的预处理, Kohonen层的训练算法及其权矩阵的初始化 方法; Grossberg层的训练;完整的对传网。 ·实验:实现基本的对传网。 2021/2/23 9

2021/2/23 9 主要内容 第五章 对传网 • 生物神经系统与异构网的引入；对传网的 网络结构，Kohonen层与Grossberg层的正 常运行，对传网的输入向量的预处理， Kohonen层的训练算法及其权矩阵的初始化 方法；Grossberg层的训练；完整的对传网。 • 实验：实现基本的对传网

主要内容 第六章统计方法 统计方法是为了解决局部极小点问题而引 入的,统计网络的基本训练算法,模拟退 火算法与收敛分析, Cauchy训练,人工热 处理与临界温度在训练中的使用,BP算法 与 Cauchy训练相结合。 ·实验:实现模拟退火算法。 2021/2/23 10

2021/2/23 10 主要内容 第六章 统计方法 • 统计方法是为了解决局部极小点问题而引 入的，统计网络的基本训练算法，模拟退 火算法与收敛分析，Cauchy训练，人工热 处理与临界温度在训练中的使用，BP算法 与Cauchy训练相结合。 • 实验：实现模拟退火算法