


单击此处编辑母版标题样式,编辑母版文本样式,第二级,第三级,第四级,第五级,2018/9/9,#,人工智能导入,对智能还没有确切的定义,,智能是,知识,与,智力,的总和,人工智能,:用人工的方法在机器(计算机)上实现的智能;或者说是人们使机器具有类似于人的智能,图灵,测试,:,1950,年图灵发表的,计算机与智能,中设计了一个测试,用以说明人工智能的概念,1956,年正式提出人工智能,(,artificial intelligence,AI,),这个术语并把它作为一门新兴科学的名称人工智能学科,:一门研究如何构造智能机器(智能计算机)或智能系统,使它能模拟、延伸、扩展人类智能的学科知识是一切智能行为的基础,获取知识并应用知识求解问题的能力,智者,询问者,人工智能研究的基本内容,知识表示,机器感知,机器思维,机器学习,机器行为,人工智能的主要研究领域,自动,定理证明,博弈,模式识别,机器视觉,自然语言理解,智能信息检索,数据挖掘与知识发现,专家系统,自动程序设计,机器人,组合优化,问题,智能网络系统,人工生命,人工神经网络,分布式人工智能与多智能体,智能控制,智能仿真,智能,CAD,智能,CAI,智能管理与智能决策,智能多媒体系统,智能操作系统,智能计算机系统,智能通信,人工神经网络及其,应用,生物神经网络,(natural neural network,NNN):,由中枢神经系统(脑和脊髓)及周围神经系统(感觉神经、运动神经等)所构成的错综复杂的神经网络,其中最重要的是,脑神经系统,。
人工神经网络,(artificial neural networks,ANN):,模拟,人脑神经系统,的结构和功能,运用大量简单处理单元经广泛连接而组成的人工网络系统神经网络方法:,隐式,的知识表示方法,工作状态:,兴奋状态,:细胞膜电位,动作电位的阈值,神经冲动,抑制状态,:,细胞膜电位,动作电位的阈值,学习与遗忘:,由于神经元结构的可塑性,突触的传递作用可增强和减弱,输入,),(,输出,),神经冲动,:,第 个神经元的输出,第 个神经元的阈值,外部输入,加权求和:,其矩阵形式:,8,工作过程,:,从各输入端接收输入信号,u,j,(,j,=1,2,n,),根据连接权值求出所有输入的加权和,用非线性激励函数进行转换,得到输出,1.BP,网络结构,10,2.,输入输出变换关系,11,3.,工作过程,第一阶段或网络训练阶段,:,N,组输入输出样本:,x,i,=,x,i,1,x,i,2,x,ip,1,T,d,i,=,d,i,1,d,i,2,d,ipm,T,i,=1,2,N,对网络的连接权进行学习和调整,以使该网络实现给定样本的输入输出映射关系第二阶段或称工作阶段,:把实验数据或实际数据输入到网络,网络在误差范围内预测计算出结果。
12,(,1,)是否存在一个,BP,神经网络能够逼近给定的样本或者函数两个问题:,(,2,)如何调整,BP,神经网络的连接权,使网络的输入与输出与给定的样本相同1986,年,鲁梅尔哈特(,D.Rumelhart,)等提出,BP,学习算法13,8.2.2 BP,学习算法,目标函数:,约束条件:,连接权值的修正量:,1.,基本思想,14,BP,学习算法,记,先求,(,1,)对输出层的神经元,(,2,)对隐单元层,则有,15,8.2.2 BP,学习算法,2.,学习算法,16,8.2.2 BP,学习算法,正向传播:输入信息由输入层传至隐层,最终在输出层输出反向传播:修改各层神经元的权值,使误差信号最小2.,学习算法,17,8.2.2 BP,学习算法,2.,学习算法,18,8.2.3 BP,算法的实现,(,1,)隐层数及隐层神经元数的确定:目前尚无理论指导2,)初始权值的设置:一般以一个均值为,0,的随机分布设置网络的初始权值3,)训练数据预处理:线性的特征比例变换,将所有的特征变换到,0,,,1,或者,-1,,,1,区间内,使得在每个训练集上,每个特征的均值为,0,,并且具有相同的方差4,)后处理过程:当应用神经网络进行分类操作时,通常将输出,值编码成所谓的名义变量,具体的值对应类别标号。
1.BP,算法的设计,19,8.2.3 BP,算法的实现,(,1,)初始化:对所有连接权和阈值赋以随机任意小值;,(,2,)从,N,组输入输出样本中取一组样本:,x,=,x,1,x,2,x,p,1,T,d,=,d,1,d,2,d,pm,T,把输入信息,x,=,x,1,x,2,x,p,1,T,输入到,BP,网络中,(,3,)正向传播:计算各层节点的输出:,(,4,)计算网络的,实际输出与期望输出的误差:,2.BP,算法的计算机实现流程,20,8.2.3 BP,算法的实现,(,5,)反向传播:从输出层方向计算到第一个隐层,按连接权值修正公式向减小误差方向调整网络的各个连接权值6,)让,t,+1,t,,取出另一组样本重复(,2,)(,5,),直到,N,组输入输出样本的误差达到要求时为止2.BP,算法的计算机实现流程,21,8.2.3 BP,算法的实现,BP,学习算法的程序框图,22,1.,特点,BP,网络:多层前向网络(输入层、隐层、输出层)连接权值:通过,Delta,学习算法进行修正神经元传输函数:,S,形函数学习算法:正向传播、反向传播层与层的连接是单向的,信息的传播是双向的BP,算法的特点分析,23,2.BP,网络的主要优缺点,很好的逼近特性。
具有较强的泛化能力具有较好的容错性优点,收敛速度慢局部极值难以确定隐层和隐层结点的数目缺点,BP,算法的特点分析,。