人工智能之机器学习

人工智能之机器学习


人工智能课程复习笔记专题
人工智能绪论
人工智能之知识表示
人工智能之搜索方法
人工智能之经典逻辑推理
人工智能之专家系统
人工智能之不确定推理方法
人工智能之机器学习

一、遗传算法

1、基本概念

个体与种群
个体:问题中的对象(解),搜索空间的一个点
种群:若干个个体组成的群体,搜索空间的一个很小的子集

适应度与适应度函数
适应度:对环境的适应程度,表征器优劣的一种测度
适应度函数:全体个体与适应度的对应关系,知道搜索的评价函数

染色体与基因
染色体:问题中个体的某种字符表示方式
基因:字符串中的字符
例如:
个体 染色体
9 —- 1001
(2,5,6)—- 010 101 110

遗传算子
1)选择-复制

对于一个规模为N的种群S,按每个染色体xi∈S的选择概率P(xi)所决定的选中机会,分N次从S中随机选定N个染色体,进行复制。

2)交叉
互换两个染色体某些位上的基因

3)基因
改变染色体某些位上的基因

2、基本遗传算法

1 在搜索空间U上定义一个适应度函数f(x),给定种群规模N,交叉率Pc和变异率Pm,代数T;

步2 随机产生U中的N个个体s1, s2, …, sN,组成初始种群S={s1, s2, …, sN},置代数计数器t=1;

步3  计算S中每个个体的适应度f() ;

步4 若终止条件满足,则取S中适应度最大的个体作为所求结果,算法结束。

步5  按选择概率P(xi)所决定的选中机会,每次从S中随机选定1个个体并将其染色体复制,共做N次,然后将复制所得的N个染色体组成群体S1;

步6  按交叉率Pc所决定的参加交叉的染色体数c,从S1中随机确定c个染色体,配对进行交叉操作,并用产生的新染色体代替原染色体,得群体S2;

步7 按变异率Pm所决定的变异次数m,从S2中随机确定m个染色体,分别进行变异操作,并用产生的新染色体代替原染色体,得群体S3;

步8  将群体S3作为新一代种群,即用S3代替S,t = t+1,转步3

3、遗传算法应用举例

例:利用遗传算法求解区间[0,31]上的二次函数y=x2的最大值


(1) 设定种群规模,编码染色体,产生初始种群。
将种群规模设定为4;用5位二进制数编码染色体;取下列个体组成初始种群S1:
s1= 13 (01101), s2= 24 (11000)
s3= 8 (01000), s4= 19 (10011)
(2) 定义适应度函数,
取适应度函数:f (x)=x2
(3) 计算各代种群中的各个体的适应度, 并对其染色体进行遗传操作,直到适应度最高的个体(即31(11111))出现为止。
首先计算种群S1中各个体
s1= 13(01101), s2= 24(11000)
s3= 8(01000), s4= 19(10011)
的适应度f (si) 。
容易求得
f (s1) = f(13) = 132 = 169
f (s2) = f(24) = 242 = 576
f (s3) = f(8) = 82 = 64
f (s4) = f(19) = 192 = 361

再计算种群S1中各个体的选择概率。
选择概率的计算公式为

由此可求得
P(s1) = P(13) = 0.14
P(s2) = P(24) = 0.49
P(s3) = P(8) = 0.06
P(s4) = P(19) = 0.31

在算法中赌轮选择法可用下面的子过程来模拟:  ① 在[0, 1]区间内产生一个均匀分布的随机数r。
② 若r≤q1,则染色体x1被选中。
③ 若qk-1 < r ≤ qk(2≤k≤N), 则染色体xk被选中。 其中的qi称为染色体xi (i=1, 2, …, n)的积累概率

交叉
设交叉率pc=100%,即S1中的全体染色体都参加交叉运算。
设s1’与s2’配对,s3’与s4’配对。分别交换后两位基因,得新染色体:
s1’’=11001(25), s2’’=01100(12)
s3’’=11011(27), s4’’=10000(16)

变异
设变异率pm=0.001。
这样,群体S1中共有
5×4×0.001=0.02
位基因可以变异。
0.02位显然不足1位,所以本轮遗传操作不做变异。

于是,得到第二代种群S2:
s1=11001(25), s2=01100(12)
s3=11011(27), s4=10000(16)

依次类推直至求出解。

二、神经网络

人工神经网络是由 具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。

神经元的信息传递和处理是一种电化学活动.树突由于电化学作用接受外界的刺激;通过胞体内的活动体现为轴突电位,当轴突电位达到一定的值则形成神经脉冲或动作电位;再通过轴突末梢传递给其它的神经元.从控制论的观点来看;这一过程可以看作一个多输入单输出非线性系统的动态过程

脑神经信息活动特征
1)巨量并行性
2)信息处理和存储单元结合在一起
3)自组织自学习功能

神经元的数学模型

其中x=(x1,…xm)T 输入向量,y为输出,wi是权系数;输入与输出具有如下关系:

θ为阈值,f(X)是激发函数;它可以是线性函数,也可以是非线性函数.

BP神经网络

本篇内容过于简单,若要深入学习见本人博文机器学习&深度学习算法及代码实现

已标记关键词 清除标记
©️2020 CSDN 皮肤主题: 撸撸猫 设计师:设计师小姐姐 返回首页