2024免费推广网站,合肥在线官网,品牌形象,tp框架做展示网站#x1f468;#x1f393;作者简介#xff1a;一位即将上大四#xff0c;正专攻机器学习的保研er #x1f30c;上期文章#xff1a;机器学习深度学习——softmax回归的简洁实现 #x1f4da;订阅专栏#xff1a;机器学习深度学习 希望文章对你们… 作者简介一位即将上大四正专攻机器学习的保研er 上期文章机器学习深度学习——softmax回归的简洁实现 订阅专栏机器学习深度学习 希望文章对你们有所帮助 线性回归已经完结了 接下来要开始讲解多层感知机在这之前先介绍感知机的相关内容有助于更好的理解。 感知机 感知机的概念训练感知机感知机例子感知机缺陷 感知机的概念 对上图给定输入x权重w和偏移b感知机输出 o σ ( w , x b ) σ ( x ) { 1 当 x 0 时 − 1 o t h e r w i s e o\sigma(w,xb)\\ \sigma(x) \begin{cases} \begin{aligned} 1当x0时\\ -1otherwise \end{aligned} \end{cases} oσ(w,xb)σ(x){1当x0时−1otherwise 上式中的otherwise也可能是输出1和0 容易看出感知机就是一个二分类问题。 和线性回归相比感知机就是简单的两个离散数而线性回归中会输出多个实数。
训练感知机 这其实很好理解if中的判断条件小于等于0的话说明预测和实际情况是相反的这时候就需要进行更新了。 这个更新其实等价于使用批量大小为1的梯度下降并使用了下面的损失函数 l ( y , x , w ) m a x ( 0 , − y w , x ) l(y,x,w)max(0,-yw,x) l(y,x,w)max(0,−yw,x)
感知机例子
下面是区分猫狗的图像用感知机非常适合解决这种二分类问题。
感知机缺陷
一个最大的缺陷他所能解决的问题一定要是一条线可以进行切割和分别的那么如果让感知机来解决XOR问题 两个红点表示输入的两个数都是一样的符号而绿点表示两个输入的数是异号的。这就导致我们无法用一条直线来分开这个问题。 连一个XOR函数都没办法解决的话感知机的缺陷可想而知而在之后将会进行多层感知机的讲解。
