神经元到神经网络与前向传播
作者：互联网
首先看一个平面坐标中的二分类问题：
如上图所示，三角形内是第一个类别(用圆点表示)，三角形外是第二个类别(用五角星表示)。
满足以下不等式方程组的点在三角形内：
将图中的点(1.5，1.5)带入不等式方程组
由此验证点(1.5，1.5)在三角形内。
将点(0.5，0.5) 带入不等式方程组
由此验证点(0.5，0.5)不满足方程组，即点不在三角形内。
平面内的任何一个点，都可以通过上面的不等式，判断出是否在三角形内，这样就可以解决二分类问题，三角形内是第一个类别，三角形外是第二个类别。
为了让不等式的符号相同，将方程组的前两个方程乘以-1，改变不等号方向，变为
将三个方程换为3个神经元，激活函数使用阶跃函数：
当点在三角形内，三个神经元的输出都为1。
当点在三角形外，三个神经元的输出至少有一个为0。
增加第四个神经元，用来做最终的类别判断：
这四个神经元的图像表达：
上图就是一个2层的神经网络：1个隐藏层+一个输出层。
隐藏层有3个神经元，输出层有一个神经元。
这个神经网络可以解决样品分布为三角形的二分类问题。
输入是一个点的x,y坐标，输出是点的类型。1：第一类，0：第二类。
从输入到输出的计算过程，就是神经网络的前向传播。
神经元组成的神经网络如何解决分布为四边形的二分类问题呢？如下图
解决办法是隐藏层增加一个神经元，变为4个神经元。
n边形的二分类问题，可以使用隐藏层包含n个神经元的网络解决。
当n趋于无穷大，可以解决圆形的二分类问题。
对于有多个区域的二分类问题可以增加隐藏层的层数。
上图可以使用具有2个隐藏层的3层神经网络对样本分类。
标签：1.5,不等式,分类,传播,神经网络,三角形,神经元 来源： https://blog.csdn.net/softlove03/article/details/123135210