笔记百科神经元模型
上期内容：Device视图下能看到什么
“神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应”这是T.Kohonen 1988年在Neural Networks创刊号上给“神经网络”的定义。这里的“简单单元”就是“神经元”。我们先看看神经元的数学模型，如下图所示。该模型是1943年美国心理学家McCulloch和数学家Pitts提出的MP神经元模型。可以看到一个神经元模型由输入信号、权值、偏置、加法器和激活函数共同构成，而且每个神经元都是一个多输入单输出的信息处理单元。这里注意wkj下标的含义：k表示第k个神经元；j表示第j个输入。因此，wkj就表示第k个神经元的第j个输入对应的权值。
从数学角度而言，图中涉及到如下数学表达式，前两个表达式为线性运算。wkj的大小表明了输入xj对输出的贡献程度；bk的作用则是调整激活函数的输入。一个神经网络的训练算法就是调整权值到最佳，以使得整个网络的预测效果最好，也就是提高网络的泛化能力。
从矩阵的角度而言，输入和权值均可用行或列向量的形式表示，进而，上述第一个表达式就可以直接用矩阵运算表示，如下图所示。
从Python角度而言，Numpy package增强了Python对矩阵运算的支持。上述矩阵乘法可方便地调用Python中的np.dot完成，如下图所示。
观察np.array中的表示形式，不难看出，这是一个列表。因此，可以先定义一个列表，再通过np.asarray将其转换为矩阵，如下图所示。
VIO你用对了吗
Schematic视图下能看到什么
学习笔记：深度学习之“深”
学习笔记：深度学习之“学习”
学习笔记：人工智能、机器学习和深度学习
都是pin，有什么区别
都是net，有什么区别
如何快速查找目标cell
2019文章汇总
文 | Lauren 图 | Lauren
Copyright @ Lauren的FPGA
转载事宜请私信 | 获得授权后方可转载
