一,人工神经网络(Artificial Neural Network):
简介:人工神经网络是一种监督学习算法,可以类比人脑中的运作方式。神经网络接受输入,通过某些函数在神经网络中进行传递,导致某些后续神经元被激活,从而产生输出。(函数越复杂 神经网络对输入数据的拟合能力越大 预测准确性越高)
组成:输入层+隐藏层+输出层
输入层(Input Layer):即输入神经网络的数据,不对数据进行任何处理
隐藏层(Hidden Layer):对输入的数据进行处理和计算。隐藏层可以有一层或多层,是神经网络的关键。每个节点通过权重和偏置接受上一层的输入,并用于激活函数。
输出层(Output Layer):输出最后的结果。
(可类比为多层级联的变换过程,每一层的输出作为下一层的输入,通过权重矩阵和激活函数逐步传递数据)
工作原理:
规定:输入层为第0层,中间的隐藏层为第1~n层,输出层为第n+1层。对每个隐藏层产生的结果用表示,n代表第n层。每一隐藏层的输入数据来自于上一层的输出数据。x表示该层的第x个函数
注:每一层内的每个神经元对数据进行处理的函数称之为激活函数,对来自上一层的输入值进行加工和处理,最终产生输出,作用于下一层。
激活值:由激活函数产生的输出值,作为下一层的输入。
二,利用TensorFlow构建神经网络:
三,python中实现向前传播:
①单个层中的向前传播:
②向前传播的一般实现:
定义dense函数+sequential函数
③向量化实现向前传播:
简化dense函数,对Z进行向量化,并通过举证运算(numpy.dot)和matmul,可以简化代码