在 Tensorflow 里定义一个 添加层的函数, 可以很容易的 添加神经层, 为之后的添加省下不少时间.
定义 add_layer()
神经层里常见的参数通常有 weights
、biases
和激励函数。
首先,我们需要导入 tensorflow
模块。
1 | import tensorflow as tf |
然后定义添加神经层的函数 def add_layer()
, 它有四个参数:输入值、输入的大小、输出的大小和激励函数,我们设定默认的激励函数是 None
。
1 | def add_layer(inputs, in_size, out_size, activation_function=None): |
接下来,我们开始定义 weights
和 biases
。
因为在生成初始参数时,随机变量(normal distribution)会比全部为0要好很多,所以我们这里的 weights
为一个 in_size
行, out_size
列的随机变量矩阵。
1 | Weights = tf.Variable(tf.random_normal([in_size, out_size])) |
在机器学习中,biases
的推荐值不为0,所以我们这里是在0向量的基础上又加了0.1。
1 | biases = tf.Variable(tf.zeros([1, out_size]) + 0.1) |
下面,我们定义 Wx_plus_b, 即神经网络未激活的值。其中,tf.matmul() 是矩阵的乘法。
1 | Wx_plus_b = tf.matmul(inputs, Weights) + biases |
当 activation_function 为 None
时,输出就是当前的预测值 Wx_plus_b
,不为 None
时,就把 Wx_plus_b
传到 activation_function()
函数中得到输出。
1 | if activation_function is None: |
最后,返回输出,添加一个神经层的函数 def add_layer()
就定义好了。
1 | return outputs |
Checking if Disqus is accessible...