# 添加神經(jīng)層
# add layer
# 層包括weights,biases,激勵函數(shù)
import tensorflow as tf

# 添加層,有輸入,輸入輸出大小,激勵函數(shù)(默認(rèn)是為None,則是線性函數(shù))
def add_layer(inputs,in_size,out_size,activation_function=None):
    Weights = tf.Variable(tf.random_normal([in_size,out_size])) # 權(quán)重 用隨機(jī)變量會比全部為0好很多 ,這里未變量矩陣
    biases = tf.Variable(tf.zeros([1,out_size]) + 0.1) # biases不是矩陣,是類似列表的東西,在激勵學(xué)習(xí)中,biases推薦不為0
    Wx_plus_b = tf.matmul(inputs,Weights) + biases # 矩陣乘法 這是預(yù)測的值,還沒被激活
    if activation_function is None:
        outputs = Wx_plus_b # 如果是線性函數(shù)則不需要添加激勵函數(shù)(因?yàn)榧詈瘮?shù)是非線性方程)
    else:
        outputs = activation_function(Wx_plus_b) # 把Wx_plus_b激活
    return outputs