TensorFlow函數(shù)：tf.variance_scaling_initializer

tf.variance_scaling_initializer函數(shù)

variance_scaling_initializer類

別名：

• 類 tf.initializers.variance_scaling
• 類 tf.keras.initializers.VarianceScaling
• 類 tf.variance_scaling_initializer

定義在：tensorflow/python/ops/init_ops.py

初始化程序能夠使其規(guī)模適應(yīng)權(quán)重張量的形狀.

使用distribution="normal",樣本從以0為中心的截?cái)嗾龖B(tài)分布中抽?。皇褂胹tddev = sqrt(scale / n),其中n為：

• 如果mode =“fan_in”,n為權(quán)重張量中輸入單元的數(shù)量；
  
• 如果mode =“fan_out”,n為輸出單元的數(shù)量；
  
• 如果mode =“fan_avg”,n為平均輸入的數(shù)量和輸出單元的數(shù)量.
  

使用distribution="uniform",樣本從[-limit, limit],其中l(wèi)imit = sqrt(3 * scale / n),內(nèi)的均勻分布中抽取.

參數(shù)：

• scale：比例因子(正浮點(diǎn)數(shù)).
• mode：為“fan_in”、“fan_out”以及“fan_avg”中的一個(gè).
• distribution：隨機(jī)分配使用,“normal”,“uniform”其中之一.
• seed：一個(gè)Python的整數(shù)用于創(chuàng)建隨機(jī)種子；查看tf.set_random_seed的行為.
• dtype：數(shù)據(jù)類型,僅支持浮點(diǎn)類型.

可能引發(fā)的異常：

• ValueError：如果“scale”,“mode”或“distribution”參數(shù)的值無效.

方法

__init__

__init__(
    scale=1.0,
    mode='fan_in',
    distribution='normal',
    seed=None,
    dtype=tf.float32
)

__call__

__call__(
    shape,
    dtype=None,
    partition_info=None
)

from_config

from_config(
    cls,
    config
)

從配置字典中實(shí)例化一個(gè)初始化程序.

如下示例：

initializer = RandomUniform(-1, 1)
config = initializer.get_config()
initializer = RandomUniform.from_config(config)

參數(shù)：

• config：一個(gè)Python的字典,它通常是get_config的輸出.

返回值：

返回一個(gè)初始化實(shí)例.

get_config

get_config()