將TensorFlow張量值剪輯到最大平均L2-norm

2018-09-11 16:00 更新

tf.clip_by_average_norm

clip_by_average_norm (  
    t ,  
    clip_norm ,  
    name = None
  )

定義在:tensorflow/python/ops/clip_ops.py

參見指南:Training函數(shù)>梯度剪輯

將張量值剪輯到最大平均  L2-norm.

給定一個張量 t 和一個最大的剪輯值 clip_norm,此操作規(guī)范化 t,使其平均 L2-norm 小于或等于 clip_norm.具體地說,如果平均 L2-norm 已經(jīng)小于或等于 clip_norm,則 t 不會被修改.如果平均 L2-norm 大于 clip_norm,則此操作將返回與 t 相同的類型和形狀的張量,其值設(shè)置為:

t * clip_norm / l2norm_avg(t)

在這種情況下,輸出張量的平均 L2-norm 為 clip_norm.

此操作通常用于在將漸變應(yīng)用于優(yōu)化程序之前對其進行剪輯.

ARGS:

  • t:一個張量.
  • clip_norm:一個0維 (標(biāo)量) 張量 > 0,最大剪輯值.
  • name:操作的名稱(可選).

返回:

返回一個剪輯張量.

以上內(nèi)容是否對您有幫助:
在線筆記
App下載
App下載

掃描二維碼

下載編程獅App

公眾號
微信公眾號

編程獅公眾號