將TensorFlow張量值剪輯到最大平均L2-norm

2018-09-11 16:00 更新

tf.clip_by_average_norm

clip_by_average_norm (  
    t ,  
    clip_norm ,  
    name = None
  )

定義在:tensorflow/python/ops/clip_ops.py

參見指南:Training函數(shù)>梯度剪輯

將張量值剪輯到最大平均  L2-norm.

給定一個(gè)張量 t 和一個(gè)最大的剪輯值 clip_norm,此操作規(guī)范化 t,使其平均 L2-norm 小于或等于 clip_norm.具體地說(shuō),如果平均 L2-norm 已經(jīng)小于或等于 clip_norm,則 t 不會(huì)被修改.如果平均 L2-norm 大于 clip_norm,則此操作將返回與 t 相同的類型和形狀的張量,其值設(shè)置為:

t * clip_norm / l2norm_avg(t)

在這種情況下,輸出張量的平均 L2-norm 為 clip_norm.

此操作通常用于在將漸變應(yīng)用于優(yōu)化程序之前對(duì)其進(jìn)行剪輯.

ARGS:

  • t:一個(gè)張量.
  • clip_norm:一個(gè)0維 (標(biāo)量) 張量 > 0,最大剪輯值.
  • name:操作的名稱(可選).

返回:

返回一個(gè)剪輯張量.

以上內(nèi)容是否對(duì)您有幫助:
在線筆記
App下載
App下載

掃描二維碼

下載編程獅App

公眾號(hào)
微信公眾號(hào)

編程獅公眾號(hào)