Was macht die Skalierung eines Gradienten?

Im MuZero-Papierpseudocode haben sie die folgende Codezeile:

hidden_state = tf.scale_gradient(hidden_state, 0.5) 

Was macht das? Warum ist es dort?

Ich habe nach tf.scale_gradient gesucht und es existiert nicht im Tensorflow. Und im Gegensatz zu scalar_loss scheinen sie es nicht in ihrem eigenen Code definiert zu haben.

Für den Kontext ist hier die gesamte Funktion:

def update_weights(optimizer: tf.train.Optimizer, network: Network, batch, weight_decay: float): loss = 0 for image, actions, targets in batch: # Initial step, from the real observation. value, reward, policy_logits, hidden_state = network.initial_inference( image) predictions = [(1.0, value, reward, policy_logits)] # Recurrent steps, from action and previous hidden state. for action in actions: value, reward, policy_logits, hidden_state = network.recurrent_inference( hidden_state, action) predictions.append((1.0 / len(actions), value, reward, policy_logits)) # THIS LINE HERE hidden_state = tf.scale_gradient(hidden_state, 0.5) for prediction, target in zip(predictions, targets): gradient_scale, value, reward, policy_logits = prediction target_value, target_reward, target_policy = target l = ( scalar_loss(value, target_value) + scalar_loss(reward, target_reward) + tf.nn.softmax_cross_entropy_with_logits( logits=policy_logits, labels=target_policy)) # AND AGAIN HERE loss += tf.scale_gradient(l, gradient_scale) for weights in network.get_weights(): loss += weight_decay * tf.nn.l2_loss(weights) optimizer.minimize(loss) 

Was bewirkt die Skalierung des Verlaufs und warum wird er dort ausgeführt?

Kommentare

• Ich habe auf der Website von TensorFlow ' nach tf.scale_gradient() gesucht. Wie die Ergebnisse zeigen , kommt nichts heraus. Es muss eine Funktion aus alten TF-Versionen sein, die jetzt aufgegeben wurde. Sicherlich ist ' in TF 2.0 nicht mehr verfügbar.
• Ich ' glaube es nicht ' war schon immer eine Funktion im Tensorflow, da bei einer Google-Suche keine Ergebnisse erzielt wurden.