一个解码步的前向记录,供 BPTT 反向使用。
DecoderStep
01 Syntax
Microsoft.VisualBasic.MachineLearning.Transformer.TransformerModel.DecoderStep
02 Fields
| Name | Overloads | Summary |
|---|---|---|
| Sentences | 1 | 该步解码器输入句子的快照(translatedSpanishSentences 是原地增长的,必须深拷贝) |
| SpanishEmbeddings | 1 | 该步目标语言词嵌入 |
| Probs | 1 | 该步输出层 softmax 概率,形状 [batch, 1, dictSize] |
| Delta | 1 | 交叉熵对 logits 的梯度(未缩放) |
| Caches | 1 | 该步解码器各层的前向缓存快照 |
| OutputCache | 1 | 该步输出层的前向缓存快照 |
03 Members
Sentences
该步解码器输入句子的快照(translatedSpanishSentences 是原地增长的,必须深拷贝)
SpanishEmbeddings
该步目标语言词嵌入
Probs
该步输出层 softmax 概率,形状 [batch, 1, dictSize]
Delta
交叉熵对 logits 的梯度(未缩放)
Caches
该步解码器各层的前向缓存快照
OutputCache
该步输出层的前向缓存快照