Fix. 更新数值缩放的全英文词

6 months ago · 2ebbad7d35
parent ba5a0f6760
commit 2ebbad7d35
1 changed files with 1 additions and 1 deletions
--- a/人人都能看懂的Transformer/第一章——Transformer网络架构.md
+++ b/人人都能看懂的Transformer/第一章——Transformer网络架构.md
@ -98,7 +98,7 @@

 ### 数值缩放

-> Addition and Normalization
+> Addition and Layer Normalization
 >
 > WHY：前面我们讲到，矩阵里的数字越大，表示跟其它词的语义关系越紧密，如果两个大值相加，很可能就造成大的值特别大，小的值特别小。所以要统一到一个维度，特别是深度学习场景里，由于深度学习是矩阵乘法， 所以大值或者小值都会被无限放大，导致模型不稳定。