Thuật ngữ AI
Từ điển đầy đủ về Trí tuệ nhân tạo
162
danh mục
2.032
danh mục con
23.060
thuật ngữ
thuật ngữ
Attention Layer Normalization
Normalization applied before or after the attention mechanism to stabilize training, typically implemented as pre-norm in modern architectures.
thuật ngữ
ALiBi Position Embedding
Positional encoding method that applies linearly decreasing biases based on distance, enabling better extrapolation to longer sequence lengths.
🔍