Architecture Encoder-Decoder

Causal Masking

Technique dans le décodeur qui masque toutes les positions futures pour garantir que la prédiction pour la position i ne dépend que des positions 1 à i, respectant la nature auto-régressive de la génération.

← Retour