पोजीशनल एन्कोडिंग
एलिबी एन्कोडिंग (लीनियर बायस के साथ अटेंशन)
पोजीशनल एन्कोडिंग विधि जो टोकन के बीच की दूरी के आधार पर अटेंशन को दंडित करती है, जिससे लंबी अनुक्रमों में बेहतर एक्सट्रपलेशन संभव होता है।
← पीछे