Efficient Transformers
ডাইলেটেড অ্যাটেনশন
জটিলতা বৃদ্ধি না করে দীর্ঘ-পরিসরের নির্ভরতা ক্যাপচার করার জন্য ডাইলেটেড প্যাটার্ন ব্যবহার করে স্লাইডিং উইন্ডো অ্যাটেনশনের এক্সটেনশন। প্যাটার্নের গর্তগুলি রিসেপ্টিভ ফিল্ডের সূচকীয় সম্প্রসারণ সক্ষম করে।
← ফিরে যান