এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
ডিকোডার-অনলি
ট্রান্সফরমার ডিকোডার ব্লক দিয়ে গঠিত নিউরাল নেটওয়ার্ক কাঠামো, যা অটোরিগ্রেসিভ মোডে টেক্সট জেনারেশন টাস্কের জন্য ব্যবহৃত হয়।
অটোরিগ্রেসিভ প্রি-ট্রেনিং
প্রশিক্ষণের একটি পর্যায় যেখানে মডেলটি প্রতিটি টোকেনের কনটেক্সট দেওয়া অবস্থায় এটি ভবিষ্যদ্বাণী করার সম্ভাব্যতা সর্বাধিক করে একটি সিকোয়েন্সের কন্ডিশনাল প্রোবাবিলিটি শেখে।
ইনস্ট্রাকশন ফাইন-টিউনিং
একটি প্রি-ট্রেন্ড মডেলকে (ইনস্ট্রাকশন, আউটপুট) জোড়ার ডেটাসেটে অভিযোজিত করার প্রক্রিয়া, নির্দিষ্ট কমান্ড অনুসরণ করার ক্ষমতা উন্নত করার জন্য।
ইনস্ট্রাক্ট মডেল
একটি বেস মডেলের বৈকল্পিক যা নির্দেশাবলী更好地 বুঝতে এবং কার্যকর করার জন্য ফাইন-টিউন করা হয়েছে, ডায়লগ এবং কথোপকথন সহায়তার জন্য অপ্টিমাইজড।
বীম সার্চ ডিকোডিং
হিউরিস্টিক ডিকোডিং অ্যালগরিদম যা প্রতিটি ধাপে 'k' সংখ্যক সর্বাধিক সম্ভাব্য প্রার্থী সিকোয়েন্সের একটি সেট বজায় রাখে, জেনারেশনের সামঞ্জস্য উন্নত করার জন্য।
নিউক্লিয়াস স্যাম্পলিং (টপ-পি)
স্যাম্পলিং কৌশল যা পরবর্তী টোকেনের পছন্দকে এমন টোকেনের সেটে সীমাবদ্ধ করে যার ক্রমবর্ধমান সম্ভাব্যতা একটি থ্রেশহোল্ড 'p' অতিক্রম করে, বৈচিত্র্য এবং সামঞ্জস্যের মধ্যে ভারসাম্য বজায় রাখে।
ডিকোডিং তাপমাত্রা
সফটম্যাক্স ফাংশন প্রয়োগ করার আগে লজিটগুলিকে ভাগ করে জেনারেশনের এলোমেলোতা নিয়ন্ত্রণকারী প্যারামিটার, যেখানে উচ্চ মান সৃজনশীলতা বাড়ায়।
পরম অবস্থানগত এনকোডিং
একটি সিকোয়েন্সে একটি টোকেনের অবস্থান অন্তর্ভুক্ত করার পদ্ধতি, স্থির বা শেখা সাইনুসয়েডাল ভেক্টর ব্যবহার করে, যা অটোরিগ্রেসিভ মডেলের জন্য অপরিহার্য।
কেভি ক্যাশ (কী-ভ্যালু ক্যাশ)
গণনামূলক অপ্টিমাইজেশন যা পূর্ববর্তী টোকেনগুলির কী এবং মান সংরক্ষণ করে, যাতে ক্রমিক স্ব-প্রতিগমনীয় জেনারেশনের সময় অ্যাটেনশন স্টেট পুনরায় গণনা এড়ানো যায়।
ফিউ-শট লার্নিং (ইন-কনটেক্সট লার্নিং)
একটি মডেলের ক্ষমতা যা নেটওয়ার্কের ওজন আপডেট ছাড়াই, সরাসরি প্রম্পটের কনটেক্সটে প্রদত্ত কয়েকটি উদাহরণ থেকে একটি নতুন কাজ শিখতে পারে।
এক্সপোজার বায়াস
একটি ঘটনা যেখানে স্ব-প্রতিগমনীয় মডেলগুলি, বাস্তব ডেটা থেকে পরবর্তী টোকেন ভবিষ্যদ্বাণী করতে প্রশিক্ষিত হয়, ইনফারেন্সের সময় তাদের নিজস্ব ভুল ভবিষ্যদ্বাণীর সংস্পর্শে আসার কারণে ত্রুটি জমা করে।