এআই গ্লসারি
কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভিধান
মিনি-ব্যাচ গ্রেডিয়েন্ট ডিসেন্ট
এসজিডি-এর একটি বৈকল্পিক যা প্রতিটি পুনরাবৃত্তিতে গ্রেডিয়েন্ট গণনা করার জন্য ডেটার একটি ছোট উপসেট (ব্যাচ) ব্যবহার করে, যা বিশুদ্ধ এসজিডি এবং ব্যাচ গ্রেডিয়েন্ট ডিসেন্টের মধ্যে একটি সমঝোতা প্রদান করে।
মোমেন্টাম
এসজিডি-কে ত্বরান্বিত করার একটি কৌশল যা দোলন কাটিয়ে উঠতে এবং প্রাসঙ্গিক দিকগুলিতে অভিসৃতি ত্বরান্বিত করতে বর্তমান ভেক্টরে পূর্ববর্তী আপডেট ভেক্টরের একটি ভগ্নাংশ যোগ করে।
লার্নিং রেট শিডিউল
একটি কৌশল যা অভিসৃতি উন্নত করার জন্য প্রশিক্ষণের সময় গতিশীলভাবে লার্নিং রেট সামঞ্জস্য করে, যার মধ্যে স্টেপ ডিকে, এক্সপোনেনশিয়াল ডিকে এবং কোসাইন অ্যানিলিং পদ্ধতি অন্তর্ভুক্ত।
এক্সপ্লোডিং গ্রেডিয়েন্ট সমস্যা
একটি সমস্যা যেখানে প্রশিক্ষণের সময় গ্রেডিয়েন্ট অত্যধিক বড় হয়ে যায়, যা প্যারামিটার আপডেটে অস্থিরতা এবং শেখার অ্যালগরিদমের অপসারণ ঘটায়।
স্থানীয় মিনিমা
প্যারামিটার স্পেসের একটি বিন্দু যেখানে লস ফাংশন একটি স্থানীয় প্রতিবেশীতে সর্বনিম্ন মান পৌঁছায়, কিন্তু অগত্যা গ্লোবাল মিনিমাম নয়।
গ্লোবাল অপটিমা
প্যারামিটার স্পেসের একটি বিন্দু যেখানে লস ফাংশন পুরো ডোমেনে তার সর্বনিম্ন মান পৌঁছায়, যা অপ্টিমাইজেশন সমস্যার জন্য সর্বোত্তম সমাধান উপস্থাপন করে।
নেস্টেরভ এক্সিলারেটেড গ্রেডিয়েন্ট
মোমেন্টামের একটি উন্নত বৈকল্পিক যা বর্তমান অবস্থানের পরিবর্তে একটি প্রত্যাশিত অবস্থানে গ্রেডিয়েন্ট গণনা করে, তাত্ত্বিকভাবে দ্রুত অভিসৃতি প্রদান করে।