ব্লুম (ভাষা মডেল)

বিগসায়েন্স বৃহৎ উন্মুক্ত-বিজ্ঞান উন্মুক্ত-প্রবেশাধিকার বহুভাষিক ভাষার মডেল () বা সংক্ষেপে ব্লুম  (BLOOM) একটি ১৭৬-বিলিয়ন-প্যারামিটার ট্রান্সফরমার -ভিত্তিক অটোরিগ্রেসিভ লার্জ ল্যাঙ্গুয়েজ মডেল (এলএলএম)। মডেল, কোড বেস এবং এটি প্রশিক্ষণের জন্য ব্যবহৃত ডেটা, বিনামূল্যে লাইসেন্সের অধীনে বিতরণ করা হয়েছে। ২০২২ সালের মার্চ থেকে জুলাই পর্যন্ত ব্লুমকে প্রায় ৩৬৬ বিলিয়ন (১.৬টিবি) টোকেনের উপর প্রশিক্ষণ দেওয়া হয়েছে।

ব্লুম হল বিগসায়েন্স সহযোগিতামূলক উদ্যোগের প্রধান ফলাফল, একটি এক বছরব্যাপী গবেষণা কর্মশালা যা ২০২১ সালের মে থেকে ২০২২ সালের মে মাসের মধ্যে অনুষ্ঠিত হয়েছিল। বিগসায়েন্সের নেতৃত্বে ছিল হাগিং ফেস এবং এতে ফ্রান্স এবং অন্যান্য দেশগুলির কয়েকশ গবেষক এবং প্রকৌশলী অংশগ্রহণ করেছিলেন যারা একাডেমিয়া এবং বেসরকারি খাত উভয়ের প্রতিনিধিত্ব করেছিলেন। বিগসায়েন্সকে ফরাসি পাবলিক সুপারকম্পিউটার জিন জের উপর একটি বৃহৎ আকারের পাবলিক কম্পিউট অনুদান দ্বারা সমর্থিত করা হয়েছিল, যা জেনসি এবং আইডিআরআইএস (সিএনআরএস) দ্বারা পরিচালিত হয়েছিল, যার উপর এটি প্রশিক্ষিত ছিল।

ব্লুমের প্রশিক্ষণ কর্পাস, যার নাম রুটস (ROOTS), ওয়েব-ভিত্তিক অস্কার (OSCAR) কর্পাস (ROOTS-এর 38%) থেকে সংগৃহীত ডেটা এবং ভাষার ডেটা উৎসের একটি ম্যানুয়ালি নির্বাচিত এবং নথিভুক্ত তালিকা থেকে সংগৃহীত নতুন ডেটা একত্রিত করে। এটি ৪৬টি প্রাকৃতিক ভাষা (ইংরেজির জন্য সমগ্র ডেটাসেটের ৩০% থেকে চি তুম্বুকার জন্য ০.০০০০২% পর্যন্ত) এবং ১৩টি প্রোগ্রামিং ভাষাকে অন্তর্ভুক্ত করে।

 বহিঃসংযোগ 

 হাগিং ফেস-এ বিগসায়েন্স প্রকল্প

 তথ্যসূত্র 

বিষয়শ্রেণী:২০২২-এ কৃত্রিম বুদ্ধিমত্তা