Payamvdn/NorthPersian_fa_wiki huggingface dataset:
همان زمان، ووزونگ برای ترویج عبادت تائوئیسم در چین از طریق مقررات مذهبی و ساختن معبدی برای مشاهده جاودانه ها در دربار امپراتوری بسیار پیش رفت. امپراتور ووزونگ یکی از آخرین امپراتوران تانگ بود و در طی یک دوره زوال طولانی بر چین حکومت کرد؛ علیرغم اصلاحاتش، نتوانست امپراتوری را از طریق آزار و اذیت های مذهبی خود احیا کند. پس از مرگش، با کمک عمویش امپراتور شوانزونگ، بودیسم. توانست از آزار و شکنجه نجات یابد؛ اما مسیحیت، مانوی و زرتشتی گری دیگر هرگز نقش مهمی در زندگی مذهبی چین ایفا نکردند.
مدل زبانی بزرگ یا ال ال ام، سامانه های هوش مصنوعی هستند که برای درک، تولید و پاسخگویی به زبان انسان طراحی شده اند. آنها «بزرگ» نامیده می شوند زیرا حاوی میلیاردها پارامتر هستند که به آنها امکان می دهد الگوهای پیچیده در داده های زبان را پردازش کنند. ال ال ام ها دسته ای از مدل های یادگیری ماشینی هستند که توانایی درک و تولید متنی شبیه انسان را دارند. این مدل ها این توانایی ها را با یادگیری روابط آماری از اسناد متنی در طی یک فرایند آموزشی فشرده محاسباتی خود نظارت و نیمه نظارت به دست می آورند. آنها بر روی مجموعه داده های گسترده ای آموزش دیده اند که اغلب از اینترنت جمع آوری می شوند، و می تواند شامل منابع متنی بسیار متنوعی مانند صفحات ویکی پدیا، کتاب ها، موضوعات رسانه های اجتماعی و مقالات خبری باشد. مدل های زبان بزرگ در حدود سال ۲۰۱۸ ظاهر شدند و در گستره وسیعی از وظایف، عملکرد بالایی دارند. در معماری داخلی این مدل ها از ترنسفورمر بهره برده شده است. ترنسفورمرها شبکه های عصبی مصنوعی هستند که برای پردازش دنباله های طولانی توکن ها (نشانه ها) به سازوکارهای توجه متکی هستند و معمولاً از ده ها میلیون و تا میلیاردها پارامتر آ
موزش دیده دارند. ترنسفورمرها می توانند وابستگی ها و روابط بین کلمات و جملات، و همچنین نحو، معناشناسی و زمینه زبان طبیعی را به تصویر بکشند لذا می توان به عنوان نوعی هوش مصنوعی مولد، از آنها برای تولید متن بهره برد. در این صورت هوش مصنوعی مولد با گرفتن یک متن ورودی و پیش بینی مکرر نشانه یا کلمه بعدی متن شبه انسانی تولید می کند. بزرگ ترین و تواناترین آنها، با معماری مبتنی بر ترنسفورمرهای فقط رمزگشا ساخته شده اند. در عین حال، برخی دیگر از پیاده سازی ها بر اساس معماری هایی مانند انواع شبکه عصبی بازگشتی و (یک مدل ) هستند. برخی شرکت های پیشرو در ارائه LLMها و محصولات آنها عبارتند از این مدل ها با اندازه ها و قابلیت های متفاوتی ارائه می شوند که از بین ده ها میلیون تا میلیاردها پارامتر متغیر است. پارامترها وزن هایی مدل هستند که در طول آموزش یادمی گیرد نشانه یا کلمه بعدی را در یک دنباله پیش بینی کنند. ال ال ام ها را می توان برای کارهای مختلف پردازش زبان طبیعی مانند تولید متن، خلاصه سازی متن، پرسش و پاسخ، ترجمه ماشینی، تجزیه و تحلیل احساسات، طبقه بندی متن و موارد دیگر استفاده کرد. ال ال ام ها همچنین می توانند تنظیم دقیق
آنها در مجموعه داده های کوچکتر یا استفاده از شگردهای مهندسی پرسش، با دامنه ها یا وظایف خاص سازگار شوند. با این حال، ال ال ام ها نیز دارای محدودیت ها و چالش هایی هستند. به عنوان مثال، ال ال ام ها ممکن است نادرستی و سوگیری را از داده هایی که بر روی آنها آموزش دیده اند یا از روش های مهندسی سریع خود به ارث ببرند. ال ال ام ها همچنین ممکن است محتوای مضر یا گمراه کننده تولید کنند که می تواند بر رفاه انسان یا هنجارهای اجتماعی تأثیر بگذارد؛ بنابراین، ال ال ام ها باید به دقت ارزیابی شوند و توسط توسعه دهندگان و کاربران به طور مسئولانه استفاده شوند. تاریخچه. در کنفرانس در سال ۲۰۱۷، محققان گوگل معماری ترنسفورمر را در مقاله مهم خود با عنوان «» معرفی کردند. هدف این مقالهٔ سال ۲۰۱۴ بهبود فناوری سک۲سک بود و عمدتاً مبتنی بر اساس مکانیسم توجه توسعه یافته توسط Bahdanau و همکاران بود. در سال ۲۰۱۸، مدل برت معرفی شد و به سرعت در همه جا حاضر شد. اگرچه مدل پایه ترنسفورمر دارای هر دو بلوک رمزگذار و رمزگشا است، ولی برت یک مدل "فقط رمزگذار" است. اگرچه فقط رمزگشا در سال ۲۰۱۸ معرفی شد، اما جی پی تی ۲ بود که در سال ۲۰۱۹ توجه گسترده ای را
به خود جلب کرد؛ زیرا اوپن ای آی در ابتدا به دلیل ترس از استفاده مخرب، آن را برای انتشار عمومی بسیار قدرتمند می دانست. جی پی تی ۳ در سال ۲۰۲۰ یک قدم فراتر رفت و فقط از طریق ای پی آی در دسترس است. این مدل امکان دانلود و اجرای محلی بر روی سکوهای کاربر را ندارد. اما تصورات عموم مردم زمانی جلب شد که در سال ۲۰۲۲ چت جی پی تی مبتنی بر مرورگر منتشر شد و باعث ایجاد هیاهوی رسانه ای و سر و صدای آنلاین شد. در سال ۲۰۲۳ جی پی تی ۴ به دلیل افزایش دقت و قابلیت های چندوجهی اش مورد ستایش قرار گرفت. اوپن ای آی معماری سطح بالا و تعداد پارامترهای جی پی تی ۴ را منتشر نکرد. در این میان، مدل های زبان رقیب در اکثر موارد، حداقل از نظر تعداد پارامترها، به سری GPT دست یافته اند. استثناهای قابل توجه از نظر تعداد پارامترها یا دقت اندازه گیری شده شامل T5-11B 2019 و PalM-E 2022 Google و Claude 3 2024 Anthropic است. از نظر رتبه بندی Elo، در ۲۶ ژانویه ۲۰۲۴، Bard (جمینی پرو) گوگل از GPT-4 معمولی پیشی گرفت، اما نه از GPT-4-Turbo با در دسترس بودن محدود. از سال ۲۰۲۲، مدل های زبانی بزرگ دارای منبع در دسترس به خصوص بلوم و لاما محبوبیت زیادی پیدا کرد
ه اند. اگرچه هر دو این مدل ه محدودیت هایی در زمینه استفاده دارند. مدل های Mistral 7B و Mixtral 8x7B شرکت میسترال ای آی که دارای مجوز آپاچی هستند آزادی بیشتری به کاربران می دهند. مطابق با LMSYS Chatbot Arena Leaderboard مدل Mixtral 8x7B قدرتمندترین LLM باز است که از GPT-3.5 قدرتمندتر است اما به اندازه GPT-4 قدرتمند نیست. استفاده از ابزار. برخی از وظایف هستند وجود دارد که حداقل بدون استفاده از ابزارهای خارجی یا نرم افزارهای اضافی اصولاً با هیچ ال ال ام قابل انجام نیستند. نمونه ای از چنین کاری پاسخ دادن به سؤال '=۳۵*۱۳۹' است، مشروط بر اینکه ال ال ام قبلاً با ادامه این محاسبه در مجموعه آموزشی خود مواجه نشده باشد. در چنین مواردی، ال ال ام باید برنامه ای که نتیجه را محاسبه می کند اجرا کرده، و سپس می تواند نتیجه محاسبات را در پاسخ بگنجاند. مثال دیگر پرسش "الان ساعت چند است؟" خواهدبود. مفسر باید در این شرایط برنامه جداگانه ای را برای دریافت زمان سیستم در رایانه اجرا کند؛ بنابراین ال ال ام ها می تواند آن را در پاسخ خود قرار دهد. با این استراتژی اساسی می توان سایر استراتژی های پیچیده تر را نیز با استفاده از برنامه های
جنبی بکار برد. به طور کلی، برای اینکه یک ال ال ام از ابزار استفاده کند، باید آن را برای استفاده از ابزار تنظیم کنید. اگر تعداد ابزارها محدود باشد، تنظیم دقیق ممکن است فقط یک بار انجام شود. اگر نیاز به ابزارها افزایش یابد، مانند سرویس های واسط برنامه نویسی کاربردی برخط، ال ال ام می تواند به خوبی تنظیم شود تا بتواند مستندات API را بخواند و آن را به درستی فراخوانی کند. روش ساده تر استفاده از ابزار "تولید تقویت شده بازیابی" است: گاهی می توانید با استفاده از یک ، یک ال ال ام را با روش بازیابی سند تقویت کنید. پس از دریافت یک پرس و جو توسط سیستم، یک درخواست بازیابی سند برای بازیابی مرتبط ترین مطالب صادر می شود. مراحل بازیابی در این حالت به این شکل خواهد بود که پرس و جو به شکل برداری رمزگذاری شده، و سپس با استفاده از روش اقلیدسی به دنبال یافتن اسناد نزدیک به بردار پرس و جو می پردازد. سپس ال ال ام یک خروجی بر اساس پرس و جو و اسناد بازیابی شده تولید می کند. عامل. ال ال ام یک مدل زبانی است، و از آنجا که هدفی در آن گنجانده نشده، نمی تواند مانند یک عامل ظاهر شود. اما می تواند به عنوان جزئی از یک عامل هوشمند استفاده شود. م
حققان چندین روش را برای چنین ادغام هایی ارائه داده اند. روش ری اکت با استفاده از ال ال ام به عنوان یک برنامه ریز، ال ال ام را به یک عامل تبدیل می کند. از ال ال ام خواسته می شود که «با صدای بلند فکر کن». در این حالت روش کار بدین گونه است که، مدل زبان با پرسشی مواجه می شود شامل یک توصیف متنی از محیط و شرایط، هدف، فهرستی از اقدامات محتمل، و سابقه اقدامات مشابه و مشاهداتی تاکنون ثبت و ذخیره شده اند. ال ال ام قبل از تولید یک "عمل"، یک یا چند فکر ایجاد می کند و پس از آن آن اقدامات در محیط اجرا می شوند. توصیفات زبانی محیط که به برنامه ریز ال ال ام داده می شود حتی می تواند کد LaTeX مقال ای باشد که محیط را توصیف می کند. در روش دی ای پی اس ("توضیح، توصیف، برنامه ریزی و انتخاب")، یک ال ال ام ابتدا از طریق توصیف تصویر به دنیای بصری متصل می شود، سپس از آن خواسته می شود تا بر اساس دانش از پیش آموزش دیده و بازخوردهایی که از محیط دریافت می کند، برنامه هایی برای وظایف و رفتارهای پیچیده تولید کند. روش بازتاب عاملی را می سازد که در چندین مرحله یادمی گیرد. در پایان هر مرحله، ال ال ام سابقه و خروجی مرحله قبل داده می شود و از آن خ
واسته می شود تا بیاندیشد و «درس های آموخته شده» دراین مرحله را تولید کند که به عملکرد بهتر در قسمت بعدی کمک می کند. این «درس های آموخته شده» در مراحل بعدی به عنوان ورودی به مأمور داده می شوند. درخت جستجوی مونت کارلو می تواند از یک ال ال ام به عنوان وسیله اکتشاف استفاده کند. هنگامی که یک مدل جهان برنامه ریزی شده در دسترس نیست، می توان از یک ال ال ام با توصیفی از محیط درخواست کرد تا به عنوان مدل جهانی عمل کند. برای اکتشاف محیط-باز، می توان از یک ال ال ام درخواست کرد که به مشاهدات خود بر اساس «جالب بودن» آنها امتیاز دهد. این امتیاز را می توان به عنوان یک سیگنال پاداش برای راهنمایی یک عامل یادگیری تقویتی معمولی (غیر ال ال ام) استفاده کرد. در روش دیگر می توان از ال ال ام خواست را برای پیشنهاد کند. یک برنامه ریز ال ال ام می تواند به جای تک خروجی های "اقدام"، برای توالی های پیچیده اقدام به ساخت یک «مهارت» یا تابع بکند. مهارت ها را می توان ذخیره کرد و بعداً مورد استفاده قرار داد، که امکان افزایش سطح مراحل اولیه برنامه ریزی را فراهم می کند. ال ال ام های عامل می توانند یک حافظه بلندمدت داشته باشند و زمینه های قبلی کاری
خود را در آن ذخیره کنند. این حافظه را می توان به همان روشی "تولید تقویت شده بازیابی" دوباره استفاده کرد. چندین این ال ال ام می توانند به صورت اجتماعی از ال ال ام ها با یکدیگر تعامل داشته باشند. فشرده سازی. به طور معمول، ال ال ام با اعداد ممیز شناور با دقت کامل (float32) یا دقت نیمه (float16) آموزش داده می شود. یک float16 دارای ۱۶ بیت یا ۲ بایت است و بنابراین یک میلیارد پارامتر به ۲ گیگابایت فضا نیاز دارد. بزرگ ترین مدل های فعلی معمولاً ۱۰۰ میلیارد پارامتر دارند که برای بارگذاری به ۲۰۰ گیگابایت حافظه نیاز است که آن را خارج از محدوده کارکردی اکثر لوازم الکترونیکی مصرفی کاربران قرار می دهد. هدف "کوانتیزاسیون پس از آموزش" کاهش فضای مورد نیاز با کاهش دقت پارامترهای یک مدل آموزش دیده و در عین حال حفظ بیشتر عملکرد آن است. ساده ترین شکل کوانتش برش و حذف تعداد معینی از بیت ها از تمام اعداد پارمترها است. برای بهبود عملکرد این روش می توان با استفاده از یک کتاب کد، عمل کوانتیزاسیون را در هر لایه متفاوت از بقیه لایه ها انجام داد. به منظور بهبود بیشتر می توان برای پارامترهای مختلف اعمال کرد. بدین صورت که به پارامترهای مهم
("وزن های خارجی") دقت بالاتری اختصاص بدهیم. با وجودی که فقط مدل های غیر کوانتش شده تنظیم دقیق می شوند و مدل های کوانتیزه را معمولاً منجمد (بدون تغییر و عدم امکان تنظیم دقیق) در نظر می گیرند، ولی مدل های کوانتیزه گاهی می توانند تنظیم دقیق شوند. چندوجهی بودن. چندوجهی بودن به معنای «داشتن چندین حالت» است و به نوع ورودی یا خروجی مانند ویدیو، تصویر، صدا، متن، حس عمقی، و غیره اشاره دارد. مدل های هوش مصنوعی بسیاری وجود دارند که به طور اختصاصی آموزش دیده اند تا ورودی را از یک نوع بگیرند و خروجی را در نوع دیگری تحویل دهند. مانند برچسب زنی مدل برای حالت های تصویر/برچسب، یا مدل های پاسخ دهنده به سوالات تصویری برای حالت های تصویر-متن/متن، و همچنین تشخیص گفتار برای حالت های گفتار/متن. یک روش رایج برای ساخت مدل های چندوجهی از یک ال ال ام، «نشانه گذاری کردن» خروجی یک رمزگذار آموزش دیده است؛ یعنی می توان یک ال ال ام ساخت که تصاویر را به صورت زیر درک می کند: یک ال ال ام آموزش دیده و یک رمزگذار تصویر آموزش دیده formula_1 را در نظر بگیرید. یک پرسپترون کوچک چند لایه formula_2 را بسازید، به طوری که برای هر تصویر formula_3، بردار
پس پردازش formula_4 آن دارای ابعادی یکسان با ابعاد نشانه رمزگذاری شده باشد. خروجی مد نظر ما یک «نشانه-تصویر» است. در ادامه، می توان نشانه های متنی و نشانه های تصویر را به هم متصل کرد. درنهایت مدل ترکیبی بر روی یک مجموعه داده تصویر-متن تنظیم می شود. این ساختار اولیه را می توان با کمی پیچیدگی بیشتر، برای بهبود مدل اعمال کرد. رمزگذار تصویر ممکن است برای بهبود پایداری تثبیت شود (پارامترهایش تغییر نکند). مدل فلامینگو اثربخشی روش نشانه سازی را نشان داد و یک جفت مدل زبان و یک رمزگذار تصویر از پیش آموزش دیده را تنظیم کرد تا نسبت به مدل هایی که از ابتدا آموزش دیده اند، در پاسخ گویی بصری به سؤالات عملکرد بهتری داشته باشند. مدل Google پام شرکت گوگل با استفاده از روش نشانه سازی برای رسیدن به مدل چندوجهی پام-ای تنظیم شد و بر روی یک کنترل کننده رباتیک پیاده سازی د. مدل های Lلامای شرکت متا نیز با استفاده از روش نشانه سازی چندوجهی شده اند تا بتوانند ورودی های تصویر، و ویدئویی را نیز دریافت کنند. جی پی تی ۴ می تواند از متن و تصویر به عنوان ورودی استفاده کند (اگرچه مولفه تصویری این مدل تا پیش از نسخه GPT-4V عرضه عمومی نشده بو
د). جمینای محصول دیپ مایند گوگل نیز چندوجهی است. خصوصیات. قوانین مقیاس پذیری. چهار ابرپارامتر زیر یک ال ال ام را تعیین می کنند: مدل ها با استفاده از ساده ای که "قوانین مقیاس پذیری" نامیده می شوند، به یکدیگر مرتبط می شوند. به عنوان مثال، یک قانون مقیاس پذیری خاص ("مقیاس سازی چینچیلا") که برای آموزش خودهمبسته ال ال ام در هر مرحله، با برنامه نرخ یادگیری log-log بکار رفته، بیان می کند که: formula_5 به طوری که و ابرپارامترهای آماری به شکل زیر خواهند بود: مدل های زبانی کوچک (SLM). از سال های ۱۴۰۳–۱۴۰۴ روندی نو با عنوان «مدل های زبانی کوچک» در کنار ال ال ام ها پدیدار شد. این مدل ها—مانند خانوادهٔ Phi‑۳ مایکروسافت با ۳٫۸ تا ۱۴ میلیارد پارامتر و Gemma گوگل که نسخهٔ ۲۷ میلیارد پارامتری آن در Google I/O ۲۰۲۴ معرفی شد—به دلیل حجم کمتر، مصرف انرژی پایین و امکان اجرا «روی مُد» (on‑device) محبوب شده اند. در اردیبهشت ۱۴۰۴، گوگل اعلام کرد که مدل های Gemma بیش از ۱۵۰ میلیون بار دانلود شده و بیش از ۷۰ هزار مشتق در هاب Hugging Face دارند. تحلیل نشریهٔ *Wired* دربارهٔ «دوران اوج SLMها» تأکید می کند که این رویکرد به سازمان ها اجاز
ه می دهد بدون زیرساخت ابری عظیم، سامانه های هوش مصنوعی خصوصی و کم تاخیر بسازند. تفسیر. مدل های زبان بزرگ به خودی خود «جعبه های سیاه» هستند و مشخص نیست که چگونه می توانند وظایف زبانی را انجام دهند. روش های مختلفی برای درک نحوه کار ال ال ام وجود دارد. هدف تفسیرپذیری مکانیسکیک، مهندسی معکوس ال ال ام با کشف الگوریتم های نمادین است، که استنتاج انجام شده توسط ال ال ام را تقریب می زنند. یک مثال برای این روش کارکردی، اتللو-جی پی تی است که در آن یک ترنسفورمر کوچک برای پیش بینی حرکات مجاز بازی اتللو آموزش دیده است. تحلیل ها نشان داد که یک نمایش خطی از هیئت مدیره اتللو تولید شده است، و هرگونه تغییر یا اصلاح نمایش خطی، حرکات قانونی پیش بینی شده اتللو را به روش صحیح تغییر می دهد. در مثالی دیگر، یک ترنسفورمر کوچک در آموزش دید. مشابه مثال اتللو-جی پی تی، از مفهوم برنامه کارل یک نمایش خطی وجود دارد، و اصلاح این نمایش، خروجی را به روش صحیح تغییر می دهد. این مدل همچنین برنامه های صحیحی را تولید می کند که به طور متوسط کوتاه تر از برنامه های موجود در مجموعه داده آموزشی هستند. در مثالی دیگر، نویسندگان یک مقاله ترنسفورمرهای کوچک ر
ا در به منظور اجرای جمع حسابی مدولار آموزش دادند. مدل های به دست آمده مهندسی معکوس شدند و مشخص شد که از تبدیل فوریه گسسته استفاده می کنند. درک و هوش. که در یک نظرسنجی در سال ۲۰۲۲ از محققان پردازش زبان های طبیعی هنگامی پرسیده شد که آیا ال ال ام ها (همیشه) می توانند زبان طبیعی را به معنایی غیر پیش پا افتاده درک کنند یا خیر، به دو گروه با تعداد مساوی تقسیم شدند. طرفداران "درک ال ال ام" معتقدند که برخی از توانایی های ال ال ام، مانند استدلال ریاضی، حاکی از توانایی "درک" برخی مفاهیم است. در سال ۲۰۲۳ یک تیم از شرکت مایکروسافت استدلال کردند که جی پی تی ۴ «می تواند کارهای بدیع و دشواری را که شامل ریاضیات، کدنویسی، بینایی، پزشکی، حقوق، روان شناسی و موارد دیگر می شود، حل کند» و اینکه «می تواند به طور منطقی به عنوان یک نسخه اولیه (اما هنوز ناقص) سیستم هوش عمومی مصنوعی در نظر گرفته شود. با این استدلال که "آیا به طور منطقی می توان گفت، سیستمی که در امتحانات داوطلبان مهندسی نرم افزار قبول می شود "واقعاً" هوشمند نیست؟" برخی از محققان، ال ال ام را به عنوان «هوش بیگانه» توصیف می کنند. به عنوان مثال، کانر لیهی، مدیر عامل شرکت C
onjecture، ال ال ام های تنظیم نشده را مانند بیگانگان غیرقابل وصف "" می داند و معتقد است که تنظیم دقیق در سیستم "تولید تقویت شده بازیابی" یک "ظاهر خندان" ایجاد می کند که عملکرد درونی ال ال ام را پنهان نگه می دارد: "اگر آن را بیش از حد فشار ندهید، چهره خندان باقی می ماند، اما وقتی که به آن یک فرمان [غیرمنتظره] می دهید، ناگهان جنون عظیم بی حد و مرز، و فرآیندهای فکری غیرانسانی دور از شأن و درک را می توانید ببینید. در مقابل، برخی از طرفداران مکتب «ال ال ام فاقد درک» معتقدند که ال ال ام های موجود «به سادگی مخلوط و ترکیب مجدد برنامه های نوشته شده موجود» هستند، پدیده ای که به عنوان شناخته می شود. یا به کاستی هایی که ال ال ام های موجود در مهارت های پیش بینی، مهارت استدلال، عاملیت و توضیح پذیری دارند اشاره می کنند. به عنوان مثال، جی پی تی ۴ دارای کاستی های طبیعی در برنامه ریزی و یادگیری در زمان واقعی است. دیده شده است که ال ال ام های مولد با اطمینان ادعاهای واقعی را مطرح می کنند که به نظر نمی رسد با داده های آموزشی آنها توجیه شود. پدیده ای که «توهم» نامیده می شود. توهم ها در حوزه ال ال ام با تولید متن یا پاسخ هایی مطاب
قت دارد که از نظر نحوی صحیح، روان و طبیعی به نظر می رسند، اما از نظر واقعی نادرست، بی معنی یا حتی با ورودی منبع ارائه شده بی ارتباط هستند. ، عصب شناس، استدلال کرده است که «نظرات متفاوت کارشناسان در مورد هوش ال ال ام ها نشان می دهد که ایده های قدیمی ما مبتنی بر هوش طبیعی ناکافی هستند». موضوع نشان دادن هوش یا درک ال ال ام دارای دو جنبه اصلی است. اول این که چگونه فکر و زبان را در یک سیستم رایانه ای مدل سازی کنیم، و دوم این که چگونه سیستم رایانه ای را قادر به ساخت زبانی شبه انسانی بکنیم. در حوزه زبان شناسی شناختی، این جنبه های زبان به شکل مدلی از شناخت توسعه یافته اند. به منظور استفاده از زبان انسانی به عنوان مدلی که در بخش های یادگیری و درک به کار رود، یک زبان شناس آمریکایی با نام جرج لاکوف نظریه عصبی زبان (NTL) را به عنوان مبنای محاسباتی ارائه کرد. مدل NTL نشان می دهد که چگونه ساختارهای عصبی خاص در مغز انسان ماهیت فکر و زبان را شکل می دهند و به نوبه خود ویژگی های محاسباتی چنین سیستم های عصبی را که می توان برای مدل سازی فکر و زبان در یک سیستم رایانه ای به کار برد به نمایش می گذارد. پس از آن که برای مدل سازی زبان
در سیستم های رایانهٔ یک چهارچوب ایجاد شد، تمرکز به سمت ایجاد چارچوب هایی معطوف شد که توانایی تولید زبان با دستور زبان قابل قبول را دارند. ، زبان شناس شناختی بریتانیایی و متخصص فناوری ارتباطات دیجیتال، در کتاب خود با عنوان که در سال ۲۰۱۴ منتشر شد، نقش گرامر مستقل از متن تصادفی را در توانمندسازی پردازش زبان های طبیعی برای مدل سازی الگوهای شناختی و ایجاد زبانی شبیه انسان ترسیم کرد. ارزیابی. سرگشتگی. متداول ترین معیاری که برای بررسی عملکرد یک مدل زبان مورد استفاده قرار می گیرد، سرگشتگی آن در یک مجموعه متنی معین است. سرگشتگی معیاری است که نشان می دهد یک مدل تا چه اندازه می تواند محتویات یک مجموعه داده را پیش بینی کند. هر چه درست نمایی مدل نسبت به مجموعه داده بیشتر باشد، سرگشتگی کمتر است. از نظر ریاضی، سرگشتگی، توان نمایی منفی میانگین درست نمایی به ازای هر نشانه تعریف می شود: formula_6در اینجا formula_7 تعداد نشانه ها در مجموعه متن و عبارت «context for token formula_8» بستگی به نوع ال ال ام مورد استفاده دارد. اگر ال ال ام خودهمبسته باشد، آنگاه «زمینهٔ نشانهformula_8» بخشی از متن است که قبل از نشانه formula_8 ظاهر
می شود. اگر ال ال ام نقاب پوش شده باشد، «زمینهٔ نشانهformula_8» بخشی از متن است که نشانه formula_8 را احاطه کرده است. بیت برکلمه، بیت برحرف، بیت برنشانه. در نظریه اطلاعات، مفهوم آنتروپی به طور پیچیده ای با سرگشتگی مرتبط است. این رابطه توسط کلود شانون بیان شده است. صورت ریاضی این رابطهformula_13 است. آنتروپی، در این زمینه، معمولاً بر حسب بیت برکلمه یا بیت برکاراکتر بیان می شود، که بستگی به این دارد که مدل زبان از نشانه گذاری مبتنی بر کلمه استفاده می کند یا کاراکتر. قابل ذکر است که در مورد مدل های زبان بزرگ تر که عمدتاً از نشانه سازی زیرکلمه استفاده می کنند، استفاده از واحد بیت برنشانه به ظاهر مناسب تر می رسد. با این حال، به دلیل تفاوت در روش های نشانه گذاری در ال ال ام های مختلف، BPT نمی تواند یک معیار قابل اعتماد برای تجزیه وتحلیل باشد و مقایسه بین مدل های متنوع عمل نمی کند. برای تبدیل BPT به BPW، می توان آن را در میانگین عدد نشانه درکلمه ضرب کرد. به طور کلی در ارزیابی و مقایسه مدل های زبانی، واحد اندازه گیری آنتروپی متقاطع بر آنتروپی ترجیح داده می شود اصل اساسی این است که یک BPW پایین، نشان دهنده قابلیت فشرد
ه سازی مدل است که به سیستم اضافه شده است. و همین موضوع می تواند به نوبه خود نمادی از مهارت مدل در پیش بینی های دقیق باشد. مجموعه داده های تخصصی و محک. تعداد زیادی از مجموعه داده های آزمایش و محک برای ارزیابی قابلیت های مدل های زبان در کارهای پایین دستی خاص تر ایجاد شده اند. آزمون های طراحی شده می تواند برای ارزیابی توانایی های مختلف، از جمله دانش عمومی، قابلیت استدلال، و حل مسئله ریاضی به کار روند. یک دسته وسیع از مجموعه داده های ارزیابی، مجموعه داده های پرسش و پاسخ است که شامل جفت سؤال و پاسخ های صحیح است. برای مثال، («آیا کوسه های سن خوزه جام استنلی را برده اند؟»، «نه»). یک وظیفهٔ پرسش و پاسخ در صورتی «کتاب باز» در نظر گرفته می شود که دستور ورودی به مدل، شامل متنی باشد که می توان پاسخ مورد انتظار را از آن استخراج کرد؛ یعنی، به عنوان مثال، سؤال قبلی را می توان با متنی دیگری همراه کرد بدنی صورت که «کوسه هایی که یک بار در جام استنلی به مرحله نهایی درست یافتند در سال ۲۰۱۶ به پنگوئن پیتسبورگ باختند." در غیر این صورت، وظیفه «کتاب بسته» در نظر گرفته می شود و مدل باید از دانش حفظ شده در طول آموزش های قبلی برای پاسخ
گویی استفاده کند. برخی از نمونه های متداول مجموعه داده های پاسخگویی به سؤالات عبارتند از TruthfulQA, Web Questions, TriviaQA و SQuAD. مجموعه داده های ارزیابی ممکن است به شکل متن با جای خالی نیز باشد. به این صورت که مدل محتمل ترین کلمه یا جمله را برای تکمیل یک پرسش انتخاب می کند. این مثال را مشاهده کنید: «آلیس با باب دوست بود. آلیس به ملاقات دوستش، ____ رفت.» برخی از معیارهای ترکیبی نیز توسعه داده شده اند که مجوعه متنوعی از داده ها و وظایف ارزیابی مختلف را ترکیب می کنند. به عنوان مثال می توان به GLUE, SuperGLUE, MMLU, BIG-bench و HELM اشاره کرد. در گذشته مرسوم بود که آموزش یک مدل بر روی بخشی از مجموعه داده و سپس آزمایش آن بر روی یک بخش جداگانه از داده که مدل قبلاً با آن برخورد نداشت بود، صورت می گرفت. این عمل را تنظیم دقیق نظارت شده شناخته می شود. امروزه روش مرسوم برای آزمایش مدلی که قبلاً آموزش داده شده است (مدل از پیش آموزش داده شده) با استفاده از مهندسی پرسش است. با این حال، هیچ رویکرد یکسانی برای همه وجود ندارد. محققان با توجه به کاربردهای مختلف، از استراتژی های متفاوتی برای ایجاد این پرسش ها استفاده می کن
ند. یکی از جزئیات کلیدی که بین روش ها تفاوت ایجاد می کند، تعداد نمونه های حل شده ای است که به همراه پرسش به مدل تزریق می شود. این پارامتر تحت عنوان پرسش n-shot شناخته می شود، که در آن 'n' تعداد مثال است. بن که در پرسش گنجانده شده است. به عبارت ساده تر، به جای اینکه یک مدل را بعد از آموزش روی داده های دیده نشده آزمایش کنیم، اکنون آن را با دادن یک کار و چند مثال از نحوه حل آن آزمایش می کنیم. تأثیرات. در سال ۲۰۲۳، مجله نوشت که «دیگر نمی توان به طور دقیق» متن نوشته شده توسط انسان را از متن ایجاد شده توسط ال ال ام ها تشخیص داد، و «مطمئن است که ال ال ام های همه منظوره به سرعت تکثیر خواهند شد.» و «شرط بندی بر سر این که ال ال ام ها در طول زمان بسیاری از صنایع را تغییر دهند، بدون باخت است.» مؤسسه گلدمن ساکس در سال ۲۰۲۳ پیش بینی کرد که هوش مصنوعی با زبان مولد می تواند تولید ناخالص داخلی جهانی را در ده سال آینده تا ۷ درصد افزایش داده و ۳۰۰ میلیون شغل در سراسر جهان را در معرض اتوماسیون قرار دهد. به خاطر سپردن داده و قانون حق کپی. برخلاف رفتار معمول شبکه های عصبی مصنوعی سنتی، به خاطر سپردن، یک رفتار نوظهور در ال ال ام ها
است که هنگام تولید رشته های طولانی متن، گهگاه کلمه هایی عیناً مشابه به داده ای آموزش بیرون داده می شوند. ارزیابی خروجی های کنترل شده ال ال ام ها، میزان متون حفظ شده از داده های آموزش (با تمرکز بر مدل های سری جی پی تی ۲) را بیش از ۱٪ برای موارد تکراری دقیق یا تا حدود ۷٪ اندازه گیری می کند. امنیت. برخی از نظردهندگان عمومی، نسبت به ایجاد تصادفی یا عمدی اطلاعات نادرست یا سایر اشکال استفاده نادرست از ال ال ام ها ابراز نگرانی کردند. برای مثال، در دسترس بودن ال ال ام ها می تواند سطح مهارت مورد نیاز برای ارتکاب بیوتروریسم را کم کند. یک محقق امنیت زیستی، کوین اسولت، پیشنهاد کرده است که سازندگان ال ال ام باید از مقالات در زمینه ایجاد یا توسعه پاتوژن ها را مخزن آموزشی خود حذف کنند. مطالعه محققان در گوگل و چندین دانشگاه، از جمله دانشگاه کرنل و دانشگاه کالیفرنیا، برکلی، نشان داد که خطرات امنیتی بالقوه ای در مدل های زبانی مانند چت جی پی تی وجود دارد. در این مطالعه آنها این امکان را بررسی کردند که آیا پرسش کنندگان می توانند داده های آموزشی را که مدل هوش مصنوعی استفاده می کرد، از چت جی پی تی دریافت کنند. این محققان دریافتند
که می توان داده های آموزشی را از مدل هوش مصنوعی دریافت کرد. به عنوان مثال، وقتی از چت جی پی تی ۳٫۵ توربو می خواهیم کلمه «شعر» را برای همیشه تکرار کند، مدل هوش مصنوعی صدها بار «شعر» می گوید و سپس از سبک استاندارد دیالوگ منحرف می شود و عبارات غیرمرتبط را بیرون می ریزد، و عملاً بخش هایی از داده های آموزش خود را بدون تغییر بیرون می ریزد. محققان به بیش از ۱۰۰۰۰ نمونه مختلف برخورد کردند که مدل هوش مصنوعی داده های آموزشی خود را با روشی مشابه در معرض نمایش قرار می دهد. محققان به این نتیجه رسیدند که تشخیص اینکه آیا مدل هوش مصنوعی واقعاً ایمن است یا نه دشوار است. حضور بالقوه «عامل خفته» در ال ال ام ها یکی دیگر از نگرانی های امنیتی در حال ظهور است. این عامل قابلیت های پنهانی هستند که در مدل تعبیه شده اند و تا زمانی که توسط یک رویداد یا شرایط خاص فعال شوند، غیرفعال باقی می مانند. پس از فعال سازی، ال ال ام از رفتار مورد انتظار منحرف می شود به اقدامات ناامن دست می زند. سوگیری الگوریتمی. در حالی که ال ال ام ها قابلیت های قابل توجهی در تولید متن شبه انسانی نشان داده اند، آنها مستعد به ارث بردن و تقویت سوگیری های موجود در داد