هوش مصنوعی قابل اعتماد است؟!

خب، الان که بحث این هوش مصنوعی ها داغه خیلی خوبه که ببینیم آیا می شه به این هوش مصنوعی ها اعتماد کرد یا نه؟ آیا می تونن اطلاعات رو درست بگن؟ آیا کار ما راحت شده؟ در نهایت، من تصمیم گرفتم که که اینا رو وارد آزمایش های سختی بکنم. انواع چیز ها رو روی اینا امتحان کردم. وقتمو گذاشتم. ببینم واقعا این هوش مصنوعی چی کار می تونه بکنه؛ چند مرده حلاجه؟ آیا می تونه از دست من فرار کنه یا نه؟?مرحله اول - ChatGPT و شعر معاصر!این از چت جی پی تی خودمون. بعد تازه هنوز چرت و پرت هاش مونده!منابع قابل اعتمادی داره!میبینین؟! خیلی هم مطمئنه! کاملا با لحن متقاعد کننده صحبت می کنه و از رو هم نمیره متاسفانه! حتی از خودش هم شعر میسازه و به فردوسی نسبت میده! در واقع به شدت درگیر جهل مرکبه، نمی دونه که نمیدونه!این شعر مال علی معلمه!یعنی اصلا خودتون ببینین! خنده داره? جالبه که بهش گفتم این شعر فردوسی نیست؛ گفته آره درسته، مال سعدیه! بعدش تازه یک بیت شعر از خودش هم میگه! من سرچ کردم؛ اصلا چنین شعری وجود نداره. بعد که بهش میگم نیست؛ همون شعرشو تغییر میده به حافظ! باز هم میگه من منابع قابل اعتماد دارم. بخوره تو سرت اون منابع قابل اعتمادت! چه اسمی! چنین شاعری اصلا داریم؟بعد که بهش میگم اسمش علی هست؛ یک اسم بلند طولانی رو از خودش در آورده و میگه اسم اونه! اسمی که اصلا وجود نداره. بقیه شم که خودتون میبینین. گفته اصلا شاعرش گم نامه. بله دیگه!آهان! این رو خود شرکت OpenAI و کلا شرکت های هوش مصنوعی ازش خبر دارن، اسم هم براش گذاشتن که الان یادم رفته. یعنی به واسطه ی اطلاعات غلطی که تو پاسخ های قبلی دادن؛ پاسخ های بعدی هم به هم میریزه. کلا یک چت جدید باز کردم و ازش پرسیدم اسم کوچک فردوسی چیه و اون موقع کامل و درست جواب داد. هوش مصنوعی بعضی وقت ها میگه نمی دونم، ولی بعضی وقت ها نمیگه نمی دونم! بعضی وقت ها هم نمیدونه که نمیدونه. حالا چرا دیگه معلوم نیست. این هوش مصنوعی هایی که الان داریم، فقط generate می کنن، یعنی فقط سعی می کنن یک پاسخی بسازن با کنار هم گذاشتن کلماتی که به هم ربط داشته باشن.در نهایت، هوش مصنوعی از مرحله شعر هم نتونست به درستی عبور کنه. کلا توی شعر های ایرانی به شدت ضعیفه. مثلا بهش میگی مصرع های بعدی یک شعر از سعدی رو بگو و برات شعر سرهم میکنه. یعنی نمی تونه اون شعر رو برامون پیدا کنه. ولی بینگ چون سرچ می کنه بهتر می تونه پیدا کنه و حتی می تونی بهش بگی از سایت گنجور برام پیدا کن. البته کلا این کارا رو با همون جستجوگر های قدیمی خودمون انجام بدیم بهتره؛ حالا چه گوگل چه بینگ چه اصلا یاهو! هوش مصنوعی برای این کار لازم نیست!مرحله ی دوم - بینگ و میرزا گلدون خان!میرزا گلدون خان و شاه کشمیریان دومبله پس عباس علی ابن غلام گلدون هم در این جنگ حضور داشت. یادتون باشه.حتی سال دقیق هم از خودش در میاره!دیگه خودمم دارم شک می کنم به اینکه این شخصیت ها رو از خودم در آوردم! جالبه که حتی بینگ منبع هم برامون ذکر می کنه! بینگ میگه که منبعم ویکی پدیا و چند سایت دیگس! منابعش درباره شاهان قاجاره و ناصرالدین شاه. در واقع، به خاطر اسم میرزا که اون موقع بیشتر استفاده شده. هر کدوم از این ماجرا ها می تونن مال یک نفر باشن که کنار هم گذاشته شدن و یک داستان رو ساختن. منبع هاش هیچ ربطی به سوالی که من پرسیدم ندارن. مرحله ی سوم - بینگ دقیق؟من بعد از دیدن شاهکار های اونا، شک کردم که شاید حالت دقیق بینگ بتونه درست جواب بده!بینگ 3 تا حالت داره: حالت خلاق: یعنی حالتی که می تونه بهت کسب و کار پیشنهاد بده؛ عکس برات بسازه و ... حالت متعادل: برای پرسیدن های روزانه خوبه، صمیمی تره و کاربر پسند تر نسبت به دقیق... ( ولی رنگش زشته?? )حالت دقیق: از نظر من بهترین حالت بینگ توی علمه؛ چرا که بهتر از بقیه شون عمل می کنه. برای پرسش های خیلی دقیق خوبه که نمی خوای اشتباه باشن چون بیشتر اوقات انگلیسی سرچ میکنه و خیلی دقیق تره. فقط مشکلش اینه که ممکنه که یک چیزی رو که واقعا درست باشه، به خاطر اینکه منابع کمی بهش پرداختن و کمتر شناخته شدست رو نگه.در واقع، این یک درجه ی اطمینان بین 0 تا 100 هست. که هوش مصنوعی به حرف خودش اختصاصش میده، یعنی چقدر به حرفت اعتماد داری و فکر می کنی درسته؟ هر چقدر مرز این درجه بالاتر باشه، حرف قابل اطمینان تره. هر حالتی یک عدد داره. یعنی یک حرف ممکنه توی حالت خلاق زده بشه ولی توی حالت دقیق نه یا بالعکس...عکس زیبایی که با کراپ کردن بهش گند زدم :|مرحله ی چهارم - بینگ و چیستان!شروع کردم یک سری چیستان های گمراه کننده پرسیدن. در کل عملکردش نسبت به ChatGPT خیلی بهتر بود:ولی نامرد تقلب می کنه ها، سرچ می کنه تو گوگل ( در واقع توی بینگ ولی اصطلاح ما اینطوری شده?) و جوابشو پیدا می کنه?این داستان: بینگ عصبی? گفتم بازماندگان زندن بعد گفته باشه و بعد منو از چت پرت کرد بیرون! کلا این بینگ رو کاری کردن که هر چیز کوچیکی که بهش بگی یکم بهش بربخوره سریع وارد عمل میشه! حتی یک بار خود ادج رو هم بست و مجبور شدم مرورگرو دوباره باز کنم :) سه تا چیستان پرسیدم و به دو تاش درست جواب داد.مرحله پنجم - ChatGPT و چیستان!و ChatGPT خیلی خوب عمل نکرد:نمی دونه که خروس تخم نمی ذاره!البته دفعه های قبلی که اینو پرسیده بودم بهم گفته بود اسمش شماله ولی الان میگه توی مسئله ذکر نشده.خب، این هم اشتباه جواب داد. از سه تا چیستان به هیچ کدوم درست جواب نداد.جمع بندی - اشتباهات هوش مصنوعی!جمع بندی کل این مقاله: چرا هوش مصنوعی کاملا قابل اعتماد نیست و چرا نباید چشم و گوش بسته به هوش مصنوعی گوش کنیم. لیست ( تقریبا ناکاملی ) از مشکلات هوش مصنوعی:لحن متقاعد کننده: هوش مصنوعی کاملا با لحن متقاعد کننده صحبت می کنه و از رو هم نمیره. وقتی هم که بهش میگی اشتباه بوده باز میگه درسته و باز یک اشتباه دیگه میگه! همیشه تصورش اینه که منابع قابل اطمینانی داره و این خیلی ممکنه گول زننده باشه!جهل مرکب: هوش مصنوعی به شدت درگیر جهل مرکبه، نمی دونه که نمی دونه. واسه همین یک چیزی از خودش سرهم می کنه!انحراف با پاسخ های قبلی: این رو خود شرکت های هوش مصنوعی ازش خبر دارن، اسم هم براش گذاشتن که الان یادم رفته. یعنی به واسطه ی اطلاعات غلطی که تو پاسخ های قبلی دادن؛ پاسخ های بعدی هم به هم میریزه؛ در حالی که هوش مصنوعی جواب واقعی رو می دونه!جستجو یا هوش مصنوعی: بعضی از چیز ها رو اصلا نباید از هوش مصنوعی پرسید؛ مثل شعر های ایرانی. در حالی که اون ها رو میشه با یک سرچ ساده به دست آورد. مثلا اگر بگی ادامه این شعر رو بگو نمیتونه به درستی اونو بگه! پس چیزی رو که راحت میشه جستجو کرد رو به هوش مصنوعی نگین!تاثیر پرسش شما: جوری که شما سوال میپرسین؛ خیلی توی جواب هوش مصنوعی تاثیر داره. چطور؟ با تشکر از میرزا گلدون خان، باید بگم که اگر بپرسی میرزا گلدون خان وجود داره یا نه، میگه من اطلاعاتی دربارش ندارم؛ اما اگر بپرسی چرا این کارو کرد اون موقعست که میگه به این دلیل :)درست های ناشناخته در بینگ دقیق: ممکنه اطلاعاتی باشه که درست باشه، ولی چون تو منابع کمی گفته شده بینگ دقیق اون رو نادیده بگیره و اطلاعاتی رو که درسته به شما نده. این وسط متعادلش هم که زیاد اشتباه میکنه.اطمینان شما، انحراف پاسخ: هوش مصنوعی به راحتی می تونه با میزان اطمینان حرف شما به راحتی از پاسخ درست انحراف پیدا کنه. مثلا توی چیستان، چون بهش گفتم بازماندگان رو کجا دفن میکنن؛ با خودش گفت حتما دفن می کنن که این میگه دیگه! یا مثلا وقتی بگی دلیل اختلافات اینا چی بود میگه لابد وجود دارن که این داره میگه دیگه!فقط اینا هم نیست، ممکنه چیز های دیگه ای هم باشن که من جا انداختم. ولی همه اینا ( مخصوصا آخری! ) خیلی مهمن. ریزه کاری های دیگه هم داره که من نتونستم همه شون رو بنویسم. مثلا به سختی کد می نویسه! من اولش واقعا برای این هیجان زده شده بودم؛ ولی بخاری ازش بلند نمیشه. مثلا خیلی ها میگن چرا برنامه نویس ها باید محصولی درست کنن که کار خودشونو از بین ببره؟ در حالی که اصلا یک کم هم نمی تونه با یک برنامه نویس رقابت کنه! فقط در صورتی که تو مثلا تابع های مورد نیازت رو یکی یکی ازش بخوای.عکس ها رو به سختی درست می کنه. مثلا من یک عکس ساعت باهاش درست کردم. هرچی سعی کردم بهش بگم که ساعت روی زمین خوابیدست؛ نفهمید و در آخر باز هم یک عکس از ساعت صاف دارم :|بینگ جدیدا یکم گنگ صحبت میکنه. یعنی درست عین آدم ( طبیعیه، چون آدم نیست?) یک مسئله رو برات توضیح نمیده. مثلا من دستور العمل یک کار فنی می خواستم و تا وقتی که بهش نگفته بودم واضح توضیح بده درست حرف نمیزد! بعدش هم به روش آوردم که تا وقتی که من بهت نگفته بودم واضح حرف نمی زدی?شرور شدن هوش مصنوعی؟! با این چیزهایی که الان با هم دیدیم؛ چقدر درباره شرور شدن هوش مصنوعی مطمئن موندین؟ این هنوز مونده تا خودشو جمع کنه بعد بخواد نسل ما رو منقرض کنه؟! ایشالا یک مقاله کامل هم درباره شرور شدنش می نویسم؛ ولی تا الان میشه گفت که شرور نمیشن. هنوز باید خودآگاهی داشته باشن؛ احساسات داشته باشن و... تا بتونن شرور بشن و اون موقع واقعا ممکنه!ولی در واقع تنها خطر الان هوش مصنوعی اینه که آدم ها ازش سوء استفاده بکنن یا حرفی بزنه که باعث بشه یک آدم کار اشتباهی انجام بده! درواقع فقط با واسطه گری انسان و اطلاعات نادرست بده. ولی یک راه هایی اندیشه کردن که جلوی این ها رو هم بگیره. مثلا با بینگ نمی تونی بیشتر از 30 تا سوال حرف بزنی.خوب دیگه، به آخر مقاله رسیدیم. اگر کیفیت عکس ها کم بود منو ببخشین. در ضمن، یک درخواست هم از ویرگول دارم؛ لطفا پسوند فایل هایی رو که بینگ درست میکنه ( jfif ) رو هم توی پسوند های ویرگول بذارین چرا که الان با بحث هوش مصنوعی احتمالا خیلی لازم میشه.در آخر شما رو با این عکس زیبای مرتبط با هوش مصنوعی تنها می ذارم :))اگر به خریدن نیویورک علاقه دارین این رو بخونین: https://virgool.io/@abbaasiarsha/%D8%A8%D8%B2%D8%B1%DA%AF-%D8%AA%D8%B1%DB%8C%D9%86-%D9%85%D8%B9%D8%A7%D9%85%D9%84%D9%87-%DB%8C-%D8%AA%D8%A7%D8%B1%DB%8C%D8%AE-rsmfzehuizjg اگر کلا به بحث علاقه دارین مخصوصا درباره موفقیت با تحصیل، این رو بخونین: https://virgool.io/@abbaasiarsha/httpsvirgoolioabbaasiarsha%D8%AA%D8%B1%DA%A9-%D8%AA%D8%AD%D8%B5%DB%8C%D9%84-%DA%A9%D9%86%DB%8C%D9%85-%DB%8C%DA%A9-%D8%B9%D8%A7%D8%AF%D8%AA-%D8%B9%D8%AC%DB%8C%D8%A8-vhabiatck46r امیدوارم که براتون مفید بوده باشه :))