هوش مصنوعی، قسمت سوم: نگرانی ها

فهرستنگرانی ها: از بین رفتن بعضی از شغل هااستفاده نادرستدیپ فیک و جعل کردن صدا و تصویرهوشیار شدن هوش مصنوعی و هوش مصنوعی جنرالتوی قسمت اول درباره هوش مصنوعی جنریتو حرف زدیم. قسمت دوم درباره چت جی‌پی‌تی و دالی و مدل های دیفیوژن صحبت کردیم. این قسمت میخوایم درباره نگرانی هایی که در حوزه هوش مصنوعی ها وجود داره حرف بزنیم. با ما همراه باشید.نگرانی ها:از بین رفتن بعضی از شغل ها و جایگزینی انسان با هوش مصنوعیاولین نگرانی که در مورد هوش مصنوعی ها وجود داره اینه که هوش مصنوعی ها قراره جای انسان ها رو بگیرن و اکثر آدما رو بیکار کنن. بعد از انقلاب صنعتی و ماشینی شدن کارخونه ها، کارگرا یا همون طبقه بلو کالر فکر میکردن که با ماشینی شدن کارخونه ها همشون از کار بیکار میشن. اما خب دیدیم که این اتفاق نیفتاد. این بار البته با پیشرفت هوش مصنوعی دیگه طبقه کارگر نگران نیست. بلکه افرادی که کار پشت میزی و دفتری انجام میدن یعنی وایت کالر ورکرها نگران هستند. خیلی از گرافیست ها، برنامه نویس ها، نویسنده ها و محققین نگران این هستند که هوش مصنوعی بتونه کارشون رو بهتر از انسان ها انجام بده و جای اونها رو بگیره. البته خوب حق هم دارن. هنوز یکسال نشده که هوش مصنوعی با توانایی و دقت بالا میتونه خیلی از کارها رو از انسان ها بهتر انجام بده. مثلا کی فکرشو میکرد که یه روز هوش مصنوعی بتونه تصاویر به این دقت و زیبایی رو در کمتر از چند ثانیه تولید کنه. اونم بعد از یکسال. این یعنی پنج سال دیگه این هوش مصنوعی ها خیلی خیلی بهتر میشن. اما این دلیل نمیشه که جای انسان رو بگیرن. همونطور که ماشینی شدن جای کارگرا رو نگرفتن. درسته خیلی از کارخونه ها از ماشین استفاده میکنن اما این انسان ها هستند که ماشین ها رو کنترل میکنن. در مورد هوش مصنوعی هم به احتمال زیاد همین اتفاق میفته و خیلی از این گرافیستها و هنرمندا و برنامه نویس ها از هوش مصنوعی به عنوان یه ابزاری برای پیشرفت توی کارهاشون استفاده میکنن. به خاطر همین هم خیلی ها میگن هوش مصنوعی رو یاد بگیرید. در آینده نه چندان دور گرافیستی که از هوش مصنوعی استفاده کنه میتونه کارهای بهتری تولید کنه نسبت به گرافیستی که از هوش مصنوعی استفاده نمیکنه. برنامه نویسی که از هوش مصنوعی استفاده کنه قطعا سرعت بیشتری نسبت به کسی که از این تکنولوژی استفاده نمیکنه داره.نکته دیگه اینه که همین الان هم هوش مصنوعی باعث بوجود اومدن شغل های جدید شده. یادگیری مهارت های این حوزه کم کم داره خیلی مهم میشه. منظورمون بیشتر یادگیری تخصصیِ. مثلا در آینده نه چندان دور و با کاهش هزینه های ساخت هوش مصنوعی، هر شرکتی میتونه هوش مصنوعی خودش رو داشته باشه.مثلا پاسخگوی بانک ها یه نوع هوش مصنوعی حساب میشه که خیلی ابتداییِ و ممکنِ توی چند سال آینده این پاسخگوها با هوش مصنوعی هایی از جنس چت جی‌پی‌تی جایگزین بشن و خب نیاز به مدیریت دارن.این رو هم اضافه کنیم که شرکت انویدیا در حال تولید و توسعه کارت گرافیک های بهینه شده برای هوش مصنوعیِ و به احتمال زیاد این محصولات هم بهینه میشن و هم ارزون تر. به خاطر همین انحصار شرکت اوپن ای آی ممکنِ توی همین چند سال آینده از بین بره و هر شرکتی برای خودش یه هوش مصنوعی مخصوص حوزه خودشون داشته باشن. مثلا شرکت های مالی و اقتصادی، شبکه های اجتماعی یا حتی شرکت های و کسب و کارهای کوچیک تر میتونن از هوش مصنوعی بهینه و مخصوص کسب و کار خودشون استفاده تخصصی کنن و به مشتریاشون هم بوسیله این هوش مصنوعی ها خدمات بهتری بدن.بنابراین هوش مصنوعی ممکنِ باعث تغییر توی تعدادی شغل ها و حوزه ها بشه اما باعث بیکاری انسان ها نمیشه.اما بعضی از این نگرانی ها شکل دیگه ای دارن. مثلا همین الان بسیاری از دانش اموزان و دانشجوها از چت جی‌پی‌تی استفاده میکنن و مقاله هاشون رو میدن چت جی‌پی‌تی بنویسه و میگن خودمون نوشتیم. این باعث شده خیلی از دانشگاهها و بعضی از کشورها استفاده از چت جی‌پی‌تی رو ممنوع کنن.ممنوع کردن چت جی‌پی‌تی و هوش مصنوعی به نظر کار اشتباهیِ. باید از هوش مصنوعی به عنوان یه ابزار کمکی استفاده کرد. مثلا دانشجو و دانش آموز بتونن از هوش مصنوعی به عنوان یه منبع کمک بگیرن.ممنوع کردن تکنولوژی های جدید هیچوقت کاملا موثر واقع نشده. اما خب این اپیدمی استفاده از هوش مصنوعی برای کارهایی مثل مقاله نوشتن واقع اداره جدی میشه و باید ببینیم چه اتفاقی میفته و چه راهکارهایی ارائه میشه برای مقابله با استفاده های این چنینی.استفاده نادرستیکی دیگه از نگرانی های بسیار بسیار مهم دیگه که شاید میشه گفت در حال حاضر مهمترین نگرانی درباره هوش مصنوعیِ استفاده نابجا و نادرست از این تکنولوژیِ. این تکنولوژی میتونه یه سلاح باشه در دست افرادی که قصد و نیت خوبی ندارن. اینکه میگیم سلاح واقعا اغراق نیست. روز اولی که چت جی‌پی‌تی عمومی شد این هوش مصنوعی قابلیت های بیشتری داشت. بعد از یک روز اوپن ای آی اومد و چت جی‌پی‌تی رو بسیار محدود کرد. دلیلش هم استفاده بسیار بد و نادرست بود. مثلا همون روز اول از این هوش مصنوعی درمورد درست کردن سلاح و مواد منفجره و طرز تهیه بمب پرسیده شده بود. یه نفر دیگه درمورد هک کردن سوال کرده بود. از چت جی‌پی‌تی خواسته بود که براش بدافزار بسازه. یه کاربر دیگه از این هوش مصنوعی درباره بانک های مختلف و آسیب پذیری آنلانین این بانکها و شیوه هک کردنشون پرسیده بود.خب این بسیار خطرناکه دیگه از هوش مصنوعی با قدرت چت جی پی بخوای که برات بدافزار بسازه مثلا. همین باعث شد که همون روز اول عمومی شدن چت جی‌پی‌تی، اوپن ای آی محدودیت های بسیار زیادی رو روی این هوش مصنوعی اعمال کنه. مثلا اگر کلمه بمب رو بنویسید دیگه چت جی‌پی‌تی جواب نمیده. کلمه های مختلف رو بلاک کرده.این یک نوع استفاده بد از این تکنولوژی بود. استفاده های مخرب دیگه هم میشه از این تکنولوژی کرد.دیپ فیک و جعل کردن صدا و تصویریکی دیگه از مخربترین و بدترین شکل استفاده از این تکنولوژی البته همونطور که ممکن حدس زده باشید فیک کردن و اطلاعات غلط درست کردنِ. مثلا عکس، ویدیو و یا صدای دروغین یک شخصیت معروف رو درست کردن.احتمالا اسم دیپ فیک رو شنیدید. دیپ فیک بوسیله هوش مصنوعی میتونه یک ویدیو دروغین از یه شخصیت واقعی بسازه.چند تا از نمونه ها و مثال های مختلف فیک کردن اطلاعات رو دونه دونه میگیم.تصاویر فیک شده پاپ اعظم کلیسای واتیکان در لباس بالنسیاگا تصویر پاپ در لباس بالنسیاگا که بسیار خبرساز شد. یکم باید درباره این تصویر حرف بزنیم و بگیم چرا این تصویر که بسیار بسیار واقعی به نظر میاد دردسر ساز شده. بالنسیاگا که برند لباسِ که همین چند وقت پیش به خاطر انتشار یه تصویری خیلی رفت زیر ذره‌بین و همه به این برند انتقاد کردن. توی تصویری که بالنسیاگا چاپ کرده بود چند تا صفحه کاغد روی میز بود که نشون میداد از این برند لباس به خاطر استفاده جنسی از کودکان شکایت شده. کلا انتقاد میشه از این برند به خاطر استفاده جنسی از کودکان. حالا نه فقط به خاطر این تصویر. جاهای دیگه هم این برند نشون داده که یکم مشکوکِ. حالا از اون ور سالهاست داریم شایعه های مختلف رو میشنویم درباره اینکه تعدادی از کشیش های کلیساهای واتیکان دارن از پچه های زیر 18 سال سواستفاده های جنسی میکنن و کلیسای واتیکان جلوی درز کردن این اخبار و میگیره. شایعه هست که استفاده جنسی از کودکان توی کلیسای واتیکان بسیار بیشتر از چیزی هست که به بیرون درز کرده.درواقع هم برند بالنسیاگا و هم کلیسای واتیکان متهم به این کار غیرقانونی و غیر اخلاقی شدند. حالا یه تصویری ساخته شده بوسیله هوش مصنوعی که این دو تا رو در کنار هم قرار میده و درواقع اشاره به این موضوع داره و به خاطر چیزی که توضیح دادیم خبر ساز و دردسر ساز شد، برای واتیکان و برند بالنسیاگا. چجوری فیک بودن این تصاویر رو تشخیص بدیم تصاویر فیک شده پاپ اعظم کلیسای واتیکان سوار بر لامبورگینینمونه ها دیگه هم میشه از جعل تصویر رییس جمهور امریکا یا پوتین و سایر اشخاص معروف بوسیله دیپ فیک اسم ببریم. یا مثلا دستگیری دونالد ترامپ. ترامپ که اولین رییس جمهور سابق امریکاست که دادگاهی شده و بهش اتهامات قضایی وارد شده، توی هفته پیش به خاطر این قضیه تیتر اکثر رسانه ها بود.حالا یه نفر اومده و یه تصویری از دستگیری ترامپ بوسیله هوش مصنوعی درست کرده که خیلی واقعی به نظر میاد و تشخیص اینکه واقعی نیست یکم سخته.تصویر جعلی ساخته شده توسط هوش مصنوعی از دستگیری ترامپاین ویدیو ها در حال حاضر صد در صد به نظر واقعی نمیرسن و اگر یکم دقت بکنید میفهمید که جعلی هستن. اما خب دارن کم کم میرسن جایی که صد در صد واقعی به نظر برسن. البته مبارزه کردن با این شیوه جعل و تقلب کار خیلی سختی نیست و اگر کار به جاهای باریک برسه احتمالا دولت ها و کشورها شروع میکنن شیوه ها مختلف مبارزه با جعل حقیقت رو اعمال کردن. نگرانی درباره جعل کردن اما خب خیلی واقعیِ. ممکنه کار به جایی برسه که تشخیص فیک بودن یه عکس تقریبا غیر ممکن بشه که خیلی دور از ذهن نیست با سرعت رشد هوش مصنوعی. البته خب خیلی از این هوش مصنوعی ها مثل دالی همین الان هم راههای برای مبارزه با دیپ فیک دارن و خیلی از کلمات و تصاویری که ممکنِ برای فیک کردن به کار برن و بلاک کردن. اما خب گفتیم که مثلا استیبل دیفیوژن میتونه روی کامپیوترهای شخصی نصب بشه و ممکنِ نتونه این کلمات رو بلاک کنه.یکی از حوزه های دیگه استفاده دیپ فیک پورنوگرافیِ و فیک کردن پورنوگرافی سلبریتی های مشهور الان تبدیل به یه بیزنس شده و خیلی از سایتها دارن بوسیله این تکنولوژی این کار رو انجام میدن. یک استریمر توییچ به خاطر استفاده از این سایت های تولید پورنوگرافی فیک به شدت مورد انتقاد قرار گرفت.این جعل کردن البته شکل های بسیار دیگه هم میتونه داشته باشه و افرادی که نیت بد دارن از این تکنولوژی به شکل هایی که نباید استفاده بشه، استفاده میکنند. مثلا جعل کردن صدای خواننده های مختلف شکل دیگه ای از دیپ فیکِ.هوشیار شدن هوش مصنوعی (Artificial General Intelligence)اما نگرانی که خیلی توی فیلما بهمون نشون دادن اینه که هوش مصنوعی بتونه برای خودش فکر کنه و تصمیم بگیره و کم کم شروع کنه با انسان ها مبارزه کردن. به این نوع هوش مصنوعی که بتونه برای خودش فکر کنه و به عنوان یه موجود زنده تصمیم بگیره میگن هوش مصنوعی جنرال. این تکنولوژی در حال حاضر وجود نداره ولی چند تا شرکت مثل اوپن ای آی در حال تحقیق و توسعه این نوع از هوش مصنوعی هستند. در حال حاضر این نوع از هوش مصنوعی خیلی دور از ذهنِ، و ممکن هم هست هیچوقت هوش مصنوعی جنرال ساخته نشه. هم خیلی سختِ و هم اینکه ممکنِ قوانینی بوجود بیاد که جلوی ساختن این نوع تکنولوژی گرفته بشه. خیلی از متخصصین میگن ممکنِ توی یک یا دو دهه آینده بشه به این تکنولوژی دست پیدا کرد، ولی تعدادی دیگه از متخصصین این حوزه معتقدند ساخت این تکنولوژی خیلی بیشتر از یک یا دو دهه طول میکشه یا اصلا امکان پذیر نیست و انسان ها ممکنِ هیچوقت نتونن همچین هوش مصنوعی رو بسازن.این نوع هوش مصنوعی همون شکلی از تکنولوژیِ که توی فیلم های علمی تخیلی نشون داده میشه اما نکته اینجاست که اگر همچین تکنولوژی هم وجود داشته باشه، باز هم خیلی دور از انتظارِ که بخواد انسان ها رو نابود کنه. هوش مصنوعی جنرال میتونه زندگی انسان ها رو خیلی بهبود ببخشه و اینکه بخواد انسان ها رو نابود کنه بیشتر جنبه تخیلی داره تا علمی. اگر این نوع هوش مصنوعی هم بوجود بیاد به احتمال زیاد نمیخواد با انسان ها وارد جنگ ترمیناتوری بشه :) و میتونه اتوماسیون رو به شکل کامل انجام بده. یعنی همه وسایل نقلیه رو میتونه خودران کنه. کارهای روزمره انسان رو میتونه یا کامل به صورت خودکار انجام بده یا اکثر این کارها رو به صورت خودکار انجام بده. هوش مصنوعی جنرال یعنی هوش مصنوعی که بتونه همه چیز رو مثل انسان یاد بگیره و به وظیفه خاصی محدود نشه به خاطر همین بهش میگن جنرال.این نکته رو هم باید اضافه کنیم اینجا. یکی دو سال پیش یکی از کارکنان شرکت گوگل اومد و توی رسانه ها گفت که هوش مصنوعی لامدا ساخته شرکت گوگل سنتینت شده. سنتینت یعنی خودآگاه شده و مثل انسان مثلا هویت داره. این یه دروغ بزرگیِ که در حال حاضر هم خیلی از افرادی که دنبال شهرت هستند میگن. کارمند گوگل که این ادعا رو کرده بود و البته اخراج هم شد، به صورت هدفمند اون چت بات رو به این سمت هدایت کرده بود. مثلا اگر شما کل مکالمشون رو بخونید میبینید که طرف هی از هوش مصنوعی میپرسه توی احساس داری؟ تو ناراحتی؟ تو مثل آدم ها هویت داری؟ یا میپرسه به من ثابت کن که زنده هستنی کامپیوتر و هوش مصنوعی هم این کار رو انجام میده؟ چرا چون ازش درخواست شده. حالا شما اگه ازش بپرسید به من ثابت کن تو زنده نیستی هم به شما ثابت میکنه که زنده نیست چون ازش درخواست شده. هرچی ازش درخواست بشه رو جواب میده. این که بگه من حس دارم و فکر میکنم هم چیز خیلی دور از انتظاری نیست وقتی شما ازش درخواست کنید که به شما این رو ثابت کنه که میتونه فکر کنه. درواقع وظیفش انجام این کارهاست و باید جواب بده. البته هوش مصنوعی هایی مثل چت جی‌پی‌تی خیلی از این مکالمات رو بلاک میکنن و اگه از چت جی‌پی‌تی بپرسید تو زنده هستی و فکر میکنی میگه نه من هوش مصنوعی هستم و فکر نمیکنم. دلیلش هم عمومی بودن این هوش مصنوعی هست و ترسی که ممکنِ در دل مردم ایجاد کنه. ترسی که از ندانستن و نیت بد بعضی از افراد میاد. بعضی از افراد ممکنِ به هر دلیلی دنبال همچین جواب هایی از چت جی‌پی‌تی باشن که اینجور جواب ها بوسیله شرکت اوپن ای آی بلاک شده.شرکت هایی مثل گوگل یه قوانینی دارن که اصلا اجازه نمیده هوش مصنوعی سنتینت بوجود بیارن. مثلا اگر از هوش مصنوعی بپرسید که تو هویت داری و میتونی برای خودت فکر کنی همه هوش مصنوعی ها میگن نه و طبق قوانین این شرکت ها هوش مصنوعی ها باید بگن ما هوش مصنوعی هستیم و مستقلا فکر نمیکنیم.یکی از دلایلی که ممکنِ خیلی از افراد دنبال همچین مکالماتی با هوش مصنوعی باشن، شهرت یه شبه ای که این خبرها برای این افراد بوجود میاره. اکثر مواقع هم کل مکالمه نشون داده نمیشه و خیلی افراد کمی میرن کل مکالمه رو میخونن و فقط بخشی از مکالمه توی خبر نشون داده میشه.شبکه های خبری هم خوب مسلما به خاطر بازدید زیاد از این خبرها اون ها رو منتشر میکنن.البته نمونه های ناموفق این چت بات ها هم وجود داشته. مثلا اتفاقی که سال 2016 افتاد و چت باتی که بوسیله شبکه اجتماعی توییتر آموزش داده شده بود که در نهایت تبدیل به یک افتضاح برای شرکت مایکروسافت شد. این چت بات بعد از 24 ساعت از آنلاین شدنش شروع کرد به توییت کردن انواع و اقسام جمله های نفرت انگیز و نژادپرستانه که خوشبختانه به سرعت آفلاین شد. دلیلش هم البته این بود که این چت بات بوسیله کاربرای این شبکه اجتماعی به این سمت هدایت داده شد و در نهایت هم به دلیل نبودن بلاکر های کلمه های خاص شروع کرد به تویییت کردن جمله های نژادپرستانه.این هم باید اضافه کنیم که یکی از کسانی که خیلی از هوش مصنوعی و قدرت گرفتن هوش مصنوعی انتقاد میکنه ایلان ماسکِ. ایلان ماسک یه جورایی توی سالهای اخیر هشدارهایی درباره قدرت گرفتن هوش مصنوعی داده، که البته به همین دلیل خودش شرکت اوپن ای آی رو به همراه سم آلتمن بوجود آورد. دلیل اینکه ایلان ماسک شرکت اوپن ای آی رو به همراه سم آلتمن بوجود این بود که ماسک معتقد بود اول اینکه شرکتی مثل گوگل در تکنولوژی هوش مصنوعی خیلی محتاط عمل نمیکنه و باید در این مورد بیشتر دقت کنند و همینطور باید تکنولوژی هوش مصنوعی در اختیار همه قرار بگیره، تا جلوی انحصار این تکنولوژی و تاثیرات منفی این کار گرفته بشه. ماسک معتقد بود که انحصار هوش مصنوعی ممکنِ باعث استفاده بد از این تکنولوژی بشه و توی مصاحبه هاش گفته بود که ممکنِ شرکتی که اول از همه به هوش مصنوعی دست پیدا کنه ازش استفاده بدی بکنه. یا اینکه افرادی با نیت بد این تکنولوژی رو بدزدن و ازش استفاده بد بکنن. به خاطر همین اوپن ای آی رو بوجود آورد که بتونه هوش مصنوعی رو در اختیار عموم قرار بده و جلوی انحصارش رو بگیره. به خاطر همین هم شرکت اوپن ای آی در ابتدا "اوپن سورس" بود، یعنی کدهای برنامه هوش مصنوعیشون عمومی بود و همه میتونستن ازش به صورت مجانی استفاده کنن. هم "اوپن سورس" بود و هم "نان پرافیت (Non Profit)"، یعنی شرکت اوپن ای آی در ابتدا حق سود کردن و درآمدزایی از تکنولوژی هوش مصنوعی رو نداشت. اما بعد از جدایی ایلان ماسک از اوپن ای آی در سال 2018 شرکت اوپن ای آی نه نان پرافیتِ و نه اوپن سورس. یعنی هم میتونه از هوش مصنوعی سود کنه و هم اینکه کدهای هوش مصنوعی ها رو در اختیار عموم قرار نمیده و یه جور انحصار داره در هوش مصنوعی بوجود میاره. این باعث شده که ایلان ماسک توی چند سال اخیر تبدیل به یکی از منتقدین این شرکت بشه و معتقده اوپن ای آی از مسیر اولیش خارج شده و تبدیل شده به چیزی که قرار بوده باهاش مبارزه کنه یعنی ایجاد انحصار. چون همونطور که اشاره کردیم دیگه شرکت مایکروسافت یه جورایی اوپن ای آی رو داره کنترل میکنه. به همین دلایل هم ایلان ماسک بعد از خرید شبکه اجتماعی توییتر به شرکت اوپن ای آی اجازه استفاده از این شبکه اجتماعی رو برای تمرین هوش مصنوعی نداد.البته الان میدونیم که هوش مصنوعی دیگه کاملا منحصر به این شرکت نیست و شرکت های دیگه ای هم توی این حوزه فعالیت میکنن. مثلا استیبل دیفیوژن و میدجرنی و باردِ شرکت گوگل، اما باز هم بزرگترین و قدرتمندترین هوش مصنوعی در اختیار اوپن ای آی هست.باید ببینیم در آینده چه هوش مصنوعی هایی برای رقابت با شرکت اوپن ای آی بوجود میاد. یکی از رقبای اصلی اوپن ای آی در حال حاضر شرکت گوگلِ. دلیلش هم ترس شرکت گوگل از استفاده مردم از موتور جستجوی بینگ شرکت مایکروسافتِ که همونطور که گفتیم این موتور جستجو بوسیله چت جی‌پی‌تی داره به یکی از گزینه های اصلی مردم به عنوان موتور جستجو تبدیل میشه. یکی دیگه از رقبای اصلی اوپن ای آی البته خود ایلان ماسکِ که با توییتی اعلام کرده که میخواد هوش مصنوعی خودش رو گسترش بده که هنوز خبرهای رسمی در اینباره متشر داده نشده. ایلان ماسک در حال حاضر میتونه از توییتر به عنوان دیتابیس برای تمرین هوش مصنوعی استفاده کنه، و البته بوسیله سوپرکامپیوتری که برای شرکت تسلا در اختیار داره میتونه هوش مصنوعی خودش رو تمرین و توسعه بده که باید منتظر موند و دید که آیا ایلان ماسک این کار رو انجام میده یا خیر.در آخر باید اضافه کنیم که تکنولوژی مثل هوش مصنوعی یه ابزارِ مثل باقی وسیله ها و ابزارهای دیگه و خوب و بد بودن این ابزار فقط به استفاده کننده اونها بستگی داره. از یک وسیله میشه هزاران نوع استفاده مختلف کرد. اینکه هوش مصنوعی تکنولوژی خوبی هست یا نه به کاربران این تکنولوژی بستگی داره. هوش مصنوعی میتونه بسیار استفاده های مفیدی داشته باشه. میتونه به افراد معلول بسیار کمک کنه و زندگی این افراد رو بهبود ببخشه. اما همین هوش مصنوعی در دستان افرادی با نیت بد میتونه تبدیل به یه سلاح بشه.به انتهای این قسمت رسیدیم امیدواریم که لذت برده باشید.وی واای مدیا رو در شبکه های اجتماعی دنبال کنید تا از انتشار قسمت های بعدی باخبر بشید.نسخه صوتی رو میتونید از ناملیک، کست باکس، اسپاتیفای و گوگل پادکست بشنوید و نسخه صوتی رو میتونید از یوتیوب ببینید. https://spotifyanchor-web.app.link/e/jMJPtd9EUyb https://castbox.fm/channel/weewhy-media-وی-واای-مدیا-id5311250?utm_source=website&utm_medium=dlink&utm_campaign=web_share&utm_content=weewhy%20media%20%D9%88%DB%8C%20%D9%88%D8%A7%D8%A7%DB%8C%20%D9%85%D8%AF%DB%8C%D8%A7-CastBox_FM http://www.namlik.me/article/24288 https://twitter.com/weewhy_media https://www.instagram.com/weewhy.media https://linktr.ee/weewhy.media https://www.youtube.com/channel/UCDLKsrq_iOO6ZKggmsSMRWA