هوش مصنوعی نه تنها نژادپرست و جنسیت‌گرا است، می‌تواند سن‌گرا هم باشد

منتشر شده در analyticsinsight به تاریخ ۲۴ ژانویه ۲۰۲۲لینک منبع Oh great — AI can not only be racist and sexist, but ageist tooما استفاده از هوش مصنوعی (AI) را در فرآیندهای پیچیده - از مراقبت‌های بهداشتی گرفته تا استفاده روزانه ما از رسانه‌های اجتماعی - اغلب بدون بررسی جدی، تا زمانی که حالا خیلی دیر شده است، پذیرفته‌ایم. استفاده از هوش مصنوعی در جامعه مدرن ما اجتناب‌ناپذیر است، و ممکن است بدون آگاهی کاربران از هر گونه تعصب، تبعیض را تداوم بخشد. وقتی ارائه‌کنندگان خدمات بهداشت و درمان به تکنولوژی مغرضانه تکیه می‌کنند، تاثیرات حقیقی و مضری وجوددارند.اخیرا زمانی که یک مطالعه نشان داد که پالس اکسیمتری - که میزان اکسیژن خون را اندازه‌گیری می‌کند و یک ابزار ضروری برای مدیریت بالینی COVID19 است - در افراد با پوست تیره‌تر نسبت به پوست روشن‌تر دقت کمتری دارد، این موضوع روشن شد. این یافته‌ها منجر به بررسی تبعیض نژادی گسترده‌ای شد که در حال حاضر در دست اقدام است تا استانداردهای بین‌المللی را برای آزمایش دستگاه‌های پزشکی ایجاد کند.نمونه‌هایی در مراقبت‌های بهداشتی، تجارت، دولت و زندگی روزمره وجود دارد که در آن الگوریتم‌های مغرضانه منجر به مشکلاتی مانند جستجوهای جنسیتی و پیش‌بینی‌های نژادپرستانه در مورد احتمال ارتکاب مجدد مجرم شده است.اغلب فرض بر این است که هوش مصنوعی عینی‌تر از انسان است. با این حال، در واقعیت، الگوریتم‌های هوش مصنوعی براساس داده‌های حاشیه‌نویسی شده انسانی تصمیم‌گیری می‌کنند، که می‌تواند مغرضانه و انحصاری باشد. تحقیق فعلی در مورد تبعیض در هوش مصنوعی عمدتا بر جنسیت و نژاد تمرکز دارد. اما در مورد گرایش سنی-آیا هوش مصنوعی می‌تواند سن‌گرا هم باشد؟تکنولوژی‌های سن‌گرا؟در سال ۲۰۲۱، سازمان بهداشت جهانی گزارشی جهانی درباره پیری منتشر کرد که در آن خواستار اقدام فوری برای مبارزه با پیری به دلیل تأثیرات گسترده آن بر سلامت و رفاه شد.تبعیض به عنوان «فرآیند کلیشه سازی سیستماتیک و تبعیض علیه مردم به دلیل پیر بودن آن‌ها» تعریف می‌شود. می‌تواند صریح یا ضمنی باشد و می‌تواند به شکل نگرش‌های منفی، فعالیت‌های تبعیض‌آمیز و یا فعالیت‌های نهادی باشد.فراگیر شدن سن گرایی در طول همه گیری کووید-۱۹ در خط مقدم قرار گرفته است. افراد مسن به عنوان «فشار بر جوامع» شناخته می‌شوند و در برخی حوزه‌های قضایی، سن به عنوان تنها معیار برای درمان‌های نجات‌بخش مورد استفاده قرار می‌گیرد.سن‌گرایی دیجیتال زمانی وجود دارد که تعصب و تبعیض مبتنی بر سن توسط تکنولوژی ایجاد یا حمایت شود. گزارش اخیر نشان می‌دهد که یک «جهان دیجیتال» با بیش از ۲.۵ کوئینتیلیون بایت داده هر روز تولید می‌شود. با این حال، اگرچه سالمندان از تکنولوژی با تعداد بیشتری استفاده می‌کنند - و از آن سود می‌برند - اما همچنان گروه سنی هستند که به احتمال زیاد به کامپیوتر و اینترنت کم‌ترین دسترسی را دارند.سن‌گرایی دیجیتال زمانی می‌تواند به وجود بیاید که نگرش‌های سنی بر طراحی فناوری تأثیر بگذارد، یا زمانی که سن‌گرایی دسترسی و بهره‌مندی از مزایای کامل فناوری‌های دیجیتال را برای افراد مسن دشوارتر کند.چرخه بی‌عدالتیچندین چرخه درهم‌تنیده بی‌عدالتی وجود دارد که در آن تعصبات تکنولوژیکی، فردی و اجتماعی برای تولید، تقویت و مشارکت در سن‌گرایی دیجیتال تعامل می‌کنند.موانع دسترسی به فن‌آوری می‌تواند افراد مسن را از پژوهش، طراحی و فرآیند توسعه فن‌آوری‌های دیجیتال حذف کند. نبود آن‌ها در طراحی و توسعه تکنولوژی نیز ممکن است با این باور که سالمندان قادر به استفاده از تکنولوژی نیستند توجیه شود. به این ترتیب، سالمندان و دیدگاه‌های آن‌ها به ندرت در توسعه هوش مصنوعی و سیاست‌های مربوطه، تامین مالی و خدمات پشتیبانی درگیر هستند.تجربیات و نیازهای منحصر به فرد افراد مسن نادیده گرفته می‌شوند، با وجود این که سن نسبت به دیگر ویژگی‌های جمعیت شناختی از جمله نژاد و جنسیت، پیش‌بینی‌کننده قوی‌تری برای استفاده از تکنولوژی است.هوش مصنوعی توسط داده‌ها آموزش داده می‌شود، و عدم حضور افراد مسن می‌تواند فرضیات سن‌گرایی بالا را در خروجی خود بازسازی یا تقویت کند. بسیاری از تکنولوژی‌های هوش مصنوعی بر روی تصویر کلیشه‌ای از یک بزرگ‌سال مسن در سلامت ضعیف تمرکز کرده‌اند - یک بخش محدود از جمعیت که پیری سالم هستند را نادیده می‌گیرد. این امر یک حلقه بازخورد منفی ایجاد می‌کند که نه تنها سالمندان را از استفاده از هوش مصنوعی دلسرد می‌کند، بلکه منجر به از دست دادن اطلاعات بیشتر از این جمعیت شناختی می‌شود که دقت هوش مصنوعی را بهبود می‌بخشد.حتی زمانی که سالمندان در مجموعه داده‌های بزرگ قرار می‌گیرند، آن‌ها اغلب براساس تقسیمات دلبخواهی توسط توسعه دهندگان گروه‌بندی می‌شوند. به عنوان مثال، سالمندان ممکن است به عنوان افراد ۵۰ ساله و بالاتر تعریف شوند، با وجود اینکه گروه‌های سنی جوان‌تر به محدوده‌های سنی دقیق‌تر تقسیم می‌شوند. در نتیجه سالمندان و نیازهای آن‌ها می‌توانند برای سیستم‌های هوش مصنوعی نامرئی شوند.به این ترتیب، سیستم‌های هوش مصنوعی، نابرابری و محرومیت اجتماعی را برای بخش‌هایی از جمعیت تقویت کرده و یک «طبقه پایین دیجیتالی» را ایجاد می‌کنند که در درجه اول از گروه‌های قدیمی‌تر، فقیر، نژادی شده و به حاشیه رانده‌شده تشکیل شده‌است.پرداختن به سن‌گرایی دیجیتالیما باید خطرات و آسیب‌های مرتبط با تعصبات مربوط به سن را هنگامی که افراد مسن‌تر به فن‌آوری روی می‌آورند، درک کنیم.اولین قدم برای محققان و توسعه دهندگان این است که وجود سن‌گرایی دیجیتال را در کنار دیگر اشکال تعصبات الگوریتمی مانند نژادپرستی و تبعیض جنسیتی تصدیق کنند. آن‌ها باید تلاش‌های خود را به سمت شناسایی و اندازه‌گیری آن هدایت کنند. گام بعدی توسعه تدابیر حفاظتی برای سیستم‌های هوش مصنوعی برای کاهش پیامدهای سن‌گرایی است.در حال حاضر آموزش، حسابرسی یا نظارت بسیار کمی بر فعالیت‌های هوش مصنوعی از دیدگاه قانونی یا نظارتی وجود دارد. برای مثال، رژیم ق\انونی فعلی کانادا هوش مصنوعی به شدت فاقد آن است.این یک چالش است، اما همچنین فرصتی برای گنجاندن سن‌گرایی در کنار سایر اشکال تعصبات و تبعیض در نیاز به حذف است. برای مبارزه با سن‌گرایی دیجیتال، سالمندان باید به شیوه‌ای معنی‌دار و مشارکتی در طراحی فن‌آوری‌های جدید در نظر گرفته شوند.با توجه به اینکه تعصب در هوش مصنوعی اکنون به عنوان یک مشکل حیاتی و نیاز به اقدام فوری شناخته شده است، زمان آن رسیده است که تجربه سن‌‌گرایی دیجیتالی را برای افراد مسن در نظر بگیریم و درک کنیم که چگونه افزایش سن در دنیای دیجیتالی فزاینده ممکن است نابرابری‌های اجتماعی، طرد شدن و به حاشیه راندن را تقویت کند.این متن با استفاده از ربات ترجمه مقالات هوش مصنوعی ترجمه شده و به صورت محدود مورد بازبینی انسانی قرار گرفته است.در نتیجه می‌تواند دارای برخی اشکالات ترجمه باشد.مقالات لینک‌شده در این متن می‌توانند به صورت رایگان با استفاده از مقاله‌خوان ترجمیار به فارسی مطالعه شوند.