لیگ عدالت الگوریتمی

لیگ عدالت الگوریتمی که به اختصار AJL نیز نامیده می‌شود، یک سازمان غیرانتفاعی فعال در زمینه حمایت دیجیتال و عدالت الگوریتمی است که در کمبریج، ماساچوست قرار دارد. این سازمان در سال ۲۰۱۶ توسط دانشمند رایانه، جوی بولاموینی، تأسیس شد. هدف اصلی لیگ عدالت الگوریتمی مقابله با آسیب‌ها، تبعیض‌ها و سوگیری‌هایی است که در سامانه‌های هوش مصنوعی و الگوریتم‌های تصمیم‌گیر دیده می‌شود.

این سازمان تلاش می‌کند صدای افرادی و گروه‌هایی را پررنگ‌تر کند که بیشترین آسیب را از سامانه‌های هوش مصنوعی می‌بینند. لیگ عدالت الگوریتمی با پژوهشگران، فعالان مدنی، متخصصان فناوری و رهبران صنعت همکاری می‌کند تا الگوریتم‌هایی عادلانه‌تر، شفاف‌تر و پاسخ‌گوتر طراحی و استفاده شوند.

یکی از مهم‌ترین حوزه‌های فعالیت این سازمان، بررسی سوگیری‌های نژادی و جنسیتی در فناوری‌های تشخیص چهره است. این سازمان نشان داده است که برخی سامانه‌های تجاری تشخیص چهره در تشخیص چهره افراد با پوست تیره‌تر یا ویژگی‌های زنانه دقت کمتری دارند. به همین دلیل، لیگ عدالت الگوریتمی خواستار شفافیت بیشتر در داده‌هایی است که برای آموزش این سامانه‌ها استفاده می‌شود.

 تاریخچه 
جوی بولاموینی در سال ۲۰۱۶، زمانی که دانشجوی تحصیلات تکمیلی در آزمایشگاه رسانه مؤسسه فناوری ماساچوست بود، لیگ عدالت الگوریتمی را بنیان‌گذاری کرد. او هنگام انجام پژوهش با نرم‌افزارهای تشخیص چهره متوجه شد که بعضی از این نرم‌افزارها قادر به تشخیص چهره او نیستند، اما وقتی ماسک سفید به صورت می‌زد، نرم‌افزار چهره را تشخیص می‌داد.

این تجربه باعث شد بولاموینی به مسئله سوگیری در هوش مصنوعی توجه بیشتری کند. او لیگ عدالت الگوریتمی را ایجاد کرد تا توجه عمومی را به خطرهای تبعیض الگوریتمی و تأثیر آن بر حقوق مدنی جلب کند. فعالیت‌های اولیه این سازمان بیشتر روی سوگیری در نرم‌افزارهای تشخیص چهره تمرکز داشت، اما بعدها موضوعات گسترده‌تری مانند تصمیم‌گیری الگوریتمی، حکمرانی الگوریتمی، حسابرسی الگوریتم‌ها و مسئولیت‌پذیری هوش مصنوعی را نیز دربر گرفت.

 فعالیت‌های شاخص 

 تشخیص چهره 
یکی از شناخته‌شده‌ترین فعالیت‌های لیگ عدالت الگوریتمی پژوهشی با عنوان سایه‌های جنسیت بود که با همکاری جوی بولاموینی و پژوهشگر اخلاق هوش مصنوعی، تیم نیت گبرو، انجام شد. این پژوهش سامانه‌های تجاری تشخیص چهره شرکت‌هایی مانند مایکروسافت، آی‌بی‌ام و فیس‌پلاس‌پلاس را بررسی کرد.

نتایج این پژوهش نشان داد که مدل‌های یادگیری ماشین در تشخیص چهره‌های دارای پوست روشن‌تر و ویژگی‌های مردانه عملکرد دقیق‌تری دارند، اما در تشخیص چهره‌های دارای پوست تیره‌تر و ویژگی‌های زنانه خطای بیشتری نشان می‌دهند. این موضوع باعث شد توجه عمومی و رسانه‌ای زیادی به مسئله تبعیض در فناوری‌های هوش مصنوعی جلب شود.

پس از انتشار این پژوهش، لیگ عدالت الگوریتمی از طرح‌هایی حمایت کرد که استفاده خطرناک و مرگبار از فناوری تشخیص چهره را محدود می‌کردند. فعالیت‌های این سازمان و گروه‌های مشابه باعث شد برخی شرکت‌های بزرگ فناوری، از جمله آمازون و آی‌بی‌ام، درباره کاربرد محصولات تشخیص چهره خود بازنگری کنند.

در سال ۲۰۲۰، فعالیت‌های جوی بولاموینی و لیگ عدالت الگوریتمی در مستند سوگیری کدنویسی‌شده نمایش داده شد. این مستند در جشنواره فیلم ساندنس معرفی شد و به مسئله سوگیری الگوریتمی در سامانه‌های تشخیص چهره پرداخت.

 سوگیری در تشخیص گفتار 
لیگ عدالت الگوریتمی فقط روی تشخیص چهره تمرکز ندارد. این سازمان درباره سوگیری در سامانه‌های تشخیص گفتار و پردازش زبان طبیعی نیز فعالیت کرده است. برخی پژوهش‌ها نشان داده‌اند که سامانه‌های تشخیص گفتار در فهم صدای افراد از گروه‌های نژادی مختلف عملکرد یکسانی ندارند.

در سال ۲۰۲۰، این سازمان یک اثر هنری گفتاری با عنوان پاک‌شدن صدا منتشر کرد. هدف این اثر افزایش آگاهی عمومی درباره سوگیری نژادی در سامانه‌های تشخیص خودکار گفتار بود. در این پروژه، پژوهشگران و فعالان مختلفی که در حوزه فناوری، عدالت اجتماعی و مطالعات نژادی فعالیت داشتند مشارکت کردند.

 حکمرانی الگوریتمی 
در سال ۲۰۱۹، جوی بولاموینی به نمایندگی از لیگ عدالت الگوریتمی در جلسه‌ای از کمیته علم، فضا و فناوری مجلس نمایندگان ایالات متحده شرکت کرد. موضوع این جلسه کاربرد فناوری تشخیص چهره در بخش تجاری و دولتی بود. بولاموینی در این جلسه درباره عملکرد ضعیف‌تر برخی سامانه‌های تشخیص چهره در شناسایی افراد با پوست تیره‌تر و ویژگی‌های زنانه صحبت کرد.

در سال ۲۰۲۲، لیگ عدالت الگوریتمی همراه با چند سازمان دیگر با استفاده سازمان مالیاتی آمریکا از فناوری تشخیص چهره مخالفت کرد. این سازمان‌ها با راه‌اندازی یک درخواست اینترنتی از دولت خواستند استفاده از فناوری ID.me را متوقف کند. پس از فشارهای عمومی و رسانه‌ای، سازمان مالیاتی آمریکا اعلام کرد که برنامه استفاده از تشخیص چهره را متوقف می‌کند.

 کارزار Decode the Bias 
در سال ۲۰۲۱، شرکت اولِی با همکاری لیگ عدالت الگوریتمی و گروه ORCAA کارزاری با عنوان Decode the Bias برگزار کرد. هدف این کارزار بررسی این بود که آیا سامانه مشاور پوست اولِی نسبت به زنان رنگین‌پوست سوگیری دارد یا نه.

بررسی‌ها نشان داد که این سامانه در ارزیابی افراد با رنگ پوست و سن متفاوت، عملکرد یکسانی ندارد. دقت سامانه برای برخی گروه‌ها بیشتر از گروه‌های دیگر بود. پس از این بررسی، اولِی اعلام کرد که برای شناسایی و کاهش این سوگیری‌ها اقداماتی انجام می‌دهد.

 پروژه CRASH 
در سال ۲۰۲۰، لیگ عدالت الگوریتمی پروژه‌ای به نام گزارش اجتماعی آسیب‌های سامانه‌های الگوریتمی یا CRASH را راه‌اندازی کرد. هدف این پروژه طراحی راهی برای گزارش آسیب‌هایی بود که از سامانه‌های الگوریتمی و هوش مصنوعی به وجود می‌آیند.

این پروژه بر ایده برنامه‌های جایزه‌یاب خطا تمرکز داشت؛ یعنی برنامه‌هایی که در آن افراد می‌توانند مشکلات، خطاها یا سوگیری‌های سامانه‌های هوش مصنوعی را پیدا و گزارش کنند. لیگ عدالت الگوریتمی پیشنهاد کرد که چنین برنامه‌هایی فقط برای خطاهای امنیتی نباشند، بلکه برای کشف سوگیری و آسیب‌های اجتماعی الگوریتم‌ها نیز استفاده شوند.

 کارزار Freedom Flyers 
از سال ۲۰۲۳، لیگ عدالت الگوریتمی کارزاری با عنوان Freedom Flyers راه‌اندازی کرد. این کارزار درباره استفاده از فناوری تشخیص چهره در فرودگاه‌های آمریکا و توسط اداره امنیت حمل‌ونقل آمریکا اطلاع‌رسانی می‌کند.

در این کارزار، تجربه مسافران درباره استفاده از سامانه‌های زیست‌سنجی در فرودگاه‌ها جمع‌آوری می‌شود. لیگ عدالت الگوریتمی اعلام کرده است که بسیاری از مسافران تصور می‌کنند اسکن چهره اجباری است، در حالی که مقام‌ها آن را داوطلبانه معرفی می‌کنند. این کارزار همچنین به مسافران یادآوری می‌کند که می‌توانند از اسکن چهره انصراف دهند.

 حمایت‌ها و حضور رسانه‌ای 
فعالیت‌های لیگ عدالت الگوریتمی از سوی بنیادهایی مانند بنیاد فورد، بنیاد مک‌آرتور، بنیاد آلفرد پی. اسلون، بنیاد راکفلر و بنیاد موزیلا حمایت شده است. رسانه‌هایی مانند تایم، نیویورک تایمز، ان‌پی‌آر و سی‌ان‌ان نیز به فعالیت‌های جوی بولاموینی و لیگ عدالت الگوریتمی پرداخته‌اند.

در سال ۲۰۲۱، مجله فست کمپانی، لیگ عدالت الگوریتمی را یکی از ده شرکت نوآور جهان در زمینه هوش مصنوعی معرفی کرد.

 جستارهای وابسته 
سوگیری الگوریتمی

اخلاق هوش مصنوعی

حقوق دیجیتال

شفافیت الگوریتمی

تنظیم‌گری الگوریتم‌ها

عدالت در یادگیری ماشین

تشخیص چهره