تبعیض‌زدایی از بازارگاه‌های آنلاین (بخش پایانی)

تبعیضِ الگوریتم‌بنیاد به شیوه‌هایی صورت می‌گیرد که احتمالاً انسان‌ها از آن می‌پرهیزندحتی باحُسن‌نیّت‌ترین شرکت‌ها نیز ممکن است بهترین شیوه‌ی مبارزه با تبعیض را اتخاذ نکنند چون، تا جایی که می‌دانیم، سیستمی برای اندیشیدن به انتخاب‌های موجود در طراحی‌ها و پیامدهایی که به دنبال خواهند داشت وجود ندارد. هدف‌مان در ادامه این است که چارچوبی را برای شرکت‌هایی پیشنهاد کنیم که می‌خواهند بازارگاهی پُررونق را طراحی و مدیریت کنند و درعین‌حال احتمال تبعیض‌گذاری‌اش را به حداقل برسانند.انتظار نداریم که یکایکِ طراحانِ بازار تصمیم‌هایی یکسان بگیرند. درست همان‌طور که رقیبانِ یک عرصه تصمیم‌های متفاوتی در طراحیِ زمینه‌های دیگر می‌گیرند (مثلاً مسافرانِ Lyft می‌توانند از طریق نرم‌افزار به رانندگان انعام دهند اما در Uber چنین امکانی وجود ندارد)، در مسیر مقابله با تبعیض‌گذاری هم تصمیم‌های متفاوتی خواهند گرفت. از جمله به این دلیل که اهمیت تبعیض‌زدایی نزدشان متفاوت است (هرچند اعتقادمان بر این است که پلتفرم‌ها باید استاندارد بالایی را در این زمینه اتخاذ کنند). هدف‌ ما اینجا کمک به شفاف‌شدنِ پیامدها و نکات منفیِ انتخاب‌هایی است که طراحان در طراحیِ پلتفرم‌ها در پیش می‌گیرند.در ادامه، برای پلتفرم‌هایی که با این چالشِ طراحیِ بازار روبه‌رو اند دو اصل راهنما تدارک دیده‌ایم. سپس، به ارزیابیِ چهار انتخابِ مربوط به طراحی می‌پردازیم که به احتمال زیاد روی تبعیض‌گذاری تأثیر خواهند داشت.اصل یکم: احتمال تبعیض را نادیده نگیرید!پلتفرم‌ها را می‌باید با قابلیتِ نظارت و ردیابیِ بیشتری راه‌اندازی کرد. در حال حاضر، بیشترشان از توزیع نژادی و جنسیتیِ معامله‌گرانِ خود اطلاعی به دست نمی‌دهند. تهیه‌ گزارش‌های منظم (و انجام بازبینی‌های چند وقت یک‌بار) درباره‌ی نژاد و جنسیت کاربران، در کنار میزان موفقیت هر گروه در پلتفرم، گامی‌ست لازم (اما نه کافی) به سوی آشکارکردنِ مشکلات و رویارویی با آن. با چنین کاری می‌توانیم آن‌جایی را که تبعیض سایه انداخته است شناسایی کنیم و پیشرفت‌مان را در گذر زمان رصد نماییم. همچنین، این اقدام گامی صادقانه خواهد بود به سمت کاهش تبعیض. برای نمونه، Airbnb باید مرتباً گزارشی از درصدِ پذیرشِ مهمان‌ها بر حسب عواملی همچون نژاد و جنسیت منتشر کند. عمومی‌کردنِ چنین اطلاعاتی به افزایش آگاهیِ کاربران و قانون‌گذاران می‌انجامد و شرکت‌ها را وامی‌دارد که با جدّیتِ تمام با تبعیض‌گذاری‌هایی که طیِ تحولِ پلتفرم‌شان رخ می‌نماید برخورد کنند. (انتشار عمومیِ داده‌های مربوط به تبعیض درواقع یکی از نقاطی بود که سیاست‌های اعلامیِ Airbnb از آن غافل مانده بود—اما برای تبدیل اهدافِ کلّی و ستودنیِ این شرکت به نتایجی عینی و ملموس، چنین چیزی لازم است.)اصل دوم: ذهنیتی تجربه‌گر داشته باشید!آزمودنِ شیوه‌های متفاوت نقطه‌ای‌ست که پلتفرم‌ها در آن می‌درخشند و باید از این قوت‌شان بهره بگیرند. شرکت‌هایی مثل فیسبوک(facebook)، یِلپ (Yelp)، و ای‌بِی (eBay) شیوه‌ی تفکرِ تجربه‌گر را چاشنیِ طراحی و ساختِ محصولات و قابلیت‌های جدید‌شان کرده‌اند. لازم است شرکت‌ها برای آزمودنِ طرح‌هایی که از جمله ممکن است به تبعیض‌گذاری‌ها دامن بزند کارآزمایی‌های تصادفیِ کنترل‌شده‌ای تدارک ببیند. Airbnb را باید به‌خاطر برداشتنِ عکسِ اجاره‌دهندگان از برگه‌ی اصلیِ نتایجِ جست‌وجویش به‌منظور بررسی تأثیرگذاری‌اش روی اجاره‌دهی‌ها ستود (هرچند نتایجش را منتشر نکرده است).گزینه‌ی طراحی شماره‌ی ۱: آیا اطلاعات‌دهی‌تان بیش‌ازحد است؟در بسیاری موارد، ساده‌ترین و مؤثرترین تغییری که پلتفرم‌ها می‌توانند اِعمال کنند مخفی‌نگه‌داشتنِ اطلاعاتِ احتمالاً حساس، مثل نژاد و جنسیت، است تا زمانی که معامله به توافق برسد. برخی پلتفرم‌ها، از جمله آمازون (Amazon) و ای‌بِی (eBay)، هم‌اکنون چنین رویکردی دارند. اما بسیاری شرکت‌ها هستند که چنین چیزی را تغییری عظیم در تجارت‌شان محسوب می‌کنند. یکی از مسئولان اجراییِ پلتفرمی با ارزشِ میلیارد دلاری به ما گفت که بنگاهش هرگز به حذف عکس و نامِ کاربران فکر هم نخواهد کرد.پلتفرم‌ها، علاوه بر انتخابِ اطلاعاتی که به نمایش می‌گذارند، تعیین می‌کنند که این اطلاعات چه‌قدر برجسته باشند. و شواهد بسیار زیادی در دست است که نشان می‌دهد میزان برجستگی تا چه اندازه تأثیرگذار است. مثلاً در برخی پلتفرم‌ها هزینه‌های ارسال از قیمت پایه (base price) جدایند و کمتر برجسته می‌شوند. اقتصاددانانی به نام‌های جنیفر براون (Jennifer Brown)، تانجیم حسین (Tanjim Hossein)، و جان مورگان (John Morgan) در آزمایشی تأثیرگذار نشان دادند که در چنین شرایطی، قیمت پایه‌ی پایین‌تر احتمالِ فروشِ جنس را بیشتر می‌کند، حتی زمانی که میزان به‌صرفگی‌اش، از آن طرف، توسط هزینه‌های بالاترِ ارسال خنثی‌شود. به عبارت دیگر، مشتریان نه‌تنها با اطلاعاتی که مشاهده می‌کنند بلکه با اطلاعاتی که بیش از همه برجسته است نیز تحت تأثیر قرار می‌گیرند.برای درک چگونگیِ عملکرد این موضوع، یکی از تفاوت‌های Airbnb، که عکس اجاره‌دهندگانش را در برگه‌ی اصلیِ نتایجِ جست‌وجو نشان می‌دهد، و HomeAway، که این کار را نمی‌کند، را در نظر بگیرید. (در ماه سپتامبر، Airbnb اعلام کرد که روش‌های دیگری را برای نمایش عکس و اطلاعات نژادمحورِ دیگر خواهد آزمود، (هرچند جزئیات بیشتری ارائه نکرد). پلتفرم‌ها با کاهش برجستگیِ عنصر نژاد می‌توانند از میزان تبعیض بکاهند.گزینه‌ی طراحی شماره‌ی ۲: آیا می‌توانید فرایند معامله را خودکارتر کنید؟در Uber، برای درخواست تاکسی، صفحه‌ای را لمس می‌کنید و فقط بعد از تأیید نهایی است که متوجه می‌شوید چه کسی سوارتان خواهد کرد. البته، این امکان وجود دارد که پس از این مرحله چنانچه از امتیاز یا ظاهر راننده خوش‌تان نمی‌آید، سفارش‌تان را لغو کنید. اما این کار زحمت می‌خواهد و همان «هزینه‌ی مبادله‌ی» (transaction cost) اندکش احتمالاً کافی‌ست تا جلوی بیشترِ لغوکردن‌های ظاهرمحور را بگیرد. Uber خیلی راحت می‌توانست به مسافران اجازه دهد که عکس رانندگان را پیش از تأیید یا لغوِ سفر ببینند، اما چنین نکرده است.تکمیل‌کردنِ معاملات پیش از نمایش نژاد و جنسیت، تبعیض‌گذاری را برای مردم دشوارتر می‌کند. قابلیتِ instant book یا «رزرو آنی» Airbnb را در نظر بگیرید، که برای ساده‌ترکردن و آسان‌ترکردنِ اجاره‌گیری طراحی شده است. اجاره‌دهنده‌ای که از این قابلیت استفاده می‌کند به اجاره‌گیرندگان اجازه می‌دهد که ملکش را بدون نیاز به تأییدش اجاره کند. رزرو ِ آنی قابلیتی اختیاری است: اجاره‌دهندگان باید برایش نام‌نویسی کنند. پژوهش‌ها نشان داده است که «سوگیریِ وضعِ موجود» (default bias) از قدرت بالایی برخوردار است: بیشترِ اجاره‌دهندگان از همان تنظیمات پیش‌فرض استفاده خواهند کرد. اگر Airbnb حالت رزرو ِ آنی را به تنظیمات پیش‌فرضش اضافه کند، تا اجاره‌دهندگانی که تمایلی به آن ندارند این قابلیت را برای خودشان غیرفعال کنند، به احتمال بسیار زیادی از میزان تبعیض‌گذاری‌ها کاسته خواهد شد. این شرکت همچنین می‌تواند به‌خاطر فراهم‌آوردنِ امکانِ نظارت و گزینش برای اجاره‌دهندگانش از آن‌ها پول بگیرد—مثلاً برای غیرفعال‌کردنِ حالت سفارش فوری از آن‌ها هزینه دریافت کند. (در ماه سپتامبر، این شرکت اعلام کرد که سطح استفاده از قابلیت سفارش فوری‌اش را افزایش خواهد داد، اما درباره‌ی چگونگیِ آن توضیحی نداد.)ما معتقدیم که افزایش اتوماسیون و مشوّق‌های اقتصادیِ استاندارد، چنانچه با دقت و احتیاط به‌کار گرفته شوند، می‌توانند هم از تبعیض‌گذاری‌ها بکاهند و هم—با حذف برخی مراحل زمان‌بر از فرایند تکمیل معامله—میزان سودآوری را در بسیاری از پلتفرم‌ها بالا ببرند.گزینه‌ی طراحی شماره‌ی ۳: آیا می‌توانید سیاست‌‌های تبعیض‌زدایانه‌تان را برجسته‌تر کنید؟در سال 2012، گروهی پژوهشی متشکل از لیزا شو (Lisa Shu)، نینا مازار (Nina Mazar)، فرانچسکا گینو (Francesca Gino)، و مکس بازرمَن (Max Bazerman) درصدد برآمدند تا ببینند که آیا تغییری ساده مثل جایگاه امضا روی برگه‌ها تأثیری روی صداقتِ امضاکنندگان دارد یا خیر. دیده بودند که اغلب از مردم خواسته می‌شود تا اطلاعات‌شان را در برگه پُر کنند و نهایتاً در پایان برای تصدیق صداقت‌شان آن را امضا کنند. به فکرشان رسید که اگر همان اول امضا کنند—و سپس سراغ پُرکردنِ اطلاعات بروند—، شاید از احتمال دغل‌کاری‌شان کاسته شود. به‌واقع، امضاکردن در بالای برگه چه در محیط آزمایشگاهی و چه در محیط واقعیِ یک شرکت بیمه‌ی خودرو به دغل‌کاریِ کمترِ افراد منجر شد. این روش در زمینه‌ی اظهارنامه‌ی مالیاتی نیز جواب داد.بازارگاه‌ها می‌توانند از این پژوهش درس بگیرند: اگر می‌خواهید مردم را به اقدامی سوق دهید، با دقت درباره‌ی زمانِ یادآوری‌اش تأمل کنید. بیشترِ پلتفرم‌ها سیاست‌های ضدتبعیضی دارند اما این سیاست‌ها در لابه‌لای برگه‌ها گم شده‌اند. برای مثال، اجاره‌دهندگان Airbnb باید قبول کنند که تبعیضی قائل نخواهند شد—اما این کار را موقع نام‌نویسیِ اولیه‌شان انجام می‌دهند. تا کار به تأیید درخواست اجاره برسد، احتمالاً آن قراردادنامه را به‌کُل از یاد برده‌اند. بازارگاه‌ها می‌توانند زمان مناسب‌تری را برای نمایش سیاست‌های ضدتبعیضی‌شان برگزینند—و موافقت اجاره‌دهنده مبنی بر تبعیض‌پرهیزی‌اش را در حین معامله از او کسب کنند. البته، با چنین اقدامی نیز همچنان کسانی خواهند بود که این سیاست‌ها را زیرپا بگذارند اما دراین‌صورت انتخاب‌شان شکلِ بسیار عامدانه‌تری به خود می‌گیرد.گزینه‌ی طراحی شماره‌ی ۴: آیا الگوریتم‌هایتان باید نسبت به تبعیض آگاه باشند؟یکی دیگر از انتخاب‌هایتان برمی‌گردد به میزان تبعیضی که از سوی الگوریتم‌هایتان اِعمال خواهد شد. تاکنون بسیاری از طراحانِ الگوریتم عواملی همچون نژاد و جنسیت را نادیده گرفته‌اند و صرفاً به بهترین برون‌دادها امید بسته‌اند. اما در بسیاری موارد احتمالِ این‌که یک الگوریتم خودبه‌خود به برابری دست یابد اساساً صفر است؛ الگوریتم‌های گوگل و تبلیغاتِ مربوط به سوابقِ بازداشتی نمونه‌ای بود از این واقعیت.اگر طراحانِ الگوریتم به رعایت انصاف اهمیت می‌دهند، باید ببینند که نژاد و جنسیت چه‌طور تجربه‌ی کاربری را تحت‌تأثیر قرار می‌دهند و اهدافِ شفافی برای الگوریتم‌شان تعیین کنند. آیا واقعاً می‌خواهند مطمئن شوند که مشتریانِ سیاه‌پوست بیش از سفید‌پوستان با جوابِ رد روبه‌رو نشوند؟ که قیمت‌های پیشنهادی به زنان با مال مردان برابر باشد؟گوگل، در واکنش به پژوهشِ مربوط به سوابق بازداشت، الگوریتمش را دست‌کاری کرد اما شرکت‌ها می‌توانند با رویکردی فعالانه نیز چنین مشکلاتی را رصد کرده و به آن واکنش نشان دهند. بخشی از آن می‌تواند شامل خنثی‌سازیِ تبعیض‌گری نسبت به برخی کاربران باشد. مثلاً فرض کنید که Uber متوجه می‌شود بعضی مسافران دائماً به رانندگان سیاه‌پوستی که از بیشترِ مسافرانِ دیگر امتیازِ بالا دریافت می‌کنند امتیاز پایین می‌دهند. این شرکت می‌تواند هنگام محاسبه‌ی کلّیِ امتیازِ بازخوردها، امتیازدهی‌های این افراد را—که تبعیض‌گذاری‌شان را رو کرده‌اند—کمتر لحاظ کند.درسی از اُرکسترسمفونی‌هاواضح است که پلتفرم‌ها در یک بسترِ اجتماعیِ بزرگ‌تر قرار دارند؛ نمی‌توانیم صرفاً با طراحیِ پلتفرم‌هایی که تبعیض‌گذاری را کمی دشوارتر می‌کنند، دنیایی عاری از نژادپرستی و جنسیت‌زدگی بیافرینیم. و خوش‌خیالانه است که گمان کنیم همه‌ی طراحان پلتفرم‌ها آرزوی تحقق چنین چیزی را داشته باشند؛ چراکه گاهی فراهم‌آوردنِ امکانِ تبعیض‌گذاری برای تجارت‌ها سودآور است. در این موارد، یگانه کاری که از ما برمی‌آید این است که به حس مسئولیت‌پذیریِ اجتماعیِ رهبرانِ این کسب‌وکارها متوسل شویم یا امیدوار باشیم که قانون‌گذارانِ دولتی مداخله خواهند کرد.اما نمونه‌های زیادی هم هستند که در آن‌ها سودطلبی با عدالت‌طلبی منافاتی ندارد—کم نیستند تجارت‌های پلتفرمی‌ای که می‌توانند با هزینه‌ای پایین یا حتی درعینِ بالابردنِ سودشان، از تبعیض‌گذاری‌ها بکاهند. این امکان هم وجود دارد که چند تجارتِ آگاه‌تر چرخه‌ای مجازی راه‌اندازی کنند تا سایر مشارکت‌کنندگانِ بازار را به رفتارهای بهتر وادارند.بیایید ببینیم که در گذشته چگونه چالش افزایش تنوع جنسیتی در اُرکسترسمفونی‌های ایالات متحده را برطرف کردند. در اواسط دهه‌ی 1960، کمتر از ده درصدِ اعضای پنج اُرکسترِ برترِ ایالات متحده (شامل اُرکسترِ بوستون، فیلادلفیا، شیکاگو، نیویورک، و کلیولند) از زنان تشکیل شده بود. در دهه‌های 1970 و 1980، طیِ رویکردی کلّی‌تر با هدف تنوع‌افزایی، این گروه‌ها فرایندهای آزمون‌گیری از داوطلبان را به‌گونه‌ای تغییر دادند که سوگیری‌های احتمالی از بین برود. به‌جایِ برگزاریِ آزمون‌ها به‌صورتِ رودررو، نوازندگان را پشتِ یک پرده یا چیزی شبیه به آن نشاندند. در پژوهشی ممتاز که سال 2000 انجام گرفت، دو اقتصاددان به نام‌های کلادیا گُلدِن (Claudia Goldin) و سیسیلیا راس (Cecilia Rouse) دریافتند که استفاده از این پرده نرخِ موفقیتِ زنان را 160 درصد افزایش داد. در واقع، آن‌ها یک‌چهارم از افزایش تنوعِ جنسیتی در اُرکسترها را به همین تغییرِ ساده نسبت دادند. و البته با انتخابِ مهارت‌بنیادترِ نوازندگان، بر عملکرد اُرکسترها نیز بی‌تردید افزوده شد.سال‌ها پیش وقتی اولین‌بار این پژوهش را خواندیم، به‌خاطر عرضه‌ی زاویه‌ای کمتردیده‌شده‌ از تبعیض‌گذاری و تأثیرات غیرمنتظره‌ای که از تغییری کوچک نشأت گرفت به وجد آمدیم. اما روش‌شان به‌طرز عاجزانه‌ای محدود به همان حوزه به‌نظر می‌رسید. دشوار بود شرایطی را تصور کنیم که در آن خریداران و فروشندگان یا کارفرمایان و کارجویان بتوانند بدون اطلاع از نژاد و جنسیتِ همدیگر با هم تعامل کنند.عصر آنلاین ورق را برگردانده است. از همان آغاز شاهدِ امکان وجود بازارگاه‌هایی عاری از نژاد، جنسیت، و سن بودیم. اکنون به جایی رسیده‌ایم که طراحان پلتفرم‌ها می‌توانند تصمیم بگیرند که کِی و کجا این پرده‌های مجازی را نصب کنند. امیدمان آن است که این قدرت‌شان را در جهتِ ساختِ جامعه‌ای پذیراتر و دربرگیرنده‌تر به‌کار گیرند.ترجمه مقاله ای با همین نام از Harvard Business Reviewمترجم: محمد رسول علیزادهتبعیض‌زدایی از بازارگاه‌های آنلاین (بخش یک)