The Social Dilemma

The Social Dilemma je americká dokumentárna dráma z roku 2020 režírovaná Jeffom Orlowskim. V dokumente účinkujú bývalí zamestnanci veľkých technologických spoločností a sociálnych sietí, ktorí hovoria o vplyve produktov týchto spoločností na správanie ich používateľov a dopade na spoločnosť. Dej je prekrývaný hranými scénami, ktoré poukazujú na ich tvrdenia. Dokumentárna dráma tiež upozorňuje na významný vplyv sociálnych sietí na politiku a demokraciu vo svete a zobrazuje možnosti využitia obrovského množstva dát, ktoré technologické spoločnosti a sociálne siete o ich užívateľoch zbierajú. Tvorcovia a účinkujúci sa tiež zamýšľajú nad dôsledkami a riešením vzniknutej situácie.
Účinkujúci.
"Odpovedajúci na otázky v dokumente:"
"Herci:"
Ústredné postavy.
Medzi ústredné postavy dokumentu patrí Tristan Harris, ktorý je bývalým zamestnancom spoločnosti Google v ktorej pracoval na pozícií etický dizajn (). Počas práce v spoločnosti Google vypracoval prezentáciu s názvom "A Call to Minimize Distraction &amp; Respect Users' Attention" (), ktorá na 141 snímkach naznačuje, že spoločnosti Google, Apple a Facebook „majú cítiť obrovskú zodpovednosť“ aby ľudstvo nestrávilo celé dni sledovaním svojich smarfónov. Túto prezentáciu videli desiatky tisíc zamestnancov spoločnosti Google a bola predmetom rozhovorov o zodpovednosti tejto spoločnosti aj dlho po odchode Trisana Harrisa z jeho pracovnej pozície. V roku 2020 je Tristan Harris prezidentom a spoluzakladateľom "Center for Humane Technology" ("Centrum pre humánne technológie") ktorého poslaním je zvrátiť zostup ktorému ľudia kvôli technológiám čelia a znovu zosúladiť technológiu s ľudstvom.
Jaron Lanier je americký počítačový odborník, spisovateľ, muzikant a skladateľ. Píše autorské články na rôzne témy vrátane high-tech biznisu, sociálneho dopadu technológií, filozofie vedomia a informácií, internetovej politiky a budúcnosti humanizmu. Okrem iných napísal aj knihu "Ten Arguments For Deleting Your Social Media Accounts Right Now" (). 
Justin Rosenstein je americký podnikateľ a softvérový programátor. Je tiež spoluzakladateľom softvérovej spoločnosti Asana a okrem iného pracoval v spoločnostiach Google a Facebook. V roku 2020 sa vo viacerých oblastiach sústredí na zlepšovanie technológií s dôrazom na etickú spoluprácu medzi ľuďmi.
Aza Raskin je americký podnikateľ, spisovateľ, vynálezca a dizajnér rozhraní (). Jeho otcom bol odborník na rozhranie človek a počítač a tiež iniciátor projektu Macintosh v spoločnosti Apple. Aza Raskin je spoluzakladteľom "Center for Humane Technology" a "Earth Species Project".
Dej dokumentu.
Dokument začína predstavením zamestnancov a bývalých zamestnancov technologických spoločností a sociálnych sietí, ktorí okrem iného vysvetľujú, že vytváranie sociálnych sietí a s nimi súvisiacich nástrojov malo dobrý úmysel. Málokto si vedel predstaviť dôsledky, ktoré to bude v priebehu budúceho viacročného obdobia mať. Nejde o „jednu zlú osobu“, ktorá by to mala na svedomí.
Počas celého dokumentu je dej prekrývaný hranými scénami slúžiacimi na ilustráciu tvrdení, o ktorých účastníci interview hovoria, a krátkymi informáciami zo spravodajstiev amerických televízií k danej téme. Dej pokračuje rozprávaním Tristana Harrisa o jeho snahe poukázať na dôležitosť zodpovednosti technologických spoločností prezentáciou, ktorú vytvoril počas práce v spoločnosti Google a rozprávaním ďalších účinkujúcich, ktorí opisujú vývoj technologických spoločností a sociálnych sietí.
Dokument sa tiež snaží poukázať na fakt, že postupom času sa z užívateľov sociálnych sietí stali produkty. Klientmi sociálnych sietí sú zadávatelia reklamy, čo sociálne siete motivuje k tomu, aby vytvárali nástroje, ktoré motivujú užívateľov venovať sociálnym sieťam čo najviac času. Na tieto účely využívajú zber obrovského množstva dát, ktoré v roku 2020 nepodliehajú výraznejšej regulácií. Tým sa vytvoril úplne nový trh, kde je predmetom obchodovania ľudská pozornosť a tým samotný človek. Vďaka tomu technologické spoločnosti so sociálnymi sieťami patria v súčasnosti medzi najbohatšie firmy na svete.
V dokumente je vysvetlené, že každá interakcia, ktorú na internete spravíme, je zaznamenaná a monitorovaná. Na základe nich sú o užívateľoch vytvárané modely, ktoré o nich veľmi veľa vypovedajú, v niektorých prípadoch možno viac, než vie o sebe sám človek. Všetky tieto dáta idú do systémov, ktoré takmer nie sú pod ľudským dohľadom a vytvárajú stále lepšie a lepšie predpovede toho, čo urobíme a kým sme. Tieto spoločnosti dáta o ľuďoch nepredávajú, ale vytvárajú na ich základe modely, ktoré predpovedajú naše činy. Ten, kto má lepší model, dosahuje v danej oblasti lepšie výsledky. V dokumente je vysvetlené fungovanie časti ľudskej mysle a psychológie, ktorá pomáha spoločnostiam manipulovať ľudí, ktorí si prezerajú obsah sociálnych sietí alebo využívajú technológie s nimi spojené. Tvorcovia v dokumente poukazujú aj na to, že medzi negatívne zasiahnuté skupiny patria tínedžeri. To potvrdzujú aj dáta z prieskumov medzi rokmi 2011 a 2013, ktoré dokazujú prudký nárast vyskytujúcich sa depresií, psychických problémov a samovrážd u mládeže. Tieto prieskumy tiež dokazujú, že mladiství žijúci v Spojených štátoch narodení po roku 1996 trávia svoj voľný čas po škole so svojimi zariadeniami, čo ich robí zraniteľnejšími, viac trpia úzkosťami a depresiami, sú menej ochotní vystavovať sa riziku. Výrazne klesá počet tých, ktorí mali rande alebo inú romantickú interakciu, čo predstavuje veľkú zmenu za jednu generáciu a každá hospitalizácia má veľký vplyv na celú rodinu.
Randima Fernando, účinkujúci v dokumente, považuje za pravdepodobne najnebezpečnejší fakt, že celý tento proces riadi technológia, ktorá sa exponencionálne zlepšuje. Od roku cca. 1960 po rok 2020 sa totiž výkonnosť výpočtovej techniky asi bilión krát zvýšila a nič z toho, čo máme, neprešlo v takejto miere zlepšením. Naše mozgy, naša ľudská fyziológia, sa ďalej nevyvinula vôbec. Tristan Harris v dokumente tiež porovnáva ľudský mozog, ktorý má za sebou milión ročné obdobie a obrazovku, na ktorej druhej strane sú tisíce inžinierov a superpočítačov, ktoré majú iné ciele, než sú tie vaše. Pýta sa, kto vyhrá.
Medzi ďalší dôležitý moment dokumentu patrí skutočnosť, že na základe dát, ktoré o nás spomenuté spoločnosti získavajú, vytvárajú každému užívateľovi jeho vlastný „svet“. Sociálne siete, vyhľadávače a iné nástroje na internete, ktoré používame, sú prispôsobené individuálne na každého užívateľa. To vyvoláva v ľuďoch množstvo reakcií, ktoré im vytvárajú pocit, ktorý nevyhovuje užívateľom, ale sociálnym sieťam a technologickým spoločnostiam. Nezobrazuje pravdu, ale obsah, ktorý algoritmus aj na základe našich vstupov určí a snaží sa nás motivovať a manipulovať k tomu, aby sme sa na dané platformy stále vracali, trávili tam čo najviac času a motivovali k tomu aj ostatných ľudí. Toto vytváranie reality na „mieru“ má rôzne dôsledky. Veľmi nebezpečným je osobná a politická polarizácia spoločnosti, ktorá dosiahla v Spojených štátoch za posledné 20 ročné obdobie vrchol. Guillaume Chaslot, ktorý pracoval na systéme odporúčaných videí v internetovej databáze videí YouTube, v dokumente vysvetlil, že algoritmus, na ktorom pracoval zvyšuje polarizáciu spoločnosti, ale z hľadiska času stráveného sledovaním videí dokáže polarizácia veľmi efektívne udržať ľudí na internete. Hovorí tiež o tom, že ľudia si myslia, že algoritmus im má dať to, čo naozaj chcú, ale tak to nie je. Algoritmus sa snaží nájsť pár lákavých zajačích nôr, do ktorých môžete spadnúť, snaží sa zistiť, ktorá z nich je najbližšia vašim záujmom. A keď sa začnete pozerať na jedno z videí, bude vám ich odporúčať stále znovu a znovu.
Kým v roku 2020 dokáže algoritmus presvedčiť menšie množstvo menej inteligentných ľudí napríklad o tom, že Zem je plochá, tým, že sa algoritmus stále zlepšuje, je dôvod predpokladať, že v budúcnosti o nepravdivej informácií presvedčí aj iných ľudí. Preto sa nielen medzi ľuďmi, ktorí sú členmi rovnakých skupín na sociálnych sieťach, dokážu šíriť konšpiračné teórie, dezinformácie a nepravdivé informácie rýchlo a presvedčivo. Podľa štúdie výskumnej univerzity MIT sa na sociálnej sieti Twitter falošné správy šíria 6 krát rýchlejšie než pravdivé správy, čo vytvára výraznú nerovnováhu v negatívnom zmysle. Väčšina ľudí má možnosť vyvinúť väčšie snaženie a vyhľadať si napríklad viac informácií z relevantných zdrojov, ale len málo ľudí to urobí. Používa sa systém, ktorý uprednostňuje falošné informácie, nie preto, že by sme ich chceli, ale preto lebo spoločnostiam zarábajú viac peňazí než pravda. Pravda je v tomto zmysle nudná. Je to obchodný model výnosných dezinformácií. Situácia je už tak vážna, že v súvislosti so šírením pandémie sú na internete dezinformácie, ktoré v najhorších prípadoch môžu spôsobiť smrť.
Zo sociálnej siete Facebook sa postupom času stal podľa Rogera McNameeho najefektívnejší presvedčovací nástroj čo považuje za jeden z problémov tejto sociálnej siete. Cynthia M. Wong z organizácie Human Rights Watch následne v dokumente opisuje situáciu ktorá nastala v Mjanmare, kde je možné pozorovať dôsledky ktoré patria medzi najhoršie zneužitia sociálnych médií vládami a verejnými činiteľmi.
Tristan Harris ďalej v dokumente vysvetlí, že súčasná situácia speje k tomu, že ľudia nebudú dôverovať pravde, budú si myslieť že im vláda nehovorí pravdu, všetky teórie budú považovať za konšpiračné, nebudú si navzájom dôverovať a budú nenávidieť tých, s ktorými nesúhlasia a vznikne obrovský chaos. V dokumente je ďalej vysvetlené, že polarizácia spoločnosti, šírenie dezinformácií a ďalšie možnosti sociálnych sietí zneužívajú politickí predstavitelia a iní verejní činitelia na svoje účely čím priamo ohrozujú demokraciu. Renée DiResta v dokumente hovorí, že čelíme priamemu útoku na demokraciu a Roger McNamee vysvetlí že tieto útoky môžu prísť aj zvonku, čo sa stalo pri voľbách v roku 2016 v Spojených štátoch, keď východný štát zneužil už fungujúce nástroje sociálnej siete Facebook. Tieto nástroje menia a ničia fungovanie spoločnosti v mnohých vyspelých demokraciách na svete. Sila sociálnych sietí umožňuje zasiahnuť do demokracie v danom štáte tým, že keď si zadávateľ nakúpi priestor napríklad na sociálnej sieti Facebook má možnosť získať výrazný dosah na myslenie ľudí, propagovať nepravdivé informácie pre určitú skupinu populácie a tým budovať v ľuďoch nenávisť. V dokumente na negatíva poukazujú aj vysoký politickí predstavitelia Spojených štátov.
Účinkujúci v dokumente ďalej upozorňujú na to, že sociálne siete tým, že zobrazujú každému užívateľovi obsah, ktorý je totožný alebo veľmi podobný jeho vlastným názorom v ňom vyvolávajú falošný pocit že nie je potrebné hľadať spoločné riešenia, stretávať sa s ostatnými a v podstate ani to, aby spolu ľudia rozprávali. Roger McNamee sa tiež snaží vysvetliť, že spoločnosť potrebuje mať spoločné chápanie reality.
O fungovaní umelej inteligencie ďalej hovorí Cathy O'Neil pričom objasňuje že umelá inteligencia nedokáže rozoznať pravdu od klamstva alebo určiť čo je konšpiračná teória pretože A.I nemá nič čo by pravdu zastupovalo lepšie než počet kliknutí. Tristan Harris tieto slová následne potvrdzuje zistením, že keď sa nezhodneme na tom čo je pravda, alebo na tom že niečo také existuje, je s nami koniec. Považuje to tiež za ten najhlavnejší problém, pretože keď sa nezhodneme na pravde, nebudeme môcť vyriešiť žiadne ďalšie problémy.
O tom, že odborníci v Silicon Valley si uvedomujú závažnosť vzniknutej situácie svedčia slová Jarona Laniera, ktorý hovorí že mnohí títo ľudia sa hlásia k teórií že staviame nejaký globálny supemozog a naši užívatelia sú len neuróny ktoré sa dajú vymeniť pričom žiadny z nich nie je dôležitý a stavia to ľudí do zvláštnej podradnej role, v ktorých sú ľudia len malý prvok počítača, ktorí sú programovaní pomocou manipulácie chovania pre účely tohto obrovského mozgu zatiaľ čo na ľuďoch nezáleží.
V záverečných desiatich minútach dokumentu okrem iného hovorí Tristan Harris o existenčnej hrozbe ktorú vzniknutá situácia prináša a vysvetlí že hrozbou nie je samotná technológia, ale ide o to, že technológia prebúdza tú najhoršiu stránku spoločnosti a najhoršia stránka spoločnosti je existenčnou hrozbou. Ďalej hovorí že pokiaľ technológia vyvoláva masový chaos, pobúrenie, nezdvorilosť, nedostatok vzájomnej dôvery, osamelosť, odcudzenosť, vyššiu polarizáciu, viac zásahov do volieb, viac populizmu, väčšie odvádzanie pozornosti od skutočných problémov na vine je spoločnosť a spoločnosť sa teraz nedokáže zotaviť a mení sa v chaos pričom sa to týka všetkých aj tých, ktorí tieto produkty nevyužívajú.
V dokumente sú tiež použité zábery z výpovede Tristana Harrisa pred Senátom Spojených štátov, kde hovorí že zodpovedné za vzniknutú situáciu sú digitálne platformy pretože keď prevezmú volebnú propagáciu zodpovedajú aj za ochranu volieb. Keď si prisvoja duševné zdravie detí a sobotné rozprávky zodpovedajú za ich ochranu.
Tristan Harris tiež objasňuje že súboj o udržanie pozornosti ľudí nezmizne a technológie sa nám do životov budú začleňovať viac, nie menej a umelá inteligencia sa bude vylepšovať.
Tim Kendall na otázku, čoho sa najviac bojí odpovedá, že si myslí že v najbližšom časovom období sú to občianske vojny. V predpovediach pokračuje Jaron Lanier, ktorý si myslí, že keď bude súčasný status qou pokračovať, povedzme, ďalšie 20 ročné obdobie pravdepodobne civilizáciu zničíme umienenou nevedomosťou, pravdepodobne sa nám nepodarí čeliť klimatickým zmenám, pravdepodobne znehodnotíme svetové demokracie takže upadnú do bizarnej autokratickej dysfunkcie, pravdepodobne zničíme globálnu ekonomiku, pravdepodobne neprežijeme. Jaron Lanier situáciu považuje za skutočne existenčnú.
Tristan Harris sa následne pýta, akým spôsobom sa preberiete z matrixu keď neviete že v ňom ste? A ďalej vysvetlí že je situácia mätúca, pretože je to zároveň utópia a antiutópia a technológie nám prinášajú aj mnohé výhody.
Justin Rosenstein, spolutvorca tlačidla „like“ na facebooku hovorí, že prostredníctvom tlačidla „to sa mi páči“ chceli do sveta priniesť viac pozitivity a lásky, to bola ich hlavná motivácia a predstava že dnes bude málo označení páči sa mi u tínedžerov spôsobovať depresie alebo že môže viesť k politickej polarizácií im vôbec nenapadla. Podobný názor má aj Joe Toscano, ktorý si myslí že majitelia technologických spoločností a sociálnych sietí sa nenastavili tak že budú zlí ale že problém je obchodný model. Alex Roetter objasňuje že je možné vypnúť službu ale v praxi nie je možné vrátiť džina do fľaše a čím je to väčšie, tým ťažšie to bude zmeniť. Tristan Harris ďalej hovorí o tom že vidí skupinu ľudí, ktorým zväzuje ruky obchodný model, ekonomické podnety a nátlaky akcionárov čo takmer znemožňuje spraviť niečo iné.
Viacerí vystupujúci v dokumente sa zhodujú v tom, že riešením situácie je zaviesť regulácie zo strany štátu. Jaron Lanier spomína aj fakt, že finančná motivácia v podstate riadi svet preto každé riešenie tejto situácie by malo súvisieť s reorganizáciou financií v tejto oblasti. To, že firmy chcú zarábať peniaze je v poriadku ale nie je v poriadku že technologické firmy a sociálne siete nepodliehajú reguláciám, pravidlám a v niektorých prípadoch ani nemajú konkurenciu. Riešením je tiež zdaňovanie spoločností podľa dátových aktív ktoré majú čo im dá fiškálny dôvod aby nezískavali všetky dáta na planéte. Zákon v tejto oblasti a tiež v oblasti digitálneho súkromia zaostáva hovoria vystupujúci v dokumente.
Shoshana Zuboff, profesorka na Harvardovej univerzite považuje trhy, ktorým sa dokument venuje za podrývajúce demokraciu a slobodu a myslí si že by nemali byť dovolené čo nepovažuje za radikálny návrh, pretože existujú trhy, ktoré nie sú dovolené, zakazujeme trh s ľudskými orgánmi, zakazujeme trh s ľudskými otrokmi pretože majú nevyhnutne ničivé následky.
Stav v ktorom sa svet v súčasnosti nachádza je podľa Justina Rosensteina spôsobený aj tým, že strom je finančne cennejší keď je mŕtvy než keď je živý, že žijeme vo svete v ktorom je veľryba cennejšia mŕtva než živá a vysvetlil že dokým bude naša ekonomika takto fungovať a korporácie nebudú regulované, budú ďalej ničiť stromy, zabíjať veľryby, ťažiť zo zeme suroviny a ropu aj keď vieme, že to ničí planétu a že to zanechá horší svet budúcim generáciám. Je to myslenie ktoré nie je dlhodobé a je založené na tom aby sa dosiahol zisk za každú cenu. Postupom času sa v tomto zmysle zo stromov a veľrýb stali ľudia, pretože je možné ťažiť našu pozornosť, korporácie majú z ľudí väčší zisk keď trávia čas pri obrazovke pozeraním na reklamu než keby žili ľudia svoje životy plnohodnotným spôsobom. Vidíme následky keď korporácie využívajú umelú inteligenciu aby presmerovali našu pozornosť k tomu, čo chcú, preč od vecí, ktoré sú v súlade s našimi cieľmi, hodnotami a životmi.
Aza Raskin a Bailey Richardson ďalej v dokumente hovoria o tom, že oblasť Silicon Valley bola vybudovaná na myšlienke humánnej technológie ale postupom času sa nad ňou stratil dohľad, pretože sa robilo to čo je „cool“ a nie to čo je správne. Internet bol kedysi zvláštne miesto, vytvárali sa tam experimenty a kreatívne veci, ktoré sa stále vytvárajú ale dnes to viac pripomína obrovské nákupné centrum a hovoríte si že by v tom malo byť niečo viac.
Všetky technológie ktoré používame vytvorili ľudia a práve ľudia sú teraz vystavení otázke, či sú ochotní priznať, že tieto zlé veci sú priamym produktom našej práce. Tieto veci vytvorili ľudia a je ich povinnosťou ich zmeniť. Tristan Harris ďalej hovorí že model, na základe ktorého sa získava pozornosť nie je spôsob, ktorým sa chceme chovať k ľudským bytostiam. Zdravie spoločnosti závisí od toho či sa tohoto zničujúceho obchodného modelu vzdáme. Môžeme požadovať, aby boli tieto produkty navrhované humánne, môžeme požadovať, aby sme pre spoločnosti neboli zdrojom z ktorého sa dá ťažiť. Zámerom by mohlo byť, „Akým spôsobom spravíme svet lepším“?
Jaron Lanier v dokumente tiež povedal, že necíti zlosť voči Googlu alebo Facebooku, ale ide mu o to spoločnosti zreformovať aby sa podarilo zachrániť svet.
Posledná otázka tvorcov je, či sa nám podarí celú vec spomínanú v dokumente zmeniť, na čo Tristan Harris odpovedá „Musíme“.
Hodnotenie médií.
Britský denník Independent zhodnotil dokument The Social Dilemma slovami že je „najdôležitejší dokument našej doby“.
Víťaz novinárskej Ceny otvorenej spoločnosti za rok 2019 ktorou oceňuje Nadácia otvorenej spoločnosti novinárov Filip Struhárik vo svojom článku hodnotí dokument The Social Dilemma. V článku cituje viacerých znalcov v danej oblasti a okrem iného uvádza: „Hlavné postavy dokumentu majú veľa spoločného a to ich limituje. Sústreďujú sa totiž len na určité spektrum problémov, no iné, ktoré sa viac dotýkajú marginalizovaných skupín, ľudí v iných častiach sveta, žien či používateľov inej farby pleti, môžu prehliadať. Ich agenda a navrhované riešenia tak môžu byť polovičaté a nedostatočné.“
Okrem iného sa tiež v článku píše, že propaganda, šikana a dezinformácie sú v skutočnosti oveľa rozsiahlejšie a komplikovanejšie. Pripomína tiež extrémistov, ktorí navštevovali menšie platformy ktoré sú schopné spájať podobne zmýšľajúcich ľudí. Citovaní v článku tiež hovoria o tom, že dokumentárna dráma sociálna dilema chce, aby sme verili že svet je horším miestom v porovnaní s minulosťou čo podľa nich nie je pravda. Problém je podľa Filipa Struhárika zložitejší a sociálne siete nie sú zodpovedné za všetky problémy internetu.
V článku ďalej Filip Struhárik hodnotí sociálne siete: „Zlyhaním sociálnych sietí nie je to, že sa na nich objavia aj nepravdivé či extrémistické informácie. Takému niečomu sa nedá stopercentne zabrániť a zdravá spoločnosť sa s tým spravidla dokáže vyrovnať. Problémom sú skôr pokročilé nástroje, ktoré „hekujú“ ľudskú myseľ, aby získali jej pozornosť a vytvorili v nej závislosť. Problémom sú algoritmy, ktoré sa v snahe ukázať vám vždy niečo zaujímavé uchyľujú k tomu, že vám ukazujú stále radikálnejšie a poburujúcejšie príspevky.
Toto vysvetľuje dokument veľmi dobre, slabší je však v prinášaní riešení. Radí, aby si ľudia pomohli svojpomocne – nebrali si smartfóny do spálne, vypli si notifikácie, odinštalovali aplikácie, ktoré žerú najviac času a – paradoxne – nikdy neklikali na video, ktoré im odporučí algoritmus, hoci mnohí si pustili film Sociálna dilema práve preto, že im to navrhol systém Netflixu.
Druhou vrstvou riešenia má byť regulácia, hoci nik v dokumente nekonkretizuje, ako by mala vyzerať, na akých princípoch by mala stáť a čoho sa musí vyvarovať, aby nenapáchala viac škôd ako úžitku. Len tušíme, že problém je veľký, nedá sa rozlúsknuť za jedno volebné obdobie a riešením tak môže byť jedine politika založená na odbornosti, dôkazoch a kontinuite.“
V závere článku je uvedené že napriek tomu že časť manažmentu týchto firiem pozná nedostatky, môžu presadiť len riešenia ktoré neohrozia ich biznis model a nemôžeme očakávať, že internetové giganty samy podstúpia štrukturálne zmeny svojho fungovania. Keby to totiž neboli oni, prídu iné podobné platformy ktoré ponúknu ľuďom to, čo chcú.