Individualistiese Westerse samelewings is gebou op die idee dat niemand ons gedagtes, begeertes of vreugdes beter ken as wat ons doen nie. En daarom plaas ons onsself eerder as die regering in beheer van ons lewens. Ons is geneig om met die filosoof saam te stem Immanuel Kant se eis dat niemand die reg het om hul idee van die goeie lewe op ons af te dwing nie.
Kunsmatige intelligensie (AI) sal dit verander. Dit sal ons beter ken as wat ons onsself ken. 'N Regering gewapen met AI kan beweer dat hulle weet wat die mense regtig wil hê en wat hulle regtig gelukkig sal maak. Op sy beste sal dit dit gebruik om paternalisme, in die ergste geval, totalitarisme te regverdig.
Elke hel begin met 'n belofte van die hemel. AI-geleide totalitarisme sal nie anders wees nie. Vryheid sal gehoorsaamheid aan die staat word. Slegs die irrasionele, spitsvondige of ondermynende wou hul eie pad kies.
Om so 'n dystopie te voorkom, moet ons nie toelaat dat ander meer oor onsself weet as wat ons doen nie. Ons kan nie 'n gaping met selfkennis toelaat nie.
Die All-Seeing AI
In 2019 beweer die miljardêrbelegger Peter Thiel dat AI "letterlik kommunisties". Hy het daarop gewys dat AI 'n sentraliserende mag toelaat om burgers te monitor en meer van hulle te weet as wat hulle van hulself weet. Thiel het opgemerk, het AI gretig omhels.
Ons weet al hoe AI se potensiaal is om steun totalitarisme deur 'n Orwelliaanse stelsel van toesig en beheer te voorsien. Maar AI gee ook totalitariërs 'n filosofiese wapen. Solank ons ​​onsself beter geken het as wat die regering gedoen het, kon liberalisme aspirant-totalitariërs in die wiele ry.
Maar AI het die spel verander. Groot tegnologie-ondernemings versamel groot hoeveelhede data oor ons gedrag. Masjienleer-algoritmes gebruik hierdie data om nie net te bereken wat ons gaan doen nie, maar wie ons is.
Vandag AI kan voorspel watter films ons sal hou, watter nuus ons wil lees, en wie ons op Facebook wil vriend. Dit kan voorspel of paartjies sal saam bly en as ons wil probeer selfmoord. Van ons Facebook-laaiks, AI kan voorspel ons godsdienstige en politieke sienings, persoonlikheid, intelligensie, dwelmgebruik en geluk.
Die akkuraatheid van AI se voorspellings sal net verbeter. In die nie-te-verre toekoms, soos die skrywer Yuval Noah Harari het voorgestel, kan AI ons dalk vertel wie ons is voordat ons self weet.
Hierdie ontwikkelinge het seismiese politieke implikasies. As regerings ons beter kan ken as wat ons kan, kan 'n nuwe regverdiging ingryp om in ons lewens in te gryp. Hulle sal ons tiranniseer in die naam van ons eie beswil.
Vryheid deur tirannie
Die filosoof Isaiah Berlin het dit in 1958 voorspel. Hy twee tipes vryheid geïdentifiseer. Een soort, het hy gewaarsku, sou tot tirannie lei.
Negatiewe vryheid is 'vryheid van'. Dit is vryheid van inmenging van ander mense of die regering in u sake. Negatiewe vryheid is dat niemand anders jou kan belemmer nie, solank jy niemand anders se regte skend nie.
In teenstelling hiermee is positiewe vryheid 'vryheid tot'. Dit is die vryheid om u meester te wees, die vryheid om u ware begeertes te vervul, die vryheid om 'n rasionele lewe te leef. Wie wil dit nie hê nie?
Maar wat as iemand anders sê dat jy nie in jou 'regte belang' optree nie, hoewel hulle weet hoe jy kan. As u nie wil luister nie, kan dit wees dwing jou om vry te wees - dwing jou tot jou eie voordeel. Dit is een van die gevaarlikste idees wat ooit gedink is. Dit het tienduisende miljoene mense in die land doodgemaak Stalin se Sowjetunie en Mao se China.
Volgens die Russiese kommunistiese leier, Lenin, het hy gesê dat die kapitaliste die tou waarmee hy hulle sou hang, sou verkoop. Peter Thiel het aangevoer dat kapitalistiese tegnologiefirmas van Silicon Valley in AI kommunisme verkoop het, 'n instrument wat dreig om die demokratiese kapitalistiese samelewing te ondermyn. AI is Lenin se tou.
Veg vir onsself
Ons kan net so 'n dystopie voorkom as niemand ons beter kan leer ken as wat ons self ken nie. Ons mag nooit iemand wat sulke mag oor ons wil beoefen, sentimentaliseer as goedbedoelend nie. Histories het dit net ooit op rampspoed beland.
Een manier om 'n gaping op selfkennis te voorkom, is om ons privaatheidskerms op te wek. Thiel, wat AI as kommunisties bestempel het, het aangevoer dat "crypto is vrylik". Cryptocurrencies kan 'privaatheid-aanstuur". Privaatheid verminder die vermoë van ander om ons te ken en gebruik dan hierdie kennis manipuleer ons vir hul eie wins.
Maar om onsself beter te ken deur middel van AI bied kragtige voordele. Ons kan dit dalk gebruik om beter te verstaan ​​wat ons gelukkig, gesond en ryk sal maak. Dit kan help lei ons loopbaankeuses. Meer algemeen, AI beloof om die ekonomiese groei te skep Wat hou ons van mekaar se keel af.
Die probleem is nie dat ons ons selfkennis verbeter nie. Die probleem is 'n mag ongelykheid in wat oor ons bekend is. Kennis oor ons uitsluitlik in iemand anders se hande is mag oor ons. Maar kennis oor ons in ons eie hande is krag vir ons.
Enigiemand wat verwerk ons ​​data om kennis oor ons te skep, moet dit wettiglik verplig wees om ons daardie kennis terug te gee. Ons moet die idee van "niks oor ons sonder ons nie"Vir die AI-ouderdom.
Wat AI vir ons oor onsself sê, is dat ons dit moet oorweeg om te gebruik, en nie dat ander kan misbruik nie. Daar moet net een hand op die beitel van ons siel wees. En dit behoort ons s'n te wees.
Jy is hier: Tuis > Sosiale en politieke > demokrasie > Hoe kunsmatige intelligensie 'n totalitêre droom is