Teknologisk singularitet

Den teknologiska singulariteten är en spekulativ hypotes om en framtida tidpunkt, som skulle kunna uppstå om och när  maskiners förmåga att förbättra sig själva genom artificiell intelligens får ett genombrott, vilket i sin tur skulle ge upphov till teknologiska framsteg utan motstycke.

Den teknologiska singulariteten är ett vanligt tema eller element i science fiction.

Bakgrund 

I en av de första användningarna av termen "singulariteten" i kontexten av teknologisk utveckling, skrev Stanislaw Ulam 1958 om en konversation med John von Neumann om accelererande förändring:

Matematikern I. J. Good skrev först om en "intelligensexplosion", med hypotesen att om maskiners intelligens skulle överstiga människans bara lite grand, då skulle de kunna förbättra sin egen design på sätt som inte är förutsägbara hos skaparna, och därmed rekursivt förbättra sig själva med mycket större intelligens.

Han spekulerade om konsekvenserna av maskiner som är smartare än människor:

Matematikern och författaren Vernor Vinge populariserade Goods uppfattning om en intelligensexplosion under 1980-talet och kallade skapelsen av den första ultraintelligenta maskinen för singulariteten. I tryck skrev han första gången om ämnet i januariutgåvan av tidningen Omni 1983, vilken innehåller det ofta citerade utlåtandet: "Inom trettio år kommer vi ha de teknologiska medel som krävs för att skapa supermänsklig intelligens. Kort därefter kommer den mänskliga eran att ta slut." Vinge har därefter modifierat sin tidsuppskattning om detta, och lägger till: "Jag skulle bli förvånad om detta händer före 2005 eller efter 2030." Vernor Vinge kallade senare denna händelse för "singulariteten" som en analogi mellan det urartade tillstånd som modern fysik förutspår i närheten av en gravitationell singularitet ("svart hål") och den drastiska förändringen i samhället som han anser skulle följa en intelligensexplosion. Som följd av introducerandet av singulariteten genom Vinges romaner har singulariteten blivit ett vanligt tema eller element i science fiction.

Hypotesen

Vissa förespråkare för singulariteten argumenterar för dess oundviklighet genom extrapolering av tidigare trender, speciell de som gäller de allt kortare mellanrummen mellan förbättringar till teknologi. 

Gerald S. Hawkins skriver att förekomsten av "mindsteps", dramatiska och oåterkalleliga förändringar i paradigm eller världsåskådningar, kommer att förekomma allt oftare enligt hans ekvation. Han pekar på uppfinnandet av skrivkonsten, matematik och datorer som exempel på sådana förändringar.

Ray Kurzweil drar slutsatsen i sin historieanalys att teknologiska framsteg följer ett mönster av exponentiell tillväxt, följt av vad han kallar The Law of Accelerating Returns. Han generaliserar Moores lag, vilken beskriver geometrisk tillväxt i komplexiteten i integrerade kretsar, till att inkludera teknologier från långt innan den integrerade kretsen uppfanns. Kurzweil skriver att när teknologi kommer till en barriär kommer ny teknologi att ta sig över den. Han förutspår att paradigmskiften kommer att bli allt mer vanliga, ledande till "teknologisk förändring så snabb och genomgående att den representerar en brytning i den mänskliga historien".

Kurzweil tror att singulariteten kommer att inträffa före slutet av 2000-talet, och sätter datumet till 2045. Hans prediktioner skiljer sig från Vinges i det att han föreställer sig en gradvis övergång till singulariteten, snarare än Vinges snabba självförbättrande supermänskliga intelligens.

Acceleration Studies Foundation är en ideell stiftelse grundad av John Smart, och engagerar sig i folkbildning och forskning rörande accelererande förändring. Stiftelsen håller i Accelerating Change-konferenserna på Stanford University, och håller i den utbildande hemsidan Acceleration Watch.

Vinge förutser att supermänskliga intelligenser, oavsett hur de skapades, kommer att kunna förstärka sina egna psyken snabbare än människorna som skapade dem. "När intelligens som är bättre än människans driver utvecklingen," skriver Vinge, "så kommer den utvecklingen ske snabbare." Denna återkoppling av självförbättrande intelligens, förutser han, kommer att orsaka en stor mängd teknologiska framsteg inom en kort tidsperiod.

Bortsett från de flertaliga spekulativa metoderna för förstärkning av den mänskliga intelligensen är den icke-mänskliga artificiella intelligensen (speciellt seed AI) det mest populära alternativet för organisationer som verkar för ett framåtskridande mot singulariteten, ett val som Singularity Institute for Artificial Intelligence skriver om i artikeln "Why Artificial Intelligence?".

Det är svårt att direkt jämföra kiselbaserad hårdvara med neuroner, men som Anthony Berglas noterar så närmar sig taligenkänning mänsklig kapacitet, och att denna förmåga kräver 0,01 % av hjärnvolymen. Denna jämförelse antyder att endast ett fåtal storleksordningar skiljer modern datorhårdvaras kapacitet från mänskliga hjärnans. Det ska även noteras att det mänskliga genomet innehåller enbart omkring 700 MB data (om man räknar baspar direkt), av vilka enbart 1,5 % kodar för gener, där de flesta inte har något att göra med intelligens (även om det ska noteras att de andra 98 procenten av genomet troligen kontrollerar uttrycken av dessa 1,5 %, vilket ökat komplexiteten av det mänskliga genomet på en logaritmisk skala). Poängen enligt Berglas är att med tanke på den lilla del av vår intelligens som är medfödd, så borde en liknande intelligens gå att skapa artificiellt, även om det är svårt att jämföra "köttmjukvara" med "kiselmjukvara". 

År 2012 publicerade Stuart Armstrong och Kaj Sotala en studie om artificiell generell intelligens (AGI). Där förutspås att singulariteten inträffar omkring 2040 (medianvärdet av gissningarna).

Potentiella faror 
Supermänskliga intelligenser kan ha mål som är oförenliga med mänsklig överlevnad och välgång. AI-forskaren Hugo de Garis menar att artificiella intelligenser helt enkelt kan komma att eliminera den mänskliga arten, vilket människan skulle stå totalt maktlösa inför.

Anthony Berglas menar att till skillnad från människan är en datorbaserad intelligens inte knuten till en specifik kropp, vilket skulle ge den ett radikalt annorlunda perspektiv av världen. I synnerhet att då en mjukvaruintelligens skulle vara i grund och botten odödlig skulle den därmed inte ha något behov av att producera självständiga barn som lever efter att den dött. Det skulle innebära att den inte har något evolutionärt behov av kärlek, men skulle ha ett evolutionärt behov av makt då den första AI som vill härska över jorden kommer att göra det.

Andra faror som ofta nämns i sammanhanget är de som ofta associeras med molekylär nanoteknologi och genetisk modifiering. Dessa hot är stora frågor för både singularitetsförespråkare och kritiker, och var ämnet för Bill Joys artikel "Why the future doesn't need us" i tidningen Wired. Även Nick Bostrom diskuterar utrotningsscenarion och nämner superintelligens som en möjlig orsak:

Hans Moravec anser att trots att superintelligenser i formen av maskiner kan göra människor förlegade som intelligensledande, kommer det fortfarande finnas rum i ekologin för människor.

Eliezer Yudkowsky föreslog att forskning skulle genomföras för att producera "vänlig AI" för att komma till rätta med farorna. Han noterade att om den första riktiga artificiella intelligensen var vänlig skulle den ha ett försprång i självförbättringen och skulle därmed kunna hindra andra icke-vänliga artificiella intelligenser från att utvecklas. Singularity Institute for Artificial Intelligence är dedikerade till just detta kall. Även Bill Hibbard skrev om dylika frågor om säkerhet och moral med AI i sin bok Super-Intelligent Machines. 

Isaac Asimovs "robotikens tre lagar" är en av de tidigaste exemplen på föreslagna säkerhetsåtaganden gällande artificiella intelligenser. Lagarna är avsedda att förhindra robotar från att skada människor. I Asimovs historier uppstår vad man uppfattar som problem med lagarna som ett resultat av missförstånd hos en mänsklig operatör; robotarna själva stänger av sig själva om det uppstår en riktig konflikt mellan lagarna. I filmen I, Robot, som är löst baserad på Asimovs historier, utforskas temat om en artificiell intelligens tar kontroll över mänskligheten med syftet att skydda mänskligheten från sig själva. 2004 lanserade Singularity Institute en internetkampanj kallad 3 Laws Unsafe, där man ville skapa medvetenhet om säkerhetsfrågor rörande AI och i synnerhet otillräckligheten i Asimovs lagar.

Många förespråkare av teknologisk singularitet anser att nanoteknologi är ett av de största hoten mot människan. På grund av denna anledning anses ofta "seed AI" (en AI kapabel till självförbättring) ska föregå nanoteknologi. Andra, som Foresight Institute, förespråkar insatser för att skapa molekylär nanoteknologi, då man menar att det är en teknologi som kan bli säker för användning innan singulariteten och även kan påskynda ankomsten av en teknologisk singularitet till gagn för mänskligheten.

Kritik 

Kritiken mot teknologisk singularitet riktar sig mot flera av dess underliggande premisser. Singulariteten har också blivit kritiserad från ett anarkoprimitivistiskt och ekologistiskt perspektiv. Vissa kritiker hävdar att ingen dator eller maskin någonsin kommer att uppnå mänsklig intelligens, medan andra menar det motsatta. Filosofen Hubert Dreyfus menar att forskningen kring artificiell intelligens är felaktig. Han menar bland annat att en fungerande AI kräver en kropp och en social miljö att leva i.

Fysikern Stephen Hawking menade att:

Theodore Modis och Jonathan Huebner argumenterar för att hastigheten i den teknologiska innovationen inte bara har slutat att öka, utan till och med är på nedgång. Futuristen John Smart har dock kritiserat Huebners analys. Enligt Huebner är beviset för denna nedgång bland annat att utvecklingen av datorers klockfrekvens har saktat ner, medan Smart hävdar att Moores teori om en tilltagande exponentiell ökning av prestandan i kretskort fortfarande håller.

Andra menar att andra "singulariteter" kan hittas genom analys av trender i världspopulationen, världens BNP och andra indicier. Andrej Korotajev har argumenterat ur ett historiskt perspektiv, där han hävdar att man kunnat se stagnation i historiska kurvor som mäter olika typer av tillväxt. Korotajev menar att stagnation i tillväxten påverkade globala trender under 1970-talet negativt, vilket ledde till slutsatsen att framtida tillväxt, till exempel teknologisk sådan, helt enkelt inte kan tilltaga i tillräcklig styrka för att nå singularitet..

Forskarna Deborah Strumsky, José Lobo och Joseph Tainter har undersökt antalet patent i relation till folkmängden och konstaterar att det rent historiskt tyder på att det inte skulle finnas en acceleration i den teknologiska utvecklingen. De drar slutsatsen att det snarare förefaller sig så, att antalet patent var som högst under perioden årtalen 1850–1900, varefter antalet faktiskt har minskat.

En ökning av komplexiteten i teknik kan eventuellt ha negativa konsekvenser för samhället och kan till och med leda till en "systemkollaps". Det hävdar forskaren Thomas Homer Dixon, som i sin rapport The Upside of Down: Catastrophe, Creativity and the Renewal of Civilization skriver att civilisationer som har förbrukat mer resurser än som kunnat återproduceras, har gått under. I likhet skriver forskaren Jared Diamond i sin rapport Collapse: How Societies Choose to Fail or Succeed, att samhällen som överstiger nivån då förbrukningen av naturresurser är hållbar, är begränsade.

Populärkultur 

Vid diskussionen om det ökande intresset för singulariteten så menar Vernor Vinge att "det var science fiction-författare som först kände det konkreta intrycket". Utöver hans egen novell "Bookworm, Run!", vars protagonist är en schimpans som fått sin intelligens förstärkt genom ett myndighetsexperiment, så nämner han Greg Bears roman Blood Music (1983) som exempel på "singularitetsfiction". I William Gibsons roman Neuromancer (1984) så är artificiella intelligenser kapabla att förbättra sin egen programmering men är hårt bevakade av "Turing police" för att man ska vara säker över att deras intelligens inte överstiger människans. Handlingen koncentreras på insatser gjorda av en sådan AI att undvika deras kontroll.

Romanen The Metamorphosis of Prime Intellect (1994) innehåller en AI som förstärker sig själv så snabbt att den erhåller en lågnivåkontroll av all materia i universum på bara några timmar. En mer illvillig AI som når liknande nivå av omnipotens återfinns i Harlan Ellisons novell I Have No Mouth, and I Must Scream (1967). William Thomas Quicks romaner Dreams of Flesh and Sand (1988), Dreams of Gods and Men (1989) och Singularities (1990) visar själva övergången till singularitet; i den sistnämnda boken så menar en av karaktärerna att det är nödvändigt för människans överlevnad att de uppnår en integration med de framväxande maskinintelligenserna, eller så skulle de bli krossande under maskinernas dominans - den största risken till överlevnaden hos en art som når denna punkt (med ansyftning till det stora nummer av andra arter som antingen överlevt eller misslyckats med detta test, även om ingen faktiskt kontakt med utomjordiska arter sker i romanen).

Singulariteten är ibland omtalad i science fiction-berättelser för att förklara dess frånvaro. I Neal Ashers Gridlinked-serie utspelar sig i en framtid där människor är styrda av artificiella intelligenser och medan vissa är förargade så tycker de flesta att de är långt bättre makthavare än någon människa. I fjärde romanen Polity Agent så nämns det att singulariteten är försenad, medan de flesta artificiella intelligenser har beslutat att inte delta i det på grund av orsaker endast de vet. En flashbackkaraktär i Ken MacLeods The Cassini Division från 1998 refererar avfärdande till singulariteten som "uppryckandet för nördar", men singulariteten inträffar ändå.

Filmer i vilka datorer blir intelligenta och övermannar människan inkluderar 2001 – En rymdodyssé, Colossus: The Forbin Project, Terminator-serien, I, Robot och The Matrix-serien. TV-serien Battlestar Galactica utforskar även dessa teman.

Isaac Asimov uttryckte idéer som liknar en post-Kurzweilsk singularitet i sin novell The Last Question. Asimov föreställer sig en framtid där stark artificiell intelligens och posthumans konsumerar kosmos, under den tid vilken Kurzweil beskriver som universum vaknar upp - det sista av hans sex stadier av kosmisk evolution, beskriven i The Singularity is Near. Posthumanistiska varelser i olika tidsperioder av historien undersöker hur en entropisk död kan undvikas. Den artificiella intelligensen svarar att den inte har tillräckligt med information för att komma med ett svar, ända till i slutet av novellen då den faktiskt kommer med en lösning, och demonstrerar den genom att återskapa universum från scratch. Den gör detta för att leva upp till robotikens tre lagar för att svara på människornas fråga.

Eamonn Healy, kemist på St. Edward's University, pratar i filmen Waking life om accelererande förändring. Han delar in historien i allt kortare tidsperioder; uppskattningsvis två miljarder år för livet, sex miljoner år för primater och ett hundra tusen år för mänskligheten som vi känner till den. Han fortsätter sedan till den kulturella utvecklingen, med en tidsskala på tiotusen år för agrikultur, fyrahundra år för den vetenskapliga revolutionen och etthundrafemtio år för den industriella revolutionen. Betoningen ligger på information som grund för det nya evolutionära paradigmet, varav artificiell intelligens är dess kulmination. Han sluter sig till att vi eventuellt kommer att skapa neohumans, vilka kommer bemäktiga sig mänsklighetens nuvarande roll i den vetenskapliga och teknologiska utvecklingen och tillåta den exponentiella trenden av accelererande förändring att fortsätta bortom begränsningarna hos den mänskliga förmågan.

Accelererande utveckling är ett vanligt innehåll i science fiction och är det centrala temat i Charles Strosss Accelerando. Andra noterbara författare som behandlar singularitetsrelaterade frågor inkluderar Karl Schroeder, Greg Egan, Ken MacLeod, David Brin, Iain M. Banks, Neal Stephenson, Tony Ballantyne, Bruce Sterling, Dan Simmons, Damien Broderick, Fredric Brown, Jacek Dukaj, Nagaru Tanigawa och Cory Doctorow. Ett annat relevant arbete är Warren Ellis pågående serietidning newuniversal.

I avsnittet The Turk i Terminator: The Sarah Connor Chronicles så nämner John Connor singulariteten. Terminator-franchisen är baserad på konceptet med ett mänskligt skapat datorsystem som blir självmedvetet och bestämmer sig för att förstöra människan. Den når senare superintelligens.

I filmen Screamers, baserad på Philip K. Dicks novell Second Variety, så börjar människans eget skapade vapen att designa och montera sig själva. Självreplikerande maskiner (här screamers) anses oftast vara en betydande faktor i den "slutgiltiga fasen", nästan som en katalyst till den accelererande förändringen som leder till singulariteten. Intressant nog så utvecklas screamers till en nivå där de börjar döda varandra och en uttrycker till och med sin kärlek för människan. Denna idé är vanlig i Dicks historier, där han går bortom det simplistiska "människa mot maskin"-scenariot i vilket våra skapelser anser oss vara ett hot.

Dokumentärfilmen Transcendent Man (2009) är baserad på Ray Kurzweil och hans bok The Singularity Is Near. Filmen dokumenterar hans strävan efter att blottlägga vad han tror är människans öde.

Se även 
Teknologisk determinism

Externa länkar

Essäer 
 Singularities and Nightmares: Extremes of Optimism and Pessimism About the Human Future av David Brin
 A Critical Discussion of Vinge’s Singularity Concept av Robin Hanson
 Is a singularity just around the corner? av Robin Hanson
 Brief History of Intellectual Discussion of Accelerating Change
 One Half of a Manifesto av Jaron Lanier — en kritik av "cybernetisk totalism".
 One Half of an Argument — Ray Kurzweils svar till Lanier
 Artificial Intelligence will Kill our Grandchildren
 Hardcore Dynamic: Living on the Brink of Singularity

Singularitetsprojekt 
 The Singularity Institute for Artificial Intelligence
 The SSEC Machine Intelligence Project
 The Artificial General Intelligence Research Institute

Portaler och wikier 
 KurzweilAI.net
 Acceleration Watch
 Accelerating Future
 The SL4 Wiki
 Singularity! A Tough Guide to the Rapture of the Nerds by Charles Stross
 Singularity Hub

Referenser

Noter 

Mänsklig evolution
Framtidsstudier
Artificiell intelligens
Science fiction-koncept