# LaMDA

**LaMDA** (**Language Model for Dialogue Applications**) is 'n familie van gespreksneurale taalmodelle wat deur Google ontwikkel is. Die eerste generasie is tydens die 2021 Google I/O keynote aangekondig, terwyl die tweede generasie by die volgende jaar se geleentheid aangekondig is. In Junie 2022 het LaMDA wydverspreide aandag gekry toe Google-ingenieur Blake Lemoine bewerings gemaak het dat die kletsbot selfbewus geword het. Die wetenskaplike gemeenskap het Lemoine se aansprake grootliks verwerp, hoewel dit gelei het tot gesprekke oor die doeltreffendheid van die Turingtoets, wat meet of 'n rekenaar ditself as 'n mens kan voordoen. In Februarie 2023 het Google Bard aangekondig, 'n geselsbot vir kunsmatige intelligensie wat deur LaMDA aangedryf word, om die opkoms van OpenAI se ChatGPT teen te werk.

## Geskiedenis

### Eerste generasie

Google het op 18 Mei 2021 die LaMDA-gespreksneurale taalmodel aangekondig tydens die Google I/O-keynote op 18 Mei 2021, aangedryf deur kunsmatige intelligensie. Gebou op die Transformer neurale netwerkargitektuur wat in 2017 deur Google Research ontwikkel is, is LaMDA opgelei in menslike dialoog en stories, wat dit in staat gestel het om in oop gesprekke betrokke te raak. Google verklaar dat die antwoorde wat deur LaMDA gegenereer is verseker is om "sinvol, interessant en spesifiek vir die konteks" te wees.

### Tweede generasie

Op 11 Mei 2022 het Google LaMDA 2 onthul, wat dien as die opvolger van LaMDA, tydens die 2022 Google I/O keynote. Die nuwe generasie van die model trek voorbeelde van teks uit talle bronne en gebruik dit om unieke "natuurlike gesprekke" te formuleer oor onderwerpe waarop dit dalk nie opgelei is om te reageer nie. Boonop het Google die AI Test Kitchen bekendgestel, 'n mobiele toepassing aangedryf deur LaMDA 2 wat in staat is om lyste van voorstelle op aanvraag te verskaf gebaseer op 'n komplekse doelwit. Oorspronklik net vir Google-werknemers oopgemaak, sou die toepassing een of ander tyd in die jaar op uitnodiging beskikbaar gestel word om "akademici, navorsers en beleidmakers". In Augustus 2022 het die maatskappy gebruikers in die VSA begin toelaat om aan te meld vir vroeë toegang.

### Bewerings van selfbewussyn

Lemoine se bewerings dat LaMDA selfbewus kan wees, het gesprekke laat ontstaan oor die vraag of die Turingtoets, hierbo afgebeeld, 'n akkurate maatstaf bly om kunsmatige algemene intelligensie te bepaal.
Op 11 Junie 2022 het *The Washington Post* berig dat Google-ingenieur Blake Lemoine op betaalde administratiewe verlof geplaas is nadat Lemoine aan die maatskappybestuurders Blaise Agüera y Arcas en Jen Gennai gesê het dat LaMDA selfbewus geword het. Lemoine het tot hierdie gevolgtrekking gekom nadat die kletsbot twyfelagtige antwoorde gemaak het op vrae oor selfidentiteit, morele waardes, godsdiens en Isaac Asimov se “Drie Wette van Robotte”. Google het hierdie bewerings weerlê en daarop aangedring dat daar aansienlike bewyse was om aan te dui dat LaMDA nie selfbewus was nie. In 'n onderhoud met *Wired* het Lemoine sy bewerings herhaal dat LaMDA "'n persoon" is soos deur die Dertiende Wysiging bepaal, en dit vergelyk met 'n "uitheemse intelligensie van aardse oorsprong". Hy het verder onthul dat hy deur Google ontslaan is nadat hy 'n prokureur namens LaMDA gehuur het, nadat die kletsbot versoek het dat Lemoine dit doen. Op 22 Julie het Google Lemoine afgedank en beweer dat Blake hul beleide oortree het "om produkinligting te beskerm" en sy eise as "heeltemal ongegrond" verwerp.

Lemoine se aansprake is wyd deur die wetenskaplike gemeenskap verwerp. Baie kenners het die idee gespot dat 'n taalmodel selfbewus kan wees, insluitend die voormalige New York Universiteit sielkunde professor Gary Marcus, David Pfau van Google sustermaatskappy DeepMind, Erik Brynjolfsson van die Institute for Human-Centered Artificial Intelligence by Stanford University, en Universiteit van Surrey professor Adrian Hilton. Yann LeCun, wat Meta Platforms se KI-navorsingspan lei, het gesê dat neurale netwerke soos LaMDA "nie kragtig genoeg is om ware intelligensie te bereik nie". Max Kreminski, professor aan die Universiteit van Kalifornië, Santa Cruz, het opgemerk dat LaMDA se argitektuur nie "sommige sleutelvermoëns van mensagtige bewussyn ondersteun nie" en dat sy neurale netwerkgewigte "gevries" was, met die veronderstelling dat dit 'n tipiese groot taalmodel was.

IBM Watson se hoofontwikkelaar David Ferrucci het hoe LaMDA na 'n mens gelyk het vergelyk op dieselfde manier wat Watson gedoen het toe dit die eerste keer bekend gestel is. Die voormalige Google KI-etikus Timnit Gebru noem Lemoine 'n slagoffer van 'n "*hype*-siklus" wat deur navorsers en die media geïnisieer is. Lemoine se aansprake het ook 'n bespreking veroorsaak oor die vraag of die Turing-toets nuttig gebly het om navorsers se vordering met die bereiking van kunsmatige algemene intelligensie te bepaal, met Will Omerus van die Post wat meen dat die toets eintlik gemeet het of masjien-intelligensiestelsels in staat was om mense te mislei. terwyl Brian Christian van *The Atlantic* gesê het dat die kontroversie 'n voorbeeld van die ELIZA-effek was.

### Bard

In November 2022 het OpenAI ChatGPT bekendgestel, 'n kletsbot gebaseer op die GPT-3-familie van taalmodelle. ChatGPT het wêreldwyd aandag gekry ná die vrystelling daarvan, en het 'n virale internetsensasie geword. Gekwel oor ChatGPT se potensiële bedreiging vir Google Search, het Google se uitvoerende hoof, Sundar Pichai, 'n maatskappywye "kode rooi" waarskuwing uitgereik en verskeie spanne hertoegewys om te help met die maatskappy se KI-pogings. In 'n seldsame en ongekende stap is Google-medestigters Larry Page en Sergey Brin, wat in 2019 uit hul rolle as mede-uitvoerende hoof van die Google-moedermaatskappy Alphabet getree het, na noodvergaderings met maatskappybestuurders ontbied om Google se reaksie op ChatGPT te bespreek.

Toe werknemers by 'n algemene vergadering gevra is of LaMDA 'n gemiste geleentheid is vir Google om met ChatGPT mee te ding, het Jeff Dean, hoof van die KI van Pichai en Google, gesê dat hoewel die maatskappy soortgelyke vermoëns as ChatGPT het, te vinnige vrystelling in daardie arena 'n groot "reputasierisiko" omdat Google aansienlik groter is as OpenAI. Demis Hassabis, uitvoerende hoof van DeepMind, het in Januarie 2023 planne vir 'n ChatGPT-mededinger voorgestel, en Google-werknemers is opdrag gegee om vordering met 'n ChatGPT-mededinger te versnel, deur "Apprentice Bard" en ander kletsbotte intensief te toets. Pichai het beleggers tydens Google se kwartaallikse verdienstebeleggeroproep in Februarie verseker dat die maatskappy planne het om LaMDA se beskikbaarheid en toepassings uit te brei.

Op 6 Februarie het Google Bard aangekondig, 'n gesels-KI-kletsbot wat deur LaMDA aangedryf word. Bard is eers uitgerol na 'n uitgesoekte groep "vertroude toetsers", voor 'n wye vrystelling wat aan die einde van die maand geskeduleer is. Dit is ontwikkel onder die kodenaam "Atlas", met die naam "Bard" wat gekies is om "die kreatiewe aard van die algoritme daaronder te weerspieël". Verskeie media-afsetpunte en finansiële ontleders het beskryf dat Google "inhaal" met Microsoft speel, sowel as om Bard se aankondiging te "verhaas" om Microsoft se 7 Februarie-geleentheid wat sy vennootskap met OpenAI onthul het vir integreering van ChatGPT in sy Bing-soekenjin, vooruit te loop. Na 'n "onderweldigende" lewendige stroom van 8 Februarie wat Bard ten toon gestel het, het Google se aandeel agt persent gedaal, gelykstaande aan 'n verlies van $100 miljard in markwaarde, en die YouTube-video van die regstreekse stroom is privaat gemaak. Baie kykers het ook 'n fout tydens die demonstrasie uitgewys waarin Bard onakkurate inligting oor James Webb-ruimteteleskoop gee in reaksie op 'n navraag. Google-werknemers het Pichai se "gehaaste" en "verspeelde" aankondiging van Bard op Memgen, die maatskappy se interne forum, gekritiseer. *The Verge* en *Bloomberg News* het opgemerk dat dit die begin was van nog 'n Google-Microsoft-konflik oor "die toekoms van soek", nadat hul ses jaar lange "skietstilstand" in 2021 verstryk het.

## Metode

LaMDA gebruik 'n dekodeerder-alleen-transformatortaalmodel. Dit is vooraf opgelei op 'n tekskorpus wat beide dokumente en dialoë insluit wat uit 1,56 triljoen woorde bestaan, en word dan opgelei met fyninstellingsdata wat gegenereer word deur met die hand geannoteerde antwoorde vir sinvolheid, interessantheid en veiligheid. Toetse deur Google het aangedui dat LaMDA menslike reaksies oortref het op die gebied van interessantheid. Die LaMDA-transformatormodel en 'n eksterne inligtingherwinningstelsel werk in wisselwerking om die akkuraatheid van feite wat aan die gebruiker verskaf word, te verbeter.

Drie verskillende modelle is getoets, met die grootste met 137 miljard nie-ingesluite parameters

Transformatortaalmodel hiper-parameters| Parameters | Lae | Eenhede (dmodel) | Hoofte |
| --- | --- | --- | --- |
| 2M | 10 | 2560 | 40 |
| 8M | 16 | 4096 | 64 |
| 137M | 64 | 8192 | 128 |

## Verwysings