ChatGPT

ChatGPT (Generative Pre-trained Transformer) OpenAI enpresak 2022ko azaroan kaleratutako adimen artifizialeko txatbota da. OpenAIren GPT-3.5  hizkuntza-eredu handiaren gainean eraiki da, doikuntza handiarekin eta bi ikasketa-teknika konbinatuz: gainbegiratua (supervised) eta errefortzukoa (reinforcement).

ChatGPT prototipo gisa abiatu zen 2022ko azaroaren 30ean, eta berehalako arrakasta izan du erantzun zehatz eta antolatuengatik ezagutza-eremu anitzetan. Zenbaitetan agertzen duen gertaera objektiboekiko desbiderapena aipatu da eragozpen garrantzitsu gisa.

Eleaniztuna da eta euskaraz ere aritzen da, beste hizkuntza nagusi batzuetan baino muga gehiagorekin hala ere.

 Ikasketa 
ChatGPT GPT-3.5 hizkuntza-ereduaren gainean ondo doitutako softwarea da, ikasketa gainbegiratua eta errefortzuko ikasketa erabiliz ikasi duena. Bi hurbilpenetan pertsonen laguntza erabili zen eredua optimizatzeko. 

 Gainbegiratuan, ereduari pertsonak egindako elkarrizketak gehitu zitzaizkion, non pertsonek bi rolak jokatzen zituzten: erabiltzailearena eta adimen artifizialeko (AA) laguntzailearena. 
 Errefortzu-urratsean, giza trebatzaileek ordenatzen zituzten, ranking bat eginez, sistemak elkarrizketetan sortutako erantzunak. Ranking horiek erabili ziren hainbat iterazioko doikuntzan. 

Ereduak ikasteko Microsoftekin lankidetzan aritu ziren Azure superkonputazio-azpiegitura erabiliz.

OpenAIk sistema doitzen jarraitzen du ChatGPTren erabiltzailearen portaerari etekina atereaz. Erabiltzaileak sistemaren erantzunak baloratu ditzakete, alde edo aurka, edo testu-eremuan iruzkin bat gehitzen duenean.

 Ezaugarriak eta mugak 
Txatbot baten funtzio nagusia elkarrizketa batean parte hartzen duen pertsona bat imitatzea den arren sistema probatu dutenek beste ezaugarri interesgarriak aurkitu dizkiote, moldakortasuna eta inprobisazioa esaterako, gainera, bestelako eginkizunetan ere ondo moldatzen dela baieztatu dute, besteak beste konputagailu-programak idazten eta arazten, Linux sistema emulatzen, idazlanak, poesia eta musika sortzen eta jokoetan parte hartzen.

Emaitza iraingarriak sor ez daitezen, egindako kontsultak iragazi egiten dira, eta ez dira onartzen arrazistak edo sexistak izan daitezkeen eskaerak edo oharrak.

ChatGPTk muga asko ditu. OpenAIk onartu zuen ChatGPTk "batzuetan erantzun okerrak edo zentzugabeak ematen dituela". ChatGPTk 2021aren ondoren gertatutakoaz ezagutza mugatua du. BBCren arabera, 2022ko abendutik ChatGPT ez dago baimenduta "iritzi politikoak adieraztea edo aktibismo politikoan parte hartzea". ChatGPTren trebakuntzan, giza aztertzaileek erantzun luzeagoak nahiago izan zituzten, benetako ulermena edo gaur egungo edukia edozein izanda ere. Trebakuntza-datuak direla-eta aurreiritzi algoritmikoa ere erakusten du, hori agerian geratzen da ChatGPTren erantzun batzuetan. Adibidez, ChatGPTk sortutako rap batek esan zuen zientzialari beltzak eta emakumeak maila apalagoan zeudela zientzialari zuri eta maskulinoak baino.

 Harrera, kritikak eta eztabaidak 

 Aldeko erreakzioak 
2022ko abenduan lehen iruzkin positiboak agertu ziren;  The New York Timesek horrela zioen: "publiko zabalari inoiz eskainitako adimen artifizialeko txatbotik onena". The Guardian egunkari britainiarrean esan zuten ChatGPT gai zela testua sortzeko "oso modu xehean" eta "gizakiek bezala". Dan Gillmor teknologiari buruzko idazleak ChatGPT erabili zuen ikasleek egin beharreko idazlanekin, eta egiaztatu zuen sortutako testua ikasle on batek egingo zuenarekin bat zetorrela, ondorioztatuz "akademiak oso arazo larriak dituela". 

2022ko abenduan, Google-k kezka adierazi zuen ChatGPTren eraginaz bilaketaren eremuan. 2023ko urtarrilean zabaldu zen Microsoft ari zela planifikatzen ChatGPT txertatzea aukerako funtzionalitatea Bing bilaketa-motorrean, ziurrenik 2023ko martxoan.

 Aurkako erreakzioak 
2022ko abenduko iritzi-artikulu batean, Paul Krugman ekonomialariak esan zuen ChatGPTk  eragingo ziola ezagutzaren arloko langileen eskariari. Kazetariek ChatGPTk "haluzinatzeko" duen joera aipatu dute.  Adibidez, ChatGPTri "Mexiko ez den Erdialdeko Amerikako herrialderik handiena" eskatu zitzaion. ChatGPTk Guatemala erantzun zuen, erantzun zuzena Nikaragua denean. Beste batean "The Ballad of Dwight Fry" abestiaren letra eskatu ziotenean, ChatGPTk asmatutako hitzak eman zituen benetako letra eman beharrean. Hainbat ikertzailek loro estokastiko batekin alderatu zuten ChatGPT.

2022ko abenduan, Stack Overflow programazioaren inguruko galderen eta erantzunen webguneak debekatu egin zuen ChatGPT erabiltzea galderei erantzuteko, ChatGPTren erantzunen izaera objektiboki anbiguoa aipatuz. 2023ko urtarrilean, Ikasketa Automatikoari buruzko Nazioarteko Konferentziak (International Conference on Machine Learning) debekatu egin zuen ChatGPT edo beste hizkuntza-eredu handiak erabiltzea aitortu gabe aurkeztutako dokumentuetan edozein testu sortzeko.

Tyler Cowen ekonomialariak bere kezka adierazi zuen demokrazian eduki dezakeen eraginarengatik, eta iruzkin automatizatuak idazteko gaitasuna aipatu zuen. The Guardianek aipatu du ChatGPT bezalako tresnekin Interneten aurkitutako edozein edukiren fidagarritasuna zalantzazkoa dela, eta gobernu-erregulazioa eskatu zuen.

 Ondorioak zibersegurtasunerako 
Check Point Research-ek eta beste talde batzuek adierazi zuten ChatGPT gai zela phishing eta malware mezu elektronikoak idazteko, batez ere OpenAI Codex-ekin konbinatuta. 

 Ondorioak hezkuntzan 

Nature aldizkarian, Chris Stokel-Walkerrek adierazi zuen irakasleak kontuz ibili beharko direla hemendik aurrera ikasleek ChatGPT erabiliko baitute idazlanak egiteko, kontuan hartu beharko dute ebaluazioan eta pentsamendu kritikoa edo arrazoibidea bultzatzeko egokituko beharko dela irakaskuntza.

Ekai Txapartegi irakasleak ere kezka eta egokitzeko beharra aipatu du: "Erantzun zoragarri horiek irakurtzean, ordea, kezka berak asaldatzen nau: txat hau guztion eskura dagoela, zein da irakasleon lana hemendik aurrera? Gaur hau egiteko gai bada, zertarako izango da gai bost-hamar urte barru? Esaterako, eta ikusitakoak ikusita, erraz asko irudika dezakegu etorkizun hurbilean Hegel bera unibertsitatean eskolak ematen."

2023ko urtarrilaren 4az geroztik, New York Hiriko Hezkuntza Sailak murriztu egin du ChatGPTrako sarbidea eskola publikoko gailuetatik.

 Euskara, Latxa eta beste hizkuntza ereduak 
2024ko Informatikari Euskaldunen Bilkuraren barruan  sei hizkuntza-eredu handi jarri zuten lehian euskarazko elkarrizketetan. Helburua EHUko Hitz zentroan garatzen den Latxa eredua «sistema komertzial hoberenen kontra» lehian jartzea izan zen, eta horra ondorioetako bat: GPT-4o eredu ezagunaren parean geratu zen ia. Dema horretan ikusi zen euskaraz «hobekien» zekien sistema Claude Sonnet 3.5 sistema komertziala zela,  bigarren GPT-4o sistema geratu zen, eta haren «ia parean» geratu zen Latxa. Beherago geratu zen Gemini Flash 1.5, eta «askoz beherago» Command R+ eta LLama 3.1. Azken hori Latxa eredu berriaren «oinarria» da.

 Bertsioak 
Hizkuntza-eredu handien zerrendan ikus daiteke noiz sortu diren HEH honen bertsioak eta horien ezaugarriak.

Prestakuntza-kostuen zutaberako, 1 petaFLOP-egun = 1 petaFLOP/sec × 1 egun = 8,64E19 FLOP. Gainera, modeloaren handienaren kostua bakarrik dago idatzita.
IzenaArgiratze dataGara-tzaileaParametro kopurua (mila milioika) Corpusaren tamainaEntrena-mendu-kostua (peta
FLOP-egun)LizentziaOharrakGTP-12018ko ekainaOpenAI0.1171MITLehen GPT modeloa, dekodetzaile hutsezko transformerra. 30 egunez 8 P600 GPUtan entrenatua.GTP-22019ko otsailaOpenAI1.540 GB (~10 mila milioi mila milioi token)28MIT32 TPUv3-txipetan entrenatuta astebetez.GPT-32020ko maiatzaOpenAI175300 mila milioi token3640proprietaryGPT-3 aldaera findu bat, GPT-3.5 izenekoa, publikoaren eskura jarri zen ChatGPT izeneko web interfaze baten bidez 2022an.GPT-J2021eko ekainaEleutherAI6825 GiB200Apache 2.0GPT-3 estiloko hizkuntza-ereduaGPT-NeoX2022ko otsailaEleutherAI20825 GiB740Apache 2.0Megatron arkitekturan oinarrituaGPT-42023ko martxoaOpenAIEzezaguna (Zurrumurruen arabera: 1.760)EzezagunaEzezagunaproprietaryChatGPT Plus-eko erabiltzaileentzat eskuragarri eta hainbat produktutan erabilia.Cerebras-GPT2023ko martxoaCerebras13270Apache 2.0Chinchillaren formularekin entrenatua.BloombergGPT2023ko martxoaBloomberg L.P.50363 mila milioi token zuen datu multzoa Bloomberg-eko datu-iturrietan oinarrituta, gehi 345 mila milioi token helburu orokorreko datu-multzotatikProprietaryJabedun iturritako finantza-datuetan trebatua, finantza-zereginetarako.

 Erreferentziak 

 Ikus, gainera 

 Adimen Artifiziala
 Adimen artifizial sortzaile
 Hizkuntza eredu handiak
 Laguntzaile birtuala
 Turing proba
 Claude
 Gemini
 Perplexity AI
 Latxa
 LLaMA
 Ordenagailuen antropomorfismoa

 Kanpo estekak 
 ChatGPT webgune ofiziala
 ChatGPT Wrote My AP English Essay—and I Passed (WSJ, bideoa, 2022-12-21)
 Lana kenduko didan loritoarekin hizketan (Ekai Txapartegi, Berria, 2023-01-03)



Kategoria:Hizkuntzaren prozesamendua
Kategoria:Txatbotak
Kategoria:Laguntzaile adimentsuak