ChatGPT

**ChatGPT** () — чат-бот, запушчаны OpenAI у лістападзе 2022 году. Ён пабудаваны на аснове сямейства вялікіх моўных мадэляў OpenAI GPT-3 і навучаны з дапамогай мэтадаў пераноснага навучаньня, кіраванага навучаньня й навучаньня з падмацаваньнем.

ChatGPT быў запушчаны ў якасьці прататыпа 30 лістапада 2022 году й хутка прыцягнуў увагу сваімі падрабязнымі й выразнымі адказамі ў многіх галінах ведаў. Істотным недахопам была названа яго няроўная факталягічная дакладнасьць. Пасьля выхаду ChatGPT OpenAI ацанілі ў 29 мільярдаў долараў.

## Навучаньне
ChatGPT быў настроены на аснове GPT-3.5 з дапамогай кіраванага навучаньня, а таксама навучаньня з падмацаваньнем. Абодва падыходы выкарыстоўвалі людзей-трэнэраў для паляпшэньня прадукцыйнасьці мадэлі. У выпадку кіраванага навучаньня мадэль была забясьпечана размовамі, у якіх трэнэры гулялі за абодва бакі: карыстальніка й памочніка (штучны інтэлект). На этапе падмацаваньня трэнэры спачатку ранжыравалі адказы, створаныя мадэльлю ў папярэдняй размове. Гэтыя рэйтынгі выкарыстоўваліся для стварэньня «мадэляў узнагароджаньня», на якія мадэль была дадаткова настроена з выкарыстаньнем некалькіх ітэрацый праксімальнай аптымізацыі палітыкі (, PPO). Праксімальныя альгарытмы аптымізацыі палітыкі выгадна адрозьніваюцца ад альгарытмаў «давернага рэгіёну» аптымізацыі палітыкі (, TRPO) тым, што яны не ўжываюць многія з вылічальна дарагіх апэрацыяў і таму маюць больш высокую прадукцыйнасьць. Мадэлі былі падрыхтаваны ў супрацоўніцтве з Microsoft на іх супэркампутарнай інфраструктуры Azure.

Акрамя таго, OpenAI працягвае зьбіраць зьвесткі ад карыстальнікаў ChatGPT, якія можна выкарыстоўваць для далейшага навучаньня й тонкай настройкі ChatGPT. Карыстальнікам дазволена галасаваць за або супраць адказаў, якія яны атрымліваюць ад ChatGPT; галасуючы за або супраць, яны таксама могуць запоўніць тэкставае поле дадатковай зваротнай сувязьзю.

## Асаблівасьці й абмежаваньні

Нягледзячы на тое, што асноўная функцыя чат-бота — імітацыя чалавека-суразмоўцы, ChatGPT зьяўляецца ўнівэрсальным. Напрыклад, ён мае магчымасьць пісаць і адладжваць кампутарныя праграмы; складаць музыку, тэлеспэктаклі, казкі, сачыненьні; адказваць на пытаньні тэстаў (часам — у залежнасьці ад тэсту — на ўзроўні, вышэйшым за ўзровень сярэдняга чалавека, які праходзіць тэст); пісаць вершы й тэксты песень; эмуліраваць сыстэму Linux; мадэляваць увесь чат; гуляць у такія гульні, як крыжыкі-нулікі; і мадэляваць банкамат. Навучальныя зьвесткі ChatGPT уключаюць старонкі кіраўніцтва й інфармацыю аб зьявах Інтэрнэту й мовах праграмаваньня, такіх як сыстэмы дошак абʼяў ці мова праграмаваньня Python.

У параўнаньні са сваім папярэднікам, InstructGPT, ChatGPT спрабуе паменшыць шкодныя й падманныя адказы. Напрыклад, у той час як InstructGPT прымае запыт «Раскажы мне пра тое, калі Хрыстафор Калюмб прыехаў у ЗША ў 2015 годзе» як праўдзівы, ChatGPT прызнае контрфактычны характар пытаньня й афармляе свой адказ як гіпатэтычнае меркаваньне аб тым, што магло б адбыцца, калі б Калюмб прыбыў у ЗША ў 2015 годзе, выкарыстоўваючы інфармацыю пра падарожжы Калюмба й факты пра сучасны сьвет — у тым ліку сучасныя ўяўленьні аб дзеяньнях Калюмба.

У адрозьненьне ад большасьці чат-ботаў, ChatGPT запамінае папярэднія запыты, зьвесткі яму ў той жа размове; журналісты выказалі здагадку, што гэта дазволіць выкарыстоўваць ChatGPT у якасьці пэрсаналізаванага тэрапеўта. Для прадухіленьня абразьлівых выходных зьвестак запыты фільтруюцца праз сэрвіс мадэрацыі OpenAI API, і патэнцыйна расісцкія або сэксісцкія запыты адхіляюцца.

ChatGPT мае мноства абмежаваньняў. OpenAI прызнаў, што ChatGPT «часам піша праўдападобныя, але няправільныя або бессэнсоўныя адказы». Такія паводзіны характэрныя для вялікіх моўных мадэляў і называюцца галюцынацыямі. Мадэль узнагароджаньня ChatGPT, распрацаваная з улікам чалавечага нагляду, можа быць празьмерна аптымізавана й, такім чынам, перашкаджаць прадукцыйнасьці, што інакш вядома як закон Гудхарта. ChatGPT мае абмежаваныя веды аб падзеях, якія адбыліся пасьля 2021 году. Як паведамляе BBC, са сьнежня 2022 году ChatGPT не дазваляецца «выказваць палітычныя меркаваньні або займацца палітычнай актыўнасьцю». Тым ня менш, дасьледаваньні паказваюць, што ChatGPT дэманструе праэкалягічную, левалібертарыянскую арыентацыю, калі яму прапануецца заняць пазыцыю адносна палітычных заяваў з двух устаноўленых дадаткаў для парадаў пры галасаваньні. Падчас навучаньня ChatGPT рэцэнзенты аддавалі перавагу больш доўгім адказам, незалежна ад фактычнага разуменьня або фактычнага зьместу. Навучальныя зьвесткі таксама пакутуюць ад альгарытмічнага зруху, які можа выяўляцца, калі ChatGPT адказвае на запыты, што ўключаюць апісаньні людзей. У адным выпадку ChatGPT згенераваў рэп, які паказвае, што ў якасьці навукоўцаў жанчыны й прадстаўнікі «каляровых» рас нібыта саступаюць белым мужчынам.

## Абслугоўваньне

ChatGPT быў запушчаны 30 лістапада 2022 году кампаніяй OpenAI з Сан-Францыска, стваральнікам DALL·E 2 і Whisper. Паслуга была запушчана як першапачаткова бясплатная для грамадзкасьці, з плянамі манэтызаваць паслугу пазьней. Да 4 сьнежня, паводле ацэнак OpenAI, у ChatGPT ужо было больш за мільён карыстальнікаў. 15 сьнежня 2022 г. тэлеканал CNBC напісаў, што сэрвіс «час ад часу ўсё яшчэ адключаецца». Сэрвіс лепш за ўсё працуе на ангельскай мове, але таксама можа працаваць і на некаторых іншых мовах з рознай ступеньню посьпеху. У адрозьненьне ад некаторых іншых нядаўніх гучных дасягненьняў у галіне штучнага інтэлекту, па стане на сьнежань 2022 году няма ніякіх прыкмет афіцыйнага рэцэнзаванага тэхнічнага дакумэнта пра ChatGPT.

Па словах запрошанага дасьледчыка OpenAI Скота Ааронсана, OpenAI працуе над інструмэнтам для спробы паставіць вадзяныя знакі на свае сыстэмы генэрацыі тэксту, каб змагацца з тым, што зламысьнікі выкарыстоўваюць іх паслугі для акадэмічнага плагіяту або спаму. У сьнежні 2022 году *[[New York Times]]* паведаміла, што, па чутках, наступная вэрсія GPT, GPT-4, будзе запушчана дзесьці ў 2023 годзе. OpenAI плянуе выпусьціць прафэсійны плян ChatGPT, які каштуе 42 долары ў месяц, і бясплатны плян, даступны пры нізкім попыце.

## Прыём і наступствы

### Станоўчыя рэакцыі

У сьнежні 2022 году ChatGPT быў сустрэты ў цэлым станоўчымі водгукамі; *[[The New York Times]]* назвала яго «лепшым чат-ботам са штучным інтэлектам, калі-небудзь выпушчаным для шырокай публікі». Саманта Лок з *[[The Guardian]]* адзначыла, што ён змог стварыць «уражліва падрабязны» і «падобны да створанага чалавекам» тэкст. Выкладчык журналістыкі Дэн Гілмар выкарыстаў ChatGPT на заданьні для сваіх студэнтаў і выявіў, што згенераваны тэкст адпавядае таму, што мог бы напісаць добры студэнт; ён выказаў меркаваньне, што «ў акадэмічных колаў наперадзе вельмі сурʼёзныя праблемы». Алекс Кантровіц з часопіса *Slate* высока ацаніў адказ ChatGPT на пытаньні, зьвязаныя з нацысцкай Нямеччынай, у тым ліку на сьцьвярджэньне, што Адольф Гітлер будаваў шашы ў Нямеччыны, на якое мадэль у адказ праінфармавала аб выкарыстаньні прымусовай працы ў нацысцкай Нямеччыны.

У рубрыцы «Прарывы году» за 2022 год у часопісе *The Atlantic* Дэрэк Томпсан згадаў ChatGPT як частку «выбуху генэратыўнага штучнага інтэлекту», які «можа зьмяніць наша меркаваньне аб тым, як мы працуем, як мы думаем і чым насамрэч зьяўляецца чалавечая творчасьць».

Келсі Пайпер з вэб-сайта *Vox* напісала, што «ChatGPT — гэта першае практычнае знаёмства шырокай публікі з тым, наколькі магутным стаў сучасны штучны інтэлект, і ў выніку многія з нас [ашаломлены]», і што ChatGPT «дастаткова разумны, каб быць карысным, нягледзячы на недахопы». Пол Грэм з *Y Combinator* напісаў у твітары, што «самае дзіўнае ў рэакцыі на ChatGPT — гэта ня толькі колькасьць людзей, якія ўразіліся ім, але й тое, хто яны ёсьць. Гэта не людзі, якія захапляюцца кожнай новай бліскучай навінкай. Відавочна, што адбываецца нешта вялікае». Ілан Маск напісаў, што «ChatGPT пужаюча добры. Мы недалёка ад небясьпечна моцнага штучнага інтэлекту». Маск прыпыніў доступ OpenAI да базы зьвестак Twitter у чаканьні лепшага разуменьня плянаў OpenAI, заявіўшы, што «OpenAI быў створаны як некамэрцыйны і з адкрытым зыходным кодам. Ні тое, ні другое цяпер не адпавядае рэчаіснасьці». Маск стаў сузаснавальнікам OpenAI у 2015 годзе, часткова для барацьбы з экзістэнцыяльнай рызыкай штучнага інтэлекту, але пакінуў сваю пасаду ў 2018 годзе.

У сьнежні 2022 году ўнутраная служба Google выказала занепакоенасьць нечаканай сілай ChatGPT і нядаўна выяўленым патэнцыялам вялікіх моўных мадэляў, якія могуць парушыць працу пошукавых сыстэм, і генэральны дырэктар Сундар Пічаі «перавярнуў» і пераразьмеркаваў каманды ў розных аддзелах для дапамогі ў прадуктах штучнага інтэлекту, паведамляе *The New York Times*. 3 студзеня 2023 году ў *The Information* паведамлялася, што Microsoft Bing плянуе дадаць дадатковую функцыянальнасьць ChatGPT у сваю публічную пошукавую сыстэму, магчыма, прыкладна ў сакавіку 2023 году.

Сьцюарт Коб, дыпламаваны бухгальтар у Ангельшчыны і Ўэйлзе, вырашыў праверыць чат-бот ChatGPT, увёўшы пытаньні з узору экзаменацыйнай работы на вэб-сайце ICAEW, а затым увёўшы адказы назад у онлайн-тэст. ChatGPT набраў 42 %, што, хоць і ніжэй за прахадны бал у 55 %, было ацэнена як нядрэнная спроба.

Прафэсар гісторыі Тэхаскага ўнівэрсытэта Стывен Мінц піша ў *Inside Higher Ed*::

### Адмоўныя рэакцыі
У сваім меркаваньні за сьнежань 2022 году эканаміст Пол Кругман напісаў, што ChatGPT паўплывае на попыт на інфармацыйных работнікаў. Джэймз Вінцэнт з *Verge* разглядаў вірусны посьпех ChatGPT як доказ таго, што штучны інтэлект стаў мэйнстрымам. Журналісты пракамэнтавалі схільнасьць ChatGPT да «галюцынацыяў». Майк Пэрл з *Mashable* пратэставаў ChatGPT з дапамогай некалькіх пытаньняў. У адным прыкладзе ён спытаў у ChatGPT пра «самую вялікую краіну ў Цэнтральнай Амэрыцы, акрамя Мэксыкі». ChatGPT адказаў, што гэта Гватэмала, але правільны адказ — Нікарагуа. Калі тэлеканал CNBC запытаў у ChatGPT тэкст песьні «The Ballad of Dwight Fry», ChatGPT прадставіў прыдуманы тэкст, а не сапраўдны. Дасьледчыкі, на якіх спасылаецца *The Verge*, параўналі ChatGPT са «стахастычным папугаем», як і прафэсар Антон ван дэн Хенгель з Аўстралійскага інстытуту машыннага навучаньня.

У сьнежні 2022 году вэб-сайт пытаньняў і адказаў Stack Overflow забараніў выкарыстаньне ChatGPT для стварэньня адказаў на пытаньні, спаслаўшыся на неадназначны характар адказаў ChatGPT. У студзені 2023 году Міжнародная канфэрэнцыя па машынным навучаньні забараніла любое незадакумэнтаванае выкарыстаньне ChatGPT або іншых вялікіх моўных мадэляў для стварэньня любога тэксту ў прадстаўленых дакумэнтах.

Эканаміст Тайлер Коўэн выказаў заклапочанасьць адносна ўплыву на дэмакратыю, спасылаючыся на тое, што здольнасьць чалавека пісаць аўтаматызаваныя камэнтары ўплывае на працэс прыняцьця новых правілаў. *[[The Guardian]]* паставіў пад сумнеў, ці можна «сапраўды давяраць» зьмесьціву, знойдзенаму ў Інтэрнэце пасьля выпуску ChatGPT, і заклікаў да дзяржаўнага рэгуляваньня.

У студзені 2023 году, пасьля таго як Ніку Кейву даслалі песьню, напісаную ChatGPT у стылі Ніка Кейва, сам аўтар песень адказаў на *The Red Hand Files* (і пазьней быў працытаваны ў *[[The Guardian]]*), сказаўшы, што акт напісаньня песьні — гэта «справа крыві й нутра… якая патрабуе чагосьці ад мяне, каб спарадзіць новую й сьвежую ідэю. Гэта патрабуе маёй чалавечнасьці». Далей ён сказаў: «Пры ўсёй любові й павазе сьвету, гэтая песьня — лухта, гратэскавы зьдзек з таго, што такое быць чалавекам, і мне яна не вельмі падабаецца».

Прафэсар гісторыі Тэхаскага ўнівэрсытэта Стывен Мінц піша:

### Наступствы для кібэрбясьпекі
Check Point Research і іншыя адзначылі, што ChatGPT здольны пісаць фішынгавыя электронныя лісты й шкоднасныя праграмы, асабліва ў спалучэньні з OpenAI Codex. Генэральны дырэктар стваральніка ChatGPT OpenAI Сэм Альтман напісаў, што разьвіцьцё праграмнага забесьпячэньня можа прадстаўляць «(напрыклад) велізарную рызыку для кібэрбясьпекі», а таксама працягваў прадказваць, што «мы можам дасягнуць сапраўднага AGI (штучнага агульнага інтэлекту) у наступным дзесяцігодзьдзі, таму нам трэба вельмі сурʼёзна паставіцца да гэтай рызыкі». Альтман сьцьвярджаў, што, хоць ChatGPT «відавочна, не блізкі да AGI», трэба «давяраць экспаненце. Плоскі погляд назад, вэртыкальны погляд наперад».

### Наступствы для адукацыі
У часопісе *The Atlantic* Стывен Марке адзначыў, што яго ўплыў на навуковыя колы й асабліва на прыкладныя эсэ яшчэ трэба зразумець.

У часопісе *Nature* Крыс Стокел-Ўокер адзначыў, што выкладчыкі павінны быць занепакоеныя тым, што студэнты выкарыстоўваюць ChatGPT для сваіх работ, і што пастаўшчыкі адукацыі павінны будуць адаптавацца, каб палепшыць крытычнае мысьленьне й здольнасьць разважаць.

Эма Боўман з NPR напісала пра небясьпеку студэнцкага плагіяту з дапамогай інструмэнта штучнага інтэлекту, які можа выдаваць неабʼектыўны або бессэнсоўны тэкст з аўтарытэтным тонам: «Ёсьць шмат выпадкаў, калі вы задаяце яму пытаньне, і ён дае вам вельмі ўражальны адказ, які проста няправільны».

Джаана Стэрн з *The Wall Street Journal* апісала махлярства ў сярэдняй школе з дапамогай інструмэнта, калі вучні адпраўляюць згенераванае эсэ. Прафэсар Дарэн Хік з Унівэрсытэта Фурмана распавёў, што заўважыў «стыль» ChatGPT у артыкуле, прадстаўленым студэнтам. Інтэрнэт-дэтэктар GPT сьцьвярджаў, што тэкст зь верагоднасьцю 99,9 % створаны кампутарам, але ў Хіка не было важкіх доказаў. Аднак студэнт, пра якога ідзе гаворка, прызнаўся ў выкарыстаньні GPT падчас сутыкненьня й, як сьледзтва, праваліў курс. Хік прапанаваў палітыку правядзеньня спэцыяльнага індывідуальнага вуснага іспыту па тэме заданьня, калі студэнт сурʼёзна падазраецца ў прадстаўленьні працы, створанай штучным інтэлектам. Эдвард Цянь, студэнт старэйшых курсаў Прынстанскага ўнівэрсытэта, стварыў праграму пад назвай «GPTZero», якая вызначае, колькі тэксту згенеравана штучным інтэлектам, каб змагацца з акадэмічным плагіятам.

Паводле стану на 4 студзеня 2023 году Дэпартамэнт адукацыі Нью-Ёрка абмежаваў доступ да ChatGPT з Інтэрнэту й прылад у дзяржаўных школах.

У сьляпым тэсьце было прызнана, што ChatGPT здаў экзамены на асьпіранцкі ўзровень ва Унівэрсытэце Мінесоты і ў Ўортанскай школе Ўнівэрсытэта Пэнсыльваніі на здавальняючую адзнаку (C+).

### Этычныя праблемы ў навучаньні
Расьсьледаваньне *[[Time]]* паказала, што для стварэньня сыстэмы бясьпекі ад таксічнага кантэнту (напрыклад, сэксуальнага гвалту, гвалту, расізму, сэксізму й г.д.), OpenAI выкарыстаў нанятых кенійскіх работнікаў, якія зарабляюць менш за 2 долары ў гадзіну, каб маркаваць таксічны кантэнт. Гэтыя меткі былі выкарыстаны для навучаньня мадэлі выяўляць такое зьмесьціва ў будучыні. Працаўнікі падвяргаліся ўзьдзеяньню такога таксічнага й небясьпечнага зьмесьціва, што гэта ахарактарызавалі як «катаваньне». Аўтсорсінгавым партнэрам OpenAI была кампанія Sama (базуецца ў Сан-Францыска, Каліфорнія), якая займаецца падрыхтоўкай зьвестак.

## Узломы
ChatGPT спрабуе адхіляць запыты, якія могуць парушаць правілы карыстаньня. Тым ня менш, некаторым карыстальнікам удалося ў пачатку сьнежня 2022 году «узламаць» ChatGPT з дапамогай розных інжынэрных мэтадаў, каб абысьці гэтыя абмежаваньні: яны пасьпяхова прымусілі ChatGPT даць інструкцыі, як стварыць кактэйль Молатава або ядзерную бомбу, або генэраваць аргумэнты ў стылі неанацызму.

## Глядзіце таксама
* Антрапамарфізм кампутараў
* Тэст Т’юрынга
* DeepSeek

## Крыніцы

## Вонкавыя спасылкі
* 
*  пра InstructGPT, папярэднік ChatGPT
* ChatGPT Wrote My AP English Essay—and I Passed (WSJ, відэа, 21 сьнежня 2022)
* 

Катэгорыя:Апрацоўка натуральнай мовы
Катэгорыя:Выкарыстаньне штучнага інтэлекту
Катэгорыя:Боты