23 асіламарскія прынцыпы для штучнага інтэлекту

23 асіламарскія прынцыпы для штучнага інтэлекту () або 23 законы Асіламара — пералік этычных норм і правіл, якіх у сваёй працы павінны трымацца навукоўцы і спецыялісты, што займаюцца распрацоўкамі звязанымі са штучным інтэлектам. Нормы распрацаваны міжнароднай супольнасцю падчас мерапрыемства Future of Life Institute 2017 Asilomar Conference. — ai-ethics.com. — 1 снежня 2017, праведзенага 5-8 студзеня 2017 года ў Канферэнц-цэнтры, размешчаным на тэрыторыі дзяржаўнага парка Асіламар горада  у штаце Каліфорнія, ЗША. Арганізатарам канферэнцыі быў . У закрытай канферэнцыі ўдзельнічала каля 1000 даследчыкаў у галіне штучнага інтэлекту і робататэхнікі і каля 1500 экспертаў з іншых сфер, уключаючы бізнесмэна Ілана Маска і фізіка Стывена Хокінга.

Канферэнцыя доўжылася 3 дні, а сама дыскусія прайшла ў два этапы. На першым этапе групы спецыялістаў у рамках секцыйных пасяджэнняў абмеркавалі розныя аспекты, звязаныя з магчымым з’яўленнем штучнага розуму, у тым ліку такія важныя тэмы, як аўтаномнае выкарыстанне гэтых сістэм, іх уплыў на рынак працы, доступ да адпаведных тэхналогій і іншыя. На другім этапе ў працэсе агульнай дыскусіі кожны ўдзельнік канферэнцыі атрымаў магчымасць унесці свае заўвагі, дапаўненні і каментарыі ва ўсе фармулёўкі, выпрацаваныя асобнымі групамі на першым этапе. У выніковы пералік-справаздачу трапілі палажэнні, якія набралі 90 % падтрымкі ўсіх удзельнікаў канферэнцыі. Тэкст быў зацверджаны і надрукаваны пад назвай 23 асіламарскія прынцыпы для штучнага інтэлектуASILOMAR AI PRINCIPLES.- The Future of Life Institute. — 1 снежня 2017.

 Прынцыпы працы са штучным інтэлектам, зацверджаныя на Асіламарскай канферэнцыі 
 Мэта даследавання: мэта даследаванняў штучнага інтэлекту павінна ляжаць у галіне стварэння не бязмэтнага розуму, а сістэм, накіраваных на прынясенне карысці чалавецтву
 Фінансаванне даследаванняў: інвестыцыі ў штучны інтэлект павінны суправаджацца субсідыяваннем даследаванняў, накіраваных на пошук спосабаў прымянення штучнага інтэлекту, у кантэксце якіх разглядаюцца пытанні на перакрыжаванні камп’ютарных навук, эканомікі, юрыспрудэнцыі, этыкі і сацыяльных навук. Прыклады такіх пытанняў: Як забяспечыць надзейнасць будучыні штучнага інтэлекту такім чынам, каб сістэмы выконвалі сваю праграму, не падвяргаючыся пагрозе збояў і хакерскіх нападаў? Як павысіць узровень дабрабыту з дапамогай аўтаматызацыі працэсаў, не скараціўшы пры гэтым колькасць магчымасцей для чалавечай працы і захаваўшы яе прызначэнне? Як, зрабіўшы прававую сістэму больш эфектыўнай і справядлівай, мадыфікаваць яе ў адпаведнасці з развіццём штучнага інтэлекту і ўлічыць усе прававыя рызыкі, звязаныя з яго выкарыстаннем? Якія каштоўнасныя арыенціры павінны ляжаць у аснове штучнага інтэлекту і якім прававым і маральным статусам ён павінен валодаць?
 Дыялог навукоўцаў і палітычных дзеячаў: неабходны канструктыўны і здаровы дыялог паміж даследчыкамі штучнага інтэлекту і палітычным кіраўніцтвам.
 Культура зносін у супольнасці даследчыкаў: сярод даследчыкаў і распрацоўшчыкаў сістэм штучнага інтэлекту павінна заахвочвацца культура ўзаемадапамогі, даверу і адкрытасці.
 Адсутнасць канкурэнцыі: каманды распрацоўшчыкаў штучнага інтэлекту павінны актыўна ўзаемадзейнічаць адзін з адным, каб пазбегнуць парушэння ці неналежнага выканання стандартаў бяспекі
 Бяспека: сістэмы штучнага інтэлекту павінны быць бяспечныя і абароненыя на працягу ўсяго тэрміну эксплуатацыі, а ў сітуацыях, дзе гэта мэтазгодна, планавая праца штучнага інтэлекту павінна лёгка правярацца
 Адкрытасць інфармацыі пра збоі ў сістэме: калі сістэма штучнага інтэлекту прычыняе шкоду, павінна быць магчымасць высветліць прычыну
 Адкрытасць сістэмы правасуддзя: любы ўдзел аўтаномнай сістэмы штучнага інтэлекту ў прыняцці судовага рашэння павінен быць здавальняючым чынам абгрунтаваны і даступны для праверкі кампетэнтнымі органамі
 Адказнасць: распрацоўшчыкі і стваральнікі прасунутых сістэм штучнага інтэлекту зацікаўлены ў маральным баку наступстваў выкарыстання, злоўжыванні і дзеяннях штучнага інтэлекту, і менавіта на іх плячах ляжыць адказнасць за ўзнікненне падобных наступстваў.
 Узгадненне агульных каштоўнасцяў: сістэмы штучнага інтэлекту з высокай ступенню аўтаномнасці павінны быць распрацаваны такім чынам, каб іх мэты і паводзіны былі ўзгоднены з чалавечымі каштоўнасцямі на ўсім працягу працы
 Чалавечыя каштоўнасці: будова і функцыянаванне сістэм штучнага інтэлекту павінна быць узгоднена з ідэаламі чалавечай годнасці, правоў, свабод і культурнай разнастайнасці
 Абарона асабістых даных: людзі павінны мець права на доступ да персанальных даных, іх апрацоўку і кантроль, пры наяўнасці ў сістэм штучнага інтэлекту магчымасці аналізу і выкарыстання гэтых даных
 Свабода і канфідэнцыяльнасць: прымяненне сістэм штучнага інтэлекту да персанальных даных не павінна беспадстаўна скарачаць рэальную або суб’ектыўна ўспрымальную свабоду людзей.
 Усеагульная карысць: тэхналогіі штучнага інтэлекту павінны прыносіць карысць максімальна магчымай колькасці людзей.
 Усеагульны дабрабыт: эканамічныя перавагі, дасягнутыя пры дапамозе штучнага інтэлекту, павінны шырока распаўсюджвацца і прыносіць карысць агулам чалавецтву.
 Кантроль штучнага інтэлекту чалавекам: людзі павінны кантраляваць працэдуру і ступень неабходнасці перадачы сістэме штучнага інтэлекту функцыі прыняцця рашэнняў для выканання мэт, пастаўленых чалавекам.
 Устойлівасць сістэм: тыя, хто мае ўплыў, кіруючы прасунутымі сістэмамі штучнага інтэлекту, павінны паважаць і паляпшаць грамадскія працэсы, ад якіх залежыць здароўе соцыўму, а не падрываць іх
 Гонка ўзбраенняў у галіне штучнага інтэлекту: варта пазбягаць гонкі ўзбраенняў у галіне аўтаномнай летальнай зброі
 Небяспека недаацэнкі магчымасцяў: варта пазбягаць упэўненых здагадак адносна верхняга парога магчымасцяў штучнага інтэлекту ў будучыні, асабліва калі няма кансэнсусу па гэтым пытанні
 Важнасць: прасунуты штучны інтэлект можа прывесці да карэнных змен у гісторыі жыцця на Зямлі, таму яго распрацоўка і кіраванне ім павінны ажыццяўляцца пры наяўнасці адпаведных рэсурсаў і ва ўмовах асаблівай дбайнасці
 Рызыка: патэнцыйная рызыка, звязаная з сістэмамі штучнага інтэлекту, асабліва небяспека катастроф або пагроза існаванню жыцця агулам, павінна нейтралізавацца дзеяннямі па планаванні і змякчэнні рызыкі, суразмернымі магчымаму маштабу ўздзеяння.
 Рэкурсіўнае аўтанавучанне: сістэмы штучнага інтэлекту, распрацаваныя для паляпшэння эфектыўнасці ўласных алгарытмаў і саманавучання, якое вядзе да хуткіх якасных або колькасных змен, павінны быць аб’ектам моцнага рэгулявання і кантролю
 Усеагульнае дабро: звышрозум павінен быць распрацаваны выключна ў мэтах, якія адпавядаюць большасці этычных ідэалаў і для карысці агулам чалавецтва, а не адной дзяржавы або арганізацыі

 Гл. таксама 

 Нік Бострэм

Катэгорыя:Этыка
Катэгорыя:Прафесійная этыка
Катэгорыя:Штучны інтэлект
Катэгорыя:Філасофія
Катэгорыя:Робаэтыка