PL
L 300/14
Dziennik Urzędowy Unii Europejskiej
21.11.2022
ZAŁĄCZNIK
DOKUMENT PROJEKTOWY Propagowanie odpowiedzialnych innowacji w zakresie sztucznej inteligencji na rzecz pokoju i bez­ pieczeństwa 1.
KONTEKST
Ostatnie postępy w dziedzinie sztucznej inteligencji otworzyły nowe możliwości w zakresie wspierania i podtrzymywania pokoju i bezpieczeństwa – na przykład poprzez udoskonalenie technologii w dziedzinach takich jak wczesne ostrzeganie o konfliktach oraz weryfikacja kontroli zbrojeń i kontroli wywozu.
Z drugiej strony, postępy te umożliwiły nowe sposoby tworzenia, lub zaostrzania, napięć, konfliktów i braku bezpieczeństwa pomiędzy państwami i wewnątrz nich.
Zagrożenia, jakie stanowią niektóre sposoby stosowania sztucznej inteligencji – takie jak systemy śmiercionośnej broni autonomicznej – okazały się poważną kwestią budzącą niepokój społeczności zajmującej się kontrolą zbrojeń.
Jednym z aspektów tego zagrożenia – który zasługuje na większą uwagę, a który bieżące starania z zakresu kontroli zbrojeń i wysiłki dyplomatyczne mogą niedostatecznie uwzględniać – jest przekierowywanie i niewłaściwe stosowanie cywilnych badań i innowacji dotyczą­ cych sztucznej inteligencji przez nieodpowiedzialne podmioty, w tym podmioty niepaństwowe działające w złym zamia­ rze; obejmuje to niewłaściwe stosowanie generatywnych sieci przeciwstawnych do wytwarzania materiałów typu „deep­ fake” przeznaczonych do kampanii dezinformacyjnych.
Sztuczna inteligencja jest technologią prorozwojową o wielkim potencjale stosowania ogólnego.
Badania i innowacje doty­ czące sztucznej inteligencji opracowywane do zastosowań cywilnych mogą być (stosunkowo łatwo) pozyskiwane i wyko­ rzystywane przez niektóre podmioty do szkodliwych lub wywrotowych celów, które mogą mieć skutki dla międzynarodo­ wego pokoju i bezpieczeństwa.
Przekierowywanie i niewłaściwe stosowanie technologii cywilnych nie są zjawiskiem nowym ani nie dotyczą wyłącznie sztucznej inteligencji.
W pokrewnej dziedzinie robotyki zostało to niedawno uwidocz­ nione przez uzbrojenie i zastosowanie rekreacyjnych dronów przez Daisz/ISIS w Syrii.
Jednak w przypadku sztucznej inte­ ligencji problem ten komplikuje wiele czynników: niematerialny i szybko zmieniający się charakter jej algorytmów i danych, co utrudnia kontrolę ich przenoszenia/rozprzestrzeniania; wiodąca rola sektora prywatnego w badaniach, rozwoju i ekosys­ temie innowacji, oraz wynikająca z tego potrzeba ochrony algorytmów własnościowych; oraz ogólnoświatowa dostępność wiedzy fachowej ludzi oraz zasobów materialnych zdolnych do zmiany celów technologii sztucznej inteligencji.
Tymcza­ sem osoby pracujące przy sztucznej inteligencji w sektorze cywilnym zbyt często pozostają nieświadome potencjalnych skutków, jakie dla międzynarodowego pokoju i bezpieczeństwa może mieć przekierowywanie i niewłaściwe stosowanie wyników ich pracy, względnie nie są one chętne do wzięcia udziału w bieżących dyskusjach na temat zagrożeń związanych ze sztuczną inteligencją, prowadzonych w środowiskach kontroli zbrojeń i nieproliferacji.
Istnieje potrzeba wspierania większego udziału cywilnej społeczności zajmującej się sztuczną inteligencją w pojmowaniu i łagodzeniu zagrożeń dla pokoju i bezpieczeństwa związanych z przekierowywaniem i niewłaściwym stosowaniem cywil­ nej technologii sztucznej inteligencji przez nieodpowiedzialne podmioty.
W odniesieniu do Sztokholmskiego Międzynaro­ dowego Instytutu Badań nad Pokojem (SIPRI) i Biura ONZ ds. Rozbrojenia (UNODA) może to zostać osiągnięte poprzez szersze propagowanie odpowiedzialnych innowacji w globalnej cywilnej społeczności zajmującej się sztuczną inteligencją.
Poprzednie prace SIPRI i UNODA wykazały, że odpowiedzialne innowacje jako mechanizm samokontroli mogłyby zapew­ nić globalnej cywilnej społeczności zajmującej się sztuczną inteligencją praktyczne narzędzia i metody służące rozpoznaniu oraz pomocy w łagodzeniu zagrożeń, jakie przekierowywanie i niewłaściwe stosowanie cywilnych badań i innowacji doty­ czących sztucznej inteligencji mogłoby stanowić dla pokoju i bezpieczeństwa, a także zapobieganiu tym zagrożeniom.
W trakcie prac prowadzonych przez SIPRI i UNODA określono także metodologie i kilka bieżących ukierunkowanych na sferę cywilną inicjatyw dotyczących odpowiedzialnej sztucznej inteligencji, które można by wykorzystać do uwrażliwienia cywilnej społeczności zajmującej się sztuczną inteligencją na kwestie kontroli zbrojeń oraz nieproliferacji, a także na debaty ekspertów i stanowiska państw na temat odpowiedzialnego rozwijania, rozpowszechniania i stosowania sztucznej inteli­ gencji, oraz doświadczenia, jakie można uzyskać z prac nad odpowiedzialnością w sektorze obrony (1).
Co istotne, w trakcie tych poprzednich prac wyraźnie stwierdzono, że współdziałanie ze studentami nauk przyrodniczych, technologii, inżynie­ rii i matematyki (STEM) – którzy jeszcze mają kontakt ze sztuczną inteligencją w środowisku edukacyjnym – jest bardzo istotne dla wszelkich skutecznych starań w zakresie odpowiedzialnych innowacji.
2.
CELE
Projekty te mają na celu wspieranie większego udziału cywilnej społeczności zajmującej się sztuczną inteligencją w łagodze­ niu zagrożeń, jakie przekierowywanie i niewłaściwe stosowanie cywilnych badań i innowacji dotyczących sztucznej inteli­ gencji przez nieodpowiedzialne podmioty może stanowić dla międzynarodowego pokoju i bezpieczeństwa.
Dokonuje się tego przez, po pierwsze, stworzenie lepszego pojmowania sposobu, w jaki rozwój i rozpowszechnianie badań i innowacji dotyczących sztucznej inteligencji może wpływać na zagrożenia wynikające z ich przekierowywania i niewłaściwego stoso­ wania, oraz, po drugie, przez propagowanie odpowiedzialnych procesów, metod i narzędzi innowacji, co może pomóc (1) Metodyka obejmuje na przykład zalecane przez Instytut Inżynierów Elektryki i Elektroniki (IEEE) praktyki dotyczące oceny wpływu autonomicznych i inteligentnych systemów na ludzki dobrostan (norma IEEE 7010-220), czy opracowaną przez grupę ekspertów wysokiego szczebla ds. AI listę kontrolną oceny godnej zaufania sztucznej inteligencji.
Inicjatywy obejmują: opracowaną przez IEEE globalną inicjatywę dotyczącą etyki dla autonomicznych i inteligentnych systemów; partnerstwo na rzecz sztucznej inteligencji; glo­ balne partnerstwo na rzecz sztucznej inteligencji.