KOMISJA EUROPEJSKA Bruksela, dnia 18.8.2022 COM(2022) 414 final Zalecenie DECYZJA RADY w sprawie upoważnienia do podjęcia negocjacji w imieniu Unii Europejskiej dotyczących konwencji Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności



UZASADNIENIE KONTEKST WNIOSKU Sztuczna inteligencja (AI) stwarza szerokie możliwości dla społeczeństwa, środowiska i gospodarki. Jednocześnie, w zależności od okoliczności dotyczących ich konkretnego zastosowania i wykorzystania, niektóre rodzaje sztucznej inteligencji mogą spowodować rzeczowe lub niematerialne szkody oraz być źródłem ryzyka dla interesu publicznego oraz praw i wolności podstawowych osób fizycznych. W związku z tym sprostanie wspomnianym wyzwaniom i wykorzystanie potencjału sztucznej inteligencji wymaga spójnych ram prawnych dotyczących sztucznej inteligencji, które chroniłyby taki interes publiczny i takie prawa podstawowe, jednocześnie zwiększając zaufanie i wspierając innowacje. W kwietniu 2021 r. Komisja Europejska przedstawiła wniosek dotyczący kompleksowego rozporządzenia w sprawie sztucznej inteligencji, które ma zharmonizować przepisy dotyczące systemów sztucznej inteligencji we wszystkich 27 państwach członkowskich UE. Parlament Europejski i Rada prowadzą obecnie negocjacje w sprawie wniosku zgodnie ze zwykłą procedurą ustawodawczą. Różne organizacje międzynarodowe, w tym Rada Europy, również zintensyfikowały swoje działania w tej dziedzinie, uznając transgraniczny charakter sztucznej inteligencji i potrzebę współpracy międzynarodowej, aby sprostać wspólnym wyzwaniom. W kierunku konwencji Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności 11 września 2019 r. Komitet Ministrów Rady Europy podjął decyzję o utworzeniu Komitetu ad hoc ds. sztucznej inteligencji (CAHAI). Jego zadaniem było zbadanie wykonalności i możliwych elementów ram prawnych dotyczących opracowywania, projektowania i stosowania sztucznej inteligencji, przy jednoczesnym uwzględnieniu norm Rady Europy w zakresie praw człowieka, demokracji i praworządności, jak również odpowiednich obowiązujących międzynarodowych instrumentów prawnych. CAHAI oparł swoje prace na studium wykonalności oraz wielostronnych konsultacjach z zainteresowanymi stronami przeprowadzonych wiosną 2021 r. 3 grudnia 2021 r. CAHAI ukończył swoje zadanie – przedstawił dokument końcowy, w którym określono możliwe elementy takich ram prawnych. Zgodnie z tym dokumentem do opracowywania, projektowania i stosowania systemów sztucznej inteligencji niezbędny jest instrument prawny zawierający podstawowe zasady ochrony godności ludzkiej i poszanowania praw człowieka, demokracji i praworządności. Instrument ten powinien przewidywać określenie metodyki klasyfikacji ryzyka związanego z systemami sztucznej inteligencji, obejmującej kategorie „niskie ryzyko”, „wysokie ryzyko” i „niedopuszczalne ryzyko”. Należy zakazać zastosowań sztucznej inteligencji, które stwarzają „niedopuszczalne” ryzyko. Aby uniknąć nieuzasadnionej stronniczości, należy włączyć przepis dotyczący poszanowania równego traktowania i niedyskryminacji. Gwarancje prawne powinny zapewniać co najmniej prawo do skutecznego środka odwoławczego przed organem krajowym, prawo do informacji o zastosowaniu systemu sztucznej inteligencji w procesie decyzyjnym, prawo do wyboru interakcji z człowiekiem oraz prawo do bycia poinformowanym, że dana osoba wchodzi w interakcję z systemem sztucznej inteligencji. Kwestie szczegółowe, takie jak manipulacja treścią (tzw. deepfakes), powinny być jednak przedmiotem innych instrumentów sektorowych. Należy rozważyć wymóg ustanowienia mechanizmów służących przestrzeganiu przepisów i utworzeniu krajowych organów nadzoru. Uzupełnieniem instrumentu prawnego mógłby być niewiążący model oceny skutków. Na lata 2022–2024 powołano następcę CAHAI – Komitet ds. Sztucznej Inteligencji (CAI). Zgodnie ze swoim zakresem zadań CAI ma przygotować proces negocjacji międzynarodowych ukierunkowanych na wypracowanie ram prawnych dotyczących opracowywania, projektowania i stosowania sztucznej inteligencji. Ramy te powinny być oparte na normach Rady Europy w zakresie praw człowieka, demokracji i praworządności oraz powinny sprzyjać innowacjom. Ramy mają zostać opracowane do 15 listopada 2023 r. i sfinalizowane do czasu zakończenia działalności CAI w 2024 r. Wypełniając swój zakres zadań, CAI powinien koordynować swoje prace z innymi komitetami międzyrządowymi i podmiotami Rady Europy, opierać swoje prace na solidnych dowodach i inkluzywnym procesie konsultacji, w tym obejmującym partnerów międzynarodowych i ponadnarodowych, oraz wykorzystać dokument końcowy sporządzony przez CAHAI. W dniach 4–6 kwietnia 2022 r. odbyło się posiedzenie inauguracyjne CAI, na którym wybrano przewodniczącego, wiceprzewodniczącego i prezydium. 30 czerwca 2022 r. Komitet Ministrów Rady Europy polecił CAI, aby „szybko opracował prawnie wiążący instrument o charakterze przekrojowym (»konwencja«/»konwencja ramowa«) dotyczący sztucznej inteligencji, oparty na normach Rady Europy w zakresie praw człowieka, demokracji i praworządności, zgodny z jego zakresem zadań, skoncentrowany na ogólnych wspólnych zasadach, sprzyjający innowacjom i otwarty na udział państw niebędących członkami, przy jednoczesnym uwzględnieniu innych odpowiednich obowiązujących międzynarodowych ram prawnych lub tych, które są w trakcie opracowywania”. Następnie przewodniczący CAI rozpowszechnił pierwszy projekt przyszłej konwencji (ramowej), w którym określono podstawowe zasady i reguły mające na celu zapewnienie, aby projektowanie, opracowywanie i stosowanie systemów sztucznej inteligencji było zgodne z poszanowaniem praw człowieka, zasadami demokracji i praworządnością. Strony będą musiały wdrożyć przyszłą konwencję (ramową) w swoich jurysdykcjach. Zakres obejmuje zarówno publicznych, jak i prywatnych dostawców i użytkowników systemów sztucznej inteligencji, ale z wyłączeniem systemów sztucznej inteligencji związanych z bezpieczeństwem narodowym. We wspomnianym pierwszym projekcie zaproponowano uwzględnienie następujących postanowień: ·cel i zakres konwencji (ramowej); ·definicje systemu sztucznej inteligencji, cyklu życia, dostawcy, użytkownika i „podmiotu, wobec którego stosuje się sztuczną inteligencję”; ·pewne podstawowe zasady, w tym gwarancje proceduralne i prawa dotyczące podmiotów, wobec których stosuje się sztuczną inteligencję, mające mieć zastosowanie do wszystkich systemów sztucznej inteligencji, niezależnie od przypisanego im poziomu ryzyka; ·dodatkowe środki dotyczące sektora publicznego, jak również systemów sztucznej inteligencji stwarzających „niedopuszczalne” i „znaczne” ryzyko, określone na podstawie metodyki oceny ryzyka i wpływu (która zostanie przedstawiona w załączniku do konwencji); ·mechanizm działań następczych i współpracy między stronami; ·postanowienia końcowe, w tym możliwość stosowania przez państwa członkowskie UE prawa unijnego we wzajemnych stosunkach w sprawach objętych konwencją oraz możliwość przystąpienia Unii do konwencji. Pierwszy projekt konwencji będzie przedmiotem dyskusji na sesjach plenarnych CAI w Strasburgu zaplanowanych na 21‑23 września i 23–25 listopada 2022 r. Zaplanowano również cztery posiedzenie w 2023 r. oraz jedno w 2024 r.

•Przyczyny i cele wniosku Niniejsze zalecenie dotyczące decyzji zostaje przedłożone Radzie na podstawie art. 218 Traktatu o funkcjonowaniu Unii Europejskiej (TFUE). Decyzja ta upoważniłaby do rozpoczęcia w imieniu Unii negocjacji dotyczących przyszłej konwencji Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności, do przyjęcia wytycznych negocjacyjnych oraz do wyznaczenia Komisji jako negocjatora Unii. Art. 3 ust. 2 TFUE stanowi, że Unia ma wyłączną kompetencję „do zawierania umów międzynarodowych (...) w zakresie, w jakim ich zawarcie może wpływać na wspólne zasady lub zmieniać ich zakres”. Umowa międzynarodowa może mieć wpływ na wspólne zasady lub zmienić ich zakres, jeżeli dziedzina objęta umową pokrywa się z prawem Unii lub jest nim w znacznym stopniu objęta. W tym względzie w prawie Unii przewidziano kompleksowy zbiór wspólnych zasad w zakresie jednolitego rynku dotyczących produktów i usług, w odniesieniu do których mogą być wykorzystywane systemy sztucznej inteligencji. Ponadto opracowywanie i stosowanie niektórych systemów sztucznej inteligencji może mieć wpływ na korzystanie z praw podstawowych zapisanych w Karcie praw podstawowych UE i unijnym prawie wtórnym, w tym na przykład praw do integralności fizycznej i psychicznej, ochrony danych osobowych, prywatności, niedyskryminacji, wolności wypowiedzi i informacji, domniemania niewinności, rzetelnego procesu sądowego i skutecznego środka odwoławczego. Opracowywanie i stosowanie tych systemów może również mieć skutki dla wartości, na których opiera się Unia, w tym dla kwestii godności ludzkiej, demokracji i praworządności. Ponadto, aby ocenić, czy dany obszar jest w znacznym stopniu objęty prawem Unii, należy wziąć pod uwagę nie tylko obecnie obowiązujące prawo UE w danym obszarze, ale również kierunek jego przyszłych zmian, na tyle, na ile można te zmiany przewidzieć w momencie analizy. Obszar objęty przyszłą konwencją Rady Europy w sprawie AI ma bezpośrednie znaczenie dla takich przewidywalnych przyszłych zmian, biorąc pod uwagę wniosek Komisji dotyczący rozporządzenia w sprawie sztucznej inteligencji („akt w sprawie sztucznej inteligencji”) przedstawiony w kwietniu 2021 r. i obecnie negocjowany przez Parlament Europejski i Radę. Negocjacje dotyczące przyszłej konwencji (ramowej) Rady Europy w sprawie sztucznej inteligencji dotyczą kwestii wchodzących w zakres kompetencji Unii, a zakres, charakter i treść pierwszego projektu konwencji i proponowanego aktu w sprawie sztucznej inteligencji w znacznym stopniu się pokrywają. W związku z tym ważne jest, aby negocjacje w imieniu Unii prowadzono w sposób gwarantujący, że spójność i jednolitość przepisów UE dotyczących sztucznej inteligencji oraz właściwe funkcjonowanie ustanowionego przez nie systemu nie zostaną podważone oraz że przyszła konwencja Rady Europy będzie w pełni zgodna z obowiązującym i przyszłym prawem UE w tej dziedzinie. •Spójność z przepisami obowiązującymi w tej dziedzinie polityki 21 kwietnia 2021 r. Komisja przedstawiła wniosek dotyczący rozporządzenia ustanawiającego zharmonizowane przepisy dotyczące wprowadzania do obrotu, oddawania do użytku oraz wykorzystywania systemów sztucznej inteligencji w Unii. Wniosek ma dwojaki cel: stworzenie jednolitego rynku, aby wspierać rozwój i upowszechnianie sztucznej inteligencji, przy jednoczesnym uwzględnieniu ryzyka dla bezpieczeństwa, zdrowia i praw podstawowych. Wniosek ma charakter horyzontalny i ma zastosowanie do dostawców i użytkowników systemów sztucznej inteligencji, niezależnie od tego, czy są to podmioty publiczne czy prywatne. Z zakresu wyłączono systemy sztucznej inteligencji opracowane lub wykorzystywane wyłącznie do celów wojskowych. We wniosku określono proporcjonalne wymogi i obowiązki ograniczone do minimum wymaganego do przeciwdziałania ryzyku dla zdrowia, bezpieczeństwa i praw podstawowych, bez utrudniania rozwoju technologicznego sztucznej inteligencji lub nieproporcjonalnego zwiększania obciążeń finansowych i administracyjnych dla podmiotów gospodarczych. W tym celu zastosowano podejście oparte na analizie ryzyka, klasyfikując systemy sztucznej inteligencji do różnych kategorii, a mianowicie dzieląc je ze względu na ryzyko na „niedopuszczalne”, „wysokie”, „związane z przejrzystością” oraz „niskie” lub „minimalne”. ·Proponuje się wprowadzenie zakazu stosowania systemów sztucznej inteligencji uznawanych za niezgodne z wartościami UE i stanowiących wyraźne zagrożenie dla bezpieczeństwa, źródeł utrzymania lub praw ludzi, stwarzających „niedopuszczalne ryzyko” (np. stosowania przez organy publiczne oceny punktowej zachowań społecznych, szkodliwych praktyk polegających na manipulacji z wykorzystaniem sztucznej inteligencji, zdalnej identyfikacji biometrycznej w czasie rzeczywistym na potrzeby egzekwowania prawa w przestrzeniach publicznych, z zastrzeżeniem pewnych ograniczonych wyjątków). ·Systemy sztucznej inteligencji „wysokiego ryzyka” stwarzające znaczne ryzyko dla zdrowia, bezpieczeństwa lub praw podstawowych muszą podlegać kontroli zgodności z przepisami i spełniać określone wymogi obowiązkowe (np. w odniesieniu do zarządzania ryzykiem, jakości danych, dokumentacji, przejrzystości, sprawowania nadzoru przez człowieka, dokładności, cyberbezpieczeństwa), zanim będzie można te systemy wprowadzać do obrotu lub wykorzystywać w Unii. Proporcjonalne i skuteczne obowiązki w zakresie monitorowania i nadzoru nałożono również na dostawców i użytkowników, jasno określając ich role i obszary odpowiedzialności w całym łańcuchu wartości bez wpływu na inne obowiązki wynikające z przepisów sektorowych. ·W przypadku systemów sztucznej inteligencji stwarzających „ryzyko związane z przejrzystością” należy informować ludzi, gdy wchodzą w interakcje z takimi systemami lub istnieje taka możliwość (np. chatboty, systemy rozpoznawania emocji i kategoryzacji biometrycznej oraz tzw. deepfake). ·Wszystkie inne systemy, które stwarzają „minimalne” lub „niskie ryzyko” dla zdrowia, bezpieczeństwa i praw podstawowych są dozwolone bez dodatkowych ograniczeń, ale dostawcy mogą zdecydować się na przestrzeganie dobrowolnych kodeksów postępowania. Wniosek jest omawiany przez Radę i Parlament Europejski zgodnie ze zwykłą procedurą ustawodawczą. Negocjacje dotyczące przyszłej konwencji Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności powinny doprowadzić do zapewnienia, aby uzgodnione postanowienia były zgodne z prawem UE i wynikającymi z niego zobowiązaniami państw członkowskich, z uwzględnieniem przyszłych zmian i proponowanego aktu w sprawie sztucznej inteligencji. Konieczne będzie również zapewnienie, aby konwencja Rady Europy zawierała klauzulę rozdzielności umożliwiającą państwom członkowskim UE, które staną się stronami konwencji, regulowanie stosunków między sobą na podstawie prawa UE. Proponowany akt w sprawie sztucznej inteligencji, w miarę jego ewolucji w ramach procedury ustawodawczej i negocjacji prowadzonych przez współprawodawców, a na końcu w ostatecznej (przyjętej) formie, powinien zostać zachowany wśród państw członkowskich UE. Unia Europejska powinna również mieć możliwość przystąpienia do konwencji jako strona.

•Spójność z innymi politykami Unii Niniejsze zalecenie ma znaczenie dla innych bieżących lub planowanych inicjatyw Komisji, które mają na celu rozwiązanie problemów zaistniałych w związku z opracowywaniem i stosowaniem systemów sztucznej inteligencji, które to problemy wskazano w białej księdze w sprawie sztucznej inteligencji. Te inne inicjatywy obejmują przegląd przepisów sektorowych dotyczących produktów (np. dyrektywy w sprawie maszyn, dyrektywy w sprawie ogólnego bezpieczeństwa produktów) oraz przygotowywane inicjatywy, które dotyczą kwestii odpowiedzialności w zakresie nowych technologii, w tym systemów sztucznej inteligencji. Niniejsze zalecenie jest również spójne z ogólną strategią cyfrową Komisji mającą na celu promowanie technologii przynoszącej korzyści ludziom, czyli jednego z trzech głównych celów zawartych w wizji politycznej przedstawionej w komunikacie „Kształtowanie cyfrowej przyszłości Europy”. Ma ono na celu zapewnienie, aby sztuczną inteligencję rozwijano z poszanowaniem praw człowieka i w sposób zwiększający zaufanie ludzi do tej technologii, tak aby budować Europę na miarę ery cyfrowej i aby kolejne dziesięć lat można było nazwać cyfrową dekadą. Proponowane zalecenie przyczyni się również do znacznego umocnienia roli Unii w kształtowaniu światowych norm i standardów oraz promowaniu wiarygodnej sztucznej inteligencji zgodnej z unijnymi wartościami i interesami. Zapewni ono Unii solidną podstawę do wzmocnienia dyplomacji cyfrowej UE oraz do wynegocjowania, wraz z innymi państwami europejskimi i pozaeuropejskimi, pierwszego prawnie wiążącego porozumienia międzynarodowego w sprawie sztucznej inteligencji, opartego na wspólnych wartościach i zasadach. 2.PODSTAWA PRAWNA, POMOCNICZOŚĆ I PROPORCJONALNOŚĆ •Podstawa prawna Art. 218 ust. 3 Traktatu o funkcjonowaniu Unii Europejskiej (TFUE) stanowi, że Komisja przedstawia swoje zalecenia Radzie, która przyjmuje decyzję upoważniającą do podjęcia rokowań oraz mianuje negocjatora Unii. Zgodnie z art. 218 ust. 4 TFUE Rada może kierować wytyczne do negocjatora Unii. •Pomocniczość (w przypadku kompetencji niewyłącznych) Proponowany akt w sprawie sztucznej inteligencji ustanawia zharmonizowane zasady dotyczące systemów sztucznej inteligencji w Unii, uniemożliwiając tym samym państwom członkowskim nakładanie dalszych ograniczeń, chyba że zostaną one wyraźnie dopuszczone w akcie. Zgodnie z art. 3 ust. 2 TFUE Unia ma wyłączną kompetencję do zawierania umów międzynarodowych w zakresie, w jakim mogą one wpływać na wspólne zasady lub zmieniać ich zakres. Wynika z tego zatem, że w odniesieniu do wszystkich kwestii związanych z projektowaniem, opracowywaniem i stosowaniem systemów sztucznej inteligencji, które objęto w znacznym stopniu prawem Unii lub które zostaną uwzględnione w ramach przewidywalnych przyszłych zmian prawa Unii, a w szczególności w proponowanym akcie w sprawie sztucznej inteligencji, Unia powinna mieć kompetencję do negocjowania przyszłej konwencji Rady Europy w sprawie sztucznej inteligencji. •Proporcjonalność Inicjatywa nie wykracza poza to, co jest konieczne do osiągnięcia zakładanych celów polityki. •Wybór instrumentu Wybranym instrumentem jest zalecenie dotyczące decyzji Rady, zgodnie z art. 218 ust. 3 i 4 TFUE. 3.WYNIKI OCEN EX POST, KONSULTACJI Z ZAINTERESOWANYMI STRONAMI I OCEN SKUTKÓW •Oceny ex post/oceny adekwatności obowiązującego prawodawstwa Nie dotyczy •Konsultacje z zainteresowanymi stronami Nie dotyczy •Gromadzenie i wykorzystanie wiedzy eksperckiej W ramach przygotowań do negocjacji Komisja wzięła pod uwagę opinie wyrażone przez ekspertów z państw członkowskich podczas dyskusji na forum odpowiedniej grupy roboczej Rady.

•Ocena skutków Nie dotyczy •Sprawność regulacyjna i uproszczenie Nie dotyczy •Prawa podstawowe Zarówno proponowany akt w sprawie sztucznej inteligencji, jak i rozważana konwencja Rady Europy mają na celu zminimalizowanie ryzyka i zapewnienie wysokiego poziomu ochrony praw podstawowych, na które rozwijanie i stosowanie sztucznej inteligencji może mieć w pewnych okolicznościach negatywny wpływ, przy jednoczesnym uwzględnieniu potencjału sztucznej inteligencji w zakresie ochrony tych praw i ułatwiania korzystania z nich w środowisku cyfrowym oraz poprawy dobrostanu społecznego i środowiskowego oraz postępu technologicznego. 4.WPŁYW NA BUDŻET Wniosek nie będzie miał wpływu na budżet Unii. 5.ELEMENTY FAKULTATYWNE •Plany wdrożenia i monitorowanie, ocena i sprawozdania Negocjacje mają trwać do 2024 r., po czym planuje się podpisanie i zawarcie konwencji. Zalecenie DECYZJA RADY w sprawie upoważnienia do podjęcia negocjacji w imieniu Unii Europejskiej dotyczących konwencji Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności RADA UNII EUROPEJSKIEJ, uwzględniając Traktat o funkcjonowaniu Unii Europejskiej, w szczególności jego art. 218 ust. 3 i 4, uwzględniając zalecenie Komisji Europejskiej, a także mając na uwadze, co następuje: (1)W 2021 r. Komitet Ministrów Rady Europy powołał Komitet ds. Sztucznej Inteligencji (CAI) na lata 2022–2024, którego zadaniem jest przygotowanie międzynarodowego procesu negocjacji w celu uzgodnienia ram prawnych dotyczących opracowywania, projektowania i stosowania sztucznej inteligencji (AI) opartych na normach Rady Europy w zakresie praw człowieka, demokracji i praworządności oraz sprzyjających innowacjom. (2)30 czerwca 2022 r. Komitet Ministrów Rady Europy polecił Komitetowi ds. Sztucznej Inteligencji, aby szybko opracował prawnie wiążący instrument o charakterze przekrojowym („konwencja”/„konwencja ramowa”) dotyczący sztucznej inteligencji, oparty na normach Rady Europy w zakresie praw człowieka, demokracji i praworządności, zgodny z jego zakresem zadań, skoncentrowany na ogólnych wspólnych zasadach, sprzyjający innowacjom i otwarty na udział państw niebędących członkami, przy jednoczesnym uwzględnieniu innych odpowiednich obowiązujących międzynarodowych ram prawnych lub tych, które są w trakcie opracowywania.