KOMISJA EUROPEJSKA Bruksela, dnia 21.4.2021 COM(2021) 206 final 2021/0106(COD) Wniosek ROZPORZĄDZENIE PARLAMENTU EUROPEJSKIEGO I RADY USTANAWIAJĄCE ZHARMONIZOWANE PRZEPISY DOTYCZĄCE SZTUCZNEJ INTELIGENCJI (AKT W SPRAWIE SZTUCZNEJ INTELIGENCJI) I ZMIENIAJĄCE NIEKTÓRE AKTY USTAWODAWCZE UNII {SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}



UZASADNIENIE 1.KONTEKST WNIOSKU 1.1.Przyczyny i cele wniosku Niniejsze uzasadnienie towarzyszy wnioskowi dotyczącemu rozporządzenia ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji). Sztuczna inteligencja (AI) to szybko rozwijająca się grupa technologii, które mogą przynosić wiele różnych korzyści społeczno-ekonomicznych we wszystkich branżach i obszarach działalności społecznej. Rozwiązania bazujące na sztucznej inteligencji umożliwiają lepsze prognozowanie, optymalizację operacji i przydzielania zasobów oraz personalizację świadczonych usług, dzięki czemu osiągane wyniki są korzystne z punktu widzenia kwestii społecznych i ochrony środowiska, a przedsiębiorstwa i europejska gospodarka zyskują kluczową przewagę konkurencyjną. Takie działania są szczególnie potrzebne w sektorach o dużym wpływie, w tym w obszarze zmiany klimatu oraz ochrony środowiska i zdrowia, w sektorze publicznym, w obszarze finansów, mobilności, spraw wewnętrznych i rolnictwie. Te same elementy i techniki, które przynoszą korzyści społeczno-ekonomiczne wynikające ze stosowania sztucznej inteligencji, jednocześnie wiążą się również jednak z nowymi rodzajami ryzyka lub niekorzystnymi konsekwencjami odczuwanymi przez osoby fizyczne lub społeczeństwo. W związku z tempem zachodzących zmian technologicznych i w świetle potencjalnych wyzwań UE dąży do wypracowania odpowiednio wyważonego podejścia. W interesie Unii leży utrzymanie wiodącej pozycji UE w zakresie technologii i zapewnienie, aby Europejczycy mogli korzystać z nowych technologii opracowanych i funkcjonujących zgodnie z unijnymi wartościami, prawami podstawowymi i zasadami. Niniejszy wniosek służy realizacji politycznego zobowiązania podjętego przez przewodniczącą Ursulę von der Leyen – w wytycznych politycznych dla Komisji na lata 2019–2024 „Unia, która mierzy wyżej” przewodnicząca ogłosiła, że Komisja zaproponuje przepisy w sprawie skoordynowanego europejskiego podejścia do społecznych i etycznych konsekwencji sztucznej inteligencji. W związku z tą zapowiedzią w dniu 19 lutego 2020 r. Komisja opublikowała białą księgę w sprawie sztucznej inteligencji – Europejskie podejście do doskonałości i zaufania. W tej białej księdze określono warianty strategiczne dotyczące sposobów osiągnięcia podwójnego celu, jakim jest promowanie stosowania sztucznej inteligencji i zajęcie się zagrożeniami związanymi z niektórymi zastosowaniami tej nowej technologii. Niniejszy wniosek służy osiągnięciu tego drugiego celu na potrzeby budowania ekosystemu zaufania poprzez zaproponowanie ram prawnych dotyczących godnej zaufania sztucznej inteligencji. Niniejszy wniosek opiera się na unijnych wartościach i prawach podstawowych i ma przyczynić się do tego, by obywatele i inni użytkownicy obdarzyli zaufaniem i zaakceptowali rozwiązania oparte na sztucznej inteligencji, a przedsiębiorstwa chętniej opracowywały takie rozwiązania. Sztuczna inteligencja powinna działać na rzecz ludzi i społeczeństwa, a ostatecznym celem jest zwiększenie dobrostanu człowieka. Przepisy dotyczące sztucznej inteligencji, która jest dostępna na rynku Unii lub w inny sposób wpływa na obywateli Unii, powinny zatem być ukierunkowane na człowieka, aby ludzie mogli mieć pewność, że technologię tę wykorzystuje się w sposób bezpieczny i zgodny z prawem, w tym z poszanowaniem praw podstawowych. Po publikacji przedmiotowej białej księgi Komisja rozpoczęła szeroko zakrojone konsultacje z zainteresowanymi stronami, w których udział wzięło duże grono zainteresowanych stron, a większość z nich poparła interwencję regulacyjną, aby zaradzić wyzwaniom i obawom związanym z rosnącym wykorzystaniem sztucznej inteligencji. Niniejszy wniosek stanowi również odpowiedź na wyraźne apele ze strony Parlamentu Europejskiego (PE) i Rady Europejskiej, które wielokrotnie wzywały do podjęcia działań ustawodawczych w celu zapewnienia prawidłowego funkcjonowania rynku wewnętrznego systemów sztucznej inteligencji, na którym na szczeblu unijnym należycie uwzględnia się zarówno korzyści, jak i zagrożenia związane ze sztuczną inteligencją. Niniejszy wniosek służy realizacji celu, jakim jest osiągnięcie przez Unię pozycji światowego lidera, jeśli chodzi o rozwój bezpiecznej, wiarygodnej i etycznej sztucznej inteligencji, zgodnie z konkluzjami Rady Europejskiej, oraz zapewnia ochronę zasad etycznych, zgodnie z wyraźnym żądaniem Parlamentu Europejskiego. W 2017 r. Rada Europejska wskazała na potrzebę „świadomości, że nowe trendy wymagają pilnej reakcji”, co obejmuje „kwestie takie jak sztuczna inteligencja (...) przy zapewnieniu wysokiego poziomu ochrony danych, praw cyfrowych i standardów etycznych”. W konkluzjach z 2019 r. na temat dokumentu pt. „Skoordynowany plan w sprawie rozwoju i wykorzystania sztucznej inteligencji opracowanej w Europie” Rada podkreśliła również znaczenie zapewnienia pełnego poszanowania praw obywateli Unii i wezwała do zmiany istniejących odnośnych przepisów w celu ich dostosowania do nowych możliwości i wyzwań generowanych przez sztuczną inteligencję. Rada Europejska wezwała również do jasnego określenia zastosowań AI, które należy uznać za zastosowania wysokiego ryzyka. W najnowszych konkluzjach z dnia 21 października 2020 r. wezwano również do sprostania wyzwaniom takim jak efekt czarnej skrzynki, złożoność, stronniczość, pewna nieprzewidywalność i częściowo autonomiczne zachowanie w przypadku niektórych systemów sztucznej inteligencji w celu zapewnienia ich zgodności z prawami podstawowymi i ułatwienia egzekwowania przepisów. Parlament Europejski również prowadzi wiele prac w obszarze sztucznej inteligencji. W październiku 2020 r. przyjął szereg rezolucji związanych ze sztuczną inteligencją, w tym w sprawie aspektów etycznych, odpowiedzialności i praw autorskich. W 2021 r. w dalszej kolejności przyjęto rezolucje w sprawie sztucznej inteligencji w sprawach karnych i w sektorze edukacji i kultury oraz w sektorze audiowizualnym. W rezolucji Parlamentu Europejskiego w sprawie ram aspektów etycznych sztucznej inteligencji, robotyki i powiązanych z nimi technologii zalecono w szczególności, aby Komisja zaproponowała działania ustawodawcze w celu wykorzystania możliwości i korzyści związanych ze sztuczną inteligencją, a jednocześnie w celu zapewnienia ochrony zasad etycznych. Rezolucja ta zawiera tekst wniosku ustawodawczego dotyczącego rozporządzenia w sprawie zasad etycznych dotyczących opracowywania, wdrażania i wykorzystywania sztucznej inteligencji, robotyki i powiązanych z nimi technologii. Zgodnie z zobowiązaniem politycznym podjętym przez przewodniczącą Ursulę von der Leyen w wytycznych politycznych w odniesieniu do rezolucji przyjmowanych przez Parlament Europejski na podstawie art. 225 TFUE w niniejszym wniosku uwzględniono wyżej wymienioną rezolucję Parlamentu Europejskiego z pełnym poszanowaniem zasady proporcjonalności, pomocniczości i lepszego stanowienia prawa. W tym kontekście politycznym Komisja przedstawia proponowane ramy regulacyjne dotyczące sztucznej inteligencji, którym przyświecają następujące cele szczegółowe: ·zapewnienie, aby systemy sztucznej inteligencji wprowadzane do obrotu w Unii i znajdujące się w użyciu były bezpieczne i zgodne z obowiązującym prawem w obszarze praw podstawowych oraz z unijnymi wartościami; ·zapewnienie pewności prawa na potrzeby ułatwienia inwestycji i innowacji w dziedzinie sztucznej inteligencji; ·poprawa zarządzania i skuteczne egzekwowanie obowiązujących przepisów dotyczących praw podstawowych i wymogów bezpieczeństwa mających zastosowanie do systemów sztucznej inteligencji; ·ułatwienie rozwoju jednolitego rynku zgodnych z prawem, bezpiecznych i wiarygodnych zastosowań sztucznej inteligencji oraz zapobieganie fragmentacji rynku. Aby osiągnąć te cele, we wniosku przedstawiono wyważone i proporcjonalne horyzontalne podejście regulacyjne do sztucznej inteligencji, które to podejście ogranicza się do minimalnych wymogów niezbędnych do zaradzenia ryzyku i problemom związanym ze sztuczną inteligencją bez nadmiernego ograniczania lub utrudniania rozwoju technologicznego lub powodowania w inny sposób nieproporcjonalnego zwiększenia kosztów wprowadzania do obrotu rozwiązań AI. We wniosku ustanowiono solidne i elastyczne ramy prawne. Z jednej strony proponowane ramy są kompleksowe i nie ulegają dezaktualizacji ze względu na określone w nich podstawowe warianty regulacyjne, w tym oparte na zasadach wymogi, które muszą spełniać systemy sztucznej inteligencji. Z drugiej strony we wniosku wprowadzono proporcjonalny system regulacyjny skoncentrowany wokół odpowiednio zdefiniowanego, opartego na analizie ryzyka podejścia regulacyjnego, w ramach którego nie tworzy się niepotrzebnych ograniczeń handlu, a interwencja regulacyjna jest dostosowana do konkretnych sytuacji, w których występują uzasadnione obawy lub w których można przypuszczać, że takie obawy wystąpią w niedalekiej przyszłości. Jednocześnie przedmiotowe ramy prawne obejmują elastyczne mechanizmy, dzięki którym ramy te można dynamicznie dostosowywać stosownie do rozwoju technologii i pojawiających się nowych problematycznych sytuacji. We wniosku określono zharmonizowane przepisy dotyczące opracowywania, wprowadzania do obrotu i wykorzystywania systemów sztucznej inteligencji w Unii zgodnie z proporcjonalnym podejściem opartym na analizie ryzyka. Wniosek zawiera jedną, nieulegającą dezaktualizacji definicję sztucznej inteligencji. We wniosku przewidziano zakaz stosowania niektórych szczególnie szkodliwych praktyk z wykorzystaniem AI, które są sprzeczne z unijnymi wartościami, oraz zaproponowano szczególne ograniczenia i zabezpieczenia w odniesieniu do określonych zastosowań systemów zdalnej identyfikacji biometrycznej do celów egzekwowania prawa. Określono w nim solidną metodykę w zakresie ryzyka na potrzeby zdefiniowania systemów sztucznej inteligencji wysokiego ryzyka, które stanowią znaczne zagrożenie dla zdrowia i bezpieczeństwa lub praw podstawowych człowieka. Zanim takie systemy sztucznej inteligencji będzie można wprowadzić do obrotu w Unii, będą one musiały spełnić szereg horyzontalnych obowiązkowych wymogów dotyczących wiarygodnej sztucznej inteligencji i zostać poddane procedurom oceny zgodności. Przewidywalne, proporcjonalne i jasne obowiązki nałożono również na dostawców i użytkowników takich systemów w celu zapewnienia bezpieczeństwa i poszanowania obowiązujących przepisów dotyczących ochrony praw podstawowych w całym cyklu życia systemów sztucznej inteligencji. W odniesieniu do niektórych szczególnych systemów sztucznej inteligencji proponuje się wyłącznie minimalne obowiązki dotyczące przejrzystości, w szczególności w przypadku stosowania chatbotów lub zmanipulowanych cyfrowo obrazów lub nagrań wideo (tzw. deepfake). Proponowane przepisy będą egzekwowane za pomocą systemu zarządzania na szczeblu państw członkowskich opartego na już istniejących strukturach oraz mechanizmu współpracy na szczeblu unijnym, w którym to celu zostanie powołana Europejska Rada ds. Sztucznej Inteligencji. Ponadto proponuje się dodatkowe środki służące wsparciu innowacji, w tym w szczególności piaskownice regulacyjne w zakresie AI i inne środki ograniczające obciążenie regulacyjne i wspierające małe i średnie przedsiębiorstwa oraz przedsiębiorstwa typu start-up. 1.2.Spójność z przepisami obowiązującymi w tej dziedzinie polityki Horyzontalny charakter niniejszego wniosku wymaga zapewnienia pełnej spójności z obowiązującymi przepisami Unii mającymi zastosowanie do sektorów, w których systemy sztucznej inteligencji wysokiego ryzyka już są stosowane lub prawdopodobnie będą stosowane w niedalekiej przyszłości.

Zapewniono również spójność z postanowieniami Karty praw podstawowych Unii Europejskiej i obowiązującym prawem wtórnym Unii dotyczącym ochrony danych, ochrony konsumentów, niedyskryminacji i równouprawnienia płci. Niniejszy wniosek nie narusza przepisów ogólnego rozporządzenia o ochronie danych (rozporządzenie (UE) 2016/679) ani przepisów dyrektywy w sprawie egzekwowania prawa (dyrektywa (UE) 2016/680) oraz uzupełnia przepisy tych aktów, wprowadzając zbiór zharmonizowanych przepisów mających zastosowanie do projektowania, opracowywania i stosowania określonych systemów sztucznej inteligencji wysokiego ryzyka oraz ograniczenia dotyczące określonych zastosowań systemów zdalnej identyfikacji biometrycznej. Ponadto niniejszy wniosek uzupełnia obowiązujące obecnie przepisy prawa Unii dotyczące niedyskryminacji o szczególne wymogi służące ograniczeniu do minimum ryzyka dyskryminacji algorytmicznej, w szczególności w zakresie projektowania i jakości zestawów danych wykorzystywanych do rozwoju systemów sztucznej inteligencji, w połączeniu z obowiązkami w zakresie testowania, zarządzania ryzykiem, dokumentacji i nadzoru ze strony człowieka w całym cyklu życia systemów sztucznej inteligencji. Niniejszy wniosek pozostaje bez uszczerbku dla stosowania unijnego prawa konkurencji. Jeżeli chodzi o systemy sztucznej inteligencji wysokiego ryzyka, które stanowią związane z bezpieczeństwem elementy produktów, niniejszy wniosek zostanie włączony do obowiązujących obecnie przepisów sektorowych dotyczących bezpieczeństwa w celu zapewnienia spójności, uniknięcia powielania i ograniczenia do minimum dodatkowych obciążeń. W szczególności, jeżeli chodzi o systemy sztucznej inteligencji wysokiego ryzyka związane z produktami wchodzącymi w zakres nowych ram prawnych (np. maszynami, wyrobami medycznymi, zabawkami), zgodność z wymogami określonymi w niniejszym wniosku w odniesieniu do systemów sztucznej inteligencji będzie sprawdzana w ramach obowiązujących procedur oceny zgodności określonych w odnośnych przepisach składających się na nowe ramy prawne. Jeżeli chodzi o zależności między wymogami, choć zagrożenia dla bezpieczeństwa stwarzane przez systemy sztucznej inteligencji mają być objęte wymogami określonymi w niniejszym wniosku, to jednak przepisy nowych ram prawnych służą zapewnieniu ogólnego bezpieczeństwa produktu końcowego, a zatem mogą zawierać szczególne wymogi dotyczące bezpiecznej integracji systemu sztucznej inteligencji z produktem końcowym. Podejście to zostało w pełni odzwierciedlone we wniosku dotyczącym rozporządzenia w sprawie maszyn, którego data przyjęcia pokrywa się z datą przyjęcia niniejszego wniosku. Niniejszy wniosek nie miałby bezpośredniego zastosowania do systemów sztucznej inteligencji wysokiego ryzyka związanych z produktami objętymi zakresem stosowania odpowiednich przepisów reprezentujących „stare podejście” (dotyczy to np. sektora lotnictwa, samochodów). Przyjmując odpowiednie przepisy wykonawcze lub delegowane na podstawie tych aktów, trzeba będzie jednak brać pod uwagę zasadnicze wymagania ex ante dotyczące systemów sztucznej inteligencji wysokiego ryzyka. Jeżeli chodzi o systemy sztucznej inteligencji zapewniane lub wykorzystywane przez regulowane instytucje kredytowe, organy odpowiedzialne za nadzorowanie wykonania unijnych przepisów dotyczących usług finansowych należy wyznaczyć jako organy właściwe do spraw nadzoru zgodności z wymogami określonymi w niniejszym wniosku w celu zapewnienia spójnego egzekwowania obowiązków określonych w niniejszym wniosku i w unijnych przepisach dotyczących usług finansowych w przypadkach, w których systemy sztucznej inteligencji w określonym stopniu uregulowano w sposób dorozumiany w odniesieniu do systemu zarządzania wewnętrznego instytucji kredytowych. W celu dalszego zwiększenia spójności procedurę oceny zgodności i niektóre spośród spoczywających na dostawcach obowiązków proceduralnych określonych w niniejszym wniosku włączono do procedur określonych w dyrektywie 2013/36/UE w sprawie warunków dopuszczenia instytucji kredytowych do działalności oraz nadzoru ostrożnościowego. Niniejszy wniosek jest również spójny z mającymi zastosowanie przepisami Unii dotyczącymi usług, w tym usług pośrednictwa uregulowanych w dyrektywie 2000/31/WE o handlu elektronicznym i w przyjętym niedawno wniosku Komisji dotyczącym aktu o usługach cyfrowych. W odniesieniu do systemów sztucznej inteligencji, które stanowią elementy wielkoskalowych systemów informatycznych w przestrzeni wolności, bezpieczeństwa i sprawiedliwości i są zarządzane przez Agencję Unii Europejskiej ds. Zarządzania Operacyjnego Wielkoskalowymi Systemami Informatycznymi w Przestrzeni Wolności, Bezpieczeństwa i Sprawiedliwości (eu-LISA), niniejszy wniosek nie będzie miał zastosowania do systemów sztucznej inteligencji, które wprowadzono do obrotu lub oddano do użytku przed upływem jednego roku od daty rozpoczęcia stosowania niniejszego rozporządzenia, chyba że na skutek zastąpienia lub zmiany takich aktów prawnych projekt lub przeznaczenie odnośnego systemu sztucznej inteligencji lub odnośnych systemów sztucznej inteligencji ulegną znacznym zmianom. 1.3.Spójność z innymi politykami Unii Niniejszy wniosek stanowi element większego kompleksowego pakietu środków służących rozwiązaniu problemów zaistniałych w związku z rozwojem i wykorzystywaniem sztucznej inteligencji, które to problemy przeanalizowano w białej księdze w sprawie sztucznej inteligencji. Tym samym zapewniono spójność i komplementarność z innymi realizowanymi lub planowanymi inicjatywami Komisji, które również mają na celu rozwiązanie tych problemów, w tym z inicjatywami służącymi przeglądowi przepisów sektorowych dotyczących produktów (np. dyrektywy w sprawie maszyn, dyrektywy w sprawie ogólnego bezpieczeństwa produktów) oraz inicjatywami, które dotyczą kwestii odpowiedzialności w zakresie nowych technologii, w tym systemów sztucznej inteligencji. Takie inicjatywy będą bazować na niniejszym wniosku oraz go uzupełniać, co służy zapewnieniu jasności prawa i ma sprzyjać rozwojowi ekosystemu zaufania do sztucznej inteligencji w Europie. Niniejszy wniosek jest również spójny z ogólną strategią cyfrową Komisji, ponieważ stanowi wkład w promowanie technologii przynoszącej korzyści ludziom, czyli jednego z trzech głównych filarów kierunków i celów polityki ogłoszonych w komunikacie pt. „Kształtowanie cyfrowej przyszłości Europy”. We wniosku określono spójne, skuteczne i proporcjonalne ramy w celu zapewnienia, aby sztuczną inteligencję opracowywano z poszanowaniem praw ludzi i w sposób zwiększający zaufanie obywateli do tej technologii, tak aby budować Europę na miarę ery cyfrowej i aby kolejne dziesięć lat można było nazwać cyfrową dekadą. Ponadto promowanie innowacji opartych na AI ściśle wiąże się z aktem w sprawie zarządzania danymi, dyrektywą w sprawie otwartych danych oraz innymi inicjatywami stanowiącymi element europejskiej strategii w zakresie danych, dzięki którym zostaną ustanowione godne zaufania mechanizmy i usługi w zakresie ponownego wykorzystania, udostępniania i gromadzenia danych kluczowych dla rozwoju wysokiej jakości modeli AI opartych na danych. Niniejszy wniosek przyczyni się również do znacznego umocnienia roli Unii w kształtowaniu światowych norm i standardów oraz promowaniu wiarygodnej sztucznej inteligencji zgodnej z unijnymi wartościami i interesami. Wniosek stanowi solidną podstawę umożliwiającą Unii podjęcie dalszej współpracy w sprawach związanych ze sztuczną inteligencją z partnerami zewnętrznymi, w tym z państwami trzecimi, oraz na forach międzynarodowych. 2.PODSTAWA PRAWNA, POMOCNICZOŚĆ I PROPORCJONALNOŚĆ 2.1.Podstawa prawna Podstawę prawną niniejszego wniosku stanowi przede wszystkim art. 114 Traktatu o funkcjonowaniu Unii Europejskiej (TFUE), w którym przewidziano przyjęcie środków mających na celu zapewnienie ustanowienia i funkcjonowania rynku wewnętrznego. Niniejszy wniosek stanowi główny element unijnej strategii jednolitego rynku cyfrowego. Głównym celem niniejszego wniosku jest zapewnienie należytego funkcjonowania rynku wewnętrznego poprzez określenie zharmonizowanych przepisów dotyczących w szczególności opracowywania, wprowadzania do obrotu w Unii i wykorzystywania produktów i usług opartych na wykorzystaniu technologii AI lub stanowiących samodzielne systemy sztucznej inteligencji. Niektóre państwa członkowskie rozważają już wprowadzenie przepisów krajowych w celu zapewnienia, aby sztuczna inteligencja była bezpieczna oraz rozwijana i stosowana w sposób zgodny z obowiązkami wynikającymi z praw podstawowych. Takie nieskoordynowane działania prawdopodobnie doprowadzą jednak do powstania dwóch zasadniczych problemów: (i) fragmentacji rynku wewnętrznego pod względem podstawowych elementów, co dotyczy w szczególności wymogów odnoszących się do produktów i usług wykorzystujących AI, wprowadzania do obrotu takich produktów i usług, ich stosowania, odpowiedzialności za nie oraz ich nadzorowania przez organy publiczne, oraz (ii) znacznego spadku pewności prawa – zarówno z punktu widzenia dostawców, jak i użytkowników systemów sztucznej inteligencji – co do tego, w jaki sposób dotychczasowe i nowe przepisy będą miały zastosowanie do takich systemów w Unii. Ze względu na intensywny obrót produktami i usługami ponad granicami najlepszym sposobem na rozwiązanie tego problemu jest przyjęcie unijnego prawodawstwa harmonizującego. We wniosku określono wspólne obowiązkowe wymogi mające zastosowanie do projektowania i opracowywania określonych systemów sztucznej inteligencji przed ich wprowadzeniem do obrotu, a dalsze funkcjonowanie tych wymogów zostanie zapewnione w oparciu o zharmonizowane normy techniczne. We wniosku uwzględniono również sytuację po wprowadzeniu systemów sztucznej inteligencji do obrotu, harmonizując sposób prowadzenia kontroli ex post. Ponadto, mając na uwadze, że niniejszy wniosek zawiera określone przepisy szczegółowe dotyczące ochrony osób fizycznych w związku z przetwarzaniem danych osobowych, w szczególności ograniczenia wykorzystywania systemów sztucznej inteligencji do zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów egzekwowania prawa, podstawą niniejszego rozporządzenia w zakresie takich przepisów szczegółowych powinien być art. 16 TFUE. 2.2.Pomocniczość (w przypadku kompetencji niewyłącznych) Charakter sztucznej inteligencji, która często opiera się na dużych i zróżnicowanych zbiorach danych i którą można wbudować do każdego produktu lub usługi będących przedmiotem swobodnego obrotu na rynku wewnętrznym, sprawia, że państwa członkowskie nie są w stanie samodzielnie osiągnąć celów niniejszego wniosku. Ponadto powstająca mozaika potencjalnie rozbieżnych przepisów krajowych utrudni płynny obrót produktami i usługami związanymi z systemami sztucznej inteligencji w całej UE i będzie nieskuteczna w zapewnianiu bezpieczeństwa i ochrony praw podstawowych oraz wartości unijnych w poszczególnych państwach członkowskich. Podejście krajowe do rozwiązywania tych problemów spowoduje jedynie dodatkowy brak pewności prawa i powstanie dodatkowych barier, a także spowolni wprowadzanie AI na rynek. Cele niniejszego wniosku można lepiej zrealizować na poziomie Unii, aby uniknąć dalszej fragmentacji jednolitego rynku na potencjalnie sprzeczne ramy krajowe uniemożliwiające swobodny obrót towarów i usług z wbudowaną technologią AI. Solidne europejskie ramy regulacyjne w zakresie wiarygodnej sztucznej inteligencji zapewnią również równe warunki działania oraz ochronę wszystkich obywateli, wzmacniając jednocześnie konkurencyjność i bazę przemysłową Europy w dziedzinie sztucznej inteligencji. Co więcej, jedynie wspólne działanie na szczeblu UE umożliwi ochronę suwerenności cyfrowej Unii oraz wykorzystanie unijnych narzędzi i uprawnień regulacyjnych w celu kształtowania globalnych zasad i norm. 2.3.Proporcjonalność

Wniosek opiera się na istniejących ramach prawnych oraz jest proporcjonalny i niezbędny do osiągnięcia zakładanych w nim celów, ponieważ zastosowano w nim podejście oparte na analizie ryzyka, a obciążenia regulacyjne nakłada się tylko w przypadku, gdy system sztucznej inteligencji może stwarzać wysokie ryzyko dla praw podstawowych i bezpieczeństwa. W przypadku innych systemów sztucznej inteligencji, nieobarczonych wysokim ryzykiem, wprowadzono jedynie bardzo ograniczone obowiązki w zakresie przejrzystości, na przykład w zakresie dostarczania informacji w celu zasygnalizowania wykorzystania systemu sztucznej inteligencji, w przypadku gdy ma miejsce interakcja tego systemu z człowiekiem. W przypadku systemów sztucznej inteligencji wysokiego ryzyka wymogi dotyczące danych wysokiej jakości, dokumentacji i identyfikowalności, przejrzystości, nadzoru ze strony człowieka, dokładności i solidności są absolutnie niezbędne, aby złagodzić stwarzane przez AI ryzyko dla praw podstawowych i bezpieczeństwa, którego nie obejmują istniejące ramy prawne. Normy zharmonizowane oraz towarzyszące im wytyczne i narzędzia zapewniające przestrzeganie przepisów pomogą dostawcom i użytkownikom w spełnieniu wymogów określonych we wniosku oraz zminimalizują ich koszty. Koszty ponoszone przez podmioty gospodarcze są proporcjonalne do realizowanych celów oraz korzyści gospodarczych i korzyści pod względem reputacji, jakich podmioty gospodarcze mogą oczekiwać od niniejszego wniosku. 2.4.Wybór instrumentu Wybór rozporządzenia jako instrumentu prawnego jest uzasadniony potrzebą jednolitego stosowania nowych przepisów, takich jak definicja sztucznej inteligencji, zakaz określonych szkodliwych praktyk opartych na sztucznej inteligencji oraz klasyfikacja określonych systemów sztucznej inteligencji. Rozporządzenie, jako instrument, który zgodnie z art. 288 TFUE ma bezpośrednie zastosowanie, ograniczy rozdrobnienie prawne i ułatwi rozwój jednolitego rynku zgodnych z prawem, bezpiecznych i wiarygodnych systemów sztucznej inteligencji. Cel ten zostanie osiągnięty w szczególności poprzez wprowadzenie zharmonizowanego zestawu podstawowych wymogów w odniesieniu do systemów sztucznej inteligencji sklasyfikowanych jako systemy wysokiego ryzyka oraz obowiązków dostawców i użytkowników tych systemów, co poprawi ochronę praw podstawowych i zapewni pewność prawa zarówno podmiotom gospodarczym, jak i konsumentom. Jednocześnie przepisy rozporządzenia nie są nadmiernie nakazowe i pozostawiają przestrzeń na różne wielowymiarowe działania państw członkowskich w odniesieniu do elementów, które nie podważają celów inicjatywy, w szczególności jeśli chodzi o wewnętrzną organizację systemu nadzoru rynku oraz wprowadzanie środków mających wspierać innowacyjność. 3.WYNIKI OCEN EX POST, KONSULTACJI Z ZAINTERESOWANYMI STRONAMI I OCEN SKUTKÓW 3.1.Konsultacje z zainteresowanymi stronami Niniejszy wniosek jest wynikiem szeroko zakrojonych konsultacji ze wszystkimi głównymi zainteresowanymi stronami, w których to konsultacjach zastosowano ogólne zasady i minimalne normy w zakresie konsultacji Komisji z zainteresowanymi stronami. W dniu 19 lutego 2020 r. wraz z publikacją białej księgi w sprawie sztucznej inteligencji rozpoczęto internetowe konsultacje publiczne, które trwały do dnia 14 czerwca 2020 r. Celem tych konsultacji było zebranie poglądów i opinii na temat białej księgi. Były one skierowane do wszystkich zainteresowanych stron z sektora publicznego i prywatnego, w tym rządów, władz lokalnych, organizacji komercyjnych i niekomercyjnych, partnerów społecznych, ekspertów, środowiska akademickiego i obywateli. Po przeanalizowaniu wszystkich otrzymanych odpowiedzi Komisja opublikowała na swojej stronie internetowej podsumowanie wyników oraz poszczególne odpowiedzi. Łącznie otrzymano 1215 odpowiedzi, z czego: 352 od przedsiębiorstw lub organizacji/stowarzyszeń biznesowych, 406 od osób fizycznych (z czego 92 % od osób fizycznych z UE), 152 w imieniu instytucji naukowych/badawczych oraz 73 od organów publicznych. Społeczeństwo obywatelskie reprezentowało 160 respondentów (w tym 9 organizacji konsumenckich, 129 organizacji pozarządowych i 22 związki zawodowe), 72 respondentów wypowiedziało się jako „inni”. Spośród 352 przedstawicieli biznesu i przemysłu 222 stanowiły przedsiębiorstwa i przedstawiciele przedsiębiorstw, z czego 41,5 % to mikroprzedsiębiorstwa oraz małe i średnie przedsiębiorstwa. Resztę stanowiły stowarzyszenia przedsiębiorców. Ogółem 84 % odpowiedzi udzielonych przez przedstawicieli biznesu i przemysłu pochodziło z UE-27. W zależności od pytania od 81 do 598 respondentów skorzystało z opcji dowolnego tekstu w celu wprowadzenia uwag. Za pośrednictwem strony internetowej EU Survey przedłożono ponad 450 stanowisk – były one albo dołączone do odpowiedzi na pytania zawarte w kwestionariuszu (ponad 400), albo stanowiły samodzielne opinie (ponad 50). Zasadniczo zainteresowane strony są zgodne co do konieczności podjęcia działania. Znaczna większość zainteresowanych stron zgadza się, że istnieje luka prawna lub że konieczne jest wprowadzenie nowych przepisów. Szereg zainteresowanych stron ostrzega jednak Komisję, aby unikała powielania przepisów, sprzecznych obowiązków i nadmiernej regulacji. W wielu uwagach podkreślono znaczenie proporcjonalnych ram regulacyjnych, które byłyby neutralne pod względem technologicznym. Zainteresowane strony w większości domagały się wąskiej, jasnej i precyzyjnej definicji sztucznej inteligencji. Zainteresowane strony podkreśliły również, że oprócz wyjaśnienia terminu „sztuczna inteligencja”, ważne jest zdefiniowanie „ryzyka”, „wysokiego ryzyka”, „niskiego ryzyka”, „zdalnej identyfikacji biometrycznej” oraz „szkody”. Większość respondentów jednoznacznie opowiada się za podejściem opartym na analizie ryzyka. Uznano, że zastosowanie ram opartych na analizie ryzyka jest lepszym rozwiązaniem niż ogólne uregulowanie wszystkich systemów sztucznej inteligencji. Rodzaje ryzyka i zagrożeń powinny być ustalane na podstawie indywidualnego podejścia do każdego sektora i każdego przypadku. Ryzyko należy również kalkulować, biorąc pod uwagę wpływ na prawa i bezpieczeństwo. Piaskownice regulacyjne mogłyby być bardzo przydatne w promowaniu AI i niektóre zainteresowane strony przyjmują je z zadowoleniem, zwłaszcza stowarzyszenia przedsiębiorców. Spośród osób, które wyraziły swoją opinię na temat modeli egzekwowania przepisów, ponad 50 %, zwłaszcza przedstawicieli stowarzyszeń przedsiębiorców, opowiedziało się za połączeniem dokonywanej ex ante samooceny ryzyka i egzekwowania ex post w odniesieniu do systemów sztucznej inteligencji wysokiego ryzyka. 3.2.Gromadzenie i wykorzystanie wiedzy eksperckiej Wniosek opiera się na dwuletniej analizie i dużym zaangażowaniu zainteresowanych stron, w tym środowisk akademickich, przedsiębiorstw, partnerów społecznych, organizacji pozarządowych, państw członkowskich i obywateli. Prace przygotowawcze rozpoczęły się w 2018 r. od powołania grupy ekspertów wysokiego szczebla ds. AI o pluralistycznym i szerokim składzie, w której zasiada 52 znanych ekspertów, których zadaniem jest doradzanie Komisji w kwestiach realizacji strategii Komisji w sprawie sztucznej inteligencji. W kwietniu 2019 r. Komisja poparła kluczowe wymogi określone w wytycznych w zakresie etyki dotyczących godnej zaufania sztucznej inteligencji opracowanych przez grupę ekspertów wysokiego szczebla ds. AI, które zmieniono w celu uwzględnienia ponad 500 uwag otrzymanych od zainteresowanych stron. W kluczowych wymogach odzwierciedlono powszechnie stosowane i wspólne podejście, o czym świadczy duża liczba kodeksów i zasad etycznych opracowanych przez wiele organizacji prywatnych i publicznych w Europie i poza nią, zgodnie z którym w rozwijaniu i wykorzystywaniu AI należy kierować się pewnymi podstawowymi zasadami opartymi na wartościach. Dzięki liście kontrolnej dla godnej zaufania sztucznej inteligencji (ALTAI) wprowadzono te wymagania w życie w ramach procesu pilotażowego z udziałem ponad 350 organizacji. Ponadto powołano sojusz na rzecz sztucznej inteligencji jako platformę, na której około 4 000 zainteresowanych stron będzie mogło prowadzić dyskusje na temat technologicznych i społecznych konsekwencji sztucznej inteligencji, których zwieńczeniem będzie coroczne zgromadzenie poświęcone sztucznej inteligencji. W białej księdze w sprawie sztucznej inteligencji jeszcze bardziej rozwinięto to pluralistyczne podejście, co zachęciło ponad 1 250 zainteresowanych stron do zgłoszenia uwag, w tym ponad 450 dodatkowych stanowisk. W związku z tym Komisja opublikowała wstępną ocenę skutków, w odpowiedzi na którą przesłano z kolei ponad 130 uwag. Zorganizowano również dodatkowe warsztaty i wydarzenia dla zainteresowanych stron, których wyniki wykorzystano w analizie zawartej w ocenie skutków oraz przy wyborze wariantów strategicznych na potrzeby niniejszego wniosku. Zamówiono również badanie zewnętrzne, które stanowi część oceny skutków. 3.3.Ocena skutków Zgodnie ze swoją strategią „lepszego stanowienia prawa” Komisja przeprowadziła ocenę skutków w odniesieniu do niniejszego wniosku, która została zbadana przez działającą przy Komisji Radę ds. Kontroli Regulacyjnej. W dniu 16 grudnia 2020 r. odbyło się spotkanie z Radą ds. Kontroli Regulacyjnej, po którym Rada wydała negatywną opinię. Po wprowadzeniu istotnych zmian w ocenie skutków w celu uwzględnienia uwag oraz po ponownym przedłożeniu oceny skutków w dniu 21 marca 2021 r. Rada ds. Kontroli Regulacyjnej wydała pozytywną opinię. Opinie Rady ds. Kontroli Regulacyjnej, zalecenia oraz wyjaśnienie sposobu ich uwzględnienia przedstawiono w załączniku 1 do oceny skutków.

Komisja zbadała różne warianty strategiczne, aby osiągnąć ogólny cel niniejszego wniosku polegający na zapewnieniu prawidłowego funkcjonowania jednolitego rynku przez stworzenie warunków sprzyjających rozwijaniu i wykorzystywaniu w Unii wiarygodnej sztucznej inteligencji. Oceniono cztery warianty strategiczne zakładające różny stopień interwencji regulacyjnej: ·wariant 1: instrument legislacyjny UE ustanawiający dobrowolny system etykietowania; ·wariant 2: podejście sektorowe ad hoc; ·wariant 3: horyzontalny instrument legislacyjny UE uwzględniający proporcjonalne podejście oparte na analizie ryzyka; ·wariant 3+: horyzontalny instrument legislacyjny UE uwzględniający proporcjonalne podejście oparte na analizie ryzyka + kodeksy postępowania dotyczące systemów sztucznej inteligencji nieobarczonych wysokim ryzykiem; ·wariant 4: horyzontalny instrument legislacyjny UE ustanawiający obowiązkowe wymogi dotyczące wszystkich systemów sztucznej inteligencji, niezależnie od ryzyka, jakie stwarzają. Zgodnie z przyjętą przez Komisję metodyką każdy wariant strategiczny oceniono pod kątem skutków gospodarczych i społecznych, ze szczególnym uwzględnieniem skutków dla praw podstawowych. Preferowanym wariantem jest wariant 3+, czyli ramy regulacyjne dotyczące wyłącznie systemów sztucznej inteligencji wysokiego ryzyka, przewidujące jednocześnie możliwość przyjęcia kodeksu postępowania, do którego mogliby się dobrowolnie stosować wszyscy dostawcy systemów sztucznej inteligencji nieobarczonych wysokim ryzykiem. Wymogi – obowiązkowe dla systemów sztucznej inteligencji wysokiego ryzyka – będą dotyczyć danych, dokumentacji i identyfikowalności, dostarczania informacji i przejrzystości, nadzoru ze strony człowieka oraz solidności i dokładności. Przedsiębiorstwa, które zechcą wprowadzić kodeksy postępowania w odniesieniu do innych systemów sztucznej inteligencji, robiłyby to dobrowolnie. Uznano, iż preferowany wariant będzie odpowiedni, aby w najbardziej skuteczny sposób przyczynić się do osiągnięcia celów niniejszego wniosku. Wymagając od twórców i użytkowników AI ograniczonego, ale skutecznego zestawu działań, preferowany wariant ogranicza ryzyko naruszenia praw podstawowych i bezpieczeństwa ludzi oraz sprzyja skutecznemu nadzorowi i egzekwowaniu poprzez ukierunkowanie wymogów wyłącznie na systemy, w przypadku których istnieje wysokie ryzyko wystąpienia takich naruszeń. W rezultacie wariant ten pozwala utrzymać koszty przestrzegania przepisów na minimalnym poziomie, dzięki czemu można będzie uniknąć niepotrzebnego spowolnienia absorpcji ze względu na wyższe ceny i koszty przestrzegania przepisów. Aby zaradzić ewentualnym niekorzystnym skutkom dla MŚP, wariant ten obejmuje szereg przepisów mających na celu ułatwienie przestrzegania przez nie przepisów i obniżenie ponoszonych przez nie kosztów, w tym utworzenie piaskownic regulacyjnych oraz obowiązek uwzględniania interesów MŚP przy ustalaniu opłat związanych z oceną zgodności. Preferowany wariant zwiększy zaufanie ludzi do AI, przedsiębiorstwa zyskają pewność prawa, a państwa członkowskie nie będą miały powodu do podejmowania jednostronnych działań, które mogłyby doprowadzić do fragmentacji jednolitego rynku. W wyniku większego popytu wynikającego z większego zaufania, większej dostępności ofert dzięki pewności prawa oraz braku przeszkód w transgranicznym przepływie systemów sztucznej inteligencji jednolity rynek AI powinien dynamicznie rozwinąć się. Unia Europejska będzie nadal rozwijać szybko rosnący ekosystem sztucznej inteligencji, obejmujący innowacyjne usługi i produkty z wbudowaną technologią sztucznej inteligencji lub samodzielne systemy sztucznej inteligencji, co doprowadzi do zwiększenia autonomii cyfrowej. Przedsiębiorstwa lub organy publiczne, które opracowują lub wykorzystują zastosowania AI stanowiące wysokie ryzyko dla bezpieczeństwa lub praw podstawowych obywateli, musiałyby spełnić szczególne wymogi i obowiązki. Spełnienie tych wymogów oznaczałoby konieczność poniesienia do 2025 r. kosztów w wysokości około 6 000 EUR do 7 000 EUR w przypadku udostępnienia systemu sztucznej inteligencji wysokiego ryzyka o wartości około 170 000 EUR. W przypadku użytkowników AI dochodziłby jeszcze roczny koszt czasu poświęconego na zapewnienie nadzoru ze strony człowieka, gdy jest to właściwe, w zależności od przypadku użycia. Koszt ten oszacowano na około 5 000 EUR do 8 000 EUR rocznie. Koszty weryfikacji mogłyby wynieść od 3 000 EUR do 7 500 EUR w przypadku dostawców AI wysokiego ryzyka. W odniesieniu do przedsiębiorstw lub organów publicznych, które opracowują lub wykorzystują AI w ramach zastosowania niesklasyfikowanego jako zastosowanie wysokiego ryzyka, obowiązek informacyjny miałby zastosowanie w minimalnym zakresie. Mogłyby one jednak zdecydować się dołączyć do innych i wspólnie przyjąć kodeks postępowania, zobowiązując się do przestrzegania odpowiednich wymogów, co dałoby pewność, że ich systemy sztucznej inteligencji są wiarygodne. W takim przypadku koszty byłyby co najwyżej równe kosztom ponoszonym w przypadku systemów sztucznej inteligencji wysokiego ryzyka, choć najprawdopodobniej byłyby niższe. Wpływ wariantów strategicznych na różne kategorie zainteresowanych stron (podmioty gospodarcze/przedsiębiorstwa; jednostki oceniające zgodność, organy normalizacyjne i inne podmioty publiczne; osoby fizyczne/obywateli; naukowców) wyjaśniono szczegółowo w załączniku 3 do oceny skutków uzupełniającej niniejszy wniosek. 3.4.Sprawność regulacyjna i uproszczenie W niniejszym wniosku ustanawia się obowiązki, które będą miały zastosowanie do dostawców i użytkowników systemów sztucznej inteligencji wysokiego ryzyka. W przypadku dostawców, którzy opracowują i wprowadzają takie systemy na rynek unijny, stworzy to pewność prawa i zapewni brak przeszkód w transgranicznym świadczeniu usług i oferowaniu produktów związanych z AI. W przypadku przedsiębiorstw korzystających z AI pozwoli to zwiększyć zaufanie wśród ich klientów. W przypadku krajowych administracji publicznych pozwoli to zbudować zaufanie społeczeństwa do wykorzystywania sztucznej inteligencji i wzmocni mechanizmy egzekwowania prawa (poprzez wprowadzenie europejskiego mechanizmu koordynacji, zapewnienie odpowiedniego potencjału i ułatwienie kontroli systemów sztucznej inteligencji dzięki wprowadzeniu nowych wymogów w zakresie dokumentacji, identyfikowalności i przejrzystości). Ponadto w ramach tych zostaną uwzględnione szczególne środki wspierające innowacyjność, w tym piaskownice regulacyjne oraz szczególne środki mające wspierać drobnych użytkowników i dostawców systemów sztucznej inteligencji wysokiego ryzyka w przestrzeganiu nowych przepisów. Wniosek ma również na celu wzmocnienie konkurencyjności i bazy przemysłowej Europy w dziedzinie sztucznej inteligencji. Zapewniono w nim pełną spójność z istniejącymi sektorowymi przepisami Unii mającymi zastosowanie do systemów sztucznej inteligencji (np. dotyczących produktów i usług), co zapewni większą jasność i uprości egzekwowanie nowych przepisów. 3.5.Prawa podstawowe Wykorzystywanie sztucznej inteligencji wraz z jej szczególnymi cechami (np. efekt czarnej skrzynki, złożoność, zależność od danych, autonomiczne zachowanie) może mieć negatywny wpływ na szereg praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej („Karta”). Niniejszy wniosek ma na celu zapewnienie wysokiego poziomu ochrony tych praw podstawowych i zmierza do uwzględnienia różnych źródeł ryzyka poprzez jasno określone podejście oparte na analizie ryzyka. Dzięki zestawowi wymogów dotyczących wiarygodnej sztucznej inteligencji oraz proporcjonalnym obowiązkom nałożonym na wszystkich uczestników łańcucha wartości wniosek wzmocni i będzie promował ochronę praw chronionych Kartą, do których zaliczają się: prawo do godności człowieka (art. 1), poszanowanie życia prywatnego i ochrona danych osobowych (art. 7 i 8), niedyskryminacja (art. 21) oraz równość kobiet i mężczyzn (art. 23). Ma on na celu zapobieganie ograniczaniu prawa do wolności wypowiedzi (art. 11) i wolności zgromadzania się (art. 12), zapewnienie ochrony prawa do skutecznego środka prawnego i dostępu do bezstronnego sądu, prawa do obrony i domniemania niewinności (art. 47 i 48), jak również ogólnej zasady dobrej administracji. Ponadto, w razie potrzeby w określonych dziedzinach, wniosek będzie miał pozytywny wpływ na prawa wielu szczególnych grup, takie jak prawa pracowników do należytych i sprawiedliwych warunków pracy (art. 31), wysoki poziom ochrony konsumentów (art. 28), prawa dziecka (art. 24) oraz integracja osób niepełnosprawnych (art. 26). Istotne jest również prawo do wysokiego poziomu ochrony środowiska i poprawa jego jakości (art. 37), w tym w odniesieniu do zdrowia i bezpieczeństwa ludzi. Obowiązki w zakresie testowania ex ante, zarządzania ryzykiem i nadzoru ze strony człowieka ułatwią również poszanowanie innych praw podstawowych poprzez zminimalizowanie ryzyka błędnych lub stronniczych decyzji podejmowanych przy wsparciu AI w obszarach krytycznych, takich jak kształcenie i szkolenie, zatrudnienie, ważne usługi, egzekwowanie prawa i sądownictwo. W przypadku gdyby nadal dochodziło do naruszeń praw podstawowych, skuteczne dochodzenie roszczeń przez osoby poszkodowane będzie możliwe dzięki zapewnieniu przejrzystości i identyfikowalności systemów sztucznej inteligencji w połączeniu z solidnymi kontrolami ex post. W niniejszym wniosku nałożono pewne ograniczenia na wolność prowadzenia działalności gospodarczej (art. 16) oraz wolność sztuki i nauki (art. 13) w celu zapewnienia zgodności z nadrzędnym interesem publicznym, przejawiającym się w takich dziedzinach jak zdrowie, bezpieczeństwo, ochrona konsumentów i ochrona innych praw podstawowych („odpowiedzialne innowacje”) w przypadku opracowywania i stosowania technologii sztucznej inteligencji wysokiego ryzyka. Ograniczenia te są proporcjonalne i zawężone do minimum niezbędnego, aby zapobiegać poważnym zagrożeniom dla bezpieczeństwa i prawdopodobnym naruszeniom praw podstawowych oraz łagodzić ich skutki. Zwiększone obowiązki w zakresie przejrzystości nie będą miały również nieproporcjonalnego wpływu na prawo do ochrony własności intelektualnej (art. 17 ust. 2), ponieważ wymagane informacje będą ograniczone jedynie do niezbędnego minimum, tak aby osoby fizyczne mogły korzystać z prawa do skutecznego środka odwoławczego oraz aby zapewnić niezbędną przejrzystość wobec organów nadzoru i organów egzekwowania prawa, zgodnie z ich kompetencjami. Każde ujawnienie informacji będzie odbywało się zgodnie z odpowiednimi przepisami mającymi zastosowanie do danej dziedziny, w tym z dyrektywą (UE) 2016/943 w sprawie ochrony niejawnego know-how i niejawnych informacji handlowych (tajemnic przedsiębiorstwa) przed ich bezprawnym pozyskiwaniem, wykorzystywaniem i ujawnianiem. W przypadku gdy organy publiczne i jednostki notyfikowane będą musiały uzyskać dostęp do informacji poufnych lub kodu źródłowego w celu zbadania zgodności z istotnymi zobowiązaniami, będą podlegać wiążącemu obowiązkowi zachowania poufności. 4.WPŁYW NA BUDŻET

Państwa członkowskie będą musiały wyznaczyć organy nadzorcze odpowiedzialne za wdrażanie wymogów legislacyjnych. Ich funkcja nadzorcza mogłaby być realizowana w oparciu o istniejące struktury, na przykład jednostki oceniające zgodność lub struktury nadzoru rynku, ale będzie wymagać odpowiedniej wiedzy specjalistycznej w zakresie technologii oraz odpowiednich zasobów ludzkich i finansowych. W zależności od istniejącej wcześniej struktury w każdym państwie członkowskim może to być od 1 do 25 ekwiwalentów pełnego czasu pracy na państwo członkowskie. Szczegółowy przegląd odnośnych kosztów znajduje się w ocenie skutków finansowych regulacji dołączonej do niniejszego wniosku. 5.ELEMENTY FAKULTATYWNE 5.1.Plany wdrożenia i monitorowanie, ocena i sprawozdania Zapewnienie solidnego mechanizmu monitorowania i oceny ma zasadnicze znaczenie dla zapewnienia skuteczności wniosku w osiąganiu jego celów szczegółowych. Komisja będzie odpowiedzialna za monitorowanie skutków wniosku. Ustanowi ona system rejestracji samodzielnych zastosowań sztucznej inteligencji wysokiego ryzyka w publicznej ogólnounijnej bazie danych. Rejestracja ta pozwoli również właściwym organom, użytkownikom i innym zainteresowanym osobom sprawdzić, czy dany system sztucznej inteligencji wysokiego ryzyka spełnia wymogi określone we wniosku, oraz umożliwi sprawowanie zwiększonego nadzoru nad systemami sztucznej inteligencji stwarzającymi wysokie ryzyko dla praw podstawowych. Tę bazę danych będą zasilać dostawcy AI, którzy będą zobowiązani do przekazywania istotnych informacji na temat swoich systemów oraz oceny zgodności przeprowadzonej w odniesieniu do tych systemów. Ponadto dostawcy AI będą zobowiązani do informowania właściwych organów krajowych o poważnych incydentach lub przypadkach nieprawidłowego działania stanowiących naruszenie obowiązków w zakresie praw podstawowych, gdy tylko się o nich dowiedzą, a także o wszelkich przypadkach wycofania systemów sztucznej inteligencji od użytkowników lub wycofania ich z rynku. Po każdym takim zdarzeniu właściwe organy krajowe przeprowadzą dochodzenie w sprawie incydentu lub nieprawidłowego działania, będą gromadzić wszystkie niezbędne informacje i będą je regularnie przekazywać Komisji wraz z odpowiednimi metadanymi. Uzupełnienie tych informacji na temat incydentów stanowić będzie kompleksowa analiza ogólnego rynku AI przeprowadzona przez Komisję. Komisja opublikuje sprawozdanie, w którym oceni ramy w zakresie AI będące przedmiotem niniejszego wniosku i dokona ich przeglądu po upływie pięciu lat od daty rozpoczęcia ich stosowania. 5.2.Szczegółowe objaśnienia poszczególnych przepisów wniosku 5.2.1.ZAKRES I DEFINICJE (TYTUŁ I) W tytule I określono przedmiot rozporządzenia i zakres stosowania nowych przepisów obejmujących wprowadzanie do obrotu, oddawanie do użytku i wykorzystywanie systemów sztucznej inteligencji. Przedstawiono w nim również definicje stosowane w całym akcie. Definicję systemu sztucznej inteligencji sformułowano w ramach prawnych w taki sposób, aby w możliwie największym stopniu była neutralna pod względem technologicznym i nie ulegała dezaktualizacji, biorąc pod uwagę szybki rozwój technologiczny i rozwój sytuacji rynkowej w dziedzinie AI. W celu zapewnienia niezbędnej pewności prawa uzupełnieniem tytułu I jest załącznik I zawierający szczegółowy wykaz podejść i technik na potrzeby rozwoju AI, które mają być dostosowywane przez Komisję w świetle postępu technologicznego. Wyraźnie określono również kluczowych uczestników w łańcuchu wartości sztucznej inteligencji, takich jak dostawcy i użytkownicy systemów sztucznej inteligencji, przy czym aby zapewnić równe warunki działania, zaliczono do nich zarówno podmioty publiczne, jak i prywatne. 5.2.2.ZAKAZANE PRAKTYKI W ZAKRESIE SZTUCZNEJ INTELIGENCJI (TYTUŁ II) W tytule II ustanowiono wykaz zakazanych praktyk w zakresie sztucznej inteligencji. W rozporządzeniu zastosowano podejście oparte na analizie ryzyka, wprowadzając rozróżnienie między zastosowaniami AI, które stwarzają (i) niedopuszczalne ryzyko, (ii) wysokie ryzyko oraz (iii) niskie lub minimalne ryzyko. Przedstawiony w tytule II wykaz zakazanych praktyk obejmuje wszystkie systemy sztucznej inteligencji, których wykorzystywanie uznaje się za niedopuszczalne ze względu na ich sprzeczność z wartościami Unii, na przykład ze względu na fakt, że naruszają one prawa podstawowe. Zakazy obejmują praktyki, które wykazują znaczny potencjał manipulowania ludźmi, oparte na technikach podprogowych działających na ich podświadomość lub wykorzystujące słabości określonych słabszych grup, takich jak dzieci lub osoby z niepełnosprawnościami, aby istotnie wypaczyć ich zachowania w sposób, który może spowodować u nich lub u innej osoby szkodę psychiczną lub fizyczną. Inne praktyki polegające na manipulacji lub wykorzystywaniu osób dorosłych, których stosowanie może być ułatwione przez systemy sztucznej inteligencji, mogłyby zostać objęte obowiązującymi przepisami dotyczącymi ochrony danych, ochrony konsumentów i usług cyfrowych zapewniającymi, aby osoby fizyczne były odpowiednio informowane i mogły swobodnie zdecydować o niepodleganiu profilowaniu lub innym praktykom mogącym wpływać na ich zachowanie. We wniosku zakazuje się również organom publicznym stosowania do celów ogólnych opartych na sztucznej inteligencji systemów punktowej oceny zachowań społecznych . Ponadto zakazuje się również wykorzystywania systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów egzekwowania prawa, chyba że mają zastosowanie niektóre ograniczone wyjątki. 5.2.3.SYSTEMY SZTUCZNEJ INTELIGENCJI WYSOKIEGO RYZYKA (TYTUŁ III) W tytule III zawarto przepisy szczegółowe dotyczące systemów sztucznej inteligencji, które stwarzają wysokie ryzyko dla zdrowia i bezpieczeństwa lub praw podstawowych osób fizycznych. Zgodnie z podejściem opartym na analizie ryzyka te systemy sztucznej inteligencji wysokiego ryzyka dopuszcza się do obrotu na rynku europejskim pod warunkiem spełnienia określonych wymogów obowiązkowych i przeprowadzenia oceny zgodności ex ante. Klasyfikacja systemu sztucznej inteligencji jako systemu wysokiego ryzyka opiera się na przeznaczeniu systemu AI, zgodnie z obowiązującymi przepisami dotyczącymi bezpieczeństwa produktów. Dlatego też klasyfikacja jako system sztucznej inteligencji wysokiego ryzyka zależy nie tylko od funkcji pełnionej przez system sztucznej inteligencji, ale także od konkretnego celu i trybu jego wykorzystania. W tytule III rozdział 1 określono zasady klasyfikacji i wskazano dwie główne kategorie systemów sztucznej inteligencji wysokiego ryzyka: ·systemy sztucznej inteligencji przeznaczone do wykorzystywania jako związane z bezpieczeństwem elementy produktów podlegających ocenie zgodności ex ante przeprowadzanej przez osoby trzecie; ·inne samodzielne systemy sztucznej inteligencji mające wpływ głównie na prawa podstawowe, które wyraźnie wymieniono w załączniku III. Zawarty w załączniku III wykaz systemów sztucznej inteligencji wysokiego ryzyka zawiera ograniczoną liczbę systemów sztucznej inteligencji, w przypadku których ryzyko już się urzeczywistniło lub może się urzeczywistnić w najbliższej przyszłości. Aby zapewnić możliwość dostosowania rozporządzenia do pojawiających się sposobów wykorzystania i zastosowań AI, Komisja może rozszerzyć wykaz systemów sztucznej inteligencji wysokiego ryzyka wykorzystywanych w pewnych z góry określonych obszarach, stosując zestaw kryteriów i metodykę oceny ryzyka. W rozdziale 2 przedstawiono prawne wymogi, jakie systemy sztucznej inteligencji wysokiego ryzyka muszą spełniać, a dotyczące danych i zarządzania danymi, dokumentacji i rejestrowania zdarzeń, przejrzystości i dostarczania informacji użytkownikom, nadzoru ze strony człowieka, solidności, dokładności i bezpieczeństwa. Proponowane minimalne wymogi są już codziennością dla wielu działających z należytą starannością podmiotów gospodarczych i są wynikiem dwóch lat prac przygotowawczych opartych na wytycznych w zakresie etyki opracowanych przez grupę ekspertów wysokiego szczebla ds. AI, pilotażowo realizowanych przez ponad 350 organizacji. Są one również w dużej mierze spójne z innymi międzynarodowymi zaleceniami i zasadami, co gwarantuje, że proponowane ramy w zakresie AI są zgodne z ramami przyjętymi przez międzynarodowych partnerów handlowych UE. Konkretne rozwiązania techniczne mające na celu osiągnięcie zgodności z tymi wymogami mogą zostać określone w formie norm lub innych specyfikacji technicznych lub opracowane w inny sposób zgodnie z ogólną wiedzą techniczną lub naukową, według uznania dostawcy systemu sztucznej inteligencji. Ta elastyczność jest szczególnie ważna, ponieważ umożliwia dostawcom systemów sztucznej inteligencji wybór sposobu spełnienia obowiązujących ich wymagań, przy uwzględnieniu stanu techniki oraz postępu technologicznego i naukowego w tej dziedzinie. W rozdziale 3 nałożono na dostawców systemów sztucznej inteligencji wysokiego ryzyka jasno określony zestaw obowiązków horyzontalnych. Proporcjonalne obowiązki nałożono również na użytkowników i innych uczestników łańcucha wartości AI (np. importerów, dystrybutorów, autoryzowanych przedstawicieli).

W rozdziale 4 określono ramy dla jednostek notyfikowanych, które mają być zaangażowane w procedury oceny zgodności jako niezależne osoby trzecie, natomiast w rozdziale 5 szczegółowo wyjaśniono procedury oceny zgodności, które należy stosować w przypadku każdego rodzaju systemu sztucznej inteligencji wysokiego ryzyka. Podejście oparte na ocenie zgodności ma na celu zminimalizowanie obciążenia podmiotów gospodarczych oraz jednostek notyfikowanych, których zdolności muszą być z czasem stopniowo zwiększane. Systemy sztucznej inteligencji, które mają być wykorzystywane jako związane z bezpieczeństwem elementy produktów podlegających przepisom nowych ram prawnych (np. maszyn, zabawek, wyrobów medycznych itp.), będą podlegać tym samym mechanizmom zapewnienia zgodności i egzekwowania przepisów w trybie ex ante i ex post, co produkty, których są elementem. Kluczowa różnica polega na tym, że mechanizmy ex ante i ex post zapewnią zgodność nie tylko z wymogami określonymi w przepisach sektorowych, ale także z wymogami określonymi w niniejszym rozporządzeniu. W odniesieniu do samodzielnych systemów sztucznej inteligencji wysokiego ryzyka, o których mowa w załączniku III, ustanowiony zostanie nowy system zapewnienia zgodności i egzekwowania przepisów. Jest to zgodne z modelem przewidzianym w nowych ramach prawnych, który – z wyjątkiem systemów zdalnej identyfikacji biometrycznej, które podlegałyby ocenie zgodności przeprowadzanej przez osobę trzecią – zakłada weryfikacje przeprowadzane przez dostawców w ramach ich systemów kontroli wewnętrznej. Kompleksowa ocena zgodności ex ante przeprowadzana w ramach kontroli wewnętrznych, połączona z rygorystycznym egzekwowaniem ex post, mogłaby być skutecznym i uzasadnionym rozwiązaniem w przypadku tych systemów, biorąc pod uwagę wczesny etap interwencji regulacyjnej oraz fakt, że sektor AI charakteryzuje się dużą innowacyjnością, a wiedza ekspercka potrzebna do jego kontrolowania jest dopiero gromadzona. Ocena w ramach kontroli wewnętrznych w przypadku „samodzielnych” systemów sztucznej inteligencji wysokiego ryzyka wymagałaby stosowania kompleksowego, skutecznego i odpowiednio udokumentowanego procesu zapewnienia zgodności ex ante ze wszystkimi wymogami rozporządzenia oraz zgodności z solidnymi systemami zarządzania jakością i ryzykiem oraz monitorowania po wprowadzeniu do obrotu. Po przeprowadzeniu przez dostawcę odpowiedniej oceny zgodności powinien on zarejestrować te samodzielne systemy sztucznej inteligencji wysokiego ryzyka w unijnej bazie danych, która będzie zarządzana przez Komisję w celu zwiększenia publicznej przejrzystości i kontroli oraz wzmocnienia nadzoru ex post sprawowanego przez właściwe organy. Natomiast w celu zachowania spójności z obowiązującymi przepisami dotyczącymi bezpieczeństwa produktów oceny zgodności systemów sztucznej inteligencji, które stanowią związane z bezpieczeństwem elementy produktów, będą przeprowadzane w ramach systemu obejmującego procedury oceny zgodności przeprowadzanej przez osobę trzecią, które już ustanowiono na podstawie odpowiednich przepisów sektorowych dotyczących bezpieczeństwa produktów. Nowe ponowne oceny zgodności ex ante będą potrzebne w przypadku istotnych zmian wprowadzanych w systemach sztucznej inteligencji (a zwłaszcza zmian, które wykraczają poza to, co zostało wstępnie ustalone przez dostawcę w jego dokumentacji technicznej i zweryfikowane w momencie przeprowadzania oceny zgodności ex ante). 5.2.4.OBOWIĄZKI W ZAKRESIE PRZEJRZYSTOŚCI W ODNIESIENIU DO OKREŚLONYCH SYSTEMÓW SZTUCZNEJ INTELIGENCJI (TYTUŁ IV) Tytuł IV dotyczy określonych systemów sztucznej inteligencji i ma na celu uwzględnienie szczególnego ryzyka manipulacji, jakie one stwarzają. Obowiązki w zakresie przejrzystości będą miały zastosowanie do systemów, które (i) wchodzą w interakcję z człowiekiem, (ii) są wykorzystywane do wykrywania emocji lub określania powiązań z kategoriami (społecznymi) na podstawie danych biometrycznych lub (iii) generują treści lub manipulują nimi (technologia deepfake). Gdy osoby fizyczne wchodzą w interakcję się z systemem sztucznej inteligencji lub gdy ich emocje lub cechy charakterystyczne są rozpoznawane za pomocą środków zautomatyzowanych, konieczne jest poinformowanie ich o tym fakcie. Jeżeli system sztucznej inteligencji jest wykorzystywany do generowania obrazów, dźwięków lub treści wideo, które w znacznym stopniu przypominają autentyczne treści, lub do manipulowania takimi obrazami, dźwiękami lub treściami wideo, powinien istnieć obowiązek ujawniania, że dane treści wygenerowano za pomocą środków zautomatyzowanych, z zastrzeżeniem sytuacji wyjątkowych dotyczących zgodnych z prawem celów (egzekwowanie prawa, wolność wypowiedzi). Pozwala to tym osobom na dokonywanie świadomych wyborów lub na wycofanie się z danej sytuacji. 5.2.5.ŚRODKI WSPIERAJĄCE INNOWACYJNOŚĆ (TYTUŁ V) Tytuł V przyczynia się do realizacji celu polegającego na utworzeniu ram prawnych, które sprzyjają innowacyjności, nie ulegają dezaktualizacji i są odporne na zakłócenia. W tym celu zachęca się w nim właściwe organy krajowe do tworzenia piaskownic regulacyjnych i ustanawia się podstawowe ramy w zakresie zarządzania, nadzoru i odpowiedzialności. Piaskownice regulacyjne w zakresie AI tworzą kontrolowane środowisko do testowania innowacyjnych technologii przez ograniczony czas na podstawie planu testów uzgodnionego z właściwymi organami. Tytuł V zawiera również środki mające na celu zmniejszenie obciążeń regulacyjnych dla MŚP i przedsiębiorstw typu start-up. 5.2.6.ZARZĄDZANIE I WDRAŻANIE (TYTUŁY VI, VII I VII) W tytule VI ustanawia się systemy zarządzania na szczeblu unijnym i krajowym. Na szczeblu unijnym we wniosku powołano Europejską Radę ds. Sztucznej Inteligencji (zwaną dalej „Radą”), w skład której wchodzą przedstawiciele państw członkowskich i Komisji. Rada będzie ułatwiać sprawne, skuteczne i zharmonizowane wdrażanie niniejszego rozporządzenia, przyczyniając się do skutecznej współpracy krajowych organów nadzorczych i Komisji oraz służąc Komisji radą i wiedzą fachową. Będzie ona również gromadzić najlepsze praktyki i udostępniać je państwom członkowskim. Na szczeblu krajowym państwa członkowskie będą musiały wyznaczyć co najmniej jeden właściwy organ krajowy, a spośród tych organów – krajowy organ nadzorczy, do celów sprawowania nadzoru nad stosowaniem i wdrażaniem rozporządzenia. Europejski Inspektor Ochrony Danych będzie występował w charakterze właściwego organu w zakresie nadzoru nad instytucjami, agencjami i jednostkami organizacyjnymi Unii, w przypadku gdy te wchodzą w zakres niniejszego rozporządzenia. Tytuł VII ma na celu ułatwienie prac Komisji i organów krajowych w zakresie monitorowania poprzez utworzenie ogólnounijnej bazy danych gromadzącej informacje o samodzielnych systemach sztucznej inteligencji wysokiego ryzyka mających wpływ głównie na prawa podstawowe. Obsługą bazy danych zajmie się Komisja, a umieszczane w niej dane będą pochodzić od dostawców systemów sztucznej inteligencji, którzy będą zobowiązani do zarejestrowania swoich systemów przed wprowadzeniem ich na rynek lub oddaniem do użytku w inny sposób. W tytule VIII określono obowiązki dostawców systemów sztucznej inteligencji w zakresie monitorowania i zgłaszania zdarzeń, a dokładniej obowiązki w zakresie monitorowania systemu po jego wprowadzeniu do obrotu oraz zgłaszania incydentów i przypadków nieprawidłowego działania związanych ze sztuczną inteligencją i prowadzenia dochodzeń w tych sprawach. Organy nadzoru rynku będą również kontrolować rynek i sprawdzać zgodność z obowiązkami i wymogami dotyczącymi wszystkich systemów sztucznej inteligencji wysokiego ryzyka już wprowadzonych do obrotu. Organy nadzoru rynku będą posiadały wszystkie uprawnienia wynikające z rozporządzenia (UE) 2019/1020 w sprawie nadzoru rynku. Egzekwowanie prawa ex post powinno zapewnić, aby po wprowadzeniu systemu sztucznej inteligencji do obrotu organy publiczne dysponowały uprawnieniami i zasobami umożliwiającymi interwencję w przypadku, gdy systemy sztucznej inteligencji generują nieoczekiwane ryzyko, które wymaga szybkiego działania. Będą one również monitorować spełnianie przez podmioty gospodarcze ich odpowiednich obowiązków wynikających z rozporządzenia. We wniosku nie przewidziano automatycznego tworzenia żadnych dodatkowych organów lub władz na poziomie państw członkowskich. Państwa członkowskie mogą zatem wyznaczyć istniejące organy sektorowe (i korzystać z ich wiedzy specjalistycznej), którym mogą powierzyć również uprawnienia w zakresie monitorowania i egzekwowania przepisów rozporządzenia. Wszystko to pozostaje bez uszczerbku dla istniejącego systemu i podziału uprawnień w zakresie egzekwowania ex post obowiązków dotyczących praw podstawowych w państwach członkowskich. Jeżeli jest to niezbędne do wykonywania ich mandatu, istniejące organy nadzoru i egzekwowania prawa będą również uprawnione do żądania dostępu do wszelkiej dokumentacji prowadzonej na podstawie niniejszego rozporządzenia oraz, w razie potrzeby, do kierowania do organów nadzoru rynku wniosków o zorganizowanie testów systemu sztucznej inteligencji wysokiego ryzyka za pomocą środków technicznych. 5.2.7.KODEKSY POSTĘPOWANIA (TYTUŁ IX) W tytule IX ustanowiono ramy dotyczące tworzenia kodeksów postępowania, które mają na celu zachęcenie dostawców systemów sztucznej inteligencji nieobarczonych wysokim ryzykiem do dobrowolnego stosowania się do obowiązkowych wymogów mających zastosowanie do systemów sztucznej inteligencji wysokiego ryzyka (określonych w tytule III). Dostawcy systemów sztucznej inteligencji nieobarczonych wysokim ryzykiem mogą samodzielnie tworzyć i wdrażać kodeksy postępowania. Kodeksy te mogą również obejmować dobrowolne zobowiązania dotyczące na przykład zrównoważenia środowiskowego, dostępności systemu dla osób z niepełnosprawnościami, udziału zainteresowanych stron w projektowaniu i rozwijaniu systemów sztucznej inteligencji oraz zróżnicowanego pod wieloma względami składu zespołów programistycznych. 5.2.8.PRZEPISY KOŃCOWE (TYTUŁY X, XI I XII) W tytule X podkreślono zobowiązanie wszystkich stron do przestrzegania poufności informacji i danych oraz określono zasady wymiany informacji uzyskanych podczas wdrażania rozporządzenia. W tytule X uwzględniono również środki zapewniające skuteczne wdrożenie rozporządzenia poprzez skuteczne, proporcjonalne i odstraszające kary za naruszenie przepisów. W tytule XI określono zasady wykonywania przekazanych uprawnień i uprawnień wykonawczych. We wniosku upoważnia się Komisję do przyjęcia, w stosownych przypadkach, aktów wykonawczych w celu zapewnienia jednolitego stosowania rozporządzenia lub aktów delegowanych w celu aktualizacji lub uzupełnienia wykazów zawartych w załącznikach I–VII. W tytule XII zobowiązano Komisję do przeprowadzania regularnej oceny potrzeby aktualizacji załącznika III oraz do przygotowywania regularnych sprawozdań z oceny i przeglądu rozporządzenia. Określono w nim również przepisy końcowe, w tym zróżnicowany okres przejściowy w odniesieniu do początkowej daty rozpoczęcia stosowania rozporządzenia, aby ułatwić wszystkim zainteresowanym stronom jego sprawne wdrożenie. 2021/0106 (COD) Wniosek

ROZPORZĄDZENIE PARLAMENTU EUROPEJSKIEGO I RADY USTANAWIAJĄCE ZHARMONIZOWANE PRZEPISY DOTYCZĄCE SZTUCZNEJ INTELIGENCJI (AKT W SPRAWIE SZTUCZNEJ INTELIGENCJI) I ZMIENIAJĄCE NIEKTÓRE AKTY USTAWODAWCZE UNII PARLAMENT EUROPEJSKI I RADA UNII EUROPEJSKIEJ, uwzględniając Traktat o funkcjonowaniu Unii Europejskiej, w szczególności jego art. 16 i 114, uwzględniając wniosek Komisji Europejskiej, po przekazaniu projektu aktu ustawodawczego parlamentom narodowym, uwzględniając opinię Europejskiego Komitetu Ekonomiczno-Społecznego, uwzględniając opinię Komitetu Regionów, stanowiąc zgodnie ze zwykłą procedurą ustawodawczą, a także mając na uwadze, co następuje: (1)Celem niniejszego rozporządzenia jest poprawa funkcjonowania rynku wewnętrznego poprzez ustanowienie jednolitych ram prawnych, w szczególności w zakresie rozwoju, wprowadzania do obrotu i wykorzystywania sztucznej inteligencji zgodnie z wartościami Unii. Niniejsze rozporządzenie służy realizacji szeregu nadrzędnych celów interesu publicznego, takich jak wysoki poziom ochrony zdrowia, bezpieczeństwa i praw podstawowych, oraz zapewnia swobodny przepływ transgraniczny towarów i usług opartych na sztucznej inteligencji, uniemożliwiając tym samym państwom członkowskim nakładanie ograniczeń w zakresie opracowywania, wprowadzania do obrotu i wykorzystywania systemów sztucznej inteligencji, chyba że wyraźnie zezwolono na to w niniejszym rozporządzeniu. (2)Systemy sztucznej inteligencji mogą być łatwo wdrażane w wielu sektorach gospodarki i obszarach życia społecznego, w tym w wymiarze transgranicznym, i mogą być przedmiotem obrotu w całej Unii. Niektóre państwa członkowskie rozważały już przyjęcie przepisów krajowych w celu zapewnienia, aby sztuczna inteligencja była bezpieczna oraz rozwijana i wykorzystywana w sposób zgodny z obowiązkami wynikającymi z praw podstawowych. Zróżnicowane przepisy krajowe mogą prowadzić do rozdrobnienia rynku wewnętrznego i zmniejszenia pewności prawa dla operatorów, którzy opracowują lub wykorzystują systemy sztucznej inteligencji. Należy zatem zapewnić spójny i wysoki poziom ochrony w całej Unii, zapobiegając jednocześnie rozbieżnościom utrudniającym swobodny obrót systemami sztucznej inteligencji oraz powiązanymi produktami i usługami na rynku wewnętrznym poprzez ustanowienie jednolitych obowiązków dla operatorów i zagwarantowanie jednolitej ochrony nadrzędnego interesu publicznego i praw osób na całym rynku wewnętrznym, w oparciu o art. 114 Traktatu o funkcjonowaniu Unii Europejskiej (TFUE). W zakresie, w jakim niniejsze rozporządzenie zawiera określone przepisy szczegółowe dotyczące ochrony osób fizycznych w związku z przetwarzaniem danych osobowych w odniesieniu do ograniczenia wykorzystywania systemów sztucznej inteligencji do zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów egzekwowania prawa, podstawą niniejszego rozporządzenia w zakresie takich przepisów szczegółowych powinien być art. 16 TFUE. W świetle tych przepisów szczegółowych i odwołania się do art. 16 TFUE należy skonsultować się z Europejską Radą Ochrony Danych. (3)Sztuczna inteligencja to szybko rozwijająca się grupa technologii, które mogą przyczyniać się do wielu różnych korzyści społeczno-ekonomicznych we wszystkich gałęziach przemysłu i obszarach działalności społecznej. Rozwiązania bazujące na sztucznej inteligencji umożliwiają lepsze prognozowanie, optymalizację operacji i przydzielania zasobów oraz personalizację rozwiązań cyfrowych dostępnych dla osób fizycznych i organizacji, mają potencjał, aby zapewnić przedsiębiorstwom kluczową przewagę konkurencyjną i wspierać wyniki korzystne z punktu widzenia kwestii społecznych i ochrony środowiska, na przykład w zakresie opieki zdrowotnej, rolnictwa, kształcenia i szkolenia, zarządzania infrastrukturą, energetyki, transportu i logistyki, usług publicznych, bezpieczeństwa, wymiaru sprawiedliwości, zasobooszczędności i efektywności energetycznej oraz łagodzenia zmiany klimatu i przystosowywania się do niej. (4)Jednocześnie sztuczna inteligencja może być źródłem ryzyka i szkody dla interesu publicznego i przywilejów chronionych prawem Unii, w zależności od okoliczności dotyczących jej konkretnego zastosowania i wykorzystania. Szkody te mogą być materialne lub niematerialne. (5)Unijne ramy prawne określające zharmonizowane przepisy dotyczące sztucznej inteligencji są zatem niezbędne do wspierania rozwoju, wykorzystywania i upowszechniania sztucznej inteligencji na rynku wewnętrznym, przy jednoczesnym zapewnieniu wysokiego poziomu ochrony interesów publicznych, takich jak zdrowie i bezpieczeństwo oraz ochrona praw podstawowych, uznanych i chronionych przez prawo Unii. Aby osiągnąć ten cel, należy ustanowić przepisy regulujące wprowadzanie do obrotu i oddawanie do użytku niektórych systemów sztucznej inteligencji, zapewniając w ten sposób sprawne funkcjonowanie rynku wewnętrznego i umożliwiając swobodny obrót tymi systemami zgodnie z zasadą swobodnego przepływu towarów i usług. Ustanawiając te zasady, niniejsze rozporządzenie wspiera realizację celu, jakim jest osiągnięcie przez Unię pozycji światowego lidera, jeśli chodzi o rozwój bezpiecznej, wiarygodnej i etycznej sztucznej inteligencji, zgodnie z konkluzjami Rady Europejskiej, oraz zapewnia ochronę zasad etycznych, zgodnie z wyraźnym żądaniem Parlamentu Europejskiego. (6)Pojęcie systemu sztucznej inteligencji powinno być jasno zdefiniowane w celu zapewnienia pewności prawa, przy jednoczesnym zapewnieniu elastyczności umożliwiającej dostosowanie się do przyszłego rozwoju technologicznego. Podstawę tej definicji powinny stanowić kluczowe cechy funkcjonalne oprogramowania, w szczególności zdolność, przy danym zestawie celów określonych przez człowieka, do generowania wyników takich jak treści, prognozy, zalecenia lub decyzje wpływające na środowisko, z którym system wchodzi w interakcję, czy to w wymiarze fizycznym, czy cyfrowym. Systemy sztucznej inteligencji mogą być zaprojektowane tak, aby działały na różnym poziomie autonomii i mogły być wykorzystywane jako samodzielne rozwiązania lub jako element produktu, niezależnie od tego, czy system jest fizycznie zintegrowany z produktem (wbudowany), czy też służy realizacji funkcji produktu, choć nie jest z nim zintegrowany (niewbudowany). Definicję systemu sztucznej inteligencji powinien uzupełniać wykaz konkretnych technik i podejść stosowanych przy jego opracowywaniu, który to wykaz powinien być aktualizowany w świetle rozwoju sytuacji rynkowej i postępu technologicznego w drodze aktów delegowanych przyjmowanych przez Komisję w celu zmiany tego wykazu. (7)Pojęcie danych biometrycznych stosowane w niniejszym rozporządzeniu jest zgodne z pojęciem danych biometrycznych zdefiniowanym w art. 4 pkt 14 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679, art. 3 pkt 18 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2018/1725 oraz art. 3 pkt 13 dyrektywy Parlamentu Europejskiego i Rady (UE) 2016/680 i powinno być interpretowane w sposób spójny z tym pojęciem. (8)Pojęcie systemu zdalnej identyfikacji biometrycznej stosowane w niniejszym rozporządzeniu należy zdefiniować funkcjonalnie jako system sztucznej inteligencji służący do identyfikacji osób fizycznych na odległość poprzez porównanie danych biometrycznych danej osoby z danymi biometrycznymi zawartymi w referencyjnej bazie danych, bez wcześniejszej wiedzy o tym, czy dana osoba będzie w niej figurować i może zatem zostać zidentyfikowana, niezależnie od konkretnej technologii oraz konkretnych procesów lub rodzajów wykorzystywanych danych biometrycznych. Należy dokonać rozróżnienia między systemami zdalnej identyfikacji biometrycznej „w czasie rzeczywistym” a systemami zdalnej identyfikacji biometrycznej „post factum”, biorąc pod uwagę ich różne cechy i sposoby stosowania, a także różne związane z nimi zagrożenia. W przypadku systemów działających „w czasie rzeczywistym” pobranie danych biometrycznych, porównanie i identyfikacja następują natychmiast, niemal natychmiast lub w każdym razie bez znacznego opóźnienia. W związku z tym nie powinno być możliwości obchodzenia przepisów niniejszego rozporządzenia dotyczących stosowania przedmiotowych systemów sztucznej inteligencji „w czasie rzeczywistym” poprzez wprowadzenie niewielkich opóźnień. Systemy identyfikacji „w czasie rzeczywistym” obejmują wykorzystanie materiału rejestrowanego „na żywo” lub „w czasie zbliżonym do rzeczywistego”, takiego jak materiał wideo generowany przez kamerę lub inne urządzenie o podobnej funkcjonalności. Natomiast w przypadku systemów identyfikacji „post factum” dane biometryczne zostały już pobrane, a porównanie i identyfikacja następują ze znacznym opóźnieniem. Dotyczy to materiałów, takich jak zdjęcia lub nagrania wideo generowane przez kamery telewizji przemysłowej lub urządzenia prywatne, których rejestracji dokonano, zanim użyto systemu w stosunku do danej osoby fizycznej. (9)Do celów niniejszego rozporządzenia pojęcie przestrzeni publicznej należy rozumieć jako odnoszące się do każdego miejsca fizycznego, które jest dostępne dla ogółu osób, niezależnie od tego, czy dane miejsce jest własnością prywatną czy publiczną. Pojęcie to nie obejmuje zatem miejsc, które mają charakter prywatny i zazwyczaj nie są ogólnodostępne dla osób trzecich, w tym organów ścigania, chyba że osoby te wyraźnie zaproszono lub upoważniono do wejścia na dany teren; do takich miejsc zalicza się domy, prywatne kluby, biura, magazyny i fabryki. Przestrzenie internetowe również nie są objęte niniejszym rozporządzeniem, ponieważ nie są to przestrzenie fizyczne. Sam fakt, że mogą obowiązywać jednak pewne warunki dostępu do danej przestrzeni, takie jak bilety wstępu lub ograniczenia wiekowe, nie oznacza, że przestrzeń ta nie jest dostępna publicznie w rozumieniu niniejszego rozporządzenia. W związku z tym oprócz przestrzeni publicznych, takich jak ulice, odpowiednie części budynków rządowych i większość infrastruktury transportowej, publicznie dostępne są zazwyczaj również przestrzenie takie jak kina, teatry, sklepy i centra handlowe. To, czy dana przestrzeń jest dostępna publicznie, powinno być jednak ustalane indywidualnie w każdym przypadku, z uwzględnieniem specyfiki danej sytuacji. (10)W celu zapewnienia równych szans oraz skutecznej ochrony praw i wolności osób fizycznych w całej Unii przepisy ustanowione niniejszym rozporządzeniem powinny mieć zastosowanie do dostawców systemów sztucznej inteligencji w sposób niedyskryminacyjny, niezależnie od tego, czy mają oni siedzibę w Unii, czy w państwie trzecim, oraz do użytkowników systemów sztucznej inteligencji mających siedzibę w Unii.

(11)Ze względu na swój cyfrowy charakter niektóre systemy sztucznej inteligencji powinny zostać objęte zakresem niniejszego rozporządzenia, nawet jeśli nie są wprowadzane do obrotu, oddawane do użytku ani wykorzystywane w Unii. Dotyczy to na przykład operatora mającego siedzibę w Unii, który zleca określone usługi operatorowi mającemu siedzibę poza Unią w związku z operacjami, które mają być wykonywane przez system sztucznej inteligencji, który zostałby zakwalifikowany jako system wysokiego ryzyka, a których skutki byłyby odczuwalne przez osoby fizyczne zlokalizowane w Unii. W takich okolicznościach system sztucznej inteligencji wykorzystywany przez operatora spoza Unii mógłby przetwarzać dane, które legalnie zgromadzono w Unii i przekazano poza Unię, oraz przekazywać zlecającemu operatorowi z Unii wynik przetwarzania tych danych, natomiast sam system sztucznej inteligencji nie byłby przedmiotem wprowadzenia do obrotu lub oddania do użytku w Unii ani nie byłby w Unii wykorzystywany. Aby zapobiec obchodzeniu przepisów niniejszego rozporządzenia oraz zapewnić skuteczną ochronę osób fizycznych znajdujących się w Unii, niniejsze rozporządzenie powinno mieć również zastosowanie do dostawców i użytkowników systemów sztucznej inteligencji, którzy mają siedzibę w państwie trzecim, w zakresie, w jakim wyniki działania tych systemów są wykorzystywane w Unii. Aby uwzględnić jednak istniejące ustalenia i szczególne potrzeby w zakresie współpracy z partnerami zagranicznymi, z którymi wymienia się informacje i dowody, niniejsze rozporządzenie nie powinno mieć zastosowania do organów publicznych państwa trzeciego i organizacji międzynarodowych działających w ramach zawartych na szczeblu krajowym lub europejskim umów międzynarodowych o współpracy organów ścigania i wymiarów sprawiedliwości z Unią lub jej państwami członkowskimi. Takie umowy zostały zawarte dwustronnie między państwami członkowskimi a państwami trzecimi lub między Unią Europejską, Europolem i innymi agencjami UE a państwami trzecimi i organizacjami międzynarodowymi. (12)Niniejsze rozporządzenie powinno mieć również zastosowanie do instytucji, urzędów, organów i agencji Unii, gdy działają one jako dostawca lub użytkownik systemu sztucznej inteligencji. Systemy sztucznej inteligencji opracowywane lub wykorzystywane wyłącznie do celów wojskowych powinny zostać wyłączone z zakresu stosowania niniejszego rozporządzenia, jeżeli takie wykorzystanie wchodzi w zakres wyłącznych kompetencji wspólnej polityki zagranicznej i bezpieczeństwa regulowanej na mocy tytułu V Traktatu o Unii Europejskiej (TUE). Niniejsze rozporządzenie nie powinno naruszać przepisów dotyczących odpowiedzialności usługodawców będących pośrednikami, określonych w dyrektywie 2000/31/WE Parlamentu Europejskiego i Rady [zmienionej aktem prawnym o usługach cyfrowych]. (13)W celu zapewnienia spójnego i wysokiego poziomu ochrony interesów publicznych w dziedzinie zdrowia, bezpieczeństwa i praw podstawowych należy ustanowić wspólne standardy normatywne dla wszystkich systemów sztucznej inteligencji wysokiego ryzyka. Standardy te powinny być zgodne z Kartą praw podstawowych Unii Europejskiej („Karta”) oraz powinny być niedyskryminacyjne i zgodne z międzynarodowymi zobowiązaniami handlowymi Unii. (14)Aby wprowadzić proporcjonalny i skuteczny zestaw wiążących zasad dotyczących systemów sztucznej inteligencji, należy zastosować jasno określone podejście oparte na analizie ryzyka. Takie podejście powinno polegać na dostosowywaniu rodzaju i treści takich zasad do intensywności i zakresu zagrożeń, jakie mogą powodować systemy sztucznej inteligencji. Konieczne jest zatem wprowadzenie zakazu stosowania niektórych praktyk z zakresu sztucznej inteligencji, określenie wymogów w odniesieniu do systemów sztucznej inteligencji wysokiego ryzyka i obowiązków spoczywających na odpowiednich operatorach oraz określenie obowiązków w zakresie przejrzystości w odniesieniu do niektórych systemów sztucznej inteligencji. (15)Oprócz wielu korzystnych zastosowań sztucznej inteligencji technologia ta może być również niewłaściwie wykorzystywana i może dostarczać nowych i potężnych narzędzi do praktyk manipulacji, wykorzystywania i kontroli społecznej. Takie praktyki są szczególnie szkodliwe i powinny być zakazane, ponieważ są sprzeczne z unijnymi wartościami poszanowania godności ludzkiej, wolności, równości, demokracji i praworządności oraz z prawami podstawowymi Unii, w tym z prawem do niedyskryminacji, ochrony danych i prywatności oraz z prawami dziecka. (16)Należy zakazać wprowadzania do obrotu, oddawania do użytku lub wykorzystywania niektórych systemów sztucznej inteligencji mających na celu zniekształcenie ludzkiego zachowania, co w rezultacie może prowadzić do wystąpienia szkód fizycznych lub psychicznych. Takie systemy sztucznej inteligencji wykorzystują mechanizmy podprogowe, których osoby fizyczne nie są w stanie dostrzec, lub wykorzystują słabości dzieci i innych osób ze względu na ich wiek, niepełnosprawność fizyczną lub umysłową. Czynią to z zamiarem istotnego zniekształcenia zachowania danej osoby i w sposób, który powoduje lub może powodować szkodę dla tej lub innej osoby. Istnienia takiego zamiaru nie można zakładać wówczas, gdy zniekształcenie ludzkiego zachowania wynika z czynników zewnętrznych w stosunku do systemu sztucznej inteligencji, które pozostają poza kontrolą dostawcy lub użytkownika. Zakaz ten nie powinien hamować badań prowadzonych w uzasadnionych celach w odniesieniu do takich systemów sztucznej inteligencji, jeżeli badania te nie prowadzą do takiego wykorzystania systemu sztucznej inteligencji w relacjach człowiek-maszyna, które naraża osoby fizyczne na szkodę, a przy tym są prowadzone zgodnie z uznanymi normami etycznymi dotyczącymi badań naukowych. (17)Systemy sztucznej inteligencji, które umożliwiają prowadzenie przez organy publiczne lub w ich imieniu oceny punktowej zachowań społecznych osób fizycznych do celów ogólnych, mogą prowadzić do dyskryminacyjnych wyników i wykluczenia pewnych grup. Mogą one naruszać prawo do godności i niedyskryminacji oraz wartości, jakimi są równość i sprawiedliwość. Takie systemy sztucznej inteligencji oceniają lub klasyfikują wiarygodność osób fizycznych na podstawie ich zachowań społecznych w wielu kontekstach lub na podstawie znanych lub przewidywanych cech osobistych lub cech osobowości. Ocena społeczna wystawiona przez takie systemy sztucznej inteligencji może prowadzić do krzywdzącego lub niekorzystnego traktowania osób fizycznych lub całych ich grup w kontekstach społecznych, które nie są związane z kontekstem, w którym pierwotnie wygenerowano lub zgromadzono dane, lub do krzywdzącego traktowania, które jest nieproporcjonalne lub nieuzasadnione w stosunku do wagi ich zachowań społecznych. Takie systemy sztucznej inteligencji należy zatem zakazać. (18)Wykorzystanie systemów sztucznej inteligencji do zdalnej identyfikacji biometrycznej osób fizycznych „w czasie rzeczywistym” w przestrzeni publicznej do celów egzekwowania prawa uważa się za szczególnie ingerujące w prawa i wolności zainteresowanych osób w zakresie, ponieważ może wpływać na życie prywatne dużej części społeczeństwa, wywoływać poczucie stałego nadzoru i pośrednio zniechęcać do korzystania z wolności zgromadzeń i innych praw podstawowych. Ponadto bezpośredniość oddziaływania i ograniczone możliwości późniejszej kontroli lub korekty wykorzystania takich systemów działających „w czasie rzeczywistym” niosą ze sobą zwiększone ryzyko dla praw i wolności osób, których dotyczą działania organów ścigania. (19)Wykorzystanie tych systemów do celów egzekwowania prawa powinno zatem być zabronione, z wyjątkiem zamkniętej listy trzech wąsko zdefiniowanych sytuacji, w których wykorzystanie jest absolutnie konieczne do realizacji istotnego interesu publicznego, którego waga przeważa nad ryzykiem. Sytuacje te obejmują poszukiwanie potencjalnych ofiar przestępstw, w tym zaginionych dzieci; zapobieganie niektórym zagrożeniom życia lub bezpieczeństwa fizycznego osób fizycznych lub atakowi terrorystycznemu; oraz wykrywanie, lokalizowanie, identyfikowanie lub ściganie sprawców przestępstw lub podejrzanych o popełnienie przestępstw, o których mowa w decyzji ramowej Rady 2002/584/WSiSW, jeżeli przestępstwa te podlegają w danym państwie członkowskim karze pozbawienia wolności lub środkowi zabezpieczającemu polegającemu na pozbawieniu wolności przez okres, którego górna granica wynosi co najmniej trzy lata, i zostały zdefiniowane w prawie danego państwa członkowskiego. Taki próg kary pozbawienia wolności lub środka zabezpieczającego polegającego na pozbawieniu wolności zgodnie z prawem krajowym pozwala zapewnić, aby przestępstwo było na tyle poważne, by potencjalnie uzasadniać wykorzystanie systemów zdalnej identyfikacji biometrycznej „w czasie rzeczywistym”. Ponadto spośród 32 przestępstw wymienionych w decyzji ramowej Rady 2002/584/WSiSW niektóre mogą w praktyce mieć większe znaczenie niż inne, ponieważ można przewidzieć, że korzystanie ze zdalnej identyfikacji biometrycznej „w czasie rzeczywistym” będzie w bardzo różnym stopniu konieczne i proporcjonalne do praktycznych celów wykrywania, lokalizowania, identyfikowania lub ścigania sprawcy poszczególnych wymienionych przestępstw lub podejrzanego o popełnienie tych przestępstw, przy uwzględnieniu prawdopodobnych różnic w odniesieniu do powagi, prawdopodobieństwa i skali szkody lub ewentualnych negatywnych konsekwencji. (20)W celu zapewnienia, aby systemy te były wykorzystywane w sposób odpowiedzialny i proporcjonalny, należy również zastrzec, że w każdej z tych trzech wąsko zdefiniowanych sytuacji z zamkniętej listy należy uwzględniać pewne elementy, w szczególności charakter sytuacji, która skutkowała złożeniem wniosku, wpływ korzystania z takich systemów na prawa i wolności wszystkich zainteresowanych osób, a także zabezpieczenia i warunki przewidziane w związku z korzystaniem z takich systemów. Ponadto wykorzystanie systemów zdalnej identyfikacji biometrycznej „w czasie rzeczywistym” w przestrzeni publicznej do celów egzekwowania prawa powinno podlegać odpowiednim ograniczeniom w czasie i przestrzeni, z uwzględnieniem w szczególności dowodów lub wskazówek dotyczących zagrożeń, ofiar lub sprawcy. Referencyjna baza danych osób powinna być odpowiednia dla każdego przypadku użycia w każdej z trzech wyżej wymienionych sytuacji. (21)Każde użycie systemu zdalnej identyfikacji biometrycznej „w czasie rzeczywistym” w przestrzeni publicznej do celów egzekwowania prawa powinno podlegać wyraźnemu i szczegółowemu zezwoleniu wydanemu przez organ sądowy lub niezależny organ administracyjny państwa członkowskiego. Takie zezwolenie należy zasadniczo uzyskać przed rozpoczęciem korzystania z systemu, z wyjątkiem należycie uzasadnionych sytuacji nagłych, to znaczy sytuacji, w których potrzeba skorzystania z danego systemu jest na tyle duża, że uzyskanie zezwolenia przed rozpoczęciem korzystania jest faktycznie i obiektywnie niemożliwe. W takich sytuacjach nagłych wykorzystanie powinno być ograniczone do absolutnie niezbędnego minimum i powinno podlegać odpowiednim zabezpieczeniom i warunkom określonym w prawie krajowym i sprecyzowanym w kontekście każdego przypadku pilnego użycia przez sam organ ścigania. Ponadto organ ścigania powinien w takich sytuacjach dążyć do jak najszybszego uzyskania zezwolenia, podając jednocześnie powody, dla których nie mógł wystąpić o nie wcześniej. (22)Ponadto należy zapewnić, w wyczerpujących ramach określonych w niniejszym rozporządzeniu, aby takie wykorzystanie na terytorium państwa członkowskiego zgodnie z niniejszym rozporządzeniem było możliwe tylko wówczas gdy – i w zakresie, w jakim – dane państwo członkowskie postanowiło wyraźnie przewidzieć możliwość zezwolenia na takie wykorzystanie w swoich szczegółowych przepisach prawa krajowego. W związku z tym państwa członkowskie mogą na mocy niniejszego rozporządzenia w ogóle nie przewidywać takiej możliwości lub przewidzieć ją jedynie w odniesieniu do niektórych celów mogących uzasadniać dozwolone wykorzystanie, określonych w niniejszym rozporządzeniu. (23)Wykorzystanie systemów sztucznej inteligencji do zdalnej identyfikacji biometrycznej osób fizycznych „w czasie rzeczywistym” w przestrzeni publicznej do celów egzekwowania prawa nieuchronnie wiąże się z przetwarzaniem danych biometrycznych. Przepisy niniejszego rozporządzenia zakazujące, z zastrzeżeniem pewnych wyjątków, takiego wykorzystywania, a których podstawę stanowi art. 16 TFUE, powinny mieć zastosowanie jako lex specialis w odniesieniu do przepisów dotyczących przetwarzania danych biometrycznych zawartych w art. 10 dyrektywy (UE) 2016/680, regulując tym samym w sposób wyczerpujący takie wykorzystywanie i przetwarzanie wspomnianych danych biometrycznych. W związku z tym takie wykorzystywanie i przetwarzanie powinno być możliwe wyłącznie w zakresie, w jakim jest zgodne z ramami określonymi w niniejszym rozporządzeniu, przy czym stosowanie takich systemów i przetwarzanie odnośnych danych przez właściwe organy – gdy działają w celu egzekwowania prawa – w oparciu o przesłanki wymienione w art. 10 dyrektywy (UE) 2016/680 może mieć miejsce wyłącznie w granicach nakreślonych przez te ramy. W tym kontekście niniejsze rozporządzenie nie ma na celu zapewnienia podstawy prawnej do przetwarzania danych osobowych na podstawie art. 8 dyrektywy (UE) 2016/680. Wykorzystywanie systemów zdalnej identyfikacji biometrycznej „w czasie rzeczywistym” w przestrzeni publicznej do celów innych niż egzekwowanie prawa, w tym przez właściwe organy, nie powinno być jednak objęte szczegółowymi ramami dotyczącymi takiego wykorzystywania do celów egzekwowania prawa, określonymi w niniejszym rozporządzeniu. Takie wykorzystywanie do celów innych niż egzekwowanie prawa nie powinno zatem podlegać wymogowi uzyskania zezwolenia na mocy niniejszego rozporządzenia i obowiązujących szczegółowych przepisów prawa krajowego, które mogą stanowić podstawę jego wykonania. (24)Wszelkie przetwarzanie danych biometrycznych i innych danych osobowych związane ze stosowaniem systemów sztucznej inteligencji do identyfikacji biometrycznej, inne niż w związku z wykorzystywaniem systemów zdalnej identyfikacji biometrycznej „w czasie rzeczywistym” w przestrzeni publicznej do celów egzekwowania prawa zgodnie z przepisami niniejszego rozporządzenia, w tym w przypadku gdy systemy te są stosowane przez właściwe organy w przestrzeni publicznej do celów innych niż egzekwowanie prawa, powinno nadal spełniać wszystkie wymogi wynikające, stosownie do przypadku, z art. 9 ust. 1 rozporządzenia (UE) 2016/679, art. 10 ust. 1 rozporządzenia (UE) 2018/1725 oraz art. 10 dyrektywy (UE) 2016/680. (25)Zgodnie z art. 6a Protokołu nr 21 w sprawie stanowiska Zjednoczonego Królestwa i Irlandii w odniesieniu do przestrzeni wolności, bezpieczeństwa i sprawiedliwości, załączonego do TUE i TFUE, Irlandia nie jest związana przepisami określonymi w art. 5 ust. 1 lit. d) oraz art. 5 ust. 2 i 3 niniejszego rozporządzenia przyjętymi na podstawie art. 16 TFUE, dotyczącymi przetwarzania danych osobowych przez państwa członkowskie w wykonywaniu działań wchodzących w zakres zastosowania części trzeciej tytuł V rozdziały 4 lub 5 TFUE, jeśli Irlandia nie jest związana przepisami Unii w dziedzinie współpracy wymiarów sprawiedliwości w sprawach karnych lub współpracy policyjnej, w ramach której należy przestrzegać przepisów ustanowionych na podstawie art. 16 TFUE. (26)Zgodnie z art. 2 i 2a Protokołu nr 22 w sprawie stanowiska Danii, załączonego do TUE i TFUE, Dania nie jest związana przepisami określonymi w art. 5 ust. 1 lit. d) oraz art. 5 ust. 2 i 3 niniejszego rozporządzenia przyjętymi na podstawie art. 16 TFUE, które dotyczą przetwarzania danych osobowych przez państwa członkowskie w wykonywaniu działań wchodzących w zakres zastosowania części trzeciej tytuł V rozdziały 4 lub 5 TFUE, ani przepisy te nie mają do niej zastosowania. (27)Systemy sztucznej inteligencji wysokiego ryzyka powinny być wprowadzane do obrotu w Unii lub oddawane do użytku wyłącznie wówczas, gdy spełniają określone obowiązkowe wymogi. Wymogi te powinny zapewniać, aby systemy sztucznej inteligencji wysokiego ryzyka dostępne w Unii lub takie, których wyniki działania są w inny sposób wykorzystywane w Unii, nie stwarzały niedopuszczalnego ryzyka dla istotnych interesów publicznych Unii uznanych w prawie Unii i przez nie chronionych. Klasyfikację systemów sztucznej inteligencji jako systemów wysokiego ryzyka należy ograniczyć do tych systemów, które mają znaczący szkodliwy wpływ na zdrowie, bezpieczeństwo i prawa podstawowe osób w Unii, przy czym takie ograniczenie powinno minimalizować wszelkie potencjalne przeszkody w handlu międzynarodowym, o ile występują. (28)Systemy sztucznej inteligencji mogą wywoływać szkodliwe skutki dla zdrowia i bezpieczeństwa osób, w szczególności w przypadku, gdy takie systemy funkcjonują jako elementy produktów. Zgodnie z celami określonymi w unijnym prawodawstwie harmonizacyjnym, polegającymi na ułatwieniu swobodnego przepływu produktów na rynku wewnętrznym oraz zapewnieniu, aby na rynek trafiały wyłącznie produkty bezpieczne i spełniające pozostałe wymogi, istotne jest odpowiednie zapobieganie i ograniczanie zagrożeń dla bezpieczeństwa, które mogą być powodowane przez produkt jako całość ze względu na jego elementy cyfrowe, w tym systemy sztucznej inteligencji. Na przykład coraz bardziej autonomiczne roboty, zarówno w kontekście działalności produkcyjnej, jak i świadczenia pomocy oraz opieki osobistej, powinny być w stanie bezpiecznie funkcjonować i wykonywać swoje funkcje w złożonych środowiskach. Podobnie w sektorze opieki zdrowotnej, w którym chodzi o szczególnie wysoką stawkę, jaką jest życie i zdrowie, coraz bardziej zaawansowane systemy diagnostyczne i systemy wspomagające decyzje podejmowane przez człowieka powinny być niezawodne i dokładne. Przy klasyfikowaniu systemu sztucznej inteligencji jako systemu wysokiego ryzyka zasadnicze znaczenie ma skala szkodliwego wpływu wywieranego przez system sztucznej inteligencji na prawa podstawowe chronione na mocy Karty. Do praw tych należą: prawo do godności człowieka, poszanowanie życia prywatnego i rodzinnego, ochrona danych osobowych, wolność wypowiedzi i informacji, wolność zgromadzania się i stowarzyszania się oraz niedyskryminacja, ochrona konsumentów, prawa pracownicze, prawa osób niepełnosprawnych, prawo do skutecznego środka prawnego i dostępu do bezstronnego sądu, prawo do obrony i domniemania niewinności, prawo do dobrej administracji. Oprócz tych praw należy podkreślić, że dzieciom przysługują szczególne prawa zapisane w art. 24 Karty praw podstawowych UE oraz w Konwencji o prawach dziecka (szerzej rozwinięte w komentarzu ogólnym nr 25 do Konwencji ONZ o prawach dziecka w odniesieniu do środowiska cyfrowego), które wymagają uwzględnienia słabości dzieci oraz zapewnienia im takiej ochrony i opieki, jaka jest konieczna dla ich dobra. Podstawowe prawo do wysokiego poziomu ochrony środowiska zapisane w Karcie i wdrażane w strategiach politycznych Unii również należy uwzględnić w ocenie powagi szkody, jaką może spowodować system sztucznej inteligencji, w tym w odniesieniu do zdrowia i bezpieczeństwa osób. (29)Jeżeli chodzi o systemy sztucznej inteligencji wysokiego ryzyka, które są związanymi z bezpieczeństwem elementami produktów lub systemów objętych zakresem rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 300/2008, rozporządzenia Parlamentu Europejskiego i Rady (UE) nr 167/2013, rozporządzenia Parlamentu Europejskiego i Rady (UE) nr 168/2013, dyrektywy Parlamentu Europejskiego i Rady 2014/90/UE, dyrektywy Parlamentu Europejskiego i Rady (UE) 2016/797, rozporządzenia Parlamentu Europejskiego i Rady (UE) 2018/858, rozporządzenia Parlamentu Europejskiego i Rady (UE) 2018/1139 oraz rozporządzenia Parlamentu Europejskiego i Rady (UE) 2019/2144 lub które same są takimi produktami lub systemami, wskazane jest wprowadzenie zmian do tych aktów w celu zapewnienia, aby przyjmując wszelkie stosowne przyszłe akty delegowane lub wykonawcze na podstawie wspomnianych aktów, Komisja uwzględniła – w oparciu o techniczną i regulacyjną charakterystykę każdego sektora oraz bez ingerowania w istniejące mechanizmy i organy zarządzania, oceny zgodności i egzekwowania ustanowione w tych aktach – obowiązkowe wymogi dotyczące systemów sztucznej inteligencji wysokiego ryzyka określone w niniejszym rozporządzeniu. (30)W przypadku systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami produktów lub które same są produktami objętymi zakresem stosowania niektórych przepisów unijnego prawodawstwa harmonizacyjnego, systemy te należy klasyfikować jako systemy wysokiego ryzyka zgodnie z niniejszym rozporządzeniem, jeżeli dany produkt jest poddawany procedurze oceny zgodności przez jednostkę oceniającą zgodność będącą osobą trzecią na podstawie tych stosownych przepisów unijnego prawodawstwa harmonizacyjnego. W szczególności produktami takimi są maszyny, zabawki, dźwigi, urządzenia i systemy ochronne przeznaczone do użytku w atmosferze potencjalnie wybuchowej, urządzenia radiowe, urządzenia ciśnieniowe, wyposażenie rekreacyjnych jednostek pływających, urządzenia kolei linowych, urządzenia spalające paliwa gazowe, wyroby medyczne oraz wyroby medyczne do diagnostyki in vitro.

(31)Klasyfikacja systemu sztucznej inteligencji jako systemu wysokiego ryzyka na podstawie niniejszego rozporządzenia nie powinna koniecznie oznaczać, że produkt, którego związanym z bezpieczeństwem elementem jest system sztucznej inteligencji, lub sam system sztucznej inteligencji jako produkt uznaje się za produkt „wysokiego ryzyka” zgodnie z kryteriami ustanowionymi w stosownym unijnym prawodawstwie harmonizacyjnym, które ma zastosowanie do tego produktu. Ma to miejsce w szczególności w przypadku rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/745 oraz rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/746, w których ocenę zgodności przeprowadzaną przez osobę trzecią przewidziano dla produktów średniego i wysokiego ryzyka. (32)Jeżeli chodzi o samodzielne systemy sztucznej inteligencji, tj. systemy sztucznej inteligencji wysokiego ryzyka inne niż te, które są związanymi z bezpieczeństwem elementami produktów lub które same są produktami, należy je klasyfikować jako systemy wysokiego ryzyka, jeżeli w związku z ich przeznaczeniem stwarzają one wysokie ryzyko powstania szkody dla zdrowia i bezpieczeństwa lub praw podstawowych osób, biorąc pod uwagę zarówno skalę potencjalnych szkód, jak i prawdopodobieństwo ich wystąpienia, oraz jeżeli są one wykorzystywane w szeregu ściśle określonych z góry obszarów wskazanych w rozporządzeniu. Identyfikacja tych systemów opiera się na tej samej metodyce i tych samych kryteriach, które przewidziano także dla wszelkich przyszłych zmian w wykazie systemów sztucznej inteligencji wysokiego ryzyka. (33)Techniczne niedokładności systemów sztucznej inteligencji przeznaczonych do zdalnej identyfikacji biometrycznej osób fizycznych mogą prowadzić do nieobiektywnych wyników i wywoływać skutki w postaci dyskryminacji. Jest to szczególnie istotne, jeżeli chodzi o wiek, pochodzenie etniczne, płeć lub niepełnosprawność. W związku z tym systemy zdalnej identyfikacji biometrycznej „w czasie rzeczywistym” i „post factum” należy klasyfikować jako systemy wysokiego ryzyka. Ze względu na zagrożenia, które stwarzają, oba rodzaje systemów zdalnej identyfikacji biometrycznej powinny podlegać szczególnym wymogom dotyczącym funkcji rejestracji zdarzeń i nadzoru ze strony człowieka. (34)W odniesieniu do zarządzania infrastrukturą krytyczną i jej funkcjonowania wskazane jest klasyfikowanie jako systemy wysokiego ryzyka systemów sztucznej inteligencji, które mają być użytkowane jako związane z bezpieczeństwem elementy procesów zarządzania i obsługi ruchu drogowego oraz zaopatrzenia w wodę, gaz, ciepło i energię elektryczną, ponieważ ich awaria lub nieprawidłowe działanie mogą stanowić zagrożenie dla życia i zdrowia osób na dużą skalę i prowadzić do znacznych zakłóceń w zwykłym prowadzeniu działalności społecznej i gospodarczej. (35)Systemy sztucznej inteligencji wykorzystywane w obszarze kształcenia lub szkolenia zawodowego, w szczególności przy podejmowaniu decyzji o dostępie do instytucji kształcenia i szkolenia zawodowego lub nadawaniu osobom przydziału do tych instytucji lub też do oceniania osób na testach w ramach kształcenia lub jako warunek dopuszczenia do kształcenia, należy uznać za systemy wysokiego ryzyka, ponieważ m