C 392/3

Streszczenie opinii Europejskiego Inspektora Ochrony Danych na temat białej księgi Komisji Europejskiej w sprawie sztucznej inteligencji – Europejskie podejście do doskonałości i zaufania

(Pełny tekst tej opinii jest dostępny w wersji angielskiej, francuskiej i niemieckiej na stronie internetowej EIOD www.edps.europa.eu)

(2020/C 392/03)

Streszczenie

W dniu 19 lutego 2020 r. Komisja Europejska opublikowała białą księgę w sprawie sztucznej inteligencji – Europejskie podejście do doskonałości i zaufania. Jest ona częścią obszerniejszego pakietu dokumentów strategicznych, obejmującego również komunikat pt. „Europejska strategia w zakresie danych”.

Biała księga realizuje podwójny cel: określa warianty strategiczne, które promują stosowanie sztucznej inteligencji („AI”) oraz zajmuje się „zagrożeniami związanymi z niektórymi zastosowaniami tej nowej technologii”. Z myślą o realizacji tych celów w białej księdze zaproponowano szereg działań, które sprzyjają rozwojowi i wdrażaniu sztucznej inteligencji, oraz nowe ramy regulacyjne uwzględniające specyficzne problemy dotyczące sztucznej inteligencji nieprzewidziane w obecnych ramach.

Niniejsza opinia przedstawia stanowisko EIOD w sprawie białej księgi jako całości, a także w sprawie pewnych szczególnych aspektów, takich jak proponowane podejście oparte na analizie ryzyka, egzekwowanie przepisów dotyczących sztucznej inteligencji lub określone wymogi dotyczące zdalnej identyfikacji biometrycznej (w tym rozpoznawania twarzy).

Europejski Inspektor Ochrony Danych dostrzega rosnące znaczenie i wpływ sztucznej inteligencji. Wiąże się ona jednak z określonymi zagrożeniami i nie jest złotym środkiem, który rozwiąże wszystkie problemy. Każdy, kto wprowadza taką technologię, a zwłaszcza organy administracji publicznej przetwarzające duże ilości danych osobowych, powinien zdawać sobie sprawę z korzyści, kosztów i zagrożeń.

Europejski Inspektor Ochrony Danych z dużym zadowoleniem przyjmuje zawarte w białej księdze liczne odniesienia do europejskiego podejścia do sztucznej inteligencji, opartego na wartościach i prawach podstawowych UE, a także fakt, że uwzględniono potrzebę zapewnienia zgodności z europejskimi przepisami dotyczącymi ochrony danych.

Celem zaleceń zawartych w niniejszej opinii jest zatem wyjaśnienie i – w razie konieczności – dalsze rozwijanie zabezpieczeń i mechanizmów kontrolnych w odniesieniu do ochrony danych osobowych, ze szczególnym uwzględnieniem kontekstu stosowania sztucznej inteligencji.

Z tego względu EIOD zaleca, w szczególności, aby wszelkie nowe ramy regulacyjne dotyczące sztucznej inteligencji:

— miały zastosowanie zarówno do państw członkowskich, jak i do instytucji, organów i jednostek organizacyjnych UE,

— zostały opracowane, by chronić przed negatywnymi skutkami nie tylko osoby fizyczne, lecz także społeczności i całe społeczeństwo,

— proponowały wprowadzenie solidniejszego i bardziej zróżnicowanego systemu klasyfikacji zagrożeń, który zapewni, aby wszelkim znaczącym potencjalnym szkodom wynikającym z zastosowania sztucznej inteligencji towarzyszyły odpowiednie środki zabezpieczające,

— uwzględniały ocenę skutków jasno określającą luki regulacyjne, które zostaną uzupełnione,

— zapobiegały powielaniu działań różnych organów nadzoru i obejmowały mechanizm współpracy.

W odniesieniu do zdalnej identyfikacji biometrycznej EIOD popiera ideę wprowadzenia moratorium na wdrożenie w UE systemu zautomatyzowanej identyfikacji cech fizycznych człowieka w przestrzeni publicznej, nie tylko twarzy, lecz także chodu, odcisków palców, DNA, głosu, sposobu uderzania w klawisze i innych sygnałów biometrycznych lub behawioralnych, tak aby można było przeprowadzić merytoryczną i demokratyczną debatę oraz do czasu uzyskania przez UE i państwa członkowskie odpowiednich zabezpieczeń, w tym kompleksowych ram prawnych gwarantujących proporcjonalność odpowiednich technologii i systemów w odniesieniu do konkretnego przypadku użycia.

Europejski Inspektor Ochrony Danych pozostaje do dyspozycji Komisji, Rady i Parlamentu Europejskiego w zakresie udzielania dalszych zaleceń i oczekuje, że zgodnie z art. 42 rozporządzenia (UE) 2018/1725 w odpowiednim czasie zostanie poproszony o udzielenie konsultacji. Uwagi zawarte w niniejszej opinii nie powodują uszczerbku dla ewentualnych dodatkowych uwag, które EIOD może formułować w miarę powstawania kolejnych problemów, do których ustosunkuje się, gdy dostępne będą dalsze informacje.

1. WPROWADZENIE I INFORMACJE OGÓLNE

1. Biała księga Komisji w sprawie sztucznej inteligencji – Europejskie podejście do doskonałości i zaufania ( 1 ) („biała księga”) stanowi część inicjatywy nr 10 („Europejskie podejście do sztucznej inteligencji”) i wpisuje się w „rozdział” programu prac Komisji na rok 2020 zatytułowany „Europa na miarę ery cyfrowej”.

2. Europejski Inspektor Ochrony Danych zauważa, że biała księga jest ściśle powiązana z komunikatem Komisji do Parlamentu Europejskiego, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów – Europejska strategia w zakresie danych ( 2 ) („strategia w zakresie danych”), który jest przedmiotem odrębnej opinii EIOD ( 3 )

3. W dniu 29 stycznia 2020 r. Komisja zwróciła się do EIOD o wydanie opinii w sprawie projektu białej księgi oraz przesłanie wstępnych i nieformalnych uwag na jej temat. Europejski Inspektor Ochrony Danych z zadowoleniem przyjmuje fakt, że zasięgnięto jego opinii na wczesnym etapie procedury i zachęca Komisję do dalszego stosowania tej dobrej praktyki.

4. Biała księga jest przedmiotem konsultacji publicznych. Mają one na celu uzyskanie opinii na temat całej białej księgi, a także jej określonych aspektów. Podobne konsultacje publiczne zainicjowano w sprawie komunikatu Komisji Europejskiej pt. „Europejska strategia w zakresie danych”.

5. W niniejszej opinii omówiono kilka nieformalnych uwag zgłoszonych przez EIOD i dostarczono bardziej ukierunkowany wkład w prace Komisji Europejskiej w świetle konsultacji publicznych. Ponadto niniejsza opinia nie powoduje uszczerbku dla wszelkich dodatkowych uwag, jakie EIOD może formułować na podstawie kolejnych dostępnych informacji na późniejszym etapie, w tym w kontekście dalszych konsultacji ustawodawczych w przedmiocie aktów prawnych przewidzianych w białej księdze i programie prac Komisji.

6. Chociaż instytucje, organy i jednostki organizacyjne Unii Europejskiej podlegają regulacjom EUDPR, a nie RODO, oba rozporządzenia realizują te same cele, a ich przepisy są identyczne ( 4 ) . Aby podkreślić tę spójność, każde odwołanie do przepisu dotyczącego RODO w niniejszej opinii będzie również zawierało w nawiasie odpowiedni przepis dotyczący EUDPR.

7. Mając na uwadze zapewnienie spójnego podejścia w całej Unii , EIOD zaleca, aby wszelkie nowe ramy regulacyjne dotyczące sztucznej inteligencji miały zastosowanie zarówno do państw członkowskich, jak i do instytucji, organów i jednostek organizacyjnych UE. Instytucje, organy i jednostki organizacyjne UE, które korzystają ze sztucznej inteligencji („AI”), powinny podlegać tym samym przepisom, które obowiązują w państwach członkowskich.

3. WNIOSKI

77. Europejski Inspektor Ochrony Danych w pełni zgadza się z Komisją, że potrzebne jest europejskie podejście do sztucznej inteligencji, i w związku z tym z zadowoleniem przyjmuje podjęte w białej księdze zobowiązanie do przestrzegania praw podstawowych i wartości europejskich.

78. Wyraża jednak przekonanie, że propozycje przedstawione w białej księdze wymagają w niektórych istotnych kwestiach dalszych poprawek i wyjaśnień. Do zagadnień, które wymagają doprecyzowania w kolejnym wniosku ustawodawczym, należą: związek między zagrożeniami stwarzanymi przez sztuczną inteligencję a związanymi z nią lukami prawnymi, podejście oparte na analizie ryzyka w odniesieniu do zastosowań sztucznej inteligencji oraz sama definicja sztucznej inteligencji, która powinna umożliwiać jasne określenie zakresu proponowanego ustawodawstwa.

79. Z tego względu EIOD zaleca, aby wszelkie nowe ramy regulacyjne dotyczące sztucznej inteligencji: — miały zastosowanie zarówno do państw członkowskich, jak i do instytucji, organów i jednostek organizacyjnych UE, — zostały opracowane, by chronić przed negatywnymi skutkami nie tylko osoby fizyczne, lecz także społeczności i całe społeczeństwo, — proponowały wprowadzenie solidniejszego i bardziej zróżnicowanego systemu klasyfikacji zagrożeń, który zapewni, aby wszelkim znaczącym potencjalnym szkodom wynikającym z zastosowania sztucznej inteligencji towarzyszyły odpowiednie środki zabezpieczające, — uwzględniały ocenę skutków jasno określającą luki regulacyjne, które zostaną uzupełnione, — zapobiegały powielaniu działań różnych organów nadzoru i obejmowały mechanizm współpracy.

80. W odniesieniu do zdalnej identyfikacji biometrycznej EIOD popiera ideę wprowadzenia moratorium na wdrożenie w UE systemu zautomatyzowanej identyfikacji cech fizycznych człowieka w przestrzeni publicznej, nie tylko twarzy, lecz także chodu, odcisków palców, DNA, głosu, sposobu uderzania w klawisze i innych sygnałów biometrycznych lub behawioralnych, tak aby można było przeprowadzić merytoryczną i demokratyczną debatę oraz do czasu uzyskania przez UE i państwa członkowskie odpowiednich zabezpieczeń, w tym kompleksowych ram prawnych gwarantujących proporcjonalność odpowiednich technologii i systemów w odniesieniu do konkretnego przypadku użycia.

81. Jeżeli zostaną opracowane nowe ramy prawne, o których mowa w białej księdze i w programie prac Komisji, EIOD będzie udzielał Komisji dalszych zaleceń, zgodnie z art. 42 EUDPR.

Bruksela, dnia 29 czerwca 2020 r. Wojciech Rafał WIEWIÓROWSKI

(1) COM(2020) 65 final.

(2) COM(2020) 66 final.

(3) Opinia EIOD nr 3/2020 w sprawie europejskiej strategii w zakresie danych, https://edps.europa.eu/sites/edp/files/publication/20-06-16_opinion_data_strategy_en.pdf

(4) W przypadku gdy przepisy rozporządzenia (UE) 2018/1725 opierają się na tych samych zasadach, co przepisy rozporządzenia (UE) 2016/679, zgodnie z orzecznictwem Trybunału Sprawiedliwości Unii Europejskiej te dwa zbiory przepisów należy interpretować zgodnie z ich jednolitą wykładnią, przede wszystkim ze względu na to, że schemat rozporządzenia EDPR należy rozumieć jako równoznaczny ze schematem RODO; zob. motyw 5 EDPR, w odniesieniu do wyroku TSUE z dnia 9 marca 2010 r., Komisja Europejska/Republika Federalna Niemiec, C-518/07, ECLI:EU:C:2010:125, pkt 28.