Source: https://www.europarl.europa.eu/doceo/document/A-8-2019-0019_PL.html
Timestamp: 2020-02-26 05:18:50
Legal References Found: art. 13
 art. 22
 art. 2
 art. 54
 art. 7
 art. 16
 art. 13
 art. 22

Document Content:
383k 120k
w sprawie kompleksowej europejskiej polityki przemysłowej w dziedzinie sztucznej inteligencji i robotyki
Sprawozdawcy komisji opiniodawczych (*):Dita Charanzová, Komisja Rynku Wewnętrznego i Ochrony Konsumentów
Mady Delvaux, Komisja Prawna
1. Społeczeństwo wspierane przez sztuczną inteligencję i robotykę
1.1. Praca w erze sztucznej inteligencji i robotyki
1.2. Złośliwe zastosowanie sztucznej inteligencji a prawa podstawowe
2. Ścieżka technologiczna prowadząca ku sztucznej inteligencji i robotyce
2.1. Badania i rozwój
2.2. Inwestycje
2.3. Innowacje, akceptacja społeczna i odpowiedzialność
2.4. Sprzyjające warunki: łączność, dostępność danych i obliczenia wielkiej skali oraz infrastruktura przetwarzania w chmurze
3. Polityka przemysłowa
3.1. Sektory priorytetowe
3.1.1. Sektor publiczny
3.1.2. Zdrowie
3.1.5. Rolnictwo i łańcuch żywnościowy
3.1.6. Cyberbezpieczeństwo
3.1.7. Małe i średnie przedsiębiorstwa
4. Ujęcie sztucznej inteligencji i robotyki w ramy prawne
4.1. Wewnętrzny rynek dla sztucznej inteligencji
4.2. Dane osobowe i prywatność
130. przypomina, że rozporządzenie (UE) 2018/1807(14) w sprawie swobodnego przepływu danych nieosobowych stanowi, że jeżeli rozwój technologiczny umożliwia przekształcanie zanonimizowanych danych w dane osobowe, takie dane należy traktować jako dane osobowe i stosować odpowiednio rozporządzenie (UE) 2016/679;
131. z zadowoleniem przyjmuje inicjatywę Komisji dotyczącą utworzenia grupy ekspertów ds. odpowiedzialności i nowych technologii w celu zapewnienia UE wiedzy fachowej na temat stosowania dyrektywy w sprawie odpowiedzialności za produkty(15) w odniesieniu do produktów tradycyjnych, nowych technologii i nowych wyzwań społecznych (tworzenie dyrektywy w sprawie odpowiedzialności za produkty) oraz wspierania UE w opracowywaniu zasad, które mogą służyć jako wytyczne dotyczące ewentualnego dostosowania obowiązujących przepisów na szczeblu unijnym i krajowym w odniesieniu do nowych technologii (tworzenie nowych technologii);
4.4. Ochrona i upodmiotowienie konsumentów
4.5. Prawa własności intelektualnej
137. pod tym względem z zadowoleniem przyjmuje komunikat Komisji skierowany do pozostałych instytucji w sprawie wytycznych dotyczących niektórych aspektów dyrektywy 2004/48/WE Parlamentu Europejskiego i Rady w sprawie egzekwowania praw własności intelektualnej (COM(2017)0708), ale podkreśla potrzebę monitorowania adekwatności i skuteczności przepisów dotyczących praw własności intelektualnej w celu zarządzania rozwojem sztucznej inteligencji; podkreśla w tym kontekście znaczenie ocen adekwatności;
5. Aspekty etyczne
5.1. Technologia ukierunkowana na człowieka
5.2. Wartości związane z technologią – „etyczny z założenia”
5.3. Podejmowanie decyzji – ograniczenia autonomii sztucznej inteligencji i robotyki
5.4. Przejrzystość, błąd systematyczny i wytłumaczalność algorytmów
158. podkreśla, że wszelkie systemy sztucznej inteligencji muszą być opracowywane przy poszanowaniu zasad przejrzystości i odpowiedzialności za algorytm, które umożliwiają zrozumienie działań tych systemów przez człowieka; zauważa, że aby zbudować zaufanie do sztucznej inteligencji i umożliwić jej rozwój, użytkownicy muszą być świadomi tego, w jaki sposób wykorzystuje się ich dane, inne dane oraz dane zaczerpnięte z ich danych, gdy komunikują się lub nawiązują kontakt z systemem sztucznej inteligencji lub z osobami wspieranymi przez taki system; uważa, że przyczyni się to do lepszego zrozumienia i większego zaufania ze strony użytkowników; podkreśla, że zasada zrozumiałości decyzji musi być normą unijną zgodnie z art. 13, 14 i 15 ogólnego rozporządzenia o ochronie danych (RODO)(16); przypomina, że w RODO przewidziano już prawo do informacji o zasadach rządzących przetwarzaniem danych; zwraca uwagę, że zgodnie z art. 22 ogólnego rozporządzenia o ochronie danych osoby fizyczne mają prawo do interwencji ze strony człowieka w przypadkach, gdy na ich sytuację w znacznym stopniu wpływa decyzja oparta na zautomatyzowanym przetwarzaniu;
6.1. Koordynacja na szczeblu Unii
• stworzenie matrycy oceny ryzyka w celu klasyfikacji typów i obszarów zastosowania algorytmów pod względem ich możliwości wywarcia znaczącego negatywnego wpływu na obywateli;
• badanie wykorzystywania systemów algorytmicznych w przypadku podejrzenia naruszenia praw człowieka (np. w świetle dowodów przedstawionych przez sygnalistę);
• doradztwo na rzecz innych agencji regulacyjnych w odniesieniu do systemów algorytmicznych, które wchodzą w zakres ich kompetencji;
• zwiększanie skuteczności mechanizmu odpowiedzialności deliktowej jako środka umożliwiającego regulację odpowiedzialności systemów algorytmicznych przez zapewnienie punktu kontaktowego dla obywateli, którzy nie są zaznajomieni z procedurami prawnymi;
• audyty ocen skutków algorytmów dotyczących systemów o wysokim poziomie oddziaływania w celu akceptacji lub odrzucania proponowanych sposobów wykorzystywania algorytmicznego podejmowania decyzji w obszarach wysoce newralgicznych lub mających kluczowe znaczenie pod względem bezpieczeństwa (np. prywatna opieka zdrowotna); ocena skutków algorytmów dla zastosowań w sektorze prywatnym mogłaby przebiegać w analogiczny sposób do oceny zaproponowanej dla sektora publicznego, przy czym ewentualna różnica mogłaby polegać na tym, że poszczególne etapy podawania informacji do wiadomości publicznej mogłyby być realizowane na zasadach poufnego powiadamiania agencji regulacyjnej (na podstawie umowy o zachowaniu poufności) w celu zabezpieczenia najważniejszych tajemnic handlowych;
• badanie przypadków podejrzewanych naruszeń praw przez algorytmiczne systemy podejmowania decyzji zarówno pod względem indywidualnych decyzji (np. pojedyncze anormalne wyniki), jak i statystycznych wzorców decyzyjnych (np. dyskryminacyjny błąd systematyczny); badania mogłyby być inicjowane w następstwie złożenia skargi lub na podstawie dowodów przedstawionych przez sygnalistów, dziennikarzy śledczych lub niezależnych badaczy (w tym organizacji pozarządowych i naukowców);
Dz.U. C 307 z 30.8.2018, s. 163.
Teksty przyjęte, P8_TA(2018)0341.
Teksty przyjęte, P8_TA(2018)0332.
Dz.U. L 252 z 8.10.2018, s. 1.
Przyszłe i powstające technologie.
OECD „Digital Economy Outlook 2017” [„Przyszłość gospodarki cyfrowej 2017”].
Specjalne badanie Eurobarometr nr 460.
Dyrektywa Parlamentu Europejskiego i Rady (UE) 2018/958 z dnia 28 czerwca 2018 r. w sprawie analizy proporcjonalności przed przyjęciem nowych regulacji dotyczących zawodów, Dz.U. L 173 z 9.7.2018, s. 25.
Dyrektywa Parlamentu Europejskiego i Rady 2013/55/UE z dnia 20 listopada 2013 r. zmieniająca dyrektywę 2005/36/WE w sprawie uznawania kwalifikacji zawodowych i rozporządzenie (UE) nr 1024/2012 w sprawie współpracy administracyjnej za pośrednictwem systemu wymiany informacji na rynku wewnętrznym („rozporządzenie w sprawie IMI”), Dz.U. L 354 z 28.12.2013, s. 132.
Dyrektywa 2006/123/WE Parlamentu Europejskiego i Rady z dnia 12 grudnia 2006 r. dotycząca usług na rynku wewnętrznym, Dz.U. L 376 z 27.12.2006, s. 36.
Dyrektywa 2000/31/WE Parlamentu Europejskiego i Rady z dnia 8 czerwca 2000 r. w sprawie niektórych aspektów prawnych usług społeczeństwa informacyjnego, w szczególności handlu elektronicznego w ramach rynku wewnętrznego („dyrektywa o handlu elektronicznym”), Dz.U. L 178 z 17.7.2000, s. 1.
Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1807 z dnia 14 listopada 2018 r. w sprawie możliwości transgranicznego przenoszenia na rynku wewnętrznym usług online w zakresie treści, Dz.U. L 303 z 28.11.2018, s. 59.
Dyrektywa Rady 85/374/EWG z dnia 25 lipca 1985 r. w sprawie zbliżenia przepisów ustawowych, wykonawczych i administracyjnych państw członkowskich dotyczących odpowiedzialności za produkty wadliwe, Dz.U. L 210 z 7.8.1985, s. 29.
Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE, Dz.U. L 119 z 4.5.2016, s. 1.
OPINIA Komisji Rynku Wewnętrznego i Ochrony Konsumentów (7.12.2018)
A. mając na uwadze, że rozwój sztucznej inteligencji dokonuje się w szybkim tempie oraz mając na uwadze, że sztuczna inteligencja już od wielu lat jest obecna w naszym codziennym życiu; mając na uwadze, że sztuczna inteligencja i robotyka pobudzają innowacje oraz leżą u podstaw nowych modeli biznesowych i odgrywają kluczową rolę w transformacji społecznej i w cyfryzacji gospodarek w wielu sektorach, takich jak przemysł, opieka zdrowotna, budownictwo i transport;
B. mając na uwadze, że Chiny i Stany Zjednoczone przodują w technologiach sztucznej inteligencji, a UE pozostaje za nimi w tyle; mając na uwadze, że UE nie będzie w stanie dotrzymać im kroku bez skoordynowanego podejścia na poziomie europejskim; mając na uwadze, że wspólne podejście do problematyki sztucznej inteligencji umożliwiłoby UE skuteczniejsze propagowanie wartości Unii na całym świecie oraz odgrywanie z lepszym skutkiem większej roli na arenie międzynarodowej;
C. mając na uwadze, że około jednej czwartej wszystkich robotów przemysłowych oraz połowę wszystkich profesjonalnych robotów usługowych na świecie produkują przedsiębiorstwa europejskie, w związku z czym UE posiada już istotne atuty, na których powinna oprzeć europejską politykę przemysłową;
D. mając na uwadze, że wspólne podejście ułatwi rozwój technologii sztucznej inteligencji z korzyścią dla obywateli, a jednocześnie przyczyni się do sprostania wyzwaniom związanym z tymi technologiami w dążeniu do wsparcia innowacji, poprawy jakości produktów i usług opartych na sztucznej inteligencji, zwiększenia zadowolenia konsumentów i ich zaufania do technologii sztucznej inteligencji i robotyki oraz do uniknięcia rozdrobnienia rynku wewnętrznego;
E. mając na uwadze, że rozwój sztucznej inteligencji i robotyki musi obejmować wszystkich obywateli; mając jednak na uwadze, że w 2017 r. obszary wiejskie były w dużej mierze pozbawione możliwości korzystania z zalet sztucznej inteligencji, ponieważ 8 % gospodarstw domowych nie jest objętych żadną siecią stacjonarną, a 53 % nie jest objętych żadną technologią dostępu nowej generacji (VDSL, Cable Docsis 3.0 czy FTTP);
F. mając na uwadze, że rozwój usług i produktów opartych na sztucznej inteligencji wymaga łączności, swobodnego przepływu danych i dostępności danych w obrębie UE; mając na uwadze, że stosowanie zaawansowanych technik eksploracji danych w usługach i produktach może przyczynić się do poprawy jakości procesu podejmowania decyzji, a tym samym zwiększyć możliwości wyboru dostępne konsumentom, oraz do poprawy wyników działalności gospodarczej;
G. mając na uwadze, że cyberbezpieczeństwo jest niezwykle istotne, by móc zagwarantować, że dane nie są rozmyślnie fałszowane lub wykorzystywane niezgodnie z przeznaczeniem w taki sposób, by sztuczna inteligencja działała na szkodę obywateli lub przedsiębiorstw, co podważyłoby zaufanie firm i konsumentów do sztucznej inteligencji; mając na uwadze, że rozwój sztucznej inteligencji zwiększa uzależnienie działań i decyzji od tych systemów, co z kolei rodzi potrzebę zapewnienia wysokich standardów cyberodporności w UE, aby chronić się przed naruszeniami i lukami w systemie cyberbezpieczeństwa;
H. mając na uwadze, że rozwój technologiczny w dziedzinie inteligentnych produktów i usług może przynieść korzyści gospodarce opartej na wiedzy – która zależy od ilości, jakości i dostępności zgromadzonych informacji – a tym samym może skutkować lepszym dostosowywaniem się do potrzeb konsumentów;
I. mając na uwadze, że konsumenci powinni mieć zaufanie do technologii, z którymi mają do czynienia, oraz mając na uwadze, że w związku z tym istnieje potrzeba zajęcia się kwestiami etycznymi związanymi z rozwojem sztucznej inteligencji i robotyki; mając na uwadze, że swoją reakcję dotyczącą tych kwestii UE powinna oprzeć na poszanowaniu wartości zapisanych w art. 2 Traktatu o Unii Europejskiej i w Karcie praw podstawowych Unii Europejskiej; mając na uwadze, że powołana przez Komisję grupa ekspertów wysokiego szczebla ds. sztucznej inteligencji opracuje do końca 2018 r. projekt wytycznych w zakresie etyki sztucznej inteligencji;
1. podkreśla, że pierwszym i najważniejszym warunkiem, który UE musi spełnić, aby dotrzymać kroku rozwojowi sztucznej inteligencji, jest działanie we wspólnych ramach;
2. podkreśla, że nieskoordynowane działania w zakresie badań i rozwoju oraz rozbieżne decyzje dotyczące przepisów i działań na poziomie międzynarodowym coraz bardziej oddalają UE od osiągnięcia tego celu;
3. zauważa, że niektóre państwa członkowskie posiadają już własne strategie w dziedzinie sztucznej inteligencji i z zadowoleniem przyjmuje fakt, że wszystkie państwa członkowskie podpisały w kwietniu 2018 r. deklarację w sprawie współpracy w dziedzinie sztucznej inteligencji, a także przyszły skoordynowany plan w sprawie sztucznej inteligencji opracowany przez Komisję wraz z państwami członkowskimi, lecz wzywa wszystkie zaangażowane strony do dążenia do jak najściślejszej współpracy;
Społeczeństwo wspierane przez sztuczną inteligencję i robotykę
4. przypomina, że Europa dysponuje przodującą na świecie społecznością naukowców prowadzących badania nad sztuczną inteligencją, która reprezentuje 32 % światowych placówek badawczych zajmujących się sztuczną inteligencją;
5. podkreśla, że naukowcy z UE nadal zarabiają znacznie mniej niż ich koledzy w USA i w Chinach oraz że jest to głównym powodem opuszczania przez nich Europy; wzywa Komisję i państwa członkowskie do skupienia się na przyciągnięciu najbardziej uzdolnionych osób do pracy w firmach europejskich, a państwa członkowskie do stworzenia im atrakcyjnych warunków;
6. podkreśla, jak ważne są środki ukierunkowane na zapewnienie małym i średnim przedsiębiorstwom oraz przedsiębiorstwom typu start-up możliwości przyswajania technologii sztucznej inteligencji i czerpania z nich korzyści; uważa, że oceny skutków nowych przepisów UE dotyczących rozwoju technologicznego sztucznej inteligencji powinny być obowiązkowe oraz że należy rozważyć takie oceny skutków również na poziomie krajowym;
7. wzywa Komisję, aby w trosce o otoczenie regulacyjne sprzyjające rozwojowi sztucznej inteligencji i zgodnie z zasadą lepszego stanowienia prawa regularnie poddawała ocenie obowiązujące przepisy, aby zadbać o to, by były one adekwatne do celów względem sztucznej inteligencji, przy jednoczesnym poszanowaniu podstawowych wartości UE, oraz dążyła do zmiany przepisów lub zastąpienia ich nowymi w przypadkach, w których zostanie wykazane, że tak nie jest;
8. zaleca dalsze działania na rzecz zwiększenia łączności na zaniedbanych obszarach, takich jak obszary wiejskie, oraz w zaniedbanych sektorach w celu zapewnienia transformacji cyfrowej prawdziwie sprzyjającej włączeniu społecznemu;
9. podkreśla fakt, że szerzej wprowadzane technologie sztucznej inteligencji mogą zastąpić niektóre zawody, w szczególności te, które najbardziej nadają się do zautomatyzowania, oraz stworzyć nowe; przypomina, że znaczna część ludności UE – 37 % osób aktywnych zawodowo – nie posiada podstawowych umiejętności cyfrowych; podkreśla, że Komisja przewiduje znaczny niedobór specjalistów w dziedzinie ICT, prognozując, że do 2020 r. będzie 750 000 nieobsadzonych miejsc pracy;
10. wzywa państwa członkowskie do unowocześnienia ich systemów szkolenia zawodowego i kształcenia w celu uwzględnienia postępu naukowego i rozwoju w dziedzinie sztucznej inteligencji zgodnie z dyrektywą w sprawie analizy proporcjonalności i z dyrektywą w sprawie uznawania kwalifikacji zawodowych, a także do sprawienia, by unijne usługi świadczone w ramach zawodów regulowanych stały się w nadchodzących dziesięcioleciach konkurencyjne w skali światowej;
Ścieżka technologiczna prowadząca ku sztucznej inteligencji i robotyce
11. uważa, że nowy zbiór przepisów regulujących swobodny przepływ danych nieosobowych w Unii pozwala na udostępnianie coraz większej ilości danych na potrzeby innowacji opartych na danych, ułatwiając MŚP i przedsiębiorstwom typu start-up rozwijanie innowacyjnych usług opartych na sztucznej inteligencji i wchodzenie na nowe rynki, a jednocześnie umożliwiając obywatelom i przedsiębiorstwom korzystanie z lepszych produktów i usług;
12. przypomina, że rozporządzenie w sprawie swobodnego przepływu danych nieosobowych stanowi, że jeżeli rozwój technologiczny umożliwia przekształcanie zanonimizowanych danych w dane osobowe, takie dane należy traktować jako dane osobowe i stosować odpowiednio rozporządzenie (UE) 2016/679;
13. w kontekście przyszłego rozwoju głębokiego uczenia maszynowego uznaje potencjał wymiany danych, w szczególności jeśli chodzi o zbiory danych o wysokiej wartości ze względu na związane z nimi znaczne korzyści obywatelskie lub społeczno-gospodarcze oraz na przydatność do generowania usług i zastosowań posiadających wartość dodaną;
14. podkreśla znaczenie otwartych danych nieosobowych pochodzących ze źródeł publicznych i prywatnych oraz uważa, że ramy regulacyjne, włącznie z ponownym wykorzystywaniem informacji sektora publicznego, powinny ułatwiać dostęp do otwartych danych i interoperacyjność; wzywa Komisję do rozważenia stworzenia bezpiecznego i dobrowolnego w użytkowaniu jednego portalu ułatwiającego wymianę danych nieosobowych na poziomie UE w celu uproszczenia gromadzenia danych;
15. podkreśla, że zaufanie konsumentów ma zasadnicze znaczenie dla rozwoju sztucznej inteligencji oraz że systemy oparte na sztucznej inteligencji przetwarzają coraz większą ilość danych konsumentów, co sprawia, że systemy te są głównym celem cyberataków; podkreśla również fakt, że sztuczna inteligencja musi funkcjonować tak, by nie działać na szkodę obywateli i konsumentów, oraz uważa, że należy w związku z tym zapewnić integralność danych i algorytmów, na których opiera się sztuczna inteligencja;
16. podkreśla znaczenie dostrzegania, rozpoznawania i monitorowania przełomów w rozwoju sztucznej inteligencji oraz zmian związanych z tym rozwojem; zachęca badaczy sztucznej inteligencji do skupienia się również na wykrywaniu przypadkowych lub rozmyślnych uszkodzeń sztucznej inteligencji i systemów robotycznych;
17. uważa, że Unia powinna być lepiej przygotowana na cyberataki; zachęca do szybkiego ukończenia prac nad strategią na rzecz cyberbezpieczeństwa, za której pośrednictwem należy zapewnić opracowanie i wdrożenie bezpiecznych systemów sztucznej inteligencji i systemów robotycznych odpornych na cyberataki, w szczególności dzięki opracowaniu systemów certyfikacji UE; uważa, że ENISA powinna opracować plan działania na rzecz cyberbezpieczeństwa w dziedzinie sztucznej inteligencji, w ramach którego należy ocenić zagrożenia i słabe punkty specyficzne dla sztucznej inteligencji oraz im zaradzić;
18. podkreśla, że rozwój silnego i konkurencyjnego sektora sztucznej inteligencji i robotyki nie może opierać się wyłącznie na funduszach publicznych; podkreśla znaczenie uruchomienia środków prywatnych dla wsparcia innowacji i powstania dobrze rozwiniętego sektora sztucznej inteligencji i robotyki w UE;
19. przypomina, że chociaż sztuczna inteligencja i robotyka już od dawna mają zastosowania przemysłowe, w tej dziedzinie wciąż dokonuje się postęp, który umożliwia szerokie i różnorodne zastosowania we wszystkich sferach działalności człowieka; uważa, że wszelkie ramy regulacyjne muszą charakteryzować się elastycznością umożliwiającą innowacje i swobodny rozwój nowych technologii i zastosowań w odniesieniu do sztucznej inteligencji; podkreśla, że regulacja prawna nie powinna utrudniać badań i rozwoju w sektorze prywatnym;
20. wzywa Komisję do zadbania o to, by ośrodki innowacji cyfrowych nie prowadziły do tworzenia dodatkowych szczebli administracji, lecz skoncentrowały się na przyspieszeniu inwestycji w projekty, których opłacalność została wykazana; wzywa Komisję do skoncentrowania się na dotacjach i pomocy finansowej na rzecz prywatnych projektów badawczo-rozwojowych; podkreśla potrzebę szerszego wykorzystania partnerstw publiczno-prywatnych w dziedzinie sztucznej inteligencji;
21. uważa, że sztuczna inteligencja będzie wielkim atutem przy wdrażaniu zasady jednorazowości, gdyż umożliwia łączenie baz danych i informacji z różnych źródeł, a tym samym ułatwia obywatelom komunikowanie się z administracją publiczną;
Ujęcie sztucznej inteligencji i robotyki w ramy prawne
Wewnętrzny rynek dla sztucznej inteligencji
22. uważa, że państwa członkowskie powinny zadbać o tworzenie danych w oparciu o zasadę „otwartości danych w fazie projektowania i domyślnie”, a jednocześnie zadbać o spójny poziom ochrony celów leżących w interesie publicznym, takich jak bezpieczeństwo publiczne lub ochrona danych osobowych, w tym w przypadkach, gdy chodzi o dane szczególnie chronione dotyczące infrastruktury krytycznej;
Odpowiedzialny rozwój i swobodny przepływ inteligentnych towarów
23. podkreśla znaczenie zasady wzajemnego uznawania w transgranicznym stosowaniu inteligentnych towarów, w tym robotów i systemów robotycznych; przypomina, że w razie potrzeby testy, certyfikaty i bezpieczeństwo produktów powinny gwarantować, że pewne towary są bezpieczne, gdyż tak je domyślnie zaprojektowano; w tym kontekście zwraca uwagę na znaczenie, jakie mają również prace nad aspektami etycznymi sztucznej inteligencji;
24. podkreśla, że sztuczna inteligencja jest wykorzystywana w różnych sektorach, w których duże znaczenie ma normalizacja, takich jak inteligentna produkcja, roboty, samochody autonomiczne, wirtualna rzeczywistość, opieka zdrowotna i analiza danych, oraz uważa, że ogólnounijne normy w dziedzinie sztucznej inteligencji będą sprzyjać innowacjom i gwarantować wysoki poziom ochrony konsumentów; przyznaje, że choć istnieje już wiele norm związanych z ochroną, niezawodnością, interoperacyjnością i bezpieczeństwem, potrzebne są dalsze starania o nie i opracowanie wspólnych norm w dziedzinie robotyki i sztucznej inteligencji oraz że powinny one być jednym z priorytetów Unii; wzywa Komisję, by we współpracy z unijnymi organami normalizacyjnymi nadal aktywnie angażowała się wraz z międzynarodowymi organami normalizacyjnymi w udoskonalenie norm w tej dziedzinie;
25. wzywa Komisję i państwa członkowskie do sprzyjania testowaniu na małą skalę w realnych warunkach innowacyjnych produktów i technologii (tzw. sand-box innovation), zanim takie produkty zostaną wprowadzone do obrotu;
26. jest świadom, że technologie robotyczne i technologie sztucznej inteligencji są coraz szerzej stosowane w pojazdach autonomicznych, takich jak samochody autonomiczne czy drony; zauważa, że niektóre państwa członkowskie już uchwalają przepisy dotyczące konkretnie tej dziedziny lub prowadzą prace nad uchwaleniem takich przepisów, co może doprowadzić do fragmentacji przepisów krajowych utrudniającej rozwój pojazdów autonomicznych; wzywa w związku z tym do ustanowienia jednolitego zbioru przepisów unijnych, w którym zachowana zostanie właściwa równowaga między interesami użytkowników, przedsiębiorstw i innych zainteresowanych stron a potencjalnymi zagrożeniami, lecz bez nadmiernej regulacji w odniesieniu do systemów robotycznych i systemów sztucznej inteligencji;
Swobodne świadczenie usług opartych na sztucznej inteligencji
27. przypomina, że technologie służące analizie, wykorzystywaniu i przetwarzaniu danych w takich zastosowaniach jak uczenie maszynowe, sztuczna inteligencja i internet rzeczy stale ewoluują oraz że szybki rozwój technologiczny umożliwia tworzenie nowych usług i nowych zastosowań, opierających się na wykorzystywaniu, agregacji lub zestawianiu danych;
28. przypomina, że wiele aspektów politycznych istotnych z punktu widzenia usług opartych na sztucznej inteligencji, w tym przepisy dotyczące ochrony konsumentów oraz zasady etyki i odpowiedzialności, wchodzi w zakres obowiązujących ram regulacyjnych dotyczących usług, a mianowicie dyrektywy usługowej, dyrektywy w sprawie uznawania kwalifikacji zawodowych i dyrektywy w sprawie handlu elektronicznego;
29. podkreśla, że za podjęcie decyzji musi zawsze ostatecznie odpowiadać człowiek, zwłaszcza w przypadku usług świadczonych w ramach wolnych zawodów, takich jak zawody medyczne, prawnicze i księgowe; uważa, że należy zastanowić się, czy w trosce o ochronę uzasadnionych celów leżących w interesie publicznym i o świadczenie wysokiej jakości usług nie byłby konieczny nadzór ze strony wykwalifikowanego specjalisty;
30. uznaje znaczenie zaawansowanych usług cyfrowych, takich jak wirtualni asystenci, wirtualni doradcy czy wirtualne osoby, przysparzających niespotykanych dotąd korzyści operacyjnych, jednocześnie zwracając uwagę na potrzebę rozwoju sztucznej inteligencji zorientowanej na człowieka i opartej na zasadach rynkowych w celu uzyskania lepszych i bardziej wiarygodnych decyzji w obliczu ograniczonej autonomii sztucznej inteligencji i systemów robotycznych;
Ochrona konsumentów i wzmocnienie ich pozycji
31. uważa, że technologie sztucznej inteligencji – zarówno te opracowywane do celów produkcyjnych, jak i te przeznaczone dla użytkowników indywidualnych – powinny podlegać kontrolom bezpieczeństwa produktów przeprowadzanym przez organy nadzoru rynku, a przepisy dotyczące ochrony konsumentów powinny w stosownych przypadkach gwarantować minimalne normy bezpieczeństwa oraz przeciwdziałać ryzyku wypadków, które mogą się wydarzyć w wyniku interakcji z ludźmi lub działania w pobliżu ludzi; jest zdania, że we wszelkich strategiach politycznych dotyczących sztucznej inteligencji należy uwzględnić kwestie etyczne i zagadnienia z zakresu ochrony danych, w tym danych pozyskanych od osób trzecich i danych osobowych, odpowiedzialności cywilnej oraz cyberbezpieczeństwa;
32. przypomina, że sztuczna inteligencja i robotyka opierają się na algorytmach; wzywa państwa członkowskie do zadbania o to, by na potrzeby sztucznej inteligencji wykorzystywane były jedynie dane wysokiej jakości, a w szczególności aby były one aktualne, dokładne i wiarygodne, tak aby zyskać zaufanie i aprobatę konsumentów; przypomina w związku z tym, jak ważna jest zdolność do wyjaśnienia procesów decyzyjnych w odniesieniu do technologii sztucznej inteligencji oraz neutralność algorytmów, przy jednoczesnym respektowaniu prawa Unii, w szczególności dotyczącego tajemnic handlowych, oraz tworzenie struktur przeglądowych w celu naprawiania ewentualnych błędów w decyzjach podjętych przez sztuczną inteligencję;
33. podkreśla, że łatwość w obsłudze sztucznej inteligencji znacznie zwiększy zaufanie konsumentów; uważa, że gdy ostateczne i definitywne decyzje są podejmowane przez sztuczną inteligencję, a nie przez człowieka, konsumenci powinni być o tym informowani i mieć możliwość starania się o ich weryfikację przez człowieka oraz odwołania się od niej do osądu człowieka; podkreśla, że w razie interakcji z systemem zautomatyzowanym użytkownicy powinni być informowani o sposobie skontaktowania się z człowiekiem i o sposobie zapewnienia sobie możliwości sprawdzenia i skorygowania decyzji systemu;
34. przyjmuje do wiadomości dokument roboczy służb Komisji z dnia 25 kwietnia 2018 r. w sprawie odpowiedzialności za nowe technologie cyfrowe (SWD(2018)0137); zauważa przestawiony w nim wniosek, że chociaż obecne ramy odpowiedzialności są nadal stabilne i dobrze funkcjonują, powinny zostać poddane przeglądowi przez grupę ekspertów ds. odpowiedzialności w kontekście nowych technologii sztucznej inteligencji, aby zadbać o to, by były adekwatne do celów i uwzględniały punkt widzenia konsumentów, innowatorów i przedsiębiorstw prowadzących działalność w UE;
35. podkreśla potrzebę uświadamiania obywatelom, a w szczególności młodszym obywatelom, jak działa sztuczna inteligencja; wzywa do wzmocnienia pozycji obywateli UE i unijnych konsumentów dzięki uczynieniu sztucznej inteligencji łatwiej dostępną dla obywateli, konsumentów i społeczeństwa obywatelskiego; uważa, że można to osiągnąć, oferując intensywniejszą i powszechnie dostępną edukację w celu lepszego zrozumienia problematyki sztucznej inteligencji.
Sz. P. Jerzy Buzek
Przedmiot: Opinia w sprawie kompleksowej europejskiej polityki przemysłowej w dziedzinie sztucznej inteligencji i robotyki (2018/2088(INI))
W ramach procedury podanej w przedmiocie Komisja Prawna, której mam zaszczyt przewodniczyć, została poproszona o wydanie opinii na użytek komisji, której Pan przewodniczy. Na sprawozdawcę komisji opiniodawczej wyznaczono Mady Delvaux. Na posiedzeniu w dniu 20 listopada 2018 r. komisja podjęła decyzję o przedstawieniu tej opinii w formie pisma.
Zgodnie z porozumieniem osiągniętym na mocy art. 54 Regulaminu w sprawie procedury zaangażowanych komisji Komisja Prawna posiada wyłączne kompetencje w kwestiach dotyczących odpowiedzialności i praw własności intelektualnej oraz kompetencje dzielone w odniesieniu do wartości związanych z technologią („etyczny z założenia”).
Komisja Prawna rozpatrzyła tę sprawę na posiedzeniu 6 grudnia 2018 r., a po wymianie informacji między koordynatorami w drodze procedury pisemnej na posiedzeniu 10 grudnia 2018 r. została przyjęta poniższa opinia. Na tym samym posiedzeniu(1) komisja postanowiła zwrócić się do Komisji Przemysłu, Badań Naukowych i Energii, jako komisji przedmiotowo właściwej, o uwzględnienie w projekcie rezolucji przedstawionych poniżej wskazówek.
Mam nadzieję, że powyższe sugestie będą stanowić użyteczny wkład w sprawozdanie przygotowywane przez Pana komisję.
A. mając na uwadze, że w rezolucji z dnia 16 lutego 2017 r. zawierającej zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki (2015/2103 (INL)) wezwano Komisję do zaproponowania spójnych ram prawnych dotyczących rozwoju robotyki, w tym autonomicznych systemów i inteligentnych robotów autonomicznych;
1. nalega, by większą uwagę poświęcać bezpieczeństwu produktów, aby zapewnić ochronę i zaufanie konsumentów do sztucznej inteligencji i robotyki;
2. podkreśla, że projektowanie sztucznej inteligencji zorientowane na człowieka ma kluczowe znaczenie dla zapewnienia odpowiedzialności za proces podejmowania decyzji przez maszyny i rozliczalności tego procesu;
3. podkreśla, że ramy tej polityki muszą być opracowane w taki sposób, aby zachęcać do rozwoju wszelkiego rodzaju sztucznej inteligencji, a nie tylko systemów uczenia głębokiego, co wymaga ogromnych ilości danych;
4. podkreśla, że wykorzystywanie danych w sektorze zdrowia musi być uważnie i etycznie monitorowane oraz nie może w żaden sposób utrudniać dostępu do ochrony socjalnej ani ubezpieczenia;
5. uważa, że kiedy sztuczna inteligencja jest stosowana we wszczepionych wyrobach medycznych, osoba, w której ciele znajduje się implant, powinna mieć prawo do sprawdzenia i zmodyfikowania kodu źródłowego zastosowanego w wyrobie;
6. przypomina, że dostępność wysokiej jakości danych jest niezbędna do osiągnięcia faktycznej konkurencyjności w branży sztucznej inteligencji, i wzywa organy publiczne, by zagwarantowały sposoby wytwarzania danych, ich udostępniania i zarządzania nimi przez uczynienie danych dobrem wspólnym, tak jak w przypadku otwartych danych;
7. z zadowoleniem przyjmuje inicjatywę Komisji dotyczącą utworzenia grupy ekspertów ds. odpowiedzialności i nowych technologii w celu zapewnienia UE wiedzy fachowej na temat stosowania dyrektywy w sprawie odpowiedzialności za produkty w odniesieniu do produktów tradycyjnych, nowych technologii i nowych wyzwań społecznych (tworzenie dyrektywy w sprawie odpowiedzialności za produkty) oraz wspierania UE w opracowywaniu zasad, które mogą służyć jako wytyczne dotyczące ewentualnego dostosowania obowiązujących przepisów na szczeblu unijnym i krajowym w odniesieniu do nowych technologii (tworzenie nowych technologii);
8. ubolewa jednak, że w trakcie obecnej kadencji nie przedstawiono żadnego wniosku ustawodawczego, co opóźnia aktualizację przepisów dotyczących odpowiedzialności na szczeblu UE i zagraża pewności prawa w tej dziedzinie w całej UE zarówno dla przedsiębiorców, jak i konsumentów;
9. odnotowuje bieżące prace Międzynarodowej Organizacji Normalizacyjnej (ISO) nad sztuczną inteligencją i wzywa państwa członkowskie do koordynowania działań swoich członków ISO, aby jak najlepiej bronić wartości i interesów europejskich przy opracowywaniu norm;
10. przypomina wspomnianą wyżej rezolucję z 16 lutego 2018 r., w której Parlament stwierdził, że nie istnieją żadne przepisy prawne, które mają zastosowanie konkretnie do robotyki, ale że istniejące systemy prawne i doktryny mogą być z łatwością zastosowane do robotyki, chociaż niektóre aspekty wydają się wymagać szczególnego rozważenia; ponawia zawarty w rezolucji apel do Komisji, aby wspierała przekrojowe i neutralne pod względem technicznym podejście do własności intelektualnej mające zastosowanie do poszczególnych sektorów, w których możliwe jest zastosowanie robotyki;
11. pod tym względem z zadowoleniem przyjmuje komunikat Komisji skierowany do pozostałych instytucji w sprawie wytycznych dotyczących niektórych aspektów dyrektywy 2004/48/WE Parlamentu Europejskiego i Rady w sprawie egzekwowania praw własności intelektualnej, ale podkreśla potrzebę monitorowania adekwatności i skuteczności przepisów dotyczących praw własności intelektualnej w celu zarządzania rozwojem sztucznej inteligencji; podkreśla w tym kontekście znaczenie ocen adekwatności;
12. z zadowoleniem przyjmuje powołanie przez Komisję grupy ekspertów wysokiego szczebla ds. sztucznej inteligencji, złożonej z przedstawicieli środowiska akademickiego, społeczeństwa obywatelskiego i przemysłu, w celu opracowania wytycznych dotyczących etyki w dziedzinie sztucznej inteligencji w takich kwestiach jak sprawiedliwość, bezpieczeństwo, przejrzystość, przyszłość pracy, demokracja oraz, w szerszym ujęciu, wpływ na stosowanie Karty praw podstawowych, w tym na prywatność i ochronę danych osobowych, godność, ochronę konsumentów i niedyskryminację;
13. z niecierpliwością oczekuje na wspólne posiedzenie z państwami członkowskimi przewidziane na styczeń 2019 r. po opublikowaniu projektu wytycznych dotyczących etyki pod koniec 2018 r., jak zapowiedziano w komunikacie Komisji z 25 kwietnia 2018 r.;
14. podkreśla rolę, jaką Parlament mógłby odegrać poprzez prace STOA w uwzględnieniu obaw obywateli przy opracowywaniu tych wytycznych;
15. przyjmuje do wiadomości skoordynowany plan działania w sprawie sztucznej inteligencji przedstawiony przez wicekomisarza Andrusa Ansipa w grudniu 2018 r.;
16. zaznacza, że rozwojowi sztucznej inteligencji i robotyki przewodzą obecnie kraje spoza UE, i w związku z tym podkreśla znaczenie wspólnego europejskiego podejścia w celu obrony miejsca UE w rozwoju sztucznej inteligencji;
17. w tym kontekście z zadowoleniem przyjmuje utworzenie unijnego sojuszu na rzecz sztucznej inteligencji z myślą o pełnej mobilizacji zróżnicowanej grupy uczestników, w tym przedsiębiorstw, organizacji konsumenckich, związków zawodowych i innych przedstawicieli organizacji społeczeństwa obywatelskiego; zauważa, że celem tej szerokiej platformy z udziałem wielu zainteresowanych stron jest uzupełnienie i wspieranie prac grupy ekspertów wysokiego szczebla ds. sztucznej inteligencji, w szczególności w przygotowywaniu projektu wytycznych dotyczących etyki w dziedzinie sztucznej inteligencji i w zapewnieniu konkurencyjności UE w rodzącej się dziedzinie sztucznej inteligencji.
W trakcie głosowania końcowego obecni byli: Pavel Svoboda przewodniczący), Jean-Marie Cavada (wiceprzewodniczący), Mady Delvaux (wiceprzewodnicząca i sprawozdawczyni komisji opiniodawczej), Joëlle Bergeron, Kostas Chrysogonos, Sergio Gaetano Cofferati, Mary Honeyball, Sajjad Karim, Sylvia-Yvonne Kaufmann, António Marinho e Pinto, Julia Reda, Evelyn Regner, Axel Voss, Tiemo Wölken, Francis Zammit Dimech, Tadeusz Zwiefka, Kosma Złotowski, Luis de Grandes Pascual.
OPINIA Komisji Wolności Obywatelskich, Sprawiedliwości i Spraw Wewnętrznych (11.12.2018)
Sprawozdawca komisji opiniodawczej (*): Michał Boni
Komisja Wolności Obywatelskich, Sprawiedliwości i Spraw Wewnętrznych zwraca się do Komisji Przemysłu, Badań Naukowych i Energii, jako komisji przedmiotowo właściwej, o uwzględnienie w końcowym tekście projektu rezolucji następujących wskazówek:
– uwzględniając komunikat Komisji do Parlamentu Europejskiego, Rady Europejskiej, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów pt. „Sztuczna inteligencja dla Europy” (COM(2018)0237),
A. mając na uwadze, że sztuczna inteligencja jest jedną ze strategicznych technologii XXI wieku, zarówno w Europie, jak i na świecie, która przynosi pozytywne zmiany gospodarce europejskiej i umożliwia innowacje, produktywność, konkurencyjność i dobrobyt;
B. mając na uwadze, że należy rozwijać europejskie ramy dla sztucznej inteligencji przy pełnym poszanowaniu praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, a w szczególności zasad ochrony danych, prywatności i bezpieczeństwa;
C. mając na uwadze, że antropocentryczna sztuczna inteligencja oraz antropocentryczne uczenie się maszyn stanowią zaletę dla społeczeństwa europejskiego i mogą pomóc w rozwiązaniu niektórych z najpilniejszych wyzwań społecznych, przynosząc obywatelom wymierne korzyści;
1. wzywa Komisję oraz inne właściwe instytucje do bliskiej współpracy z naukowcami różnych dziedzin, aby identyfikować, wspierać i zwielokrotniać potencjalne pozytywne skutki innowacyjnych zastosowań sztucznej inteligencji, badać i łagodzić potencjalne szkodliwe skutki złośliwych lub niewłaściwych zastosowań sztucznej inteligencji oraz im zapobiegać, a także opracowywać odpowiednie narzędzia, strategie polityczne i normy gwarantujące etyczne zarządzanie aplikacjami sztucznej inteligencji; podkreśla potrzebę opracowywania programów dzielenia się wiedzą, także o charakterze transgranicznym, aby ułatwić opracowywanie wspólnych strategii przez organizacje społeczeństwa obywatelskiego; zauważa, że w dziedzinach badań, w których istnieją bardziej zaawansowane metody rozwiązywania problemów związanych z podwójnym zastosowaniem, takich jak bezpieczeństwo i ochrona prywatności, należy zidentyfikować wzorcowe praktyki oraz zastosować je w dziedzinie sztucznej inteligencji;
2. podkreśla, że szkodliwe lub niewłaściwe wykorzystywanie sztucznej inteligencji może stanowić zagrożenie bezpieczeństwa cyfrowego i fizycznego, a także bezpieczeństwa publicznego, jako że sztuczna inteligencja może być wykorzystywana do prowadzenia zakrojonych na szeroką skalę, precyzyjnie wymierzonych i wysoce skutecznych ataków na usługi społeczeństwa informacyjnego, a także do prowadzenia kampanii dezinformacyjnych i ogólnie do ograniczania prawa obywateli do samostanowienia; zwraca uwagę, że szkodliwe lub niewłaściwe stosowanie sztucznej inteligencji może również stanowić zagrożenie dla demokracji oraz praw podstawowych;
3. podkreśla, że prawo do poszanowania życia prywatnego oraz ochrona danych osobowych zapisane w art. 7 i 8 Karty praw podstawowych Unii Europejskiej oraz w art. 16 Traktatu o funkcjonowaniu Unii Europejskiej odnoszą się do wszystkich dziedzin robotyki oraz do wszystkich innych dziedzin, w których może być wykorzystywana sztuczna inteligencja, m.in. w technologiach dużych zbiorów danych, uczeniu się maszyn i internecie rzeczy, a także że w dziedzinie systemów sztucznej inteligencji należy w pełni przestrzegać unijnych ram prawnych dotyczących ochrony danych; potwierdza poparcie dla opracowanego przez Komisję planu działania w zakresie technologii finansowej pt. „W kierunku bardziej konkurencyjnego i innowacyjnego europejskiego sektora finansowego”, w którym podkreślono, jak ważną rolę uregulowania prawne mogą odegrać w ułatwianiu innowacji technologicznych i lepszym zrozumieniu nowatorskich modeli biznesowych i rozwoju rynku dzięki umożliwieniu organom regulacyjnym nadzoru nad firmami w oparciu o unijne ramy prawne;
4. wzywa Komisję do zadbania o to, aby wszelkie unijne ramy prawne dotyczące sztucznej inteligencji wprowadzane w przyszłości gwarantowały prywatność i poufność komunikacji, ochronę danych osobowych, a także przestrzeganie zasad: zgodności z prawem, rzetelności i przejrzystości, ochrony danych już w fazie projektowania oraz domyślnej ochrony danych, celowości, ograniczenia przechowywania danych, ich dokładności i minimalizacji przy pełnym poszanowaniu unijnego prawa ochrony danych, a także by gwarantowały bezpieczeństwo, ochronę indywidualną oraz inne prawa podstawowe, w tym prawo do wolności wypowiedzi i swobodnego dostępu do informacji; jest zdania, że Komisja powinna regularnie dokonywać oceny wszystkich ram regulacyjnych wprowadzanych w przyszłości, uwzględniając przy tym nowe osiągnięcia technologiczne;
5. podkreśla, że europejskie normy dotyczące sztucznej inteligencji muszą opierać się na zasadach etyki cyfrowej, godności ludzkiej, poszanowania praw podstawowych, ochrony i bezpieczeństwa danych oraz dążeniu do uwzględniania tych zasad już w fazie projektowania, dzięki czemu będą przyczyniać się do budowania zaufania wśród użytkowników; podkreśla, jak ważne jest wykorzystanie potencjału UE do stworzenia silnej infrastruktury dla systemów sztucznej inteligencji, która opierałaby się na wysokich standardach ochrony danych i na szacunku dla człowieka; podkreśla potrzebę systematycznego inwestowania w rozwój potrzebnej w przyszłości wiedzy fachowej, w szczególności inwestowania w szkolenie naukowców i ułatwianie dzielenia się wiedzą przez różne dziedziny nauki, w tym etykę stosowaną, specjalizujące się w technologii sztucznej inteligencji, robotyce, a także w innych powiązanych dziedzinach;
6. wzywa Komisję do wyrażenia zdecydowanego sprzeciwu wobec rozwoju i stosowania autonomicznych systemów uzbrojenia zasilanych sztuczną inteligencją we wszystkich ramach unijnych;
7. z zadowoleniem przyjmuje inicjatywę Komisji polegającą na stworzeniu europejskiego sojuszu na rzecz sztucznej inteligencji, którego zadaniem byłoby opracowanie wszechstronnych wskazówek etycznych i zaleceń politycznych odnośnie do sztucznej inteligencji; podkreśla znaczenie aktywnego uczestnictwa w światowych sojuszach oraz forach dotyczących sztucznej inteligencji, aby umożliwiać dzielenie się wiedzą i kompleksowe zrozumienie obaw dotyczących prywatności danych, przejrzystości i bezpieczeństwa przy opracowywaniu i wdrażaniu systemów sztucznej inteligencji; w związku z tym z zadowoleniem przyjmuje prace grupy ekspertów wysokiego szczebla ds. sztucznej inteligencji, która pełni funkcję grupy sterującej pracami sojuszu na rzecz sztucznej inteligencji; wzywa Komisję do zapewnienia udziału organów ochrony danych w tej grupie wysokiego szczebla, do zakończenia jej prac w sposób otwarty i przejrzysty, a także do opublikowania wytycznych; zachęca ponadto Komisję do dalszych prac nad ogólnounijnym podejściem do sztucznej inteligencji, które będzie antropocentryczne i zarządzane przez człowieka, a także do aktywnego propagowania wysokich standardów unijnych w dziedzinie sztucznej inteligencji na szczeblu międzynarodowym;
8. podkreśla, że wszelkie systemy sztucznej inteligencji muszą być opracowywane przy poszanowaniu zasad przejrzystości i odpowiedzialności za algorytm, które umożliwiają zrozumienie działań tych systemów przez człowieka; zauważa, że aby zbudować zaufanie do sztucznej inteligencji i umożliwić jej rozwój, użytkownicy muszą być świadomi tego, w jaki sposób wykorzystuje się ich dane, inne dane oraz dane zaczerpnięte z ich danych oraz muszą wiedzieć, kiedy komunikują się lub nawiązują kontakt z systemem sztucznej inteligencji lub z osobami wspieranymi przez taki system; uważa, że przyczyni się to do lepszego zrozumienia i większego zaufania ze strony użytkowników; podkreśla, że zasada zrozumiałości decyzji musi być normą unijną zgodnie z art. 13, 14 i 15 ogólnego rozporządzenia o ochronie danych; przypomina, że w ogólnym rozporządzeniu o ochronie danych przewidziano już prawo do informacji o zasadach rządzących przetwarzaniem danych; zwraca uwagę, że zgodnie z art. 22 ogólnego rozporządzenia o ochronie danych osoby fizyczne mają prawo do interwencji ze strony człowieka w przypadkach, gdy na ich sytuację w znacznym stopniu wpływa decyzja oparta na zautomatyzowanym przetwarzaniu;
9. podkreśla, że Komisja, Europejska Rada Ochrony Danych, krajowe organy ochrony danych i inne niezależne organy nadzorcze powinny odtąd odgrywać kluczową rolę w promowaniu przejrzystości, sprawiedliwości proceduralnej oraz pewności prawa w ogóle, a w szczególności konkretnych standardów ochrony praw podstawowych i gwarancji związanych z wykorzystywaniem przetwarzania i analizy danych; wzywa do ściślejszej współpracy między organami odpowiedzialnymi za nadzór lub regulację zachowania w środowisku cyfrowym; wzywa do zapewnienia tym organom odpowiednich środków finansowych i zasobów kadrowych;
10. zwraca uwagę na znaczenie zajęcia się kwestią tendencyjności podejścia programistów w programowaniu, a tym samym na zapotrzebowanie na zróżnicowaną siłę roboczą we wszystkich dziedzinach sektora informatyki, a także na mechanizmy ochronne, które umożliwiłyby uniknięcie wbudowywania w systemy sztucznej inteligencji uprzedzeń dotyczących płci i wieku;
11. podkreśla znaczenie stworzenia ram regulacyjnych umożliwiających kontrolowanie algorytmów i ich wpływu, a także w efekcie możliwości zatrudniania niezależnych audytorów algorytmów (a nawet tzw. strażników oprogramowania, ang. software watchdogs) lub organów regulacyjnych, które mogą analizować decyzje podejmowane przez sztuczną inteligencję;
12. podkreśla znaczenie jakości i precyzji, a także reprezentatywnego charakteru danych wykorzystywanych w opracowywaniu i wdrażaniu algorytmów, jako że standard tych ostatnich opiera się na danych wykorzystywanych do ich trenowania; zauważa, że nawet wysokiej jakości dane do trenowania algorytmów, wykorzystywane w sposób nieostrożny i nieświadomy, mogą prowadzić do utrwalania dotychczasowej dyskryminacji i niesprawiedliwości; zauważa, że wykorzystywanie złej jakości, przestarzałych, niepełnych lub nieprawidłowych danych na różnych etapach przetwarzania może skutkować nietrafnymi prognozami i ocenami, a co za tym idzie, tendencyjnością, co w efekcie może prowadzić do naruszania praw podstawowych osób fizycznych lub całkowicie nieprawidłowych wniosków lub fałszywych wyników; dlatego też uważa, że w epoce dużych zbiorów danych należy dołożyć starań, aby algorytmy były trenowane w oparciu o reprezentatywne próby wysokiej jakości danych w celu osiągnięcia równowagi statystycznej; podkreśla, że nawet przy wykorzystaniu dokładnych danych wysokiej jakości analiza predykcyjna oparta na sztucznej inteligencji może dać jedynie prawdopodobieństwo statystyczne; przypomina, że na mocy ogólnego rozporządzenia o ochronie danych dalsze przetwarzanie danych osobowych do celów statystycznych, w tym do trenowania sztucznej inteligencji, może prowadzić jedynie do powstania danych zagregowanych, których nie można ponownie zastosować do osób fizycznych;
13. wzywa Komisję, państwa członkowskie i organy ochrony danych do określenia i podjęcia wszelkich możliwych środków, aby zapobiec dyskryminacji i tendencyjności algorytmicznej lub ograniczyć je do minimum, a także do opracowania solidnych wspólnych ram etycznych na potrzeby przejrzystego przetwarzania danych osobowych i zautomatyzowanego podejmowania decyzji, aby ramy te mogły być pomocą w korzystaniu z danych i egzekwowaniu prawa Unii;
14. podkreśla, że choć należy wspierać postęp na rzecz społeczeństwa i środowiska, badania naukowe nad sztuczną inteligencją oraz inne powiązane działania należy prowadzić zgodnie z zasadą ostrożności oraz przy poszanowaniu praw podstawowych; zwraca uwagę, że wszyscy zaangażowani w opracowywanie, wdrażanie, rozpowszechnianie sztucznej inteligencji i korzystanie z niej powinni brać pod uwagę i szanować godność ludzką, a także samostanowienie i dobrostan (zarówno fizyczny, jak i psychiczny) jednostek i całego społeczeństwa, przewidywać potencjalny wpływ na bezpieczeństwo, a także podejmować odpowiednie środki ostrożności proporcjonalne do poziomu ochrony, m.in. szybkie ujawnianie czynników, które mogłyby stanowić zagrożenie dla społeczeństwa lub środowiska; podkreśla potrzebę skoordynowanego podejścia, aby zapewnić częste przeprowadzanie ocen systemów sztucznej inteligencji i ich składników w oparciu o analizę ryzyka; zwraca uwagę na znaczenie opracowania i egzekwowania kompleksowego zestawu zasad dotyczących audytu i wytycznych dotyczących opracowywania i wdrażania systemów sztucznej inteligencji, a także mechanizmów bezpieczeństwa i sygnalizowania, których celem jest zmniejszenie ryzyka naruszenia tych systemów;
15. zauważa, że wszystkie strategie dotyczące sztucznej inteligencji i robotyki powinny opierać się na następujących zasadach:
a) roboty i sztuczna inteligencja to narzędzia o wielorakich zastosowaniach; roboty i sztuczna inteligencja nie powinny być projektowane wyłącznie lub przede wszystkim do zabijania ludzi lub czynienia im szkody; należy zagwarantować prawa indywidualne i podstawowe wolności, w szczególności integralność (fizyczną i psychiczną), godność i tożsamość człowieka; podkreśla się wyższość jednostki ludzkiej nad wyłącznym interesem nauki lub społeczeństwa;
b) ludzie są jednostkami odpowiedzialnymi; prawodawcy powinni dołożyć starań, aby nowe technologie były zgodne z obowiązującymi przepisami i prawami podstawowymi;
c) roboty i sztuczna inteligencja jako produkty powinny być projektowane w taki sposób, aby były bezpieczne i dostosowane do przewidzianych celów, podobnie jak inne produkty;
d) roboty i sztuczna inteligencja to dobra produkcyjne; nie powinny być projektowane, aby zwodzić i wykorzystywać niechronionych użytkowników; przeciwnie, powinno być wyraźnie widoczne, że chodzi o maszynę;
e) należy wyznaczyć osobę ponoszącą odpowiedzialność prawną za robota lub system sztucznej inteligencji; w przypadku poważnego zaniedbania bezpieczeństwa i ochrony odpowiedzialność powinien ponosić producent, nawet jeżeli umowa z użytkownikiem zawiera klauzulę o braku odpowiedzialności;
16. podkreśla potrzebę włączenia opinii publicznej w proces rozwoju sztucznej inteligencji; wzywa zatem Komisję do publikowania w ramach otwartego programowania wszelkich algorytmów, narzędzi i technologii finansowanych lub współfinansowanych ze środków publicznych;
17. zwraca uwagę, że w przypadkach, gdy ryzyko stanowi nieunikniony i integralny element badań nad sztuczną inteligencją, należy opracować i stosować wiarygodne protokoły oceny ryzyka i zarządzania nim, uwzględniając przy tym fakt, że ryzyko powstania szkody nie może być wyższe niż ryzyko mogące wystąpić w życiu codziennym (tj. ludzie nie mogą być narażeni na większe ryzyko lub ryzyko dodatkowe w stosunku do tego, na które są narażeni w życiu codziennym).
Teksty przyjęte, P8_TA(2017)0051.
OPINIA Komisji Ochrony Środowiska Naturalnego, Zdrowia Publicznego i Bezpieczeństwa Żywności (21.11.2018)
A. mając na uwadze, że sztuczna inteligencja (SI) wywoła rewolucję technologiczną, gospodarczą, społeczną i psychologiczną o oczywistych konsekwencjach etycznych nie tylko w Europie, ale na całym świecie;
B. mając na uwadze, że rosnące stosowanie robotyki w systemach ludzkich wymaga zdecydowanych wytycznych politycznych dotyczących sposobów maksymalizacji korzyści i minimalizacji ryzyka społecznego oraz zapewnienia bezpiecznego i sprawiedliwego rozwoju sztucznej inteligencji;
C. mając na uwadze, że dojrzałość rynkowa sztucznej inteligencji oznacza pod względem etycznym i moralnym prawdopodobnie największą rewolucję od czasu wynalezienia maszyny parowej i komputera, co pociąga za sobą konieczność szeroko zakrojonej dyskusji społecznej;
D. mając na uwadze, że w przemyśle i usługach związanych z zaawansowanymi technologiami SI odgrywa kluczową rolę w upowszechnianiu w Europie przedsiębiorstw typu start-up przy wykorzystaniu najnowszych technologii do generowania wzrostu na tym kontynencie, w szczególności w dziedzinie technologii medycznej, usług i programów opieki zdrowotnej, opracowywania nowych leków, robotyki i chirurgicznej robotyki medycznej, leczenia chorób przewlekłych, obrazowania medycznego i dokumentacji medycznej, a także zapewnienia równowagi w środowisku i bezpiecznej produkcji żywności; mając na uwadze, że obecnie Europa pozostaje zdecydowanie w tyle za Ameryką Północną i Azją, jeśli chodzi o badania naukowe i patenty w dziedzinie sztucznej inteligencji;
E. mając na uwadze, że rozwój technologii SI może przyczynić się do poprawy jakości życia osób przewlekle chorych i niepełnosprawnych oraz stanowić odpowiedź na problemy społeczne, takie jak starzenie się społeczeństwa, dzięki temu, że pozwoli zwiększyć precyzję i skuteczność technologii medycznej wykorzystywanej w opiece zdrowotnej;
F. mając na uwadze szeroką gamę możliwych zastosowań SI i robotyki w opiece medycznej obejmujących: zarządzanie dokumentacją medyczną i danymi, wykonywanie powtarzalnych zadań (analiza badań, prześwietleń, tomografii komputerowej, wprowadzanie danych), planowanie leczenia, konsultacje cyfrowe (takie jak konsultacje medyczne oparte na osobistej historii medycznej i powszechnej wiedzy medycznej), wirtualne pielęgniarki, zarządzanie leczeniem farmakologicznym, tworzenie leków, medycyna precyzyjna (genetyka i genomika szukają bowiem mutacji i powiązań chorobowych na podstawie informacji zawartych w DNA), monitorowanie stanu zdrowia, analiza systemu opieki zdrowotnej itp.;
G. mając na uwadze, że dostępność nie oznacza taki samych usług i urządzeń dla wszystkich; mając na uwadze, że dostępność SI i robotyki opiera się na planowaniu i projektowaniu sprzyjającym włączeniu społecznemu; mając na uwadze, że punktem wyjścia projektu powinny być potrzeby, życzenia i doświadczenia użytkowników;
H. mając na uwadze, że autonomia robotów, ich oczywisty brak ludzkiej empatii oraz ich wpływ na stosunki między lekarzem a pacjentem budzą silne obawy o charakterze etycznym, psychologicznym i prawnym, które nie zostały jeszcze odpowiednio rozwiane na szczeblu Unii, w szczególności w odniesieniu do ochrony danych osobowych pacjentów, odpowiedzialności za działania oraz powstania nowych stosunków ekonomicznych i stosunków pracy; mając na uwadze, że autonomię jako taką można w pełni przypisać wyłącznie istotom ludzkim; mając na uwadze potrzebę stworzenia solidnych ram prawnych i etycznych dla sztucznej inteligencji;
I. mając na uwadze, że podstawą stosowania sztucznej inteligencji w obszarze zdrowia musi być zawsze zasada odpowiedzialności „człowiek obsługuje maszynę”;
J. mając na uwadze, że ryzyko, jakie stwarza SI nie zostało dostatecznie zbadane;
1. podkreśla, że każdy rewolucyjny postęp technologiczny, w szczególności w dziedzinie SI i robotyki, powinien służyć dobrostanowi ludzi;
2. podkreśla, że systemy SI i roboty stanowią innowacyjne środki techniczne służące poprawie jakości życia człowieka, rozwojowi gospodarki oraz rozwiązywaniu problemów w zakresie m.in. zdrowia, środowiska, zmiany klimatu i bezpieczeństwa żywności, przy czym za ich wykorzystanie zawsze powinien odpowiadać czynnik ludzki;
3. wzywa Komisję i państwa członkowskie, by opracowały prawdziwie kompleksowy plan działania UE mający na celu stworzenie europejskiego „ekosystemu sztucznej inteligencji” z myślą o pełnym wykorzystaniu możliwości rozwoju społeczno-gospodarczego, a zarazem gruntownie zajęły się kwestią bezpieczeństwa, ochrony, zapobiegania szkodom i ograniczania ryzyka, moralnej odpowiedzialności człowieka, zarządzania i regulacji SI i robotów, zrównoważenia środowiskowego i unieszkodliwiania urządzeń SI(1); podkreśla, że ten „ekosystem” powinien być otwarty na potrzeby mikroprzedsiębiorstw oraz małych i średnich przedsiębiorstw (MŚP), a jego tworzenie powinno odbyć się przy udziale wszystkich zainteresowanych stron, zwłaszcza grup pacjentów, lecz także z uwzględnieniem obaw innych grup, takich jak stowarzyszenia opieki społecznej, kościoły i wydziały filozofii;
4. należy zwrócić szczególną uwagę na wykorzystanie w ochronie zdrowia dużych zbiorów danych w celu zmaksymalizowania możliwości, jakie może ono przynieść – takich jak poprawa zdrowia poszczególnych pacjentów, a także wyników publicznych systemów opieki zdrowotnej państw członkowskich – bez obniżania standardów etycznych i bez uszczerbku dla prywatności lub bezpieczeństwa obywateli;
5. stanowczo ostrzega przed wszelkimi próbami wyposażania maszyn stosujących sztuczną inteligencję w swego rodzaju „osobowość” i tym samym zwalniania z odpowiedzialności producentów czy osób obsługujących te maszyny;
6. podkreśla jednak, że obowiązujący system zatwierdzania wyrobów medycznych może nie być odpowiednio dostosowany do technologii SI; wzywa Komisję, by uważnie śledziła postępy w dziedzinie tych technologii oraz, w razie konieczności, zaproponowała zmiany ram prawnych w trosce o zapewnienie jasnych przepisów dotyczących podziału odpowiedzialności cywilnej między użytkownika (lekarza / pracownika medycznego), producenta danego rozwiązania technologicznego i placówkę opieki zdrowotnej prowadzącą leczenie; zwraca uwagę na szczególne znaczenie kwestii odpowiedzialności prawnej za szkody w sektorze opieki zdrowotnej w związku z wykorzystaniem SI; podkreśla w związku z tym, że nie można dopuścić do sytuacji, w której użytkownik będzie się zawsze skłaniał ku rozwiązaniu diagnostycznemu czy leczeniu sugerowanemu przez narzędzie technologiczne z obawy, że zostanie pociągnięty do odpowiedzialności cywilnej, gdy po dokonaniu profesjonalnego i świadomego osądu sformułuje wnioski choć w części odmienne;
7. wzywa Komisję i państwa członkowskie, by przeznaczały więcej środków na badania w dziedzinie SI i robotyki oraz zachęcały ekspertów w dziedzinie SI oraz przedsiębiorstwa europejskie i pozaeuropejskie działające w tym obszarze do tworzenia innowacyjnych miejsc pracy sprzyjających badaniom nad kwestiami związanymi ze zdrowiem publicznym; jednocześnie podkreśla znaczenie kompleksowej strategii zatrudnienia towarzyszącej postępom SI w zawodach związanych z opieką zdrowotną;
8. zwraca się do Komisji i państw członkowskich o wspieranie talentów w sektorze sztucznej inteligencji i robotyki za pomocą konkretnych posunięć (na przykład tworzenie inkubatorów i wspieranie przedsiębiorstw typu start-up), które zwiększą liczbę osób przeszkolonych w tej dziedzinie, ze szczególnym uwzględnieniem udziału kobiet oraz studentów wywodzących się z innych dyscyplin;
9. wzywa Radę i Komisję do podjęcia wszelkich środków prawnych niezbędnych do zakazania metod eutanazji i selekcji, w których coraz częściej wykorzystuje się w ciele ludzkim optymalizujące interfejsy człowiek–maszyna;
10. wzywa Komisję, aby umożliwiła dostęp do grantów z unijnych programów ramowych i innych dostępnych form finansowania badań nad SI;
11. wzywa Komisję i państwa członkowskie, by opracowały dalekosiężne plany mające na celu uzyskanie poparcia najważniejszych zainteresowanych stron i podmiotów działających w dziedzinie SI, matematyki, fizyki, informatyki medycznej, psychologii klinicznej, bioinżynierii oraz farmaceutyki z myślą o otwarciu ośrodków badawczych zajmujących się biomedycyną i bioniką w całej Europie; apeluje jednak do Komisji i państw członkowskich o poważne potraktowanie zagrożeń płynących z SI (takich jak wpływ na relację lekarz–pacjent czy dehumanizacja opieki zdrowotnej) i wsparcie badań nad zagrożeniami i obawami związanymi z SI, które pomogłyby rozstrzygnąć, czy i w jakich okolicznościach użycie danego rozwiązania technologicznego można uznać za stosowne i zgodne z podstawowymi zasadami godności ludzkiej i równości, a tym samym dopuszczalne;
12. wzywa państwa członkowskie i Komisję, by zwiększyły finansowanie technologii SI związanych z ochroną zdrowia w sektorze publicznym i prywatnym; z zadowoleniem przyjmuje w tym kontekście podpisanie przez 24 państwa członkowskie UE i Norwegię deklaracji współpracy mającej na celu zwiększenie wpływu inwestycji w SI na szczeblu europejskim; zwraca się do państw członkowskich i Komisji o zastanowienie się, czy programy szkoleń personelu medycznego nie powinny być aktualizowane i standaryzowane na szczeblu europejskim, aby zapewnić wysoki poziom kompetencji i równe szanse poszczególnych państw członkowskich, jeśli chodzi o znajomość i wykorzystanie najbardziej zaawansowanych narzędzi technologicznych z zakresu robotyki chirurgicznej i biomedycznej oraz diagnostyki obrazowej z użyciem sztucznej inteligencji.
Zob. w szczególności oświadczenie Europejskiej Grupy do spraw Etyki w Nauce i Nowych Technologiach z marca 2018 r. na temat sztucznej inteligencji, robotyki i systemów „autonomicznych”.