C 465/78
PL
Dziennik Urzędowy Unii Europejskiej
6.12.2022
Wtorek, 3 maja 2022 r.
51.
podkreśla, że technologie AI, zwłaszcza te, które nie zostały zaprojektowane i opracowane przy zastosowaniu niezbędnych procedur kontroli i które są wykorzystywane w sposób niewłaściwy i bez nadzoru w ośrodkach dowodzenia wojskowego i wyrzutniach rakietowych, wiążą się ze szczególnie dużym ryzykiem i mogą eskalować zautomatyzowany wzajemny konflikt;
52. zauważa, że korzystanie z systemów AI w rozwiązaniach obronnych jest uznawane za przełom w operacjach wojskowych dzięki analizie danych, zdolności do odzwierciedlenia większej złożoności sytuacji, możliwości zwiększenia dokładności celów, optymalizacji logistyki i angażowania się w konflikty zbrojne przy zmniejszonym ryzyku wyrządzenia szkód fizycznych ludności cywilnej i własnemu personelowi wojskowemu, a także dzięki wykorzystaniu danych do opracowywania sposobów działania, takich jak „wargaming”; ostrzega jednak, że może to prowadzić do obniżenia progu użycia siły, a tym samym do większej liczby konfliktów; potwierdza, że maszyny nie mogą podejmować decyzji podobnych do decyzji ludzkich, które uwzględniają prawne zasady rozróżnienia, proporcjonalności i ostrożności; potwierdza, że ludzie powinni zachować kontrolę nad decyzjami o rozmieszczeniu i użyciu broni oraz pozostać odpowiedzialni za użycie śmiercionośnej siły oraz za decyzje dotyczące życia i śmierci; jest zdania, że systemy broni oparte na AI powinny podlegać globalnym standardom i międzynarodowemu kodeksowi etycznemu, który stanowiłby podstawę stosowania technologii AI w operacjach wojskowych, z pełnym poszanowaniem międzynarodowego prawa humanitarnego i praw człowieka oraz zgodnie z prawem i wartościami Unii;
53. wyraża zaniepokojenie prowadzonymi w niektórych krajach badaniami wojskowymi i rozwojem technologicznym w zakresie autonomicznych śmiercionośnych systemów uzbrojenia bez rzeczywistej kontroli ze strony człowieka; zauważa, że autonomiczne śmiercionośne systemy uzbrojenia są już wykorzystywane w konfliktach wojskowych; przypomina, że Parlament wielokrotnie wzywał do wprowadzenia międzynarodowego zakazu opracowywania, produkcji i stosowania autonomicznych śmiercionośnych systemów uzbrojenia oraz do rozpoczęcia skutecznych negocjacji w sprawie ich zakazu; podkreśla, że w żadnym wypadku nie można dopuścić do tego, by systemy wykorzystujące AI zastąpiły ludzki proces decyzyjny z uwzględnieniem zasad prawnych: rozróżnienia, proporcjonalności i ostrożności;
54. zauważa w szczególności, że technologia AI może wiązać się z potencjalnym ryzykiem jako środek prowadzenia różnych form wojny hybrydowej i ingerencji zagranicznej; precyzuje, że może ona na przykład zostać uruchomiona w celu wywoływania dezinformacji za pomocą botów lub fałszywych kont w mediach społecznościowych, do przekształcania współzależności w broń w drodze gromadzenia cennych informacji lub odmawiania przeciwnikom dostępu do sieci, poprzez wywoływanie zakłóceń w systemach gospodarczych i finansowych innych krajów, zakłócanie debaty politycznej i faworyzowanie grup ekstremistycznych lub manipulowanie wyborami w celu destabilizacji demokracji;
55.
podkreśla, że technologie AI mogą również obejmować złośliwe oprogramowanie napędzane przez AI, kradzież tożsamości, zatruwanie danych lub inne formy wrogiego uczenia maszynowego, które powodują, że inne systemy AI błędnie interpretują dane wejściowe; wskazuje w szczególności na coraz częstsze zastosowanie technik deepfake, które niekoniecznie są cyberatakami, ale prowadzą do kwestionowania autentyczności wszystkich treści cyfrowych, w tym treści wideo, i w związku z tym wymagają szczególnej uwagi pod względem wymogów dotyczących przejrzystości; ostrzega, że techniki deepfake mogą przyczynić się do powstania uogólnionego klimatu braku zaufania publicznego do AI, a także do głębszej polaryzacji społeczno-politycznej w naszych społeczeństwach;
56. wyjaśnia, że wykorzystanie systemów AI w znacznej części kluczowej infrastruktury krytycznej, takiej jak sieci energetyczne i transportowe, sektor kosmiczny, łańcuch żywnościowy, infrastruktura bankowa, finansowa i szpitalna, doprowadziło do powstania nowych słabych punktów, które wymagają solidnych środków w zakresie cyberbezpieczeń­ stwa, aby zapobiec zagrożeniom; wskazuje w związku z tym na znaczenie współpracy, wymiany informacji i działań zarówno na szczeblu UE, jak i między państwami członkowskimi; podkreśla znaczenie wspierania odporności podmiotów krytycznych na zagrożenia hybrydowe;
57. ostrzega, że możliwości AI mogą również stwarzać zagrożenia dla bezpieczeństwa, ponieważ mogą prowadzić do tego, że ludzie będą ufać AI bardziej niż własnemu osądowi; zauważa, że stosowanie zasady udziału czynnika ludzkiego jako mechanizmu korekty nie we wszystkich przypadkach jest wykonalne; zauważa, że jak pokazały doświadczenia, może to zwiększyć poziom autonomii AI w sposób wykraczający poza rolę wspierającą, dla której została ona pierwotnie zaprojektowana, oraz oznacza to, że ludzie nie korzystają z możliwości zdobywania doświadczeń oraz zwiększania swoich umiejętności i wiedzy w zakresie systemów AI; podkreśla zatem, że w celu przezwyciężenia tego rodzaju tendencyjności automatyzacji w systemach AI wysokiego ryzyka konieczne jest uwzględnienie bezpieczeństwa już w fazie projektowania oraz znaczący nadzór człowieka oparty na odpowiednim szkoleniu, a także odpowiednie zabezpieczenia w zakresie bezpieczeństwa i prywatności;