Sztuczna inteligencja (AI) jest powstającą technologią o szerokim zakresie zastosowań: jest to zbiór bardzo potężnych technik programowania komputerowego. Upowszechnienie systemów sztucznej inteligencji niesie ze sobą duży potencjał: może zapewnić korzyści społeczne, wzrost gospodarczy oraz pobudzić innowacyjność i zwiększyć globalną konkurencyjność UE. W niektórych przypadkach wykorzystywanie systemów sztucznej inteligencji może jednak stwarzać problemy. Szczególne cechy niektórych systemów sztucznej inteligencji mogą spowodować nowe zagrożenia związane z 1) bezpieczeństwem i ochroną oraz 2) prawami podstawowymi, a także zwiększyć prawdopodobieństwo wystąpienia lub intensywność istniejących zagrożeń. Systemy sztucznej inteligencji 3) utrudniają również organom ścigania weryfikację zgodności z obowiązującymi przepisami i ich egzekwowanie. Ten zbiór problemów prowadzi z kolei do 4) niepewności prawa, z którą borykają się przedsiębiorstwa, 5) potencjalnie wolniejszego wdrażania technologii AI ze względu na brak zaufania ze strony przedsiębiorstw i obywateli, a także 6) działań regulacyjnych ze strony organów krajowych w celu złagodzenia ewentualnych efektów zewnętrznych, co grozi fragmentacją rynku wewnętrznego.

Ramy regulacyjne służą rozwiązaniu tych problemów w celu zapewnienia prawidłowego funkcjonowania jednolitego rynku przez stworzenie warunków sprzyjających rozwijaniu i wykorzystywaniu w Unii wiarygodnej sztucznej inteligencji. Celami szczegółowymi są: 1) zapewnienie, aby systemy sztucznej inteligencji wprowadzane do obrotu i znajdujące się w użyciu były bezpieczne i zgodne z obowiązującym prawem w obszarze praw podstawowych oraz z unijnymi wartościami; 2) zapewnienie pewności prawa, aby ułatwić inwestycje i innowacje w dziedzinie sztucznej inteligencji; 3) poprawa zarządzania i skuteczne egzekwowanie obowiązujących przepisów dotyczących praw podstawowych i wymogów bezpieczeństwa mających zastosowanie do systemów sztucznej inteligencji oraz 4) ułatwienie rozwoju jednolitego rynku zgodnych z prawem, bezpiecznych i wiarygodnych systemów sztucznej inteligencji oraz zapobieganie fragmentacji rynku.

Transgraniczny charakter wielkoskalowych danych i dużych zbiorów danych, na których często opierają się zastosowania AI, oznacza, że cele inicjatywy nie mogą zostać skutecznie osiągnięte przez same państwa członkowskie. Celem europejskich ram regulacyjnych w zakresie wiarygodnej sztucznej inteligencji jest ustanowienie zharmonizowanych przepisów dotyczących rozwoju, wprowadzania do obrotu i wykorzystywania w Unii produktów i usług z wbudowaną technologią sztucznej inteligencji lub samodzielnych zastosowań AI. Mają one zapewnić równe szanse i ochronę wszystkich obywateli Unii, wzmacniając jednocześnie konkurencyjność i bazę przemysłową Europy w dziedzinie sztucznej inteligencji. Działania UE w zakresie sztucznej inteligencji wzmocnią rynek wewnętrzny i mają znaczny potencjał zapewnienia przemysłowi europejskiemu przewagi konkurencyjnej na poziomie globalnym dzięki korzyściom skali, których nie mogą osiągnąć samodzielnie poszczególne państwa członkowskie.

Rozważono następujące warianty: wariant 1: instrument legislacyjny UE ustanawiający dobrowolny system etykietowania; wariant 2: podejście sektorowe ad hoc; wariant 3: horyzontalny instrument legislacyjny UE ustanawiający obowiązkowe wymogi dotyczące zastosowań AI wysokiego ryzyka; wariant 3+: taki sam jak wariant 3, ale z dobrowolnymi kodeksami postępowania dla zastosowań AI nieobarczonych wysokim ryzykiem; oraz wariant 4: horyzontalny instrument legislacyjny UE ustanawiający obowiązkowe wymogi dotyczące wszystkich zastosowań sztucznej inteligencji. Preferowanym wariantem jest wariant 3+, ponieważ oferuje on proporcjonalne zabezpieczenia przed zagrożeniami stwarzanymi przez sztuczną inteligencję, jednocześnie ograniczając do minimum koszty administracyjne i koszty przestrzegania przepisów. Szczegółowa kwestia odpowiedzialności za zastosowania AI zostanie uregulowana w przyszłości odrębnymi przepisami, a zatem nie uwzględniono jej w poszczególnych wariantach.

Przedsiębiorstwa, organy publiczne, naukowcy i organizacje pozarządowe zgadzają się, że istnieje luka prawna lub że konieczne jest wprowadzenie nowego prawodawstwa, chociaż wśród przedsiębiorstw respondenci zgadzający się takim wnioskiem nie stanowią tak znacznej większości jak w przypadku innych grup respondentów. Przemysł i organy publiczne opowiadają się za ograniczeniem obowiązkowych wymogów do zastosowań AI wysokiego ryzyka. Na ograniczenie obowiązkowych wymogów do zastosowań wysokiego ryzyka częściej nie zgadzają się natomiast obywatele i społeczeństwo obywatelskie.

W przypadku obywateli preferowany wariant zmniejszy ryzyko zagrożeń dla ich bezpieczeństwa i praw podstawowych. W przypadku dostawców stworzy on pewność prawa i zagwarantuje, że nie pojawią się żadne przeszkody w transgranicznym świadczeniu usług i oferowaniu produktów związanych ze sztuczną inteligencją. W przypadku przedsiębiorstw korzystających ze sztucznej inteligencji będzie promować zaufanie wśród klientów. W przypadku krajowych organów administracji publicznej będzie promować zaufanie publiczne do wykorzystywania sztucznej inteligencji i wzmocni mechanizmy egzekwowania prawa (poprzez wprowadzenie europejskiego mechanizmu koordynacji, zapewnienie odpowiedniego potencjału i ułatwienie kontroli systemów sztucznej inteligencji dzięki wprowadzeniu nowych wymogów w zakresie dokumentacji, identyfikowalności i przejrzystości).