Source: https://www.europarl.europa.eu/doceo/document/A-8-2017-0005_RO.html
Timestamp: 2020-04-08 06:59:14+00:00
Document Index: 40806879

Matched Legal Cases: ['articolul 16', 'articolul 46', 'articolul 114', 'articolul 5', 'articolul 16', 'articolul 8', 'articolul 16', 'articolul 4']

865k 120k
conținând recomandări adresate Comisiei referitoare la normele de drept civil privind robotica
Georg Mayer, Comisiei pentru transport și turism
Michał Boni, Comisia pentru libertăți civile, justiție și afaceri interne
ANEXĂ LA PROPUNEREA DE REZOLUȚIERECOMANDĂRI DETALIATE REFERITOARE LA CONȚINUTUL PROPUNERII SOLICITATE
– având în vedere Directiva 85/374/CE privind răspunderea pentru produsele cu defect,
B. întrucât umanitatea se află acum în pragul unei ere în care roboții, boții, androizii și alte materializări ale inteligenței artificiale (IA), încă și mai sofisticate, par să declanșeze o nouă revoluție industrială, care va afecta probabil toate straturile societății, fiind astfel de o importanță vitală ca legislatorii să ia în considerare implicațiile și efectele juridice și etice ale acestui fenomen, fără a frâna însă inovarea;
C. întrucât este necesară o definiție general acceptată a roboților și a IA, care să fie flexibilă și care lase loc inovării;
E. întrucât, în ultimii 200 de ani, numărul locurilor de muncă a crescut continuu datorită dezvoltării tehnologice; întrucât dezvoltarea roboticii și a IA poate transforma viața și practicile de muncă, poate crește eficiența, economiile și nivelul de siguranță și poate oferi un nivel mai bun de servicii, robotica și IA promițând, pe termen scurt și mediu, să aducă beneficii în materie de eficiență și economii, nu numai în sectorul productiv și în cel comercial, ci și în domenii precum transporturile, serviciile medicale, educația și agricultura, oferind totodată posibilitatea de a evita expunerea oamenilor la unele situații periculoase, cum ar fi în cazul decontaminării siturilor poluate cu substanțe toxice;
H. întrucât învățarea automatizată oferă societății beneficii enorme în domeniul economic și al inovației, prin îmbunătățirea considerabilă a capacități de analiză a datelor, însă dă naștere și unor provocări în ceea ce privește asigurarea nediscriminării, respectarea garanțiilor procedurale, transparența și inteligibilitatea proceselor decizionale;
J. întrucât utilizarea la scară largă a roboticii ar putea să nu ducă în mod automat la înlocuirea locurilor de muncă, însă locurile de muncă cu calificare mai redusă din sectoarele ocupaționale intensive ar putea fi mai vulnerabile la extinderea automatizării; întrucât această tendință ar putea aduce anumite procese de producție înapoi în UE; întrucât o serie de cercetări au demonstrat că ocuparea forței de muncă crește mult mai rapid în sectoarele profesionale în care se folosesc mai mult computerele; întrucât automatizarea locurilor de muncă poate elibera oamenii de munci manuale monotone, permițându-le să se îndrepte spre sarcini mai creative și mai aducătoare de sens; întrucât automatizarea obligă guvernele să investească în educație și în alte reforme pentru a îmbunătăți realocările în privința tipurilor de competențe de care lucrătorii viitorului vor avea nevoie;
K. întrucât, în același timp, dezvoltarea roboticii și a IA poate avea ca rezultat preluarea de către roboți a unei părți semnificative din munca efectuată în prezent de oameni, fără reocuparea în totalitate a locurilor de muncă pierdute, ceea ce ridică problema viitorului inserției profesionale, a viabilității sistemelor de prestații sociale și de securitate socială și a decalajului persistent în contribuțiile pentru pensii în cazul în care se menține baza de impozitare actuală, existând riscul unei inegalități accentuate în ceea ce privește distribuirea bogăției și a influenței; în același timp, pentru menținerea coeziunii sociale și a prosperității, ar trebui examinată posibilitatea impunerii unei taxe pentru munca realizată de roboți sau pentru utilizarea și întreținerea unui robot, pentru a finanța susținerea și recalificarea lucrătorilor în șomaj, ale căror locuri de muncă au fost reduse sau eliminate;
L. întrucât, în fața unor divizări crescânde a societății, cu o clasă de mijloc în scădere, este important să se țină cont de faptul că dezvoltarea roboticii poate conduce la o concentrare acută a bogăției și a influenței în mâinile unei minorități;
M. întrucât dezvoltarea roboticii și a IA va influența fără îndoială peisajul pieței muncii, creând noi probleme legate de responsabilitate, și eliminând altele; întrucât responsabilitatea juridică trebuie clar definită atât la nivelul modelului de afaceri, cât și la nivelul modelelor de muncă, în eventualitatea apariției unor urgențe sau a unor probleme;
N. întrucât tendința spre automatizare impune ca cei implicați în dezvoltarea și comercializarea aplicațiilor de inteligență artificială să includă securitatea și etica încă din etapele inițiale, recunoscând astfel că trebuie să fie pregătiți să accepte răspunderea juridică pentru calitatea tehnologiei pe care o produc;
O. întrucât Regulamentul (UE) 2016/679 al Parlamentului European și al Consiliului(1) (Regulamentul general privind protecția datelor) stabilește un cadru juridic pentru protecția datelor personale; întrucât alte aspecte legate de accesul la date și de protecția datelor cu caracter personal și a vieții private rămân încă de soluționat, dat fiind faptul că ar putea să mai apară probleme legate de viața privată datorate comunicării fără intervenție umană a aplicațiilor și componentelor între ele, precum și cu bazele de date;
P. întrucât evoluțiile din robotică și inteligență artificială pot și ar trebui concepute în așa fel încât să protejeze demnitatea, autonomia și autodeterminarea persoanelor, în special în domenii precum îngrijirea umană și acompanierea și, în contextul aparaturii medicale, al „reparării” sau al „ameliorării capacităților” ființelor umane;
Q. întrucât, în fine, există posibilitatea ca pe termen lung IA să depășească capacitatea intelectuală umană;
R. întrucât dezvoltarea continuă și extinderea utilizării proceselor decizionale automatizate și algoritmice va avea fără îndoială un impact asupra alegerilor pe care persoanele private (de exemplu oameni de afaceri sau utilizatori ai internetului) și autoritățile publice administrative, judiciare sau de altă natură le vor face în luarea unei decizii finale legate de consum, de afaceri sau de exercitarea autorității; întrucât este necesară integrarea unor garanții și a unor posibilități de control și verificare umane în procesele decizionale automatizate și algoritmice;
S. întrucât mai multe jurisdicții străine, printre care SUA, Japonia, China și Coreea de Sud, au în vedere și, într-o oarecare măsură, au și luat măsuri normative legate de robotică și IA, iar unele state membre au început, de asemenea, să analizeze idea elaborării unor norme juridice și a realizării unor modificări ale legislației, pentru a ține seama de aplicațiile emergente ale acestor tehnologii;
T. întrucât industria europeană ar putea beneficia de pe urma unei abordări eficiente, coerente și transparente a reglementărilor la nivelul Uniunii, oferind condiții corespunzătoare, predictibile și suficient de clare, în cadrul cărora întreprinderile să poată dezvolta aplicații și planifica modelele de afaceri la scară europeană, garantându-le, în același timp, Uniunii și statelor membre că își vor păstra controlul asupra standardelor normative de stabilit, astfel încât să nu fie forțate să adopte și funcționeze pe baza unor standarde stabilite de alții, și anume de țările terțe care se află în avangarda dezvoltării roboticii și a IA;
U. întrucât trebuie considerat că legile lui Asimov(2) îi vizează pe proiectanții, producătorii și operatorii roboților, inclusiv a celor cu autonomie integrată și capacitate individuală de învățare, deoarece aceste legi nu pot fi convertite în cod-mașină;
V. întrucât sunt necesare o serie de norme care să reglementeze în special răspunderea, transparența și responsabilitatea, reflectând valorile specific europene și valorile umaniste universale care caracterizează contribuția europeană adusă societății; întrucât normele nu trebuie să afecteze procesul de cercetare, inovare și dezvoltarea în domeniul roboticii;
W. întrucât Uniunea ar putea juca un rol esențial în ceea ce privește stabilirea principiilor etice fundamentale care trebuie respectate la dezvoltarea, programarea și utilizarea roboților și a IA, precum și la integrarea unor astfel de principii în reglementările și codurile de conduită ale UE, pentru a configura revoluția tehnologică astfel încât să servească umanității, iar robotica și IA avansate să fie disponibile pe scară largă, evitându-se, pe cât se poate, potențialele capcane;
X. întrucât Uniunea are nevoie de o abordare treptată, pragmatică și precaută, de tipul celei a lui Jean Monnet(3), cu privire la inițiativele viitoare privind robotica și IA, pentru a nu descuraja inovarea;
AB. întrucât, cu cât roboții sunt mai autonomi, cu atât mai puțin pot fi considerați doar simple instrumente la dispoziția altor actori (cum ar fi producătorul, operatorul, proprietarul, utilizatorul etc.); întrucât, în schimb, apar întrebări privind măsura în care normele obișnuite privind răspunderea sunt suficiente sau dacă sunt necesare principii și norme noi, care să ofere claritate privind răspunderea juridică a diferiților actorilor pentru actele și omisiunile roboților atunci când cauzele nu pot fi imputate unui actor uman anume sau privind măsura în care actele sau omisiunile roboților care au provocat prejudicii ar fi putut fi evitate;
AC. întrucât, în cele din urmă, autonomia roboților ridică problema naturii lor în contextul actualelor categorii juridice sau și a necesității creării unei noi categorii, cu propriile sale caracteristici și implicații;
AF. întrucât, în situația în care un robot poate lua decizii autonome, normele tradiționale nu vor suficiente pentru a atrage răspunderea juridică pentru daunele cauzate de acesta, deoarece nu permit identificarea părții în sarcina căreia ar cădea răspunderea desdăunării și impunerea compensării prejudiciului provocat;
AG. întrucât neajunsurile actualului cadru juridic sunt vizibile și în domeniul răspunderii contractuale, în măsura în care mașinile concepute să-și aleagă partenerii, să negocieze clauzele contractuale, să încheie contracte și să decidă dacă și cum să le implementeze fac imposibilă aplicarea normelor tradiționale, ceea ce evidențiază necesitatea unor norme noi, eficiente și ancorate în actualitate, care să corespundă dezvoltării tehnologice și inovațiilor recent apărute și utilizate pe piață;
AH. întrucât, în ceea ce privește răspunderea necontractuală, Directiva 85/374/CEE(4) a Consiliului nu poate acoperi decât daunele provocate de defectele de fabricație ale roboților, cu condiția ca persoana vătămată să poată dovedi prejudiciul real, defectul produsului și raportul cauzal dintre prejudiciu și defect, drept pentru care cadrul răspunderii stricte sau al răspunderii fără culpă ar putea fi insuficient;
AI. întrucât, lăsând la o parte sfera de aplicabilitate a Directivei 85/374/CEE, actualul cadru juridic nu ar fi suficient pentru a acoperi daunele provocate de noua generație de roboți, în măsura în care aceștia sunt dotați cu capacități adaptative și de învățare care atrag după sine un anumit grad de imprevizibilitate comportamentală, deoarece acești roboți învăță în mod autonom, pe baza propriei lor experiențe, și interacționează cu mediul lor ambiant într-un mod unic și impredictibil;
4. subliniază că o abordare la nivelul Uniunii poate facilita dezvoltarea prin faptul că permite evitarea fragmentării pe piața internă și evidențiază, de asemenea, importanța principiului recunoașterii reciproce în utilizarea transfrontalieră a roboților și a sistemelor robotizate; reamintește că testarea, certificarea și aprobarea pentru piață ar trebui să fie necesare numai într-un singur stat membru; subliniază că această abordare trebuie să fie însoțită de o supraveghere efectivă a pieței;
7. solicită Comisiei și statelor membre să impulsioneze programele de cercetare, să favorizeze o analiză a riscurilor și oportunităților pe termen lung ale IA și roboticii și să încurajeze cât mai curând inițierea unui dialog public structurat privind consecințele dezvoltării respectivelor tehnologii; invită Comisia să își crească sprijinul, în cadrul evaluării CFM la jumătatea perioadei, pentru programul SPARC finanțat prin Orizont 2020; solicită Comisiei și statelor membre să-și unească eforturile pentru a monitoriza atent și a garanta o tranziție fără dificultăți a acestor tehnologii de la cercetare la comercializarea și utilizarea pe piață, după o evaluare corespunzătoare a siguranței și respectând principiul precauției;
8. subliniază că inovarea în robotică și în inteligența artificială și integrarea acestor tehnologii în economie și societate necesită o infrastructură digitală care să asigure o conectivitate ubicuă; invită Comisia să definească un cadru care să răspundă cerințelor de conectivitate pentru viitorul digital al Uniunii și să se asigure că accesul la rețelele de bandă largă și 5G respectă pe deplin principiul neutralității rețelei;
9. este ferm convins că interoperabilitatea între sisteme, dispozitive și servicii cloud, bazată pe securitate și respectarea vieții private încă din momentul conceperii, este esențială pentru ca fluxurile de date în timp real să permită roboților și inteligenței artificiale să devină mai flexibili și mai autonomi; solicită Comisiei să promoveze un mediu deschis, de la standarde deschise și modele inovatoare de acordare a licenței, la platforme deschise și transparență, pentru a evita blocajul în sistemele cu drepturi rezervate, care restrâng interoperabilitatea;
13. relevă faptul că acest cadru etic orientativ trebuie să fie bazat pe principiile beneficienței, non-maleficienței, autonomiei și justiției, pe principiile și valorile consacrate în Tratatul privind Uniunea Europeană și în Carta drepturilor fundamentale, precum demnitatea umană, egalitatea, justiția și echitatea, nediscriminarea, consimțământul în cunoștință de cauză, respectarea vieții private și protecția datelor, pe principiile și valorile fundamentale ale dreptului Uniunii, cum ar fi nestigmatizarea, transparența, autonomia, responsabilitatea individuală și răspunderea socială, precum și pe practicile și codurile etice existente;
15. consideră că este necesară o cooperare consolidată între statele membre și Comisie pentru a garanta coerența normelor transfrontaliere în Uniune, care ar încuraja colaborarea între industriile europene și ar permite utilizarea în întreaga Uniune a unor roboți care respectă nivelurile impuse de siguranță și securitate, precum și principiile etice consacrate în dreptul UE;
20. subliniază că dreptul la protecția vieții private și a datelor cu caracter personal, consacrate la articolele 7 și 8 din Cartă și la articolul 16 din Tratatul privind funcționarea Uniunea Europeană (TFUE), se aplică în toate sferele roboticii, precum și că trebuie respectat pe deplin cadrul juridic al Uniunii privind protecția datelor; solicită, în această privință, modificarea normelor și criteriilor privind utilizarea camerelor de luat vederi și a senzorilor roboților; solicită Comisiei să se asigure că sunt urmate principiile de protecție a datelor, cum ar fi respectarea din concepție și cea implicită a vieții private, reducerea la minimum a datelor sau limitarea scopului, și sunt utilizate mecanisme de control transparente pentru persoanele vizate și măsuri corective corespunzătoare, în conformitate cu legislația privind protecția datelor Uniunii, precum că sunt promovate și integrate în politicile Uniunii recomandările și standardele adecvate;
21. subliniază faptul că libera circulație a datelor este esențială pentru economia digitală și dezvoltarea sectorului roboticii și inteligenței artificiale; subliniază că, pentru utilizarea adecvată a roboților și a IA, este esențial un nivel înalt de securitate a sistemelor robotice; subliniază că trebuie asigurată protecția rețelelor de roboți și inteligență artificială interconectate pentru a preveni eventuala periclitare a securității; subliniază că un nivel ridicat de securitate, de protecție a datelor cu caracter personal și de respectare a vieții private în comunicarea dintre oameni, roboți și inteligența artificială este esențial; subliniază responsabilitatea proiectanților roboticii și a inteligenței artificiale de a dezvolta produse sigure, securizate și adecvate scopului lor; invită Comisia și statele membre să sprijine și să stimuleze dezvoltarea tehnologiei necesare, inclusiv a asigurării securității prin proiectare;
22. subliniază că stabilirea unor standarde și acordarea interoperabilității este esențială pentru viitorul concurenței în domeniul tehnologiilor inteligenței artificiale și roboticii; îi solicită Comisiei să-și continue activitatea de armonizare la nivel internațional a standardelor tehnice, în special împreună cu organizațiile europene de standardizare și cu Organizația Internațională de Standardizare, pentru a stimula inovarea, a evita fragmentarea pieței interne și garanta un nivel ridicat de siguranță a produselor și de protecție a consumatorilor, incluzând, atunci când este cazul, standarde minime de siguranță în mediul de muncă; subliniază importanța unor standarde de inginerie inversă și a unor standarde deschise legale pentru a maximiza importanța inovației și a se asigura că roboții pot comunica între ei; salută în acest sens instituirea unor comisii tehnice speciale, precum ISO/TC 299 Robotics, care se ocupă exclusiv de elaborarea standardelor în domeniul roboticii;
a) Vehiculele autonome
27. consideră că trecerea la vehicule autonome va avea efecte asupra următoarelor aspecte: răspunderea civilă (răspundere și asigurare), siguranța rutieră, toate chestiunile legate de mediu (eficiența energetică, utilizarea tehnologiilor și a surselor de energie regenerabile), aspecte legate de date (accesul la date, protecția datelor, confidențialitatea și partajarea datelor), aspecte legate de infrastructura TIC (densitatea ridicată a unor comunicații eficiente și fiabile) și ocuparea forței de muncă (crearea sau pierderea locurilor de muncă, formarea șoferilor vehiculelor grele de marfă pentru a le putea utiliza pe cele automatizate); subliniază că vor fi necesare investiții substanțiale în drumuri, energie și infrastructura TIC; solicită Comisiei să țină seama de aspectele menționate mai sus în activitatea sa legată de mijloacele autonome de transport:
30. recunoaște rezultatele pozitive înregistrate în tehnologia dronelor, în special în ceea ce privește căutarea și salvarea; subliniază că un cadru la nivelul Uniunii privind utilizarea dronelor este important pentru protecția siguranței, a securității și a vieții private a cetățenilor UE și îi solicită Comisiei să dea curs recomandărilor din Rezoluția Parlamentului din 29 octombrie 2015 referitoare la utilizarea în siguranță a sistemelor de aeronave pilotate de la distanță (RPAS), cunoscute în mod curent sub denumirea de vehicule aeriene fără pilot (UAV) în domeniul aviației civile(5); invită insistent Comisia să prezinte o evaluare a aspectelor legate de siguranță în ceea ce privește folosirea dronelor pe scară largă; invită Comisia să examineze necesitatea de a introduce un sistem obligatoriu de urmărire și identificare pentru RPAS care să permită stabilirea poziției în timp real a aeronavei în timpul utilizării; reamintește că omogenitatea și siguranța aeronavelor fără pilot ar trebui asigurate prin măsurile prevăzute de Regulamentul (CE) nr. 216/2008 al Parlamentului European și al Consiliului(6);
33. subliniază importanța unei educații, formării și pregătiri corespunzătoare a personalului medical, cum ar fi doctorii și asistenții, pentru atingerea unui nivel maxim de competență profesională, precum și pentru menținerea și protecția sănătății pacienților; subliniază necesitatea definirii unor cerințe profesionale minimale pe care să le satisfacă chirurgii pentru a li se permite să utilizeze roboți chirurgicali; consideră fundamentală respectarea principiului autonomiei supravegheate a roboților, conform căruia planificarea inițială a tratamentului și decizia finală privind efectuarea acestuia trebuie să aparțină întotdeauna unui chirurg uman; scoate în evidență importanța formării utilizatorilor, pentru a le permite să se familiarizeze cu cerințele tehnice din domeniu; atrage atenția asupra tendinței în creștere de autodiagnosticare cu ajutorul unui robot mobil și a necesității implicite ca doctorii să fie pregătiți pentru a se ocupa de cazuri autodiagnosticate; consideră că utilizarea acestor tehnologii nu trebuie să reducă sau să afecteze relația medic-pacient, ci trebuie să le ofere medicilor asistență în diagnosticarea și/sau tratarea pacienților, pentru a reduce riscul erorii umane, a crește calitatea vieții și a mări speranța de viață;
35. invită Comisia să se asigure că procedurile pentru testarea unor noi dispozitive medicale robotizate sunt sigure, în special în cazul dispozitivelor implantate în corpul uman, înainte de data la care Regulamentul privind dispozitivele medicale(7) va deveni aplicabil;
44. subliniază importanța anticipării schimbărilor în societate, ținând seama de efectele posibile ale dezvoltării și utilizării roboților și a IA; solicită Comisiei să analizeze diferitele scenarii posibile și consecințele lor asupra viabilității sistemelor de securitate socială ale statelor membre; consideră că ar trebui inițiată o dezbatere cuprinzătoare privind noile modele de angajare și viabilitatea sistemelor noastre fiscale și sociale, pe baza existenței unor venituri suficiente, inclusiv posibila introducere a unui venit universal de bază; ;
45. evidențiază importanța flexibilității competențelor, precum și a competențelor sociale, creative și digitale în educație; își exprimă convingerea că, pe lângă cunoștințele academice transmise în școli, învățarea trebuie să constituie o permanență pe tot parcursul vieții;
47. remarcă că dezvoltarea roboticii și a inteligenței artificiale ar trebui realizată astfel încât impactul asupra mediului să fie limitat, printr-un consum de energie eficace, prin utilizarea energiilor regenerabile și a materiilor rare în vederea eficienței energetice, prin minimalizarea deșeurilor, cum ar fi cele electrice și electronice și prin reparabilitate; prin urmare, încurajează Comisia să includă principiile economiei circulare în orice politică a Uniunii în domeniul roboticii; remarcă faptul că utilizarea roboticii va avea un impact pozitiv asupra mediului, în special în domeniul agriculturii, aprovizionării cu produse alimentare și transportului, îndeosebi prin dimensiunile reduse ale utilajelor și prin utilizarea limitată a îngrășămintelor, energiei și apei, precum și prin agricultura de precizie și optimizarea traseelor;
49. consideră că răspunderea civilă pentru prejudiciile cauzate de roboți constituie o chestiune esențială, care trebuie analizată și soluționată la nivelul Uniunii, astfel încât să se asigure un același nivel de eficiență, transparență și consecvență în realizarea securității juridice în întreaga Uniune Europeană, în beneficiul cetățenilor, al consumatorilor și al întreprinderilor deopotrivă;
50. ia act de faptul că dezvoltarea tehnologiei roboților va presupune o mai bună înțelegere a bazelor comune necesare pentru activitățile desfășurate împreună de oameni și roboți, care ar trebui să se sprijine pe două relații centrale de interdependență precum previzibilitatea și controlabilitatea; atrage atenția că aceste două relații de interdependență sunt esențiale pentru a determina ce informații trebuie partajate între oameni și roboți și în ce mod poate fi realizată o bază comună între oameni și roboți pentru ca interacțiunea lor să se desfășoare în bune condiții;
51. îi solicită Comisiei să prezinte, în temeiul articolului 114 din TFUE, o propunere de instrument legislativ privind aspectele de ordin juridic ale dezvoltării și utilizării roboticii și inteligenței artificiale preconizate în următorii 10-15 ani, combinat cu instrumente nelegislative de tipul orientărilor și codurilor de conduită, conform recomandărilor formulate în anexă;
52. consideră că, indiferent ce soluție juridică se aplică răspunderii civile pentru prejudiciile cauzate de roboți în alte cazuri decât cele care implică daune aduse proprietății, viitorul instrument legislativ nu trebuie să restrângă în niciun fel tipul sau valoarea daunelor care ar putea fi recuperate, și nici să limiteze formele de compensare care ar putea fi oferite părții vătămate exclusiv pe motivul că prejudiciul a fost provocat de un agent non-uman;
58. consideră că, așa cum este cazul cu asigurarea pentru vehiculele cu motor, un astfel de sistem de asigurare ar putea fi suplimentat printr-un fond, pentru a garanta desdăunarea în cazurile în care nu există nicio acoperire asigurativă; îi solicită sectorului asigurărilor să elaboreze noi produse și tipuri de oferte, care să fie în acord cu progresele roboticii;
a) instituirea unei scheme de asigurări obligatorii atunci când este util și necesar pentru categorii specifice de roboți prin care, în mod similar cu ceea ce se întâmplă deja cu autovehiculele, producătorii sau proprietarii roboților să fie obligați să se asigure contra prejudiciilor potențiale provocate de roboții lor;
b) înființarea unui fond de compensare care să servească nu numai la garantarea despăgubirii în cazul în care pentru daunele provocate de un robot nu ar exista nicio acoperire asigurativă;
c) crearea posibilității ca producătorul, programatorul, proprietarul sau utilizatorul să beneficieze de o răspundere limitată în cazul în care contribuie la un fond de compensare sau în care subscriu în comun o asigurare pentru a garanta despăgubirea în cazul în care daunele sunt cauzate de un robot;
d) decizia de a crea sau nu un fond general pentru toți roboții autonomi inteligenți, sau un fond separat pentru fiecare categorie de roboți, și de a plăti sau nu o contribuție ca taxă unică la plasarea robotului pe piață, ori a unor contribuții periodice pe durata de viață a robotului;
e) garantarea vizibilității legăturii dintre un robot și fondul său printr-un număr de înregistrare individual, care să figureze într-un registru specific al Uniunii, ceea ce i-ar permite oricărei entități care interacționează cu robotul să fie informată cu privire la natura fondului, la limitele răspunderii sale în caz de daune aduse proprietății, la numele și funcțiile celor care contribuie și la toate celelalte amănunte pertinente;
f) crearea unui statut juridic specific pentru roboți, astfel încât cel puțin cei mai sofisticați roboți autonomi să poată avea un statut de persoană electronică responsabilă pentru repararea prejudiciilor pe care le cauzează și să poată fi aplicată eventual personalitatea electronică în cazurile în care roboții iau decizii autonome sau interacționează independent, în alt fel, cu terți;
g) introducerea unui instrument potrivit pentru consumatorii care doresc să intenteze o acțiune în pretenții colectivă ca urmare a daunelor suferite din cauza funcționării defectuoase a mașinilor inteligente împotriva companiilor producătoare responsabile;
60. constată că, deși normele actuale de drept internațional privat în materia accidentelor rutiere aplicabile în Uniune nu necesită o modificare substanțială urgentă pentru a le pune de acord cu dezvoltarea vehiculelor autonome, simplificarea prezentului sistemului dual de stabilire a dreptului aplicabil (pe baza Regulamentului (CE) nr. 864/2007 al Parlamentului European și al Consiliului(8) și a Convenției de la Haga din 4 mai 1971 privind legea aplicabilă accidentelor rutiere) ar îmbunătăți securitatea juridică și ar limita posibilitățile de alegere a jurisdicției celei mai favorabile;
61. consideră că ar trebui poate modificate unele acorduri internaționale, cum ar fi Convenția de la Viena din 8 noiembrie 1968 privind circulația rutieră și Convenția de la Haga privind dreptul aplicabil în cazul accidentelor rutiere;
64. subliniază că restricțiile și condițiile stabilite în Regulamentul (CE) nr. 428/2009 al Parlamentului European și al Consiliului(9) privind produsele cu dublă utilizare în legătură cu comercializarea acestor produse - bunuri, software și tehnologii cu aplicații atât civile, cât și militare și/sau care pot contribui la proliferarea armelor de distrugere în masă - ar trebui să se aplice și roboticii;
65. îi solicită, în temeiul articolului 225 din TFUE, Comisiei să prezinte, pe baza articolului 114 din TFUE, o propunere de directivă privind normele de drept civil în domeniul roboticii, dând curs recomandărilor detaliate stabilite în anexă;
67. consideră că propunerea solicitată nu va avea implicații financiare dacă se creează o nouă agenție europeană;
68. îi încredințează Președintelui sarcina de a transmite Consiliului și Comisiei prezenta propunere, precum și recomandările detaliate în anexă.
(1) Un robot nu trebuie să cauzeze vreun rău unei ființe umane și nici să permită, prin inacțiune, ca unei ființe umane să i se facă vreun rău. (2) Un robot trebuie să se supună ordinelor date de ființele umane, cu excepția cazului în care acestea sunt în contradicție cu prima lege. (3) Un robot trebuie să-și apere propria existență, atât timp cât acest lucru nu contravine primei și celei de a doua legi (a se vedea I. Asimov, Runaround, 1943). Și (0) Un robot nu are voie să pricinuiască vreun rău umanității sau să permită prin neintervenție ca umanitatea să fie pusă în pericol.
Cf. Declarației Schuman (1950): „Europa nu va fi construită dintr-odată sau ca urmare a unui plan unic, ci prin realizări concrete, care vor genera în primul rând o solidaritate de fapt”.
Directiva 85/374/CEE Consiliului din 25 iulie 1985 de apropiere a actelor cu putere de lege și a actelor administrative ale statelor membre cu privire la răspunderea pentru produsele cu defect (JO L 210, 7.8.1985, p. 29).
Regulamentul (CE) nr. 216/2008 al Parlamentului European și al Consiliului din 20 februarie 2008 privind normele comune în domeniul aviației civile și instituirea unei Agenții Europene de Siguranță a Aviației și de abrogare a Directivei 91/670/CEE a Consiliului, a Regulamentului (CE) nr. 1592/2002 și a Directivei 2004/36/CE (JO L 79, 19.3.2008, p. 1).
A se vedea Rezoluția legislativă a Parlamentului European din 2 aprilie 2014 referitoare la propunerea de regulament al Parlamentului European și al Consiliului privind dispozitivele medicale și de modificare a Directivei 2001/83/CE, a Regulamentului (CE) nr. 178/2002 și a Regulamentului (CE) nr. 1223/2009 (COM (2012)0542 - C7-0318/2012 - 2012/0266 (COD)).
Regulamentul (CE) nr. 864/2007 al Parlamentului European și al Consiliului din 11 iulie 2007 privind legea aplicabilă obligațiilor necontractuale (Roma II) (JO L 199, 31.7.2007, p. 40).
Regulamentul (CE) nr. 428/2009 al Consiliului de instituire a unui regim comunitar pentru controlul exporturilor, transferului, serviciilor de intermediere și tranzitului de produse cu dublă utilizare, (JO L 341, 29.5.2009, p. 1).
Indiferent de soluția juridică aleasă pentru responsabilitatea roboților și a aparatelor înzestrate cu inteligență artificială în alte cazuri decât cele care implică daune materiale, aceasta nu trebuie să limiteze în niciun fel tipul sau amploarea daunelor care pot face obiectul unei despăgubiri și nici să limiteze formele de despăgubire care ar putea fi oferite părții vătămate, pentru simplul motiv că prejudiciul a fost provocat de un agent ne-uman.
Cercetătorii în domeniul roboticii trebuie să se angajeze să urmeze un nivel maxim de conduită etică și profesională și să respecte următoarele principii:
Dreptul la viață privată trebuie respectat întotdeauna. Un inginer în robotică trebuie să se asigure că informațiile private sunt păstrate în siguranță și utilizate numai în mod corespunzător. De asemenea, un inginer în robotică trebuie să garanteze că persoanele nu sunt identificabile în mod personal, cu excepția unor împrejurări excepționale și atunci numai cu consimțământul în cunoștință de cauză, clar și lipsit de ambiguitate. Trebuie să se urmărească obținerea consimțământului în cunoștință de cauză al persoanei înainte de orice interacțiune om-mașină. Ca atare, proiectanții specializați în robotică poartă răspunderea de a dezvolta și a urma procedurile de aprobare valabilă, de confidențialitate, anonimat, tratament echitabil și de respectare a garanțiilor procedurale. Proiectanții se vor conforma tuturor solicitărilor ca orice date conexe să fie distruse și eliminate din toate seturile de date.
Cercetătorii trebuie să caute să maximizeze beneficiile activității lor în toate etapele, de la început până la difuzare. Lezarea participanților la cercetare/subiecților umani/participanților la un experiment, test sau studiu trebuie evitată. În cazul în care riscurile apar ca un element inevitabil, ce face parte integrantă din cercetare, trebuie realizată o evaluare a riscurilor și protocoale de gestiune solide, care să fie respectate. În mod normal, riscul de a provoca un prejudiciu nu trebuie să fie mai mare decât cel întâlnit în viața obișnuită, cu alte cuvinte oamenii nu ar trebui să fie expuși la riscuri mai mari sau în plus față de cele la care sunt expuși în viață normală a acestora. Funcționarea unui sistem robotizat ar trebui să se bazeze întotdeauna pe o evaluare aprofundată a riscurilor, care ar trebui să se bazeze pe principiile precauției și proporționalității.
Procesul de evaluare etică trebuie să fie independent de cercetarea propriu-zisă. Acest principiu evidențiază necesitatea de a evita conflictele de interese dintre cercetători și persoanele care evaluează protocolul de etică, precum și între evaluatori și structurile organizaționale de guvernare.
Un Comitet pentru etică în cercetare ar trebui în mod normal să fie multidisciplinar, să includă atât bărbați, cât și femei; să fie format din membri cu o amplă experiență și cunoștințe de specialitate în cercetarea în domeniul roboticii. Mecanismul de numire trebuie să funcționeze astfel încât membrii comitetului să dispună de un echilibru adecvat între cunoștințele științifice specializate, formare filozofică, juridică sau etică medii și cunoașterea opiniilor nespecialiștilor și să cuprindă cel puțin un membru cu cunoștințe de specialitate în domeniul eticii, utilizatori de servicii de specialitate în domeniul sănătății, educației sau serviciilor sociale, în cazul în care acestea fac obiectul activităților de cercetare, precum și persoane cu competențe metodologice specifice relevante pentru cercetarea pe care o evaluează; ele trebuie să fie astfel constituite încât să se evite conflictele de interese.
Toate organizațiile de cercetare ar trebui să instituie proceduri corespunzătoare pentru a monitoriza desfășurarea activităților de cercetare care au primit aprobarea comitetului de etică până când vor fi finalizate, și să urmărească continuu dacă designul cercetării anticipează schimbările posibile de-a lungul timpului de care ar trebui să se țină seama. Monitorizarea ar trebui să fie proporțională cu natura și cu gradul de risc asociat cercetării. În cazul în care un CEtC consideră că un raport de monitorizare suscită dubii majore legate etica desfășurării studiului, ar trebui să solicite o descriere detaliată și completă a cercetării în vederea efectuării unei evaluări etice cuprinzătoare. În cazul în care se consideră că un studiu este realizat într-un mod lipsit de etică, ar trebui să se ia în considerare retragerea aprobării acestuia, iar cercetarea ar trebui suspendată sau întreruptă.
În conformitate cu anexa VI la Regulamentul de procedură, Comisia pentru afaceri juridice este responsabilă, printre altele, de dreptul civil și comercial, dreptul societăților comerciale, dreptul proprietății intelectuale și de interpretarea și aplicarea dreptului internațional, în cazul în care Uniunea Europeană este vizată, precum și de aspectele etice referitoare la noile tehnologii. Dezvoltarea roboticii și a inteligenței artificiale ridică probleme juridice și etice care sunt legate în mod clar de toate aceste domenii și care necesită o intervenție rapidă la nivelul UE. Chiar dacă în cele din urmă sarcina de a prezenta una sau mai multe propuneri legislative privind robotica și inteligența artificială va reveni Comisiei, Parlamentul European a decis să deschidă calea pentru astfel de inițiative, utilizând drepturile sale în temeiul articolului 225 din Tratatul privind funcționarea Uniunii Europene și în conformitate cu articolul 46 din Regulamentul de procedură.
În consecință, la 20 ianuarie 2015, comisia JURI a decis să creeze un grup de lucru (GL) privind aspectele juridice referitoare la dezvoltarea roboticii și a inteligenței artificiale (IA) în Uniunea Europeană. Grupul de lucru vizează în primul rând elaborarea unor norme de drept civil legate de această materie.
Pe lângă membrii Comisiei pentru afaceri juridice, grupul de lucru este compus și din reprezentanți ai Comisiei pentru industrie, cercetare și energie (ITRE), ai Comisiei pentru piața internă și protecția consumatorilor (IMCO) și ai Comisiei pentru ocuparea forței de muncă și afaceri sociale (EMPL).
Grupul de lucru a consultat experți din diverse medii, beneficiind de contribuții importante care sunt incluse în prezenta rezoluție.
Robotica și IA au devenit una dintre cele mai importante tendințe tehnologice ale secolului nostru. Creșterea rapidă a utilizării și dezvoltării acestora pune probleme noi și dificile pentru societatea noastră. Drumul de la sectorul industrial la mediul societății civile impune o abordare diferită a acestor tehnologii, având în vedere că roboții și IA își vor intensifica interacțiunea cu oamenii în domenii foarte diferite.
Comisia JURI consideră că riscurile pe care le prezintă aceste interacțiuni ar trebui abordate urgent, asigurându-se de respectarea unui ansamblu de valori fundamentale în orice stadiu al contactelor între roboți, IA și oameni. În cadrul acestui proces, ar trebui acordată o atenție deosebită siguranței umane, confidențialității, integrității, demnității și autonomiei.
Alte aspecte importante menționate în prezenta rezoluție sunt: standardizarea, drepturile de proprietate intelectuală, ocuparea forței de muncă, proprietatea asupra datelor și responsabilitatea. Este esențial ca regulamentul să cuprindă condiții previzibile și suficient de clare pentru a stimula inovarea europeană în domeniul roboticii și IA.
Temeiul juridic și subsidiaritatea
Acțiunile Comisiei vizând adaptarea legislației existente la realitățile roboticii și IA ar trebui să se bazeze pe articolul 114 din TFUE. În conformitate cu articolul 5 alineatul (3) din TUE, principiul subsidiarității prevede că Uniunea acționează numai în cazul și în măsura în care obiectivele acțiunii propuse nu pot fi realizate în mod satisfăcător de statele membre nici la nivel central, nici la nivel regional și local, însă pot, având în vedere amploarea și efectele acțiunii propuse, fi realizate mai bine la nivelul Uniunii. În prezent, robotica este în curs de dezvoltare în întreaga Uniune. Ca reacție la această inovație, statele membre elaborează legislații naționale diferite. Se estimează că aceste diferențe vor crea obstacole în calea unei dezvoltări eficace a roboticii. Datorită faptului că această tehnologie are implicații transfrontaliere, cea mai bună opțiune legislativă este una europeană.
Principii generale și etice
Rezoluția stabilește dispoziții generale și etice referitoare la dezvoltarea roboticii și IA de uz civil. În primul rând, pentru a aborda în mod adecvat această evoluție, este esențială o definiție comună a roboților inteligenți autonomi . În plus, ar trebui consolidate cercetările în domeniul roboticii și al TIC, precum și în ceea ce privește implicațiile răspândirii acestora.
Pe de altă parte, pentru a aborda principiile etice, la prezenta rezoluție este anexată o cartă privind robotica. Această cartă cuprinde un cod de conduită etică pentru inginerii din domeniul roboticii, un cod de conduită pentru comitetele pentru etică în cercetare, și licențe pentru proiectanți și utilizatori. Cadrul propus este în deplină conformitate cu Carta drepturilor fundamentale a UE.
În plus, se propune crearea unei Agenții Europene pentru Robotică și IA. Această agenție ar trebui să furnizeze cunoștințele specializate tehnice, etice și în materie de reglementare necesare pentru a sprijini actorii relevanți din sectorul public.
Drepturile de proprietate intelectuală, protecția datelor și proprietatea asupra datelor
Rezoluția solicită Comisiei să propună o abordare echilibrată a drepturilor de proprietate intelectuală atunci când acestea sunt aplicate standardelor de hardware și de software, precum și codurilor care protejează inovarea și, concomitent, promovează inovarea. În plus, se solicită elaborarea unor criterii pentru „creație intelectuală proprie” pentru operele ce pot face obiectul drepturilor de autor produse de computere sau roboți.
Actualul cadru juridic insuficient referitor la protecția și proprietatea asupra datelor reprezintă un motiv de îngrijorare din cauza fluxului (preconizat a fi masiv) de date provenind din utilizarea roboticii și IA.
Standardizarea, siguranța și securitatea
Utilizarea crescândă a roboților și a IA necesită o standardizare la nivel european în scopul evitării divergențelor între statele membre și fragmentarea pieței interne a Uniunii Europene.
În plus, trebuie abordate preocupările consumatorilor privind siguranța și securitatea legate de utilizarea roboților și a IA. Această rezoluție subliniază în mod special faptul că testarea roboților în condiții reale este esențială pentru identificarea și evaluarea riscurilor pe care le pot reprezenta.
Norme privind utilizarea specifică a roboților și a IA
Rezoluția include dispoziții care se aplică unor tipuri specifice de roboți. Ar trebui adoptate norme pentru vehiculele autonome, pentru roboții de îngrijire, roboții medicali, roboții de reparare și consolidare a corpului uman, precum și pentru vehiculele aeriene fără pilot (RPAS).
Riscurile care pot să apară sunt indisolubil legate de utilizarea unor mașini autonome în societatea noastră. Comportamentul unui robot poate avea implicații de drept civil, atât în ceea ce privește răspunderea contractuală, cât și cea necontractuală. Astfel, este necesară clarificarea responsabilității pentru acțiunile roboților și, eventual, a capacității juridice și/sau a statutului de roboți și IA pentru a se asigura transparența și siguranța juridică pentru producătorii și consumatorii din întreaga Uniune Europeană.
Comisia este invitată să realizeze o evaluare a impactului instrumentelor sale legislative viitoare pentru a analiza implicațiile juridice ale tuturor soluțiilor posibile, cum ar fi, printre altele, crearea unui sistem de asigurare obligatorie și a unui fond de compensare.
Robotica și IA în contextul social
Intensificarea comunicării și a interacțiunii cu roboți sunt susceptibile să aibă un impact profund asupra relațiilor fizice și morale în societatea noastră. Acest lucru este valabil în special pentru roboții de utilitate și asistență personală, față de care persoanele deosebit de vulnerabile pot dezvolta sentimente și atașament emoțional, fapt care ar provoca îngrijorări cu privire la demnitatea umană și la alte valori morale.
Roboții și IA deja influențează educația și ocuparea forței de muncă. În acest context, este necesară monitorizarea îndeaproape a tendințelor ocupării locurilor de muncă, pentru a se evita repercusiunile nedorite asupra pieței forței de muncă.
Având în vedere dezvoltarea roboticii și IA peste tot în lume, trebuie luate în considerare inițiative pentru a modifica, dacă este cazul, unele acorduri internaționale existente în materie sau a elabora noi instrumente cu obiectivul de a introduce referiri specifice la robotică și IA. Cooperarea internațională în acest domeniu este foarte de dorit.
AVIZ al Comisiei pentru transport și turism (16.11.2016)
Comisia pentru transport și turism recomandă Comisiei pentru afaceri juridice, competentă în fond, includerea următoarelor sugestii în propunerea de rezoluție ce urmează a fi adoptată:
– având în vedere Declarația de la Amsterdam a Consiliului din 14-15 aprilie 2016 privind cooperarea în domeniul vehiculelor conectate și automatizate („Declarația de la Amsterdam”),
A. având în vedere înființarea recentă a Grupului la nivel înalt GEAR 2030 de către Comisia Europeană, care are drept scop elaborarea unei foi de parcurs pentru introducerea în bune condiții a vehiculelor autonome,
B. având în vedere faptul că, în contextul răspunderii civile, este necesar să se opereze o distincție între vehiculele automatizate (care dispun de dispozitive ce permit realizarea automată a anumitor operațiuni de conducere a unui vehicul) și vehiculele autonome (care realizează singure toate aceste operațiuni); întrucât, în primul caz, conducerea unui vehicul rămâne sub monitorizarea permanentă și sub responsabilitatea deplină a conducătorului auto; întrucât, în al doilea caz, conducerea unui vehicul nu mai necesită monitorizarea permanentă și nici vreo intervenție din partea utilizatorului; întrucât, în primul caz, regimul răspunderii civile rămâne neschimbat în raport cu vehiculul convențional, în timp ce în al doilea caz este necesară adaptarea acestui regim,
1. subliniază că transportul autonom acoperă toate formele de transport rutier, feroviar, aerian și pe apă de o manieră automată, conectată și autonomă, inclusiv pentru vehicule, trenuri, nave, feriboturi, aeronave, drone, precum și toate viitoarele forme pe care le vor lua evoluțiile și inovările din sector (denumite în continuare „mijloace autonome de transport”);
2. solicită Comisiei să țină seama de următoarele aspecte în cursul activității sale cu privire la mijloacele autonome de transport: responsabilitatea civilă (răspunderea și acoperirea riscurilor), toate chestiunile legate de mediu (de exemplu eficiența energetică, folosirea tehnologiilor și surselor de energie regenerabile), precum și chestiunile referitoare la date (accesul la date, protejarea datelor personale și a vieții private, punerea în comun a datelor privind accidentele și situațiile de risc, valoarea financiară a datelor și repartizarea ei);
3. consideră că mijloacele autonome de transport ar putea avea un impact major asupra consolidării siguranței transportului, dat fiind că, în momentul de față, erorile umane sunt responsabile pentru aproximativ 90 % dintre accidentele rutiere; constată, totuși, că va fi imposibil ca vehiculele autonome să elimine toate accidentele; acest lucru prezintă probleme legate de răspundere și ridică întrebări legate de responsabilitatea părților implicate și compensarea victimelor în caz de accident;
4. reamintește că sistemele autonome de transport există de mult timp în sectorul transporturilor în comun (metrou), și-au dovedit fiabilitatea și au fost acceptate pe scară largă de către public;
5. consideră că, pe lângă impactul pozitiv asupra siguranței rutiere, consumului de combustibil, mediului și creării de noi locuri de muncă în sectorul telecomunicațiilor și al autovehiculelor, trecerea la vehiculele autonome poate conduce, de asemenea, la pierderea de locuri de muncă în sectorul transporturilor, având, totodată, consecințe asupra sectorului asigurărilor;
6. atrage atenția asupra faptului că timpul de reacție al conducătorului este esențial atunci când acesta preia neașteptat comanda unui vehicul, și, de aceea, solicită părților implicate să prevadă valori realiste, care sunt deosebit de importante în chestiunile legate de siguranță și responsabilitate;
7. insistă asupra importanței speciale pe care o are proiectul de raport elaborat de Comisia pentru afaceri juridice pentru sectorul transporturilor, având în vedere evoluția tehnologiilor și faptul că mijloacele de transport semiautonome sunt deja disponibile pe piață, iar mijloacele de transport complet autonome vor fi disponibile în curând;
8. subliniază importanța susținerii în continuare a inovării în domeniul roboticii, de exemplu a vehiculelor automatizate și conectate și a dronelor, pentru a consolida poziția pe piața globală a industriei Uniunii;
9. constată că mijloacele de transport automatizate joacă un rol important pentru dezvoltarea unui transport sustenabil; ia act de faptul că mijloacele autonome de transport ar putea contribui la reducerea congestiei traficului și solicită Comisiei și statelor membre să țină seama rapid și pe deplin de progresele tehnice, precum și de impactul asupra mediului și al siguranței și de promovarea inovării;
10. așteaptă de la Comisie să garanteze că statele membre adaptează în mod uniform legislația actuală, cum ar fi Convenția de la Viena din 8 noiembrie 1968 privind circulația rutieră, cu scopul de a face posibilă conducerea fără conducător, și solicită Comisiei, statelor membre și industriei să transpună cât mai curând posibil obiectivele Declarației de la Amsterdam;
11. îndeamnă Comisia să prezinte evaluări privind aspectele legate de siguranță în ceea ce privește folosirea dronelor pe scară largă; solicită Comisiei să prezinte studii privind impactul mijloacelor autonome de transport asupra îmbunătățirii siguranței și sustenabilității transporturilor;
12. subliniază faptul că, prin optimizarea rutelor, combaterea congestionării, optimizarea utilizării sistemului de propulsie și comunicarea cu sistemele de control al fluxurilor, vehiculele autonome vor participa la îmbunătățirea factorilor de mediu, în special în centrele urbane;
13. subliniază că interacțiunea dintre mijloacele autonome de transport, gestionarea traficului, infrastructura și gestionarea acesteia vor necesita o comunicare eficientă și fiabilă de înaltă densitate pentru a transfera în condiții de siguranță volume mari de date în timp real; subliniază că vor fi necesare investiții substanțiale în drumuri, energie și infrastructura TIC, asigurând, în același timp, protecția datelor și a vieții private;
14. subliniază importanța unei infrastructuri de transporturi inteligente și conectate și solicită, așadar, Comisiei și statelor membre să asigure o infrastructură de mare acoperire, transfrontalieră și interoperabilă;
15. solicită Comisiei să elaboreze un regim de răspundere civilă, inclusiv al sarcinii probei, adaptat la dezvoltarea de vehicule autonome; insistă asupra importanței de a asigura separarea clară a responsabilităților între entitatea care dezvoltă conceptul, producătorii de diferite componente și unitățile de asamblare a vehiculelor autonome, prestatorii de servicii (servicii de transport sau servicii necesare funcționării vehiculelor autonome) și utilizatorii finali, pentru a garanta securitatea și drepturile călătorilor, protecția datelor și protecția împotriva pirateriei;
16. subliniază importanța crucială a unei poziționări fiabile și a informațiilor oportune furnizate de programele europene de navigație prin satelit Galileo și EGNOS pentru introducerea vehiculelor autonome, îndeosebi pentru sistemele de navigare și de securitate din vehiculele autonome, pe de o parte, și pentru sistemele de transport inteligent și de gestionare a traficului, pe de altă parte;
17. atrage atenția asupra valorii adăugate deosebite a vehiculelor autonome pentru persoanele cu mobilitate redusă, având în vedere că permit o participare mai eficace a acestor persoane la transportul rutier individual, facilitându-le astfel viața de zi cu zi;
18. solicită Comisiei să propună până în 2019 o strategie europeană comună (inclusiv o foaie de parcurs unică) pentru mijloacele autonome de transport și solicită o colaborare mai apropiată a tuturor părților interesate, inclusiv o analiză atentă și recomandări privind dinamica și evoluția pieței; solicită Comisiei să revizuiască și să adapteze, acolo unde este necesar, cadrul de reglementare al Uniunii pentru a sprijini dezvoltarea și utilizarea mijloacelor autonome de transport; solicită finalizarea și lansarea, cât de curând posibil, a sateliților necesari pentru finalizarea sistemului european de poziționare Galileo, astfel încât acest sistem să poată fi folosit ca sistem de poziționare implicit în mijloacele autonome de transport;
19. constată că dezvoltarea de vehicule autonome necesită o abordare instituțională proactivă și asumată din partea Uniunii și a statelor membre, precum și implicarea centrelor tehnologice și a sectorului autovehiculelor;
20. solicită Comisiei să dezvolte norme europene în domeniul infrastructurii pentru a permite difuzarea vehiculelor autonome și o foaie de parcurs pentru a le pune în aplicare;
21. solicită Comisiei și statelor membre ca manipularea vehiculelor automatizate să fie inclusă în catalogul de formare a conducătorilor de vehicule de transport grele și să devină parte a formării pentru obținerea permisului de conducere a autovehiculelor;
22. reamintește că omogenitatea și siguranța aeronavelor fără pilot ar trebui asigurate prin măsurile prevăzute de Regulamentul (CE) nr. 216/2008 al Parlamentului European și al Consiliului(1);
AVIZ al Comisiei pentru libertăți civile, justiție și afaceri interne (23.11.2016)
Raportor pentru aviz: Michał Boni
Comisia pentru libertăți civile, justiție și afaceri interne recomandă Comisiei pentru afaceri juridice, competentă în fond:
– includerea următoarelor sugestii în propunerea de rezoluție ce urmează a fi adoptată:
A. întrucât progresele tehnologice în domeniul roboticii vor avea efecte pozitive pentru economia Uniunii și, de asemenea, pentru viața de zi cu zi a persoanelor fizice, dar ar putea presupune și riscuri cărora trebuie să li se facă față; întrucât dezvoltarea tuturor noilor paradigme tehnologice și de producție, în cadrul sau în afara cadrului Orizont 2020 trebuie să respecte principiile etice și să țină seama în mod corespunzător de drepturile fundamentale consacrate în Carta drepturilor fundamentale (CDF);
B. întrucât o serie de state terțe au adoptat orientări și acte legislative adecvate în domeniul roboticii, iar unele state membre au lansat un proces de reflecție specific în acest domeniu; întrucât un cadru de reglementare care guvernează, la nivelul Uniunii, dezvoltarea și utilizarea roboticii și a inteligenței artificiale și se bazează pe normele existente, cum ar fi Regulamentul general al Uniunii privind protecția datelor(1), ar putea evita fragmentarea normelor în cadrul pieței unice și ar garanta o protecție sporită a drepturilor fundamentale ale tuturor cetățenilor UE la demnitatea umană, respectarea vieții private și de familie, protecția datelor cu caracter personal și drepturile de proprietate intelectuală, libertatea de exprimare și de informare, egalitatea și nediscriminarea, solidaritatea, drepturile cetățenilor și justiția, precum și securitatea și siguranța, făcând totodată obiectul principiului proporționalității;
1. consideră că actualul cadru legislativ al Uniunii ar trebui actualizat și completat, dacă este cazul, cu principii etice orientative pentru proiectarea, fabricarea, testarea și utilizarea roboților și a inteligenței artificiale, pentru a se asigura că aceste tehnologii pot într-adevăr să îmbunătățească calitatea vieții umane; solicită ca principiul precauției să fie întotdeauna luat în considerare în dezvoltarea și utilizarea unor astfel de tehnologii;
2. consideră că robotica și inteligența artificială, în special acele forme care dispun de autonomie integrată, inclusiv capacitatea de a extrage, colecta și face schimb de informații sensibile cu diverse părți interesate în mod independent, capacitatea de autoînvățare sau chiar de evoluție pentru a se modifica singure, ar trebui să facă obiectul unei legislații sau unor principii conceptuale robuste, cum ar fi că un robot nu poate ucide sau răni o ființă umană și că acesta trebuie să respecte și să fie controlat de o ființă umană; că procesul prin care roboții și inteligența artificială colectează, utilizează și prelucrează datele cu caracter personal trebuie să fie transparent și ușor de înțeles; consideră că aceste principii ar trebui să fie neutre din punct de vedere tehnologic și să se bazeze pe cercetări empirice; sprijină dezvoltarea unui cadru „etic din concepție” pentru cercetători, reprezentanți ai mediului universitar și ingineri care să garanteze că aceste soluții tehnologice nu vor împiedica cercetarea și dezvoltarea tehnologică, ci vor respecta practicile și codurile etice ale Uniunii și cele de la nivel național, precum și drepturile și principiile consacrate în CDF, în special demnitatea umană, respectarea și protejarea vieții private și de familie, securitatea și siguranța, protecția datelor cu caracter personal, protecția proprietății intelectuale, libertatea de exprimare și de informare, egalitatea și nediscriminarea, solidaritatea, drepturile cetățenilor și justiția, și ar trebui să facă obiectul proporționalității;
3. recunoaște că definirea unor astfel de legi și principii și implementarea lor practică necesită mai multe cercetări în domeniul eticii inteligenței artificiale; consideră că Grupul european pentru etică în domeniul științei și al noilor tehnologii ar putea în cele din urmă juca un rol în definirea unor orientări și standarde etice care să fie orientate spre viitor și capabile de a răspunde schimbărilor tehnologice în viitor;
4. subliniază necesitatea de a aborda impactul psihologic și în societate al interacțiunii ființă umană-robot, precum și caracterul dual al impactului tehnologiei asupra capacităților umane, acordându-se o atenție specială grupurilor vulnerabile, în special copiilor, pentru a evita crearea unei dependențe nefaste de roboți, de exemplu prin evocarea unei reacții emoționale sau prin izolarea acestor oameni de realitate;
5. subliniază că robotica și inteligența artificială, în special robotica și sistemele medicale ciber-fizice legate de sănătate, de îngrijire și de activitățile domestice, unele elemente ale acestora putând fi implantate sau purtate pe corpul uman, vor avea un impact semnificativ asupra vieții umane, în special pentru persoanele cu handicap; constată, prin urmare, că este esențial să se asigure accesul integrator și egal la aceste tehnologii; evidențiază, de asemenea, impactul acestor forme de robotică asupra vieții private a utilizatorilor din cauza accesului acestora la spațiile protejate în mod tradițional și la informații cu caracter personal sensibile; consideră că ar trebui să se asigure respectarea principiilor eticii medicale, siguranța pacienților, precum și integritatea îngrijirii acordate;
6. reamintește că dreptul la protecția vieții private și dreptul la protecția datelor cu caracter personal, astfel cum sunt consacrate la articolele 7 și 8 din Carta drepturilor fundamentale și la articolul 16 din TFUE, se aplică în toate sferele roboticii și inteligenței artificiale, și că trebuie respectat pe deplin cadrul juridic al Uniunii privind protecția datelor; subliniază responsabilitatea proiectanților roboticii și a inteligenței artificiale de a dezvolta produse astfel încât acestea să fie sigure și adecvate scopului și să urmeze proceduri pentru prelucrarea datelor care să respecte legislația actuală, confidențialitatea, anonimatul, tratamentul echitabil și garanțiile procedurale;
7. invită Comisia să se asigure că orice act legislativ al Uniunii privind robotica și inteligența artificială va include măsuri și norme care țin seama de evoluțiile tehnologice rapide în acest domeniu, inclusiv în dezvoltarea de sisteme ciber-fizice pentru a se asigura că legislația Uniunii nu rămâne în urma curbei de dezvoltare și implementare tehnologică; subliniază necesitatea ca această legislație să respecte normele privind protecția datelor și a vieții private, și anume privind obligațiile de informare, dreptul de a obține o explicație cu privire la o decizie bazată pe prelucrarea automată, cerința de a respecta principiile de confidențialitate prin concepție și în mod implicit, principiile proporționalității, necesității, limitarea datelor la minimum, limitarea scopului, precum și mecanisme de control transparente pentru persoanele vizate și pentru autoritățile de protecție a datelor, precum și soluții adecvate care respectă legislația în vigoare; solicită reexaminarea normelor, principiilor și criteriilor privind utilizarea aparatelor de înregistrare foto sau video și a senzorilor în roboți și în inteligența artificială, în conformitate cu cadrul juridic al Uniunii privind protecția datelor;
8. solicită o abordare uniformă, orizontală a roboticii și a inteligenței artificiale în cadrul de reglementare al Uniunii care să fie neutră din punct de vedere tehnologic și să se aplice diverselor sectoare în care robotica ar putea fi utilizată, cum ar fi transportul, sănătatea, producția industrială, telecomunicațiile, asigurarea respectării legii și multe altele; subliniază că, acolo unde este cazul, cadrul juridic existent ar trebui să fie actualizat și completat pentru a asigura un nivel egal de protecție a datelor, a vieții private și a securității;
9. subliniază că este deosebit de important să se prevină supravegherea în masă prin intermediul tehnologiilor din domeniul roboticii și al inteligenței artificiale;
10. invită Comisia și statele membre să promoveze o cooperare puternică și transparentă între sectorul public, sectorul privat și mediul universitar, care să consolideze schimbul de cunoștințe și să promoveze educația și formarea profesională pentru proiectanți privind implicațiile etice, siguranța și respectarea drepturilor fundamentale, precum și pentru consumatori cu privire la utilizarea roboticii și a inteligenței artificiale, cu accent special pe siguranța și confidențialitatea datelor;
Securitatea datelor și a sistemelor de date și fluxurile de date
11. subliniază că libera circulație a datelor este de importanță primordială pentru economia digitală și este esențială pentru dezvoltarea roboticii și a inteligenței artificiale; subliniază că pentru utilizarea adecvată a roboților și a inteligenței artificiale este esențial un nivel înalt de securitate a roboticii și a sistemelor de inteligență artificială, în ansamblu, inclusiv a sistemelor interne de date și a fluxurilor de date ale acestora; subliniază că trebuie asigurată protecția rețelelor de roboți și inteligență artificială interconectate pentru a preveni eventuale încălcări ale securității, atacuri cibernetice sau utilizarea abuzivă a datelor cu caracter personal, în special atunci când este colectată și prelucrată o mare cantitate de date; subliniază nevoia de a se concepe un mecanism care să permită utilizatorului să pună capăt prelucrării datelor sale cu caracter personal în cazul unei încălcări a securității; subliniază importanța activităților de cercetare și dezvoltare în domeniul tehnicilor de securizare a datelor și subliniază responsabilitatea comună a publicului și a întreprinderilor de a coopera pentru a garanta un nivel ridicat de siguranță, de securitate și de confidențialitate a datelor utilizate pentru comunicarea dintre oameni, roboți și inteligența artificială, împreună cu un înalt nivel de calitate a sistemelor de recunoaștere vocală și a limbajului semnelor; consideră că producătorii de hardware și software cu caracter comercial ar trebui să fie trași la răspundere în cazul unei încălcări grave a securității datelor cauzată de neglijența acestora; invită Comisia și statele membre să sprijine și să stimuleze dezvoltarea tehnologiei necesare, inclusiv a securității la stadiul conceperii, precum și canalele de comunicare;
Drone (sisteme de aeronave pilotate la distanță, RPAS)
12. subliniază că atunci când datele cu caracter personal sunt prelucrate de RPAS, fie de către autoritățile publice în scopul aplicării legii, fie de către entități private sau publice în alte scopuri permise de lege, se aplică dreptul la libertate și securitate, dreptul la respectarea vieții private astfel cum este consacrat în articolele 6 și 7 din Carta drepturilor fundamentale, dreptul la protecția datelor cu caracter personal menționat la articolul 8 din CDF și articolul 16 din TFUE, iar cadrul juridic al Uniunii privind protecția datelor trebuie respectat pe deplin; invită Comisia să examineze necesitatea de a introduce un sistem obligatoriu de urmărire și identificare pentru RPAS care să permită stabilirea poziției în timp real a aeronavei în timpul utilizării;
13. își reiterează invitația adresată Consiliului UE de a elabora un cadru comun al Uniunii strict și eficient privind utilizarea dronelor armate, care să acorde o importanță primordială respectării principiilor etice, a drepturilor omului și a dreptului umanitar internațional și care să abordeze aspecte precum cadrul juridic, proporționalitatea, responsabilitatea, transparența și protecția civililor, inclusiv prin adoptarea tuturor măsurilor de precauție viabile pentru a se evita țintirea eronată și cauzarea unor daune civile accidentale și asigurându-se faptul că, în ultimă instanță, controlul și responsabilitatea revin unei ființe umane; își reiterează solicitarea privind o interdicție privind producerea, dezvoltarea și utilizarea unor arme pe deplin autonome care permit efectuarea de atacuri fără intervenție umană; îndeamnă Comisia și statele membre să lanseze un dialog amplu privind politica internațională în vederea stabilirii unor standarde juridice la nivel mondial pentru dezvoltarea, răspândirea și utilizarea unor sisteme de arme din ce în ce mai autonome, precum și a unor limitări juridice și etice ale acestora, de exemplu sub forma unui acord internațional cu caracter obligatoriu;
14. recunoaște rezultatele pozitive înregistrate în tehnologia dronelor, în special în ceea ce privește căutarea și salvarea, și susține că aceasta este direcția spre care ar trebui să se îndrepte Uniunea în ceea ce privește dezvoltarea tehnologiei din domeniul dronelor;
15. consideră că, în domenii specifice, acolo unde studii pertinente demonstrează că elaborarea unor acte legislative ar fi prematură, legislația corespunzătoare ar trebui însoțită de încurajarea unui cadru bazat pe instrumente juridice neobligatorii, un cod de conduită sau parteneriate de tip public-privat, eventual la nivelul Uniunii, pentru a se asigura cooperarea industriei și a proiectanților de roboți cu autoritățile publice și cu toate celelalte părți interesate relevante; consideră că astfel de instrumente ar trebui să se concentreze asupra soluțiilor practice pentru a asigura protecția vieții private și a datelor, demnitatea umană și nediscriminarea, securitatea și etica în industria roboticii, precum și utilizarea zilnică, adecvată, a roboților și a inteligenței artificiale.
Regulamentul (UE) 2016/679 al Parlamentului European și al Consiliului din 27 aprilie 2016 privind protecția persoanelor fizice în ceea ce privește prelucrarea datelor cu caracter personal și privind libera circulație a acestor date și de abrogare a Directivei 95/46/CE (Regulamentul general privind protecția datelor), JO L 119, 4.5.2016, p. 1.
AVIZ al Comisiei pentru ocuparea forței de muncă și afaceri sociale (9.11.2016)
Raportor pentru aviz: Ádám Kósa
1. invită Comisia să realizeze urgent o evaluare temeinică a impactului roboticii asupra numărului și tipului de locuri de muncă și asupra profilurilor de calitate și de competențe ale locurilor de muncă existente; să colecteze informații despre noile forme de ocupare a forței de muncă cu scopul de a anticipa cât se poate de eficient, în primul rând, dacă răspândirea roboticii aduce prosperitate și progres în sine, dacă face ca munca umană să fie inutilă în structura tradițională de producție și servicii și, dacă da, ce condiții sunt necesare pe lângă securitatea financiară pentru a asigura că oamenii sunt sănătoși din punctul de vedere al bunăstării mentale și fizice, cetățeni fericiți și activi și dacă beneficiile teoretice ale simbiozei dintre oameni și mașini contribuie efectiv la bunăstare și la dezvoltare; în al doilea rând, dacă pe piața muncii în schimbare legislația și practicile din statele membre pot asigura o modalitate justă din punct de vedere social, incluzivă și sustenabilă de reducere a inegalităților, sărăciei și excluziunii sociale, precum și un mediu în care toate ființele umane să aibă șanse egale de a-și dezvolta talentele, competențele și sentimentul de individualitate;
2. subliniază că, deși dezvoltarea roboticii și a inteligenței artificiale se accelerează, este esențial să se contureze evoluția acestora și să se anticipeze posibilele consecințe în ceea ce privește ocuparea forței de muncă și politica socială, deoarece utilizarea sporită și la nivel global a roboticii în producția de bunuri și în servicii are ca rezultat o productivitate mai mare, care poate fi obținută cu forță de muncă redusă și, în consecință, pe parcursul următorului deceniu, unele locuri de muncă vor fi complet eliminate și multe altele vor fi afectate; prin urmare, invită Comisia să efectueze o analiză a provocărilor și oportunităților în domeniul ocupării forței de muncă și să dezvolte o metodă care să permită monitorizarea numărului și a naturii locurilor de muncă pierdute și create de robotizare și automatizare, precum și impactul acestui fenomen asupra veniturilor pierdute de sistemele de securitate socială, de asemenea, invită Comisia să evalueze, în mod regulat și în dialog cu partenerii sociali, în ce măsură numărul orelor de muncă săptămânale, anuale și pe durata întregii vieți poate fi redus fără pierderea veniturilor și să înceapă să exploreze noi opțiuni de finanțare pentru viitoarele sisteme de protecție socială și să regândească modul în care lucrătorii se implică în activitatea lor și modul în care platformele digitale de lucru pot asigura o conectare optimizată între indivizi, echipe și proiecte;
3. subliniază că robotizarea are ca rezultat, pe de o parte, pierderea multor locuri de muncă și, pe de altă parte, pierderea locurilor de muncă individuale în multe domenii, iar egalizarea salarială ar putea fi finanțată prin creșterea productivității;
4. consideră că roboții ar trebui concepuți pe baza unor procese ce asigură controlul uman și reversibilitatea operațiunilor roboților și că, având în vedere nivelul tot mai mare de autonomie a roboților, în paralel ar trebui să se modifice normele privind răspunderea referitoare la consecințele asociate acțiunilor sau lipsei de acțiune a roboților; este îngrijorat din cauza lipsei unui cadru general și a unor dispoziții juridice privind automatizarea muncii în cadrul acestei noi revoluții industriale în curs de desfășurare și consideră că este esențial ca Uniunea să specifice un cadru juridic care să reflecte complexitatea roboticii și numeroasele implicații sociale ale acesteia; prin urmare, invită Comisia să propună o definiție comună a roboților inteligenți autonomi și a subcategoriilor acestora la locul de muncă și să analizeze avantajele și dezavantajele unui sistem de asigurare obligatorie care să acopere posibilele pagube și erori cauzate de roboții săi;
5. subliniază că sistemele de educație și de formare trebuie să se adapteze la schimbările legate de profesii și de modurile de producție, punând mai mult accent pe locurile de muncă cu un conținut creativ și nerepetitiv cu scopul de a păstra valoarea muncii umane și de a pune la dispoziția tuturor generațiilor instrumentele necesare care să le ofere cea mai bună pregătire posibilă pentru piața muncii într-o lume care se schimbă permanent din cauza robotizării și automatizării; evidențiază importanța flexibilității competențelor, precum și importanța competențelor necesare în viața cotidiană și a celor sociale în cadrul educației; își exprimă convingerea că, pe lângă cunoștințele academice predate în școli, copiii trebuie să dobândească competențe de gândire critică pentru a putea pune întrebări și lua decizii în cunoștință de cauză, competențe creative pentru a putea transpune ideile în practică și a dezvolta un simț al inițiativei, iar învățarea pe tot parcursul vieții trebuie realizată prin acțiuni pe tot parcursul vieții; subliniază că competențele digitale sunt esențiale pentru automatizarea care în prezent decurge într-un ritm accelerat și digitalizarea muncii și a serviciilor presupune dezvoltarea abilităților și a competențelor digitale, pentru a asigura un nivel ridicat al ocupării forței de muncă și pentru a eradica analfabetismul digital în creștere și riscul excluziunii sociale asociat cu acesta; subliniază că ar trebui acordată o atenție deosebită digitalizării învățământului și exploatării robotizării în predare și învățare, iar educația ar trebui să sublinieze, de asemenea, importanța științelor umaniste, care aduc beneficii sub forma calităților creative, inventive, artistice și culturale pe piața forței de muncă, aflată în schimbare, astfel încât oamenii să aibă în continuare un avantaj comparativ față de mașini;
6. admite că robotica oferă un potențial enorm pentru sprijinirea și ușurarea vieții, în special pentru persoanele cu handicap și persoanele în vârstă în viața de zi cu zi, și ar putea aduce o contribuție majoră la autonomia vieții acestora și la integrarea lor pe piața muncii; este de opinie că trebuie să se examineze atent ce dispoziții în privința ocupării forței de muncă ar putea fi necesare din punctul de vedere al forței de muncă în cazul în care dezvoltarea sau completarea artificială sau genetică a capacităților umane existente va avea drept rezultat oameni cu capacități extraordinare, modificând prin aceasta fundamental semnificația termenului de „handicap” și conferind un avantaj de nerecuperat persoanelor care au acces la astfel de inovații tehnologice, instrumente și intervenții, ceea ce în mod evident va genera întrebări de ordin etic și moral, care ar trebui examinate temeinic;
7. subliniază faptul că decizia individuală de a alege sau a refuza un implant, o proteză sau o extensie a corpului uman nu trebuie să conducă niciodată la un tratament nefavorabil sau la amenințări în ceea ce privește ocuparea unui loc de muncă, educația, îngrijirile medicale, securitatea socială sau alte beneficii și subliniază că toți cetățenii trebuie să aibă acces egal și neîngrădit la beneficiile noilor tehnologii; subliniază în această privință faptul că, întrucât demnitatea umană se află în centrul legislației Uniunii și internaționale în materie de drepturile omului, este important să se examineze modul în care se poate garanta că persoanele care nu sunt considerate deocamdată persoane cu handicap să nu fie dezavantajate, în raport cu „oamenii cu îmbunătățiri”, similar persoanelor cu un handicap mental sau persoanelor cu retardare mentală și dacă persoanele care trăiesc cu un handicap mental și persoanele care trăiesc cu retardare mentală vor putea să ia decizii independente prin intermediul unui proces decizional asistat, astfel cum se prezintă în Convenția privind drepturile persoanelor cu handicap, cu ajutorul roboților, precum și modul în care va fi împărțită responsabilitatea între aceștia;
8. indică totuși faptul că există riscuri ce decurg din utilizarea roboților, care ar trebui ponderate în mod adecvat în raport cu beneficiile pe care aceștia le-ar putea aduce; remarcă faptul că ar trebui să se țină seama de vătămările corporale la locul de muncă provocate de roboți și de cererile de despăgubire aferente; indică faptul că, deși ar putea spori productivitatea, tehnologia robotică corporală, precum exoscheletele menite să protejeze împotriva vătămărilor corporale la locul de muncă, ar putea genera așteptări mai ridicate din partea angajatorilor cu privire la lucrătorii umani, generând, astfel, riscuri mai mari de vătămare corporală; subliniază că trebuie să se țină seama de aceste aspecte, printre altele de către legiuitori, angajatori, sindicate și angajați, prin intermediul normelor interne, contractelor colective, iar alte riscuri asociate roboților ar putea fi legate de antidiscriminarea care poate apărea în urma unui interviu pentru un loc de muncă, în cazul în care datele dobândite conduc la o analiză neintenționată; ia act de faptul că utilizarea roboticii poate genera inclusiv noi provocări legate de comerț și viața privată;
9. subliniază că, în fața unor divizări în creștere ale societății, cu o clasă de mijloc în scădere, este important să se țină cont de faptul că dezvoltarea roboticii poate conduce la o concentrare ridicată a bogăției și a influenței în mâinile unei minorități;
10. constată că impactul asupra ocupării forței de muncă și a politicii sociale determinat de progresul tehnologic și de robotizarea în curs de desfășurare a revoluționat modul în care oamenii accesează și furnizează informații, comunică, socializează și lucrează, creând astfel noi oportunități, dar și provocări, deschizând noi perspective prin posibila creștere a eficienței activităților și economiile de energie și de materiale; cu toate acestea, subliniază că, deși robotica și inteligența artificială promit într-adevăr avantaje pe termen scurt și mediu din punctul de vedere al eficacității și al economiilor nu doar în cazul producției și comerțului, ci și în domenii în care, datorită interacțiunii, inteligenței și creativității umane, automatizarea este dificilă, astfel că aceste domenii au fost rezervate până în prezent oamenilor, un exemplu în acest sens fiind sectoarele în care lucrează un număr mare de persoane uneori slab calificate, ar putea exista riscul ca numărul de locuri de muncă în domeniul roboticii să nu crească suficient de mult pentru a acoperi pierderea preconizată de locuri de muncă în domenii precum transporturile, logistica și munca de birou; în consecință, invită Comisia și statele membre ca, în cooperare cu partenerii sociali și autoritățile regionale și locale, atunci când este cazul, să dezvolte noi mecanisme de protecție care să fie adecvate pentru tiparele de muncă și de carieră generate de digitalizare și de utilizarea sporită a roboticii, precum și să ofere educație și formare adecvată tuturor persoanelor;
11. subliniază faptul că, în urma dezvoltării și a utilizării roboților inteligenți și care colaborează și a inteligenței artificiale, diferența dintre crearea și pierderea de locuri de muncă ar putea avea consecințe asupra sustenabilității financiare a sistemelor de securitate socială, a sistemelor de pensii și a sistemelor de ajutor de șomaj ale statelor membre și subliniază faptul că pierderea la nivelul ocupării forței de muncă pe termen mediu și lung, ca urmare a robotizării, ar putea fi asociată, de asemenea, cu riscul unei pierderi la nivelul capacității de consum; subliniază faptul că majoritatea beneficiilor generate de automatizare și robotizare în domeniul ocupării forței de muncă ar trebui să provină nu numai din reducerea costurilor cu forța de muncă, ci și din creșterea productivității ca urmare a unui număr mai mic de erori, a producției mai mari și a calității, siguranței și vitezei mai bune; invită Comisia și statele membre să consulte și să implice periodic partenerii sociali atunci când adaptează cadrul de reglementare pentru robotică și economia digitală, să identifice potențialele riscuri privind sănătatea și siguranța la locul de muncă, determinate de inovările tehnologice, și să ia măsuri adecvate pentru a le contracara și să exploreze posibilitatea introducerii unui sistem de notificare anterior introducerii roboților și participării conexe a acestora la cifra de afaceri a companiilor, în scopul impozitării și al contribuțiilor de asigurări sociale;
12. invită Comisia să prezinte orientări privind principiile etice și sociale stabilite pentru a însoți reglementările ulterioare în domeniul roboticii, în special cu privire la obiectivul definirii standardelor orientate spre viitor și adecvate pentru viitoarele evoluții tehnologice;
13. atrage atenția asupra așa-numitului „crowdworking” (muncă participativă); invită Comisia să analizeze această nouă formă de ocupare a forței de muncă și să examineze măsura în care sistemele de securitate socială și legislația muncii aplicabilă trebuie ajustate, pentru a le oferi protecția corespunzătoare lucrătorilor care practică crowdworking;
14. subliniază faptul că, deși nu putem împiedica progresul tehnologic, generația actuală are posibilitatea, dar și responsabilitatea de a-i contura direcția pentru ca acesta să aducă beneficii populației și planetei; este de opinie că Uniunea ar trebui să contribuie la o strategie integrată în domeniile politice ale bunăstării, creșterii economice și tehnologiei, pentru a se afla în fruntea dezvoltării globale; invită statele membre și Comisia să analizeze în detaliu consecințele în viitorul apropiat ale utilizării crescute a sistemelor de robotică asupra muncii și să ofere un cadru pentru această dezvoltare, cu o legislație concepută pentru ca tranziția tehnologică să fie cât mai ușoară posibil pentru angajați și este ferm convins că trebuie să se găsească urgent un răspuns la întrebarea dacă, drept urmare a evoluțiilor ulterioare în materie de robotică și a soluțiilor mai puțin costisitoare, vor exista locuri de muncă în care capacitatea oamenilor de a lucra va fi restricționată prin lege din cauza naturii dăunătoare sau periculoase a muncii în privința sănătății umane (ca în cazul normelor aplicabile în prezent pentru femeile însărcinate) sau din alte motive și să se găsească un răspuns la întrebarea care domenii ar putea fi considerate ca fiind restricții sau o interdicție a automatizării parțiale sau totale pentru a garanta siguranța și respectarea drepturilor fundamentale afectate de automatizarea tot mai intensă a unor întregi industrii, ținând seama de schimbările demografice și de sustenabilitate, precum și pentru a evita eventuale consecințe sociale neintenționate;
15. consideră că, având în vedere ritmul progresului tehnologic, ar trebui să vizăm legiferarea roboticii pentru viitorul apropiat; consideră, de asemenea, că legislația ar trebui să fie adaptată scopului, ca să se poată reacționa la schimbările științifice și tehnologice; este de opinie că este necesar să se anticipeze dezvoltarea de noi domenii de afaceri, care s-ar putea dezvolta pe baza evoluției ulterioare a roboticii și a inteligenței artificiale; subliniază însă că roboții nu reprezintă doar instrumente de lucru, ci aceștia acționează din ce în mai mult în mod autonom în producerea de bunuri și servicii, prin urmare solicită sisteme de protecție cuprinzătoare care să asigure protecția adecvată a sănătății și siguranței lucrătorilor atunci când întreprind activități cu sau alături de roboți ori alte forme de inteligență artificială și norme de răspundere care să asigure faptul că daunele provocate de roboții autonomi pot fi clarificate în favoarea angajaților; în consecință, invită Uniunea și statele membre să încurajeze cât mai curând inițierea unui dialog public structurat privind consecințele dezvoltării respectivelor tehnologii și invită părțile interesate implicate în cercetare să dezvolte o abordare critică și să aducă o contribuție constructivă la dialogul public;
16. subliniază faptul că orice activitate de procesare desfășurată de roboți și sisteme de inteligență artificială trebuie să respecte pe deplin legislația Uniunii în materie de protecție a datelor și trebuie să includă principiul luării în considerare a vieții private începând cu momentul conceperii și principiul respectării implicite a vieții private;
17. subliniază că robotizarea oferă oportunități considerabile de a readuce industria prelucrătoare în Uniune și de a crea, astfel, noi oportunități de ocupare a forței de muncă, în special pentru mâna de lucru slab calificată;
18. consideră că utilizarea roboților în producție este însoțită de provocări majore pentru sănătatea și siguranța la locul de muncă; subliniază că robotizarea poate, pe de o parte, să reducă sarcina fizică asupra lucrătorilor, dar poate determina și o tensiune psihică mai ridicată, având în vedere responsabilitatea în creștere a individului în procese de producție mai complexe; solicită Comisiei și agențiilor sale, în special EU-OSHA, să examineze efectele digitalizării, ale roboticii și ale inteligenței artificiale asupra tensiunii psihice și să propună măsuri de contracarare a acestora; solicită să se ofere angajaților șansa de a juca permanent un rol activ în modelarea mediului lor de lucru, iar partenerii sociali și sindicatele să fie implicați la toate nivelurile;
19. evidențiază studiile științifice care au identificat patru probleme majore ce apar atunci când se încearcă o legiferare în domeniul utilizării roboților: discreția cu privire la platformele și producătorii implicați în dezvoltarea și cercetarea inteligenței artificiale, care este posibil să nu fie întotdeauna vizibili pentru legiuitori; caracterul difuz care apare atunci când sistemele de inteligență artificială sunt dezvoltate cu echipe de cercetători separate din punct de vedere organizatoric, geografic și jurisdicțional; discreția se referă la faptul că sistemele de inteligență artificială ar putea implica multe componente software și hardware prefabricate distincte și separate; subliniază că este posibil ca efectele punerii laolaltă a tuturor acestor componente să nu fie pe deplin apreciate decât ulterior și că opacitatea se referă la faptul că este posibil ca modul în care funcționează sistemele de inteligență artificială să fie mai opac decât în cazul tehnologiilor anterioare; subliniază că acest aspect ar putea constitui o problemă pentru legiuitori, ca urmare a lipsei de claritate privind problemele care pot fi generate de aceste sisteme și modul în care aceste probleme pot fi soluționate.
AVIZ al Comisiei pentru mediu, sănătate publică și siguranță alimentară (14.10.2016)
Raportor pentru aviz: Cristian-Silviu Bușoi
Comisia pentru mediu, sănătate publică și siguranță alimentară recomandă Comisiei pentru afaceri juridice, competentă în fond:
A. întrucât îmbătrânirea populației este rezultatul unei speranțe de viață mai mari, datorate progresului condițiilor de viață și medicinei moderne, și este una dintre cele mai mari provocări de ordin politic, social și economic din secolul al XXI-lea pentru societățile europene; întrucât, până în 2025, peste 20 % dintre europeni vor avea 65 de ani sau mai mult, cu o creștere deosebit de rapidă a numărului celor în vârstă de peste 80 de ani, ceea ce va duce la un echilibru complet diferit între generații în societățile noastre, și întrucât este în interesul societății ca persoanele mai în vârstă să rămână sănătoase și active cât mai mult timp posibil;
B. întrucât vânzarea și producția de dispozitive robotizate au cunoscut o creștere importantă între 2010 și 2014, de aproape 30 % doar în anul 2014, în special în sectorul sănătății și cel al îngrijirii;
C. întrucât, într-o societate care îmbătrânește, crește prevalența și incidența dizabilităților, bolilor cronice, riscului de atacuri cerebrale, leziunilor cerebrale și abilităților diminuate;
D. întrucât societățile și sistemele de sănătate vor trebui să se adapteze la procesul de îmbătrânire și la cerințele specifice îngrijirii sănătății persoanelor în vârstă, astfel încât să poată furniza îngrijiri corespunzătoare și să rămână sustenabile din punct de vedere financiar;
E. întrucât sistemele cyber-fizice (CPS) sunt sisteme tehnice de computere, roboți și elemente de inteligență artificială conectate în rețea, care interacționează cu lumea fizică și au numeroase aplicații în sectorul îngrijirii sănătății;
F. întrucât este necesar să se atingă standarde specifice și mai detaliate, identice în toate țările Uniunii Europene, ținându-se seama de natura CPS;
G. întrucât astfel de sisteme vor asigura fundamentul și baza serviciilor inteligente emergente sau viitoare și vor aduce progrese în sectorul îngrijirilor medicale personalizate, al răspunsului la urgențe și al telemedicinei;
H. întrucât folosirea instrumentelor de diagnosticare sau de tratare robotizate sau de înaltă tehnologie nu ar trebui să ducă în niciun caz la creșterea responsabilității medicilor sau a personalului medical care trebuie să le folosească; în acest sens, se consideră necesară creșterea responsabilității unităților medicale sau a producătorilor implicați;
I. întrucât potențialul economic și societal al CPS este mult mai vast decât ceea ce s-a imaginat până acum și se fac investiții majore la nivel mondial pentru dezvoltarea tehnologiei;
J. întrucât utilizarea acestor tehnologii nu trebuie să reducă sau să afecteze relația medic-pacient, ci trebuie să îi ofere medicului asistență în diagnosticarea și/sau tratarea pacienților;
K. întrucât CPS suscită așteptări mari și au un potențial ridicat, iar efectele tehnologiilor nou introduse nu vor fi niciodată complet previzibile și pot fi integrate cu succes numai dacă societatea se poate adapta la un nou mod de interacțiune cu tehnologia,
1. admite faptul că adoptarea unor noi tehnologii în sectorul îngrijirii sănătății este susceptibilă, cu condiția privilegierii relației pacient-doctor și a liberului arbitru, să aducă beneficii majore în termeni de îngrijire a pacienților și eficacitate și precizie a tratamentelor, inclusiv prin reducerea riscului erorii umane, conducând astfel la o mai bună calitate a vieții și la o speranță de viață mai mare;
2. consideră că, deși robotica poate aduce beneficii societății, aceasta poate, în același timp, să modifice în mod semnificativ modul în care oamenii interacționează unii cu alții și, prin urmare, poate avea un impact real asupra structurilor societale actuale; prin urmare, subliniază nevoia urgentă a unei dezbateri publice extinse și documentate cu privire la această nouă revoluție tehnologică;
3. consideră esențial ca Uniunea să creeze un cadru normativ bazat pe principii etice, care să țină seama de complexitatea roboticii și de numeroasele sale implicații sociale, medicale și bioetice;
4. subliniază că inovarea care oferă diagnostice mai bune și o mai bună cunoaștere a opțiunilor în materie de tratamente, îngrijire și reabilitare duce la decizii medicale mai exacte, la timpi de refacere mai scurți și, în consecință, ar putea atenua neajunsurile ce decurg, în cadrul proceselor de îngrijire și reabilitare, din penuria de profesioniști în domeniul sănătății;
5. subliniază că creșterea cererii de unități CPS are potențialul de a crea în Uniune un număr mare de locuri de muncă care necesită o înaltă calificare;
6. consideră utilă prezența roboților pentru a veni în sprijinul muncii medicilor sau asistenților, cu scopul de a îmbunătăți experiența oamenilor în diagnosticare și tratare, ținând cont, cu toate acestea, de importanța faptului ca practica medicală și practicile de îngrijire a pacienților să nu fie dezumanizate;
Roboții de utilitate și asistență personală
7. constată că CPS sunt capabile să schimbe în bine viața persoanelor care suferă de dizabilități, deoarece tehnologiile inteligente pot fi utilizate în scopul profilaxiei, asistenței, monitorizării și însoțirii;
8. remarcă faptul că CPS ar putea avea un impact major asupra sectorului îngrijirii sănătății, cu potențialul de a scădea costurile globale ale îngrijirii sănătății, permițându-le profesioniștilor din domeniul medical să își axeze atenția mai degrabă asupra prevenției, decât asupra tratamentului;
9. subliniază că cercetarea și dezvoltarea din domeniul roboților destinați îngrijirii vârstnicilor s-a generalizat și s-a ieftinit de-a lungul timpului, permițând realizarea unor produse mai funcționale și acceptate în mai mare măsură de consumatori; remarcă gama largă de aplicații ale acestor tehnologii, care le oferă vârstnicilor și celor afectați de demență, de tulburări cognitive și de pierderi de memorie beneficii legate de profilaxie, asistență, monitorizare, stimulare și însoțire;
10. subliniază că, deși CPS pot mări mobilitatea și sociabilitatea persoanelor cu dizabilități și a vârstnicilor, îngrijitorii umani vor continua să fie necesari și vor constitui o sursă importantă de interacțiune socială pentru aceștia, care nu va putea fi înlocuită în totalitate; remarcă faptul că tehnologiile CPS sau roboții nu pot decât să amplifice considerabil îngrijirea umană și să imprime un caracter mai strict orientat procesului de reabilitare, astfel ca personalul medical și îngrijitorii să poată aloca mai mult timp de calitate diagnosticării și adoptării unor opțiuni mai bune privind tratamentele;
11. constată că, în sectorul îngrijirii sănătății, sunt deja în uz unele forme timpurii de roboți și dispozitive CPS inteligente, cum sunt dispozitivele e-sănătate și roboții chirurgicali și că, în viitorul apropiat, această tehnologie va continua să se dezvolte, având potențialul de a reduce și costul îngrijirii sănătății, permițând personalului medical să își transfere atenția de la tratament la profilaxie și făcând disponibil un buget mai mare pentru o mai bună ajustare la diversitatea nevoilor pacienților, pentru formarea permanentă a profesioniștilor din domeniul sănătății și pentru cercetare;
12. subliniază că utilizarea sporită a CPS ar putea avea ca rezultat o societate mai sănătoasă pe măsură ce procedurile devin mai puțin invazive, conducând la un timp de recuperare mai rapid și reducând absenteismul datorat îngrijirilor de sănătate;
13. constată că dispozitivele medicale robotizate continuă să evolueze și cel mai probabil vor fi din ce în ce mai frecvent utilizate în procedurile chirurgicale, avansând frontierele medicinei;
14. constată că s-a preconizat ca roboții chirurgicali să mărească capacitatea chirurgilor umani dincolo de limitele laparoscopiei convenționale, iar dezvoltarea roboților chirurgicali își are rădăcinile în dorința de a depăși aceste limite și de a extinde beneficiile chirurgiei minim invazive, a mișcărilor de finețe și de precizie;
15. subliniază că CPS vor permite telechirurgia, cu numeroase avantaje, precum o precizie mai mare a mișcărilor mâinii, eliminând tremurul mâinii în mișcare, mărirea imagistică, pe care o pot analiza și evalua imediat, o dexteritate ameliorată și chirurgia de la distanță, în timp ce o cerință fundamentală trebuie să fie aceea ca doctorii să obțină competențe și acreditare pentru efectuarea intervențiilor medicale cu dispozitive CPS individuale;
16. constată că, în ultimii ani, au survenit schimbări semnificative în ceea ce privește educația medicală și sectorul formativ; constată, de asemenea, că, pe măsură ce îngrijirea medicală a devenit din ce în ce mai complexă, atmosfera din centrele academice de îngrijire a sănătății oferă oportunitatea de a consolida o abordare holistică a sănătății, de a regândi modul în care se asigură educația medicală și învățarea pe tot parcursul vieții, menținând totodată competențele esențiale ale medicilor pentru păstrarea cunoștințelor lor de specialitate și a autorității lor asupra roboților; invită Comisia și statele membre să promoveze standarde înalte de pregătire și specializare pentru personalul medical și paramedical care utilizează sau intenționează să utilizeze noi tehnologii robotizate și încurajează libera circulație a chirurgilor care intenționează să utilizeze astfel de tehnologii pentru a realiza operații;
17. invită Comisia și statele membre să consolideze instrumentele financiare pentru proiectele de cercetare în domeniul roboticii pentru urgențe sociale și în materie de sănătate;
18. consideră fundamentală respectarea principiului autonomiei supravegheate a roboților, pe baza căruia planificarea inițială a tratamentului și decizia finală privind efectuarea sa rămân mereu la latitudinea unui chirurg uman;
Evaluarea clinică și investigațiile clinice
19. subliniază că CPS medicale trebuie să satisfacă standardele înalte stabilite pentru echipamentele medicale, prin proceduri de verificare și certificare eficace, care să permită evaluarea de către un personal instruit în mod corespunzător a siguranței și a eficacității tehnologiei propuse, chiar din faza de proiectare;
20. subliniază că este important să se facă o distincție între roboți chirurgicali și proteze, precum și între exoschelete și roboți de companie, a căror funcție este de a asista persoanele care suferă de dizabilități sau pe cele care se află în incapacitate temporară; subliniază importanța supunerii ambelor tipuri unor controale care să fie efectuate în conformitate cu cele mai precise și detaliate standarde posibile;
21. salută acordul politic referitor la Regulamentul privind dispozitivele medicale, la care au ajuns colegiuitorii în iunie 2016; invită Comisia să garanteze că procedurile pentru testarea unor noi dispozitive medicale robotizate sunt sigure, în special în cazul dispozitivelor implantate în corpul uman, înainte de data la care respectivul regulament devine aplicabil; observă în continuare că trebuie să existe o transparență deplină față de pacienți cu privire la datele lor personale și față de public cu privire la testele clinice eșuate și la cele reușite, iar responsabilitatea pentru testele eșuate și CPS trebuie să fie clară pacienților și publicului;
22. subliniază că, în timp ce tehnologia se dezvoltă exponențial, sistemele sociale din Uniune nu pot răspunde la fel de rapid, iar sistemele de îngrijire a sănătății răspund încă și mai lent; subliniază că aceste evoluții exercită un puternic impact asupra civilizației, așa cum o cunoaștem, și că, din această cauză, este imperativ ca progresul tehnologic să fie însoțit de evaluări ale implicațiilor morale și etice ale noilor tehnologii, înainte și pe parcursul dezvoltării lor;
23. subliniază importanța, în ceea ce privește standardele etice, de a garanta faptul că produsele robotice respectă drepturile fundamentale ale individului și ale societății, care trebuie protejate la nivelul Uniunii, prevăzând orice măsuri tehnice necesare care să garanteze respectarea acestora încă din faza de proiectare, în conformitate cu așa-numita abordare de confidențialitate încă din faza de concepție;
24. atrage atenția asupra riscurilor aferente posibilității ca sistemele CPS integrate în corpul uman să fie piratate sau dezactivate sau să le fie șterse memoriile, deoarece acest lucru ar putea pune în pericol sănătatea umană și, în cazuri extreme, chiar viața umană și subliniază, prin urmare, prioritatea care trebuie acordată protejării respectivelor sisteme;
25. recunoaște vulnerabilitatea pacienților cu nevoi speciale, inclusiv copii, vârstnici și persoane cu dizabilități, și subliniază că orice utilizator ar putea dezvolta o legătură emoțională cu CPS și roboții; subliniază considerentele etice pe care le implică acest eventual atașament; încurajează Comisia să înceapă un proces de reflecție asupra modului în care se poate asigura că CPS nu vor avea un impact negativ asupra autonomiei și independenței persoanelor vulnerabile;
26. solicită Comisiei și statelor membre să promoveze dezvoltarea tehnologiilor de asistare și prin regimuri de răspundere diferite de cele aplicabile în momentul de față, pentru a favoriza dezvoltarea și adoptarea acestor tehnologii de către cei care au nevoie de ele, în conformitate cu articolul 4 din Convenția ONU privind drepturile persoanelor cu handicap, la care Uniunea a subscris;
27. evidențiază importanța menținerii relației pacient-doctor în procesul de îngrijire, în special în ceea ce privește comunicarea diagnosticului și a tratamentului medical;
28. remarcă faptul că utilizarea CPS ridică problema consolidării capacităților umane, care este definită ca o consolidare a aptitudinilor umane naturale existente sau dobândirea de noi aptitudini, permițându-le indivizilor să depășească dizabilitățile;
29. confirmă nevoia reducerii la minimum a eventualei amprente ecologice și ambientale a roboticii, deoarece se preconizează că utilizarea CPS și a roboților va determina o creștere generală a consumului de energie și a cantității de deșeuri electrice și electronice; evidențiază necesitatea maximizării posibilității de sporire a eficienței proceselor în raport cu resursele, de a mări eficiența energetică prin promovarea utilizării energiilor din surse regenerabile pentru robotică, de a utiliza și de a reutiliza materiile prime secundare și de a reduce deșeurile; prin urmare, încurajează Comisia să includă principiile economiei circulare în orice politică a Uniunii în domeniul roboticii;
30. remarcă, de asemenea, că utilizarea CPS va avea un impact pozitiv asupra mediului, în special în domeniul agriculturii și al aprovizionării cu produse alimentare, îndeosebi prin dimensiunile reduse ale utilajelor și prin utilizarea redusă a îngrășămintelor, energiei și apei, precum și prin agricultura de precizie;
31. subliniază că CPS vor conduce la crearea de sisteme energetice și de infrastructură care au capacitatea de a controla fluxul energiei electrice de la producător la consumator și vor avea, de asemenea, ca rezultat crearea de „prosumatori” de energie, care produc și, în același timp, consumă energie, permițând astfel beneficii majore pentru mediu;
– de a include următoarele recomandări în anexa la propunerea sa de rezoluție:
Siguranța dispozitivelor medicale robotizate este o condiție prealabilă pentru introducerea lor în sectorul îngrijirii sănătății. Eficacitatea și siguranța roboților medicali și a celor utilizați în scopul îngrijirii ar trebui să fie evaluată prin proceduri de certificare și în raport cu garanții de siguranță specifice, foarte detaliate, acordând o atenție deosebită utilizării lor de către utilizatori cu deficiențe sau în situații de urgență; invită Comisia să adopte specificații comune detaliate pentru dispozitivele medicale robotizate; ar trebui să se acorde o importanță deosebită siguranței rețelelor CPS cu scopul de a înlătura orice posibilitate de manipulare neautorizată a acestora și de sustragere de date personale sensibile.
Siguranța sistemelor CPS implantate în corpul uman este o cerință fundamentală, deoarece orice defect al acestora poate fi fatal și, în acest context, este important să se ofere informații și să se reglementeze inechivoc problemele privind răspunderea, inclusiv dreptul de proprietate asupra acestor sisteme CPS implantate, cine are drepturi asupra lor și cine poate modifica implantarea lor, interzicând cu strictețe orice experiment asupra persoanelor fără acordul lor.
CPS medicale și utilizarea roboților ca „sisteme electronice de înregistrare a sănătății” pune probleme legate de legislația privind viața privată a pacienților, secretul medical și protecția datelor în domeniul sănătății publice. Normele Uniunii privind protecția datelor ar trebui adaptate, astfel încât să țină cont de complexitatea și interconectivitatea în creștere a roboților medicali care ar putea manipula informații personale și date referitoare la sănătate deosebit de sensibile; acestea ar trebui să respecte conceptul de confidențialitate încă din faza de concepție, așa cum prevede Regulamentul (UE) nr. 2016/679 privind protecția datelor. Codurile de conduită privind secretul medical trebuie îmbunătățite sub aspectul datelor privind sănătatea stocate pe sisteme CPS care pot fi accesate de terți.
Companiile de asigurări sau orice alt furnizor de servicii nu ar trebui să fie autorizați să folosească datele electronice privind sănătatea pentru a introduce discriminări în stabilirea prețurilor, deoarece acest lucru ar fi în contradicție cu dreptul fundamental de acces la cel mai înalt standard de sănătate posibil.
Comitetele pentru deontologia cercetării
Comitetele pentru deontologia cercetării trebuie să ia în considerare aspectele etice pe care le implică dezvoltarea dispozitivelor medicale robotizate și a CPS în numeroase sectoare ale îngrijirii sănătății și ale asistenței acordate persoanelor vârstnice și cu dizabilități. Trebuie să fie luate în considerare în mod corespunzător chestiuni ca accesul egal la îngrijirea sănătății și la profilaxia robotizată, relația privilegiată dintre pacient și doctor în cadrul procesului de îngrijire și susceptibilitatea, mai ales a pacienților cu nevoi speciale (de exemplu, persoanele cu dizabilități), dar nu doar a acestora (de exemplu, copiii, persoanele solitare etc.), de a dezvolta un atașament emoțional față de roboți.
Încurajează comitetele pentru deontologia cercetării și Comisia să înceapă un proces de reflecție în vederea elaborării unui cod de conduită pentru cercetători/proiectanți și utilizatorii de CPS medicale, care ar trebui să aibă la bază principiile consacrate în Carta drepturilor fundamentale a Uniunii (cum ar fi demnitatea umană și drepturile omului, egalitatea, justiția și echitatea, dreptul de a avea beneficii și de a nu fi lezat, demnitatea, nediscriminarea și nestigmatizarea, autonomia și responsabilitatea individuală, consimțământul în cunoștință de cauză, intimitatea și responsabilitatea socială, precum și drepturile persoanelor în vârstă, integrarea persoanelor cu dizabilități, dreptul la îngrijirea sănătății și dreptul la protecție al consumatorilor) și practicile și codurile etice existente.
Merită menționat că robotica poate aduce un nivel înalt de incertitudine privind aspectele care țin de răspundere și de responsabilitate.
AVIZ al Comisiei pentru industrie, cercetare și energie (15.11.2016)
Comisia pentru industrie, cercetare și energie recomandă Comisiei pentru afaceri juridice, competentă în fond:
A. întrucât echipele alcătuite din roboți și oameni ar putea fi cu 85 %(1) mai productive decât cele formate exclusiv din roboți sau oameni; întrucât roboții, prin sporirea capacităților oamenilor, vor reduce riscurile legate de erorile umane;
B. întrucât Uniunea ocupă o poziție de lider în robotica industrială, cu o cotă de peste 25 %(2) din furnizare și utilizare, estimându-se că această piață crește cu o rată de 8 - 9 % pe an, ceea ce face din acest sector o prioritate industrială strategică,
1. are convingerea că robotica și inteligența artificială joacă un rol major în îmbunătățirea competitivității și a productivității economiei europene și ar putea avea, pe termen mediu, un impact mai mare asupra competitivității industriilor neprelucrătoare, cum ar fi agricultura, transporturile, asistența medicală, securitatea și furnizarea de utilități; invită Comisia să promoveze o politică ambițioasă și transsectorială în favoarea inovării în robotică și în inteligența artificială, facilitând integrarea tehnologiilor în lanțurile valorice, dezvoltarea unor modele de afaceri inovatoare și reducerea timpului scurs între inovare și industrializare; invită Comisia să analizeze necesitatea modernizării legislației sau a elaborării unor orientări europene pentru a se asigura o abordare comună în robotică și în domeniul inteligenței artificiale, esențială pentru progresul întreprinderilor în Uniune;
2 constată că unele țări terțe au recunoscut importanța strategică a roboticii și amenință poziția de lider a UE pe piața globală, de exemplu prin preluarea producătorilor din Uniune; invită Comisia să elaboreze o strategie industrială care să abordeze rolul sectoarelor importante din punct de vedere strategic, cum ar fi robotica, și să descrie în ce mod Uniunea poate păstra locurile de muncă, creșterea, know-how-ul și o mare parte a lanțului valoric;
3. subliniază că inovarea în robotică și în inteligența artificială și integrarea acestor tehnologii în economie și societate necesită o infrastructură digitală care să asigure o conectivitate ubicuă; invită Comisia să definească un cadru care să răspundă cerințelor de conectivitate pentru viitorul digital al Uniunii și să se asigure că accesul la rețelele de bandă largă și 5G respectă pe deplin principiul neutralității rețelei;
4. este ferm convins că interoperabilitatea între sisteme, dispozitive și servicii cloud, bazată pe securitate și luarea în considerare a vieții private începând cu momentul conceperii, este esențială pentru ca fluxurile de date în timp real să permită roboților și inteligenței artificiale să devină mai flexibili și mai autonomi; solicită Comisiei să promoveze un mediu deschis, de la standarde deschise și modele inovatoare de acordare a licenței, la platforme deschise și transparență, pentru a evita blocajul în sisteme cu drepturi rezervate, care restrâng interoperabilitatea; subliniază, în plus, că trebuie asigurat un nivel înalt de siguranță, securitate și protecție a datelor folosite în comunicarea oamenilor cu roboții și cu formele de inteligență artificială; prin urmare, invită Comisia și statele membre să integreze principiul securității și cel al protecției vieții private încă de la proiectare în politicile din domeniul roboticii și al inteligenței artificiale, în strategia UE privind securitatea cibernetică și să includă robotica și inteligența artificială în discuțiile grupului consultativ la nivel înalt privind securitatea cibernetică, care va fi înființat de Comisie;
5. observă că accesul la date este esențial pentru inovare în algoritmii de învățare automatizată; invită Comisia să pună în aplicare un cadru și o strategie ambițioasă referitoare la fluxul deschis și liber de date, în special cu inițiativa „flux liber de date”, în conformitate cu legislația privind protecția datelor și cu un drept reformat al proprietății intelectuale; subliniază că inițiativa „flux liber de date” ar trebui să clarifice problemele legate de proprietatea asupra datelor, utilizarea și accesul, care sunt importante pentru dezvoltarea ulterioară și utilizarea tehnologiei roboticii;
6. invită Comisia să își sporească suportul, în cadrul evaluării CFM la jumătatea perioadei, pentru programul SPARC finanțat prin Orizont 2020, să realizeze studii de prognoză, să promoveze inovarea deschisă ca obiectiv strategic și un mediu propice colaborării între instituțiile naționale și europene, comunitatea științifică, organele de standardizare care atrag talente, dar și sectorul privat, între companiile globale, IMM-uri și întreprinderi nou înființate, care sunt esențiale pentru inovare și pentru deschiderea de noi piețe în tehnologia roboticii la scară globală; subliniază rolul pe care îl pot juca parteneriatele public-privat în această privință;
7. subliniază că dezvoltarea roboticii ar trebui să se orienteze spre completarea capacităților umane și nu spre înlocuirea lor; subliniază că creșterea în robotică și în inteligența artificială va automatiza un număr important de locuri de muncă, reducând expunerea umană la condiții dăunătoare și periculoase și va transforma moduri de viață și practici de muncă, impunându-se, prin urmare, o evaluare pe termen lung și măsuri care să asigure că aspectele sociale, de mediu, etice, de răspundere și educație sunt abordate în mod corespunzător; consideră în special că nevoia de competențe digitale, inclusiv programare, trebuie inclusă în toate formele de învățământ și formare, de la primii ani de școală până la învățarea pe tot parcursul vieții;
8. este de opinie că roboții medicali continuă să câștige teren în realizarea de intervenții chirurgicale de înaltă precizie și efectuarea unor proceduri repetitive; consideră că aceștia au potențialul de a îmbunătăți rezultatele măsurilor de reabilitare și oferă sprijin logistic foarte eficace în spitale;
– includerea următoarelor sugestii în anexa la propunerea sa de rezoluție:
9. consideră că orice inițiativă legislativă viitoare privitoare la robotică și inteligența artificială ar trebui să asigure certitudine juridică fără a frâna inovarea în acest domeniu tehnologic cu evoluție rapidă, după consultarea cu o serie de părți interesate relevante și pe baza unui dialog continuu;
10. consideră că, împreună cu inginerii în robotică care sunt utilizatori finali, cu comunitatea de cercetare și cu alte părți interesate, Comisia ar trebui să elaboreze un cod deontologic care să guverneze activitățile de dezvoltare a roboticii și inteligenței artificiale;
11. consideră că recomandările privind licențele ar trebui să respecte libertatea contractuală și să permită existența unor regimuri inovatoare de acordare a licenței; avertizează împotriva introducerii de noi drepturi de proprietate intelectuală în domeniul roboticii și al inteligenței artificiale, care ar putea constitui un obstacol în calea inovării și a schimburilor de experiență;
potrivit unui studiu al MIT în urma unei experiențe comune a producătorilor de autovehicule BMW și Mercedes-Benz;
A. întrucât robotica nu este un domeniu nou; întrucât robotica poate avea și are un rol în transformarea pozitivă a societății noastre; întrucât robotica și inteligența artificială contribuie în mod activ la digitalizarea economiei într-un număr mare de sectoare, precum industria, îngrijirea sănătății, construcțiile și transporturile, și pot conduce la inovare, la reducerea muncii în condiții nocive și la noi modele comerciale, iar Uniunea trebuie să asimileze activ evoluțiile din acest domeniu, care pot favoriza dezvoltarea pieței unice digitale;
B. întrucât, în tot mai multe cazuri, roboții funcționează în apropiere fizică față de oameni, iar piața serviciilor legate de robotică se află în creștere constantă, generând noi avantaje pentru societate însă fără a neglija aspectele siguranței și fiabilității;
C. întrucât, deși robotica aduce avantaje incontestabile, ea riscă să provoace o modificare a pieței muncii și poate impune, prin urmare, necesitatea unei reflecții cu privire la viitorul educației, ocupării forței de muncă și al politicilor sociale;
D. întrucât vânzarea și producția de roboți au crescut în mod semnificativ între 2010 și 2014, această creștere fiind doar în 2014 de 30%, mai ales în sectorul industriei electronice;
E. întrucât transformarea digitală a industriei de producție din UE, care reprezintă 15% din PIB-ul Uniunii, poate avea în 2025 o valoare adăugată potențială de 1,25 mii de miliarde EUR(1), iar adoptarea unor tehnologii autonome și robotizate ar putea contribui la creșterea productivității industriale europene și ar putea conferi Europei un avantaj competitiv major;
F. întrucât învățarea automatizată oferă societății beneficii enorme în domeniul economic și al inovației prin îmbunătățirea considerabilă a capacități de analiză a datelor, dar în același timp dă naștere unor provocări în ceea ce privește asigurarea nediscriminării, respectarea garanțiilor procedurale, accesul la informații și înțelegerea proceselor decizionale;
G. întrucât evoluțiile din domeniul aplicațiilor medicale, cum ar fi implanturile și protezele robotice, determină persoanele care beneficiază de acestea să depindă în mod vital de disponibilitatea serviciilor de întreținere, reparație și perfecționare;
H. întrucât la dezvoltarea oricăror noi prototipuri tehnologice sau de producție trebuie avute în vedere protecția datelor și respectarea proprietății intelectuale;
I. întrucât mai multe state terțe au adoptat orientări și acte legislative adecvate în domeniul roboticii, în vreme ce unele state membre au început și ele să acorde o atenție corespunzătoare acestei chestiuni,
1. subliniază că o abordare la nivelul Uniunii poate facilita dezvoltarea prin faptul că permite să se evite fragmentarea în cadrul pieței interne și subliniază, totodată, importanța principiului recunoașterii reciproce în utilizarea transfrontalieră a roboților și a sistemelor robotizate; reamintește că testarea, certificarea și aprobarea pentru piață ar trebui să fie necesare numai în unul dintre statele membre;
2. subliniază că această abordare trebuie să fie însoțită de o supraveghere efectivă a pieței, precum și de căi legale de atac și instrumente legale care să le permită statelor membre să impună rechemarea produselor și să aplice sancțiuni pentru încălcări;
3. subliniază importanța luării unor măsuri pentru a sprijini întreprinderile mici și mijlocii și întreprinderile noi din domeniul roboticii care creează noi segmente de piață în acest sector sau care utilizează roboții în activitatea lor;
4. încurajează dezvoltarea unei strategii europene ambițioase privind cercetarea și inovarea în domeniul roboticii pentru a valorifica la maximum potențialul acesteia în materie de creștere și ocupare a forței de muncă în Europa;
5. deși este conștient de existența unui număr semnificativ de standarde internaționale care tratează aspecte precum interoperabilitatea și siguranța și care sunt deja aplicate în acest sector, consideră totuși că este necesară armonizarea în mai mare măsură a standardelor din domeniul roboticii și inteligenței artificiale, care ar trebui să facă parte din prioritățile Uniunii în materie de standardizare pentru a stimula inovarea și a garanta un nivel ridicat al protecției consumatorilor; subliniază că este esențial să se dezvolte standarde comune, sigure și riguroase în acest domeniu orientat spre viitor;
6. invită Comisia, în cooperare cu organismele de standardizare europene, să continue să trateze în mod activ cu organismele de standardizare internaționale și să îmbunătățească cooperarea cu partenerii internaționali în vederea îmbunătățirii standardelor din acest domeniu; salută în acest sens instituirea unor comisii tehnice speciale, precum ISO/TC 299 Robotics, al căror obiectiv unic este acela de a elabora standarde în domeniul roboticii;
7. repetă că cea mai mare parte a standardelor sunt elaborate ca răspuns la nevoile identificate de sectorul însuși și încurajează organismele de standardizare europene și internaționale să-și revizuiască constant propriile standarde pentru a le garanta coerența cu aceste nevoi;
8. consideră că atât roboții creați pentru producție, cât și cei creați pentru utilizarea individuală ar trebui să intre sub incidența unor norme privind siguranța produselor și protecția consumatorilor care să prevadă, atunci când este cazul, standarde minime de siguranță și să abordeze problema riscului de accidente care pot surveni ca urmare a interacțiunii roboților cu oamenii sau a funcționării acestora în apropierea oamenilor; consideră că orice politică privind robotica trebuie să trateze chestiunile legate de etică, protecția datelor (inclusiv a datelor părților terțe și a celor cu caracter personal), răspunderea civilă, educație, formare și securitatea cibernetică;
9. subliniază importanța integrării aspectelor de confidențialitate și securitate încă din faza de concepție a roboților și importanța normelor pentru testarea reacțiilor roboților, în vederea protecției consumatorilor;
10. subliniază că, oricare ar fi domeniile în care este propusă utilizarea roboților, este necesar să se pună accentul pe demnitatea ființei umane, mai ales în domeniul asistenței medicale;
11. subliniază că, în domeniul aplicațiilor medicale vitale, precum protezele robotice, trebuie să se asigure un acces continuu și durabil la întreținere, la perfecționare și, în special, la actualizări ale softului menite să rezolve eventuale disfuncțiuni sau vulnerabilități;
12. consideră că politicile de ocupare a forței de muncă, precum și cele educaționale și sociale ale statelor membre ar trebui să țină seama în mai mare măsură de consecințele robotizării; invită Comisia să ajute la elaborarea unui cadru normativ uniform și la intensificarea cooperării dintre statele membre; solicită statelor membre să instituie cadre de formare revizuite pentru a evita o penurie de specialiști în domeniul tehnologiilor informației și comunicațiilor;
13. este conștient de faptul că robotica și tehnologiile din domeniul inteligenței artificiale sunt tot mai mult folosite în vehiculele autonome, precum automobilele autonome și dronele civile; observă că unele state membre adoptă deja sau prevăd să adopte acte legislative anume în acest domeniu, fapt care ar putea conduce la un mozaic de legislații naționale, acest lucru creând obstacole în calea dezvoltării vehiculelor autonome; solicită, prin urmare, ca în UE să existe un cadru normativ unic, care să asigure un echilibru just între interesele utilizatorilor, ale întreprinderilor și ale altor părți interesate și care, în același timp, să evite reglementarea excesivă în domeniul roboticii și al sistemelor robotizate.
14. solicită măsuri de cooperare în materie de reglementare pentru a modifica anumite acorduri internaționale, precum Convenția de la Viena din 8 noiembrie 1968 privind circulația rutieră și Convenția de la Haga din 4 mai 1971 privind accidentele rutiere;
15. consideră că, în ceea ce privește vehiculele autonome, s-ar putea să nu fie necesar să se modifice cadrul juridic privind asigurarea, deoarece practicile și relațiile actuale dintre operatori, producători și asiguratori permit, așa cum s-a întâmplat și în trecut, integrarea noilor tehnologii;
16. subliniază că utilizarea roboticii în cadrul asistenței medicale reprezintă deja o piață în creștere, în special în ceea ce privește procedurile chirurgicale bazate pe telerobotică, domeniu în care Europa ocupă o poziție de lider; solicită Comisiei să asigure condițiile necesare pentru o utilizare sporită a acestor practici;
17. solicită Comisiei să sporească finanțarea acordată studiilor interdisciplinare privind efectele pe care le au asupra societății inteligența artificială și procesele de învățare automată.
STOA, Ethical Aspects of Cyber-Physical Systems, Scientific Foresight Study (Aspecte etice ale sistemelor ciber-fizice, Studiu de prospecțiune științifică), mai 2016, anexa 1, p. 37.