P8_TA(2017)0051

Civielrechtelijke bepalingen over robotica

Resolutie van het Europees Parlement van 16 februari 2017 met aanbevelingen aan de Commissie over civielrechtelijke regels inzake robotica (2015/2103(INL))

(2018/C 252/25)

Het Europees Parlement,

Inleiding

overwegende dat de mensheid nu op de drempel staat van een tijdperk waarin steeds geavanceerdere robots, bots, androïden en andere vormen van kunstmatige intelligentie (artificial intelligence — AI) klaarstaan om een nieuwe industriële revolutie te ontketenen, die wellicht geen enkel segment van de samenleving onberoerd zal laten, en dat het dan ook van essentieel belang is dat de wetgevende macht alle juridische en ethische gevolgen en effecten hiervan in aanmerking neemt, zonder de innovatie te beknotten;

overwegende dat er een algemeen aanvaarde definitie van robot en AI moet komen die flexibel is en innovatie niet in de weg staat;

overwegende dat de verkoop van robots tussen 2010 en 2014 gemiddeld met 17 % per jaar gestegen is en in 2014 zelfs met 29 %, de hoogste toename ooit in één jaar, waarbij de leveranciers van auto-onderdelen en de elektra/elektronica-industrie de belangrijkste drijvende kracht achter de groei waren; overwegende dat de jaarlijkse octrooiaanvragen voor robottechnologie de afgelopen tien jaar verdrievoudigd zijn;

overwegende dat de vergrijzing, die het gevolg is van de gestegen levensverwachting dankzij betere levensomstandigheden en de vorderingen van de moderne geneeskunde, behoort tot de grootste politieke, maatschappelijke en economische uitdagingen van de 21e eeuw voor Europa; overwegende dat in 2025 meer dan 20 % van de Europeanen 65 of ouder zal zijn, en dat vooral het aantal personen van 80 jaar of ouder snel toeneemt, waardoor het evenwicht tussen de generaties in onze samenlevingen fundamenteel zal veranderen; overwegende dat het in het belang van de samenleving is dat ouderen zo lang mogelijk gezond en actief blijven;

overwegende dat een breed gebruik van robots niet automatisch tot het vervangen van banen hoeft te leiden, maar dat laaggekwalificeerd werk in arbeidsintensieve sectoren wellicht eerder geautomatiseerd zal worden; overwegende dat deze tendens productieprocessen zou kunnen terugbrengen naar de Unie; overwegende dat uit onderzoek is gebleken dat de werkgelegenheid aanzienlijk sneller groei in sectoren waar meer gebruik wordt gemaakt van computers; overwegende dat de automatisering van banen het potentieel heeft om mensen te verlossen van monotoon werk en hen in staat stelt zich op creatievere en zinvollere taken te richten; overwegende dat automatisering regering verplicht te investeren in onderwijs en andere hervormingen om het soort vaardigheden dat de werknemers van morgen nodig hebben te verbeteren;

overwegende dat gezien de toenemende verdeeldheid in de samenleving en een krimpende middenklasse, in aanmerking moet worden genomen dat de ontwikkeling van robotica kan leiden tot een hoge concentratie van rijkdom en invloed in de handen van een minderheid;

overwegende dat de tendens in de richting van automatisering van degenen die betrokken zijn bij de ontwikkeling en het in de handel brengen van AI-toepassingen vereist dat zij van meet af aan veiligheid en ethiek laten meewegen, en dat zij bereid zijn om wettelijke aansprakelijkheid te aanvaarden voor de kwaliteit van de door hen geproduceerde technologie;

overwegende dat de ontwikkelingen in robotica en AI op zo'n manier kunnen en moeten worden gestuurd dat zij de waardigheid, autonomie en het recht op zelfbeschikking van het individu beschermen, met name op het gebied van zorg en gezelschap en in de context van medische toepassingen, het „repareren” of „verbeteren” van mensen;

overwegende dat verdere ontwikkeling en groter gebruik van geautomatiseerde en algoritmische besluitvorming onherroepelijk invloed heeft op de keuzes die een privépersoon (een bedrijf of een internetgebruiker) en een bestuurlijke, gerechtelijke of andere publieke autoriteit maakt bij het nemen van een besluit op het gebied van consumenten-, ondernemings- of administratieve zaken; overwegende dat er veiligheidsmaatregelen en de mogelijkheid van controle en verificatie door mensen moeten worden ingebouwd in het proces van geautomatiseerde en algoritmische besluitvorming;

overwegende dat verschillende buitenlandse rechtsgebieden, zoals de VS, Japan, China en Zuid-Korea, regelgeving met betrekking tot robotica en AI overwegen en tot op zekere hoogte reeds hebben aangenomen, en overwegende dat sommige lidstaten eveneens zijn gaan nadenken over het eventueel opstellen van wettelijke normen of het uitvoeren van wetswijzigingen om rekening te kunnen houden met opkomende toepassingen van deze technologieën;

Algemene beginselen

overwegende dat aan deze resolutie een handvest over robotica is gehecht, dat is opgesteld met hulp van de afdeling Wetenschappelijke Toekomstverkenningen (STOA) van het directoraat-generaal Parlementaire Onderzoeksdiensten, en waarin een gedragscode voor robotica-ingenieurs, een code voor commissies voor onderzoeksethiek en modellicenties voor ontwerpers en gebruikers worden voorgesteld;

overwegende dat het gezien het stadium dat in de ontwikkeling van robotica en AI is bereikt, verstandig zou zijn om te beginnen met vraagstukken betreffende de civielrechtelijke aansprakelijkheid;

Aansprakelijkheid

overwegende dat dankzij de indrukwekkende technologische vooruitgang van de afgelopen tien jaar de huidige robots niet alleen in staat zijn handelingen uit te voeren die typisch en uitsluitend menselijk waren, maar dat zij door de ontwikkeling van bepaalde autonome en cognitieve kenmerken — bijvoorbeeld de vaardigheid om lering te trekken uit ervaringen en quasionafhankelijke beslissingen te nemen — steeds meer gaan lijken op actoren die met hun omgeving samenwerken en in staat zijn deze significant te wijzigen; overwegende dat de wettelijke verantwoordelijkheid voor schadelijke handelingen van robots in dit verband een essentieel vraagstuk wordt;

overwegende dat de autonomie van een robot kan worden gedefinieerd als de vaardigheid om beslissingen te nemen en deze in de buitenwereld uit te voeren, onafhankelijk van externe controle of invloed; overwegende dat deze autonomie van zuiver technologische aard is en dat de mate ervan afhangt van de vraag hoe geavanceerd de interactie van de robot met zijn omgeving volgens het ontwerp moet zijn;

overwegende dat hoe autonomer robots zijn, hoe minder zij kunnen worden beschouwd als eenvoudige werktuigen die door andere actoren (zoals de fabrikant, de bediener, de eigenaar, de gebruiker) worden gehanteerd; overwegende dat dit weer tot de vraag leidt of de gewone aansprakelijkheidsregels volstaan dan wel of er nieuwe beginselen en regels nodig zijn om duidelijkheid te scheppen omtrent de wettelijke aansprakelijkheid van de verschillende actoren als het gaat om verantwoordelijkheid voor de handelingen en omissies van robots waar de oorzaak niet kan worden teruggevoerd op een specifieke menselijke actor en of de handelingen of omissies van robots die tot schade hebben geleid, hadden kunnen worden voorkomen;

overwegende dat de autonomie van robots uiteindelijk tot de vraag leidt als wat zij in het licht van de bestaande wettelijke categorieën moeten worden beschouwd of dat er een nieuwe categorie moet worden gecreëerd, met eigen specifieke kenmerken en implicaties;

overwegende dat het huidige rechtskader niet voorziet dat robots aansprakelijk kunnen worden gesteld voor handelen of nalaten waardoor schade ten aanzien van derden wordt veroorzaakt; overwegende dat de bestaande regels inzake aansprakelijkheid gelden voor gevallen waar de oorzaak van het handelen of nalaten van een robot teruggevoerd kan worden op een specifieke menselijke actor, zoals de fabrikant, de bediener, de eigenaar of de gebruiker, en waar die actor het schadelijke optreden van de robot had kunnen voorzien en voorkomen; overwegende dat fabrikanten, bedieners, eigenaren of gebruikers bovendien strikt aansprakelijk gehouden kunnen worden voor het handelen of nalaten van een robot;

overwegende dat productaansprakelijkheid — als de fabrikant van een product aansprakelijk is voor het slecht functioneren ervan — en de regels inzake aansprakelijkheid voor schadelijke handelingen — als de gebruik van een product aansprakelijk is voor gedrag dat tot schade leidt — volgens het huidige rechtskader ook van toepassing zijn op schade die door robots of AI is veroorzaakt;

overwegende dat in het scenario waar robots autonome beslissingen kunnen nemen, de traditionele regels niet zullen volstaan om wettelijke aansprakelijkheid voor door een robot veroorzaakte schade te laten gelden, aangezien zij het niet mogelijk maken om de partij te identificeren die verantwoordelijk is voor het bieden van compensatie en om deze partij te verplichten de veroorzaakte schade te vergoeden;

overwegende dat de tekortkomingen van het huidige rechtskader tevens duidelijk zichtbaar zijn op het gebied van contractuele aansprakelijkheid, daar machines die zijn ontworpen om hun partners te kiezen, over contractuele voorwaarden te onderhandelen, overeenkomsten te sluiten en te beslissen of en hoe deze moeten worden uitgevoerd, de traditionele regels onuitvoerbaar maken; overwegende dat dit aantoont dat er nieuwe, efficiënte en eigentijdse regels nodig zijn die moeten aansluiten bij de technologische ontwikkelingen en de innovatie van de afgelopen tijd en het gebruik daarvan op de markt;

overwegende dat wat buitencontractuele aansprakelijkheid betreft Richtlijn 85/374/EEG uitsluitend van toepassing is in geval van schade die is veroorzaakt door fabricagefouten van een robot en mits de benadeelde persoon de concrete schade, de fout in het product en het causaal verband tussen schade en fout kan aantonen, en dat daarom het kader van strikte of algemene aansprakelijkheid wellicht niet volstaat;

Algemene beginselen voor de ontwikkeling van robotica en kunstmatige intelligentie voor civiel gebruik

is van mening dat er waar relevant en nodig voor specifieke categorieën robots een uitvoerig Uniesysteem voor de registratie van geavanceerde robots op de interne markt van de Unie moet worden ingevoerd, en verzoekt de Commissie criteria vast te stellen voor de classificatie van robots die geregistreerd zouden moeten worden; spoort de Commissie in dit verband aan na te gaan of het wenselijk is dat het registratiesysteem en het register worden beheerd door een daartoe aangewezen Unieagentschap voor robotica en kunstmatige intelligentie;

benadrukt dat de ontwikkeling van robottechnologieën gericht moet zijn op het aanvullen van menselijke vaardigheden en niet op het vervangen van mensen; acht het van essentieel belang om bij de ontwikkeling van robotica en AI te waarborgen dat de mens onder alle omstandigheden de controle over intelligente machines houdt; is van mening dat speciale aandacht moet worden besteed aan het feit dat er een gevoelsrelatie kan ontstaan tussen mens en robot — vooral bij kwetsbare groepen, zoals kinderen, ouderen en personen met een beperking — en wijst op de vragen die rijzen in verband met de verstrekkende emotionele of fysieke gevolgen die deze gevoelsrelatie kan hebben voor de menselijke gebruiker;

beklemtoont hoe belangrijk het is dat er ondersteuning wordt geboden aan kmo's en startende ondernemingen in de roboticasector die in deze sector nieuwe marktsegmenten creëren of robots gebruiken;

Onderzoek en innovatie

onderstreept dat veel robottoepassingen zich nog steeds in het experimentele stadium bevinden; juicht het toe dat steeds meer onderzoeksprojecten door de lidstaten en de Unie worden gefinancierd; acht het van essentieel belang dat de Unie samen met de lidstaten met behulp van overheidsfinanciering een leidende positie in het onderzoek naar robotica en AI blijft bekleden; verzoekt de Commissie en de lidstaten de financiële instrumenten voor onderzoeksprojecten op het gebied van robotica en ict te uit te breiden, met inbegrip van publiek-private partnerschappen, en in hun onderzoeksbeleid de beginselen van open wetenschap en verantwoordelijke ethische innovatie toe te passen; benadrukt dat er voldoende middelen moeten worden uitgetrokken voor onderzoek naar oplossingen voor de maatschappelijke, ethische, juridische en economische vragen die voortvloeien uit de technologische ontwikkeling en de toepassingen daarvan;

verzoekt de Commissie en de lidstaten onderzoeksprogramma's te bevorderen, onderzoek naar de langetermijnrisico's en kansen van technologieën voor robotica en AI te stimuleren en aan te moedigen dat er zo spoedig mogelijk een gestructureerde publieke dialoog op gang komt over de gevolgen van de ontwikkeling van dergelijke technologieën in kwestie; verzoekt de Commissie om de tussentijdse herziening van het MFK aan te grijpen om meer steun te verlenen aan het in het kader van Horizon 2020 gefinancierde programma SPARC; verzoekt de Commissie en de lidstaten alle krachten te bundelen om voor deze technologieën een soepele overgang te waarborgen van onderzoek naar commercialisering en gebruik op de markt nadat er passende veiligheidsbeoordelingen zijn uitgevoerd overeenkomstig het voorzorgsbeginsel;

benadrukt dat innovatie op het gebied van robotica en AI en integratie van robotica- en AI-technologieën in de economie en de maatschappij alleen mogelijk zijn met behulp van een digitale infrastructuur die voorziet in universele connectiviteit; verzoekt de Commissie om met het oog op de digitale toekomst van de Unie een kader op te zetten dat tegemoetkomt aan de vereisten op het gebied van connectiviteit, en om ervoor te zorgen dat de toegang tot breedband- en 5G-netwerken volledig in overeenstemming is met het beginsel van netneutraliteit;

is er vast van overtuigd dat interoperabiliteit tussen systemen, instrumenten en clouddiensten, ontworpen met het oog op veiligheid en privacy, essentieel is voor de realtime uitwisseling van gegevens, waardoor robots en AI flexibeler en autonomer kunnen worden; verzoekt de Commissie om een open omgeving (zoals open normen, innovatieve licentiemodellen, open platforms en transparantie) te bevorderen, om gebondenheid aan gesloten systemen die de interoperabiliteit beperken te voorkomen;

Ethische beginselen

is van mening dat het bestaande rechtskader van de Unie moet worden bijgewerkt en waar nodig aangevuld met leidende ethische beginselen die de complexiteit weerspiegelen van de materie robotica en de vele sociale, medische en bio-ethische implicaties ervan; is van mening dat er een duidelijk, strikt en efficiënt richtinggevend ethisch kader voor ontwikkeling, ontwerp, productie, gebruik en wijziging van robots nodig is als aanvulling op de juridische aanbevelingen in het verslag en het bestaande nationale en Unie-acquis; stelt in de bijlage bij de resolutie een kader voor in de vorm van een handvest, bestaand uit een gedragscode voor robotica-ingenieurs, een code voor commissies voor onderzoeksethiek die roboticaprotocollen beoordelen, en modellicenties voor ontwerpers en gebruikers;

vestigt de aandacht op het beginsel van transparantie, namelijk dat het altijd mogelijk moet zijn om de redenering te volgen die ten grondslag ligt aan een met behulp van AI genomen beslissing die een grote invloed kan hebben op het leven van een of meer personen; is van oordeel dat het altijd mogelijk moet zijn de berekeningen van een AI-systeem terug te brengen tot een vorm die voor mensen begrijpelijk is; vindt dat geavanceerde robots moeten worden uitgerust met een „black box” die de gegevens registreert van elke handeling die de machine uitvoert, met inbegrip van de redeneringen die tot zijn beslissingen hebben bijgedragen;

wijst erop dat het richtinggevend ethisch kader zou moeten stoelen op de beginselen van de plicht tot weldoen, geen schade berokkenen, autonomie en rechtvaardigheid, op de beginselen die zijn neergelegd in artikel 2 van het Verdrag betreffende de Europese Unie en in het Handvest van de grondrechten, zoals menselijke waardigheid, gelijkheid, gerechtigheid en billijkheid, non-discriminatie, geïnformeerde toestemming, bescherming van privacy, gezinsleven en gegevens, alsmede andere onderliggende beginselen en waarden van de Uniewetgeving, zoals niet-stigmatisering, transparantie, autonomie, individuele en maatschappelijke verantwoordelijkheid, en op bestaande ethische benaderingen en codes;

wijst erop dat bijzondere aandacht moet worden besteed aan robots die een aanzienlijke bedreiging voor de vertrouwelijkheid vormen omdat zij in een traditioneel beschermde privé-omgeving worden ingezet en omdat zij in staat zijn persoonlijke en gevoelige gegevens te verzamelen en te verzenden;

Een Europees agentschap

is van mening dat er nauwere samenwerking tussen de lidstaten en de Commissie nodig is om te waarborgen dat er coherente grensoverschrijdende regels in de Unie komen die de samenwerking tussen Europese sectoren aanmoedigen en het mogelijk maken in de hele Unie robots in te zetten die voldoen aan de vereiste veiligheidsniveaus en aan de ethische beginselen die in de Uniewetgeving zijn neergelegd;

verzoekt de Commissie de aanwijzing te overwegen van een Europees agentschap voor robotica en kunstmatige intelligentie teneinde te voorzien in de technische, ethische en regelgevende expertise die nodig is om de betrokken overheidsactoren op het niveau van zowel de Unie als van de lidstaten te ondersteunen bij hun inspanningen om te zorgen voor een tijdige, ethisch verantwoorde en goed gefundeerde reactie op de nieuwe mogelijkheden en uitdagingen, met name die van grensoverschrijdende aard, die voortvloeien uit de technologische ontwikkeling van robotica, bijvoorbeeld in de vervoerssector;

is van mening dat het potentieel en de problemen van het gebruik van robotica en de huidige investeringsdynamiek rechtvaardigen dat het Europese agentschap wordt voorzien van een passende begroting en personeel dat bestaat uit regelgevers en externe technische en ethiekexperts die zich sectoroverschrijdend en multidisciplinair bezighouden met het toezicht op op robotica gebaseerde toepassingen, het afbakenen van normen voor optimale praktijken en, waar nodig, het aanbevelen van voorschriften, het definiëren van nieuwe beginselen en het behandelen van eventuele vraagstukken van consumentenbescherming en systeemuitdagingen; verzoekt de Commissie (en het Europese agentschap, als dit wordt opgericht) jaarlijks aan het Europees Parlement verslag uit te brengen over de meest recente ontwikkelingen op het gebied van robotica en de maatregelen die getroffen moeten worden;

Intellectuele-eigendomsrechten en gegevensverkeer

benadrukt dat het recht op eerbiediging van het privéleven en van bescherming van persoonsgegevens, zoals neergelegd in de artikelen 7 en 8 van het Handvest en in artikel 16 VWEU, van toepassing is op alle gebieden van robotica en dat het rechtskader van de Unie op het gebied van gegevensbescherming ten volle moet worden nageleefd; verzoekt in dit verband binnen het kader van de tenuitvoerlegging van de algemene verordening gegevensbescherming om opheldering van de regels en criteria voor het gebruik van camera's en sensoren in robots; verzoekt de Commissie ervoor te zorgen dat de beginselen inzake gegevensbescherming, zoals gegevensbescherming door ontwerp en gegevensbescherming door standaardinstellingen, gegevensminimalisatie en doelbinding, alsmede transparante controlemechanismen voor datasubjecten en passende beroepsmogelijkheden overeenkomstig de Uniewetgeving inzake gegevensbescherming worden nageleefd en dat passende aanbevelingen en normen worden uitgewerkt en in het Uniebeleid worden opgenomen;

benadrukt dat vrij verkeer van gegevens een noodzakelijke voorwaarde is voor de digitale economie en voor de ontwikkeling in de robotica- en AI-sector; onderstreept dat een hoog veiligheidsniveau bij robotsystemen, onder meer wat hun interne datasystemen en gegevensstromen betreft, van cruciaal belang is om een adequaat gebruik van robotica en AI te waarborgen; benadrukt dat netwerken van onderling verbonden robots en AI moeten worden beschermd tegen eventuele inbreuken op de beveiliging; benadrukt dat een hoog veiligheidsniveau en strenge gegevensbescherming in combinatie met voldoende aandacht voor privacy in de communicatie tussen mensen, robots en AI van fundamenteel belang zijn; wijst erop dat ontwerpers van robotica en AI gehouden zijn producten zodanig te ontwikkelen dat zij veilig en betrouwbaar zijn en geschikt voor het beoogde doel; verzoekt de Commissie en de lidstaten de ontwikkeling van de benodigde technologie, onder meer op het gebied van beveiliging door ontwerp, te steunen en te bevorderen;

Normalisatie, veiligheid en zekerheid

wijst erop dat het vraagstuk van normalisatie en het beschikbaar maken van interoperabiliteit van doorslaggevend belang is voor de toekomstige concurrentie op het gebied van AI- en robottechnologie; verzoekt de Commissie te blijven werken aan de internationale harmonisering van technische normen, in het bijzonder in samenwerking met de Europese normalisatie-organisaties en de Internationale Normalisatie-organisatie, teneinde innovatie aan te moedigen, fragmentatie van de interne markt te voorkomen en voor een hoog niveau van productveiligheid en consumentenbescherming te zorgen, waar nodig met inbegrip van minimumveiligheidseisen op de werkplek; wijst op het belang van legale reverse engineering en open normen, teneinde maximale waarde uit innovatie te halen en ervoor te zorgen dat robots met elkaar kunnen communiceren; is in dit opzicht verheugd over de oprichting van speciale technische commissies, zoals ISO/TC 299 Robotica, die zich uitsluitend bezighouden met het opstellen van normen voor robotica;

benadrukt dat het testen van robots in concrete situaties essentieel is voor het opsporen en beoordelen van de risico's die zij mogelijk meebrengen, alsmede van hun technologische ontwikkeling na de zuiver experimentele laboratoriumfase; onderstreept in dit verband dat het testen van robots in concrete situaties, met name in steden en op wegen, een groot aantal vragen opwerpt alsmede belemmeringen die de ontwikkeling van die testfases afremmen, en dat er een doeltreffende strategie en een toezichtmechanisme vereist zijn; verzoekt de Commissie voor alle lidstaten geldende, uniforme criteria vast te stellen die door afzonderlijke lidstaten moeten worden gebruikt om na te gaan in welke situaties experimenten met robots geoorloofd zijn, overeenkomstig het voorzorgsbeginsel;

Autonome vervoermiddelen

a) Autonome voertuigen

is van mening dat de voertuigsector dringend efficiënte uniale en internationale regels nodig heeft om de grensoverschrijdende ontwikkeling van geautomatiseerde en autonome voertuigen te waarborgen, zodat hun economische potentieel ten volle kan worden benut en voordeel kan worden gehaald uit de positieve effecten van technologische trends; benadrukt dat gefragmenteerde regelgeving de toepassing van autonome vervoerssystemen zou belemmeren en het Europese concurrentievermogen in het gedrang zou brengen;

is van mening dat de overgang naar autonome voertuigen gevolgen zal hebben op de volgende terreinen: civielrechtelijke aansprakelijkheid (aansprakelijkheid en verzekering), verkeersveiligheid, alle thema's in verband met het milieu (zoals energie-efficiëntie, gebruik van hernieuwbare technologieën en energiebronnen) en met gegevens (toegang tot gegevens, bescherming van gegevens, privacy en delen van gegevens), kwesties met betrekking tot ict-infrastructuur (hoge intensiteit van efficiënte en betrouwbare communicatie) en werkgelegenheid (meer of minder banen, opleiding van vrachtwagenchauffeurs voor het besturen van geautomatiseerde voertuigen); beklemtoont dat er aanzienlijk zal moeten worden geïnvesteerd in weg-, energie- en ict-infrastructuur; verzoekt de Commissie bovengenoemde aspecten in aanmerking te nemen bij haar werkzaamheden in verband met autonome voertuigen;

b) Drones (RPAS)

constateert dat er op het gebied van dronetechnologie positieve stappen zijn gezet, met name op het gebied van opsporing en redding; benadrukt het belang van een Uniekader voor op afstand bestuurde luchtvaartuigen (drones of RPAS) om de veiligheid, zekerheid en privacy van de burgers van de Unie te beschermen, en verzoekt de Commissie om een follow-up van de aanbevelingen in de resolutie van het Europees Parlement van 29 oktober 2015 over veilig gebruik van systemen van op afstand bestuurde luchtvaartuigen (RPAS), algemeen bekend als onbemande luchtvaartuigen (UAV), op het gebied van burgerluchtvaart ( 5 ) ; verzoekt de Commissie met klem met evaluaties te komen van de veiligheidskwesties die verband houden met het grootschalige gebruik van drones; verzoekt de Commissie te onderzoeken of er een noodzaak bestaat tot invoering van de verplichting om RPAS uit te rusten met een volg- en identificatiesysteem met behulp waarvan in real-time de positie van RPAS kan worden bepaald; herinnert eraan dat de maatregelen van Verordening (EG) nr. 216/2008 van het Europees Parlement en de Raad ( 6 ) moeten zorgen voor homogeniteit en veiligheid op het gebied van onbemande luchtvaartuigen;

Zorgrobots

onderstreept dat het onderzoek naar en de ontwikkeling van robots in de ouderenzorg mettertijd gebruikelijker en goedkoper zijn geworden, wat geleid heeft tot producten met meer functionaliteiten en een vergroot draagvlak onder consumenten; wijst op de brede waaier aan toepassingen van deze technologieën op het vlak van preventie, ondersteuning, toezicht, stimulering en gezelschap voor ouderen en personen met een beperking, evenals personen die lijden aan dementie, cognitieve problemen of geheugenverlies;

wijst erop dat menselijk contact een van de meest fundamentele aspecten van menselijke zorg is; is van mening dat vervanging van de menselijke factor door robots de zorgpraktijk zou kunnen ontmenselijken, maar erkent anderzijds dat robots geautomatiseerde zorgtaken zouden kunnen uitvoeren en het werk van zorgpersoneel zou kunnen verlichten, waardoor de zorg door mensen intensiever en het revalidatieproces gerichter wordt en medisch en zorgpersoneel meer tijd heeft voor diagnose en beter geplande behandelingsopties; benadrukt dat, ondanks het potentieel van robotica om de mobiliteit en sociale integratie van personen met een handicap en ouderen te verbeteren, menselijke hulpverleners nog steeds nodig zullen zijn, en een belangrijke en niet volledig vervangbare bron van sociale interactie zullen blijven;

Medische robots

benadrukt het belang van passende educatie, opleiding en voorbereiding van gezondheidswerkers zoals artsen en zorgpersoneel om ervoor te zorgen dat de grootst mogelijke vakkundigheid gewaarborgd is, en om de gezondheid van de patiënt te beschermen; onderstreept dat er minimale beroepseisen moeten worden gedefinieerd waaraan chirurgen moeten voldoen voordat zij mogen opereren en hierbij chirurgische robots mogen gebruiken; acht het van fundamenteel belang dat het principe van gecontroleerde autonomie van robots wordt geëerbiedigd, op basis waarvan de initiële programmering van de behandeling en de eindkeuze met betrekking tot de uitvoering altijd bij een menselijke chirurg ligt; benadrukt het grote belang van opleiding voor gebruikers zodat zij zichzelf vertrouwd kunnen maken met de technologische vereisten op dit gebied; wijst op de groeiende trend in de richting van zelfdiagnose met gebruik van een mobiele robot en als gevolg daarvan de noodzaak om artsen op te leiden in de omgang met zelfgediagnosticeerde gevallen; is van oordeel dat het gebruik van dergelijke technologieën de arts-patiëntrelatie niet mag bagatelliseren of schaden, maar de arts moet helpen bij de diagnose en/of de behandeling van de patiënt, met het doel de kans op menselijke fouten te verminderen en de kwaliteit van leven en de levensverwachting te verbeteren;

is van mening dat medische robots een steeds grotere rol zullen gaan spelen op het gebied van microchirurgie en de uitvoering van repetitieve handelingen en dat zij het potentieel hebben om de resultaten op het gebied van revalidatie te verbeteren en uiterst effectieve logistieke steun in ziekenhuizen te bieden; merkt op dat medische robot ook het potentieel hebben om de kosten voor gezondheidszorg te doen dalen door medisch personeel in staat te stellen hun aandacht te verleggen van behandeling naar preventie en door meer financiële middelen vrij te maken voor een betere aanpassing aan de uiteenlopende behoeften van patiënten, voor bijscholing van gezondheidswerkers en voor onderzoek;

roept de Commissie op om vóór de datum waarop Verordening (EU) 2017/745 betreffende medische hulpmiddelen van toepassing wordt te waarborgen dat de bestaande proefprocedures voor nieuwe medische robottoestellen veilig zijn, met name in het geval van hulpmiddelen die in het menselijk lichaam worden geïmplanteerd;

Repareren en verbeteren van mensen

wijst op de grote vooruitgang door en het toekomstige potentieel van robotica op het gebied van herstel en vervanging van beschadigde organen en lichaamsfuncties, maar ook op de complexe vraagstukken die zich met name bij de mogelijkheden voor „verbetering” van het lichaam voordoen, daar medische robots en met name cyberfysieke systemen (CPS) onze opvatting van een gezond mensenlichaam zouden kunnen wijzigen doordat zij rechtstreeks op het lichaam kunnen worden gedragen of in het lichaam worden geïmplanteerd; onderstreept het belang van onverwijlde instelling van naar behoren bezette commissies voor robotethiek in ziekenhuizen en andere instellingen voor gezondheidszorg die zich buigen over ongewone, gecompliceerde ethische vraagstukken betreffende de zorg voor en de behandeling van patiënten; verzoekt de Commissie en de lidstaten richtsnoeren te ontwikkelen om dergelijke commissies bij hun oprichting en taak te ondersteunen;

beveelt de oprichting aan van onafhankelijke betrouwbare entiteiten die beschikken over de middelen om diensten te verlenen aan dragers van vitale geavanceerde medische apparatuur, met name onderhoud, reparatie en verbeteringen, met inbegrip van software-updates, vooral wanneer degelijke diensten niet langer door de oorspronkelijke leverancier worden aangeboden; stelt voor een verplichting voor fabrikanten in te voeren om deze onafhankelijke betrouwbare entiteiten te voorzien van uitgebreide ontwerpinstructies en de broncode, vergelijkbaar met het wettelijk depot voor publicaties bij een nationale bibliotheek;

wijst op de risico's van hacken, uitschakelen of wissen van het geheugen van de in het menselijk lichaam geïntegreerde cyberfysieke systemen, aangezien hierdoor de gezondheid en in extreme gevallen zelfs het leven van mensen in gevaar kan komen, en benadrukt dan ook dat de bescherming van zulke systemen de voornaamste prioriteit moet zijn;

Onderwijs en werkgelegenheid

vestigt de aandacht op de verwachting van de Commissie dat Europa rond 2020 tot 825 000 ict-professionals tekort zal komen en dat voor 90 % van de banen ten minste digitale basiskennis zal zijn vereist; is ingenomen met het initiatief van de Commissie om een routekaart in te voeren voor het mogelijke gebruik en de herziening van een kader voor digitale vaardigheden en beschrijvingen van digitale vaardigheden voor lerenden op alle niveaus, en verzoekt de Commissie significante steun te bieden voor de ontwikkeling van digitale vaardigheden in alle leeftijdsgroepen en ongeacht de beroepsstatus, als eerste stap naar een betere afstemming van vraag en aanbod op de arbeidsmarkt; benadrukt dat de groei op het gebied van robotica de lidstaten ertoe noopt flexibelere opleidings- en onderwijssystemen te ontwikkelen om te waarborgen dat de leerstrategieën aansluiten bij de behoeften van de roboteconomie;

is van mening dat de digitale sector, vrouwen en de Europese economie ervan zouden profiteren als meer jonge vrouwen belangstelling zouden krijgen voor digitale loopbanen en meer vrouwen in digitale banen terecht zouden komen; roept de Commissie en de lidstaten op met initiatieven te komen om vrouwen in de ict-sector te steunen en hun e-vaardigheden te verbeteren;

roept de Commissie op middellangetermijn- en langetermijntrends op de arbeidsmarkt nauwlettender te gaan analyseren en in het oog te houden, met bijzondere aandacht voor het ontstaan, de verplaatsing en het verdwijnen van banen in de verschillende sectoren of kwalificatiegebieden, zodat duidelijk wordt waar banen worden gecreëerd en waar banen verloren gaan als gevolg van het toegenomen gebruik van robots;

wijst erop hoe belangrijk het is om veranderingen in de maatschappij te voorzien, gezien het effect dat het ontwikkelen en inzetten van robotica en AI kan hebben; verzoekt de Commissie een analyse uit te voeren van de verschillende denkbare scenario's en de gevolgen daarvan voor de draagkracht van de socialezekerheidsstelsels van de lidstaten;;

benadrukt het belang van flexibele vaardigheden en van sociale, creatieve en digitale vaardigheden in het onderwijs; is er zeker van dat er naast scholen die academische kennis overdragen een leven lang leren verwezenlijkt moet worden via een leven lang actief zijn;

wijst op het grote potentieel van robotica voor het verbeteren van de veiligheid op het werk door een aantal gevaarlijke of schadelijke taken van mensen naar robots over te dragen, maar wijst er ook op dat robotsystemen nieuwe risico's kunnen meebrengen als gevolg van de toenemende interactie van mens en robot op de werkplek; onderstreept in dit verband het belang van strikte, toekomstgerichte regels voor de interactie tussen mens en robot teneinde de gezondheid en veiligheid alsmede de naleving van de grondrechten op de werkplek te waarborgen;

Milieugevolgen

merkt op dat de ontwikkeling van robotica en AI zodanig moet verlopen dat de milieugevolgen klein gehouden worden door doeltreffend energieverbruik, energie-efficiëntie door bevordering van het gebruik van hernieuwbare energie en hergebruik van schaarse stoffen, en minimaal afvalproductie, zoals elektrisch en elektronisch afval, alsmede repareerbaarheid; moedigt de Commissie daarom aan de beginselen van de circulaire economie op te nemen in het roboticabeleid van de Unie; merkt voorts op dat het gebruik van robotsystemen ook positieve gevolgen voor het milieu zal hebben, in het bijzonder op het gebied van landbouw en voedselvoorziening en vervoer, met name dankzij de minder grote machines en een lager gebruik van meststoffen, energie en water alsmede door precisielandbouw en route-optimalisering;

Aansprakelijkheid

is van mening dat de civielrechtelijke aansprakelijkheid voor door robots veroorzaakte schade een fundamentele kwestie is die op Unieniveau moet worden geanalyseerd en aangepakt, zodat er in de hele Europese Unie eenzelfde mate van efficiency, transparantie en consistentie bij de toepassing van rechtszekerheid tot stand komt, zowel voor burgers en consumenten als voor bedrijven;

verzoekt de Commissie op grond van artikel 114 van het VWEU een voorstel in te dienen voor een wetgevingsinstrument voor juridische vraagstukken met betrekking tot de voor de komende 10 à 15 jaar te verwachten ontwikkeling en het gebruik van robotica en AI, gecombineerd met niet-wetgevingsinstrumenten zoals richtsnoeren en gedragscodes zoals genoemd in de aanbevelingen in de bijlage;

is van mening dat het toekomstige wetgevingsinstrument, ongeacht welke juridische oplossing dit aandraagt voor de civielrechtelijke aansprakelijkheid voor door robots veroorzaakte schade anders dan voor schade aan eigendom, het type of de mate van te vergoeden schade op geen enkele manier mag beperken dan wel de vormen van compensatie beperken die de benadeelde partij worden aangeboden, zuiver op grond van het feit dat de schade is veroorzaakt door een niet-menselijke actor;

is van mening dat het toekomstige wetgevingsinstrument gebaseerd moet zijn op een grondige evaluatie door de Commissie van de vraag of moet worden uitgegaan van strikte aansprakelijkheid dan wel van risicobeheersing;

merkt tevens op dat bij strikte aansprakelijkheid uitsluitend bewijs nodig is dat er schade is ontstaan en dat er een causaal verband is tussen het schadelijke functioneren van de robot en de schade die de benadeelde partij heeft geleden;

merkt op dat de benadering van risicobeheersing niet gericht is op de persoon die „nalatig heeft gehandeld” als individueel aansprakelijk, maar op de persoon die onder bepaalde omstandigheden in staat is risico's tot een minimum te beperken en om te gaan met negatieve gevolgen;

is van mening dat zodra de partijen zijn geïdentificeerd die de uiteindelijk verantwoordelijkheid dragen, hun aansprakelijkheid evenredig zou moeten zijn met het concrete niveau van de aan de robot gegeven instructies en de mate van autonomie van de robot, hetgeen betekent dat hoe groter het leervermogen of de autonomie van een robot is, en hoe langer de „opleiding” van een robot heeft geduurd, hoe groter de verantwoordelijkheid van zijn „opleider” zou moeten zijn; merkt met name op dat bij het identificeren van de persoon aan wie het schade veroorzakende gedrag van een robot toe te schrijven is, de vaardigheden die voortvloeien uit de „opleiding” die de robot heeft gekregen, niet mogen worden verwisseld met de vaardigheden die strikt toe te schrijven zijn aan zijn zelflerend vermogen; merkt op dat in elk geval in het huidige stadium de verantwoordelijkheid bij de mens moet liggen en niet bij de robot;

wijst erop dat een mogelijke oplossing voor de complexe vraag wie verantwoordelijk is voor schade die veroorzaakt wordt door steeds autonomere robots gelegen is in een verplichte verzekering, zoals bijvoorbeeld reeds voor voertuigen geldt; stelt evenwel vast dat anders dan het verzekeringssysteem voor het wegvervoer, waar de verzekering menselijke handelingen en fouten dekt, een verzekeringssysteem voor robotica rekening zou moeten houden met alle potentiële verantwoordelijkheden in de keten;

is van mening dat een dergelijk verzekeringssysteem net als bij autoverzekeringen gefinancierd zou kunnen worden uit een fonds, om te waarborgen dat er ook schadevergoedingen kunnen worden uitgekeerd als er geen verzekeringsdekking is; verzoekt de verzekeringssector nieuwe producten en soorten aanbiedingen te ontwikkelen die aansluiten bij de vooruitgang op het gebied van robotica;

op de lange termijn een specifieke rechtspersoonlijkheid creëren voor robots, zodat in elk geval de meest geavanceerde autonome robots de status kunnen krijgen van elektronisch persoon die verantwoordelijk is voor het vergoeden van veroorzaakte schade, en eventueel uitgaan van elektronische persoonlijkheid als robots autonome beslissingen treffen of anderszins onafhankelijk reageren met derden;

waarborgen dat het verband tussen een robot en het bijbehorende fonds zichtbaar wordt door middel van een individueel registratienummer in een specifiek Unieregister, waardoor eenieder die met de robot in aanraking komt, informatie kan verkrijgen over de aard van het fonds, de grenzen van de aansprakelijkheid in geval van schade, de namen en functies van de bijdragende partijen en alle overige relevante details;

besluiten om een algemeen fonds voor alle slimme autonome robots op te richten dan wel een individueel fonds voor elke categorie robots, en besluiten of de contributie eenmalig betaald dient te worden als de robot op de markt wordt gebracht, of dat er gedurende de levensduur van de robot periodieke contributies moeten worden betaald;

voor de fabrikant, programmeur, eigenaar of gebruiker slechts in beperkte aansprakelijkheid voorzien als zij bijdragen aan een compensatiefonds, en als zij gezamenlijk een verzekering afsluiten om compensatie te garanderen als een robot schade veroorzaakt;

Internationale aspecten

merkt op dat de huidige algemene internationale privaatrechtelijke regels inzake verkeersongevallen die in de Unie van toepassing zijn, weliswaar niet dringend in wezenlijke mate moeten worden aangepast om rekening te houden met de ontwikkeling van autonome voertuigen, maar dat vereenvoudiging van het huidige duale systeem voor het vaststellen van het toepasselijke recht (gebaseerd op Verordening (EG) nr. 864/2007 van het Europees Parlement en de Raad ( 7 ) en op het Haags Verdrag van 4 mei 1971 inzake de wet welke van toepassing is op verkeersongevallen op de weg) de rechtszekerheid ten goede zou komen en de mogelijkheden voor forumshopping zou beperken;

stelt vast dat moet worden nagedacht over wijzigingen op internationale overeenkomsten zoals het Verdrag van Wenen van 8 november 1968 betreffende het wegverkeer en het Haags Verdrag inzake de wet welke van toepassing is op verkeersongevallen;

wijst erop dat de beperkingen en voorwaarden van Verordening (EG) nr. 428/2009 van het Europees Parlement en de Raad ( 8 ) over de handel in producten voor tweeërlei gebruik — goederen, software en technologie die zowel voor civiele als militaire doeleinden kunnen worden gebruikt en/of kunnen bijdragen tot de verspreiding van massavernietigingswapens — ook voor roboticatoepassingen zouden moeten gelden;

Overige aspecten

verzoekt overeenkomstig artikel 225 VWEU de Commissie op basis van artikel 114 VWEU een voorstel in te dienen voor een richtlijn inzake civielrechtelijke regels voor robotica, aan de hand van de aanbevelingen in de bijlage bij dit verslag;

is van mening dat het gevraagde voorstel financiële gevolgen zal hebben als er een nieuw Europees agentschap in het leven wordt geroepen;

o

o o

(1) Richtlijn 85/374/EEG van de Raad van 25 juli 1985 betreffende de onderlinge aanpassing van de wettelijke en bestuursrechtelijke bepalingen der lidstaten inzake de aansprakelijkheid voor producten met gebreken (PB L 210 van 7.8.1985, blz. 29).

(2) Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG (algemene verordening gegevensbescherming) (PB L 119 van 4.5.2016, blz. 1).

(3) 1) Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt. 2) Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet. 3) Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet (zie Runaround, I. Asimov, 1943) en 0) Een robot mag geen schade toebrengen aan de mensheid, of toelaten dat de mensheid schade toegebracht wordt door zijn nalatigheid.

(4) Zie de Schuman-verklaring (1950): „Europa zal niet in één keer tot stand komen, noch volgens één enkel plan: het zal opgebouwd worden door concrete resultaten die allereerst een feitelijke solidariteit tot stand brengen.”

(5) Aangenomen teksten, P8_TA(2015)0390.

(6) Verordening (EG) nr. 216/2008 van het Europees Parlement en de Raad van 20 februari 2008 tot vaststelling van gemeenschappelijke regels op het gebied van burgerluchtvaart en tot oprichting van een Europees Agentschap voor de veiligheid van de luchtvaart, houdende intrekking van Richtlijn 91/670/EEG, Verordening (EG) nr. 1592/2002 en Richtlijn 2004/36/EG (PB L 79 van 19.3.2008, blz. 1).

(7) Verordening (EG) nr. 864/2007 van het Europees Parlement en de Raad van 11 juli 2007 inzake het recht dat van toepassing is op niet-contractuele verbintenissen (Rome II), PB L 199 van 31.7.2007, blz. 40.

(8) Verordening (EG) nr. 428/2009 van de Raad van 5 mei 2009 tot instelling van een communautaire regeling voor controle op de uitvoer, de overbrenging, de tussenhandel en de doorvoer van producten voor tweeërlei gebruik (PB L 134 van 29.5.2009, blz. 1).

BIJLAGE BIJ DE RESOLUTIE:

AANBEVELINGEN BETREFFENDE DE INHOUD VAN HET VERLANGDE VOORSTEL

Definitie en classificatie van „slimme robots”

Er dient een gemeenschappelijke Europese definitie van slimme autonome robots te worden vastgesteld die waar nodig definities van de subcategorieën daarvan omvat en de volgende kenmerken in aanmerking neemt:

— het vermogen om autonomie te verwerven via sensoren en/of het uitwisselen van gegevens met zijn omgeving (interconnectiviteit) en het analyseren van die gegevens;

— het vermogen om van ervaringen en interactie te leren;

— de vorm van de fysieke drager van de robot;

— het vermogen om zijn gedrag en handelen aan zijn omgeving aan te passen.

Registratie van slimme robots

Ten behoeve van de traceerbaarheid en om de uitvoering van verdere aanbevelingen te vergemakkelijken dient er een systeem voor de registratie van geavanceerde robots te worden ingevoerd, op basis van criteria voor de classificatie van robots. Het registratiesysteem en het register zouden voor de hele Unie moeten gelden en de interne markt moeten afdekken, en zouden kunnen worden beheerd door een daartoe aangewezen Unieagentschap voor robotica en kunstmatige intelligentie, vooropgesteld dat dit in het leven wordt geroepen.

Civielrechtelijke aansprakelijkheid

Elke juridische oplossing voor de aansprakelijkheid van robots en van AI, anders dan voor schade aan eigendom, mag op geen enkele manier het type of de mate van te verkrijgen schadevergoeding beperken dan wel de vormen van compensatie beperken die de benadeelde partij worden aangeboden, zuiver op grond van het feit dat de schade is veroorzaakt door een niet-menselijke actor.

Het toekomstige wetgevingsinstrument zou gebaseerd moet zijn op een grondige evaluatie door de Commissie van de vraag of moet worden uitgegaan van strikte aansprakelijkheid dan wel van risicobeheersing;

Er dient een verplichte verzekeringsregeling te worden ingevoerd, die gebaseerd zou zijn op de plicht van de producent om een verzekering af te sluiten voor de autonome robots die hij produceert.

Het verzekeringssysteem dient te worden gefinancierd uit een fonds, om te waarborgen dat er ook schadevergoedingen kunnen worden uitgekeerd als er geen verzekeringsdekking is.

Beleidsbeslissingen over de regels inzake civielrechtelijke aansprakelijkheid die van toepassing zijn op robots en kunstmatige intelligentie dienen te worden getroffen na raadpleging van een pan-Europees onderzoeks- en ontwikkelingsproject op het gebied van robotica en neurowetenschappen, met wetenschappers en deskundigen die in staat zijn alle met dit onderwerp verband houdende risico's en consequenties te beoordelen;

Interoperabiliteit, toegang tot codes en intellectuele-eigendomsrechten

De interoperabiliteit van via een netwerk verbonden autonome robots die met elkaar reageren moet worden gewaarborgd. Toegang tot de broncode, inputgegevens en constructiegegevens dienen waar nodig beschikbaar te zijn, zodat door slimme robots veroorzaakte ongevallen en schade kunnen worden onderzocht en hun continue inzet, beschikbaarheid, betrouwbaarheid en veiligheid kunnen worden gewaarborgd.

Handvest over robotica

De Commissie zou bij het voorstellen van wetgeving inzake robotica de beginselen in aanmerking moeten nemen die in het hieronder opgenomen Handvest over robotica worden genoemd.

HANDVEST OVER ROBOTICA

De voorgestelde ethiekcode op het gebied van robotica zal de basis leggen voor identificatie van, toezicht op en naleving van fundamentele ethische beginselen vanaf de fase van ontwerp en ontwikkeling.

Het kader, dat op basis van een pan-Europees onderzoeks- en ontwikkelingsproject op het gebied van robotica en neurowetenschappen moet worden opgezet, moet goed doordacht zijn zodat er individuele aanpassingen mogelijk zijn om te beoordelen of een bepaald gedrag in een bepaalde situatie goed of fout is en beslissingen te nemen aan de hand van een van tevoren vastgestelde ranglijst van waarden.

De code mag geen vervanging vormen voor de noodzaak om alle grote juridische vragen op dit terrein aan te pakken, maar dient een aanvullende rol te spelen. Een dergelijke code maakt het eenvoudiger robotica in ethisch opzicht te classificeren, verantwoorde innovatie op dit terrein te steunen en in te spelen op de vragen van het publiek.

Bijzondere aandacht verdienen de fasen van onderzoek en ontwikkeling in het desbetreffende technologische traject (ontwerpproces, ethische beoordeling, audits, enz.). Er moet worden gestreefd naar aandacht voor naleving van ethische normen door onderzoekers, technici, gebruikers en ontwerpers, en daarnaast moet er een procedure worden ingevoerd voor het zoeken naar oplossingen voor ethische dilemma's die zich voordoen, zodat deze systemen op een ethisch verantwoorde wijze kunnen functioneren.

ETHISCHE CODE VOOR ROBOTICA-INGENIEURS

PREAMBULE

De gedragscode schrijft voor dat onderzoekers en ontwerpers verantwoord moeten handelen en de noodzaak om de waardigheid, privacy en veiligheid van mensen te eerbiedigen, onder alle omstandigheden in aanmerking moeten nemen.

De code dringt aan op nauwe samenwerking tussen alle vakgebieden om te waarborgen dat onderzoek op het gebied van robotica in de Europese Unie op een veilige, ethisch verantwoorde en doeltreffende manier wordt uitgevoerd.

De gedragscode geldt voor alle onderzoeks- en ontwikkelingsactiviteiten op het gebied van robotica.

De gedragscode is vrijwillig en biedt een reeks algemene beginselen en richtsnoeren voor de handelingen van alle belanghebbenden.

Instanties voor de financiering van onderzoek naar robotica, onderzoeksorganisaties, onderzoekers en ethiekcommissies worden aangemoedigd om in een zo vroeg mogelijk stadium de toekomstige gevolgen van de technologieën of voorwerpen die worden onderzocht, te overdenken en een cultuur van verantwoordelijkheid te ontwikkelen ten aanzien van de uitdagingen en kansen die zich kunnen voordoen.

Publieke en particuliere instellingen die robotica-onderzoek financieren dienen te verlangen dat samen met elk ingediend voorstel tot financiering van robotica-onderzoek een risicobeoordeling wordt uitgevoerd en voorgelegd. Een dergelijke code moet de mens en niet de robot als verantwoordelijk beschouwen.

Onderzoekers op het gebied van robotica dienen zich tot streng ethisch en professioneel gedrag te verplichten en de volgende beginselen te hanteren:

Plicht tot weldoen – robots moeten het belang van de mens dienen;

Geen schade berokkenen – de doctrine van „geen schade berokkenen” die voorschrijft dat robots mensen geen schade mogen toebrengen;

Autonomie – het vermogen om een geïnformeerde, vrije beslissing te nemen over de wijze waarop met robots wordt omgegaan;

Rechtvaardigheid – eerlijke verdeling van de voordelen van robotica en in het bijzonder betaalbaarheid van robots voor de huishouding en de gezondheidszorg.

Grondrechten

Onderzoeksactiviteiten op het gebied van robotica moeten de grondrechten respecteren en qua opzet, uitvoering, verspreiding en gebruik gericht zijn op het welzijn en de zelfbeschikking van het individu en van de maatschappij in het algemeen. De menselijke waardigheid en autonomie — in zowel fysiek als geestelijk opzicht — moeten altijd vooropstaan.

Voorzorg

Robotica-onderzoeksactiviteiten moeten worden verricht overeenkomstig het voorzorgsbeginsel, er dient te worden geanticipeerd op potentiële veiligheidseffecten van resultaten, er dienen passende voorzorgsmaatregelen te worden genomen die evenredig zijn met het beschermingsniveau en de vooruitgang moet worden gestimuleerd ten voordele van de maatschappij en het milieu.

Inclusiviteit

Robotica-ingenieurs staan garant voor transparantie en respect voor het legitieme recht op toegang tot informatie voor alle belanghebbenden. Inclusiviteit zorgt voor participatie in besluitvormingsprocessen voor alle belanghebbenden die betrokken zijn bij of te maken hebben met onderzoeksactiviteiten op het gebied van robotica.

Verantwoordingsplicht

Robotica-ingenieurs blijven een verantwoordingsplicht houden voor de maatschappelijke, milieu- en gezondheidsimpact die robotica voor de huidige en toekomstige generaties kunnen meebrengen.

Veiligheid

Ontwerpers van robots dienen het fysieke welzijn, de veiligheid, de gezondheid en de rechten van mensen te respecteren. Robotica-ingenieurs moeten het menselijk welzijn boven alles stellen, de mensenrechten eerbiedigen en factoren die een gevaar kunnen betekenen voor het publiek of het milieu, onverwijld bekend maken.

Omkeerbaarheid

Omkeerbaarheid als noodzakelijke voorwaarde voor controleerbaarheid is een fundamenteel concept bij het programmeren van robots om veilig en betrouwbaar te functioneren. Een omkeerbaar model laat de robot weten welke handelingen omkeerbaar zijn en hoe hij dit moet doen. Het vermogen om de laatste handeling of serie handelingen ongedaan te maken stelt gebruikers in staat ongewenste handelingen ongedaan te maken en terug te gaan naar het punt waarop hun werk correct was.

Privacy

Het recht op privacy moet onder alle omstandigheden worden geëerbiedigd. Robotica-ingenieurs dienen te waarborgen dat privé-informatie veilig wordt opgeslagen en alleen in passende gevallen wordt gebruikt. Daarnaast dienen robotica-ingenieurs te waarborgen dat individuele personen niet identificeerbaar zijn, behalve in uitzonderlijke gevallen en dan uitsluitend met duidelijke en ondubbelzinnige geïnformeerde toestemming van de betrokkenen. Alvorens interactie tussen mens en machine plaatsvindt moet de geïnformeerde toestemming van de mens worden verkregen. In dit opzicht hebben robotica-ingenieurs de verantwoordelijkheid om procedures te ontwikkelen voor geldige instemming, vertrouwelijkheid, anonimiteit, rechtvaardige behandeling en recht op eerlijke rechtsbedeling. Ontwerpers dienen te voldoen aan elk verzoek om aanverwante gegevens te vernietigen en uit gegevensverzamelingen te verwijderen.

Maximalisering van voordelen en minimalisering van schade

Onderzoekers dienen in alle fasen van het onderzoek, van de eerste aanzet tot de verspreiding van resultaten, te streven naar maximalisering van de voordelen van hun werk. Schade aan onderzoeksdeelnemers/menselijke subjecten/deelnemers aan experimenten, tests of studies moet worden voorkomen. Als risico's een onvermijdelijk en integraal deel van het onderzoek vormen, moeten er solide risicobeoordelingen en beheersprotocollen worden ontwikkeld en moeten deze worden nageleefd. Normaal gesproken mag het risico op schade niet groter zijn dan die zich welke in het dagelijkse bestaan voordoet, d.w.z. personen mogen niet aan grotere of bijkomende risico's worden blootgesteld dan die welke zij in hun normale bestaan tegenkomen. De werking van een roboticasysteem dient altijd te zijn gebaseerd op een proces van grondige risicobeoordeling, dat moet berusten op de beginselen van voorzorg en evenredigheid.

CODE VOOR COMMISSIES VOOR ONDERZOEKSETHIEK

Beginselen

Onafhankelijkheid

Het proces van ethische beoordeling dient los te staan van het onderzoek zelf. Dit beginsel staat voor de noodzaak om belangenconflicten tussen onderzoekers en degenen die het ethisch protocol beoordelen, en tussen beoordelaars en organisatiestructuren te voorkomen.

Competentie

Het proces voor ethische beoordeling dient te worden uitgevoerd door beoordelaars met de passende deskundigheid, waarbij rekening wordt gehouden met de noodzaak van zorgvuldige beoordeling van de leden en de specifiek op ethiek gerichte competentie van ethiekcommissies.

Transparantie en verantwoordingsplicht

Over het beoordelingsproces dient verantwoording te kunnen worden afgelegd en het moet getoetst kunnen worden. Ethiekcommissies moeten hun verantwoordelijkheid erkennen en adequaat geplaatst zijn binnen de organisatiestructuur die de werkzaamheden en procedures van de ethiekcommissie transparantie verleent, teneinde normen te handhaven en te evalueren.

De rol van een ethiekcommissie voor het onderzoek

Een ethiekcommissie is normaal gesproken verantwoordelijk voor de beoordeling van elk onderzoek waarbij mensen zijn betrokken en dat wordt uitgevoerd door personen die in dienst zijn bij of worden betaald door de instelling in kwestie; zij moet waarborgen dat de ethische beoordeling op onafhankelijke en competente wijze gebeurt en op een passend tijdstip plaatsvindt; zij moet de waardigheid, de rechten en het welzijn van de onderzoeksdeelnemers beschermen; zij moet naar de veiligheid van de onderzoeker(s) kijken; zij moet de legitieme belangen van andere belanghebbenden in aanmerking nemen; zij moet een onderbouwd oordeel uitspreken over de wetenschappelijke waarde van voorstellen; en zij moet onderbouwde aanbevelingen aan de onderzoeker doen als het voorstel in een bepaald opzicht lacunes vertoont.

Samenstelling van een ethiekcommissie voor het onderzoek

Een ethiekcommissie voor het onderzoek dient normaal gesproken multidisciplinair te zijn, uit zowel mannen als vrouwen te bestaan, en uit leden te bestaan die over brede ervaring en deskundigheid op het gebied van roboticaonderzoek beschikken. Het benoemingsmechanisme dient te waarborgen dat de leden van de commissie een adequate mix van wetenschappelijke deskundigheid, een achtergrond van filosofie, recht of ethiek en lekenstandpunten hebben, en dat de commissie tenminste bestaat uit een lid dat over specialistische kennis van ethiek beschikt, en verder uit gebruikers van specialistische gezondheids-, onderwijs- of sociale diensten waar deze het voorwerp van onderzoek vormen, en individuele personen met specifieke methodologische deskundigheid die relevant is voor het onderzoek in kwestie; en de commissie moet zodanig zijn samengesteld dat belangenconflicten worden vermeden.

Toezicht

Elke onderzoeksorganisatie dient adequate procedures vast te stellen om tot het einde toe toezicht te houden op de uitvoering van onderzoek dat in ethisch opzicht is goedgekeurd, en om een doorlopende beoordeling te waarborgen als de opzet van het onderzoek in de loop der tijd mogelijke wijzigingen meebrengt die eventueel moeten worden aangepakt. Dit toezicht dient evenredig te zijn met de aard en mate van risico waarmee het onderzoek gepaard gaat. Indien een ethiekcommissie van mening is dat een toezichtsverslag ernstige vragen doet rijzen over de ethische kant van een onderzoek, dient zij een volledig, gedetailleerd verslag van het onderzoek op te vragen voor een grondige ethische beoordeling. Als de commissie van mening is dat een onderzoek op onethische wijze wordt uitgevoerd, dient te worden overwogen de goedkeuring in te trekken en het onderzoek op te schorten of af te breken.

ONTWERPERSLICENTIE

— Houd rekening met de Europese waarden van waardigheid, autonomie en zelfbeschikking, vrijheid en rechtvaardigheid voor, tijdens en na het proces van ontwerp, ontwikkeling en presentatie van dergelijke technologieën, met inbegrip van de noodzaak om (kwetsbare) gebruikers niet te schaden, te benadelen, te bedriegen of uit te buiten.

— Introduceer betrouwbare beginselen inzake systeemontwerp in alle aspecten van het functioneren van een robot, zowel wat betreft het ontwerp van hardware en software als gegevensverwerking „on-platform” en „off-platform”, met het oog op de veiligheid.

— Introduceer ingebouwde privacy om te waarborgen dat privé-informatie veilig wordt bewaard en alleen in passende situaties wordt gebruikt.

— Integreer duidelijke onderbrekingsmechanismen (kill switches) die passen bij de doelstellingen van het ontwerp.

— Zorg ervoor dat een robot functioneert op een manier die past bij de lokale, nationale en internationale ethische en juridische normen.

— Zorg ervoor dat de besluitvormingsstappen van de robot gereconstrueerd en getraceerd kunnen worden.

— Zorg ervoor dat maximale transparantie vereist is voor de programmering van roboticasystemen alsmede voorspelbaarheid van het gedrag van de robot.

— Analyseer de voorspelbaarheid van een mens-robotsysteem door rekening te houden met onzekerheid bij interpretatie en handelen evenals mogelijke fouten van de robot of de mens.

— Ontwikkel traceermechanismen in het ontwerpstadium van de robot. Deze vergemakkelijken — zij het misschien slechts in beperkte mate — het verantwoorden en toelichten van het gedrag van een robot, op de verschillende niveaus voor deskundigen, exploitanten en gebruikers.

— Stel ontwerp- en evaluatieprotocollen op en evalueer in samenwerking met potentiële gebruikers en belanghebbenden de voordelen en risico's van robotica, met inbegrip van de cognitieve, psychologische en ecologische voordelen.

— Zorg ervoor de robots als zodanig kunnen worden geïdentificeerd als zij samenwerken met mensen.

— Zorg voor de veiligheid en gezondheid van degenen die met robots werken en in aanraking komen, daar robots als product moeten worden ontworpen met behulp van processen die hun veiligheid en zekerheid garanderen. Robotica-ingenieurs moeten het welzijn van de mens vooropstellen en de mensenrechten eerbiedigen en mogen geen robots inzetten zonder de veiligheid, doeltreffendheid en omkeerbaarheid van de werking van het systeem te kunnen garanderen.

— Zorg ervoor dat er een positief advies is van een commissie voor onderzoeksethiek alvorens een robot in een reële omgeving te testen of mensen bij de ontwerp- en ontwikkelingsprocedures ervan te betrekken.

GEBRUIKERSLICENTIE

— De gebruiker moet een robot kunnen gebruiken zonder risico op fysieke of geestelijke schade.

— De gebruiker heeft het recht van een robot te verwachten dat deze elke taak uitvoert waarvoor hij uitdrukkelijk is ontworpen.

— De gebruiker dient te beseffen dat een robot perceptuele, cognitieve en handelingsbeperkingen kan hebben.

— De gebruiker dient rekening te houden met menselijke tekortkomingen, zowel in fysiek als in geestelijk opzicht, en de emotionele behoeften van mensen.

— De gebruiker dient rekening te houden met de privacyrechten van mensen, met inbegrip van de uitschakeling van camera's tijdens intieme handelingen.

— De gebruiker mag geen persoonlijke informatie verzamelen, gebruiken of onthullen zonder de uitdrukkelijke instemming van de persoon in kwestie.

— De gebruiker mag een robot niet gebruiken voor handelingen die in strijd zijn met ethische of juridische beginselen en normen.