Advies van het Europees Economisch en Sociaal Comité over de digitale revolutie in het licht van de behoeften en rechten van burgers

(initiatiefadvies)

(2019/C 190/03)

Rapporteur: Ulrich SAMM

Besluit van de voltallige vergadering 12.7.2018 Rechtsgrondslag Artikel 29, lid 2, van het reglement van orde Initiatiefadvies Bevoegde afdeling Vervoer, Energie, Infrastructuur en Informatiemaatschappij Goedkeuring door de afdeling 11.2.2019 Goedkeuring door de voltallige vergadering 20.2.2019 Zitting nr. 541 Stemuitslag (voor/tegen/onthoudingen) 129/2/1

1. Conclusies en aanbevelingen

1.1. De huidige digitale revolutie is in staat onze samenleving, economie en werkplek fundamenteel te veranderen en langetermijnvoordelen te bieden op het gebied van zowel economische groei als levenskwaliteit. Ze heeft een impact op alle sectoren en verandert de wijze waarop we leven, werken en communiceren. Het EESC heeft duidelijk zijn standpunt te kennen gegeven dat deze — door de mens gegenereerde — transformatie voor iedereen voordelen moet opleveren. Het is dan ook ingenomen met alle politieke en maatschappelijke acties die de Europese burgers ten goede komen. Dit advies gaat vooral over de behoeften en zorgen van burgers, of ze nu werknemers, werkgevers of in het algemeen consumenten zijn, en brengt de gebieden in kaart waarbij de betrokkenheid van het maatschappelijk middenveld van cruciaal belang is. We kunnen hiervan alleen een succesverhaal maken als we ook proactief gestalte geven aan deze digitale transitie.

1.2. De voortgang van de digitalisering, in het bijzonder bij de invoering van nieuwe digitale producten en diensten, verloopt soms zeer snel (zoals in het geval van smartphones), maar kan op bepaalde gebieden ook traag verlopen als het publiek en de samenleving in het algemeen de technologie niet zomaar aanvaarden. Dit is bijvoorbeeld het geval wanneer deze invloed heeft op de menselijke autonomie, verantwoordelijkheid, veiligheid, waardigheid en privacy .

1.3. Digitalisering biedt een schat aan nieuwe mogelijkheden waardoor mensen als nooit tevoren keuzes kunnen maken met het oog op een beter leven. Hoe meer digitalisering ons leven beheerst, hoe meer we echter ook kunnen worden gemanipuleerd. Dit kan onze autonomie ondermijnen, bijv. bij het besturen van voertuigen, het kiezen van voedsel, de zorg voor onze gezondheid, het verwarmen van onze woningen, roken, drinken, het beheer van onze financiën en nog zoveel meer. Het EESC zou graag zien dat transparante regels worden ontwikkeld, afgestemd en toegepast op deze snel veranderende technologieën. Goede overtuigende technologie gaat gepaard met opleiding en niet met manipulatie, en is in overeenstemming met het beginsel van de vrije keuze, zodat de menselijke autonomie wordt gewaarborgd.

1.4. Het EESC neemt een duidelijk standpunt in m.b.t. de vraag in welke mate het ethisch aanvaardbaar is om het maken van keuzes (met morele implicaties) te delegeren aan op kunstmatige intelligentie gebaseerde systemen: geautomatiseerde systemen moeten, ongeacht hun complexiteit, volgens het „human in command”-beginsel functioneren. Hierbij zijn het enkel mensen die een eindbeslissing nemen en die de verantwoordelijkheid daarvoor dragen.

1.5. Daar de automatisering van huishoudens toeneemt ontstaan er ook meer toegangspunten voor hackers. Consumenten moeten over deze risico’s worden geïnformeerd en er moet ondersteuning komen voor veiligheidsmaatregelen , in het bijzonder wanneer hackers de controle over slimme toestellen trachten te verkrijgen. Het EESC roept de EU op om de bestaande veiligheidsvoorschriften te herzien en strikte veiligheidsregels op te stellen, afgestemd op de nieuwe technologieën die zich ontwikkelen voor de bescherming van burgers in hun woningen.

1.6. Het EESC is ingenomen met de invoering van meer digitale technologie in voertuigen ter verbetering van de verkeersveiligheid , maar is ook bezorgd over het trage tempo van deze verbeteringen. Om de transitie naar meer geautomatiseerd rijden te versnellen zou het graag zien dat de EU voorziet in stimulansen die een oplossing zouden kunnen bieden voor de hoge kosten (er moeten nieuwe voertuigen worden gekocht) en de ontoereikende aanvaarding van rijhulpsystemen (wegens de complexiteit ervan en een gebrek aan opleiding). Het EESC is van mening dat er een Europese strategie moet komen om ons wegennet te veranderen en aan te passen zodat volledig autonome en 100 % veilige voertuigen een succes kunnen worden.

1.7. Het EESC dringt aan op een aanpassing en herziening van de algemene verordening gegevensbescherming (AVG) in het licht van de snel evoluerende digitale technologie. Met name nieuwe technologieën voor gezichtsherkenning brengen onze privacy in gevaar. Aangezien deze technologie goedkoper en voor iedereen toegankelijk wordt, kan dit tot een situatie leiden waarbij het onmogelijk wordt om anoniem over straat te lopen of te winkelen. Privacy en autonomie worden nog meer bedreigd als deze technologieën worden gebruikt voor profilerings- en scoringsystemen. Het EESC benadrukt dat mensen ook in de publieke ruimte recht hebben op privacy. Het dringt er bij de Commissie op aan de AVG en aanverwante regelgeving regelmatig te herzien, afhankelijk van de vraag hoe snel deze technologieën veranderen.

1.8. De gewone consument die niet over professionele digitale vaardigheden beschikt, heeft sterke ondersteuning nodig bij het gebruik van complexe digitale systemen, of het nu gaat om huishoudelijke apparaten of digitale platforms. Handleidingen zijn soms erg lang en vaak wordt onbewust toestemming gegeven om bepaalde gegevens te gebruiken. Transparantie alleen volstaat niet volgens het EESC; in de hele EU moet een en ander voor de consument eenvoudiger worden gemaakt en zijn standaardprocedures geboden.

1.9. Digitale platformen kunnen hun gebruikers gemakkelijk volgen met eenvoudige hulpmiddelen. Dit betekent dat de AVG voor de bescherming van de privacy niet volstaat als met opzet en zonder medeweten van de betrokkenen misbruik wordt gemaakt van hun gegevens. Privacy kan enkel worden gewaarborgd door de toegang tot gevoelige gegevens tot een beperkt aantal bevoegde personen te beperken . Veiligheidsmaatregelen moeten volgens de hoogste en meest betrouwbare normen worden ontwikkeld, en regelmatig aan controles door onafhankelijke EU-organen worden onderworpen.

1.10. Het EESC is verontrust over het feit dat biometrie tot onjuiste indeling en stigmatisering kan leiden door mensen automatisch in een bepaalde categorie (van bijv. terrorist, misdadiger of onbetrouwbaar individu) in te delen. Systemen die personen automatisch identificeren en als verdacht aanmerken, mogen nooit zonder nauwe menselijke interactie en grondige controle worden gebruikt.

1.11. Er wordt uitgekeken naar het gebruik van robotica in de gezondheidssector, maar robots zijn apparaten die niet in staat zijn om de empathische vaardigheden en de wederkerigheid van menselijke zorgrelaties na te bootsen. Als er geen randvoorwaarden worden opgelegd voor het gebruik van robots, kunnen deze de menselijke waardigheid ondermijnen. Zorgrobots mogen daarom enkel worden gebruikt voor zorgtaken die geen emotionele, intieme of persoonlijke betrokkenheid vereisen.

1.12. Wanneer nieuwe automatiseringssystemen in industrie, handel of de dienstensector worden ingevoerd, beveelt het EESC aan om objectieve wetenschappelijke methoden te gebruiken om de interactie tussen mens en machine te optimaliseren en te evalueren. Met de wetenschappelijke methode van cognitieve ergonomie kunnen de mentale vereisten bij het omgaan met nieuwe technische hulpsystemen objectief worden beoordeeld. Hierbij worden verschillende onderzoeksdisciplines, zoals psychologie en ergonomie, gecombineerd om gebruikersinterfaces te evalueren. Het EESC is ervan overtuigd dat digitalisering op lange termijn slechts succesvol kan zijn wanneer de mens centraal staat bij het ontwerp ervan.

1.13. Het EESC zou graag zien dat een evaluatie wordt gemaakt van de verschillen in regionale ontwikkeling alsook van de omvang van eventuele sociale ongelijkheden en de mogelijke impact daarvan op de integriteit van de EU ten gevolge van ongelijke toegang tot nieuwe digitale technologieën en een gebrek aan vaardigheden.

2. Inleiding

2.1. Digitaal Europa heeft vastgesteld, waarin ze haar voornemen beklemtoont om van Europa een prominente speler op het gebied van digitalisering te maken en zijn economische kracht en concurrentievermogen wereldwijd te versterken. Het programma heeft tot doel een eengemaakte digitale markt tot stand te brengen en de digitale transformatie voor alle burgers in Europa in goede banen te leiden. In eerdere adviezen ( 1 ) toonde het EESC zich ingenomen met het feit dat de Europese Commissie het programmaheeft vastgesteld, waarin ze haar voornemen beklemtoont om van Europa een prominente speler op het gebied van digitalisering te maken en zijn economische kracht en concurrentievermogen wereldwijd te versterken. Het programma heeft tot doel een eengemaakte digitale markt tot stand te brengen en de digitale transformatie voor alle burgers in Europa in goede banen te leiden.

2.2. digitale revolutie heeft de samenleving veranderd en zal dit in de toekomst nog meer doen. Ze heeft gevolgen voor de economie en de werkplek, en biedt langetermijnvoordelen op het gebied van zowel economische groei als levenskwaliteit. Ze laat zich gevoelen in alle sectoren en verandert de wijze waarop we leven, werken en communiceren. Het EESC heeft duidelijk zijn standpunt burgers , of ze nu werknemers, werkgevers of in het algemeen consumenten zijn, en brengt de gebieden in kaart waarbij de betrokkenheid van het maatschappelijk middenveld van cruciaal belang is om de digitale transitie proactief vorm te geven en er een succesverhaal van te maken. De huidigeheeft de samenleving veranderd en zal dit in de toekomst nog meer doen. Ze heeft gevolgen voor de economie en de werkplek, en biedt langetermijnvoordelen op het gebied van zowel economische groei als levenskwaliteit. Ze laat zich gevoelen in alle sectoren en verandert de wijze waarop we leven, werken en communiceren. Het EESC heeft duidelijk zijn standpunt ( 2 ) te kennen gegeven dat deze — door mensen gegenereerde — transformatie voor iedereen voordelen moet opleveren. Het is dan ook ingenomen met alle politieke en maatschappelijke acties die de Europese burgers ten goede komen. Dit advies gaat vooral over de behoeften en zorgen van, of ze nu werknemers, werkgevers of in het algemeen consumenten zijn, en brengt de gebieden in kaart waarbij de betrokkenheid van het maatschappelijk middenveld van cruciaal belang is om de digitale transitie proactief vorm te geven en er een succesverhaal van te maken.

2.3. De voortgang van de digitalisering, in het bijzonder bij de invoering van nieuwe digitale producten en diensten, verloopt soms zeer snel (zoals in het geval van smartphones), maar kan op bepaalde gebieden ook traag verlopen als het publiek en de samenleving in het algemeen de technologie niet zomaar aanvaarden. Dit is bijvoorbeeld het geval wanneer deze invloed heeft op de menselijke autonomie, verantwoordelijkheid, veiligheid, waardigheid en privacy . De analyse in dit advies is deels gebaseerd op een publicatie van Royakkers et al., Ethics Inf Technol (2018).

2.4. De ontwikkeling van nieuwe digitale toepassingen wordt bevorderd door veel enthousiastelingen uit het bedrijfsleven, de onderzoekswereld en universiteiten, en niet alleen door, zoals veel mensen denken, internetreuzen zoals Google, Apple, Facebook, Amazon of Microsoft. Hoewel dit enthousiasme door veel mensen in de samenleving wordt gedeeld, is er ook een aanzienlijke minderheid die sceptisch of bang is, wegens de bedreiging van privacy, autonomie, veiligheid enz. of misschien ook een gebrek aan kennis en een fundamentele angst voor de toekomst. De digitale transitie draait niet alleen om technologie. De behoeften, wensen en rechten van de mensen en de samenleving moeten ook een beslissende invloed hebben op verdere technologische ontwikkelingen. Om een geslaagde digitale transitie tot stand te brengen, is het betrekken van mensen bij het ontwerp en het besluitvormingsproces een duidelijke uitdaging voor iedereen, en voor het maatschappelijk middenveld in het bijzonder. Dit betekent tevens dat toegang tot veilige en betaalbare internetverbindingen gegarandeerd moet zijn wil men discriminatie en uitsluiting vermijden.

3. De snelheid van digitale transitie

3.1. De digitale revolutie is de verschuiving van mechanische en analoge elektronische technologie naar digitale elektronica, die begon tussen de late jaren 50 en de late jaren 70, met de ingebruikname en verspreiding van digitale mainframes en personal computers. Tijdens de jaren 1980 raakte digitale technologie wijdverspreid in verschillende domeinen. Het gebruik van tablets en smartphones begint het gebruik van pc’s te overtreffen.

3.2. Het openstellen van het wereldwijde web voor het grote publiek vanaf 1991 zorgde voor een nieuwe infrastructuur die het mogelijk maakte om digitale toestellen met elkaar te verbinden, en zo nieuwe functies creëerde die veel verder gingen dan de mogelijkheden van een enkel digitaal toestel. De combinatie van deze technologieën heeft de wijze waarop we communiceren, werken en zaken doen fundamenteel veranderd. Digitale platforms hebben aanleiding gegeven tot radicaal nieuwe handelwijzen (Airbnb, Uber, Amazon, om maar enkele voorbeelden te noemen), en werden in enkele jaren belangrijke economische spelers.

3.3. De verdere digitalisering lijkt grenzeloos. Door het toenemende gebruik van slimme sensoren kunnen gegevens (locatie-, verplaatsings-, milieu-, biologische, chemische gegevens) met betrekking tot elk soort voorwerp worden gelezen en verwerkt ( internet der dingen ). Het aantal sensoren is virtueel onbeperkt, dus is het theoretisch mogelijk om onze gehele fysieke omgeving digitaal in kaart te brengen. Snelle breedbandverbindingen (5G) zullen het in de toekomst mogelijk maken om in realtime op sensorgegevens te reageren.

3.4. big data ) worden door computerprogramma’s verwerkt op basis van bepaalde algoritmen. Programmeurs kunnen deze algoritmen strikt vastleggen, of deze dynamisch genereren door middel van een reeks invoergegevens ( machinaal leren of kunstmatige intelligentie ). Velen verwachten dat met name kunstmatige intelligentie voor een belangrijke technologische doorbraak zal zorgen Enorme hoeveelheden gegevens van sensoren en platformactiviteiten () worden door computerprogramma’s verwerkt op basis van bepaalde algoritmen. Programmeurs kunnen deze algoritmen strikt vastleggen, of deze dynamisch genereren door middel van een reeks invoergegevens (of). Velen verwachten dat met name kunstmatige intelligentie voor een belangrijke technologische doorbraak zal zorgen ( 3 ) . De vraag in hoeverre we machines keuzes (met morele implicaties) willen laten maken is van cruciaal belang en vergt sociaal en politiek toezicht. Nu wordt er reeds sterk aangedrongen op het opleggen van beperkingen aan automatische computersystemen op bepaalde gebieden (zoals fintech) wegens het aanzienlijke verlies van controle en het gebrek aan transparantie.

3.5. Het ontwikkelingstempo van de digitalisering binnen de samenleving ligt zeer hoog. Overheidsinstanties en bedrijven passen tal van nieuwe benaderingen toe, wat blijkt uit proefprojecten of -producten die reeds op de markt verschijnen. De marktpenetratie van deze nieuwe producten kan naargelang van de sector sterk uiteenlopen. Deze kan op bepaalde gebieden echter ook traag verlopen, wanneer de technologie niet zonder meer wordt aanvaard, zoals in de volgende paragrafen wordt toegelicht.

3.6. Een typisch voorbeeld van het internet van de dingen waarvoor het draagvlak beperkt is, is domotica of slimme woonsystemen voor het aansturen van verlichting, verwarming, apparatuur voor home entertainment, huishoudtoestellen enz. Toegangscontrole- en alarmsystemen met beveiligingscamera’s kunnen video’s uploaden. Er zijn geen technische normen voorhanden voor domoticasystemen, wat het moeilijk maakt toepassingen te ontwikkelen die consistent werken voor verschillende voorwerpen. Bovendien kunnen ook geavanceerde vaardigheden en voortdurende bijwerking nodig zijn. Dat de meeste woningen omgevingen zijn die gedeeld worden door mensen met uiteenlopende belangen, vaardigheden en mogelijkheden (kinderen, ouderen en gasten bijvoorbeeld) is een bijkomende moeilijkheid. Het is veel gemakkelijker in een slim huis te wonen dat het leven van één persoon regelt.

3.7. geconnecteerde en geautomatiseerde mobiliteit mogelijk, en bieden talloze nieuwe mogelijkheden voor meer comfort en veiligheid, en uiteindelijk, met volledige automatisering, de hoogste mate van veiligheid op het gebied van wegvervoer Slimme voertuigsensoren makenmogelijk, en bieden talloze nieuwe mogelijkheden voor meer comfort en veiligheid, en uiteindelijk, met volledige automatisering, de hoogste mate van veiligheid op het gebied van wegvervoer ( 4 ) . Hoewel de technologie voor geautomatiseerd rijden redelijk ontwikkeld is, wordt deze om een aantal redenen nog niet op grote schaal toegepast. Ten eerste is uitgebreid geassisteerd rijden alleen mogelijk in nieuwe voertuigen waarvan de sensoren en de centrale computereenheden integraal deel uitmaken. De kosten hiervan voor individuen en de samenleving belemmeren de marktpenetratie. Ten tweede kan het groeiende aantal rijhulpsystemen maken dat het besturen van een voertuig complexer wordt en daardoor ook op minder acceptatie kan rekenen. Ten derde vormt de eis dat volledig autonome voertuigen 100 % veilig moeten zijn een grote belemmering zolang deze voertuigen de weg delen met traditionele voertuigen en andere weggebruikers. Volledig geautomatiseerde voertuigen vormen een probleem omdat zij het noodzakelijk maken het wegennet in grote mate opnieuw te ontwerpen.

3.8. Google en Facebook maken al intensief en succesvol gebruik van kunstmatige intelligentie om de presentatie van informatie en reclame te „optimaliseren”. Er zijn echter nog tal van andere gebieden waar kunstmatige intelligentie kan en zal worden gebruikt en voor krachtige assistentie zal zorgen bij cognitieve werkzaamheden, bijv. in op kennis gebaseerde beroepen. Sommige van deze gebieden ontwikkelen zich door een aantal fundamentele problemen echter trager dan verwacht. Zo werd onlangs gesteld dat kunstmatige intelligentie niet wordt beperkt door de technologie (computerkracht), maar door een gebrek aan fundamenteel inzicht in de wijze waarop mensen leren en denken. Het is nog steeds een privilege van de mens om buiten de geijkte kaders te denken en gebruik te maken van levenservaring.

3.9. Er zijn een aantal zeer succesvolle pioniers die overheidsdiensten hebben omgevormd tot flexibele e-oplossingen. Zo zijn in Estland tal van diensten zoals e-bestuur , e-belasting, e-gezondheid of e-stemmen goed ingeburgerd; ze worden op grote schaal toegepast en door velen gezien als modeltechnologieën die in alle EU-landen zouden moeten worden toegepast, bij voorkeur met dezelfde normen zodat interoperabiliteit mogelijk wordt. Alleen met een pan-Europese strategie en degelijk gefinancierde projecten kan een oplossing worden gevonden voor de obstakels die nu worden opgeworpen door de grote diversiteit tussen regio’s, instellingen en culturen, en de vraag naar subsidiariteit in plaats van centrale aansturing.

4. Zorgpunten en aanbevelingen

4.1. In 2017 publiceerde de Europese Commissie een Eurobarometerenquête (5) waaruit bleek dat 76 % van de mensen die dagelijks het internet gebruiken, verklaart dat de impact van deze technologieën op hun levenskwaliteit positief is. 38 % van de mensen gebruikt echter nooit het internet. Dit laatste percentage kan het gevolg zijn van een gebrek aan digitale vaardigheden, maar er zijn ook heel wat mensen die mogelijk wel de vaardigheden hebben maar die zich ernstige zorgen maken over internetgebruik, en dus twijfelen of ze dat voorbeeld moeten volgen. Dit standpunt moet worden gerespecteerd en serieus worden genomen. Er wordt met name bezorgdheid geuit over autonomie, verantwoordelijkheid, veiligheid, menselijke waardigheid, privacy en arbeidsvoorwaarden, zoals hieronder wordt uiteengezet

4.2. Autonomie

4.2.1. Er is sprake van paternalisme wanneer iemand verklaart beter te weten wat goed is voor anderen dan zijzelf. Bij technologisch paternalisme wordt het paternalisme „overgedragen”op technologie. Paternalisme kan overtuigend of dwingend zijn. Goede overtuigende technologie gaat gepaard met opleiding en niet met manipulatie, en is in overeenstemming met de vereiste van vrije keuze, zodat de menselijke autonomie wordt gewaarborgd Digitalisering biedt een schat aan nieuwe mogelijkheden waardoor mensen als nooit tevoren keuzes kunnen maken met het oog op een beter leven. Hoe meer digitalisering ons leven beheerst, hoe meer we echter kunnen worden gemanipuleerd. Dit ondermijnt onze autonomie op gebieden zoals voertuigen besturen, voedsel kiezen, voor onze gezondheid zorgen, onze woningen verwarmen, roken, drinken, onze financiën beheren en, zoals recent aan het licht is gekomen, zelfs bij verkiezingen die, indien ze gemanipuleerd worden, een bedreiging kunnen vormen voor de democratie. Het EESC dringt aan op de ontwikkeling, aanpassing en toepassing van transparante regels en, indien nodig, strikte wettelijke maatregelen voor deze snel evoluerende technologieën.

4.2.2. Het meest treffende voorbeeld van extreem gebruik van digitale technologie om mensen te beïnvloeden vinden we in China . De Chinese overheid houdt voor elke burger een burgerscore bij om te helpen bepalen of iemand in aanmerking komt voor een lening, een visum, of een baan. Dit staat in schril contrast met Europese waarden en rechten (gegevensbescherming, privacy, sociale bescherming, duurzaamheid).

4.2.3. Er werd een trend vastgesteld waarbij mensen een toenemende wens ontwikkelden naar een meer analoog leven , althans voor een gedeelte van hun tijd. Er bestaan overnachtingskampen waar volwassenen heen gaan om een weekend af te haken en van de radar te verdwijnen, of mensen brengen tijd offline door om zich te richten op kinderen, familie en vrienden — d.w.z.: zonder telefoon bij de hand. Er is een stabiele vraag naar zaken die nu als analoog worden beschouwd, hoewel een digitaal alternatief beschikbaar is: boeken, muziek die zonder computers wordt gemaakt, vinylplaten, papier, pennen en veel meer. Van een aantal hooggeplaatste leidinggevenden is bekend dat zij hun e-mailverkeer af en toe blokkeren. Dit betekent dat zij iedere e-mail in hun inbox verwijderen of hun account volledig afsluiten, om bij te komen van de stortvloed aan elektronische communicatie. Het EESC is van mening dat de digitale overgang ook dergelijke tegengewichten nodig heeft om te slagen en voor iedereen aanvaardbaar te zijn, en waarschuwt ervoor om niet te veel druk uit te oefenen om analoge technieken te vervangen.

4.3. Verantwoordelijkheid

„Man out-of-the-loop”verwijst naar volledige automatisering, waarbij het systeem zonder menselijke tussenkomst een beslissing neemt. Voorbeelden zijn onder meer kennissystemen die medische diagnoses stellen op basis van een grote hoeveelheid informatie, of militaire robots die over leven en dood beslissen op basis van informatie uit verschillende bronnen. De cruciale, vaak gestelde vraag is: in hoeverre is het ethisch aanvaardbaar het maken van keuzes (met morele implicaties) over te laten aan op kunstmatige intelligentie gebaseerde systemen? Het EESC heeft hierover al een duidelijk standpunt naar voren gebracht (6): de termen „verantwoordelijkheid”en „moreel”houden exclusief verband met mensen, en bepaalde mentale of persoonlijkheidskenmerken kunnen niet aan robots worden toegeschreven. Geautomatiseerde systemen moeten, ongeacht hun complexiteit, volgens het „human in command”-beginsel functioneren. Hierbij zijn het enkel mensen die een eindbeslissing nemen en die de verantwoordelijkheid daarvoor dragen.

4.4. Veiligheid en consumenten

4.4.1. Terwijl hippe nieuwe gadgets onze woningen slimmer maken, maken ze deze ook kwetsbaarder. Met meer toestellen die verbonden zijn met het internet — slimme tv’s, webcams, spelconsoles, smartwatches — is het cruciaal om voor een goede beveiliging voor het thuisnetwerk te zorgen. Smartwatches en andere draagbare toestellen vormen een verlengstuk van een smartphone, en bieden rechtstreekse toegang tot krachtige apps, e-mails, tekstberichten en het internet. Naast het ophalen van informatie die waardevol is voor hackers, kunnen ze ook de controle van slimme toestellen overnemen . Veiligheidsonderzoekers toonden aan hoe eenvoudig het is om de speelgoedpop Cayla te hacken, of dat het zelfs mogelijk is een insulinepomp te hacken of de drager van een smartwatch te bespioneren. Consumenten moeten van deze risico’s bewust worden gemaakt. Het EESC roept de EU op om de bestaande veiligheidsvoorschriften te herzien en strikte veiligheidsregels op te stellen, afgestemd op de nieuwe technologieën die zich ontwikkelen voor de bescherming van burgers in hun woningen.

4.4.2. De toepassing van biometrie (gezichtsherkenning, vingerafdrukken, irisscan) is handig als het systeem goed werkt, maar voor mensen die door het systeem onterecht als verdacht worden geïdentificeerd, is het vaak erg moeilijk om fouten recht te zetten. De toepassing van biometrie kan tot onjuiste indeling en stigmatisering leiden door mensen automatisch in een bepaalde categorie, van bijv. terrorist, misdadiger of onbetrouwbaar individu, in te delen. Dit kan leiden tot de omkering van het vermoeden van onschuld. Verder blijkt ook dat biometrie niet bij iedereen kan worden gebruikt. Zo kunnen de vingerafdrukken van 2 % van de mensen niet worden „gelezen”omdat het gaat om ouderen, mensen met bepaalde beroepen of mensen die chemotherapie hebben ondergaan. De in onze samenleving gebruikte digitale systemen moeten zo ontworpen zijn dat ze mensen die niet aan bepaalde standaardcriteria voldoen, niet uitsluiten of discrimineren. Systemen die personen automatisch als verdacht aanmerken, mogen nooit zonder nauwe menselijke interactie en grondige controle functioneren.

4.4.3. Identiteitsfraude is een groot probleem. Identiteitsfraude betreft het opzettelijk verkrijgen, toe-eigenen, bezitten of creëren van valse identificatiemiddelen en daarmee onrechtmatig handelen of daartoe het voornemen hebben. Er is behoefte aan toereikende juridische ondersteuning in onze samenleving om de slachtoffers van dergelijke identiteitsfraude te beschermen.

4.5. Menselijke waardigheid

4.5.1. Het gebruik van robotica in de gezondheidssector is zorgelijk. Robots zijn apparaten die niet in staat zijn om de empathische vaardigheden en de wederkerigheid van menselijke zorgrelaties na te bootsen. Zorgrobots mogen daarom enkel worden gebruikt voor zorgtaken die geen emotionele, intieme of persoonlijke betrokkenheid vergen. Als er geen randvoorwaarden worden opgelegd voor het gebruik van robots, kunnen deze de menselijke waardigheid ondermijnen.

4.6. Privacy

4.6.1. Bij gezichtsherkenning wordt iemands gezichtsprofiel met een database vergeleken om na te gaan of de gescande persoon in die database is opgenomen. De methode wordt gebruikt bij politie-onderzoeken of voor beveiligingscamera’s in de openbare ruimte en de toepassing ervan is bij wet geregeld. Dergelijke zeer gevoelige informatie moet veilig en beveiligd worden opgeslagen. Gezichtsherkenning zal echter goedkoper en gemakkelijker toegankelijk worden voor iedereen: iedere winkel, onderneming of zelfs iedere privépersoon. Er wordt geprobeerd om deze technieken zelfs voor emotionele herkenning te gebruiken. De vrees bestaat dat de technologie voor gezichtsherkenning uiteindelijk tot een situatie kan leiden waarbij het onmogelijk wordt om anoniem over straat te lopen of te winkelen. Het EESC zou graag zien dat mensen ook in de publieke ruimte recht hebben op privacy. Cameraherkenning zonder medeweten van de personen die worden geobserveerd, moet in het algemeen worden verboden.

4.6.2. Terwijl het „big brother”-scenario waarbij een overheid iedereen bespioneert al welbekend is, wordt het „little brother”-scenario waarbij individuele personen of kleine ondernemingen elkaar bespioneren, nog waarschijnlijker. Zo kunnen slimme brillen bijvoorbeeld worden gebruikt om gegevens vast te leggen en op te halen over een gesprekspartner of bezoeker. Er zullen andere elektronische spionagegadgets verschijnen naarmate geavanceerde en betaalbare technologie verder wordt ontwikkeld. Het EESC beklemtoont dat er naast de huidige AVG ook duidelijke, strenge regels nodig zijn om de privacy van mensen te waarborgen.

4.6.3. Door de toegenomen automatisering van huishoudens wordt de woning, die als privaat wordt beschouwd, transparanter. Het onderscheid tussen de woning en de buitenwereld vervaagt, aangezien de muren een woning niet langer beschermen tegen nieuwsgierige blikken. Door amusementsapparaten, alarmsystemen met beveiligingscamera’s en centrale controlesystemen (desktopcomputer, smartphone, slimme luidspreker) ontstaat er een waaier aan toegangspunten voor hackers. Het EESC pleit daarom voor gecoördineerde EU-maatregelen om consumenten over deze risico’s te informeren en veiligheidsmaatregelen te ondersteunen.

4.6.4. Een risico van digitale systemen ligt in de complexiteit ervan. Met name de individuele consument die niet over professionele digitale vaardigheden beschikt, heeft gedegen ondersteuning nodig. Gebruikershandleidingen voor digitale uitrusting zijn soms bijvoorbeeld erg uitgebreid. Ze waarschuwen de gebruiker gewoonlijk voor privacykwesties, maar toestemming om bepaalde gegevens te gebruiken wordt vaak onbewust gegeven, omdat mensen niet de hele handleiding begrijpen of omdat ze aan zogenoemde toestemmingsmoeheid leiden als gevolg van de vele keren dat toestemming moet worden gegeven om hun gegevens te gebruiken voor toestellen die gegevens verzamelen. De vraag rijst daarom bij wie de verantwoordelijkheid ligt in dit proces. Het EESC pleit voor vereenvoudiging en stelt voor te voorzien in EU-standaardprocedures of standaard privacypakketten die voor iedereen makkelijk te begrijpen zijn.

4.6.5. De privacykwestie geldt ook voor digitale platformen . Platformen kunnen hun gebruikers gemakkelijk volgen met eenvoudige hulpmiddelen. Werknemers van Uber gebruikten bijvoorbeeld het instrument God View van het bedrijf om politici, beroemdheden en anderen te volgen; na een rechtszaak werd hieraan een einde gemaakt. De technologie legt echter nog steeds traceer- en verbindingsgegevens vast. Privacy kan enkel worden gewaarborgd middels aanvullende maatregelen: door de toegang tot gevoelige gegevens tot een beperkt aantal bevoegde personen te beperken. Dergelijke veiligheidsmaatregelen moeten volgens de hoogste en meest betrouwbare normen worden ontwikkeld, en regelmatig aan controles door onafhankelijke EU-organen worden onderworpen.

4.7. Het werk van de toekomst

4.7.1. Werk zal de centrale bron van inkomsten blijven in het digitale tijdperk. Inzetbaarheid vanuit het perspectief van de werkgever en de mogelijkheid om te werken vanuit het oogpunt van de werknemer zijn twee kanten van dezelfde medaille in de digitale transformatie. Het aanpassingsvermogen van werknemers aan nieuwe taken komt overeen met de mogelijkheid om het werk met behulp van digitale technologie aan te passen aan individuele arbeidsvragen. Nu de grens tussen werken om geld te verdienen en werken voor privédoeleinden steeds vager wordt, worden met name de sociale partners uitgedaagd om nieuwe criteria te vinden en vast te stellen om de individuele prestaties op een eerlijke manier te meten. Anticiperen op digitale verandering vereist betrokkenheid van werknemers door middel van informatie, raadpleging en participatie. Sociale zekerheid, openbare diensten van algemeen belang en het veiligstellen van ecologische bestaansmiddelen blijven voorwaarden voor toekomstige werkenden in de digitale transformatie.

4.7.2. Automatisering en robots zullen grote gevolgen hebben voor werk in de toekomst. Het gebruik van vervoersystemen zonder bestuurder is bijvoorbeeld al gebruikelijk voor het vervoer van materialen in magazijnen. Robots kunnen ook monotone, zware of gevaarlijke werkzaamheden vervangen, en de nieuwe generatie van zogenaamde „op samenwerking gerichte robots”kunnen fysieke partners worden voor werknemers, en met name nuttig zijn voor mensen met een lichamelijke handicap. Hedendaagse robots vervangen voornamelijk handenarbeid, maar robots die gebruikmaken van kunstmatige intelligentie zullen ook intellectuele werkzaamheden verrichten. Dit zal invloed hebben op talrijke beroepen, want robots nemen bepaalde taken over of vervangen zelfs volledig menselijke werknemers, zoals de voorbije decennia al te zien was. Er wordt verwacht dat werkgelegenheid in alle industriële sectoren stabiel blijft tot 2022. In grote bedrijven zien we zelfs dat de verschuiving in de arbeidsverdeling tussen mens en machine bijna tweemaal zoveel nieuwe banen en functionele rollen heeft gecreëerd als ze heeft overgenomen. Het EESC heeft deze kwesties in een aantal adviezen besproken zullen grote gevolgen hebben voor werk in de toekomst. Het gebruik van vervoersystemen zonder bestuurder is bijvoorbeeld al gebruikelijk voor het vervoer van materialen in magazijnen. Robots kunnen ook monotone, zware of gevaarlijke werkzaamheden vervangen, en de nieuwe generatie van zogenaamde „op samenwerking gerichte robots”kunnen fysieke partners worden voor werknemers, en met name nuttig zijn voor mensen met een lichamelijke handicap. Hedendaagse robots vervangen voornamelijk handenarbeid, maar robots die gebruikmaken van kunstmatige intelligentie zullen ook intellectuele werkzaamheden verrichten. Dit zal invloed hebben op talrijke beroepen, want robots nemen bepaalde taken over of vervangen zelfs volledig menselijke werknemers, zoals de voorbije decennia al te zien was. Er wordt verwacht dat werkgelegenheid in alle industriële sectoren stabiel blijft tot 2022. In grote bedrijven zien we zelfs dat de verschuiving in de arbeidsverdeling tussen mens en machine bijna tweemaal zoveel nieuwe banen en functionele rollen heeft gecreëerd als ze heeft overgenomen. Het EESC heeft deze kwesties in een aantal adviezen besproken ( 7 )

4.7.3. Ongelijke toegang tot nieuwe digitale technologieën en een gebrek aan vaardigheden kunnen leiden tot een geleidelijke toename van verschillen in regionale ontwikkeling met alle gevolgen van dien voor de economische, culturele en bijgevolg ook sociale ontwikkeling van deze regio’s. Het EESC zou graag zien dat een evaluatie wordt gemaakt van de omvang van eventuele sociale ongelijkheden en de mogelijke gevolgen daarvan voor de integriteit van de EU.

4.7.4. Werknemers die samenwerken of in wisselwerking staan met geautomatiseerde systemen, of die met grote hoeveelheden informatie werken, kunnen bepaalde problemen ervaren. Zij moeten omgaan met complexe informatie-intensieve taken. Virtuele realiteit wordt bijvoorbeeld gebruikt voor opleiding en planning, terwijl augmented reality helpt bij onderhoudsprojecten. Het EESC beveelt aan om objectieve wetenschappelijke methoden te gebruiken wanneer nieuwe automatiseringssystemen in industrie en handel worden ingevoerd, om de interactie tussen mens en machine te optimaliseren en te evalueren.

4.7.5. Werkgevers worden daarentegen geconfronteerd met de uitdaging om passende digitale oplossingen te selecteren uit een breed aanbod aan nieuwe technologieën. Het is belangrijk passende technologische hulpsystemen te ontwikkelen voor de activiteiten en arbeidsprocessen van bedrijven. Alvorens nieuwe technologieën in te voeren, is het raadzaam om de technische bekwaamheid van de werknemers te bepalen en waar nodig opleiding aan te bieden. De participatie van werknemers bij het invoeren van nieuwe technologieën is ook een belangrijke factor.

4.7.6. Het onderzoeksgebied van de cognitieve ergonomie beleeft een opleving in dit tijdperk van digitalisering. Door de wetenschappelijke methode van de cognitieve ergonomie kunnen de mentale vereisten bij het omgaan met technische hulpsystemen objectief worden beoordeeld. Hierbij worden verschillende onderzoeksdisciplines, zoals psychologie en ergonomie, gecombineerd om gebruikersinterfaces te evalueren. Het doel is een optimaal ontwerp van de werkplek en een win-winsituatie voor zowel werknemers als werkgevers te creëren. In een dergelijke win-winsituatie bereiken werknemers een optimaal niveau van tevredenheid, welzijn en gezondheid op het werk, waardoor zij het bedrijf optimale prestaties en productiviteit op lange termijn kunnen verzekeren. Het EESC beveelt aan dat dergelijke evaluatiemethodes als norm worden ingesteld, ten behoeve van werknemers en bedrijven. De digitale transformatie moet worden gemonitord aan de hand van door de EU gefinancierd alomvattend en werkgericht onderzoek met het oog op „digitalisering ten voordele van fatsoenlijk werk”. Het EESC is ervan overtuigd dat digitalisering op lange termijn slechts succesvol kan zijn wanneer het ontwerp van Industrie 4.0-systemen efficiënt is en de werknemer centraal stelt.

Brussel, 20 februari 2019. De voorzitter van het Europees Economisch en Sociaal Comité Luca JAHIER

(1) PB C 62, 15.2.2019, blz. 292..

(2) PB C 434, 15.12.2017, blz. 30; PB C 434, 15.12.2017, blz. 36; PB C 237, 6.7.2018, blz. 8; PB C 367, 10.10.2018, blz. 15..

(3) PB C 288, 31.8.2017, blz. 1..

(4) PB C 62, 15.2.2019, blz. 274..

(5) Speciale Eurobarometer 460 – onderzoek uitgevoerd door TNS Opinion & Social, maart 2017.

(6) PB C 288, 31.8.2017, blz. 1..

(7) PB C 434, 15.12.2017, blz. 30; PB C 434, 15.12.2017, blz. 36; PB C 237, 6.7.2018, blz. 8; PB C 367, 10.10.2018, blz. 15.