Verslag van een schriftelijk overleg over de geannoteerde agenda Raad voor Concurrentievermogen op 18 en 19 februari 2019
Staten-Generaal — Kamerstuk Verslag
Datum: 2019-02-19 00:00:00.000000
Rechtsgebied: Wetgeving


Vergaderjaar 2018-2019
 Tweede Kamer der Staten-Generaal
 2
 Kamerstukken
 
 
 
 21 501-30
 Raad voor Concurrentievermogen
 
 
 Nr. 451
 VERSLAG VAN EEN SCHRIFTELIJK OVERLEG
 Vastgesteld 15 februari 2019
 
 
 
 De vaste commissie voor Economische Zaken en Klimaat heeft een aantal vragen en opmerkingen voorgelegd aan de Staatssecretaris van Economische Zaken en Klimaat over de brief van 5 februari 2019 over de geannoteerde agenda Raad voor Concurrentievermogen op 18 en 19 februari 2019 (Kamerstuk 21 501-30, nr. 450), over de brief van 20 december 2018 over het verslag van de Raad voor Concurrentievermogen van 29 en 30 november 2018 (Kamerstuk 21 501-30, nr. 449), over de brief van 27 november 2018 over de antwoorden op vragen commissie over de geannoteerde agenda voor de Raad voor Concurrentievermogen op 29 en 30 november 2018 (Kamerstuk 21 501-30, nr. 446), over de brief van 25 januari 2019 over het Fiche: Mededeling transparantie en rechtszekerheid geharmoniseerde normen (Kamerstuk 22 112, nr. 2756) en over de brief van 25 januari 2019 over het Fiche: Gecoördineerd actieplan Kunstmatige Intelligentie (AI) voor Europa Kamerstuk 22 112, nr. 2758).
 De vragen en opmerkingen zijn op 11 februari 2019 aan de Staatssecretaris van Economische Zaken en Klimaat voorgelegd. Bij brief van 14 februari 2019 zijn de vragen beantwoord.
 
 
 
 
 De voorzitter van de commissie,
 
 Diks
 
 
 
 Adjunct-griffier van de commissie,
 
 Kruithof
 
 
 
 
 
 
 
 Inhoudsopgave
 
 
 
 
 
 
 
 
 
 I
 
 
 
 
 Vragen en opmerkingen vanuit de fracties
 
 
 
 
 2
 
 
 
 
 
 
 II
 
 
 
 
 Antwoord / Reactie van de Staatssecretaris
 
 
 
 
 7
 
 
 
 
 
 
 
 
 
 I
 Vragen en opmerkingen vanuit de fracties
 
 Vragen en opmerkingen van de leden van de VVD-fractie
 De leden van de VVD-fractie hebben met belangstelling kennisgenomen van de voorliggende stukken. Deze leden hebben hierbij nog enkele vragen en opmerkingen.
 De leden van de VVD-fractie hebben kennisgenomen van het fiche «Gecoördineerd actieplan Kunstmatige Intelligentie (AI) voor Europa». Kan de Staatssecretaris aangeven welke onderwerpen prioritair zijn voor het kabinet binnen het aankomende nationaal strategische actieplan AI? Daarnaast zijn deze leden benieuwd naar de toelichting van de Staatssecretaris op de inhoud van de Raadsconclusies over het EU-actieplan AI en de openstaande discussiepunten.
 De leden van de VVD-fractie onderstrepen de relevantie van AI voor het toekomstige verdienvermogen van Europa in het algemeen en Nederland in het bijzonder. Europa dient als blok te op te treden en te concurreren met andere landen op het terrein van AI. Wat deze leden betreft is het daarbij zaak focus aan te brengen en te voorkomen dat lidstaten met name elkaar beconcurreren op toepassingsmogelijkheden. Voorkomen moet worden dat Europees sprake is van versplinterde inspanningen. Deze leden vragen dan ook op welke wijze Nederland zich zal inzetten op het realiseren van een gezamenlijke lijn. Is er een inschatting van het speelveld onder de lidstaten?
 De leden van de VVD-fractie vinden het goed dat Europa het voortouw neemt bij het opstellen van ethische richtlijnen voor de ontwikkeling en het gebruik van AI. Wel vragen deze leden dergelijke richtlijnen nadrukkelijk als randvoorwaarden te zien, zodat niet op voorhand innovaties niet of minder makkelijk in Europa tot stand kunnen worden gebracht. Randvoorwaarden zouden niet vooraf een rem moeten zijn op technologische ontwikkelingen.
 De leden van de VVD-fractie willen verder weten hoe de Staatssecretaris waarborgt dat de Nederlandse inspanningen en het nationaal strategisch actieplan AI continu zullen aansluiten op de Europese AI-plannen, aannemende dat dit een dynamisch geheel betreft. Deze leden vragen of de Staatssecretaris bij de verdere ontwikkeling van het Europese AI-actieplan ook kan aandringen op de vervolmaking van de interne markt, wat immers een belangrijke voorwaarde kan zijn voor het groot kunnen uitrollen van nieuwe technologieën en AI-toepassingen. Wil de Staatssecretaris hier nog eens nadrukkelijk aandacht voor vragen? Hoe gaat de Staatssecretaris dit in de eigen AI-plannen betrekken?
 De leden van de VVD-fractie zijn benieuwd naar de stand van zaken ten aanzien van «widening participation» met betrekking tot Horizon Europe 2021–2027. Welke stappen gaat de Staatssecretaris nemen om ervoor te zorgen dat Nederlandse onderzoeksinstituten en bedrijven hier geen nadeel van ondervinden?
 De leden van de VVD-fractie vragen de Staatssecretaris naar de inzet voor het werkprogramma van de nieuwe Europese Commissie. Met betrekking tot de Raad voor Concurrentievermogen zijn deze leden benieuwd naar welke dossiers zullen worden afgerond tijdens het huidige mandaat van de Europese Commissie en het Europees Parlement en wat daarbij de inzet is van Nederland.
 De leden van de VVD-fractie hebben kennisgenomen van het fiche «Mededeling transparantie en rechtszekerheid geharmoniseerde normen». Welke lidstaten staan kritisch tegenover de wens van de Europese Commissie om meer invloed te hebben op het normalisatieproces?
 De leden van de fractie van de VVD vragen de Staatssecretaris naar de stand van zaken wat betreft de door Nederland gedane aanmoediging voor verdere analyses van de Europese Commissie inzake de interne markt en de stand van de implementatie, uitvoering en handhaving op de interne markt. Tevens vragen deze leden welke invulling Nederland zelf zou willen geven op eerder genoemde punten. Welke sectoren, belemmeringen en knelpunten zou Nederland in overweging geven aan de Europese Commissie om mee aan de slag te gaan met het oog op de vervolmaking van de interne markt?
 De leden van de VVD-fractie zijn de Staatssecretaris erkentelijk voor de uitgebreide beantwoording op de door deze leden ingebrachte voorbeeldsituaties. Graag vragen zij de Staatssecretaris in te gaan op de volgende opmerkingen ten aanzien van de beantwoording.
 Met betrekking tot de eerste voorbeeldsituatie wordt volgens de leden van de VVD-fractie onvoldoende rekenschap gegeven aan het feit dat de Nederlandse cookiewet op het moment geen groot succes is (veel klikken en weinig privacywinst) en bovendien niet echt gehandhaafd wordt. De matige Nederlandse standaard uitrollen over Europa en dit wél strikt handhaven zal volgens deze leden in de praktijk wel degelijk een verslechtering betekenen en een belemmering opleveren voor ondernemers uit het midden- en kleinbedrijf (mkb) die nieuwe klanten zoeken. Deze leden geven in overweging om verschil te maken tussen de behandeling van ondernemers naar gelang het risico van de aangeboden informatie. Op die manier zou voorkomen kunnen worden dat altijd maar «ja» wordt geklikt en het privacy-effect daarmee dus nul is.
 De leden van de VVD-fractie hebben voor wat betreft de tweede voorbeeldsituatie de indruk dat de Staatssecretaris te veel de focus legt op adverteren via de grote (sociale) platforms. Kleine nieuwe onlinebedrijven in de opstartfase zullen een mogelijkheid zoeken om geld te verdienen door zelf advertenties te verkopen in een eigen app of platform (bijvoorbeeld in het geval van een gamingbedrijf door gratis een nieuwe game te laten spelen via een eigen app). Enkele bepalingen in de Raadstekst maken dat wel degelijk moeilijker. Deze leden vragen de Staatssecretaris om de tweede voorbeeldsituatie nog eens te bezien met inachtneming van de hierboven gegeven verduidelijking.
 Vragen en opmerkingen van de leden van de CDA-fractie
 De leden van de CDA-fractie vinden het belangrijk dat de Europese Commissie bij kunstmatige intelligentie een passend ethisch en juridisch kader wil waarborgen. Deze leden steunen daarnaast het streven van de Europese Commissie om toonaangevend wereldleider te worden in het ontwikkelen en toepassen van verantwoorde AI en hierbij de richting van de technologieontwikkeling en inzet te bepalen. Deze leden steunen hierbij ook dat de Europese Commissie een AI-strategie wil waarbij de mens centraal staat, gebaseerd op Europese normen en waarden. Zij maken zich wel zorgen op de achterstand op de VS en China bij AI. Hoe kan de achterstand op investeringen worden ingehaald? Klopt het dat VS en China zich ook sterk richten op defensie bij AI? Doet de EU dit ook? Zo nee, waarom niet? Hoe wordt geborgd dat de overheid eigenaar blijft van de infrastructuur, terwijl bedrijven de innovaties doen? Deze leden vragen verder hoe de Europese Commissie haar ambitie wil realiseren om de Europese ethische benadering wereldwijd te positioneren. Hoe krijgt de EU landen als China en de VS mee om te kiezen voor een ethische benadering in AI? Deze leden zijn verder benieuwd wanneer de Nederlandse AI-strategie aan de Kamer wordt gestuurd. Zullen ethiek en defensie hierin ook een belangrijke rol krijgen en is er al informatie beschikbaar over het Nederlandse budget voor AI?
 De leden van de CDA-fractie lezen in het fiche «Gecoördineerd actieplan Kunstmatige Intelligentie (AI) voor Europa» dat er een nieuw fonds voor schaalvergroting voor AI komt. Zal dit ook beschikbaar komen voor mkb’ers die met AI aan de gang willen gaan? Verder lezen deze leden in het fiche dat een optimaal gebruik van de «blauwe kaartregeling» wordt nagestreefd. Hoe kan worden voorkomen dat Chinezen die hier werken vervolgens met de technologie aan de haal gaan in het eigen land? In China is men namelijk bij wet verplicht samen te werken met de Veiligheidsdiensten. Kunnen er beperkingen aan de «blauwe kaartregeling» worden ingesteld indien gewerkt wordt in vitale sectoren?
 De leden van de CDA-fractie lezen in de geannoteerde agenda dat de uitgangspunten excellentie en impact zijn verankerd in het deelakkoord over de verordening Horizon Europe. Deze leden zijn hier blij mee. Zij lezen daarnaast dat Nederland zich in blijft zetten voor behoud van excellentie en impact als de uitgangspunten voor het kaderprogramma. Deze leden zijn benieuwd wanneer het zeker is dat excellentie en impact inderdaad de uitgangspunten worden voor het kaderprogramma. Wat zijn rond Horizon Europe de onderwerpen waarover nog geen overeenstemming is bereikt binnen de Raad? Wat is bovendien naar verwachting het verloop van de verdere discussie in de Raad en de Nederlandse inspanningen om de triloog nog voor de Europese verkiezingen te kunnen afronden om verdere vertraging te voorkomen?
 De leden van de CDA-fractie hebben in het verslag van het schriftelijk overleg over de geannoteerde agenda voor de Raad voor Concurrentievermogen op 29 en 30 november 2018 (Kamerstuk 21 501-30, nr. 445) vragen gesteld over het voorstel over de relatie tussen platforms en bedrijven. Uit de antwoorden blijkt dat het voorstel inderdaad transparantievereisten oplegt over de volgorde van zoekresultaten, maar dat het doel van het voorstel niet is om de consument meer duidelijkheid te geven over de zoekvolgorde. Hebben deze leden het goed begrepen dat in de «New Deal for Consumers» wel transparantievereisten over de zoekvolgorde bevat voor consumenten? Zo ja, hoe staat het hiermee en op welke wijze kunnen consumenten hier dan meer inzicht in verkrijgen? Verder zijn de leden van de CDA-fractie benieuwd naar de laatste stand van zaken betreft de verordening ABC Waiver.
 De leden van de CDA-fractie lezen in het verslag van de Raad voor Concurrentievermogen van 29 en 30 november 2018 dat Nederland zich er sterk voor heeft gemaakt dat Europese markttoezichthouders een aanspreekpunt krijgen in de EU wanneer producenten uit derde landen producten rechtstreeks aan Europese eindgebruikers aanbieden. Deze leden danken de Staatssecretaris voor het inbrengen hiervan conform de motie-Amhaouch c.s. (Kamerstuk 35 000 XIII, nr. 30). Zij zijn benieuwd hoe andere lidstaten reageerden op het idee van het verplicht stellen van een aansprakelijkheidsofficier in het geval van direct import van producten door consumenten. Deze leden zijn verder benieuwd of een meerderheid voor het voorstel lijkt te zijn en hoe het proces rond dit voorstel verder zal gaan verlopen.
 De leden van de CDA-fractie zijn verder benieuwd hoe het komt het dat in Europa nog niet de handen op elkaar gaan voor het invoeren van verplichte certificering van op internet aangesloten apparaten, zoals deze leden mede hebben voorgesteld in de motie-Paternotte c.s. (Kamerstuk 21 501-30, nr. 422). Deze leden lezen bij de verordening tot vaststelling van het programma voor de interne markt dat toerisme in het programma wordt opgenomen. Wat moeten zij hierbij voorstellen? Ten aanzien van de verordening tot vaststelling van het EU-ruimteprogramma zijn de leden van de CDA-fractie benieuwd wat de achtergrond was dat er nog geen gedeeltelijke algemene oriëntatie is gerealiseerd. Verder lezen deze leden dat een aantal lidstaten de aandacht vestigden op mkb-participatie in het ruimtevaartprogramma. Hoe heeft Nederland hierop gereageerd?
 De leden van de CDA-fractie hechten grote waarde aan het beschermen van vitale sectoren zoals infrastructuur, water, landbouw, telecommunicatie, maar ook aan het beschermen van kennisinstituten tegen ongewenste buitenlandse inmenging. Wat is de stand van zaken van de Europese Verordening voor het screenen van buitenlandse directe investeringen? Wanneer wordt deze in Nederland van kracht? Welke sectoren staan op de lijst en wat wordt de reikwijdte? Deze leden zijn verder benieuwd of er voornemens zijn de bijlage II van de richtlijn betreffende de veiligheid van netwerken en informatiesystemen (NIS-richtlijn) aan te passen door 5G-netwerken ook aan te duiden als essentiële dienst, om zo te voorkomen dat 5G-netwerken door niet-EU-entiteiten verder uitgerold kunnen worden in de EU. Is de Staatssecretaris hier voorstander van? Vindt er onderzoek plaats naar de effecten van een mogelijke aanpassing van de NIS-richtlijn? Zo nee, waarom niet? De leden van de CDA-fractie hebben verder gelezen dat Eurocommissaris Vestager de voorgenomen fusie van de treindivisies van het Franse industrieconcern Alstom en zijn Duitse branchegenoot Siemens niet heeft goedgekeurd. Vindt de Staatssecretaris dit verstandig en wat vinden de andere lidstaten hiervan?
 Vragen en opmerkingen van de leden van de SP-fractie
 De leden van de SP-fractie hebben kennisgenomen van de geannoteerde agenda en hebben hierbij enkele vragen en opmerkingen.
 De leden van de SP-fractie onderschrijven de houding van de kabinet waarin zij constateert dat een meer gecoördineerde aanpak en een toename van investeringen noodzakelijk zijn om de concurrentiekracht op het gebied van kunstmatige intelligentie te vergroten. Deze leden zijn echter ook van mening dat concurrentiekracht hierbij niet het enige doel dient te zijn en dat onderzoek op het gebied van kunstmatige intelligentie in eerste instantie ten dienste dient te staan van de samenleving als geheel en niet enkel bedrijven. Zij benadrukken de noodzaak om zelfdenkende en zichzelf ontwikkelende algoritmen aan democratische wetten en regels te laten voldoen en vragen de Staatssecretaris op welke wijze zij dit in haar bijdrage tijdens de Raad zal verwerken. Tevens zijn de leden van de SP-fractie benieuwd of de Staatssecretaris de mening deelt dat met een dergelijk Europees actieplan tegenwicht moet worden geboden aan de steeds sterker wordende positie van de zogenaamde Amerikaanse en Chinese techgiganten en vragen haar toe te lichten hoe dit moet geschieden indien zij deze mening deelt.
 De leden van de SP-fractie lezen in het fiche «Gecoördineerd actieplan Kunstmatige Intelligentie (AI) voor Europa» dat een groep deskundigen reeds een eerste versie van ethische richtlijnen voor de ontwikkeling en het gebruik van AI hebben gepubliceerd. Deze leden zien in het overzicht van de leden van deze expertgroep dat slechts enkelen van de 52 leden van de groep uit het maatschappelijk middenveld afkomstig zijn, terwijl de industrie met een veelvoud daarvan is vertegenwoordigd is. Tevens lezen de leden van de SP-fractie dat slechts de eerste drie richtlijnen in de eerste versie van deze ethische richtlijnen daadwerkelijk over de ethische kant van de zaak gaan en dat de overige twaalf richtlijnen hoofdzakelijk de functionaliteit, toepasbaarheid en betrouwbaarheid binnen organisaties van kunstmatige intelligentie betreffen. Deelt de Staatssecretaris de mening dat het predicaat «ethische richtlijnen» de lading van de richtlijnen onvoldoende dekt, gezien de beperkte aandacht voor ethiek in de richtlijnen en dat de overvloedige deelname van de industrie in deze expertgroep ten opzichte van het maatschappelijk middenveld hieraan ten grondslag ligt?
 De leden van de SP-fractie lezen in het fiche verder dat het Nederlandse actieplan een aantal bouwstenen zal bevatten waarbij ook ethiek aan bod zal komen. Deze leden vragen de Staatssecretaris welke partijen hierbij betrokken zijn en hoe de verhouding tussen maatschappelijk middenveld, wetenschap en industrie is en of de wetenschap betrokken is bij de ethische of de technische kant van kunstmatige intelligentie. Tevens zijn deze leden benieuwd naar hoe de (Nederlandse en Europese) publiek-private samenwerkingen zullen worden vormgegeven. Zij vragen of het maatschappelijk middenveld hierbij ook een rol zal krijgen om de niet-economische waarden tot uitdrukking te brengen in deze samenwerkingen. Deze leden lezen in het fiche daarnaast dat diverse regeringen reeds een budget hebben verbonden aan hun AI-programma en vragen de Staatssecretaris of dit ook voor het Nederlandse kabinet geldt. Zo ja, om welk bedrag gaat het?
 De leden van de SP-fractie zijn voorts benieuwd naar de randvoorwaarden die gesteld worden aan een Europees AI-lab en wat Nederland als tegenprestatie zou moeten leveren om dit te huisvesten. Deze leden vragen de Staatssecretaris hierbij een vergelijking te maken tussen diverse andere Europese en internationale organisaties die zich in Nederland hebben gevestigd, waaronder het Europees Octrooibureau, het Europees Medicijnagentschap en het Internationale Hof van Justitie. Deze leden vragen de Staatssecretaris uiteen te zetten welke investeringen moeten worden gedaan voor zover bekend, of er sprake zal zijn van bevoegdhedenoverdracht en wat de omvang van de te huisvesten onderzoeksgroep of -groepen zal zijn.
 De leden van de SP-fractie lezen in de geannoteerde agenda dat de langetermijnstrategie voor klimaat ook aandacht krijgt in de Raad. Terecht schrijft het kabinet hierin dat de Milieuraad hierin een leidende rol heeft. Deze leden zijn daarom benieuwd welke status de bespreking van de langetermijnstrategie heeft, of dit inhoudt dat de Europese industrie onder het Roemeens voorzitterschap grotere invloed gaat krijgen op het klimaatbeleid en welke gevolgen de bespreking tijdens de Raad zal hebben voor het klimaatbeleid.
 De leden van de SP-fractie lezen dat het kabinet het van belang vindt dat missies binnen Horizon Europe-onderzoeksprogramma’s aansprekend zijn voor de samenleving, voldoende breed zijn en grote impact tot stand kunnen brengen. Deze leden constateren dat met enige goede wil vrijwel ieder onderzoeksproject aan deze criteria kan voldoen en vragen de Staatssecretaris om een nadere invulling te geven deze criteria. Deze leden zijn tevens benieuwd welke eisen binnen het kaderprogramma zullen worden gesteld aan deelnemers, of hierbij wederom sprake zal zijn van consortia die moeten bestaan uit partners uit verschillende regio’s en andere eisen van dien aard. Deze leden vragen de Staatssecretaris hierbij tevens om haar mening over dergelijke criteria.
 
 
 
 II
 Antwoord / Reactie van de Staatssecretaris
 
 Inleiding
 Hierbij bied ik u, mede namens de Minister van Onderwijs, Cultuur en Wetenschap, de beantwoording aan van de door u gestelde vragen naar aanleiding van de geannoteerde agenda van de Raad voor Concurrentievermogen (RvC) van 18 en 19 februari a.s., het verslag van de RvC van 29 en 30 november jl. en de brief aan de Kamer over het SO van de RvC van 29 en 30 november jl. Als bijlage bij deze brief is de Nederlandse inzending op de consultatie van de Europese Commissie over ethische richtsnoeren voor Artificial Intelligence (AI) gevoegd1Raadpleegbaar via www.tweedekamer.nl.
 Vragen en opmerkingen van de leden van de VVD-fractie
 
 De leden van de VVD-fractie hebben met belangstelling kennisgenomen van de voorliggende stukken. Deze leden hebben hierbij nog enkele vragen en opmerkingen.
 
 
 De leden van de VVD-fractie hebben kennisgenomen van het fiche «Gecoördineerd actieplan Kunstmatige Intelligentie (AI) voor Europa». Kan de Staatssecretaris aangeven welke onderwerpen prioritair zijn voor het kabinet binnen het aankomende nationaal strategische actieplan AI? Daarnaast zijn deze leden benieuwd naar de toelichting van de Staatssecretaris op de inhoud van de Raadsconclusies over het EU-actieplan AI en de openstaande discussiepunten.
 
 Voor het kabinet zijn alle onderwerpen uit het «Gecoördineerd actieplan Kunstmatige Intelligentie (AI) voor Europa» prioritair voor het aankomende strategisch nationaal actieplan AI. De genoemde onderwerpen sluiten ook aan bij de prioriteiten uit het rapport AI voor Nederland (hierna AINED), een publiek-privaat samenwerkingsverband van onder andere VNO-NCW en Topteam ICT. Nederland wil zich vooral onderscheiden in het ontwikkelen en op grote schaal toepassen en benutten van AI-toepassingen met economische en maatschappelijke meerwaarde.
 De voorliggende raadsconclusies AI onderschrijven de urgentie voor meer Europese samenwerking en de bijdrage van AI aan de aanpak van grote maatschappelijke uitdagingen waar we ook in Nederland mee te maken hebben; van vergrijzing en zorg tot mobiliteit, klimaatproblemen en duurzaamheid. Daarnaast steunen de lidstaten ethische, Europese richtlijnen voor AI, waarmee Europa zich wereldwijd kan onderscheiden en het belang van publieke en private investeringen en alle EU-lidstaten onderschrijven dat het actieplan ook daadwerkelijk omgezet wordt in acties. Er zijn vooralsnog geen openstaande discussiepunten.
 
 De leden van de VVD-fractie onderstrepen de relevantie van AI voor het toekomstige verdienvermogen van Europa in het algemeen en Nederland in het bijzonder. Europa dient als blok te op te treden en te concurreren met andere landen op het terrein van AI. Wat deze leden betreft is het daarbij zaak focus aan te brengen en te voorkomen dat lidstaten met name elkaar beconcurreren op toepassingsmogelijkheden. Voorkomen moet worden dat Europees sprake is van versplinterde inspanningen. Deze leden vragen dan ook op welke wijze Nederland zich zal inzetten op het realiseren van een gezamenlijke lijn. Is er een inschatting van het speelveld onder de lidstaten?
 
 Alle lidstaten – en dat is ook de inzet van Nederland – zien het belang van een gezamenlijke Europese aanpak om zo de achterstand ten opzichte van andere landen als de VS en China niet te laten oplopen. Door de snelle mondiale ontwikkelingen en miljarden investeringen door andere landen in AI zijn een intensivering van de Europese investeringen én een meer gecoördineerde aanpak voor de ontwikkeling en het gebruik van AI essentieel om de Europese concurrentiekracht te verbeteren.
 
 De leden van de VVD-fractie vinden het goed dat Europa het voortouw neemt bij het opstellen van ethische richtlijnen voor de ontwikkeling en het gebruik van AI. Wel vragen deze leden dergelijke richtlijnen nadrukkelijk als randvoorwaarden te zien, zodat niet op voorhand innovaties niet of minder makkelijk in Europa tot stand kunnen worden gebracht. Randvoorwaarden zouden niet vooraf een rem moeten zijn op technologische ontwikkelingen.
 
 Ik deel uw constatering dat deze ethische richtlijnen randvoorwaardelijk moeten zijn. Het gaat hier ook niet om richtlijnen van de Europese Commissie, maar om (randvoorwaardelijke) aanbevelingen opgesteld door een Europese groep van diverse (externe) deskundigen. De ambitie is om dit Europees ethisch kader voor AI ook wereldwijd te positioneren om hiermee een internationaal kader te verwezenlijken. In reactie op de (publieke) consulatie van de ethische richtlijnen heb ik hier ook een aantal suggesties voor gedaan. Deze reactie is als bijlage bij deze brief gevoegd.
 
 De leden van de VVD-fractie willen verder weten hoe de Staatssecretaris waarborgt dat de Nederlandse inspanningen en het nationaal strategisch actieplan AI continu zullen aansluiten op de Europese AI-plannen, aannemende dat dit een dynamisch geheel betreft. Deze leden vragen of de Staatssecretaris bij de verdere ontwikkeling van het Europese AI-actieplan ook kan aandringen op de vervolmaking van de interne markt, wat immers een belangrijke voorwaarde kan zijn voor het groot kunnen uitrollen van nieuwe technologieën en AI-toepassingen. Wil de Staatssecretaris hier nog eens nadrukkelijk aandacht voor vragen? Hoe gaat de Staatssecretaris dit in de eigen AI-plannen betrekken?
 
 Het nationale strategische actieplan AI in voorbereiding is een dynamisch document, dat ik voornemens ben om door te ontwikkelen. Hiermee kan waar nodig worden ingespeeld op vernieuwing en verandering. Ook zal de Europese Commissie -samen met de lidstaten- jaarlijks de AI plannen bespreken. Daarnaast zal ik ook in dit verband aandacht vragen voor de interne markt aspecten; specifiek voor AI zoals het harmoniseren van standaarden en veiligheidseisen.
 
 De leden van de VVD-fractie zijn benieuwd naar de stand van zaken ten aanzien van «widening participation» met betrekking tot Horizon Europe 2021–2027. Welke stappen gaat de Staatssecretaris nemen om ervoor te zorgen dat Nederlandse onderzoeksinstituten en bedrijven hier geen nadeel van ondervinden?
 
 In het deelakkoord over de verordening zijn de belangrijkste beslissingen over Horizon Europe omtrent widening participation vastgelegd. Die zijn in lijn met de Nederlandse kabinetsinzet; de excellentie- en impactprincipes worden behouden en maatregelen ten behoeve van «widening participation» worden alleen gefaciliteerd bij het beperkte deel «Verbreding van de deelname aan en versterking van de Europese Onderzoeksruimte». Ook in de onderhandelingen voor het Specifiek Programma en de triloog over de verordening houdt Nederland hieraan vast. Voor een toelichting op het verloop daarvan verwijs ik u naar het antwoord op de vraag daarover van het CDA.
 Door de «widening-maatregelen» te beperken tot het deel «Verbreding van de deelname aan en versterking van de Europese Onderzoeksruimte» en door excellentie en impact te behouden als leidende principes, zullen de Nederlandse onderzoeksinstituten en bedrijven zo min mogelijk nadeel ondervinden van de discussies omtrent «widening participation». Nederland beschikt over zeer hoge kwaliteit in onderzoek en innovatie en kan nu goed blijven profiteren van een Kaderprogramma dat blijvend gestoeld is op de excellentie- en impactprincipes. Van de 40 miljard euro die in het lopende kaderprogramma Horizon 2020 (2014–2020) is toebedeeld, heeft Nederland tot nu toe meer dan drie miljard euro toegekend gekregen.
 
 De leden van de VVD-fractie vragen de Staatssecretaris naar de inzet voor het werkprogramma van de nieuwe Europese Commissie. Met betrekking tot de Raad voor Concurrentievermogen zijn deze leden benieuwd naar welke dossiers zullen worden afgerond tijdens het huidige mandaat van de Europese Commissie en het Europees Parlement en wat daarbij de inzet is van Nederland.
 
 Het werkprogramma van de nieuwe Europese Commissie is nog niet bekend. Zodra de nieuwe Commissie haar plannen dit najaar presenteert zal de Kamer daarover worden geïnformeerd, mijn inzet zal in lijn zijn met de bredere kabinetsinzet zoals opgenomen in de Staat van de Unie (Kamerstuk 35 078, nr. 1) die aan uw Kamer is gezonden. In de kwartaalrapportage die onlangs naar uw Kamer is gestuurd staat de laatste stand van zaken met betrekking tot de lopende dossiers van het Ministerie van Economische Zaken en Klimaat, waaronder de dossiers die aan de orde komen in de delen van de Raad voor Concurrentievermogen over Industrie en Interne Markt en Ruimtevaart. De komende week zullen naar verwachting nog politieke akkoorden worden bereikt op de dossiers platforms to business, markttoezicht op producten en company law. Het Voorzitterschap zal hierover onder de diversenpunten van de Raad een terugkoppeling geven. Ik zal u over de uitkomst via het verslag van de RvC informeren. Met dat verslag wordt u ook geïnformeerd over de vorderingen rondom Horizon Europe en ITER die in het Onderzoeksdeel van deze Raad aan de orde zullen komen. Deze dossiers zullen, tezamen met het Programma voor onderzoek en opleiding van Euratom, in het Onderzoeksdeel van de Raad van mei as. voorliggen voor een mogelijk akkoord. De inzet van het kabinet is op al deze lopende dossiers in lijn met de BNC-fiches die hiervoor zijn opgesteld.
 
 De leden van de VVD-fractie hebben kennisgenomen van het fiche «Mededeling transparantie en rechtszekerheid geharmoniseerde normen». Welke lidstaten staan kritisch tegenover de wens van de Europese Commissie om meer invloed te hebben op het normalisatieproces?
 
 In het BNC-fiche is aangegeven dat Nederland kritisch staat tegenover de wens van de Europese Commissie om haar invloed op het normalisatieproces te vergroten. Nederland heeft aanwijzingen dat andere lidstaten er op een vergelijkbare manier naar kijken. Ik verwacht dat lidstaten formele standpunten in zullen nemen nadat de Commissie de mededeling in concrete voorstellen heeft uitgewerkt.
 
 De leden van de fractie van de VVD vragen de Staatssecretaris naar de stand van zaken wat betreft de door Nederland gedane aanmoediging voor verdere analyses van de Europese Commissie inzake de interne markt en de stand van de implementatie, uitvoering en handhaving op de interne markt. Tevens vragen deze leden welke invulling Nederland zelf zou willen geven op eerdergenoemde punten. Welke sectoren, belemmeringen en knelpunten zou Nederland in overweging geven aan de Europese Commissie om mee aan de slag te gaan met het oog op de vervolmaking van de interne markt?
 
 De Europese Raad vroeg de Europese Commissie in maart 2018 om deze analyses. Naar aanleiding daarvan heeft de Europese Commissie in november 2018 een mededeling uitgebracht. Deze bevat echter niet de gevraagde analyse, zoals uiteengezet in de bijlage bij Kamerstuk 21 501-30, nr. 449. Het kabinet zal zich ervoor blijven inzetten dat de Europese Commissie een gedegen analyse uitvoert van de kansen en belemmeringen die door ondernemers worden ervaren in het handelen op de interne markt, alsmede een stand van zaken van de implementatie, uitvoering en handhaving van bestaande interne markt regelgeving. Dit is essentieel om te komen tot een beleid dat is gebaseerd op feiten en behoeften uit de praktijk. Nader onderzoek is gewenst, onder meer kwalitatief onderzoek naar de ervaringen van ondernemers op basis van zogeheten klantreizen: waar loopt een ondernemer allemaal tegenaan als deze zaken wil doen in een andere lidstaat? Het kabinet laat hiervoor zelf onderzoek uitvoeren onder Nederlandse ondernemers. Het identificeren van sectoren dient zorgvuldig te geschieden. Ook op andere punten zijn meer gegevens gewenst, bijvoorbeeld microdata van de dienstensector in andere lidstaten, de samenstelling van het dienstenverkeer en waardeketens. Op basis van onderzoek binnen Nederland tot nu toe zijn gebrekkige informatievoorziening voor ondernemers en een meer uniforme en eenduidige handhaving van bestaande regelgeving in alle lidstaten geïdentificeerd als belangrijke belemmeringen die de Europese Commissie én lidstaten zouden moeten adresseren.
 
 De leden van de VVD-fractie zijn de Staatssecretaris erkentelijk voor de uitgebreide beantwoording op de door deze leden ingebrachte voorbeeldsituaties. Graag vragen zij de Staatssecretaris in te gaan op de volgende opmerkingen ten aanzien van de beantwoording.
 
 
 Met betrekking tot de eerste voorbeeldsituatie wordt volgens de leden van de VVD-fractie onvoldoende rekenschap gegeven aan het feit dat de Nederlandse cookiewet op het moment geen groot succes is (veel klikken en weinig privacywinst) en bovendien niet echt gehandhaafd wordt. De matige Nederlandse standaard uitrollen over Europa en dit wél strikt handhaven zal volgens deze leden in de praktijk wel degelijk een verslechtering betekenen en een belemmering opleveren voor ondernemers uit het midden- en kleinbedrijf (mkb) die nieuwe klanten zoeken. Deze leden geven in overweging om verschil te maken tussen de behandeling van ondernemers naar gelang het risico van de aangeboden informatie. Op die manier zou voorkomen kunnen worden dat altijd maar «ja» wordt geklikt en het privacy-effect daarmee dus nul is.
 
 De regels met betrekking tot cookies zoals die op dit moment gelden in Nederland zijn een omzetting van de regels uit de bestaande e-privacyrichtlijn. Het gaat hier dus om van oorsprong Europese regels. Deze Europese regels kennen voor het plaatsen en lezen van informatie op computers en mobiele telefoons (waaronder het plaatsen en lezen van cookies) twee belangrijke grondslagen: het lezen/plaatsen is nodig voor de levering van een dienst van de informatiemaatschappij, bijvoorbeeld bij advertenties. Als dat niet nodig is voor de levering van een dienst, is toestemming van de eindgebruiker niet nodig. Het volgen van surfgedrag is een aanzienlijke inbreuk op de persoonlijke levenssfeer van de eindgebruiker. Ik heb eerder in antwoord op vragen van leden van de VVD-fractie al aangegeven dat naar mijn opvatting andere grondslagen voor het volgen van surfgedrag naar mijn opvatting niet passend zijn (voetnoot: Kamerstuk 21 501-30, nr. 443). Anders gezegd: er is geen acceptabel alternatief voor toestemming. Belangrijk is nu om het geven of weigeren van deze toestemming wel zo gebruiksvriendelijk mogelijk te maken. Vandaar dat ik in de onderhandelingen in de Raad heb aangedrongen op het stellen van eisen aan software en apps. Deze eisen moeten er toe leiden dat eindgebruikers op eenvoudige wijze via, bijvoorbeeld de instellingen van computer of mobiele telefoon, kunnen aangeven door wie en voor welk doeleinde zij gevolgd willen worden
 
 De leden van de VVD-fractie hebben voor wat betreft de tweede voorbeeldsituatie de indruk dat de Staatssecretaris te veel de focus legt op adverteren via de grote (sociale) platforms. Kleine nieuwe onlinebedrijven in de opstartfase zullen een mogelijkheid zoeken om geld te verdienen door zelf advertenties te verkopen in een eigen app of platform (bijvoorbeeld in het geval van een gamingbedrijf door gratis een nieuwe game te laten spelen via een eigen app). Enkele bepalingen in de Raadstekst maken dat wel degelijk moeilijker. Deze leden vragen de Staatssecretaris om de tweede voorbeeldsituatie nog eens te bezien met inachtneming van de hierboven gegeven verduidelijking.
 
 De leden van de VVD-fractie vragen mij de tweede voorbeeldsituatie nog eens te bezien na aangegeven te hebben dat de Raadstekst het wel degelijk moeilijker maakt voor kleine onlinebedrijven om in de opstartfase zelf advertentie(ruimte) te verkopen. Het is mij echter niet duidelijk welke bepalingen in de Raadstekst de leden van de VVD-fractie hier bedoelen. Voor zover ik kan zien zijn er geen bepalingen in de Raadstekst die het beschikbaar stellen van advertentieruimte bemoeilijken. De voorgestelde bepalingen stellen net als nu onder het regime van de e-privacyrichtlijn, geen eisen aan het beschikbaar stellen van advertentieruimte. Wel is het zo dat als bij het plaatsen van een advertentie cookies geplaatst worden om surfgedrag van de eindgebruiker te volgen en dat daarvoor de toestemming van de eindgebruiker nodig is. Ook dit is echter niet anders dan nu reeds het geval is.
 Vragen en opmerkingen van de leden van de CDA-fractie
 
 
 De leden van de CDA-fractie vinden het belangrijk dat de Europese Commissie bij kunstmatige intelligentie een passend ethisch en juridisch kader wil waarborgen. Deze leden steunen daarnaast het streven van de Europese Commissie om toonaangevend wereldleider te worden in het ontwikkelen en toepassen van verantwoorde AI en hierbij de richting van de technologieontwikkeling en inzet te bepalen. Deze leden steunen hierbij ook dat de Europese Commissie een AI-strategie wil waarbij de mens centraal staat, gebaseerd op Europese normen en waarden. Zij maken zich wel zorgen op de achterstand op de VS en China bij AI. Hoe kan de achterstand op investeringen worden ingehaald? Klopt het dat VS en China zich ook sterk richten op defensie bij AI? Doet de EU dit ook? Zo nee, waarom niet? Hoe wordt geborgd dat de overheid eigenaar blijft van de infrastructuur, terwijl bedrijven de innovaties doen? Deze leden vragen verder hoe de Europese Commissie haar ambitie wil realiseren om de Europese ethische benadering wereldwijd te positioneren. Hoe krijgt de EU-landen als China en de VS mee om te kiezen voor een ethische benadering in AI? Deze leden zijn verder benieuwd wanneer de Nederlandse AI-strategie aan de Kamer wordt gestuurd. Zullen ethiek en defensie hierin ook een belangrijke rol krijgen en is er al informatie beschikbaar over het Nederlandse budget voor AI?
 
 
 De leden van de CDA-fractie lezen in het fiche «Gecoördineerd actieplan Kunstmatige Intelligentie (AI) voor Europa» dat er een nieuw fonds voor schaalvergroting voor AI komt. Zal dit ook beschikbaar komen voor mkb’ers die met AI aan de gang willen gaan? Verder lezen deze leden in het fiche dat een optimaal gebruik van de «blauwe kaartregeling» wordt nagestreefd. Hoe kan worden voorkomen dat Chinezen die hier werken vervolgens met de technologie aan de haal gaan in het eigen land? In China is men namelijk bij wet verplicht samen te werken met de Veiligheidsdiensten. Kunnen er beperkingen aan de «blauwe kaartregeling» worden ingesteld indien gewerkt wordt in vitale sectoren?
 
 
 Ik ben voornemens om in de eerste helft van 2019 het strategisch nationaal actieplan AI aan de Tweede Kamer te sturen. Dit actieplan bevat ook een financiële toelichting. Voor het kabinet zijn alle onderwerpen uit het «Gecoördineerd actieplan Artificiële Intelligentie (AI) voor Europa» prioritair voor het aankomende strategisch nationaal actieplan AI, waarbij de genoemde onderwerpen ook aansluiten bij de prioriteiten uit het rapport AI voor Nederland (hierna AINED). Ethiek is daarbij een belangrijk onderwerp, evenals investeringen in de gehele publieke sector, waaronder Defensie. Nederland wil zich vooral onderscheiden in het ontwikkelen en op grote schaal toepassen en benutten van AI-toepassingen met economische en maatschappelijke meerwaarde, waarbij ik me ervoor zal inspannen dat EU-fondsen voor schaalvergroting ook toegankelijk zijn voor start ups en het mkb.
 De blauwe kaart regeling kan net als andere verblijfvergunningen worden geweigerd of ingetrokken worden op gronden van nationale veiligheid.
 
 De leden van de CDA-fractie lezen in de geannoteerde agenda dat de uitgangspunten excellentie en impact zijn verankerd in het deelakkoord over de verordening Horizon Europe. Deze leden zijn hier blij mee. Zij lezen daarnaast dat Nederland zich in blijft zetten voor behoud van excellentie en impact als de uitgangspunten voor het kaderprogramma. Deze leden zijn benieuwd wanneer het zeker is dat excellentie en impact inderdaad de uitgangspunten worden voor het kaderprogramma. Wat zijn rond Horizon Europe de onderwerpen waarover nog geen overeenstemming is bereikt binnen de Raad? Wat is bovendien naar verwachting het verloop van de verdere discussie in de Raad en de Nederlandse inspanningen om de triloog nog voor de Europese verkiezingen te kunnen afronden om verdere vertraging te voorkomen?
 
 De huidige stand van zaken is dat excellentie en impact als leidende principes behouden blijven. Ik merk hierbij op dat het definitief uitsluiten van geografische criteria nog geen gelopen race is. Pas na afronding van de triloog met het Europees Parlement zal er zekerheid zijn over het behoud van de criteria excellentie en impact als leidende principes voor het Kaderprogramma. Definitieve zekerheid vloeit voort uit de integrale besluitvorming over het Meerjarig Financieel Kader (MFK) waar Horizon Europe onderdeel vanuit maakt.
 De belangrijkste kaders van Horizon Europe zijn in de verordening vastgelegd en hierover heeft de Raad op 30 november jl. een deelakkoord bereikt. De triloog met het Europees Parlement over de verordening is momenteel gaande. De onderhandelingen over de nadere uitwerking van deze kaders in het Specifiek Programma lopen nog tussen de lidstaten. Het gaat dan met name om de uitwerking van de instrumenten onder de drie pijlers van het programma. Ook de inhoudelijke gebieden voor missies en institutionele partnerschappen vormen onderdeel van deze onderhandelingen. Het voorzitterschap zal de voortgang van de onderhandelingen presenteren tijdens de Raad. Over het Specifiek Programma zijn nog geen besluiten genomen, maar er worden geen grote twistpunten voorzien. Het streven is om na de Raad de verdere onderhandelingen eind februari af te ronden. Het Europees Parlement is dan goed geïnformeerd over zowel het Raadsstandpunt over de verordening als het Specifiek Programma in de afrondende fase van de triloog. De verwachting is dat het merendeel van de lidstaten, net als Nederland, het belang van tijdige afronding van de triloog zal onderstrepen en dat het Roemeense Voorzitterschap zich daar namens de Raad dan ook voor zal inspannen.
 
 De leden van de CDA-fractie hebben in het verslag van het schriftelijk overleg over de geannoteerde agenda voor de Raad voor Concurrentievermogen op 29 en 30 november 2018 (Kamerstuk 
 
 21 501-30, nr. 445
 
 ) vragen gesteld over het voorstel over de relatie tussen platforms en bedrijven. Uit de antwoorden blijkt dat het voorstel inderdaad transparantievereisten oplegt over de volgorde van zoekresultaten, maar dat het doel van het voorstel niet is om de consument meer duidelijkheid te geven over de zoekvolgorde. Hebben deze leden het goed begrepen dat in de «New Deal for Consumers» wel transparantievereisten over de zoekvolgorde bevat voor consumenten? Zo ja, hoe staat het hiermee en op welke wijze kunnen consumenten hier dan meer inzicht in verkrijgen?
 
 De verordening inzake de relatie tussen platforms en bedrijven ziet op de relatie tussen platforms en zakelijke gebruikers die goederen of diensten aanbieden via die platforms. Het doel van dit voorstel is daarmee inderdaad om de zakelijke gebruikers meer duidelijkheid te geven over de zoekvolgorde, niet de consument. De New Deal for Consumers bevat vergelijkbare transparantievereisten die wel ten doel hebben meer helderheid te creëren voor de consument (zie BNC-fiche, Kamerstuk 22 112, nr. 2580). Dit richtlijnvoorstel stelt bijvoorbeeld dat online marktplaatsen inzichtelijk moeten maken welke resultaten hoger getoond worden als gevolg van betalingen door derden (paid placements) of wanneer derden betalen om te worden opgenomen in de zoekresultaten (paid inclusion).
 
 Verder zijn de leden van de CDA-fractie benieuwd naar de laatste stand van zaken betreft de verordening ABC Waiver.
 
 Het Europees Parlement heeft een positie ingenomen en de onderhandelingen over de inhoud van het voorstel tussen de Raad, de Europese Commissie en het Europees Parlement zijn reeds gestart. De ambitie van de Commissie is om het voorstel in deze legislatieve periode af te handelen en er wordt dan ook actief gewerkt aan het vinden van een voorstel dat door alle partijen kan worden geaccepteerd. Voor Nederland is van belang dat een goede balans wordt gevonden tussen de voordelen die de export waiver kan hebben voor het gelijke speelveld in derde landen en de belangen van rechthebbenden. Ik hoop dat er snel vooruitgang wordt geboekt in de onderhandelingen.
 
 De leden van de CDA-fractie lezen in het verslag van de Raad voor Concurrentievermogen van 29 en 30 november 2018 dat Nederland zich er sterk voor heeft gemaakt dat Europese markttoezichthouders een aanspreekpunt krijgen in de EU wanneer producenten uit derde landen producten rechtstreeks aan Europese eindgebruikers aanbieden. Deze leden danken de Staatssecretaris voor het inbrengen hiervan conform de motie-Amhaouch c.s. (Kamerstuk 
 
 35 000-XIII, nr. 30
 
 ). Zij zijn benieuwd hoe andere lidstaten reageerden op het idee van het verplicht stellen van een aansprakelijkheidsofficier in het geval van direct import van producten door consumenten. Deze leden zijn verder benieuwd of een meerderheid voor het voorstel lijkt te zijn en hoe het proces rond dit voorstel verder zal gaan verlopen. De leden van de CDA-fractie zijn verder benieuwd hoe het komt het dat in Europa nog niet de handen op elkaar gaan voor het invoeren van verplichte certificering van op internet aangesloten apparaten, zoals deze leden mede hebben voorgesteld in de motie-Paternotte c.s. (Kamerstuk 
 
 21 501-30, nr. 422
 
 ).
 
 Op dit moment zijn de onderhandelingen over de markttoezichtverordening (onderdeel goederenpakket) tussen het Europees Parlement (EP) en de Raad nog gaande. Zodoende kan ik uw Kamer nog niet informeren over het behaalde resultaat. Zowel het EP als de Raad hebben nadrukkelijk de wens uitgesproken om voor de verkiezingen van het EP in mei een definitief akkoord te bereiken. Ik zie dit met vertrouwen tegemoet en verwacht een goed onderhandelingsresultaat voor Nederland. Zodra er een definitief akkoord is, zal ik uw Kamer zo spoedig mogelijk informeren.
 
 Op 10 december jl. zijn de Raad, het Europees Parlement en Europese Commissie het eens geworden over de Cybersecurity Verordening. In de week van 11-14 maart is stemming in het Europees Parlement voorzien.
 De verordening versterkt het mandaat van het EU-agentschap voor cybersecurity (Agentschap van de Europese Unie voor netwerk- en informatiebeveiliging, ENISA). De verordening voert ook een EU-kader voor cyberbeveiligingscertificering in voor producten, processen en diensten. De cyberbeveiliging van onlinediensten en consumentenapparaten krijgt hierdoor een impuls, omdat beveiliging al in de ontwerpfase wordt gestimuleerd.
 Het is de eerste interne markt wetgeving die zich met behulp van dergelijke certificaten richt op het verbeteren van de beveiliging van met het internet verbonden producten, van apparaten die gebruikmaken van het «internet der dingen» en van kritische infrastructuur.
 In de verordening is – op verzoek van Nederland (en in lijn met de overgenomen motie van D66 en CDA) en het EP – de mogelijkheid opgenomen, certificaten verplicht te stellen indien producenten en importeurs onvoldoende veilige producten en diensten aanbieden. De Europese Commissie en de Raad wilden in eerste instantie niet verder gaan dan een systeem van vrijwillige certificering. In de compromistekst is echter afgesproken dat de Europese Commissie voor eind 2023 voorstellen zal doen om dan bestaande certificeringsschema’s verplicht te kunnen stellen als er zorgen zijn vanwege onvoldoende veiligheid van producten en diensten.
 
 
 Deze leden lezen bij de verordening tot vaststelling van het programma voor de interne markt dat toerisme in het programma wordt opgenomen. Wat moeten zij hierbij voorstellen?
 
 In de partiële algemene oriëntatie op het voorstel voor de Verordening tot vaststelling van het programma voor de eengemaakte markt, het concurrentievermogen van ondernemingen, met inbegrip van kleine en middelgrote ondernemingen, en Europese statistieken, is steun aan kleine en middelgrote ondernemingen (mkb), onder meer in de toeristische sector, opgenomen als één van de doelstellingen van het interne markt programma. Dit betekent dat het programma onder andere tot doel moet hebben om het concurrentievermogen en de capaciteitsopbouw van bedrijven, met name mkb, onder meer in de toeristische sector, te waarborgen. Het interne markt programma brengt de activiteiten samen die tijdens het huidige MFK worden gefinancierd uit zes voorlopende programma’s, waaronder het programma voor het concurrentievermogen van ondernemingen en mkb-bedrijven (COSME). In het huidige COSME programma is het waarborgen van concurrentievermogen van met name mkb, onder meer in de toeristische sector, ook opgenomen als één van de doelstellingen.
 
 Ten aanzien van de verordening tot vaststelling van het EU-ruimteprogramma zijn de leden van de CDA-fractie benieuwd wat de achtergrond was dat er nog geen gedeeltelijke algemene oriëntatie is gerealiseerd. Verder lezen deze leden dat een aantal lidstaten de aandacht vestigden op mkb-participatie in het ruimtevaartprogramma. Hoe heeft Nederland hierop gereageerd?
 
 De voornaamste reden voor het feit dat er in de RvC van 29 en 30 november jongstleden nog geen gedeeltelijke algemene oriëntatie werd bereikt was dat er destijds nog geen definitieve overeenstemming (raadspositie) was over een aantal aspecten, met name de governance van het programma, «autonome toegang tot de ruimte voor de Europese Unie» en, in mindere mate, de maatschappelijke en economische impact van ruimtevaart. Hoewel er al wel veel voortgang was geboekt, was het voor de Raad nog net te vroeg om een gedeeltelijke algemene oriëntatie te vast te stellen. Kort na de Raad is er alsnog een gedeeltelijke algemene oriëntatie bereikt in Coreper-1 van 19 december 2018. Nederland is net als veel andere lidstaten een voorstander van mkb-participatie in het ruimtevaartprogramma.
 
 De leden van de CDA-fractie hechten grote waarde aan het beschermen van vitale sectoren zoals infrastructuur, water, landbouw, telecommunicatie, maar ook aan het beschermen van kennisinstituten tegen ongewenste buitenlandse inmenging. Wat is de stand van zaken van de Europese Verordening voor het screenen van buitenlandse directe investeringen? Wanneer wordt deze in Nederland van kracht? Welke sectoren staan op de lijst en wat wordt de reikwijdte?
 
 De verordening zal naar verwachting in het voorjaar door de Raad en het Europees Parlement worden aangenomen. Het kabinet heeft daarna 18 maanden de tijd om hier uitvoering aan te geven. Het kabinet zal uw Kamer te zijner tijd verder informeren over de voortgang en welke invulling zij voor ogen heeft.
 
 Deze leden zijn verder benieuwd of er voornemens zijn de bijlage II van de richtlijn betreffende de veiligheid van netwerken en informatiesystemen (NIS-richtlijn) aan te passen door 5G-netwerken ook aan te duiden als essentiële dienst, om zo te voorkomen dat 5G-netwerken door niet-EU-entiteiten verder uitgerold kunnen worden in de EU. Is de Staatssecretaris hier voorstander van? Vindt er onderzoek plaats naar de effecten van een mogelijke aanpassing van de NIS-richtlijn? Zo nee, waarom niet?
 
 Net als andere EU-lidstaten is ook Nederland alert op kwetsbaarheden waar het de vitale infrastructuur betreft. Bij de uitrol van 5G-netwerken kijken we nadrukkelijk naar hoe we dat op een zo veilig mogelijke manier kunnen doen.
 Er hebben mij geen (formele) signalen bereikt over het mogelijk aanpassen van de NIS-richtlijn door de Europese Commissie. Op grond van huidige Europese kaderrichtlijn voor de elektronische communicatienetwerken en -diensten (2002/21/EG) en zoals geïmplementeerd in de Telecommunicatiewet (hoofdstuk 11a) geldt er voor aanbieders van openbare elektronische communicatienetwerken en -diensten al een zorgplicht. De zorgplicht houdt in dat aanbieders passende organisatorische en technische maatregelen moeten treffen om de risico’s voor de veiligheid en integriteit van hun netwerken en diensten te beheersen. Deze zorgplicht geldt voor vitale en niet-vitale aanbieders en zal ook voor de toekomstige 5G-netwerken gelden. De Europese Richtlijn voor Elektronische Communicatiecode EU 2018/1972 die in december 2018 is gepubliceerd en nu in nationale wetgeving wordt geïmplementeerd continueert deze zorgplicht. Aangezien de elektronische communicatiesector al is gereguleerd, is zij niet in bijlage II van de NIS-richtlijn opgenomen; voor de daarin genoemde aanbieders van essentiële diensten geldt een vergelijkbare zorgplicht. Gezien de nationale veiligheidsbelangen en de belangen van het bedrijfsleven kan ik niet vooruitlopen of speculeren op mogelijke toekomstige maatregelen. Het kabinet zal de Kamer informeren indien maatregelen noodzakelijk worden geacht.
 
 De leden van de CDA-fractie hebben verder gelezen dat Eurocommissaris Vestager de voorgenomen fusie van de treindivisies van het Franse industrieconcern Alstom en zijn Duitse branchegenoot Siemens niet heeft goedgekeurd. Vindt de Staatssecretaris dit verstandig en wat vinden de andere lidstaten hiervan?
 
 Op woensdag 6 februari heeft de Europese Commissie een besluit genomen ten aanzien van de gemelde voorgenomen concentratie tussen Alstom en Siemens. Het is niet aan mij om een oordeel te geven over een individuele zaak waar de bevoegdheid bij de Europese Commissie ligt. In zijn algemeenheid is het zo dat de mededingingsregels (waaronder het concentratietoezicht) zorgen voor concurrentie en daarmee voor innovatie. Tegelijkertijd moeten we onze ogen niet sluiten voor ontwikkelingen in rest van de wereld en de invloed daarvan op Europese ondernemingen. Het is goed dat in Europa een discussie wordt gevoerd over het algemene beleid en daar doe ik ook aan mee. Zo heb ik recent met 18 andere lidstaten een «Friends of Industry» verklaring ondertekend, waarin de Europese Commissie onder meer wordt opgeroepen te bezien of er aanpassingen van de mededingingsregels nodig zijn, zodat bij het fusietoezicht de internationale markten en concurrentie beter worden meegewogen. Voor zover bij mij bekend zijn er geen regeringen van andere lidstaten, met uitzondering van Duitsland en Frankrijk, die een oordeel hebben gegeven over het besluit van de Europese Commissie.
 Vragen en opmerkingen van de leden van de SP-fractie
 
 De leden van de SP-fractie hebben kennisgenomen van de geannoteerde agenda en hebben hierbij enkele vragen en opmerkingen.
 
 
 De leden van de SP-fractie onderschrijven de houding van de kabinet waarin zij constateert dat een meer gecoördineerde aanpak en een toename van investeringen noodzakelijk zijn om de concurrentiekracht op het gebied van kunstmatige intelligentie te vergroten. Deze leden zijn echter ook van mening dat concurrentiekracht hierbij niet het enige doel dient te zijn en dat onderzoek op het gebied van kunstmatige intelligentie in eerste instantie ten dienste dient te staan van de samenleving als geheel en niet enkel bedrijven. Zij benadrukken de noodzaak om zelfdenkende en zichzelf ontwikkelende algoritmen aan democratische wetten en regels te laten voldoen en vragen de Staatssecretaris op welke wijze zij dit in haar bijdrage tijdens de Raad zal verwerken.
 
 Naast concurrentiekracht levert AI een belangrijke bijdrage aan het oplossen van grote maatschappelijke uitdagingen als zorg, voedsel, mobiliteit en klimaatproblemen. Als het gaat om zelfdenkende en zichzelf ontwikkelende algoritmen is het belangrijk dat AI te begrijpen en te controleren is, vooral wanneer zij grote impact heeft op mensen of op de maatschappij. Daarom zal ik in mijn bijdrage tijdens de Raad vragen om meer transparantie en uitlegbaarheid van algoritmes, zoals ik ook heb verwoord in mijn reactie op de (publieke) consulatie van de ethische Europese aanbevelingen.
 
 Tevens zijn de leden van de SP-fractie benieuwd of de Staatssecretaris de mening deelt dat met een dergelijk Europees actieplan tegenwicht moet worden geboden aan de steeds sterker wordende positie van de zogenaamde Amerikaanse en Chinese techgiganten en vragen haar toe te lichten hoe dit moet geschieden indien zij deze mening deelt.
 
 Er bestaat met name door de omvang van de beschikbare data (machine learning) weliswaar een achterstand ten opzichte van de VS en China, maar het Europese onderzoek is gevarieerder. Zo zijn er in Europa meer patenten met betrekking tot autonoom rijden dan in China en de VS gecombineerd. Daarnaast worden in Europa meer onderzoeksrapporten over AI gepubliceerd dan in China of de VS (AI-index 2018, 28% van alle AI-papers uit Europa).
 Alle lidstaten – en dat is ook de inzet van Nederland – zien het belang van een gezamenlijke Europese aanpak om de achterstand met andere landen zoals de VS en China niet te laten oplopen. Voorkomen moet worden dat Europees sprake is van versplintering op het terrein van bijvoorbeeld onderzoek. Tegelijkertijd is in de Chinese en Amerikaanse modellen databezit anders georganiseerd: door een beperkter privacy raamwerk is data voor een belangrijk deel gemonopoliseerd door enkele grote techbedrijven. Deze massale toegang tot data met een beperkter privacy raamwerk is geen aantrekkelijk model voor Europa. Daarom onderschrijf ik het uitgangspunt van de Europese Commissie dat Europa een alternatief model kan bieden met een kader voor AI, wat privacy en fundamentele mensenrechten in acht neemt.
 
 De leden van de SP-fractie lezen in het fiche «Gecoördineerd actieplan Kunstmatige Intelligentie (AI) voor Europa» dat een groep deskundigen reeds een eerste versie van ethische richtlijnen voor de ontwikkeling en het gebruik van AI hebben gepubliceerd. Deze leden zien in het overzicht van de leden van deze expertgroep dat slechts enkelen van de 52 leden van de groep uit het maatschappelijk middenveld afkomstig zijn, terwijl de industrie met een veelvoud daarvan is vertegenwoordigd is. Tevens lezen de leden van de SP-fractie dat slechts de eerste drie richtlijnen in de eerste versie van deze ethische richtlijnen daadwerkelijk over de ethische kant van de zaak gaan en dat de overige twaalf richtlijnen hoofdzakelijk de functionaliteit, toepasbaarheid en betrouwbaarheid binnen organisaties van kunstmatige intelligentie betreffen. Deelt de Staatssecretaris de mening dat het predicaat «ethische richtlijnen» de lading van de richtlijnen onvoldoende dekt, gezien de beperkte aandacht voor ethiek in de richtlijnen en dat de overvloedige deelname van de industrie in deze expertgroep ten opzichte van het maatschappelijk middenveld hieraan ten grondslag ligt?
 
 De expertgroep AI is aangewezen door de Europese Commissie en bestaat uit een Europese, diverse groep van deskundigen, die de academische wereld, het bedrijfsleven en het maatschappelijk middenveld vertegenwoordigen. Naast 26 vertegenwoordigers uit de industrie en het mkb, zijn achttien vertegenwoordigers afkomstig van kennisinstellingen en wetenschap en zijn de overige acht vertegenwoordigers afkomstig van NGO’s. Van de drie Nederlandse leden zijn twee leden afkomstig uit de wetenschap en één uit het maatschappelijk middenveld.
 De conceptrichtlijnen omvatten ethische principes, gevolgd door richtlijnen en aanbevelingen om deze ethische basis te duiden en implementeren in organisaties en een controlelijst om de implementatie (voorafgaand aan en gedurende de ontwikkeling, inzet en het gebruik) van AI te evalueren. Hiermee gaat de eerste versie van het document verder dan de vele ethische richtlijnen die er al zijn en die slechts een opsomming geven van wat ethische AI zou moeten behelzen, zonder enige richting te geven over hoe dit vervolgens daadwerkelijk te implementeren.
 
 De leden van de SP-fractie lezen in het fiche verder dat het Nederlandse actieplan een aantal bouwstenen zal bevatten waarbij ook ethiek aan bod zal komen. Deze leden vragen de Staatssecretaris welke partijen hierbij betrokken zijn en hoe de verhouding tussen maatschappelijk middenveld, wetenschap en industrie is en of de wetenschap betrokken is bij de ethische of de technische kant van kunstmatige intelligentie. Tevens zijn deze leden benieuwd naar hoe de (Nederlandse en Europese) publiek-private samenwerkingen zullen worden vormgegeven. Zij vragen of het maatschappelijk middenveld hierbij ook een rol zal krijgen om de niet-economische waarden tot uitdrukking te brengen in deze samenwerkingen. Deze leden lezen in het fiche daarnaast dat diverse regeringen reeds een budget hebben verbonden aan hun AI-programma en vragen de Staatssecretaris of dit ook voor het Nederlandse kabinet geldt. Zo ja, om welk bedrag gaat het?
 
 Onder leiding van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties stelt het kabinet een visie op ethiek en AI op. Input voor deze visie is o.a. verzameld via focus groepen, workshops en werkconferenties met een brede groep aan stakeholders zoals burgers, bedrijven, medeoverheden, wetenschap en het maatschappelijk middenveld. Deze visie is naar verwachting in de eerste helft van 2019 gereed. Op dit moment wordt onder leiding van EZK het strategisch actieplan Artificiële Intelligentie ontwikkeld, waar de belangrijkste resultaten van deze visie zullen worden opgenomen. Dit actieplan zal ook een aanzet bevatten voor de publiek-private samenwerking waar alle geledingen vertegenwoordigd zullen zijn, en ook financiële paragraaf omvatten.
 
 De leden van de SP-fractie zijn voorts benieuwd naar de randvoorwaarden die gesteld worden aan een Europees AI-lab en wat Nederland als tegenprestatie zou moeten leveren om dit te huisvesten. Deze leden vragen de Staatssecretaris hierbij een vergelijking te maken tussen diverse andere Europese en internationale organisaties die zich in Nederland hebben gevestigd, waaronder het Europees Octrooibureau, het Europees Medicijnagentschap en het Internationale Hof van Justitie. Deze leden vragen de Staatssecretaris uiteen te zetten welke investeringen moeten worden gedaan voor zover bekend, of er sprake zal zijn van bevoegdhedenoverdracht en wat de omvang van de te huisvesten onderzoeksgroep of -groepen zal zijn.
 
 Het voorstel voor een Europees AI-lab heb ik ondersteund, mede omdat dit aansluit bij de actielijnen uit het AINED rapport. Als het gaat om de kandidatuur van een AI-lab in Nederland, is het voor de benodigde investeringen eerst belangrijk om een goede analyse te maken van de Nederlandse positie en kansen in samenspraak met onze wetenschappers en kennisinstellingen. Daarnaast is het van belang te onderzoeken met welke andere lidstaten eventueel kan worden samengewerkt. Uiteraard worden vergelijkingen met andere Europese en internationale organisaties die zich eerder in Nederland hebben gevestigd hierin zoveel mogelijk meegenomen.
 
 De leden van de SP-fractie lezen in de geannoteerde agenda dat de langetermijnstrategie voor klimaat ook aandacht krijgt in de Raad. Terecht schrijft het kabinet hierin dat de Milieuraad hierin een leidende rol heeft. Deze leden zijn daarom benieuwd welke status de bespreking van de langetermijnstrategie heeft, of dit inhoudt dat de Europese industrie onder het Roemeens voorzitterschap grotere invloed gaat krijgen op het klimaatbeleid en welke gevolgen de bespreking tijdens de Raad zal hebben voor het klimaatbeleid.
 
 Gedachtewisselingen over de EU-langetermijnstrategie voor klimaat zijn geagendeerd in alle Raadsformaties die hiermee raakvlakken hebben. Het Voorzitterschap heeft dit gedaan met het oog op het brede draagvlak dat nodig zal zijn om deze strategie ten uitvoer te brengen. Alle sectoren zullen hieraan moeten bijdragen, waaronder de industrie. Het Roemeens Voorzitterschap zal verslag uitbrengen aan de voorzitter van de Europese Raad over de uitkomst van de besprekingen in de verschillende Raadsformaties. De Milieuraad heeft in dit proces een leidende en coördinerende rol.
 
 De leden van de SP-fractie lezen dat het kabinet het van belang vindt dat missies binnen Horizon Europe-onderzoeksprogramma’s aansprekend zijn voor de samenleving, voldoende breed zijn en grote impact tot stand kunnen brengen. Deze leden constateren dat met enige goede wil vrijwel ieder onderzoeksproject aan deze criteria kan voldoen en vragen de Staatssecretaris om een nadere invulling te geven deze criteria.
 
 De Nederlandse inzet heeft geresulteerd in een deelakkoord op de verordening van Horizon Europe, in de Raad voor Concurrentievermogen (Onderzoeksdeel) van 30 november 2018. Dit akkoord is conform de Nederlandse inzet, ook voor missies. In artikel 7 is de volledige lijst van criteria voor missies opgenomen: ze moeten Europese toegevoegde waarde hebben, uitdagend zijn, inspirerend zijn, maatschappelijke en/of economische impact hebben, richting geven, een helder tijdspad hebben, ambitieus maar realistische zijn, activiteiten en samenwerking over de grenzen van sectoren heen stimuleren en een brede blik hebben. Deze criteria worden ter voorbereiding op de beoogde start van het programma op 1 januari 2021 verder uitgewerkt. Missies zijn op deze manier concreter dan bijvoorbeeld maatschappelijke uitdagingen, maar breder dan een project. Voorstellen die binnen een missie worden ingediend zullen daarbij uiteraard moeten voldoen aan de criteria van excellentie en impact, zoals vastgelegd in artikel 25 van de verordening van Horizon Europe.
 
 Deze leden zijn tevens benieuwd welke eisen binnen het kaderprogramma zullen worden gesteld aan deelnemers, of hierbij wederom sprake zal zijn van consortia die moeten bestaan uit partners uit verschillende regio’s en andere eisen van dien aard. Deze leden vragen de Staatssecretaris hierbij tevens om haar mening over dergelijke criteria.
 
 Er zijn twee manieren om deel te nemen aan het Kaderprogramma. Voor sommige delen van het programma is er één begunstigde, voor andere delen doen deelnemers mee in een consortium. De eisen voor een consortium zijn vastgelegd in artikel 18 van de verordening van Horizon Europe, waar in november jl. een deelakkoord over is bereikt. Daarin is opgenomen dat een consortium bestaat uit drie onafhankelijke juridische entiteiten in verschillende lidstaten of geassocieerde landen, waarvan in ieder geval één entiteit uit een lidstaat. In het deelakkoord zijn verder geen geografische criteria opgenomen voor consortia. Het Europees Parlement doet daar in de amendementen ook geen voorstellen voor. Nederland kan zich vinden in de criteria die zijn afgesproken in het deelakkoord.