Verbatim report of proceedings of 19 October 2020
Date: 2020-10-19
Institutions: European Parliament
Subjects: European Parliament, parliamentary debate








C_202404894EN.000101.fmx.xml












Official Journal of the European Union


EN
C series














9.8.2024







            19 October 2020
            VERBATIM REPORT OF PROCEEDINGS OF 19 OCTOBER 2020
            
         
(C/2024/4894)

Contents







1.

Resumption of the session
3










2.

Opening of the sitting
3










3.

Statement by the President
3










4.

Approval of the minutes of the previous sittings : see Minutes
4










5.

Composition of Parliament : see Minutes
4










6.

Request for waiver of immunity: see Minutes
4










7.

Composition of committees and delegations : see Minutes
4










8.

Negotiations ahead of Parliament's first reading (Rule 71): see Minutes
4










9.

Signature of acts adopted under the ordinary legislative procedure (Rule 79): see Minutes
4










10.

Calendar of part-sessions : see Minutes
4










11.

Action taken on Parliament's positions and resolutions: see Minutes
4










12.

Questions for oral answer (submission): see Minutes
4










13.

Documents received: see Minutes
4










14.

Order of business
4










15.

Digital Services Act: Improving the functioning of the Single Market – Digital Services Act: adapting commercial and civil law rules for commercial entities operating online – Digital Services Act and fundamental rights issues posed – Framework of ethical aspects of artificial intelligence, robotics and related technologies – Civil liability regime for artificial intelligence – Intellectual property rights for the development of artificial intelligence technologies (debate)
5










16.

Voting session
28










17.

Composition of Parliament : see Minutes
28










18.

Digital Services Act: Improving the functioning of the Single Market – Digital Services Act: adapting commercial and civil law rules for commercial entities operating online – Digital Services Act and fundamental rights issues posed – Framework of ethical aspects of artificial intelligence, robotics and related technologies – Civil liability regime for artificial intelligence – Intellectual property rights for the development of artificial intelligence technologies (continuation of debate)
28










19.

The future of European education in the context of Covid-19 (debate)
42










20.

Obligations of the Commission in the field of visa reciprocity in accordance with Article 7 of Regulation (EU) 2018/1806 (debate)
46










21.

Recommendation to the Council and the VPC/HR concerning the Implementation and governance of Permanent Structured Cooperation (PESCO) (short presentation)
49










22.

Report on the implementation of the EU Association Agreement with the Republic of Moldova (short presentation)
51










23.

Explanations of vote: see Minutes
53










24.

Corrections to votes and voting intentions: see Minutes
53










25.

Agenda of the next sitting : see Minutes
53










26.

Closure of the sitting
53




Verbatim report of proceedings of 19 October 2020
                  


PRESIDENZA DELL'ON. DAVID MARIA SASSOLI


Presidente

1.   Resumption of the session

Presidente. – Dichiaro ripresa la sessione del Parlamento europeo interrotta giovedì 8 ottobre 2020.
               
2.   Opening of the sitting

(La seduta è aperta alle 17.02)

3.   Statement by the President

Le Président. – Chers collègues, Mesdames et Messieurs, Samuel Paty, professeur d'histoire-géographie dans les Yvelines, en France, a été brutalement assassiné vendredi par un terroriste islamiste parce qu'il croyait à la liberté d'expression, parce qu'il voulait transmettre à ses élèves la liberté de penser, l'ouverture d'esprit et les valeurs du vivre-ensemble.
               

                  Cinq ans après l'attentat contre Charlie Hebdo, le fait de montrer, pendant son cours, une caricature de Mahomet, tue. Le fanatisme et l'intolérance tuent.
               

                  Toutes nos pensées vont à la famille et aux proches de Samuel Paty et à tout le corps enseignant, en France et partout ailleurs.
               

                  La terreur se combat par l'éducation, par l'enseignement auquel Samuel Paty croyait et tel qu'il le pratiquait. Un enseignement bienveillant et critique, ouvert sur la société, sur l'autre, prônant le dialogue et la connaissance.
               

                  Ce combat est quotidien. Il est engagé par des millions d'enseignants, qui mènent leur mission avec courage et détermination, et qui ont besoin de notre soutien, du soutien d'une société pour laquelle la liberté d'expression est une valeur fondamentale et un principe majeur.
               

                  C'est avec beaucoup d'émotion que je vous propose de faire une minute de silence en hommage à Samuel Paty, à toutes les victimes du terrorisme et à toutes celles et ceux qui le combattent au quotidien par leur métier, leur engagement et leur exemple.
               

(L'Assemblée, debout, observe une minute de silence)

4.   Approval of the minutes of the previous sittings : see Minutes
5.   Composition of Parliament : see Minutes
6.   Request for waiver of immunity: see Minutes
7.   Composition of committees and delegations : see Minutes
8.   Negotiations ahead of Parliament's first reading (Rule 71): see Minutes
9.   Signature of acts adopted under the ordinary legislative procedure (Rule 79): see Minutes
10.   Calendar of part-sessions : see Minutes
11.   Action taken on Parliament's positions and resolutions: see Minutes
12.   Questions for oral answer (submission): see Minutes
13.   Documents received: see Minutes
14.   Order of business

Presidente. – E adesso passiamo all'ordine dei lavori. Il progetto definitivo è stato distribuito, così come approvato dalla Conferenza dei presidenti il 15 ottobre a norma dell'articolo 157.
               

                  A seguito delle consultazioni con i gruppi politici, desidero sottoporre all'Aula la seguente la seguente proposta di modifica al progetto di ordine del giorno definitivo.
               

                  Venerdì: il secondo turno di votazioni sarà aperto dalle 13.15 alle 14.30e i risultati del secondo turno di votazioni saranno annunciati alle ore 17. Sarà aggiunto un terzo turno di votazioni che sarà aperto dalle ore 18 alle 19.15 e i risultati del terzo turno saranno annunciati alle 21.30.
               

                  Vi sono obiezioni? Non vi sono obiezioni. Questa modifica è approvata.
               

                  Inoltre vorrei informarvi che, a seconda del numero di emendamenti presentati, le votazioni previste nei vari turni sono state ridistribuite. Le informazioni relative alla distribuzione delle votazioni sono disponibili sul sito web del Parlamento nella sezione ‘informazioni e documenti prioritari’. Ricordo inoltre che questa redistribuzione potrebbe essere soggetta a ulteriori modifiche, a seconda del numero finale di emendamenti e del numero di richieste di votazioni per parti separati e distinte.
               

                  L'ordine dei lavori è così fissato.
               

                  Iniziamo con il primo dibattito e cedo la Presidenza alla on. Dobrev.
               

                  Vorrei ricordare a tutti che siamo in una situazione di emergenza, ma questo lo sapete, che la situazione della pandemia tormenta ancora i nostri paesi, che sta crescendo ed è naturale anche per noi aver preso e adottato delle misure per contenere il contagio, ma nello stesso tempo mantenere viva l'attività del nostro Parlamento. È stato con grande dispiacere che anche questa volta non siamo riusciti a trasferire la nostra plenaria a Strasburgo, ma abbiamo dovuto, anche per le condizioni del Belgio e di Bruxelles, limitare la presenza e adottare misure straordinarie. Sapete che i colleghi che sono negli Stati membri potranno per partecipare al dibattito avvalersi degli uffici nazionali del Parlamento europeo. Questa è la prima volta che questo accade, ma ci è sembrato giusto. Per questo ringrazio tutti i gruppi politici per aver adottato una misura che ci consente di mantenere viva la democrazia europea.
               

ELNÖKÖL: KLÁRA DOBREV


alelnök

15.   Digital Services Act: Improving the functioning of the Single Market – Digital Services Act: adapting commercial and civil law rules for commercial entities operating online – Digital Services Act and fundamental rights issues posed – Framework of ethical aspects of artificial intelligence, robotics and related technologies – Civil liability regime for artificial intelligence – Intellectual property rights for the development of artificial intelligence technologies (debate)

Elnök asszony. – Jó napot kívánok, sok szeretettel üdvözlöm önöket a mai vitán. A következő napirendi pont a digitális szolgáltatásokról és a mesterséges intelligenciáról szóló közös vita. A hét jelentés Agius Saliba, Wölken, Peeters, García Del Blanco, Voss és Séjourné rapportőrök, jelentéstevőknek a riportja. Először szeretném megadni a szót Agius Salibának, a jelentés egyik előadójának. Öné a szó, képviselő úr.
               

Alex Agius Saliba,
rapporteur. – Madam President, first of all, may I remark that it is very symbolic today that the first discussion being undertaken by this Parliament by digital means, to give access to all our Members to participate, will be held on the Digital Services Act (DSA).
After months of negotiations, more than 1 000 amendments in the Committee on the Internal Market and Consumer Protection (IMCO) and a lot of hard work, this Committee agreed on a progressive and robust report on the Digital Services Act.
First of all, I would like to thank all the shadow rapporteurs working with me on the IMCO report for their transparency and also for their cooperation. I do not think that we would have been able to achieve this tangible positive result without all the support, which I hope you can confirm in tomorrow's vote in the same way that you did during the negotiations and the vote in the Committee on the Internal Market and Consumer Affairs.
Today we are discussing all three DSA reports. Despite the fact that they are interlinked, they all have different scopes. The IMCO report is the one that deals with the comprehensive revision of the 20-year-old e-Commerce Directive and the first-ever internal market ex-ante instrument in the digital sector. The e-Commerce Directive is one of the most essential pieces of Union legislation and the foundation of the digital single market as we know it today. Digital transformation has profoundly changed the functioning of the global economy and of our societies, which requires an update to improve the situation in several areas. The Digital Services Act will be this first update to the legal framework on online services after 20 years. The report therefore sets the internal market and consumer protection priorities on how digital services, including online platforms and marketplaces, should be – and must be – regulated in the future.
The Committee recommendations touch upon a range of issues. However, some of the fundamental points and measures that the Commission must, and should, introduce in the DSA are as follows. First of all, introduce the principle that what is illegal offline should also be illegal online, together with consumer protection and also user-safety principles. The second point is to extend the scope of the DSA to companies established outside Europe, mainly the ones targeting our European market, our European consumers and our European citizens. The third point is that the online harmful business models' manipulation and discriminatory practices, designed to maximise user attention dedicated to the platform based on illegal or sensationalist content, must be addressed through privacy and accountability measures such as the ‘Know Your Business Customer’ principle. The ‘Know Your Business Customer’ is a new obligation on platforms to check and stop fraudulent companies from using their services. Such a measure would reduce the number of illegitimate traders and illegal activities online.
The Commission must promote transparent advertising practices that do not track our consumers and users through the Net. To this end, the DSA should include stricter measures on harmful advertising practices, digital nudging, microtargeting, recommended systems for advertisement, and also preferential treatment.
Another essential element in my report is targeted measures on online marketplaces and here we have dedicated a whole chapter in our report targeting online marketplaces such as Amazon and Alibaba. Consumers should be equally safe when shopping online or in stores and the Commission must, and should, address and reinforce liability for online marketplaces.
The report also deals with the e-Commerce Directive's fundamental parts, dealing with the liability regime when removing illegal content online. Finally, we are also proposing, for the first time in the digital sector, ex-ante rules to tackle the digital players' uncompetitive practice. The Commission must, and should, introduce this as a separate instrument from competition policy.
I would like to conclude by saying that I am hopeful that we can get your support for the IMCO report in tomorrow's vote and that this institution will send a strong message to the Commission on the measures to be included in the DSA.

Tiemo Wölken,
Berichterstatter. – Frau Präsidentin! Sehr geehrte Frau Kommissarin, in den letzten Wochen war die Dokumentation ‘The social dilemma’ durchgehend in den Top Ten der meistgesehenen Filme auf Netflix. Die Botschaft des Films oder der Dokumentation ist angsteinflößend und sehr eindringlich zugleich.
               

                  Soziale Medienplattformen sind längst kein simples Kommunikationsinstrument mehr, sondern riesige Profitmaschinen, die den öffentlichen Diskurs maßgeblich mit beeinflussen. Das tun sie, indem sie nicht nur darüber entscheiden, welche Informationen wir angezeigt bekommen, sondern auch darüber entscheiden, welche Inhalte überhaupt angezeigt werden dürfen und welche nicht – leider oft auch im Widerspruch zum Recht. Ich will aber gerade nicht, dass die Meinungsfreiheit der Nutzerinnen und Nutzer in Europa in den Händen von privaten Unternehmen liegt, die sich als Hilfssheriffs aufführen und Entscheidungen treffen, die eigentlich nur Gerichte treffen dürfen.
               

                  Wenn wir sagen, dass das Recht online genauso wie offline gelten soll, dann muss Schluss sein mit Eingriffen in die Meinungsfreiheit durch overblocking und willkürliche Löschung durch Plattformen. Deswegen schlägt der JURI-Bericht vor, klare Verfahrensregeln für das Notice-and-Action—System im Umgang mit illegalen Inhalten festzulegen. Das ist wichtig, weil es Rechtssicherheit schafft einerseits für die Plattformen, aber eben auch Rechtssicherheit schafft für Nutzerinnen und Nutzer und deren Grundrechte respektiert.
               

                  Außerdem fordert unser Bericht eine starke europäische Aufsichtsbehörde, die auf die Einhaltung der Regeln achten kann und vor allem die nötigen Durchsetzungsbefugnisse hat, um die gebotene Transparenz sicherzustellen. Eine Online-Plattform darf keine Blackbox sein. Ihr Handeln muss transparent, begründet und nachvollziehbar sein, insbesondere wenn sie so wichtige Entscheidungen über die Meinungsfreiheit der Nutzerinnen und Nutzer trifft.
               

                  Und das führt mich dann zu einem Punkt, auf den ich besonders stolz bin in unserem Bericht, dass wir vorgeschlagen haben, dass wir ein System installieren, das ohne Vorabkontrolle hochgeladener Inhalte auskommt. Tatsächlich schreiben wir der Kommission ausdrücklich vor, dass der Digital Services Act Plattformen nicht dazu anhalten darf, Uploadfilter einzusetzen. Auch der freiwillige Einsatz technischer Hilfsmittel durch Plattformen darf nicht dazu führen, dass Inhalte zum Zeitpunkt des Uploads gescannt und geblockt werden. Und ich glaube, das ist ein riesiger Erfolg nach der Debatte im letzten Jahr und ein Schritt zu einem Internet ohne weitere Uploadfilter.
               

                  Daneben gibt es Inhalte, die zwar legal sind, aber trotzdem großen gesellschaftlichen Schaden anrichten können. Für solche Inhalte wie fake news, Desinformationen, Hassrede und Propaganda können nicht die gleichen Regeln gelten wie im Umgang mit illegalen Inhalten, da solche Inhalte zwar oftmals unter der Geschmacksgrenze liegen, aber eben von der Meinungsfreiheit geschützt sind. Und das Problem, das wir mit solchen Inhalten haben, ist also nicht so sehr, dass es sie überhaupt gibt, sondern dass sie sich wie ein Lauffeuer durch das Internet verbreiten und von Plattformen bevorzugt in die Timelines der Nutzerinnen und Nutzer gespült werden, weil Algorithmen glauben, dass Aufmerksamkeit haschende Inhalte wichtiger sind als demokratische Auseinandersetzung zum Beispiel. Somit können Plattformen ihren eigentlichen Kunden – das sind nicht wir als Nutzerinnen und Nutzer, sondern die Werbetreibenden – eine besonders effektive Unterbreitung von gezielter personalisierter Werbung versprechen.
               

                  Wenn aber Algorithmen die menschliche Neugierde für Aufmerksamkeit erregende Inhalte aus Profitgründen ausnutzen und fake news, Hass und Hetze das Geschenkpapier dafür sind, in dem online personalisierte Werbung verpackt wird, dann müssen wir als Gesetzgeber einschreiten und gegen dieses Geschäftsmodell vorgehen. Deswegen fordern wir in dem Bericht, dass die user mehr Kontrolle über ihre Inhalte bekommen. Sie müssen entscheiden, welche Inhalte ihnen angezeigt werden, und sie müssen entscheiden, ob sie überhaupt gezielte Online-Werbung angezeigt bekommen wollen.
               

                  Wir dürfen nicht zulassen, dass user Algorithmen ausgeliefert sind, die unsere gemeinsame gesellschaftliche Informationsbasis erodieren und unsere Demokratie gefährden. Wenn das der Preis dafür sein soll, dass Unternehmen aus dem Silicon Valley mehr Profite mit personalisierter Werbung machen können, dann ist dieser Preis eindeutig zu hoch, und dieses Geschäftsmodell hat in unserem digitalen Binnenmarkt nichts zu suchen. Deswegen werbe ich ausdrücklich dafür, bei der morgigen Abstimmung trotz des beantragten split vote zur Werbung eindeutig beim Text des Rechtsausschusses zu bleiben. Der split vote zu Ziffer siebzehn will nämlich den Schutz vor eben diesen schädlichen Geschäftspraktiken untergraben – und für uns ist klar, dass das nicht kommen darf, die Geschäftsinteressen der Werbeindustrie dürfen nicht vor den Interessen der Bürgerinnen und Bürger stehen.
               

                  Wir sind zwar – liebe Kolleginnen und Kollegen – in der Europäischen Union noch keine Spitzenreiter, was die Entwicklung von KI angeht, aber mit der Diskussion, die wir hier heute führen, sind wir sowohl China als auch dem Silicon Valley einen großen Schritt voraus. In Europa haben künstliche Intelligenz und digitale Dienste unseren Grundsätzen, unseren Werten und unseren Grundrechten zu folgen und nicht andersherum.
               

Kris Peeters,
rapporteur. – Madam President, online services are everywhere, from the way we inform ourselves to the way we keep in touch with friends; from the way we buy books and clothes to the way we travel; from the way we eat to the way we make a date. Some people born in a different time, like myself, might want to go back to how it was before, because it seems like a simpler time. But we can't. We simply cannot put the genie back into the bottle. The online world with digital services, with artificial intelligence – it's all here to stay. The future will be more digital, not less, and it brings incredible progress that we, as policymakers, should embrace. But… it also brings dangers that we cannot ignore anymore.
Let us be honest with each other, colleagues. The EU has done more to regulate the online world than any other continent. Yet, even here, it is still the Wild West! Over the past decades, we have not followed up on illegal content and illegal activities online with the same rigour as we have illegal activities offline. We have not achieved any meaningful transparency over how algorithms push content to users on a massive scale. We have not grasped the impact of it on our democracies, our culture and our fundamental rights. Instead, we have focused on voluntary cooperation, which is good, but not good enough. Not nearly good enough.
So as this European Parliament discusses these six reports on the Digital Services Act (DSA) and artificial intelligence (AI), I have one overarching message: these digital files matter a great deal more than many people think. We cannot leave this to the private sector without oversight and enforcement. We must keep this in the public debate as a priority and we must regulate, no matter how technical these files are. The difficult challenge before us is to find the balance between digital progress and respect for fundamental rights.
As rapporteur for the Committee on Civil Liberties, Justice and Home Affairs (LIBE) DSA report, I'm raising a few issues right now. The value of lawmaking is the real change it effects. If we start off with conflicting regulations and directives that undermine each other instead of complementing each other, we have lost the battle before it starts. We must respect the scope of each digital file.
Secondly, the fundamentals of the e-commerce Directive were great, but its greatest issue was transparency. We must improve and enforce meaningful transparency, and I call for a clear mandate from this Parliament.
Thirdly, we all agree on the importance of notice and action mechanisms to remove illegal content online, but it places the burden almost entirely on users. We therefore should complement notice and action with clear and appropriate obligations to remove illegal content, and it's the public authorities who should provide the funding to follow up on this.
Finally, I would like of course personally to thank all the shadow rapporteurs and all my colleagues on the LIBE DSA report for their excellent cooperation.

Marcos Ros Sempere,
ponente suplente. – Señora presidenta, voy a tomar la palabra en nombre de mi compañero y ponente de este informe, Ibán García del Blanco, que no puede estar hoy aquí en el Pleno y a quien hay que agradecerle el inmenso trabajo realizado.
               

                  El marco de principios éticos aplicables a la inteligencia artificial es el primer informe de iniciativa legislativa en el paquete sobre inteligencia artificial, elaborado en el Parlamento. La posición del Parlamento Europeo que aprobaremos esta semana será sin duda alguna esencial en la futura normativa europea.
               

                  El informe es el resultado de largas y complejas negociaciones entre todos los grupos políticos, que partían de posiciones muy alejadas, y también del trabajo realizado con las siete comisiones parlamentarias que han emitido opiniones. De parte del ponente, Ibán García del Blanco, quiero agradecerles a todos su trabajo y su compromiso para lograr una normativa totalmente novedosa, que sitúa a Europa en la vanguardia de la creación de una regulación que permita que los avances tecnológicos se transformen en beneficios para todos.
               

                  El informe legislativo contiene una propuesta de Resolución con recomendaciones destinadas a la Comisión y una propuesta de Reglamento europeo que establece los principios éticos aplicables al desarrollo, la implementación y el uso de la inteligencia artificial, la robótica y las tecnologías conexas en la Unión.
               

                  La inteligencia artificial se nos presenta como una tecnología con el potencial de cambiar el mundo tal y como lo conocemos, ofrece grandes oportunidades y conlleva grandes riesgos. Nuestra propuesta es un equilibrio para, por un lado, garantizar la confianza y la seguridad de los ciudadanos en las nuevas tecnologías y, por otro, apoyar la innovación en Europa. Es una propuesta respetuosa con la neutralidad tecnológica y proporciona un marco de futuro adecuado para responder con solvencia y responsabilidad a la rapidez de los cambios.
               

                  Nuestro informe se apoya en la creación de un marco regulador de principios éticos que sea de obligado cumplimiento para los programas informáticos, algoritmos y datos incluidos en la inteligencia artificial, la robótica y las tecnologías conexas que se desarrollen, se implementen o se utilicen en la Unión Europea.
               

                  Todas las tecnologías que operen en Europa deberán respetar esta perspectiva antropocéntrica. La dignidad humana, la autonomía y la seguridad de los ciudadanos no puede ser puesta en entredicho y, del mismo modo, debemos garantizar el cumplimiento de los derechos fundamentales y la legalidad de la Unión. Las tecnologías que impliquen una violación de estos principios no podrán operar en Europa, sin importar dónde se producen ni si tienen soporte o están en la nube.
               

                  En segundo lugar, hemos acordado una aproximación en función de los riesgos que pueden presentar. Serán consideradas de alto riesgo aquellas tecnologías que puedan tener un riesgo significativo de causar un daño o perjuicio -tanto a los ciudadanos como a la sociedad en su conjunto-, violar derechos fundamentales o quebrantar las leyes de la Unión. Para valorar estos riesgos hemos establecido criterios objetivos, atendiendo al sector, a los usos o propósitos y a la severidad de los daños o perjuicios que puedan causar. Esta definición pretende evitar que se produzcan vacíos legales.
               

                  También se incluye una lista exhaustiva de los sectores y de los usos que se consideran de alto riesgo, como la educación, la salud, el empleo y reclutamiento de trabajadores, las finanzas y la concesión de créditos, el transporte automático de vehículos, las decisiones de la administración pública o las cuestiones medioambientales.
               

                  Cuando una aplicación o tecnología sea considerada de alto riesgo, debe asegurar el cumplimiento de una serie de requisitos y obligaciones legales: garantizar el control humano, estrictas normas de seguridad, transparencia, explicabilidad y responsabilidad, fiabilidad de los datos, la no discriminación y la eliminación de sesgos en los algoritmos y los resultados de las decisiones automáticas, con garantías de privacidad muy estrictas en el caso de los reconocimientos remotos con datos biométricos y la exigencia de aplicación de los más rigurosos estándares de gobernanza.
               

                  En el Parlamento queremos garantizar, además, una inteligencia artificial sostenible medioambientalmente y con responsabilidad social, porque una inteligencia artificial ética es democrática, igualitaria, respeta a los trabajadores y a la propiedad intelectual, la diversidad cultural y el derecho a la ilustración digital. Y por ello apelamos a los Estados miembros y a la Unión para que las inversiones en investigación se dirijan a aquellos proyectos que ofrezcan un beneficio social o medioambiental.
               

                  Para asegurar el desarrollo democrático de las tecnologías, tanto las autoridades europeas como las nacionales deberán mantener un diálogo con las partes interesadas, incluyendo la sociedad civil, sindicatos, el establecimiento de los parámetros y estándares de gobernanza, así como prestar apoyo a pymes y empresas emergentes.
               

                  Además de establecer los principios, hemos de controlar el cumplimiento de estas obligaciones. Nuestro modelo refuerza la coordinación europea y enumera las tareas que deben realizarse, entre otras, establecer directrices obligatorias para la evaluación de la conformidad con los principios éticos.
               

                  Cuando se hayan probado, se otorga un certificado europeo de conformidad con los principios éticos. Esta garantía o sello de calidad será voluntaria para aquellas tecnologías que no sean de alto riesgo.
               

                  Cada Estado miembro nombrará una autoridad independiente encargada de aplicar dichas directrices, conceder el certificado europeo y realizar una supervisión continua de cumplimiento con los principios éticos, dotándola de medios y recursos suficientes.
               

                  La Comisión debe evaluar qué organismos y agencias existentes o futuros pueden cumplir con estas tareas.
               

                  Con el ponente, en mi Grupo consideramos que una agencia europea para la inteligencia artificial supondrá un valor añadido para conseguir un objetivo común, compartido por todos los miembros de la Cámara: hacer que la Unión Europea lidere en el mundo una inteligencia artificial ética, que sitúe al ser humano en el centro de su desarrollo y que garantice nuestros principios y valores.
               

Stéphane Séjourné (Renew). – Madame la Présidente, puisque nous parlons de l'intelligence artificielle et des nouvelles technologies, merci beaucoup au Parlement européen et également au bureau de Paris d'avoir donné aux parlementaires la possibilité d'intervenir depuis les bureaux! Merci également au Président du Parlement.
               

                  Madame la Présidente, nous parlons d'intelligence artificielle: celle-ci est présente dans notre vie quotidienne, avec les réseaux sociaux évidemment, avec des algorithmes de tous les jours, et dans notre économie aussi, bien sûr. D'ici 2022, 42 % des tâches seront effectuées par des algorithmes, contre 29 % aujourd'hui: c'est une mesure exponentielle. Deux entreprises sur trois utilisent déjà l'intelligence artificielle au quotidien.
               

                  Deux rapports ont déjà été présentés sur la responsabilité et sur l'éthique. Je voudrais remercier d'abord M. Voss pour son rapport important, car il aborde concrètement la question de la responsabilité, ainsi que la manière de réguler les grandes technologies d'avenir, comme la voiture autonome. Il permet aussi d'avoir un droit qui ne se morcelle pas et d'avoir une législation et une jurisprudence qui soient justement unifiées au niveau européen. Je voudrais remercier aussi M. García Del Blanco, qui lui non plus n'a pas pu être avec vous, pour ses travaux sur la question de l'éthique, qui est une question d'abord de confiance, et à cet égard la transparence n'est pas une fin en soi, c'est un outil de la confiance. Je vais prendre l'exemple de la reconnaissance par l'image: utilisée par les smartphones, la reconnaissance est, quand elle fonctionne, un bon outil, mais il peut y avoir des dérives, comme lorsqu'on voit un certain nombre d'États policiers utiliser cette technologie.
               

                  Mon rapport, Madame la Présidente, constitue lui aussi un élément de protection. Après la protection de l'éthique, après la protection de la responsabilité, il y a aussi la protection des innovations, qui doivent être protégées via la propriété intellectuelle. Nous recommandons à la Commission de revoir cette question et de faire un reset à ce sujet. Jamais la planète n'a eu autant d'idées, puisque 3,3 millions de demandes de brevet ont été déposées l'année dernière, et c'est en perpétuelle augmentation. La question de ce rapport est de savoir qui détient le droit de propriété intellectuelle d'un travail intellectuel entièrement généré par l'intelligence artificielle. Mon rapport, sans vouloir décourager la création humaine, donne un certain nombre de préconisations.
               

                  J'en citerai trois. Nous recommandons justement de ne pas reconnaître la personnalité juridique à une intelligence artificielle. Nous recommandons aussi de distinguer la création qui a été aidée par l'intelligence artificielle d'une création qui a été entièrement générée par l'intelligence artificielle. Il faudra également se doter d'une grande stratégie des données. Je sais que Margrethe Vestager et Thierry Breton sont très sensibles à ces questions. Cette stratégie est nécessaire, nous avons besoin des grands ensembles de données pour qu'un système d'intelligence artificielle puisse se développer et également développer des idées.
               

                  Je finirai, Madame la Présidente, par un point d'actualité qui est peut-être en dehors du champ de mon rapport, mais qui s'inscrit lui aussi dans ce débat conjoint sur la législation sur les services numériques (DSA). L'actualité française nous montre aussi à quel point nous allons devoir réfléchir collectivement à la régulation des données: je parle du drame que nous avons vécu en France avec la décapitation d'un enseignant qui avait été lynché sur les réseaux sociaux pendant des semaines. Pour ma part, je pense qu'il faut mettre fin à l'autorégulation des réseaux sociaux et fin au contenu haineux. Il faut sortir de l'hypocrisie sur cette question-là. Qui peut accepter que des comptes Twitter fassent l'apologie du terrorisme pendant des semaines sans que personne ne fasse rien? À mon avis, personne! Qui peut accepter un tel déversement de haine sur tous les réseaux, sur Facebook? Personne. Qui peut accepter le lynchage en public d'un enseignant qui ne faisait que son travail? Personne. Madame la Présidente, il s'agit de prendre nos responsabilités, avec nos collègues, avec toute la représentation européenne, avec la Commission et en son soutien. Il en va de nos valeurs, de nos valeurs européennes, de nos valeurs de démocratie. Il s'agit de réguler les réseaux sociaux et d'aller un peu plus loin que la seule question des contenus illicites en abordant celle des contenus préjudiciables. Je pense que c'est un bon moyen d'action.
               

                  Merci beaucoup de nous avoir permis d'intégrer cette réflexion depuis le bureau de Paris et depuis d'autres bureaux pour d'autres collègues. J'interviendrai de nouveau s'il le faut dans le débat.
               

Axel Voss,
Berichterstatter. – Frau Präsidentin, liebe Frau Vizepräsidentin Vestager! Zunächst einmal handelt mein Bericht jetzt von Haftung und künstlicher Intelligenz, und ich möchte zunächst einmal den Schattenberichterstattern recht herzlich danken, weil wir hier einen sehr kooperativen spirit hatten, der uns weiter nach vorne gebracht hat, der aber letztlich auch ein starkes Signal sendet, sowohl an die Kommission als auch an die Mitgliedsstaaten. Die Digitalisierung insgesamt ist natürlich für die Gesellschaft, für die Wirtschaft von extrem großer Bedeutung und Herausforderung, aber es geht meines Erachtens eben auch um unser wirtschaftliches Überleben.
               

                  Die künstliche Intelligenz nimmt in diesem Zusammenhang einen besonderen Stellenwert ein und stellt eine besondere Herausforderung dar und ist von strategischer Relevanz für unsere wirtschaftliche Entwicklung insgesamt. Wir werden den Wettbewerb nur wirklich aufnehmen können, wenn wir tatsächlich auch einen digitalen Binnenmarkt hinbekommen, weil wir sonst anderen Regionen dieser Welt einfach zu fragmentiert gegenüberstehen.
               

                  Und deshalb, meine ich, müssen die Mitgliedsstaaten hier auch in sich gehen und auch mal über ihre Kompetenzen hinausgehen und sagen, das ist zum Wohl aller, wenn wir uns über zivilrechtliche Haftung auch entsprechend unterhalten. Da kann man nicht einfach blockieren und dann sagen, das ist unsere Kompetenz. Nein, hier geht es um einen digitalen Binnenmarkt, um unser aller Vorankommen. Folgerichtig fordern wir diesbezüglich im Grunde auch eine Verordnung, und wir meinen das auch wirklich ernst, gerade im Hinblick auf diesen digitalen Binnenmarkt.
               

                  Was hat uns eigentlich dazu geleitet, das zu machen? Wir wollen, dass der Einzelne auch eine Entschädigung erhält wie nach dem normalen nationalen Deliktsrecht. Wir wollen aber auch, dass er nicht darlegen muss, ob es jetzt die Software, die Hardware, die falsche Betreibung oder falsche Algorithmen waren. Wir wollen einfach, dass er entschädigt wird. Wir wollen auch existierenden Haftungsregelungen aus den Mitgliedsstaaten entsprechen. Wir wollen keine Verhinderung von künstlicher Intelligenz und deren System, und wir wollen zukunftsorientiert nach vorne gehen.
               

                  Warum meinen wir, dass das wichtig ist? Wir sitzen jetzt in dieser Zeit da dran, das zu entwickeln. Wir brauchen deshalb eine klare Sicht auf die Dinge, eine Rechtssicherheit, eine Rechtsklarheit, einen voll harmonisierten Rahmen, keine Fragmentierung, um hier die unterschiedlichen Anwendungen im Binnenmarkt auch auszuschließen. Wir wollen auch Klarheit haben – nicht erst durch höchstinstanzliche Gerichte nach fünf bis acht Jahren –, und wir wollen Rechtslücken füllen.
               

                  Deshalb aber gibt es am Ende keine Überregulierung, deshalb ist das Ganze keine Revolution, sondern lediglich das Verbinden von entsprechenden risikoreichen künstlichen Intelligenzsystemen zu dem, was schon existiert, und diese Verbindung zu dem existierenden Recht halten wir auch für vernünftig. Deshalb müssen wir immer nochmal beachten, dass wir als Rechtsausschuss im Moment auch kein kohärentes System bieten können, weil wir internen Regelungen folgend bestimmte Dinge einfach nicht berücksichtigen können.
               

                  Das Ziel ist es hier eigentlich, sich auch nur auf Hochrisikoanwendungen zu beschränken, weil wir denken, nur das macht eigentlich dann auch Sinn, das mit einer entsprechenden Haftung zu versehen. Andere Risiko-KI-Systeme werden ohnehin den normalen Rechtsfolgen von Haftung entsprechend unterzogen.
               

                  Wir wollen wegen der Rechtsklarheit eine klare Liste haben, welches KI-System darunter fällt, und wir wollen als Gesetzgeber flexibel agieren, dass wir auch schnell auf rasante Veränderungen hinweisen können, indem wir der Kommission delegierte Rechtsakte anheimstellen. Darüber hinaus ist auch der immaterielle Schadensersatz angesprochen, und da bitten wir die Kommission zu prüfen, ob es auch hier Harmonisierungsbedarf gibt.
               

Dita Charanzová,
rapporteur for the opinion of the Committee on the Internal Market and Consumer Protection. – Madam President, the Internet is a vital part of our lives and our economy. Because of this, we all should want an Internet that reflects our European values, while being a fair single market for businesses to compete in. This is what the Renew Europe Group wants and this is what is in the Committee on the Internal Market and Consumer Protection (IMCO) report, and for this, I thank the rapporteur.
Renew Europe wants any future European regulation to respect what makes the Internet great, which is the freedom to speak your mind, to upload your creations and to, at the click of a button, share new innovations and new business models which change the world. We don't want to over-regulate. The reason why we have this Internet we love is because we set down very basic rules in Europe and then got out of the way. We let the Internet grow organically. We let innovation and start-ups run free, and here we are 20 years later.
Governments should not get in the way of a global system that is working well. Governments should especially not get in the way of the freedom of speech online. This must be equally true for the EU as a whole.
At the same time, a lot of things in the digital world have changed in 20 years – just look at where this debate is happening. One of these changes is the growth of Internet giants. The Renew Europe group is not against such companies that millions of users use and trust. Nevertheless, we must make sure they play fairly with other companies and take a greater role in social responsibility.
We, however, don't want to force actions where they are not needed – regulation for the sake of regulation. Artificial barriers to foreign companies and the creation of false European champions are not the answer to a strong digital single market in Europe. This is why we call on the Commission to keep this balanced approach as we work on the Digital Services Act and the Digital Market Act.

Alexandra Geese,
Verfasserin der Stellungnahme des mitberatenden Ausschusses für Binnenmarkt und Verbraucherschutz. – Frau Präsidentin, Frau Vizepräsidentin Vestager! Das Internet war und ist ein Ort der Freiheit, insbesondere in autokratischen Staaten, und diese Freiheit zu bewahren, das ist unsere wichtigste Aufgabe. Aber heute ist die Sorge darum riesig: Falschinformationen verbreiten sich mit atemberaubender Geschwindigkeit, Hass und Hetze verdrängen Frauen und Minderheiten aus dem öffentlichen digitalen Diskurs, und auch das bedroht die Meinungsfreiheit.
               

                  Aber wie konnte das geschehen in den letzten 20 Jahren? Heute sind es wenige monopolartige Unternehmen, die maßgeblich darüber entscheiden, was Menschen im Internet überhaupt zu sehen bekommen. Deswegen brauchen wir jetzt eine neue Gesetzgebung für digitale Dienste und neue Regeln für den Wettbewerb.
               

                  Was sind dabei die dringendsten Aufgaben? Wir müssen zunächst einmal einem Werbegeschäftsmodell ein Ende setzen, das Menschen ausspioniert und ihr Verhalten manipuliert. Diese Chance müssen wir auch nutzen, um die Finanzierung der Qualitätspresse wieder auf sichere Füße zu stellen, denn wir brauchen sie so dringend in Zeiten der Unsicherheit. Heute gehen nämlich drei Viertel der digitalen Werbeeinnahmen – in Frankreich und Deutschland zum Beispiel – an Google und Facebook.
               

                  Zweitens: Online-Plattformen müssen offenlegen, nach welchen Grundsätzen sie Beiträge priorisieren. Wir müssen hier Licht ins Dunkel dieser Plattformen bringen, und Nutzerinnen und Nutzer müssen die Möglichkeiten haben, ihre Timelines nach eigenen Wünschen zu gestalten.
               

                  Drittens brauchen wir ganz klare Regeln für den Umgang mit illegalen Inhalten, das heißt detaillierte und verbindliche Notice-und-Action-Verfahren. Transparenz und demokratische Kontrolle also, das sind auch unsere Leitwerte für künstliche Intelligenz. Künstliche Intelligenz muss den europäischen Prioritäten dienen, und das ist im Moment zuallererst der European Green Deal, denn unsere dringendste Aufgabe ist immer noch der Klimaschutz.
               

                  Aber wenn es um Menschen geht, dann brauchen wir strenge Regeln, denn wir wissen, dass künstliche Intelligenz ein guter Diener ist, aber ein schlechter Herr. Wir wissen, dass künstliche Intelligenz Schieflagen aus der Vergangenheit wie Rassismus oder die Benachteiligung von Frauen in die Zukunft projiziert und uns deshalb in der Vergangenheit verankert, und das wollen wir nicht.
               

                  Zuletzt müssen wir europäische Grundrechte auch bei künstlicher Intelligenz wirksam durchsetzen, und das wird nur mit einer europäischen Stelle gehen, die die Interessen der europäischen Bürgerinnen und Bürger auf Augenhöhe mit den global agierenden digitalen Unternehmen vertreten kann.
               

Josianne Cutajar,
Rapporteur għal opinjoni tal-Kumitat għat-Trasport u t-Turiżmu. – Tkellimna ħafna fl-aħħar xhur fuq kif l-Ewropa trid tikseb awtonomija teknoloġika. Ir-rapport li qed niddiskutu llum huwa pass importanti f'din id-direzzjoni. Is-suq globali ddominat mill-ġganti itellef lill-kumpaniji żgħar Ewropej waqt li jimpatta ħażin lill-konsumaturi.
               

                  B'mod li nirrikonoxxu n-natura diġitali tal-pjattaformi jeħtieġ li nżidu r-responsabbiltajiet li għandhom iġorru. Biex nipproteġu aħjar lill-konsumatur jeħtieġ li l-pjattaformi diġitali jkunu mistennija jivverifikaw l-identità ta' dawk li jipprovdu s-servizz tagħhom. Mhux biss, imma neħtieġu protokoll ċar għall-pjattaformi biex jieħdu azzjoni fuq kontenut illegali fl-ispazji tagħhom.
               

                  It-turisti u l-passiġġieri jixraqilhom trattament tajjeb. Dan ifisser servizz trasparenti u li l-konsumatur ikun infurmat biżżejjed biex jagħmel l-aħjar għażliet għalih. Ikollna suq ġust biss jekk kulħadd igawdi mid-data li niġġeneraw il-ħin kollu.
               

                  Huma dawn l-elementi li neħtieġu għal suq inqas frammentat u iktar konsolidat li jipproteġi lill-aktar vulnerabbli u jħares id-drittijiet.
               

Izaskun Bilbao Barandica,
ponente de opinión de la Comisión de Transportes y Turismo. – Señora presidenta, comisaria, el desarrollo de la computación, del Big Data y de los algoritmos han propiciado que la inteligencia artificial sea hoy estratégica. Pero solo las personas podemos garantizar que valores como el pluralismo, la solidaridad y la democracia nos vacunen contra los errores y abusos que pueden convertir esta oportunidad en una pandemia de ‘negligencia artificial’. Necesitamos una legislación clara, sencilla, flexible y común que no perjudique la competitividad de nuestros emprendedores en el mercado global y evite la fragmentación, que controle los procesos de generación y funcionamiento de estas herramientas, detecte riesgos y corrija disfunciones mediante la evaluación permanente y que garantice una participación estructurada de las y los usuarios.
               

                  Este plan global debe animar una intensa actuación local, centrada en coordinar y conocer mejor las capacidades tecnológicas, promocionar talento y apoyar el intraemprendimiento y la creación de nuevas empresas. Así, aportando conocimiento y valor al sistema industrial local, regiones como Euskadi, recientemente señalada como ejemplo de innovación por la presidenta Von der Leyen, deben ayudar a la Unión a ganar competitividad global.
               

                  La inteligencia artificial necesita principios éticos para prevenir sesgos en los algoritmos, clarificar aspectos industriales y jurídicos y establecer fórmulas para determinar y depurar la responsabilidad civil derivada de hechos en los que la influencia de la inteligencia artificial sea clave.
               

                  Este es un aspecto crucial en el ámbito de la movilidad. Desde la Comisión de Transportes y Turismo apostamos por la inteligencia artificial para ofrecer servicios integrados, mejor adaptados a los usuarios y más verdes. Pero advertimos que, sin inversión en infraestructuras para que los datos se recojan y circulen adecuadamente, la tecnología no bastará.
               

                  Los cambios que vienen exigen una visión holística del transporte urbano e interurbano e innovación y formación para consolidar los nuevos oficios que demanda ya la movilidad inteligente.
               

Petra Kammerevert,
Verfasserin der Stellungnahme des mitberatenden Ausschusses für Kultur und Bildung. – Frau Präsidentin, sehr geehrte Kolleginnen und Kollegen! Die bisherigen Debatten zum Digital Services Act haben mir gezeigt, dass wir noch nicht hinreichend verinnerlicht haben, was es eigentlich bedeutet, dass die EU seit nunmehr 15 Jahren Rechtssubjekt der UNESCO-Konvention zum Schutz und zur Förderung der kulturellen Vielfalt und der kulturellen Ausdrucksformen ist.
               

                  Das zufällige Vorhandensein vieler bunter Videos im Netz mag vielleicht unterhaltsam sein, ist aber mitnichten die Sicherung kultureller Vielfalt oder gar von Medienvielfalt. Kulturelle und mediale Vielfalt sind erst dann sichergestellt, wenn wir alle wesentlichen Akteure verpflichten, die Auffindbarkeit journalistischer Inhalte sowie Inhalte der kulturellen Bildung jenseits wirtschaftlicher Interessen ohne Wenn und Aber zu garantieren.
               

                  Dafür braucht es mutige Regulierung, die ansetzt, bevor große Dienstanbieter wichtig oder gar Gatekeeper sind. Dafür braucht es besondere Regelung, weil Medien eben nicht nur Wirtschaftsgut, sondern auch Kulturgut sind und deshalb anders zu behandeln sind als Butter oder Schrauben.
               

                  Nicht die Vielfalt bunter Videos, sondern das Vorhandensein glaubwürdiger und qualitativ hochwertiger Informationsangebote, die für jedermann leicht erreichbar sind, ist die Grundvoraussetzung, um in einer digitalisierten Welt eine sinnstiftende öffentliche Debatte zu ermöglichen, die das Fundament einer freien, demokratischen Gesellschaft bildet. Weil dies so wichtig ist, braucht es insbesondere im Bereich kultureller und medialer Vielfalt besondere Regulierungen.
               

                  Und in einer Welt, in der Big Data und algorithmische Entscheidungen eine immer größere Rolle spielen, stehen wir gleichsam vor einem Paradox: Für die Intermediäre selbst werden die Meinungsbildungsprozesse durch Daten, die ihnen zugänglich sind, immer transparenter. Die Öffentlichkeit aber weiß immer weniger darüber, welche Mechanismen und Einflüsse die politische Meinungsbildung prägen.
               

                  Sie sehen selbst, dass hierfür die Offenlegung von Algorithmen allein nicht ausreichen wird. Es bedarf mutiger und vor allen Dingen vorabgestaltender Vielfaltssicherung und darüber hinaus auch neuer politischer Initiativen für die Sicherung eines unabhängigen Qualitätsjournalismus in der EU. Ich glaube, in dieser Hinsicht haben wir noch eine ganze Menge Arbeit vor uns.
               

Patrick Breyer,
rapporteur for the opinion of the Committee on Legal Affairs. – Madam President, the digital age we live in today permeates our daily lives and even more so our children's lives.
Can we accept that algorithms created by international corporations decide on what we can say and read online, what human rights defenders can say, what dissidents and whistle-blowers can publish?
Do you know that YouTube's filters suppressed a parliamentary debate on torture because they confused it with violence online? Many constitutions ban ex-ante censorship. It is high time we take back control and do the same with censorship machines used by digital platforms.
Secondly, let's tackle the predominant business model of surveillance capitalism. Major platforms are tracking our every click, everything we read and write online, to analyse our personalities, our likes, our weaknesses, our illnesses.
We cannot accept this permanent surveillance of users online, and therefore we need to make sure that we are not subject to pervasive tracking.
Likewise, the right to anonymity is essential to safeguard our identity online and prevent abuses and data losses and sales.
Finally, let's address the gated communities on the internet. Let's make sure consumers can choose which platform to use to ensure competition and to ensure interaction across platforms, to break the dependency and the user lock-in that is predominant on the internet. Let's make sure we take back control of our digital lives.
Let me add one aspect regarding the AI reports. There is some mention here of biometrics surveillance that has nothing to do with the report on AI and IPR protection. Let's make sure that we do not confuse artificial intelligence with surveillance. This language on biometrics surveillance needs to be deleted.

Assita Kanko,
rapporteur for the opinion of the Committee on Civil Liberties, Justice and Home Affairs. – Madam President, we are in the midst of a global tech race. Technology should empower us all, but we see everyday how it can be deployed for malign purposes, from deep-fake videos undermining democracy to the challenge of fully autonomous weapon systems.
The EU is a regulatory power, but we must also be a tech superpower, not only for regulation but also for promoting technology and supporting it. That means developing metadata skills and partnerships with like-minded allies. The only way to ensure ethical development of AI is for the world's democracies to win the global tech race and set the global standards. If China comes first, our ethical frameworks will be nothing more than well-intentioned empty words, and that cannot be.

Marina Kaljurand,
rapporteur for the opinion of the Committee on Civil Liberties, Justice and Home Affairs. – Madam President, as the S&D shadow, first of all, I'd like to thank our rapporteur Kris Peeters and all the other shadows for the constructive work and I'd like to congratulate us all on a balanced and forward-looking report.
This topic is very close to my heart. I come from Estonia, a country where we have had the privilege of enjoying the benefits of online services for almost 30 years and I will continue in Estonian.
COVID-19 kriis tõestas kogu maailmale seda, mida meie Eestis oleme teadnud digiühiskonnast juba ligi kolmkümmend aastat. Me oleme harjunud võimalustega, mida digiteenused pakuvad, ja me teame väljakutseid ning ohte, mida digiteenuste kasutamine kaasa toob.
Olen veendunud, et toimiv digitaalne ühisturg toob majanduslikku ja ühiskondlikku kasu igale inimesele, igale liikmesriigile – Euroopa Liidule tervikuna. Ja mul on hea meel, et oleme jõudnud digiteenuseid reguleeriva korra ülevaatamiseni ja kaasajastamiseni Euroopa Liidu tasemel. E-kaubanduse direktiiv võeti vastu kakskümmend aastat tagasi. See vajab kaasajastamist. Ootan huviga komisjoni digiteenuste õigusakti ettepanekut ja loodan, et see arvestab meie raportis tehtud ettepanekutega, mis keskenduvad eelkõige põhiõigustele ja andmekaitsele. Nimetan neist olulisemaid. Digiteenused peavad tuginema kehtivatele Euroopa Liidu õigusaktidele, kaasa arvatud isikuandmete kaitse üldmäärusele ja e-privaatsuse direktiivile. Peab olema tagatud õiglane digitaalne ökosüsteem, kus järgitakse põhiõigusi, eelkõige väljendus- ja teabevabadust, ning igasugune diskrimineerimine on välistatud. See, mis on ebaseaduslik väljaspool internetti, peab olema ebaseaduslik ka veebis ning kõrvaldatud. Digiteenuste osutajatele, sh veebiplatvormidele peavad olema kehtestatud selged ja konkreetsed kohustused ebaseadusliku sisu kõrvaldamiseks. Paranema peab koostöö teenustepakkujate ja liikmesriikide ametiasutuste vahel. Jätkuvalt peab olema keelatud üldine järelevalvekohustus, mis on täna sätestatud e-kaubanduse direktiivis. Seejuures tuleb rõhutada, et tänaste automaatsete vahenditega ei ole võimalik piisavalt analüüsida ja mõista veebisisu ning lõpliku otsuse tegemine peab jääma inimesele.
Olen veendunud, et digiteenuste turg ei saa olla täielik ja täiuslik ilma üleeuroopalise kehtiva digitaalse ID-ta. Loodan, et komisjon kiirendab tegevusi elektroonilise identifitseerimise määruse jõustamiseks üle kogu Euroopa Liidu territooriumi, sest praeguse tempoga ei saa rahul olla. Ning tunnustan Euroopa Liidu Nõukogu käesoleva aasta oktoobri järeldusi, milles rõhutatakse isikute turvalise identifitseerimise vajadust läbi Euroopa Liidu ülese raamistiku. Tahan rõhutada ka küberjulgeoleku aspekte, nii tavainimese – tarbija aspektist kui ka teenuste pakkumise aspektist. Me kõik vajame koolitust, me kõik vajame pädevat tarbijat.
Head kolleegid, kutsun teid kõiki üles hääletama kõigi kolme raporti poolt.

Margrethe Vestager,
Executive Vice-President of the Commission. – Madam President, I think it is kind of strange: we are few here because this is a digital debate, and yet the energy and the enthusiasm is to be felt. I think that comes from the fact that the work done is truly impressive, because it's work that has involved so many colleagues in this assembly, so many colleagues who have done the effort to study the subjects, to form opinions and to discuss. Even though it will be, I think, a truly amazing debate today, it will in no way do justice to what has gone before this debate, because it is truly a thing that includes the entire Parliament. This is also why it's a bit unfair to start thanking some rapporteurs and leaders in this, but I would say to Alex Saliba, Tiemo Wölken and Kris Peeters that this is outstanding work.
We will respond to your initiatives with two legislative proposals: the Digital Services Act and the Digital Markets Act, and this will reflect ideas. Fundamentally we share the same goals. I think that is most obvious. We want to better protect citizens when they use the internet, whether that is in protection against illegal goods, services, content online. As it was put, we need to make sure that as we feel safe offline we should feel safe online.
Also, to better secure the freedom of expression online. This of course, as you have heard already, is a tricky balance to strike. To achieve this, we need to lay down a solid and impactful EU-wide accountability framework. Obviously that has to come with enforcement, because words alone will not do it; then it would be just window dressing. The balance we will have to strike here is of course that we will have to say to some of the gatekeepers, the largest platforms, that things will change.
Europe is open and we will do this in full compliance with our international obligations, also because we would want to work with the rest of the world to set new standards. In order to do so, we intend to break down legal barriers in the internal market and combat unfair practices by gatekeeper platforms. This will help European innovators, small businesses, to scale, to grow, to be able to compete for our attention, to compete for our business.
With the Digital Services Act I think two things have stood the test of time: no general monitoring of user content is one; and, second, a well-balanced system of liability, and the internal market as the core.
But things have changed, so obviously we also need to set out in law the responsibilities that platforms must have in relation to their role as societal and economic impactors, as they are. This is one of the reasons why we're working on this Digital Markets Act in parallel with the Digital Services Act. This regulation will specifically target large digital gatekeepers defined by objective criteria, setting out a clear list of ‘dos and don'ts’ in full compliance again, of course, with international obligations. It will also provide for a market investigation framework to address digital markets that may be prone to market failure and prone to the creation of new gatekeepers.
On artificial intelligence, let me thank also MEP Ibán García Del Blanco for the intense work. I really welcome Parliament's contribution here. This is ground-breaking, this has not been done before. We share the same ambition to create a sound and future-proof legal framework for trustworthy artificial intelligence in Europe so that people can benefit from AI-driven products and services that are safe and that respect European fundamental rights and values. For this we need an AI framework that creates new opportunities for European businesses to innovate, to scale up. We ought to be the global hub for AI Made in Europe and set the global standard for trustworthy AI.
We want to fully leverage the potential of AI while mitigating associated risks, and I think we all recognise that this is the balance. We will be discussing this back and forth and back and forth, because it is indeed a balance to be struck as not every AI implies a risk. High-risk applications of AI should be put under intense scrutiny. However, we should not define high-risk AI so broadly that it creates legal uncertainty and disproportionately overburdens businesses or hampers innovation. We need to form a framework that is future-proof, and I expect that we will engage in this very intensely because it is indeed a balance.
We also welcome the report for dealing with liability for AI, and here Axel Voss has done outstanding work. It's very impressive, and we agree that the current liability rules are challenged by AI characteristics.
Our institutions also agree on the objective for liability aiming for the same level of protection for victims of AI-related damages, and victims of damages of other technologies. I think that is a very sound and straightforward principle. For what concerns the Product Liability Directive, the Commission appreciates the Parliament report. We will carefully consider it and then we will discuss.
On the Parliament report on intellectual property (IP) rights, I think that shows the pivotal role of IP rights for the EU to become a leader in artificial intelligence. Without this, it will not happen, and we want to thank also MEP Stéphane Séjourné for his excellent work. We need an EU IP framework that enables innovations in the field of AI technologies. Companies in the European Union, must be able to efficiently protect but also to share their inventions in the field of AI technologies. That is what will create excellence in artificial intelligence. Thank you again also for this ground-breaking work.
Last, but not least, I think this will be an amazing debate. We have started it, I think, already in the best possible manner. One of the delights is to see how there is convergence between the different reports, between the thinking of the Commission and what Parliament is proposing here. I think that is very strong because that shows citizens that what we want to create is a society where technology serves humans, where humans are empowered, where humans are in control. We don't want a society where people feel estranged, feel that there is the risk that some machine will take some decision in complete transparency without knowing if their rights are actually being fulfilled. We have one generation to do this. This is now, it is happening, and I do hope that you will recognise many of these valuable points in what we suggest. I'm looking forward not only to the debate today, not only to the proposals, but also to the debate that we will have to make sure that we get a strong European regulatory framework that can actually be enforced in real life.

Lina Gálvez Muñoz,
ponente de opinión de la Comisión de Empleo y Asuntos Sociales. – Señora presidenta, como ponente de la opinión de la Comisión de Empleo y Asuntos Sociales sobre el informe relativo a los aspectos éticos de la inteligencia artificial, elaborado por Ibán García del Blanco en la Comisión de Asuntos Jurídicos, me gustaría subrayar la trascendencia que este expediente tiene para la dignidad y los derechos de los trabajadores.
               

                  La mayor flexibilidad o eficiencia que puedan traer el uso de estas tecnologías no puede ser sinónimo de formas más sofisticadas de explotación o de supervisión de los trabajadores. Como resultado, la ley, nuestro marco legislativo, debe avanzar en una normativa que proteja a los trabajadores contra mecanismos de supervisión y métrica que vulneren su privacidad, su reputación o sus posibilidades de promoción o de permanecer en su puesto de trabajo.
               

                  Debemos asegurar que los datos de los trabajadores pertenezcan a los trabajadores, incluso cuando la relación laboral haya terminado. El desarrollo de esta tecnología debe estar libre de sesgos discriminatorios y de la reproducción de estereotipos de género, de raza, de clase o en función de las preferencias sexuales.
               

                  Esta iniciativa es simplemente un primer paso y debe estar seguida de legislación específica para los temas laborales.
               

Adam Bielan,
autor projektu opinii Komisji Rynku Wewnętrznego i Ochrony Konsumentów. – Pani Przewodnicząca! Działania Unii Europejskiej na rzecz pogłębienia jednolitego rynku usług cyfrowych, które zwiększą suwerenność i konkurencyjność cyfrową Europy, powinny być dla nas – szczególnie teraz, po doświadczeniach epidemii koronawirusa – sprawą priorytetową, jednym z najważniejszych zadań dla tej izby.
               

                  Dlatego z zadowoleniem przyjmuję zobowiązania i postępy Komisji przy wprowadzaniu zharmonizowanego podejścia dotyczącego obowiązków dostawców usług cyfrowych, w tym pośredników internetowych, w celu uniknięcia podziału rynku wewnętrznego i niespójnego egzekwowania przepisów. Wprowadzając nowe przepisy, musimy jednak pamiętać, że obciążanie małych i średnich przedsiębiorstw niepotrzebnymi nowymi obowiązkami może zahamować ich rozwój i uniemożliwić im zdobycie pozycji na rynku.
               

                  Kodeks usług cyfrowych musi być również zgodny z podstawowymi prawami użytkowników i konsumentów, takimi jak ochrona prywatności i niedyskryminacja, a przede wszystkim nie może osłabiać wolności słowa – wielkiej zdobyczy internetu. Chciałbym także podkreślić znaczenie poszanowania odmiennych tradycji narodowych, tak abyśmy walcząc z nielegalnymi treściami, nie narzucali tych samych zasad w całej Europie, na przykład w przypadku budzących kontrowersje wypowiedzi. Dlatego opowiadam się za utrzymaniem zakazu ogólnego obowiązku monitorowania treści i uważam, że należy zapewnić nadzór nad systemem moderowania treści, tak aby nie stał się narzędziem cenzury oddanej w ręce prywatnych firm.
               

                  Kodeks usług cyfrowych może ingerować jedynie w treści nielegalne, nie może być mowy o żadnych kompromisach w kwestii obrony wolności słowa.
               

Svenja Hahn,
Verfasserin der Stellungnahme des mitberatenden Ausschusses für Binnenmarkt und Verbraucherschutz. – Frau Präsidentin! Künstliche Intelligenz ist Alltag für uns. Zum Beispiel, wenn unsere Musikstreaming-App uns neue Songs vorschlägt, basierend auf unseren Hörgewohnheiten. Andere Bereiche sind für die meisten von uns vielleicht weniger alltäglich, aber haben das Potenzial, Produkte, Branchen, ja unser ganzes Leben zu verändern – in der Medizin, in der Mobilität oder in der Landwirtschaft.
               

                  Die EU hat sich nun zum Ziel gesetzt, ein einheitliches Regelwerk zu schaffen. Das ist Pionierarbeit, und man muss auch einfach sagen, es bietet eine echte wirtschaftliche und gesellschaftliche Chance und kann zu einem großen Standortvorteil werden.
               

                  Dabei gibt es drei Punkte, auf die wir besonders achten müssen: Erstens: Wir müssen Innovationen fördern statt bremsen. Wir sollten bei jeder Art von Regulierung technologieoffen bleiben und auf unbürokratische Regeln setzen.
               

                  Zweitens: Bürgerrechte sind nicht verhandelbar. Der Schutz von Grundrechten steht für mich ganz oben auf der Agenda. Massenüberwachung durch automatische Gesichtserkennung darf es genauso wenig geben wie Verpflichtung zu Uploadfiltern.
               

                  Drittens: Die Harmonisierung im Binnenmarkt. Die Chance von künstlicher Intelligenz für Menschen und Wirtschaft heben wir eben nur mit einheitlichen Regeln für den gesamten Binnenmarkt. Denn das schafft größtmögliche Rechtssicherheit für Unternehmen und Verbraucherinnen und Verbraucher.
               

                  Doch dafür müssen wir das Rad nicht neu erfinden. In vielen Bereichen haben wir bereits bestehende Regelungen, zum Beispiel in der Frage der Haftung, in der Frage des geistigen Eigentums. Aber wir müssen genau hinsehen: In welchen Punkten brauchen wir vielleicht Updates, die den Charakteristika von künstlicher Intelligenz entsprechen? Denn unser Ziel muss es sein, einen Rahmen zu setzen, der smart, technologieoffen und nachhaltig ist und auf ethischen Grundsätzen und europäischen Grundwerten basiert. Dann können wir es schaffen, dann kann die Europäische Union es an die Weltspitze schaffen, an die Weltspitze der Innovation.
               

Cláudia Monteiro de Aguiar,
relatora de parecer da Comissão dos Transportes e do Turismo. – Senhor Presidente, o desejo de construir máquinas que substituam as atividades do ser humano existe há séculos. O que antes era considerado o futuro agora faz parte do nosso quotidiano com o nome de inteligência artificial. A inteligência artificial é, pois, um modelo baseado em dados e estes dados são o principal catalisador para a inovação na atual era digital e tecnológica.
               

                  No que respeita aos transportes, seja nos veículos automatizados, nas infraestruturas ou nas soluções inteligentes de gestão de tráfego para mercadorias ou, simplesmente, para a mobilidade, os níveis de automatização e inteligência artificial, além de distintos, são bastante desenvolvidos neste setor face a outros setores.
               

                  O nosso papel enquanto colegisladores é garantir que a União crie princípios comuns adaptados a esta realidade, que no quadro da responsabilidade civil na Europa sejam garantidos os mesmos níveis de proteção aos consumidores quando se trata da utilização na inteligência artificial no espaço físico ou virtual, assegurando confiança nestes sistemas, apoiando a inovação tecnológica sem criar burocracias desnecessárias ao tecido empresarial que tenciona inovar. Julgo que é neste sentido, pois, que todos devemos e temos de trabalhar.
               

Andor Deli,
rapporteur for the opinion of the Committee on Transport and Tourism. – Madam President, as the draftsperson for the Committee on Transport and Tourism opinion on Intellectual property (IP), I can say that the role of AI in these sectors will be crucial.
Traffic safety and security in all transport modes, automated driving, navigation, car manufacturing, the hostility sector – these need access not only to big data but also to standard-essential patents (SEP) and other intellectual property under equal and fair conditions throughout the EU internal market.
But with AI it became obvious that intellectual property protection strategies of the past cannot work. We must develop flexible copyright, patent, trademark design protection and even trade secret rules that will accommodate all these new aspects.
Europe needs these legal instruments fast. We need the IP and AI framework that incentivises innovation and protects Europe's pole position in car manufacturing and in tourism, for example. There is no time to waste, so I am urging the Commission to act as fast as possible.

Łukasz Kohut,
rapporteur for the opinion of the Committee on Culture and Education. – Madam President , while the advantages of AI for society as a whole are indisputable, we need to make sure that everyone benefits from it. Digital social exclusion: without the know-how on the ever-progressing digital tools, many of our citizens will not be able to benefit from them, especially senior citizens. But, not only that, they might also be excluded from certain public spaces completely, if the only way to participate is digitally and they have no such competence.
Education is key. We need custom-tailored digital education at all levels. Education is also paramount for fighting AI-related conspiracy theories, which feed the agenda of those who want to politically cash in on people's fears. Let me just mention 5G or chemtrails conspiracies. So, once again, education is essential for this process to be successful.

Pablo Arias Echeverría,
en nombre del Grupo PPE. – Señora presidenta, señora vicepresidenta Vestager. En primer lugar, quería agradecer al ponente, el señor Saliba, y a todos los ponentes alternativos el esfuerzo y el espíritu de colaboración para llegar a los consensos durante las negociaciones de este informe. Creo que entre todos hemos hecho un buen trabajo y llegado a acuerdos que lanzan un mensaje claro a la Comisión sobre cómo debe abordarse la Ley de servicios digitales.
               

                  La Ley de servicios digitales debe aspirar a crear un mercado único digital más seguro, justo y transparente para todos: ciudadanos, consumidores y empresas, especialmente nuestras pymes. Para ello es importante elaborar una legislación equilibrada ajustada a los retos que nos llegan desde la constante evolución del ámbito digital.
               

                  La Comisión Europea ha establecido tres pilares sobre los que cimentar su estrategia: el pilar digital, el pilar medioambiental -o el Pacto Verde- y el modo de vida europeo. Este informe de la Comisión de Mercado Interior y Protección del Consumidor se basa, por su naturaleza, en el ámbito digital. También reflejamos la importancia del Pacto Verde: el comercio electrónico debe tener en cuenta el impacto medioambiental y actuar en consecuencia, siempre y cuando su práctica no lastre la competitividad de nuestras empresas.
               

                  A lo largo de su historia, nuestros valores y nuestra manera de vivir nos han hecho diferenciarnos del resto del mundo. Nos ha convertido en un ejemplo a seguir en muchos ámbitos. Nosotros no somos ni chinos ni estadounidenses. Aquí tenemos una alta consideración de nuestra privacidad y protección de los datos, no se los cedemos ni a los gobiernos ni a las empresas de cualquier manera. Nos importa la transparencia, queremos saber por qué, cómo y para qué se recopilan nuestros datos y quién se los queda. Cada empresa extranjera que opere aquí debe cumplir con nuestra manera de hacer las cosas.
               

                  En definitiva, tenemos que encontrar nuestra propia manera de regular el ecosistema digital, encontrando un equilibrio que, a la larga, será sin duda una ventaja competitiva para nuestras pymes, nuestros ciudadanos y en general para la Unión Europea.
               

                  Por todo ello, creo que es importante recoger el modo de vida europeo. Sin este tercer pilar el informe queda incompleto. La enmienda que presento en nombre de mi Grupo va en esta dirección, no va en contra de nadie; más bien al contrario, va a favor de todos y cada uno de los europeos y pretende reflejar los valores que nos unen. Solo siendo fieles a los mismos nos convertiremos en un actor relevante en la carrera global digital.
               

Christel Schaldemose,
for S&D-Gruppen. – Tak fru formand og fru kommissær! Vi har en meget bred debat i dag med en lang række aspekter omkring digitalisering og kunstig intelligens, og jeg synes, den er rigtig nyttig. Men jeg vil med min taletid i dag prioritere at kigge på det, der handler om det indre marked og forbrugerbeskyttelsesområdet. Mit budskab i dag til Kommissionen, er ganske kort: Det er, at vi i den fremtidige lovgivning skal sikre, at det, der er ulovligt offline, også fortsætter med at være ulovligt online. Derfor er det også dejligt at høre, at kommisæren allerede har tilkendegivet, at det også er tilgangen fra Kommissionen med den kommende lovgivning, det er rigtig vigtigt. Men vi har set en lang række eksempler på farlige babyrangler, giftige legetøjsfigurer, ubrugelige ansigtsmasker osv. – ting, der bliver solgt i dag online, som er farlige for forbrugerne, noget, vi ikke ville acceptere lå på hylderne i de fysiske butikker. Det er vigtigt at få gjort noget ved det, også når vi får revideret e-handelsdirektivet. Vi skal nemlig sørge for, at forbrugersikkerheden er i top, også når vi handler online, og derfor er jeg også glad for, at den betænkning, vi har lavet i IMCO, lige præcis lægger vægt på dette. Forbrugerne skal være lige så sikre, når de handler online, som når de handler offline.
               

                  Det er også vigtigt – og det sender vi også et signal om i betænkningen – at de virksomheder, som vil sælge varer til de europæiske forbrugere, selv om de kommer uden for Europa – altså virksomhederne – skal overholde de europæiske regler. Hvis de vil have glæde af det europæiske marked, så skal de overholde det, og vi skal sørge for, at det kan ske. Og så synes jeg også, at det er vigtigt at understrege, at forbrugerinformation også er et centralt punkt, når folk handler og agerer online. Vi skal sørge for, at virksomhederne informerer forbrugerne, hvis et produkt bliver fjernet fra deres platform. Så det der sker offline på det almindelige marked i dag, skal i virkeligheden også være noget vi overfører til onlinevirksomhederne i fremtiden. På den måde kan vi sikre, at forbrugerne kan være trygge, og jeg ser frem til, at Kommissionen også tager det med i den kommende lovgivning.
               

Karen Melchior,
for Renew-Gruppen. – Tak fru formand og fru kommissær! Kære kolleger! Jeg taler til jer fra Europa-Parlamentets hus her i København. Jeg vil først spørge jer: Kan I huske de gode gamle dage helt tilbage i 2010, dengang vi stadig troede på, at det nye og fantastiske internet af sig selv ville åbne og demokratisere den offentlige debat, give alle mulighed for at komme til orde, gøre underkuede befolkninger i stand til at organisere sig og vælte diktatorer. De dage kan jeg godt huske. En drøm om et åbent internet for en åben og fri verden. Men sådan blev det desværre ikke. Vi tog fejl!
               

                  En stor del af den offentlige debat er flyttet til de online platforme, og det har givet dem en enorm indflydelse på vores demokrati – og desværre nok ikke for det bedre. Vi har set, hvordan platformenes forretningsmodel har gødet jorden for konspirationsteorier og polarisering, fordi det netop er den type indhold, der skaber interaktion og får dig til at blive bare lidt længere. Det er ikke en forretningsmodel, der har vores offentlige debat og demokratiets velvære for øje. Derfor er vi nødt til at lovgive og stille krav til platformene. For det første skal platformene være gennemsigtige og åbne for samfundets kontrol. Platformene skal have regler for og løbende evaluere deres retningslinjer for indhold og indgå i en dialog om dem. For det andet skal platformene ikke blive til censurmaskiner med brug af uploadfiltre. Fjernelse af ulovligt indhold skal ske efter en transparent proces og med menneskelig kontrol, selvfølgelig med undtagelse af klart ulovligt materiale som opfordringer til terrorisme. For det tredje og sidste skal ansvaret for at afgøre tvister mellem brugere og platform ikke ligge hos platformene selv. Vi sætter heller ikke ræven til at vogte gæs! Onlineplatforme har givet os utallige muligheder, men vi skal adressere de udfordringer, de stiller os overfor og tackle udfordringerne rigtigt. Og det er akkurat det, Retsudvalgets betænkning handler om. Derfor skal vi turde stille krav til platformene med størst magt.
               

                  Som Pippi Langstrømpe ville have sagt: Når man er ekstra stor, har man en ekstra forpligtelse til at være fair over for andre. Jeg håber, Kommissionen lytter og vælger at følge vores anbefalinger, for så er europæerne et skridt nærmere et mere frit og et mere åbent internet. Tak for ordet!
               

Gilles Lebreton,
au nom du groupe ID. – Madame la Présidente, l'intelligence artificielle est une chance à saisir car elle va améliorer l'efficacité de la plupart des activités humaines. Elle est aussi une formidable source d'emplois et de développement économique, notamment pour les start-up et les petites et moyennes entreprises.
               

                  Il faut toutefois être vigilant, car elle peut également constituer un danger. C'est pour y faire face que les trois rapports Voss, García Del Blanco et Séjourné ont été rédigés. Globalement, ces trois rapports ont atteint leur objectif en exigeant que l'intelligence artificielle reste toujours sous contrôle humain pour en éviter les éventuelles dérives les plus liberticides.
               

                  J'approuve particulièrement le rapport Voss, qui a le mérite d'éviter toute centralisation excessive en demandant de confier les dommages causés par l'intelligence artificielle aux régimes nationaux de responsabilité civile pour faute. Ce n'est, à juste titre, que pour les systèmes d'intelligence artificielle à haut risque qu'il préconise un nouveau régime de responsabilité reposant sur l'obligation faite à leur déployeur de souscrire une assurance responsabilité civile, afin de garantir à leurs victimes d'obtenir une indemnisation.
               

                  Tout n'est cependant pas parfait et je déplore notamment que certains rapports persistent à envisager la création d'une nouvelle agence européenne dédiée à l'intelligence artificielle. De mon point de vue, il y a déjà trop d'agences.
               

                  Je regrette aussi que le rapport García Del Blanco envisage d'utiliser l'intelligence artificielle pour censurer les discours de haine et les fausses informations: ce sont des incriminations trop floues qui ouvriront la voie à des abus à l'encontre de la liberté d'expression. Il faudrait les préciser, en dégageant par exemple l'infraction d'incitation au terrorisme islamiste.
               

                  Enfin, en ce qui concerne le rapport Wölken sur les services numériques, j'approuve ses principales orientations, notamment l'idée que la légalité des contenus générés par leurs utilisateurs doit être déterminée par une autorité judiciaire nationale et non par une entité commerciale privée. J'approuve aussi le principe du respect de la liberté d'expression des utilisateurs des plateformes, ainsi que la volonté de lutter contre les formes de publicité ciblée les plus intrusives.
               

                  En définitive, je suis heureux d'avoir contribué à élaborer ces quatre rapports et remercie les rapporteurs d'avoir retenu certaines de mes suggestions.
               

Sergey Lagodinsky,
im Namen der Verts/ALE-Fraktion. – Frau Präsidentin! Die Bundesregierung hat gerade einen Chat-Bot vorgestellt, der uns allen in diesen schwierigen Covid-Zeiten Orientierung bieten sollte – ein Beispiel für künstliche Intelligenz im Kleinen.
               

                  Ich habe den Bot gerade ausprobiert und eine Sache festgestellt: Eine normale menschenähnliche Kommunikation ist abseits von Stichwort-Bingo nicht möglich. Ein Chat-Bot der Bundesregierung ist natürlich kein Spiegelbild der atemberaubenden Entwicklungen, vor denen wir stehen, aber eines zeigt er deutlich: Es kann keine KI ohne Menschen als Schöpfer geben, aber auch ohne Menschen als Endadressaten.
               

                  Unsere Strategien für künstliche Intelligenz müssen menschenzentriert gedacht werden. Und mit diesen Berichten machen wir den ersten richtigen Schritt in diese Richtung. Wir schreiben menschliche Verantwortung für KI fest. Wir schreiben aber auch fest: Verantwortung für Menschen.
               

                  Die Intelligenz mag künstlich sein, aber nur mit echten, nicht künstlichen Grundrechten kommen wir weiter. Und deswegen begrüßen wir ausdrücklich, dass es im Bericht über die Ethik nicht nur um das Philosophieren über abstrakte ethische Grundsätze geht, sondern dies eine Grundlage ist für verbindliche europäische Regelungen und für Grundrechte.
               

                  Da, wo Algorithmen Schäden verursachen – und das begrüßen wir auch in dem anderen Bericht –, soll es nicht nur um Eigentum gehen, das geschützt wird, sondern auch um Persönlichkeitsrechte, um Menschenwürde, um Gleichheit. Wenn der Mensch den Chat-Bot der Bundesregierung nicht versteht, dann ist die Technologie gescheitert. Wenn der Mensch durch Algorithmen diskriminiert wird, dann ist die Technologie gescheitert. Wenn die künstliche Intelligenz das Habitat der Menschen bis zur Unkenntlichkeit verändert und unser Klima zerstört, dann ist die Technologie gescheitert. Und das ist kein Appel für Pessimismus, sondern für den Optimismus des Fortschritts. Das ist das wichtigste für uns.
               

                  Schließlich darf KI ohne eine grüne Bilanzierung nicht gedacht werden. Natürlich brauchen wir die KI für unseren grünen Wandel, aber wir können sie uns nicht vorstellen, ohne auf die Schäden der künstlichen Intelligenz zu schauen. In Frankfurt alleine entstehen 20 % der Energiekosten durch Rechenzentren. Internet verbraucht in Deutschland mehr an CO2-Kosten als Flugverkehr. Das müssen wir ändern, das müssen wir in die grüne Bilanzierung der KI hineinstellen – nur so kommen wir weiter. Keine KI-Technologie ohne Grundrechte und ohne Umweltschutz.
               

Kosma Złotowski,
w imieniu grupy ECR. – Szanowna Pani Przewodnicząca! Szanowna Pani Komisarz! Tworzenie regulacji prawnych w obszarze nowych technologii to wyścig z czasem. Innowacyjne systemy, które wymykają się standardowym definicjom, budzą ogromne nadzieje, ale także liczne społeczne obawy. Dlatego w centrum transformacji cyfrowej musi zawsze znajdować się człowiek, jego godność i prawa. Nie może on być traktowany jako nieświadomy, bierny użytkownik lub – co gorsza – wyłącznie jako źródło danych.
               

                  Pełne wykorzystanie potencjału rewolucji cyfrowej będzie możliwe tylko, jeśli właściwie i transparentnie zdefiniujemy szanse i zagrożenia, jakie niesie ze sobą pełna automatyzacja wielu dziedzin naszego życia. Żadna technologia nie jest jednak niezawodna. Zmiana istniejących przepisów w takich obszarach jak egzekwowanie odpowiedzialności za wypadki i awarie wywołane przez systemy oparte o sztuczną inteligencję jest konieczna. Proces dochodzenia roszczeń i odszkodowań musi być przejrzysty, a identyfikacja podmiotu odpowiedzialnego za wypłaty zadośćuczynienia nie może stanowić problemu.
               

                  Obowiązki w tym zakresie należy rozłożyć adekwatnie do zdolności do kontrolowania ryzyka przez producentów, operatorów i użytkowników systemów wykorzystujących sztuczną inteligencję. To bardzo istotne przy tworzeniu właściwych produktów ubezpieczeniowych, na przykład dla pojazdów autonomicznych. Jestem przekonany, że sprawozdanie pana posła Vossa dobrze definiuje wyzwania w tym obszarze i sugeruje właściwe rozwiązania prawne. Mam nadzieję, że Komisja przychyli się do naszej rekomendacji.
               

PRESIDÊNCIA: PEDRO SILVA PEREIRA


Vice-Presidente


Emmanuel Maurel,
au nom du groupe GUE/NGL. – Monsieur le Président, quel est, au fond, l'enjeu de ces différents textes dont nous discutons ce soir? La question est la suivante: peut-on reprendre le contrôle sur nos vies numériques ? Et est-il possible, est-on capable d'inventer un modèle européen qui soit différent de celui des États-Unis, où on remarque vraiment la recherche du profit à tout prix, et qui soit aussi différent du modèle chinois, où on voit bien que la technologie est mise au service de la surveillance de masse pour que la dictature perdure?
                  

                     Je crois que c'est possible, à condition d'être respectueux d'un certain nombre de principes fondamentaux, d'être capable de fixer des limites et de fixer un cadre. Il y a au moins deux points sur lesquels nous pouvons, selon moi, aller plus loin.
                  

                     Le premier, c'est celui de la reconnaissance faciale. Je partage les doutes qui ont été exprimés par les nombreuses organisations de défense des droits de l'homme, qui ont averti de l'utilisation de la vidéosurveillance pilotée par l'intelligence artificielle, qui va limiter de manière totalement disproportionnée les possibilités de mouvement anonyme et qui constitue une intrusion insupportable dans la vie privée avec, en plus, des risques, parce que l'IA est incapable d'éviter les erreurs d'identification fondée sur le genre, l'âge ou l'origine ethnique. C'est un vrai problème et il faut un moratoire européen sur la vidéosurveillance ou, en tout cas, sur la reconnaissance faciale.
                  

                     Le deuxième point, c'est celui de la protection des consommateurs. Il faut veiller au respect de la propriété intellectuelle, ce qui n'est pas le cas aujourd'hui. Des plateformes comme Amazon ou Alibaba commercialisent des produits contrefaits. Près de deux tiers des produits aujourd'hui, selon le Bureau européen des consommateurs, sont des produits illégaux. Et là, l'Europe doit sévir, parce que ce n'est pas aux plateformes de déterminer ce qui est permis et ce qui ne l'est pas.
                  

                     Enfin, permettez-moi, car je m'exprime depuis Paris, de vous dire qu'il faut absolument que les droits des citoyens, le respect de la dignité et le respect des droits humains soient assurés par les plateformes, pour que nous échappions à ce déferlement de haine numérique qui a abouti, avant-hier en France, à ce meurtre abominable d'un enseignant qui était réellement poursuivi par une fatwa. Cela fait aussi partie du débat sur la récupération de notre souveraineté numérique et le respect des droits des citoyens européens.
                  

Sabrina Pignedoli (NI). – Signor Presidente, onorevoli colleghi, innanzitutto ringrazio i relatori per il loro grande lavoro. Giustamente, il punto di partenza è una riflessione etica da cui devono scaturire leggi adeguate. Non possiamo permettere che la soglia etica dei sistemi di IA scenda sotto quella umana.
                  

                     L'intelligenza artificiale porrà molte sfide. Uno scenario da valutare riguarda il suo uso improprio da parte di organizzazioni criminali e terroristiche. C'è il rischio che i software che gestiscono l'IA vengano sabotati o manomessi.
                  

                     Sarebbe da ingenui pensare che il cybercrime e il terrorismo informatico non compiranno un salto di qualità con l'evolversi dei sistemi di intelligenza artificiale. Furto e contrabbando di dati, hackeraggio, violazione di copyright industriale, sabotaggio e presa in ostaggio di sistemi di IA. Non stiamo parlando di fantascienza, è già successo. Se da un lato dobbiamo proteggere i brevetti che gestiscono i sistemi, dall'altro lato sarà necessario rendere accessibili questi sistemi a chi conduce le indagini, come magistrati e forze di polizia.
                  

                     Si è già visto in passato come le aziende detentrici di sistemi di criptaggio abbiano ostacolato o addirittura rifiutato l'accesso a chi indagava su gruppi terroristici e organizzazioni criminali. Voglio dunque che il testo della Commissione sugli aspetti etici dell'IA rappresenti il giusto equilibrio fra trasparenza dei sistemi, diritto alla riservatezza dei cittadini, necessità investigative per la lotta alle organizzazioni criminali e tutela del copyright.
                  

Geoffroy Didier (PPE). – Monsieur le Président, depuis l'assassinat sauvage d'un enseignant français, Samuel Paty, tué pour n'avoir fait que son métier, ce n'est pas seulement la France qui pleure, c'est le cœur épris de liberté de chaque individu qui saigne. Vendredi, ce sont les valeurs de notre civilisation européenne qui ont été poignardées. Des individus islamistes ont permis ce crime en dévoilant sur les réseaux sociaux le nom et l'adresse de l'enseignant. Un compte Facebook peut devenir une arme létale. Les GAFA ne peuvent plus regarder ailleurs et s'en laver les mains. L'Europe est la bonne échelle pour contraindre les GAFA. Je saisis donc la Commission européenne de trois mesures concrètes.
                  

                     Je propose que les comptes sociaux recueillent, à chaque ouverture d'un compte, une copie de la carte d'identité de son titulaire. Je crois à la possibilité d'utiliser des pseudonymes sur internet, mais il faut que la personne puisse être identifiable en cas de violation de la loi.
                  

                     Je propose que chaque réseau social soit contraint d'afficher sur sa page d'accueil un lien vers une pré-plainte en ligne, lorsqu'il y a lieu, pour créer une véritable capacité de riposte des victimes.
                  

                     Je propose, enfin, un nouveau statut pour les réseaux sociaux car il est indécent qu'ils se réfugient derrière leur statut d'hébergeur pour, en fait, s'exonérer de leur responsabilité. Demain, avec ce nouveau statut, ils pourront être considérés comme complice au regard de la loi en cas d'inertie ou de refus de coopérer.
                  

                     Le temps des petites bougies et des grands discours est terminé. Ce que je propose, c'est une offensive européenne contre la haine sur internet. Nous ne rendrons pas la vie à Samuel Paty, mais l'action n'est plus une option, sinon nous disparaîtrons.
                  

Sylvie Guillaume (S&D). – Monsieur le Président, notre débat sur les textes qui préfigurent la législation sur les services numériques (DSA) a en effet lieu dans un contexte bien particulier aujourd'hui, à la suite de l'attaque terroriste islamiste survenue vendredi en France.
                  

                     La liberté d'expression défendue par ce professeur de collège lui a valu une mise à mort atroce organisée par des obscurantistes. Les réseaux sociaux ont manifestement tenu un rôle fondamental dans cet attentat, puisque s'y sont épanouis des appels à la haine. Certes, les contenus préjudiciables et les incitations à la haine sur internet ne sont pas exactement notre sujet aujourd'hui, mais comment ne pas avoir en tête cette question hautement sensible des outils dont on se dote – ou pas – pour défendre les libertés fondamentales tout en combattant les criminels?
                  

                     Aujourd'hui, les textes portent sur l'acte sur les services numériques. Ils énoncent des pistes d'amélioration sans précédent pour combler les lacunes actuelles de l'environnement en ligne et établir un internet plus sûr pour ses utilisateurs. Je note particulièrement le principe selon lequel ce qui est illégal hors ligne doit également être illégal en ligne, mais aussi un mécanisme contraignant de notification et d'action pour lutter contre les contenus illégaux en ligne, tout en protégeant les droits fondamentaux des utilisateurs.
                  

                     Le texte de mon collègue, Alex Agius Saliba, ambitionne de garantir une meilleure protection des consommateurs en ligne en rendant les places de marché en ligne plus responsables. Celles-ci devront dévoiler l'identité de leurs vendeurs, couvrir toutes les entités qui proposent des services et des produits aux consommateurs, y compris lorsqu'elles sont établies en dehors de l'Union. Elles devront retirer les produits identifiés illégaux mais aussi ceux identifiés comme dangereux dans les 48 heures après notification, et informer les consommateurs de tout problème de sécurité. C'est un premier pas plus que nécessaire au vu des problèmes rencontrés, notamment dans le contexte de crise sanitaire actuelle.
                  

Liesje Schreinemacher (Renew). – Voorzitter, soms ben je weleens op zoek naar een nieuwe oplader of een cadeautje voor je jarige neefje. En dan kom je online spullen tegen voor zulke lage prijzen dat je je afvraagt hoe dit zo goedkoop kan zijn. Het is bijna te mooi om waar te zijn. En dat is het ook!
                  

                     Meer dan twee derde van de producten die op buitenlandse onlinemarktplaatsen worden gekocht, zijn illegaal of voldoen niet aan de Europese veiligheidsvereisten. Hun producenten zijn meestal niet gevestigd binnen de EU, waardoor consumenten ook nog eens met hun klacht naar het buitenland moeten. En nu we online werken, leren en winkelen, groeit de elektronische handel in Europa hard. Dat is goed, maar het is wel belangrijk dat mensen op de kwaliteit en veiligheid van hun producten aan kunnen, zeker omdat onze Europese marktplaatsen en producenten zich – een uitzondering daargelaten – wél netjes aan de regels houden.
                  

                     Ik ben dan ook blij dat de Europese regels voor de onlinedienstverlening worden herzien zodat consumenten beter worden beschermd en onze bedrijven niet op achterstand blijven staan. Dat betekent ook dat als je actief bent in de EU, je een aanspreekpunt in de EU moet hebben wanneer producten of diensten niet voldoen aan de Europese normen. Kortom, ook buitenlandse bedrijven moeten zich op onze markt aan onze regels houden.
                  

                     Door de coronacrisis hebben we ook het potentieel van nieuwe technologieën gezien. Zo helpt artificiële intelligentie artsen bij de zoektocht naar een vaccin en het monitoren van patiënten. Willen we AI op grotere schaal gaan gebruiken, dan is vertrouwen van mensen en bedrijven daarvoor cruciaal. Daar kunnen duidelijke en transparante regels bij helpen.
                  

                     Gelukkig is AI niet nieuw en wordt dit al door verschillende wetten gereguleerd. Ik pleit er dan ook voor dat we bij de introductie van nieuwe regels ervoor zorgen dat die regels in verhouding staan tot de impact van de toepassing. Want een slimme thermostaat voor de verwarming in huis is nu eenmaal niet te vergelijken met een algoritme dat nepnieuws via sociale media verspreidt. De digitale markt is bij uitstek een internationale markt en onze ontwikkelaars moeten wat mij betreft de ruimte krijgen om onze Europese ambities waar te maken.
                  

Alessandra Basso (ID). – Signor Presidente, onorevoli colleghi, ringrazio la sede di Milano per questo collegamento. Il DSA dovrebbe rafforzare il regime di responsabilità e sicurezza delle piattaforme Internet dei servizi e dei mercati online e di tutela dei consumatori, considerando anche la possibilità di regolamentare in modo più rigoroso le pubblicità che si basano sullo studio dei comportamenti, favorendo forme meno intrusive e che non richiedano un'ampia tracciabilità dell'utente rispetto ai contenuti che visualizza.
                  

                     Il provvedimento in votazione chiede che il pacchetto DSA includa anche una proposta che imponga obblighi ex ante alle grandi piattaforme che hanno un ruolo di gatekeeper. L'obiettivo è quello di impedire monopoli e di aprire il mercato a nuovi operatori.
                  

                     Inoltre, nel testo finale, vi è un riferimento esplicito all'obbligo di utilizzo dello strumento di opt-in anche per le pubblicità politiche. Questo può essere utile nel caso di pubblicità di prodotti o servizi, ma la pubblicità politica non è un servizio né un prodotto e ciascuno Stato membro ha la propria legislazione specifica in ambito di pubblicità politica, per cui questo riferimento per noi è inaccettabile.
                  

                     Un altro punto in contestazione è stata l'idea della creazione di una nuova agenzia europea di vigilanza dotata di poteri di indagine e di esecuzione. Il compromesso per fortuna ha portato alla cancellazione della proposta iniziale, ma permane un forte accentramento del sistema di supervisione e controllo in capo all'Unione europea a danno della sovranità dei singoli Stati, che deve invece rimanere intatta.
                  

                     Ritengo poi che sia stato mal contestualizzato il riferimento in materia di e-speech, di disinformazione e di fake news.
                  

Marcel Kolaja (Verts/ALE). – Mr President, I'd like to thank the rapporteur, Mr Saliba, for his work on the Committee on Internal Market and Consumer Protection (IMCO) report on the Digital Services Act (DSA) report, that gives clear political guidance on the Digital Services Act.
With this report, Parliament calls for an active, unified notice and action system, while insisting that the final decision about the illegality of content remains with the courts. This also means that there will be safeguards against notices in bad faith. People will also have the possibility to better understand the reasons why their content was removed and contest removals in an out-of-court dispute settlement mechanism.
At the same time, Parliament calls for interoperability rules that can help SMEs, start-ups or volunteer projects to provide alternatives to dominant platforms. However, transparency on removals, the possibility to contest removals and the possibility to choose alternative services is not enough because, if at the same time we encourage online platforms to use automated filters, we cannot ensure that completely legal speech doesn't get systematically removed. The internet needs to remain a place where people can share time-sensitive information, have an open public debate or promote their products at the time of their choice, and this cannot be guaranteed with automated filters in place.
We ask the Commission to take these points into account in the upcoming legislation. I apologise that I cannot stay longer for the debate because of other commitments I have.

Eugen Jurzyca (ECR). – Vážený pán predsedajúci, smernica o elektronickom obchode je platná už dvadsať rokov, takže mnohé princípy sa zrejme osvedčili. Napriek tomu diskutujme, ktoré nové európske pravidlá sú potrebné od oblasti online trhovísk až po dezinformácie.
                  

                     Často hovoríme o prínosoch pre ochranu spotrebiteľa, ale nepovieme už to, aké náklady vzniknú spotrebiteľovi. Napríklad zakázať cielenú reklamu znie super. Aký to bude mať ale dopad na spotrebiteľa? Niektoré analýzy tvrdia, že príjmy vydavateľov pri zákaze cielenej reklamy klesnú o viac ako 50 %. Mne z toho vyplýva, že nielen služby, ktoré sú dnes kvázi zadarmo, budú platené, ale aj rôzne ďalšie služby môžu zdražieť. Musíme pri každom návrhu vedieť aj to, aké všetky náklady vzniknú spotrebiteľovi.
                  

                     Preto je dobré, že sa do správy podarilo zaradiť, aby boli pravidlá prijímané s ohľadom na celkový dopad na spotrebiteľa (consumer welfare). Ak sa budeme tohto pravidla držať, verím, že pomôžeme nielen spotrebiteľovi, ale aj celému európskemu digitálnemu trhu.
                  

Kateřina Konečná (GUE/NGL). – Pane předsedající, jsem ráda, že se zde bavíme o tématu, které se bude tak významným způsobem podílet na podobě budoucího světa a Evropy – umělé inteligenci. Pronikání systémů umělé inteligence do výroby, služeb a všech odvětví hospodářství je nedílnou součástí průmyslové revoluce 4.0, která bude mít zásadní a širokosáhlé dopady. V konečném důsledku se nebude jednat o změnu technologickou, ale o komplexní proměnu kyberneticko-fyzicko-sociální. Rozvoj umělé inteligence bude mít dopad na celou společnost a na všechny součásti našich životů.
                  

                     Umělá inteligence není pouze robot, jak bychom si mohli představit na základě hry Karla Čapka a sci-fi, ale také software – zjednodušeně algoritmus, což není často zcela zřejmé a může to způsobit problémy s důvěryhodností. Je přitom zcela zásadní, aby se v Evropě užívané systémy těšily zasloužené důvěryhodnosti i na základě dodržování principu legality a předpisů a etických zásad.
                  

                     Dnes jistě mnohokrát zaznělo a ještě zazní, že musíme vytvořit rovnováhu – musíme mít jasná pravidla, avšak nesmíme přílišnými restrikcemi zničit šance evropských firem na trhu. S tímto přístupem lze samozřejmě částečně souhlasit. Také preferuji, abychom v Evropě využívali evropské systémy a technologie a stali se pomyslnými šampiony na světovém trhu. Ovšem nikdy se tak nesmí stát na úkor ochrany evropských spotřebitelů. Domnívám se, že je nutné, aby se v Evropské unii vyvíjely, zaváděly a používaly systémy umělé inteligence pouze, pokud dodržují etické zásady týkající se respektování lidské autonomie, předcházení újmám, spravedlnosti a vysvětlitelnosti.
                  

                     Čtvrtá průmyslová revoluce nám nedává lehké výzvy, ale je nutné se s nimi co nejdříve popasovat. Platí totiž to, že každá příležitost je zároveň potencionální hrozbou, a v sázce je skutečně mnohé.
                  

Clara Ponsatí Obiols (NI). – Mr President, last July, the Guardian reported that many Catalan politicians, among them collaborators of MEP Carles Puigdemont i Casamajó, are being spied on illegally through Pegasus, a software that operates through WhatsApp and sells only to governments.
Since the confirmation that the Spanish Government uses Pegasus to illegally spy on political opponents, there has been no judicial investigation and no one has resigned over this scandal. After all, in Spain, using illegal means, including censorship of web pages, is a routine practice to prosecute Catalan dissidents.
What did the European Commission have to say about this scandal? Nothing. They feel they have the right to preach about fundamental rights all over the world: in Russia, in Belarus and even in the US, but when the abuse happens inside the EU, they selectively use the internal matter mantra and when it applies to Spain violating laws, the Commission is embarrassingly blind.
The Digital Services Act must prevent companies and governments that collude to store data illegally and must also punish Member States that abuse digital technology against citizens.

Andreas Schwab (PPE). – Herr Präsident, Frau Vizepräsidentin, liebe Kolleginnen und Kollegen! Zunächst einmal möchte ich den Berichterstattern gratulieren zu den verschiedenen Berichten, die wir heute besprechen. Und im Kern, Herr Präsident, geht es um eines: Es geht darum, dass Unternehmen in Europa praktikabel und einfach arbeiten können und dass wir einen fairen Markt in Europa herstellen, auf dem europäische Anbieter genauso wie nichteuropäische Anbieter in ordentlicher Weise miteinander im Wettbewerb stehen.
                  

                     Am ersten Prinzip wird das am einfachsten deutlich. Der Kollege Kris Peeters hat es vorher schon gesagt: Was illegal ist – was politisch entschieden wurde, dass es illegal ist – muss auch im Internet illegal sein. Die Entscheidung, was illegal ist, trifft die Politik – die können nicht die Plattform treffen. Das durchzusetzen, wird eine entscheidende Frage sein, die wir mit dem Digital Services Act angehen wollen.
                  

                     Zum Zweiten, Herr Präsident: Natürlich lehnen wir gemeinsam in allen Berichten eine allgemeine Kontrolle der Nutzer auf Plattformen ab. Die Freiheit ist ein Kernprinzip des European Way of Life, den wir als EVP-Fraktion mit besonderem Nachdruck verteidigten.
                  

                     Drittens, liebe Kolleginnen und Kollegen: faire Märkte. Der Kampf gegen Oligopole oder Monopole ist ein Kernprinzip der sozialen Marktwirtschaft, das im digitalen Umfeld leider ein Stück weit in Schieflage geraten ist.
                  

                     Dies zu verteidigen, wird die Aufgabe des Europäischen Parlaments sein, der wir uns mit diesen Berichten gemeinsam verschreiben. Und deswegen, Herr Präsident, hoffe ich, dass der Bericht des Binnenmarktausschusses genauso wie der der anderen Kollegen morgen eine breite Mehrheit findet.
                  

Maria-Manuel Leitão-Marques (S&D). – Senhor Presidente, a inteligência artificial é uma palavra na moda. Alguns maravilham-se com os seus poderes, outros ficam apavorados. A verdade é que ela tanto pode servir para o diagnóstico de um cancro complexo, para prever diabetes, como esses mesmos dados permitirem seleção discriminatória por parte das empresas privadas, por exemplo, seguradoras. Qual destes dois extremos proliferará depende da nossa capacidade de encontrar a regulação adequada que, sem travar a inovação, dê confiança necessária aos cidadãos.
                  

                     Este Parlamento apresentou, hoje, aqui, o seu contributo ao defendermos uma abordagem ética by design para a inteligência artificial. Pretendemos garantir que as suas aplicações são centradas nas pessoas e contribuem para o bem da Humanidade. Contudo, a ética já não é suficiente e, por isso, também discutimos hoje outros aspetos da regulação, desde a certificação à responsabilidade, para garantir que eventuais danos da inteligência artificial sejam mitigados e compensados, aos standards e à harmonização para termos um mercado único de serviços digitais a funcionar.
                  

                     Num mundo de superpotências que usam a tecnologia como instrumento de poder estratégico, a Europa não pode recuar, Sra. Comissária, e ficar a ver passar a onda da inteligência artificial.
                  

                     O Parlamento está aqui para garantir que faremos como a União sempre faz: desenvolve a inovação de ponta, mas no respeito pelos nossos valores básicos e pelos direitos do consumidor.
                  

Moritz Körner (Renew). – Herr Präsident, Frau Vizepräsidentin! Wir beraten heute über den Digital Services Act und wollen damit neue Regeln für die Digitalisierung setzen. Wir wollen die Freiheit im Internet schützen, Chancen, Innovationen nutzen, aber auch negative Effekte wie hate speech und fake news ansprechen.
                  

                     Ich glaube ganz konkret, wenn wir in meinen Bericht, in den LIBE-Bericht, mit reinschauen, an dem ich mitschreiben durfte – ich bedanke mich auch bei dem Berichterstatter, Herrn Peeters –, haben wir dafür gesorgt, dass es mehr Transparenz gibt bei den Algorithmen, dass user mehr Möglichkeiten haben sollen, tatsächlich mitzubestimmen, was sie an Inhalten sehen, dass wir klare Regeln haben für notice und takedown und dass wir auch klarmachen – das haben schon viele gesagt – was illegal ist, das entscheiden auch im Internet Gerichte und das entscheidet am Ende nicht die Plattform.
                  

                     Aber was allen drei Berichten auch gemeinsam ist – und ich finde, das ist ein wichtiges Zeichen –, alle drei Berichte sprechen sich klar gegen Uploadfilter aus, gegen jede Filterpflicht de jure und de facto. Ich finde, das ist ein gutes Zeichen, denn damit emanzipiert sich dieses Parlament heute auch ein Stück weit von einer Entscheidung der letzten Periode zu Artikel 13. Ich weiß, lieber Axel, da sind wir anderer Meinung, aber ich glaube, das setzt auch ein gutes Zeichen an all die jungen Leute da draußen, die auf den Straßen waren, die enttäuscht waren über die Entscheidung des Parlaments, aber die jetzt auch sehen, es macht Sinn, sich einzubringen in diese europäische Demokratie, weil wir diese Dinge auch wahrnehmen, aufnehmen und verbessern. Und das, finde ich, ist heute ein starkes Zeichen.
                  

                     Aber wir setzen jetzt viele wichtige Regeln oder wir wollen viele wichtige Regeln mit diesem Digital Services Act setzen. Aber wir sollten auch mal daran arbeiten, dass wir in Europa besser werden, nicht nur Regeln aufzustellen, sondern sie auch durchzusetzen. Das sehen wir doch bei der Datenschutzgrundverordnung: Wir haben uns tolle Regeln einfallen lassen, und am Ende halten sich die großen Plattformen immer noch nicht daran.
                  

                     Wir sollten also auch beim Digital Service Act ein besonderes Augenmerk darauf legen, kluge, richtige, realistische Regeln zu setzen, und wir sollten vor allem darauf achten, diese Regeln auch in Europa durchzusetzen. Darum geht es.
                  

Christine Anderson (ID). – Herr Präsident! Der Digital Services Act soll also das Patentrezept der EU sein, um Online-Plattformen an die Leine zu legen. Allerdings gibt es auch hier erhebliche Risiken und Nebenwirkungen.
                  

                     Eine Nebenwirkung sind zum Beispiel die sogenannten Faktenchecker. Das Problem ist nur: Faktenchecker checken keine Fakten, sie checken Inhalte auf die richtige – politisch gewünschte – Gesinnung. In der Frankfurter Allgemeinen Zeitung wurde dazu treffend bilanziert – ich zitiere: ‘Das von Facebook als Anti-Fake-News-Brigade angeheuerte Journalistenbüro Correctiv sollte an sich dieselben Maßstäbe anlegen, die es an andere anlegt, auf keinem Auge blind sein und nicht nur in eine Richtung recherchieren.’
                  

                     Der nächste Schritt zum Orwellschen Wahrheitsministerium sind die sogenannten Uploadfilter, die bewirken, dass politisch nicht erwünschte Meinungen gar nicht erst veröffentlicht werden. Wie das geht, haben wir letzte Woche in den USA bereits sehen können: Offenbar ist Präsidentschaftskandidat Joe Biden in einen handfesten Korruptionsskandal in der Ukraine verwickelt, was die New York Post in einer Veröffentlichung thematisieren wollte. Weil aber nicht sein kann, was nicht sein darf, wurde besagter Artikel auf Facebook und Twitter kurzerhand mittels Uploadfiltern blockiert. Und so erfährt die Welt eben nichts von Bidens Korruptionsskandal. Und da kann man wirklich nur hoffen, dass Trump tatsächlich wiedergewählt wird. Ich wünsche ihm jedenfalls dazu viel Erfolg.
                  

                     Artikel 5 des Grundgesetzes garantiert die Meinungsfreiheit und sagt unmissverständlich: ‘Eine Zensur findet nicht statt.’ Aber eine Union, die die Verfassung ihrer Mitgliedsstaaten derart mit Füßen tritt, ist nicht nur nicht demokratisch, sie ist antidemokratisch, diktatorisch und totalitär. Als Deutsche und als Verfechterin des deutschen Grundgesetzes sage ich: Wir brauchen keinen Digital Services Act, wir brauchen keine EU, wir brauchen einen Exit. Je eher desto besser! Exit jetzt!
                  

Kim Van Sparrentak (Verts/ALE). – Mr President, what you and I get to see on the internet is based on what gives big tech companies the highest profits for their shareholders. Their algorithms decide what we get to see, based on clicks, manipulation and micro-targeting.
But the Digital Services Act is our opportunity to rethink and reclaim our internet. We see now that extreme content is often promoted and queer content is sometimes censored by big platforms, but we have no way of holding platforms accountable for these decisions. We can only protect the freedom of speech and the freedom of information if we know what is actually happening online and we regulate the players who control it. Online platforms must be transparent about what they show to whom and why, but also about what they delete from the internet. Only then can we hold online platforms accountable. We need to take the internet back from big corporations and put it back into the hands of the people.

Geert Bourgeois (ECR). – Voorzitter, inzake artificiële intelligentie zijn de VS, China en Japan al aan de spurt bezig, terwijl de EU zich nog op gang moet trekken. We hebben te weinig innovatie, te weinig starters en ook te weinig octrooien. Daarom, mevrouw de vicevoorzitter, moeten wij massaal investeren in onderzoek. Wij zien onze beste onderzoekers en onze beste studenten weggehaald worden door het buitenland.
                  

                     Stel concrete doelstellingen inzake het aantal te behalen octrooien, inzake starters en inzake implementatie van AI door bestaande bedrijven. Reguleren, collega's, ja. Maar onderzoek van het Duitse Bondsministerie heeft aangegeven dat 60 % van de implementaties zonder risico is. Voor de overige 40 % bestaat al sectorreglementering. Het is dus zaak doelgericht te reglementeren en burgers en consumenten te beschermen, maar de ontwikkeling niet af te remmen.
                  

Sandra Pereira (GUE/NGL). – Senhor Presidente, hoje debatemos, com pertinência e atualidade, a inteligência artificial, os seus impactos no presente e a forma como pensamos que deverá impactar o futuro das nossas sociedades.
                  

                     Se é certo que é pertinente que se discutam as questões éticas associadas ao desenvolvimento e produção de tecnologias de inteligência artificial, assim como as questões ligadas aos regimes de responsabilidade civil e a sua necessidade de adequação e adaptação às novas realidades, também é certo que, apesar de os documentos conterem alguns pontos positivos, esta discussão é feita num plano inclinado, um plano inclinado para o lado do capital, onde se visa, no essencial, desresponsabilizar os produtores e os fabricantes, onde as questões éticas se centram mais na promoção e desenvolvimento das tecnologias ligadas à guerra do que nos impactos da inteligência artificial na vida dos trabalhadores.
                  

                     Num momento em que tanto se fala de desenvolvimento tecnológico, economia digital, inteligência artificial, indústria 4.0, para impor novos ataques aos direitos e a lei da selva nos horários de trabalho, mais importante se torna trazer a debate os impactos destes importantes avanços científicos e tecnológicos na vida dos trabalhadores.
                  

                     A inteligência artificial e a robótica contribuem para incrementar a produtividade social do trabalho humano. O aumento da produtividade cria as condições para o aumento real dos salários e para uma vida melhor, mas essa potencialidade é permanentemente posta em causa na sociedade capitalista em prol da defesa e aumento dos lucros.
                  

                     É nestes momentos que é necessário tomar partido. Queremos colocar as potencialidades da ciência e da tecnologia ao serviço do progresso e da justiça social ou, pelo contrário, ao serviço apenas da exploração e da acumulação de lucro de uma minoria.
                  

                     Direitos dos trabalhadores e avanços científicos são aliados, não são inimigos, mesmo que os segundos sejam utilizados tantas vezes como ferramenta de pressão e de chantagem do patronato. A inteligência artificial tem de ser uma aliada da redução do horário de trabalho, do combate à precariedade e à penosidade do trabalho, sem que isso signifique perda de rendimentos para os trabalhadores. Tem de ser aliada na melhoria das condições de trabalho e de vida. É este o debate que trazemos e é nele que estamos empenhados.
                  

Λευτέρης Νικολάου-Αλαβάνος (NI). – Κύριε Πρόεδρε, οι νέες ψηφιακές τεχνολογίες και η τεχνητή νοημοσύνη συνιστούν σύγχρονους δρόμους εκτίναξης της κερδοφορίας των μονοπωλίων. Είναι σφοδρές οι αντιπαραθέσεις ευρωπαϊκών ομίλων με άλλους —κυρίως κινέζικους και αμερικανικούς— για την κυριαρχία στην αγορά, πάνω στο αβέβαιο έδαφος της καπιταλιστικής κρίσης. Τα ευρωπαϊκά μονοπώλια πριμοδοτούνται με δεκάδες δισεκατομμύρια ευρώ, από το Ταμείο Ανάκαμψης και το Πολυετές Δημοσιονομικό Πλαίσιο, που αποτελούν όλα χρήμα από τον μόχθο των λαών, για να βγουν κερδισμένα τα μονοπώλια.
                  

                     Τα περί αυτοελέγχου των ομίλων, σεβασμού δικαιωμάτων, προσωπικών δεδομένων και ηθικής χρήσης των πληροφοριών που συγκεντρώνονται, μόνο με ανέκδοτο μοιάζουν. Η εντεινόμενη λογοκρισία αναρτήσεων —με ή χωρίς αλγόριθμους— ενάντια δήθεν στη ριζοσπαστικοποίηση αποδεικνύει ότι το καθεστώς των νέων τεχνολογιών υπαγορεύεται από τα συμφέροντα των ιδιοκτητών, δηλαδή από τους μεγάλους ομίλους που θησαυρίζουν.
                  

                     Τα περί αποτροπής πολεμικών συρράξεων δεν πείθουν, καθώς ομολογείται ότι ήδη χρησιμοποιούνται νέου τύπου οπλικά συστήματα από το ΝΑΤΟ και την Ευρωπαϊκή Ένωση και γίνονται ιμπεριαλιστικές επεμβάσεις σε βάρος των λαών για την εξυπηρέτηση των γεωπολιτικών τους συμφερόντων, ενώ οι εκθέσεις προετοιμάζουν το έδαφος για να βγαίνουν λάδι σε κάθε περίπτωση τα μονοπώλια.
                  

                     Στην κούρσα του ανελέητου καπιταλιστικού κέρδους, τα μεγάλα τεχνολογικά επιτεύγματα μετατρέπονται σε δεσμά, σε αύξηση της ανεργίας, της ανασφάλειας και της εκμετάλλευσης των εργαζομένων, όπως η τηλεργασία. Απογειώνεται το ευρωφακέλωμα, η μαζική συλλογή, αποθήκευση, επεξεργασία και εμπορία προσωπικών δεδομένων.
                  

                     Πραγματική απελευθέρωση όλων των δυνατοτήτων τους μπορούν να εξασφαλίσουν μόνον οι σοσιαλιστικές σχέσεις παραγωγής, χωρίς εκμετάλλευση, μονοπώλια και καπιταλιστική κερδοφορία.
                  

(O debate está suspenso.)

16.   Voting session

Presidente. – Antes de prosseguirmos o debate, daremos início ao período de votação de hoje. Votaremos os dossiês conforme indicado na ordem do dia.
               

                  O período de votação decorrerá das 19h15às20h30 A votação é realizada segundo o mesmo procedimento utilizado nos últimos períodos de votação. Todas as votações serão realizadas por votação nominal. Os Senhores Deputados poderão verificar os seus votos e os resultados das votações, consultando o documento publicado no sítio Web da sessão plenária.
               

                  As declarações de voto podem ser apresentadas por escrito e, a título excecional, só serão aceites declarações de voto com um máximo de 400 palavras.
               

                  Declaro aberto o período de votação. Podem votar até às 20h30. Os resultados das votações serão comunicados amanhã às 9 horas.
               

                  Aproveito para fazer um aviso. Na sequência da nomeação da nossa colega Miriam Dali como deputada do parlamento nacional, o Parlamento Europeu declara a correspondente abertura de vaga, com efeito a partir de 19 de outubro de 2020, seguindo-se o procedimento habitual.
               
17.   Composition of Parliament : see Minutes
18.   Digital Services Act: Improving the functioning of the Single Market – Digital Services Act: adapting commercial and civil law rules for commercial entities operating online – Digital Services Act and fundamental rights issues posed – Framework of ethical aspects of artificial intelligence, robotics and related technologies – Civil liability regime for artificial intelligence – Intellectual property rights for the development of artificial intelligence technologies (continuation of debate)

Presidente. – Retomamos o debate sobre o Ato legislativo sobre os serviços digitais: Melhorar o funcionamento do Mercado Único – o Ato legislativo sobre os serviços digitais que adapta a regulamentação comercial e o Direito Civil aplicável às entidades que operem em linha – o Ato legislativo sobre os serviços digitais e questões suscitadas em matéria de direitos fundamentais – o Quadro para os aspetos éticos da inteligência artificial, da robótica e das tecnologias conexas – o Regime de responsabilidade civil aplicável à inteligência artificial – os Direitos de propriedade intelectual relativos ao desenvolvimento de tecnologias ligadas à inteligência artificial.
               

Edina Tóth (PPE). – Elnök Úr! A technológia segíti az emberek mindennapi problémáinak megoldását, számos kényelmi funkciót tölt be, magában hordozva a folyamatos fejlődés lehetőségét. Ugyanakkor a technológiai óriáscégek hatalmi, gazdasági súlya és vitathatatlan társadalmi hatása valamennyi uniós tagállam figyelmét kihívta. Az Európai Parlamentben az a feladatunk, hogy biztosítsuk állampolgáraink maximális biztonságát az online térben, illetve garantáljuk az átláthatóság és a számonkérhetőség demokratikus alapértékeinek érvényesülését. Fontos, hogy ami jogellenes az online téren kívül, azt jogellenesnek kell tekinteni az online térben is. Ennek érdekében a platformoknak fokozottabban fel kell lépniük a jogellenes tartalmak gyors felderítése és eltávolítása érdekében. A jogellenes tartalmakkal csak akkor tudunk leszámolni, ha nemzeti szempontokat figyelembe véve a tagállamok összehangoltan és együttesen lépnek fel. A digitális óriáscégek algoritmusokkal napi szinten befolyásolják az életünket, befolyásolják a fogyasztási szokásainkat, döntéseinket. Ezért fontos, hogy a fogyasztók tájékoztatást kapjanak, amennyiben egy digitális szolgáltatás mesterséges intelligenciát használ, és garantálni kell e szolgáltatás mivoltából keletkezett hiba orvoslását is. Ha a problémák kezelése elmarad, a mesterséges intelligencia téves döntésekhez vezethet, hamis adatokkal befolyásolhat egy-egy döntést. Korunk egyik legnagyobb kihívása, hogy képesek leszünk-e kilépni a digitális buborékból és uralni a technológiát, vagy hagyjuk, hogy a technológia vegye át az irányítást az életünk felett. Véleményem szerint egy olyan mesterséges intelligencia ökoszisztémát kell létrehoznunk, amely az emberek érdekeit szolgálja, az embereket állítja a középpontba.
               

Eva Kaili (S&D). – Mr President, I'd like to express my thanks for the efforts made during these challenging times of the pandemic, when people actually expect fast and safe technological solutions; in parallel scientists need access to quality data that are collected faster but with clear consent. So we need to make sure citizens have options when data is collected, when they are recorded on their mics and cameras, and their locations recorded, and we definitely need immediately to set standards, clear standards, to remove regulatory obstacles for a real harmonised digital single market.
At the same time we need to make sure, in order to protect our European quality of life, that the design of algorithms, and the metrics that we request, will be bound by legislation in order to translate ethical principles and human rights to the digital era – by law to ensure that we will not compromise safety or privacy with extra security criteria, and will make sure that automation remains under human control. In this case we can avoid exclusion or manipulation of perception, predicting the policing or ranking of citizens and the profiling of citizens. In that case we can collaborate more with democracies to protect our democracies.

Irena Joveva (Renew). – Spoštovani predsednik! Vsi vemo, da se je meja med 'online' in 'offline' že zdavnaj razblinila. Vsi vemo, kakšne posledice v resničnem svetu ima dogajanje v virtualnem, in vsi vemo, da so trenutne razmere trend digitalne transformacije družbe samo še pospešile.
               

                  A kam vodi trenutni ustroj? Ustroj netransparentnih algoritmov, ki določajo, kako se nam prikazuje svet na podlagi naših osebnih podatkov, ki se prodajajo tistemu, ki je zanje pripravljen dati največ denarja. Ko se dezinformacije širijo veliko hitreje kot karkoli preverjenega in ko algoritmi točno vedo, kdo je najbolj dovzeten za teorije zarot.
               

                  Ta ustroj vodi v enostavno manipuliranje volivcev, v organizirano širjenje dezinformacij in teorij zarot, prodajo nelegalnih, škodljivih izdelkov, sovražni govor, celo spodbuja k nasilju in žal pogosto dejansko vodi v nasilje.
               

                  Vse to – tudi zaradi tistih politikov, ki zlorabljajo strah in jezo ljudi za svoje interese ter bijejo kulturno vojno z mediji in duhovi preteklosti – vse to namensko spodkopava zaupanje ljudi v stroko in avtoritete, znižuje kakovost javne debate ter splošne kulture in posledično onemogoča reševanje resnično perečih težav ljudi.
               

                  Politične manipulacije in bitke interesov na polju naših osebnosti so največja grožnja demokratičnosti. Zato so ključni poudarki poročil Akta o digitalnih storitvah, zahteve o transparentnosti algoritmov, označevanje izvora oglaševanj in zavajajočih informacij ter jasna pravila moderiranja vsebin na spletu.
               

                  Poskušamo najti primerno raven med svobodo govora in poročanja ter zasebnostjo internetnih uporabnikov in zaščito pred zlonamernimi vsebinami. Ljudje naj vedo, kaj in kdo stoji za prikazovanjem vsebin, in naj imajo nadzor nad svojo identiteto.
               

                  Internetni velikani sicer počasi napredujejo pri zaščiti tako uporabnikov kot naših demokracij, pa vendar je nujno, da zasebnim korporacijam ter njihovim algoritmom odvzamemo monopol nad javnim prostorom in od njih zahtevamo več transparentnosti in več odgovornosti.
               

Jean-Lin Lacapelle (ID). – Monsieur le Président, chers collègues, nous sommes à l'aube d'une révolution technologique majeure, celle de l'intelligence artificielle. Cette révolution va bouleverser nos modes de vie et nous avons, comme législateurs, le devoir de prévoir et de préparer le monde qui s'annonce.
               

                  Certains rejettent en bloc les avancées techniques, ils s'opposent à la robotisation de nos systèmes de production, ils imaginent des taxes sur l'intelligence artificielle et les robots, taxes qui nuiront à notre compétitivité. Ils s'opposent aux technologies, comme la 5G, nécessaires à la numérisation de nos sociétés. Ils oublient que chaque innovation que l'Europe voit filer, chaque brevet que nous ne déposons pas, chaque start-up qui quitte notre continent est une arme remise aux mains de nos concurrents étrangers.
               

                  D'autres imaginent un monde post-humain où l'homme fera corps avec la machine, où le libéralisme aura été jusqu'à modifier la place de l'homme: ces apôtres du transhumanisme doivent eux aussi être combattus.
               

                  Mais une synthèse entre la puissance et l'éthique est possible. Notre héritage philosophique grec et chrétien nous permet de naviguer dans les eaux troubles de la modernité. Cependant cette voie ne pourra être la nôtre que si nous sortons de notre léthargie. Dès aujourd'hui, la Commission doit se dresser face aux géants américains et chinois de l'intelligence artificielle, leur interdire de collecter nos données, favoriser l'émergence de géants européens, investir dans la recherche et le développement, mieux rémunérer nos chercheurs pour éviter leur départ chez nos concurrents.
               

                  Tout cela ne pourra cependant se faire qu'en abandonnant votre vision désuète de la concurrence libre et non faussée. L'ouverture des accès à tous les marchés, l'égalité permettant à tous, sans aucune distinction, de se déployer en Europe: tout cela doit cesser. Et quand vous y aurez renoncé, il vous faudra une stratégie. Vous l'avez déjà tenté avec le nuage européen de données Gaia X, en juin dernier, mais vos dogmes vous ont rattrapés et vous avez scrupuleusement saboté cet indispensable projet en l'ouvrant aux entreprises extra-européennes.
               

                  Chers collègues, ne ratons pas cette ultime possibilité de maintenir nos pays européens dans le concert des nations. Il en va de la survie de notre civilisation et de notre indépendance.
               

Gwendoline Delbos-Corfield (Verts/ALE). – Mr President, in this joint debate, we have covered a broad range of subjects, but I will emphasise how much artificial intelligence has an impact on structural inequalities in our societies.
We ask for legislation guided by strong ethical principles with the protection of citizens and the environment as a priority. Regulation must address racial and gender-based discrimination. Such systems need to be subject to constant review and analysis. Further research is needed on the way in which algorithms perpetuate harmful biases. When content is considered problematic or dangerous, who decides how it's removed from platforms? We are particularly concerned that introducing a separate category of legal but harmful context will lead to online censorship.
The text does not contain clear enough language on upload filters. Even more worrying is the call for an electronic identification scheme that paves the way for master variance. This is a huge issue.
Most of all, we must reiterate the importance of digital education. Only by equipping citizens with facts and enabling them to identify disinformation and misinformation can we make sure that we have an inclusive digital transformation.

Joachim Stanisław Brudziński (ECR). – Panie Przewodniczący! Dzisiaj cały cywilizowany świat jest w szoku po okrutnym mordzie dokonanym przez ortodoksyjnego barbarzyńcę na francuskim nauczycielu. Dzisiaj również jest dziesiąta rocznica mordu dokonanego z przyczyn politycznych w Polsce na działaczu Prawa i Sprawiedliwości Marku Rosiaku. Co łączy te morderstwa? Chora nienawiść i fakt, że znaleźli się ludzie, którzy w internecie gloryfikowali, a nawet wzywają do podobnych działań.
               

                  Dlatego cieszy kierunek zawarty w omawianym sprawozdaniu, dotyczący usuwania treści niezgodnych z prawem bez zbędnej zwłoki, szczególnie tych dotyczących dzieci i o charakterze terrorystycznym. Nowe przepisy muszą przyczynić się do zwiększenia bezpieczeństwa w sieci i zwalczania cyberprzestępczości przy jednoczesnym zagwarantowaniu ochrony praw podstawowych użytkowników internetu, w szczególności wolności wypowiedzi i prawa do informacji.
               

                  Należy zwrócić uwagę na niebezpieczeństwo cenzurowania treści pod kątem ich zgodności z polityczną poprawnością narzuconą przez lewicowo-liberalne elity. Nie może być zgody, by pod hasłem walki z niebezpiecznymi treściami niezgodnymi z prawem krępowano prawo do swobody wypowiedzi, np. w zakresie spraw światopoglądowych.
               

Tomasz Frankowski (PPE). – Panie Przewodniczący! Jako poseł z ramienia grupy PPE, odpowiedzialny za pracę przy trzech opiniach Komisji Kultury i Edukacji do ram prawnych Unii Europejskiej dotyczących usług cyfrowych, chciałbym powiedzieć, że te ramy prawne muszą zostać uaktualnione, tak by odzwierciedlić szybką transformację cyfrową. Dlatego z niecierpliwością czekamy na ambitny pakiet wniosków ustawodawczych Komisji Europejskiej.
               

                  Z punktu widzenia Komisji Edukacji i Kultury chciałbym zwrócić uwagę na dwie kwestie. Po pierwsze, to problem niezwłocznego usuwania nielegalnych treści. Jest to szczególnie ważne w przypadku naruszania treści udostępnianych na żywo, takich jak wydarzenia sportowe czy koncerty muzyczne. W swojej opinii Komisja Kultury zawarła wezwanie do Komisji Europejskiej do doprecyzowania, czym jest niezwłoczne usuwanie nielegalnych treści, o których już mowa w artykule czternastym dyrektywy o handlu elektronicznym. Reakcja pośredników internetowych powinna następować natychmiast po otrzymaniu powiadomienia od właścicieli praw, maksymalnie w ciągu 30 minut. Jest to kluczowe w przypadku usuwania nielegalnych treści na żywo.
               

                  Po drugie, chciałbym również powiedzieć o poprawce, którą moja grupa polityczna złożyła w odniesieniu do sprawozdania posła Saliby z komisji IMCO. Mam nadzieję, że uzyska ona szerokie poparcie wszystkich grup politycznych. W tej poprawce chcielibyśmy dodać odniesienie do dyrektywy o świadczeniu usług audiowizualnych. Warto przypomnieć, że akt prawny o usługach cyfrowych powinien mieć zastosowanie bez uszczerbku dla innych legislacji sektorowych, takich jak dyrektywa w sprawie prawa autorskiego czy rozporządzenie o ochronie danych osobowych. Niestety w tym momencie tego odniesienia do dyrektywy o usługach audiowizualnych brakuje, i dlatego proszę o poparcie tej poprawki w głosowaniu.
               

                  Bardzo żałuję również, że w aneksie sprawozdania Komisji Prawnej nie ma niestety konkretnego paragrafu, który jasno mówi, że akt prawny o usługach cyfrowych powinien stanowić ramy horyzontalne uzupełnione istniejącymi i przyszłymi przepisami sektorowymi, takimi jak prawo autorskie i dyrektywa o usługach audiowizualnych, i że prawodawca uniknie kolizji przepisów. Mam nadzieję, że gdy otrzymamy wniosek ustawodawczy z Komisji Europejskiej, będziemy mieć jasne odniesienie w tej kwestii.
               

Evelyne Gebhardt (S&D). – Herr Präsident! Ich melde mich aus dem Verbindungsbüro des Europäischen Parlaments in München und freue mich sehr, dass diese neuen Möglichkeiten geschaffen worden sind. Vernetzte Produkte kommen immer häufiger zum Einsatz, Algorithmen beeinflussen die Verbraucherentscheidungen, sie steuern vernetzte Haushaltswaren, treffen sogar Entscheidungen über Kreditwürdigkeit oder in einer Personalabteilung. Das sind alles Errungenschaften, die sehr schön sind, sehr gut sind.
               

                  Allerdings müssen wir daran denken, dass damit auch immer wieder Gefahren verbunden sind und auch Schäden entstehen können. Deswegen ist es gut und richtig, dass wir uns darüber Gedanken gemacht haben, wie wir dabei das Haftungsrecht an die Entwicklungen im Bereich der künstlichen Intelligenz anpassen können.
               

                  Für uns Sozialdemokratinnen und Sozialdemokraten waren ein paar bestimmte Punkte ganz besonders wichtig, und ich möchte drei davon herausgreifen. Das eine: Es ist uns ganz wichtig, dass nicht nur physische Schäden, sondern auch immaterielle Schäden angegangen werden. Algorithmen werden eventuell mit verzerrten Daten gefüttert und können dazu führen, dass falsche Entscheidungen getroffen werden, die sehr diskriminierend sein können. Sie können zum Beispiel eine Kreditverweigerung bedeuten, und das ist absolut nicht akzeptabel. Da muss dafür gesorgt werden, dass wir Antworten darauf haben.
               

                  Zum Zweiten brauchen wir eine Haftung nicht nur vom Hersteller des Produktes, sondern auch von den Softwareentwicklern, denn sie haben unter Umständen die bessere und größere Kontrolle über das Vorgehen in diesem Bereich.
               

                  Zum Dritten: Wir wollen die volle Umkehr der Beweislast. Wenn eine Kaffeemaschine zum Beispiel defekt ist, dann merken wir es sehr schnell und können eventuell auch als Verbraucherinnen und Verbraucher erkennen, woran das denn eigentlich liegt. Wenn es ein Softwareprodukt ist, dann können wir das allerdings nicht, und deswegen ist es wichtig, dass die Beweislast nicht bei den Verbrauchern und Verbraucherinnen verbleibt.
               

                  Deshalb appellieren wir an die Europäische Kommission: Die Grundrechte müssen auf jeden Fall gewahrt werden in allen Bereichen der künstlichen Intelligenz. Die neuen Regeln müssen verbraucherfreundlich geschaffen werden und in der Risikobewertung alle Gefahren und Schäden betrachten. Und außerdem muss die Produkthaftungsrichtlinie modernisiert werden.
               

Sandro Gozi (Renew). – Monsieur le Président, avec la crise de la COVID-19, nous sommes tous entrés de manière irréversible dans la digitalisation mais nos règles, elles, ont déjà plus de 20 ans, ce qui, dans le numérique, correspond à plus d'un siècle de retard. Retard, car le cercle vertueux et plein d'opportunités que nous présentait internet nous montre aujourd'hui ses limites. L'enjeu, ce sont l'innovation et la compétitivité, et ce sont aussi les libertés publiques et la sécurité.
               

                  La terrible attaque qui s'est déroulée ce week-end en France, à Conflans, nous montre encore une fois l'urgence de légiférer et d'assumer nos responsabilités. Soyons courageux! Aujourd'hui, appelons ensemble à développer un marché numérique sans barrières nationales disproportionnées et injustifiées, à faire face aux risques qui existent pour les citoyens, à augmenter et à encadrer la responsabilité des plateformes. Ce programme du Parlement est ambitieux et j'espère, Madame la Commissaire, Madame la Vice-présidente, que la Commission saura se montrer encore plus ambitieuse sur le devoir de diligence et sur la lutte contre les contenus et pratiques illicites.
               

                  Aucune complaisance ne doit être admise envers les contenus illégaux sur les réseaux sociaux. Comme il a été dit, être libre signifie avant tout être responsable. Cette maxime vaut pour nous tous, citoyens ou plateformes, que ce soit dans la vie réelle ou virtuelle: appelons au civisme sur internet et pensons aux victimes d'aujourd'hui et de demain.
               

Gunnar Beck (ID). – Herr Präsident! Digitalisierung ist notwendig, birgt Risiken, aber auch Chancen. Notwendig ist sie, weil internationaler Wettbewerb Strukturwandel und Modernisierung erzwingt, und ohne Anpassungen keine Volkswirtschaft Bestand hat. Digitaler Wandel birgt Risiken – gewiss – doch der Gesetzentwurf gewährt hier mangelhaften Schutz der Nutzer und ihrer Daten, und die Parlamentsberichte nicht mehr als Erste Hilfe.
               

                  Denn Kommission und Parlament geht es gar nicht um Verbraucherschutz, sondern wie fast immer um Deutungshoheit nicht nur über unerlaubte, sondern auch über unerwünschte Inhalte. Online geteilt werden soll nur, was gefällt – nicht den Nutzern, sondern Justiz, Staatsanwalt und einer neuen EU-Agentur zu diesem Zweck.
               

                  Unser Vertrauen gilt hier eher John Stuart Mill und seinem Glauben an den Durchblick der Vernunft – nicht per Dekret oder Zensur, sondern durch Meinungsfreiheit im dezentralen Wettstreit der Ideen.
               

                  Und seien wir ehrlich: Digitaler Wandel und künstliche Intelligenz sind das Rettende, wenn uns die natürliche Intelligenz knapp wird infolge immer weniger junger Europäer. Denn künstliche Intelligenz setzt knappe menschliche Intelligenz frei und ist sozialpolitisch billiger als unqualifizierte Zuwanderung.
               

Dace Melbārde (ECR). – Mr President, artificial intelligence is set to unchain the next wave of digitalisation that Europe so desperately needs. As past experience has shown, automation creates more jobs, increases productivity and improves the living standards of societies.
Unfortunately, to date, the EU has been slow in embracing AI. Even the discussions are delayed and focus primarily on the potential risks of AI and the need for regulation, as opposed to the enormous opportunities it provides.
Meanwhile, the development of AI as well as public and private investment in it is lagging behind other regions in the world. To catch up, the EU should turn to soft law solutions for AI and incentivise developers who promote trustworthy AI, as stated in a recent non-paper signed by a group of Member States.
Innovation and proportionality – not restriction – is the way forward.

Pilar del Castillo Vera (PPE). – Señor presidente, señora vicepresidenta de la Comisión, en el informe de la Comisión de Mercado Interior y Protección del Consumidor sobre la futura ley de servicios digitales, el Parlamento Europeo transmite un mensaje claro sobre la necesidad de adaptar las normas europeas a la era digital y a la economía de datos.
               

                  El informe, centrándose en la revisión de la Directiva sobre el comercio electrónico, pretende ser una contribución valiosa a la inminente propuesta legislativa de la Comisión. La futura norma debe seguir respetando principios bien establecidos en la Directiva, como la cláusula de mercado interior, la libertad de establecimiento y la prohibición de imponer una obligación general de monitorización a los intermediarios digitales.
               

                  Ahora lo importante, de todas formas, es que se actualice esa Directiva sobre el comercio electrónico y así, por ejemplo, clarifique el régimen de responsabilidad en materia de gestión de contenidos y proporcione herramientas para hacer frente al creciente volumen de mercancías ilegales, que tanto están perjudicando al sector de las manufacturas.
               

                  Dicho esto, el ámbito de actuación de la nueva propuesta debe ir más allá de la Directiva sobre el comercio electrónico y adaptar los conceptos de competencia a la digitalización. Tal y como se ha hecho en otros sectores, los reguladores nacionales deben contar con instrumentos para afrontar el creciente número de barreras para el acceso a los datos que encuentran las empresas para intentar llegar a los clientes. Me refiero a eliminar condiciones de acceso inflexible, al acceso ilimitado de las funciones de los sistemas operativos o también a los datos de las transacciones legales.
               

                  En definitiva, debemos garantizar que en un mercado digital todas las empresas tengan acceso a terceros proveedores en condiciones de igualdad y transparencia, porque eso va a redundar, en último término, en mejores servicios y en una mayor investigación.
               

Adriana Maldonado López (S&D). – Señor presidente, señora comisaria. En primer lugar me gustaría poner en valor el papel que hoy está teniendo aquí el Pleno del Parlamento Europeo. Muchos meses de trabajo de diferentes comisiones del Parlamento Europeo se reflejan hoy aquí en un debate intenso, técnico y con solvencia de diferentes comisiones. Por lo tanto, creo que es importante que la Comisión escuche al Parlamento Europeo y ponga de manifiesto las propuestas que, mediante los diferentes informes que presenta el Parlamento Europeo, llevamos a la Comisión Europea.
               

                  Por lo tanto, estarán de acuerdo conmigo en que la Unión Europea ha cambiado mucho desde el año 1985 hasta el año 2020. Por eso quiero hacer hincapié en la Directiva de responsabilidad por productos defectuosos, que trata de ese año. Pero la sociedad ha cambiado tanto, que esa Directiva no habla en ningún momento ni de teléfonos móviles, ni de ordenadores, ni del teletrabajo, elementos fundamentales en la economía europea, en nuestra forma de relacionarnos, en nuestra forma de trabajar hoy en el siglo XXI.
               

                  Por lo tanto, para los socialistas europeos, es muy importante que se ponga de manifiesto esta actualización del siglo XXI. Es verdad que alrededor del 50 % de los fabricantes de productos europeos utilizan hoy la inteligencia artificial en sus procesos de elaboración de sus productos; y también es verdad que una gran parte de los ciudadanos europeos consideran que la inteligencia artificial no es del todo de su confianza en el uso de su día a día. Por lo tanto, como legisladores, tenemos el reto de ser capaces de trabajar en una Directiva que dé confianza a las instituciones europeas, pero, sobre todo, a nuestros ciudadanos. Esa seguridad tiene que ir amparada, sin duda alguna, en la seguridad de muchos de nuestros productos.
               

                  Y, como se ha comentado aquí también, es fundamental que esa carga de la prueba no recaiga sobre los consumidores. Es verdad que necesitamos empoderar a nuestros consumidores europeos. Necesitamos que los consumidores europeos tengan un mayor conocimiento de todo lo que tiene que ver con las nuevas tecnologías, pero no puede caer sobre ellos una responsabilidad que tiene que ser de los productores.
               

Maximilian Krah (ID). – Herr Präsident! Meine lieben Kollegen, die Europäische Union ist der Raum mit der niedrigsten Innovationskraft von den großen Wirtschaftsräumen in Bezug auf IT und künstliche Intelligenz. Die Musik spielt in den USA und in Asien.
               

                  Wir legen hier einen neuen Regulierungsvorschlag vor, der die Freiheit beschränkt, aber – und das ist mittlerweile typisch geworden – eine neue Agentur und damit neue Beamtenstellen schafft. Ich befürchte, das ist die falsche Schwerpunktsetzung.
               

                  Wir können digitale Entwicklung nur dann regulieren, wenn sie überhaupt stattfindet, und unsere Regulierung muss sie befördern und darf sie nicht weiter einschränken. Wir brauchen nicht mehr Beamte, sondern mehr Forschung. Wir brauchen nicht mehr Regulierung, sondern mehr Freiheit, und das gilt nicht nur für die Technik, sondern auch für die Meinung.
               

                  Vor diesem Hintergrund glaube ich, dass wir wegkommen sollten von einem Gedankenspiel, das darauf basiert, jedes Lebensrisiko rechtlich fassen und für jede mögliche Gesetzesübertretung eine Agentur schaffen zu wollen. Wir sollten wieder hin zu der Bereitschaft kommen, auch Risiken aushalten zu können, weil ein Risiko eben auch immer eine Chance bietet. Eine Chance dafür, dass die Entwicklung weitergeht und Europa vielleicht seine Innovationsschwäche überwindet und dafür seine Regulierungsstärke hinter sich lassen kann.
               

Robert Roos (ECR). – Voorzitter, twee weken geleden vroeg ik aan commissaris Breton hoe hij zou garanderen dat inhoudsmoderatie op onlineplatformen niet de vrijheid van meningsuiting zou ondermijnen. Hij stelde dat de nadruk van zijn beleid zou liggen op het sneller aanpakken van inhoud die al illegaal is, zoals terrorisme en kinderporno. Daarin heeft commissaris Breton uiteraard onze steun.
               

                  Het Europees Parlement gaat echter volledig de verkeerde kant op. Als het aan dit huis ligt, wordt het mogelijk om onwelgevallige of politiek incorrecte inhoud onder het mom van ‘schadelijkheid’ van de sociale platformen te weren, los van het feit of deze inhoud ook als illegaal aan te merken is.
               

                  De vrijheid van meningsuiting is het fundament van onze vrije westerse samenleving, een culturele kernwaarde. Ik reken erop dat de Commissie dit gevaar onderkent en dat zij nooit zal toestaan dat deze culturele kernwaarde in gevaar komt.
               

Henna Virkkunen (PPE). – Arvoisa puhemies, tämä on historiallinen hetki, ensimmäinen kerta, kun Euroopan parlamentin täysistunnossa käytetään puheenvuoro Helsingistä ja vielä mitä parhaimmasta teemasta: digitalisaatiosta ja tekoälystä.
               

                  Nyt meneillään oleva koronapandemia on tarkoittanut isoa digiloikkaa koko Euroopassa, ja varmasti osa näistä muutoksista jää pysyväksi. Samalla se on nostanut myös esiin erittäin isot erot alueiden ja ihmisten välillä ja osoittaa sen, että meidän on investoitava lisää nopeaan moderniin infrastruktuuriin ja yhteyksiin, ihmisten digitaaliseen osaamiseen ja että meidän on investoitava myös lisää digitaalisten palveluiden ja alan tutkimukseen ja innovaatioihin, jotta voimme olla kilpailukykyisiä tulevaisuudessa.
               

                  Tämä on siis samalla myös viesti nyt meneillään oleviin rahoitusneuvotteluihin. Lisäinvestointeja tarvitaan moderneihin nopeisiin yhteyksiin, ihmisten digitaaliseen osaamiseen ja alan tutkimukseen ja tuotekehitykseen. Se on se tapa, miten Eurooppa voi pysyä kilpailukykyisenä ja menestyvänä tulevaisuudessa.
               

                  Mutta investointien ja innovaatioiden lisäksi meidän on varmistettava juuri se, että meillä on sellainen lainsäädäntö, joka tukee uusia innovaatioita ja kannustaa uusien teknologioiden ja uusien sovellusten käyttöönottoon. Samalla on varmistettava, että hyvä kuluttajansuoja ja ihmisten perusoikeudet toteutuvat myös digitaalisessa maailmassa, ja tässä meidän on tärkeää nyt lainsäädännössä löytää oikea balanssi. Me emme saa lähteä ylisääntelemään digitaalisia palveluita tai tekoälyä, mutta meidän on varmistettava samalla se, että kuluttajien ja yritysten luottamus digitaalisiin palveluihin säilyy. Se tarkoittaa sitä, että sääntelyä on uudistettava alustojen vastuun osalta ja meidän on luotava tekoälyyn myös omat eettiset eurooppalaiset periaatteet.
               

PŘEDSEDNICTVÍ: MARCEL KOLAJA


místopředseda


Brando Benifei (S&D). – Signor Presidente, onorevoli colleghi, il voto di domani in Parlamento pone le basi per una moderna normazione dei servizi digitali riformando la direttiva e-commerce che risale al 2000, ben prima dello strapotere delle grandi piattaforme, quando il commercio online era molto meno diffuso.
                  

                     Allo stesso tempo avremo anche i primi frutti del lavoro sull'intelligenza artificiale avviato insieme alla Commissione europea, definendo un quadro generale sugli aspetti etici di responsabilità civile e di proprietà intellettuale, questioni fondamentali per garantire la fiducia dei cittadini verso questa tecnologia e per dare certezza legale alle imprese che vi ricorrono.
                  

                     Con l'approvazione di queste relazioni, stabiliamo un vero e proprio modello europeo per il digitale, fondato sulla centralità dell'uomo e sulla tecnologia, sui nostri diritti e libertà fondamentali, sulla stessa democrazia. Un quadro che garantisca la protezione dei cittadini e dei consumatori, ma anche la promozione dell'innovazione e dell'eccellenza, per sfruttare appieno le grandi opportunità offerte dalle nuove tecnologie e minimizzando così i rischi per la nostra società.
                  

                     Sono particolarmente contento del focus specifico sulla contraffazione del commercio elettronico, a cui ho lavorato, sancendo il principio ‘ciò che è illegale offline è illegale online’ e aprendo l'obbligatorietà di alcune disposizioni, ora volontarie, in materia, proteggeremo ancora meglio i consumatori europei e le nostre aziende dal proliferare di prodotti falsi e pericolosi, una tendenza, purtroppo, aumentata a dismisura durante la pandemia di Covid-19.
                  

                     Andiamo avanti in questo lavoro quindi per un'Europa inclusiva e all'avanguardia nella trasformazione digitale.
                  

Jadwiga Wiśniewska (ECR). – Panie Przewodniczący! Pani Komisarz! Nadszedł czas przyspieszenia, jeśli chodzi o technologie cyfrowe. Pandemia COVID-19 pokazała, jak istotna jest dla nas wszystkich ta dziedzina w tej trudnej sytuacji. Z całą pewnością potrzebujemy mniej biurokracji, a więcej cyfryzacji. A zatem powinniśmy w tej nowej perspektywie postawić na innowacyjność, i co do tego nie ma absolutnie żadnej wątpliwości.
                  

                     Ale wraz z rozwojem cyfryzacji i dostępu do usług internetowych również powinniśmy dużą uwagę zwrócić na chronienie dzieci przed wykorzystywaniem w internecie. I ta kwestia jest dla mnie absolutnie priorytetowa, bo wiemy, że niestety ten proceder jest bardzo szeroko występujący w Unii Europejskiej.
                  

                     I chciałabym również zwrócić uwagę, że projektując rozwiązania, należy pamiętać o zachowaniu równowagi między, z jednej strony, potrzebą bezpieczeństwa, a ochroną przed cenzurą w internecie z drugiej strony, a także o odpowiednich gwarancjach, jeśli chodzi o wolność wypowiedzi i prawo do informacji.
                  

Ivan Štefanec (PPE). – Vážený pán predsedajúci, ochrana duševného vlastníctva je v čase nástupu umelej inteligencie stále dôležitejšou témou. Je zrejmé, že váha duševnej práce bude neustále narastať a jej ochrana tak bude stále dôležitejšia. Do nedávnej doby bol koncept duševného vlastníctva viac-menej jasný. Niekto niečo vyrobil, či vytvoril a ak to iný bez dovolenia okopíroval, porušil tak zákon.
                  

                     V čase digitálnych technológií však do tejto oblasti vstupuje čoraz viac nejasností. Musíme odpovedať na otázky, ktoré by sme nedávno zaradili skôr do sveta sci-fi. Keď bude umelá inteligencia vedieť tvoriť, kto vlastne bude vlastníkom výsledkov tejto tvorby? Kto bude zodpovedný za autonómne rozhodnutia strojov? A čo keď začne umelá inteligencia tvoriť samú seba?
                  

                     Môže sa to zdať predčasné, no vývoj ide obrovským tempom a skôr či neskôr budeme pred tieto dilemy postavení. A vtedy už musíme mať nastavené jasné pravidlá a jasné právne rámce. Hlavným princípom, na ktorý musíme pamätať, je to, že technológie vždy slúžia človeku a spoločnosti a nie naopak.
                  

                     Akokoľvek zložitý stroj či program je vždy napokon len výsledkom ľudského umu a práce. Preto na konci rozhodovania musí byť vždy človek. Tak, ako človek sa vždy môže rozhodnúť, či umelú inteligenciu použije alebo nie, tak aj v procese rozhodovania musí mať konečné slovo len človek. Len tak dokážeme zabezpečiť, aby nám umelá inteligencia slúžila, zlepšovala naše procesy a skvalitňovala naše služby.
                  

Javier Zarzalejos (PPE). – Señor presidente, el debate que estamos teniendo viene dado por la evidencia de que las tecnologías han tenido y tienen un impacto espectacular sobre los modelos de negocio y, al mismo tiempo, sobre la posición de los derechos de los consumidores y de los usuarios.
                  

                     No podemos renunciar a lo que estas tecnologías significan y tampoco someternos a ellas como sujetos pasivos. Necesitamos, por tanto, un entorno seguro desde el punto de vista jurídico, desde el punto de vista tecnológico y desde el punto de vista de la protección que los consumidores esperan. Y es necesario, por tanto, para empezar, que se produzca una armonización real en las legislaciones nacionales, normas claras sobre responsabilidad y la afirmación evidente del principio de que lo que es ilegal fuera de línea, lo es también en línea.
                  

                     Tenemos que asociar, sin duda, a las compañías prestadoras de servicios para que colaboren y aporten condiciones de transparencia y legalidad. Quiero decir que la tecnología es verdad que crea desafíos, pero también la tecnología misma debe ayudar a responder a ellos. Por ello debemos contar con la tecnología presente y la que se desarrolle en el futuro como instrumento para resolver las amenazas y los riesgos específicos del mundo online. Entendemos que no hay que prohibir, sino que hay que regular de acuerdo con la madurez de cada una de las tecnologías.
                  

                     Y finalmente permítanme decir que necesitamos mantener la legislación sectorial para hacer frente a los desafíos y las amenazas específicas que existen en el mundo digital. Entre ellos la regulación de los contenidos terroristas después de que el terrorismo haya vuelto a atentar en Europa contra un inocente, víctima de la libertad.
                  

Arba Kokalari (PPE). – Herr talman! Många av oss i dag i vår uppkopplade värld spenderar väldigt många timmar på nätet. Samtidigt så pågår det på nätet också bedrägerier, sexualbrott och försäljning av olagliga produkter. Hat, hot och falska nyheter får lätt stor spridning, och det har vi sett inte minst nu under pandemin. Vi måste både sätta stopp för kriminaliteten online, men också samtidigt värna om människors frihet på nätet. Det är ett fundament i vår demokrati. I diktaturer har de svårt att hålla isär dessa tankar. Men inom EU, som ändå vilar på en värdegemenskap, har vi ett ansvar att göra det.
                  

                     Jag vill därför se en ny lag där internetplattformar tar bort olagligt innehåll effektivt, utan att man skapar incitament för att de här plattformarna ska bedriva nätcensur. För vi minns alla ändå debatten om länkskatter, uppladdningsfilter och krånglet med GDPR. Därför är det centralt att vi bevarar ansvarsbegränsningen för plattformar och ser till att bara olagligt innehåll tas bort, inte satir eller politiska åsikter. För Europa ska leda digitaliseringen, och människor i Sverige och EU ska kunna använda digitala plattformar på ett tryggt och säkert sätt. Men politikers iver att städa internet får inte gå ut över yttrandefriheten eller skapa överdrivet krångel för småföretag, för då gör vi en björntjänst både för friheten och tryggheten.
                  

Antonius Manders (PPE). – Voorzitter, geachte commissaris, vooral dit onderwerp laat zien dat de markt niet wacht op de wetgever. Kunstmatige intelligentie biedt kansen, maar brengt ook bedreigingen met zich mee. Veel is al gezegd. Inhoudelijk zal ik daar niet op ingaan als voormalig advocaat. Daarvoor is anderhalve minuut veel te kort. Maar ik roep de Commissie op om ons te verzekeren dat wij niet afhankelijk worden van Chinese of Amerikaanse bedrijven. Ik roep de Commissie op om te verzekeren dat Europese gegevens ook daadwerkelijk in Europa blijven.
                  

                     Wij kunnen nu de regels maken die ons een voorsprong geven op de rest van de wereld. Daar moeten we inhoudelijk goed over nadenken. Kunstmatig intelligentie en gegevens zijn namelijk de olie van de toekomst. Als wij daar een voorsprong in nemen, zal dat Europa ook veel bieden. Voor ons is het heel belangrijk dat bij kunstmatige intelligentie en wetgeving die daarvoor wordt voorgesteld, de mens centraal blijft staan. Wij bepalen tenslotte de wetten en niet de kunstmatige intelligentie.
                  

                     Kunstmatige intelligentie moet helpen om actief ouder worden mogelijk te maken en ouderen opnieuw bij onze maatschappij te betrekken. 50 % van de Europese bevolking is 50 jaar of ouder. De helft is dus ouder in de ogen van jongeren. Maar jongeren willen heel graag 50-plusser worden. Dus wat dat betreft praten we voor iedereen. Goede wetgeving is voor iedereen van belang. Ik zie dan ook graag de voorstellen van de Commissie tegemoet.
                  

Tomislav Sokol (PPE). – Poštovani predsjedavajući, danas smo imali doista vrlo kvalitetnu raspravu i čuli smo mnoge argumente o mnogim aspektima uređenja digitalnog tržišta. Jedan od najvažnijih, a to je nešto što se spominjalo više puta, to je pitanje govora mržnje i slobode izražavanja. Ja bih samo, ovim putem, spomenuo da osim zločina, koji je spomenut više puta, koji se dogodio u Francuskoj, bili smo, nažalost, prošli tjedan svjedoci jednog napada na zgradu Vlade Republike Hrvatske u Zagrebu, gdje je nažalost, jedan dvadesetdvogodišnjak pucao po zgradi Vlade i teško ozlijedio policajca koji je bio na straži, odnosno, u osiguranju zgrade Vlade. Nažalost, očito je da je taj dvadesetdvogodišnjak bio motiviran govorom mržnje i fake newsom na internetu, a što je najgore, nažalost, nakon što se taj čin dogodio, mogli smo vidjeti niz izljeva glorificiranja njegovog čina, upravo na društvenim mrežama.
                  

                     To pokazuje koliko je opasno širenje mržnje na internetu, pokazuje koliko je opasno širenje dezinformacija i koliko se moramo boriti protiv takvih pojava. Naravno, to ne znači da nam treba ‘Ministarstvo istine’, to ne znači da smo za cenzuru, to samo znači da moramo postići pravi balans između slobode izražavanja s jedne strane, ali i govora mržnje, koji je itekako opasan i koji može dovesti do ovakvih tragedija u budućnosti.
                  

                     Drago mi je da Komisija djeluje u tom smjeru, drago mi je da su najavljene mjere koje idu upravo prema postizanju tog balansa i vjerujem da ćemo uspjeti postići tu ravnotežu i da ćemo zaštititi sve one vrijednosti koje čine i štite europski način života.
                  

Alex Agius Saliba,
rapporteur. – Mr President, first of all my thanks to all the colleagues who participated in this very interesting discussion. I want to start my last intervention by quoting, as my colleague Tiemo did, the social dilemma: if you are not paying for it then you are the product. And this is the idea that we are fighting throughout our report, by increasing transparency, by increasing consumer protection – we must never treat our citizens just as simple products.
Today we are living in a world where digital services and platforms are essential in our social and economic lives. Just imagine the consequences of the Covid-19 pandemic on our lives without digital infrastructure and without digital industries. These digital services basically helped us to continue with our commercial and social lives. But online platforms and digital services have largely evolved during the past 20 years and therefore, as EU legislators, we need to catch up. The ideas that we are moving forward in our reports are aiming at this target. Therefore we are directly asking the Commission to be ambitious, as we were in our reports, by introducing in its proposal these concepts: know your business customer principle, and know your business customer principle not only for online marketplaces but for all digital service providers; ex ante rules for digital sectors; special responsibilities for online marketplaces to guarantee consumer safety; stricter controls on targeted advertising and the AI mechanism; and a scope that will encompass companies established outside the EU which are targeting us and targeting our consumers.
I want also to reply to a comment made by one of our colleagues and make it totally clear that our proposal is stating explicitly that what we are proposing is without prejudice to the Audiovisual Media Services Directive (AVMSD), to copyright law and to specific legislation. I hope that the report will gain your support in tomorrow's vote.

Tiemo Wölken,
Berichterstatter. – Herr Präsident! Liebe Frau Kommissarin und jetzt auch lieber Michael für die deutsche Ratspräsidentschaft! Ich möchte zunächst nochmal einige Worte zur heutigen Debatte sagen. In der Tat war das eine sehr intensive, sehr aufschlussreiche Sitzung. Es ging auch viel um Rechte von Verbraucherinnen und Verbrauchern, und zu diesem Punkt gibt es auch noch einen Änderungsantrag zu dem Bericht im Rechtsausschuss. Ich werde morgen die Ablehnung der Änderungsanträge in diesem Bereich empfehlen, weil ich glaube, dass sie in den IMCO-Bericht gehört hätten, und weil ich auch glaube, dass wir diese Themen auch sehr gut in den Schattenberichterstattertreffen hätten diskutieren können.
                  

                     Ich möchte noch zwei, drei Worte zu dem Bericht ‘IP rights for artificial intelligence’ sagen, da war ich Schattenberichterstatter: Ich glaube, dass der Erfolg von künstlicher Intelligenz maßgeblich auch davon abhängt, dass Daten verfügbar sind, und es hilft nicht, nur Algorithmen zu trainieren, sondern wir müssen dafür sorgen, dass sie diskriminierungsfrei operieren, und dafür brauchen wir das Teilen und Weitergeben von Daten. Und wir brauchen das, um Datenmonopole aufzubrechen und den digitalen Binnenmarkt für alle Marktteilnehmer fair zu gestalten. Dadurch würden wir Innovation in Europa fördern.
                  

                     Uns Sozialdemokratinnen und Sozialdemokraten ist es aber wichtig, dass es Regeln zu geistigen Eigentumsrechten gibt, die nicht den Effekt haben, dass das Teilen und Wiederverwerten von Daten beeinträchtigt wird. Das Konzept des Dateneigentums lehnen wir ab, genauso wie Regeln, die in der Praxis den gleichen Effekt hätten. Gleichzeitig müssen wir aber gerade darauf achten, dass die Früchte der Arbeit menschlicher Schöpferinnen und menschlicher Schöpfer angemessen geschützt werden. In Zeiten, in denen mehr und mehr Werke mit KI-basierten Hilfsmitteln erarbeitet werden und in denen KI zunehmend in der Lage ist, eigenständig ohne jeglichen menschlichen Input Werke zu generieren, muss der Wert menschlicher Arbeit insbesondere im Kunst- und Kreativsektor anerkannt werden.
                  

                     Und ein letzter Satz noch zu dem weiteren DSA: Wir haben hier heute deutlich gemacht, dass es uns um die Meinungsfreiheit im Internet geht und dass wir bereit sind, dafür zu kämpfen. Wir freuen uns auf den Vorschlag der Kommission im Dezember.
                  

Kris Peeters,
rapporteur. – Mr President, first of all, I would like to thank you for this debate. The core ideas for the Digital Services Act (DSA) are clear. The DSA must improve the framework for digital service providers to stimulate growth, but it must also make the fight against illegal content more successful and it must improve transparency and oversight.
Our core idea for digital intelligence should be clear as well. Either we develop AI based on our own values and with economic benefits or we end up using AI developed on other continents without those values and without a large part of the economic benefits. A strong risk-based approach offers the best way forward here.
These challenges are difficult, but I fully support the efforts of all the rapporteurs here today. We are not even close to a satisfying legal situation, but these reports are an excellent start. Madam Commissioner, listening to your reaction, I am very positive about the proposals that you will make and we can discuss very soon.

Axel Voss,
Berichterstatter. – Herr Präsident, liebe Frau Vizepräsidentin Vestager, lieber Herr Roth. Ich finde es schön, Herr Roth, dass Sie heute Abend noch zu dieser eigentlich wichtigen Debatte gekommen sind, und ich möchte gerne auch nochmal darauf Bezug nehmen, was ich vorhin gesagt hatte. Wie schaffen wir es eigentlich, all die guten Ideen, die jetzt seitens der Kommission oder auch seitens des Parlaments kommen, in die Mitgliedsstaaten entsprechend hineinzutragen?
                  

                     Wenn es Europa nicht gelingt, als eins zu handeln am Ende des Tages, werden wir den Wettbewerb gegenüber China und den USA letztlich nicht gewinnen können. Deshalb brauchen wir hier, glaube ich, ein anderes mind setting in den Mitgliedsstaaten, nämlich, dass wir ein europäisches Ziel verfolgen und nicht ein nationales Ziel auf europäischer Ebene.
                  

                     Ich weiß nicht, wie wir das hinkriegen, und es soll kein Vorwurf an Sie sein, weil ich weiß, dass Sie da ganz anders aufgestellt sind. Aber ich glaube, das ist eines der wesentlichsten Dinge, warum es uns nicht gelingen wird, sollten wir mit Europa nicht vorankommen, oder warum es uns nicht gelingen wird, das dann entsprechend umzusetzen. Deshalb meine ich, müssen wir darauf hinarbeiten, dass wir wirklich als eins handeln.
                  

                     Natürlich sind die einzelnen Punkte, die wir heute vorgestellt haben, nur ein kleiner Baustein dazu. Wir brauchen darüber hinaus viele, viele andere kleine Punkte, ob nun Geld, Investment und Infrastruktur etc., um digital souverän zu werden, um mithalten zu können.
                  

                     Es liegt, meine ich, auch an den Mitgliedsstaaten, dass wir uns hier zu sehr blockieren, und darum würde ich bitten, dass wir da nochmal vorankommen. Wir brauchen, glaube ich, eine vernünftige Strategie, eine Konzeption diesbezüglich, und ich glaube, das, was wir heute gehört haben, kann auch noch verbessert werden durch die Kommission selber.
                  

                     Letztlich müssen wir, glaube ich, auch die Regeln, die wir haben, nachher durchsetzen. Aber bei all dem führt kein Weg daran vorbei, dass wir als Einheit handeln müssen und uns nach vorne orientieren müssen und eben nicht nur darauf bedacht sein dürfen, dass es in Frankreich, Deutschland, Spanien etc. irgendwie gut läuft. Wir müssen als Europa in Gänze den Schritt nach vorne wagen.
                  

Margrethe Vestager,
Executive Vice-President of the Commission. – Mr President, this has indeed been a rich, nuanced, very, very good debate. We have come from liability, intellectual property rights, innovation, hate speech, upload filters, consumer protection – I think we have shown the width and the depth of the work that has been ongoing here.
But, the thing is that the fundamental question is answered with a ‘yes’. Can we have a European model? There are other models, obviously. But the debate tonight has shown with all clarity that no one wants just to leave that to the state. Neither will anyone just say, ‘well, let business take care of this’.
Now this has been a promise: that democracy will shape our society. That promise has been given tonight by everyone who has been taking the floor, that in our democracy we will shape this – for the state, for the business community, to serve the real asset here, which is the individual citizen, and that I find extremely promising.
Obviously, the level of complexity is quite high. There's been a lot of very nuanced speeches, trying to balance that on the one hand, there are so obviously things that should not be out there, because it's illegal in the offline world, while at the same time, no one wants censorship, no one wants the state to control. No one wants to limit a debate that can be free and nurture our democracy and that, of course, is the thing that we will have to grapple with in the months to come.
I just read an article in a Danish paper, in Danish, about artificial intelligence and part of that article was written by AI, in my mother tongue, on a rather complex subject, and I couldn't distinguish what was written by the authors and what was written by AI. Maybe the grammar was slightly better by the AI – I wouldn't know, but it's just to say that when we're in a world where artificial intelligence can write an op-ed, can write a poem, can write music, and we cannot tell the difference anymore, then it's about time that democracy catches up with technology. Otherwise we cannot stand by the promise that the humans are the empowered here and that the machine is a servant.
The thing is that now the digital world, the online world, is not another world. It's our world. For the children who are being bullied, it is just as real as when it was in the schoolyard back in the day. For the people who decide not to participate in democracy because of the hate speech online, it is as real as if someone has threatened them offline. This is our world and this is now, when we went to frame it, because it has matured. Back in the digital stone age, in the year 2000, of course, how could we have known any better? But this is the time and with this level of complexity, what a pleasure it is to see that we then discuss the principles.
What are the fundamentals? That humans are in control; that transparency, responsibility, accountability, is what we want to work with; that you should know your customer; that you should be able to identify yourself to create the trust that people know who they are dealing with and you know that you are in control of the data that you create.
The principle of freedom, of fair markets. I think that is the core of the debate today and then, of course, the obvious: that the legislation that we will discuss and hopefully decide upon, should be implemented, should be enforceable, so that these promises are not empty, that it's not just more words on paper, but that it's real rights for citizens, for businesses, in the real world, to make the best possible use of digital technologies. It is, of course, a framework of legislation. It is the Digital Services Act, the Digital Market Act, it's the legislation on artificial intelligence. It will be the Data Governance Act and the Data Act and the European Digital Identity, just to mention the most obvious things.
That should create ecosystems of excellence – because Europe has so much to offer. We have a culture of doing this and we will do it again. This is how we can create an ecosystem of trust, so that citizens do not feel estranged to a society that they have seen in the movies and found fascinating, but never ever wanted to live in.
And obviously, as was just said, this is a European debate that should be rooted in every Member State. As we have seen with all the different proposals coming in every Member State because this is not just something down in Brussels. This is grown from every Member State but it needs a European response and this response you have given tonight by a promise that democracy will make sure that we frame this.

(Applause)


President. – The joint debate is closed.
The vote will take place on Tuesday, 20 October 2020.


Written statements (Rule 171)



Andrus Ansip (Renew),
kirjalikult. – Digiteenuste liigid ja digiteenuste osutajate rollid on sellest ajast saadik, kui e-kaubanduse direktiiv 20 aastat tagasi vastu võeti, oluliselt muutunud. Muutunud oludes on liikmesriigid hakanud võrguteenuseid erinevalt defineerima (näiteks NetzDG Saksamaal, Prantsusmaa ebaseadusliku veebisisu reguleeriv seadus jt) ning see viiks paratamatult Euroopa Liidu ühtse turu fragmenteerumisele. Seetõttu on võrguteenuste definitsiooni kaasajastamine hädavajalik. Kaasajastamisel tuleks kindlasti säilitada e-kaubanduse direktiivi põhiseisukohad: piiratud vastutuse printsiip, asukohamaa printsiip (COO) ja üldise jälgimiskohustuse keelu printsiip. Digiteenuste reguleerimisega ei tohiks seada ettevõtetele ebaproportsionaalseid uusi kohustusi. Samuti ei tohiks regulatsioonidega kahjustada innovatsiooni. Olen kategooriliselt vastu tehisintellektil põhinevate näotuvastussüsteemide kasutamise keelustamisele avaliku sektori poolt. Me peame kaitsma inimeste privaatsust, kuid seejuures ei tohi me tappa innovatsiooni. Ma ei pea mõistlikuks suunatud reklaami keelustamist. Tarbijana eelistan saada informatsiooni kaupade ja teenuste kohta, mis mulle tõepoolest huvi pakuvad, selmet uppuda lausreklaami mürasse. Raske südamega toetasin kompromissettepanekut.
                  

Patryk Jaki (ECR),
na piśmie. – Sztuczna inteligencja to bardzo trudny temat pod względem prawnym. Trzeba powiedzieć sobie jasno, że nie można zaakceptować stanu, w którym proces decyzyjny będzie całkowicie niezależny od człowieka. Sztuczna inteligencja wiąże się z wieloma udogodnieniami, ułatwia nasze życie, bez wątpienia pomaga, ale nie może ponosić odpowiedzialności. Za wszelkie procesy na niej oparte, za ich zaprojektowanie i stworzenie zawsze musi ponosić odpowiedzialność człowiek. Nie może być też mowy o przekazywaniu jakichkolwiek kompetencji organów państwa maszynom.
                  

Ondřej Kovařík (Renew),
in writing. – I believe that AI can make a huge contribution to improve the lives of European citizens. AI is a strategic engine that contributes to improving productivity and economic growth. AI is also transforming the way we interact with money helping to streamline and optimize greater access to financial services and efficiency of operations. AI is a powerful ally when it comes to preventing and battling money laundering. Its sophisticated technology not only settles the infrastructure to recognise suspicious activity, but also helps to cut the costs of investigating alleged money-laundering schemes. However, as AI flourishes beyond the realm of science & research and penetrates into our daily lives, lawmakers should commit to steering it in a direction that benefits the common good. AI also raises a number of ethical challenges since it can potentially entail risks for EU citizens' fundamental rights. The challenges presented by AI circle around the balance between the need to take advantage of this technology and the development of leading regulatory standards that puts people first. AI should be a human-centric technology. I believe it is necessary to establish a comprehensive European legal framework that enables technically robust AI development, while setting up ethical standards.

Eva Maydell (PPE),
in writing. – When it comes to digitalisation of the economy, the truth is that we missed already several opportunities. We missed the opportunity created by the previous crisis to change the structure of capital investment in Europe and to increase the share of ICT; we also missed the opportunity of the start of this technological revolution when the main giants were created, when the new services were established.
Today we have two opportunities at the same time. First, it is the economic crisis created by COVID19 that is pushing us to change the model. Second, it is the Artificial Intelligence (AI) and data breakthroughs that are happening. It gives us a chance to be back in the global digital competition, having in mind that Europe produces huge amounts of industrial data. We should use AI as a catalyst for the process of digitalisation and innovation in all industries. AI can be a solution to enhance Europe's productivity which has been lagging compared to global competitors – and that is just one example. Understanding and addressing the current challenges faced by businesses will be key to ensuring Europe realizes the economic potential of AI to the fullest extent.

Beata Mazurek (ECR),
na piśmie. – Kodeks Usług Cyfrowych to inicjatywa, która ma na celu ulepszenie działania jednolitego rynku usług cyfrowych. Jej głównym priorytetem musi być usunięcie barier utrudniających jego prawidłowe działanie przy zachowaniu zasad, które legły u podstaw istnienia i funkcjonowania jednolitego rynku cyfrowego. Wraz z usprawnieniami rynkowymi równie istotne będzie zwiększenie bezpieczeństwa w sieci i ochrona praw podstawowych użytkowników internetu, a także wprowadzenie skutecznego nadzoru nad rynkiem w odniesieniu do moderacji nielegalnych treści przez pośredników. W dzisiejszych czasach, gdzie dostęp do internetowych treści jest powszechny, potrzebne są transparentne narzędzia powiadamiania platform i odwoływania się od ich decyzji. Obecne przepisy i praktyki nie są spójne, co w dużej mierze działa na niekorzyść użytkowników i wprowadza chaos na jednolitym rynku.
                  

                     Kolejnym ważnym elementem jest zapewnienie bezpieczeństwa wszystkim użytkownikom sieci poprzez zapobieganie cyberprzestępczości i jej zwalczanie. Kluczową kwestią będzie usprawnienie współpracy między platformami internetowymi a właściwymi organami egzekwowania prawa w poszczególnych państwach członkowskich przy zachowaniu najwyższych gwarancji w zakresie praw podstawowych. Istnieje potrzeba stworzenia skutecznego mechanizmu oddzielającego treści nielegalne od tych legalnych, ale szkodzących czy dezinformujących. DSA musi być rozwiązaniem przyszłościowym, zapewniającym bezpieczeństwo i pewność prawną wszystkim użytkownikom rynku cyfrowego.
                  

Victor Negrescu (S&D),
în scris. – Pachetul Legislativ pentru servicii digitale reprezintă un element esențial în transformarea digitală a Uniunii Europene. De la adoptarea Directivei privind comerțul electronic în 2000, mediul online a evoluat semnificativ și de aceea este nevoie de noi modalități de a reglementa, de a defini platformele online, de a stimula inovația și de a sprijini sectorul digital european.
                  

                     Totodată, cetățenii au fost expuși unor noi riscuri suplimentare în timp ce companiile online au întâmpinat dificultăți în ceea ce privește posibilitatea de contestare, echitatea și intrarea pe piață, în special în raport cu marile companii din domeniu.
                  

                     De aceea avem nevoie de o abordare deschisă pentru reglementarea și dezvoltarea sectorului pornind de la următoarele direcții: combaterea produselor și a conținutului ilegal, contrafăcut sau nesigur; implementarea unui mecanism de notificare și avertizarea privind infracțiunile; crearea profilurilor vânzătorilor online; posibilitatea de a accesa platformele în mod anonim și de a fi uitat de către sistemele informatice; aplicarea tuturor măsurilor platformelor din afara spațiului UE.
                  

                     Ce este clar este că tot ce este ilegal offline, devine ilegal și online, dar tot ce este bun online trebuie sprijinit activ și corespunzător pentru ca Uniunea Europeană să devină un lider în materie de platforme online.
                  

Sirpa Pietikäinen (PPE),
kirjallinen. – Digitalisaatio ja tekoäly luovat yhteiskunnillemme ja meille ihmisille uskomattomia mahdollisuuksia ja helpottavat tuntuvasti elämäämme monin tavoin. Uudet kehittyvät teknologiat eivät ole itsessään hyviä tai huonoja, vaan riippuu meistä ihmisistä, millaisiksi me ne luomme. Digitaalisuus ja uudet teknologiat ovat tärkeä osa arkipäiväämme monin eri tavoin. Niihin liittyvä lainsäädäntö tulisikin integroida jo olemassa olevaan lainsäädäntöön sen sijaan, että luotaisiin täysin erillistä digilainsäädäntöä. Se, mikä on laitonta verkon ulkopuolella, on laitonta myös verkossa. Digi ei ole erillinen saareke, myös siellä tapahtuvaan vihapuheeseen, uhkailuun ja häiriköintiin tulee puuttua ja se pitää estää. Verkossa tapahtuva rikollisuus on myös rikollisuutta, ja sitä ei pidä sallia.
                  

József Szájer (PPE),
in writing. – Any future legislation on the digital services should focus on the issue of combating illegal content. Achieving this goal also includes emphasizing the principles that what is illegal offline should be illegal online as well and manifestly illegal content should be removed immediately from the online space. Online platforms have an increasingly important role to play in our fight against illegal content online. On the other hand, the vast majority of online platforms impose certain self-established rules on users of their services. Any breach of these rules generally restrict the publication of content and, in some cases, users' access to the platform. Decisions based on these set of norms have a serious impact on the constitutional right to freedom of expression, as the platforms themselves determine its limits and its oversight procedures without constitutional guarantees. We need to work on a legal framework building on the responsibility of platforms that is effective against illegal content but does not interfere with freedom of expression or national sovereignty.

Mihai Tudose (S&D),
în scris. – Pachetul de șase rapoarte europarlamentare consacrate serviciilor digitale și inteligenței artificiale reflectă îngrijorarea cauzată de discrepanța între impactul noilor tehnologii asupra vieții noastre și legislația deficitară și perimată în domeniu. Spre exemplu, Directiva privind comerțul electronic datează din anul 2000, când acest sector era în stadiu de pionierat.
                  

                     Mă îngrijorează, în special, volumul de conținut online ilegal, vulnerabilitatea UE la atacuri cibernetice și dezinformare, precum și dificultatea de a reglementa activitatea marilor platforme de Internet pentru protejarea drepturilor utilizatorilor. Cadrul juridic al UE trebuie adaptat la economia digitală, aflată în dezvoltare accelerată.
                  

                     De aceea, solicit Comisiei Europene să elaboreze promisul Act legislativ privind serviciile digitale, pentru a avea un cadru coerent și stimulativ pentru piața unică digitală. Avem nevoie de adaptarea normelor de drept civil și comercial pentru activitatea online, precum și de un cadru de răspundere civilă pentru exploatarea sistemelor de inteligență artificială, respectiv de un regim al drepturilor de proprietate intelectuală în dezvoltarea și utilizarea tehnologiilor emergente.
                  

                     Nu în ultimul rând, impactul inteligenței artificiale asupra apărării și securității europene ne obligă să dezvoltăm reziliența strategică, printr-o strategie sectorială, care consider că trebuie definită în strânsă colaborare de către UE și NATO.
                  

Carlos Zorrinho (S&D),
por escrito. – O debate conjunto dos atos legislativos sobre os serviços digitais e inteligência artificial ocorre num momento em que é fundamental robustecer juridicamente, e no plano da segurança, as regras que devem regular as plataformas digitais, os serviços e os produtos para completar o mercado único digital.
                  

                     Com a aceleração tecnológica e o crescimento das transações feitas por via digital, os direitos fundamentais têm que ser salvaguardados. O pacote legislativo em apreciação é um passo importante nesse sentido. O rápido desenvolvimento da inteligência artificial coloca novos desafios, oportunidades e ameaças no plano do desenvolvimento do mercado único digital.
                  

                     Baseado no Livro Branco da Comissão Europeia sobre inteligência artificial, apresentado em fevereiro do corrente ano, o relatório de iniciativa legislativa sobre a dimensão ética da inteligência artificial, da robótica e das tecnologias relacionadas assume um caminho de autonomia estratégica da União Europeia, baseada nos seus valores e princípios, definindo regras obrigatórias baseadas numa ética humanista e colocando as pessoas, a sua proteção, os seus direitos e os seus interesses no centro do processo de desenvolvimento da inteligência artificial. Este é, em meu entender, um caminho promissor, que pode conduzir a uma liderança global da União no desenvolvimento de soluções seguras para os cidadãos.
                  
19.   The future of European education in the context of Covid-19 (debate)

President. – The next item is the debate on






—


the oral question to the Council on the future of European education in the context of COVID-19 by Sabine Verheyen, on behalf of the Committee on Culture and Education (O-000052/2020 – B9-0020/20) (2020/2760(RSP)), and










—


the oral question to the Commission on the future of European education in the context of COVID-19 by Sabine Verheyen, on behalf of the Committee on Culture and Education (O-000053/2020 – B9-0021/20) (2020/2760(RSP)).





Victor Negrescu (S&D)
(deputising for the author). – Mr President, I'm glad to be live from Romania speaking about education.
Our education and training systems are now facing severe challenges due to the COVID-19 pandemic. 94% of the global learner population, meaning many nearly 1.6 billion learners, were affected by the closure of education and training institutions at the top of the crisis. Unfortunately, today the numbers remain high in the context of a potential second wave.
Not everyone had access to digital education, with severe gaps at EU level. Up to 32% of pupils did not have access to education for several months in some Member States, among them Romania, where close to one million children did not have access to online education.
Despite that, many countries are still unprepared in front of the second wave that is now hitting Europe. More things should be done to ensure access to quality education and training for all Europeans, and for that we need to invest more in education. We need to invest in infrastructure, in digital skills and lifelong learning, in improving the connectivity of remote areas, in new initiatives like the European Online University, in the new tools, curriculums and devices that have been developed across Europe.
This crisis has shown us positive examples set up by professors, parents, learners, civil society and education providers, and we praise everyone's efforts. Therefore, we recommend scaling up and increasing the visibility of effective initiatives and providing a platform for Member States to share good practices. We deeply regret that the Council is proposing budgetary cuts specifically in those programmes that support education and training policies. We reiterate our call for the Erasmus+ budget to be tripled while actively encouraging Member States to significantly increase public spending on education and on the Commission to prioritise education and training in the recovery plan – some of us are even calling for a 10% allocation.
Education is a right, and access to digital education should not be a privilege anymore. Therefore, we are asking the Council and the Commission to present a transparent and complete assessment of the impact of the crisis. It is key to see the lessons that have been learned. The upgraded digital education action plan and the plan to achieve the European education area by 2025 are just initial steps. The current situation demands a much quicker and stronger reaction, both at national and European level.
We call upon Member States, with the support of the Commission, to present the education policy priorities that have been identified to make our education and training systems more inclusive and more evident in the current context. You must come up with a long-term vision for EU education policy. We need to see the EU playing a more prominent role in shaping education policy, and the first step could be to see better cooperation and coordination among Member States on how to deal with the current crisis.
Our resolution, and this is the goal of this debate, calls to work closely together to minimise the health risks for staff and learners and to maximise the chances that in-person education and training is safe and can continue. The future of education depends on us making sure that all individuals, without discrimination, have access to education.

Michael Roth,
amtierender Ratspräsident. – Herr Präsident, meine sehr verehrten Damen und Herren Abgeordnete, lieber Victor, Frau Kommissarin! Wir alle erleben das in diesen Tagen und Wochen ganz besonders schmerzhaft: Die Corona-Pandemie wirkt sich dramatisch auf alle politischen, aber vor allem auch auf alle gesellschaftlichen Bereiche aus, und vor allem der Bildungssektor ist davon nicht ausgenommen – ganz im Gegenteil. Wir haben in den vergangenen Monaten seit Ausbruch der Pandemie sehr schmerzhafte Erfahrungen gemacht.
               

                  Im ersten Schritt ging es darum, dass unsere Bildungseinrichtungen – von den Kindergärten bis hoch zu den Hochschulen – strenge Schutz- und Hygienemaßnahmen vorzunehmen hatten. In einem zweiten, noch viel schmerzhafteren Schritt mussten viele, viele Bildungseinrichtungen in nahezu allen EU-Mitgliedsstaaten geschlossen werden. Dann, als sich die Lage deutlich verbesserte, ging es darum: Wie können wir die Schulen, die Kindergärten wieder öffnen? Und was heißt es, das Lernen zu verknüpfen aus Präsenzbestandteilen in den Einrichtungen und einem Fernunterricht? Das war eine schwerwiegende Bewährungsprobe für die Mitgliedsstaaten und für all diejenigen in der Europäischen Union, die für Bildung und Hochschule und Wissenschaft in der Verantwortung stehen.
               

                  Nun wissen Sie alle, sehr verehrte Abgeordnete, dass der Bildungsbereich eine der wesentlichen Zuständigkeiten der Mitgliedsstaaten ist. Dennoch gibt es selbstverständlich auch eine Aufgabe für die Europäische Union, und die stellt sich in diesen schwierigen Zeiten vor allem so dar: Voneinander lernen, miteinander lernen. Corona hat, und das ist die schmerzhafteste Erfahrung, die wir in diesen Monaten machen mussten, Corona hat die Unterschiede im Bildungsbereich dramatisch verschärft. Diejenigen, die bislang schon einen nur unzureichenden Zugang zu Bildung hatten, sind jetzt noch einmal gestraft.
               

                  Ich möchte auf ein paar besondere Bewährungsproben hinweisen, die derzeit auch die Diskussion der Bildungsministerinnen und Bildungsminister in der Europäischen Union, aber auch uns alle prägen. Einmal: Inklusion und gleichberechtigter Zugang zum Fernunterricht sind nach wie vor schwer zu erreichen. Dabei geht es nicht nur um die mangelnden digitalen Kompetenzen, die wir teilweise im sozialen Umfeld finden, teilweise aber auch in Schulen. Es geht vor allem auch um den fehlenden Zugang zum Internet und zu technischer Ausstattung. Das ist ein großes, großes Hindernis, weil wir hier in der Europäischen Union in Sachen Digitalisierung noch nicht flächendeckend so weit sind, wie wir das eigentlich sein müssten.
               

                  Ein weiterer wichtiger Punkt, der mir und der dem Rat besonders am Herzen liegt: Schulen, Universitäten, Hochschulen – ich beziehe jetzt auch mal die frühkindliche Bildung ausdrücklich mit ein – sind nicht nur Orte des Lernens. Sie sind auch Orte des sozialen Miteinanders, sie sind ein sicheres Umfeld, das Kindern, aber auch älteren Lernenden ein Gefühl von Zugehörigkeit und von Gemeinschaft vermittelt. Die Pandemie ist an sich schon eine Ursache für Stress, für Angst und für große Sorge. Hinzu kommt noch die Angst vieler Lernender vor einer zunehmenden sozialen Isolation, weil sie ihre Freundinnen und Freunde, ihre Mitschülerinnen und Mitschüler nicht mehr treffen können.
               

                  Die Bildungseinrichtungen, insbesondere die Schulen und ihr Personal, mussten, wie die Familien, eine große Flexibilität unter Beweis stellen. Die Lehrkräfte mussten sich sehr rasch an die neuen bitteren Realitäten anpassen, vor allem an die Realität des Fernunterrichts. Das bedeutete auch für viele schulische Einrichtungen zusätzliche gezielte Fortbildung.
               

                  Aber Familien und Lernende mussten auch durch psychologische und emotionale Unterstützung entsprechend begleitet werden. Auch hier sehen wir nach wie vor große Defizite. Viele Familien, viele Schülerinnen und Schüler, aber auch viele Lehrkräfte fühlen sich in dieser Krise alleingelassen.
               

                  Auf der Ebene der Bildungseinrichtungen und der Bildungssysteme insgesamt liegt eine der größten Bewährungsproben in der Leistungsbeurteilung und in der Benotung. Wie will man bei einem Schuljahr, das wenig Präsenzunterricht enthielt, überhaupt eine vergleichbare Bewertung der Leistung in der Schule vornehmen? Das ist eine Frage, die nicht nur Schülerinnen und Schüler, sondern eben auch die Lehrkräfte massiv gefordert hat.
               

                  Die Pandemie hat sich selbstverständlich auch auf die Lernmobilitätsprogramme ausgewirkt. Das tut mir besonders leid, denn hier geht es um eine Kernkompetenz der Europäischen Union. Wenn ich einmal an die Erasmus+-Programme denke: Viele junge Menschen, die sich auf ein Auslandssemester gefreut haben, konnten dieses Auslandssemester nicht antreten und hatten nicht die Möglichkeit, in einem anderen europäischen Land zu lernen, zu leben und zu lieben. Ich hoffe, dass es uns im Nachhinein gelingt, auch diesen jungen Menschen noch etwas zu geben von dem, worauf sie aus meiner Sicht einen selbstverständlichen Anspruch haben.
               

                  Die Auswirkungen der Krise sind also erheblich, die Bildungsministerinnen und Bildungsminister der Europäischen Union werden am 30. November dazu Schlussfolgerungen ziehen, insbesondere zur digitalen Bildung in Europas Wissensgesellschaften. Und unsere Botschaft, die auch von der heutigen Debatte ausgehen sollte, lautet: Die Generation Corona darf zu keiner verlorenen Generation werden.
               

Ylva Johansson,
Member of the Commission. – Mr President, this year has been an unprecedented year of challenge and disruption for education and training with 100 million learners across the European Union affected by the physical closure of educational institutions.
Major and impressive efforts have been made by educational institutions, their staff and learners. Still, many learners were lacking suitable devices, appropriate tools, reliable internet connections and interaction. Educators and teachers were struggling to ensure a structured process and to keep students engaged. Teachers were not adequately prepared to use digital technologies. Teaching practices varied significantly, leading to uneven quality.
Initial findings estimate that the closure of schools has negatively affected learning outcomes. The lack of social interaction between pupils has also had a negative impact on the well-being of children and pupils. School-leaving exams and enrolment in higher education institutions have also been a major challenge and Member States' approaches varied significantly. Most importantly – and most alarmingly – the pandemic has affected vulnerable learners most, including those from disadvantaged backgrounds and unsupportive home environments.
As for the lesson learned from this crisis, Member States managed to switch to online learning quickly, but it's clear that there is room for improvement. First and foremost, the shift to distance learning raised significant challenges in terms of equity and quality. We need to overcome the suboptimal practices leading to inequalities and learning losses. Second, the digital skills of learners and the capacity of educational institutions to provide quality and inclusive education remotely need to improve. Third, we also learned that the effectiveness of the response at national level was linked to the level of preparedness in terms of infrastructure, tools, content and teachers. The adaptation to the crisis was easier for those Member States that had national digital education strategies in place and had made efficient use of relevant EU funds.
Regarding your next questions on education policy priorities in response to the crisis, the recent Commission communication on the European Education Area takes the lesson learned from the pandemic fully on board. Inclusion and equality are indeed at the heart of the European Education Area. It recognises and reinforces the role of education and training in the recovery and represents an ambitious answer to Member States' call for cooperation at EU level to build resilient and forward-looking education systems.
Dedicated initiatives in various areas, such as inclusion, building capacities for the digital transition or supporting teachers are vital to achieve this goal. While the pathways to the school success initiative will address the risk of dropout and low achievement, the proposed Erasmus teacher academies will promote cooperation between existing teacher education and training institutions.
The new Digital Education Action Plan also addresses the lessons learned from the ongoing COVID-19 crisis and the more structural challenges linked to the digital transformation of education and training. It looks at what is needed to enable and foster the development of a high-performing digital education ecosystem and it also aims at enhancing digital skills for the digital transformation. Last but not least, the future, more inclusive Erasmus Programme aims to provide a wide range of opportunities for institutions, learners and educators to be better equipped for digital learning and for overcoming social dividers.
The European Education Area and the Digital Education Action Plan, together with the emblematic Erasmus Programme, contains the geist of the Commission's vision for EU education policy. Indeed, education is the foundation for personal fulfilment, employability and active and responsible citizenship. The Union is resetting its growth strategy with the green and digital transitions as its transformative drivers. Education is at the heart of these transitions, strengthening the social market economy and democracy with freedom, diversity, human rights and social justice.

President. – The debate is closed.
The vote will take place on Wednesday, 21 October 2020.


Written statements (Rule 171)



István Ujhelyi (S&D),
írásban. – A koronavírus járvány az európai közösségünk számos, létező hiányosságára rámutatott: az egészségügyi rendszereink közötti egyensúlytalanságok mellett például a digitális oktatás hozzáférhetőségének területén tapasztalható súlyos lemaradásra. Most már tudjuk, hogy egyes tagállamokban a tanulók akár egyharmada is kimaradt az oktatásból hónapokig, mert nem volt biztosított számukra a digitális oktatás lehetősége és feltétele.
               

                  Magyarországon vannak családok, ahol nemhogy internet vagy számítógép, de áram sincsen. Ez a helyzet tarthatatlan és tűrhetetlen. A járvány elleni védekezés része kell legyen a digitális oktatás eszközhátterének megerősítése és hozzáférhetőségének biztosítása a rászoruló tagállamokban. A digitális szakadék igenis létezik, amely fölé az Európai Uniónak késlekedés nélkül erős hidat kell építenie, ezért a mostani állásfoglalás elfogadását szorgalmazom és felszólítom a Bizottság, illetve a Tanács képviselőit, hogy a következő uniós költségvetésben biztosítsák annak célzott forrását, hogy radikális módon növelni tudjuk a rászoruló régiókban a digitális felzárkóztatást! Enélkül nincs erős oktatás, erős oktatás nélkül pedig nincs erős európai társadalom!
               

                  Ugyanitt hívom fel a figyelmet a korábban általam mentorált DiscoverEU program fontosságára és az európai közös értékeinkre gyakorolt pozitív hatására, ezért a program jövőjét és folytatását mindenképpen garantálnunk kell! Az Erasmus+ program forrásainak tervezett megnyirbálása éppen ezért botrányos, sőt bűnös cselekedet!
               

Sabine Verheyen (PPE),
schriftlich. – Der im Plenum debattierte gemeinsame Entschließungsantrag zur Zukunft der Bildung ist ein wichtiger Schritt auf dem Weg zum gemeinsamen Europäischen Bildungsraum, der auch die digitale Bildung stärker ins Auge fassen muss. Heute hat die Corona-Krise zu einer Art Ad-hoc-Digitalisierung geführt. In diesen Krisenzeiten zeigt sich, welche Länder bereits in digitale Bildungssysteme investiert haben. Die Krise erinnert uns daran, wo in Europa wir dringend nachrüsten müssen. Ich stehe hinter der Initiative, eine europäische Bildungsplattform mit digitalen Bildungsmöglichkeiten, für die gemeinsame Nutzung von Bildungsmaterialien und für den Austausch bewährter Praktiken einzurichten. Auch Chancengleichheit in der Bildung ist wichtig. Es ist nicht hinnehmbar, dass ein Kind nicht im gleichen Maße wie andere an der digitalen Bildung teilnehmen kann, nur weil seine Eltern möglicherweise nicht in der Lage sind, sich die notwendigen Hilfsmittel leisten zu können. Qualitativ hochwertige Bildungssysteme sind die Grundlage der globalen Wettbewerbsfähigkeit der EU. Gut funktionierende Systeme der allgemeinen und beruflichen Bildung erfordern allerdings entsprechende öffentliche Investitionen. Ehrgeizige politische Maßnahmen ohne entsprechende Finanzierung sind nicht glaubwürdig. Daher bedauern wir zutiefst, dass gerade bei den Programmen, die die Politik im Bereich der allgemeinen und beruflichen Bildung unterstützen – Erasmus+, Horizont Europa und der Europäische Sozialfonds – beim nächsten MFR Haushaltskürzungen vorgenommen wurden.
               

Henna Virkkunen (PPE),
kirjallinen. –Koronakriisi on aiheuttanut maailmanlaajuisen oppimisen kriisin. Yli 90 prosentilla maailman koululaisista ja opiskelijoista koulut ovat olleet tänä vuonna suljettuna, osalla kuukausia. Opettajat, oppilaat ja perheet ovat venyneet uskomattomiin suorituksiin etäopetuksessa. Samalla korona-aika on nostanut esiin suuret erot alueiden ja koulujen välillä. Puutetta on sekä infrastruktuurista että digitaalisen opetuksen ja oppimisen valmiuksista. Jopa EU-maissakin joka kymmenes talous on kokonaan ilman internet-yhteyttä. Arvioiden mukaan joissakin maissa jopa kolmannes oppilaista jäi koronasulkujen aikana tyystin vaille opetusta. On selvää, että tätä oppimisen kuilua joudutaan kuromaan kiinni pitkään.
               

                  Digitaitojen, digitaalisen infrastruktuurin sekä laitteiden saatavuuden on nyt oltava koulutuspolitiikan keskiössä tasa-arvoisen oppimisen takaamiseksi kaikkialla Euroopassa. Elämme jo toista korona-aaltoa ja investointeja koulutukseen tarvitaan kipeämmin kuin koskaan. On pettymys, että jäsenmailta ei ole tullut tähän riittävää ymmärrystä, ja neuvosto olisi valmiina tekemään leikkauksia Erasmus-ohjelmaan. Siksi on erittäin tärkeää, että me Euroopan parlamentissa pidämme kiinni tavoitteestamme kolminkertaistaa tulevan ohjelman rahoitus 41 miljardiin euroon. Samalla on pidettävä huolta, että eurooppalaisen koulutusalueen ja digitaalisen koulutuksen toimintasuunnitelmat etenevät konkreettisiksi tavoitteellisiksi strategioiksi. Vain investoimalla koulutukseen ja osaamiseen Eurooppa voi jatkossa menestyä.
               
20.   Obligations of the Commission in the field of visa reciprocity in accordance with Article 7 of Regulation (EU) 2018/1806 (debate)

President. – The next item is the debate on the oral question to the Commission on obligations in the field of visa reciprocity in accordance with Article of Regulation (EU) 2018/1806 by Juan Fernando López Aguilar, on behalf of the Committee on Civil Liberties, Justice and Home Affairs (O-000049/2020 – B9—0022/20) (2020/2605(RSP)).

Juan Fernando López Aguilar,
autor. – Señor presidente, señora comisaria Johansson, sin duda comprenderá usted la oportunidad de esta pregunta oral, a modo de interpelación, que tengo el honor de formularle en mi calidad de presidente de la Comisión de Libertades Civiles, Justicia e Interior. Pero lo que quiero subrayar es su necesidad.
               

                  El Tratado de Lisboa entró en vigor hace más de diez años y, con el Tratado de Lisboa, el espacio de libertad, justicia y seguridad, que hace de la gestión de las fronteras de la Unión y de la libre circulación de personas dentro del espacio Schengen, por fin, una política común sujeta a la legislación de este Parlamento Europeo, uno de cuyos pilares es una política común de visados y una legislación europea de visados.
               

                  Este Parlamento ha hecho su trabajo. Adaptó el primer Reglamento de visados de 2001 en 2013 sobre el principio de reciprocidad consagrado por el Tratado de Lisboa. Y el principio de reciprocidad significa que la Unión Europea concede a terceros Estados y a sus nacionales exención de visados a condición de reciprocidad, de que esos terceros Estados eximan a los nacionales de los Estados miembros de la Unión Europea del correspondiente visado para acceder al territorio de esos países.
               

                  Y, además, en 2018, establecimos no solamente un Reglamento de reciprocidad con una lista de terceros Estados cuyos nacionales están exentos de visa a condición de que esos terceros Estados eximan de visa a los europeos, sino también un Código europeo de visados del que tuve el honor de ser ponente.
               

                  Pues bien, ya en 2017, le formulamos a la Comisión la pregunta de cuándo va a cumplir la Comisión el Derecho europeo en vigor que ordena que, si un tercer Estado que tiene exención de visados no la garantiza a todos los Estados de la Unión Europea, la Unión Europea tiene la obligación de adoptar un acto delegado para suspender esa exención de visados en términos de reciprocidad por, al menos, seis meses.
               

                  Se lo dijimos en 2017 porque había dos Estados con exención de visados, Canadá y los Estados Unidos, que no se la garantizaban entonces a cinco Estados de la Unión Europea: Polonia, Rumanía, Bulgaria, Croacia y Chipre.
               

                  Polonia ya tiene exención de visados y Canadá la ha garantizado a todos los Estados miembros de la Unión Europea. Pero los Estados Unidos aún se la deniegan a cuatro Estados miembros de la Unión Europea: Bulgaria, Rumanía, Croacia y Chipre.
               

                  Y por tanto, la consecuencia legal es obligada, sancionada además por el Tribunal de Justicia, ante el que la Comisión interpuso un asunto en 2013, resuelto en 2014 favorablemente para el Parlamento Europeo en 2014, diciendo con claridad que la Comisión sí tiene la obligación de adoptar el acto delegado cuando los Estados notifican transcurrido un período de 24 meses.
               

                  Ese período de 24 meses transcurrió holgadamente en 2016 porque la notificación se produjo en 2014. El Parlamento Europeo trajo el asunto a debate del Pleno en 2017 y sigue pendiente.
               

                  Por eso traemos el asunto por segunda vez y le formulamos la pregunta con claridad.
               

                  En primer lugar, ¿comparte la Comisión la obligación legal de adoptar el acto delegado como exige el Parlamento Europeo?
               

                  Segundo, ¿va a adoptarlo?
               

                  Y tercero, si no, explique por qué.
               

Ylva Johansson,
Member of the Commission. – Mr President, I know how important visa reciprocity is to you and I especially thank Mr López Aguilar for his great engagement in this subject. I know that Parliament expects the Commission to do its utmost to ensure visa reciprocity for all EU citizens, including Bulgarians, Croatians, Cypriots and Romanians. For me, visa reciprocity – for all Member States – is a priority.
With the United States, we remain engaged in a result-oriented diplomatic process towards full visa reciprocity, in close coordination with the Member States concerned. Our communication on visa reciprocity of March 2020 details our engagement with the United States and shows we've consistently placed the issue high on the agenda. That communication also reported significant progress. In November last year, Poland entered the US visa waiver programme. Our approach is working. It has worked with other countries such as Canada, where full visa reciprocity for all EU citizens has already been achieved, and it is now showing results with the United States as well. Working on the result-oriented process, the four other Member States concerned have made continued progress. The United States is providing concrete guidance. The Member States have a clear perspective of joining the US visa waiver programme once they meet the outstanding requirements. These are not arbitrary but set out in US law. The Commission actively supports and works closely with these Member States to help them to fulfil all benchmarks and requirements. All four Member States have concrete prospects of progress; some appear to be very close to fulfilling the requirements and to being considered for entry to the US visa waiver programme.
All four Member States want to continue this approach. This is important. None of them has asked the Commission to temporarily suspend visa-free travel for US citizens. They have all agreed to continue dialogue and to work on the benchmarks. Temporarily suspending the visa waiver for US citizens would be counter-productive. It would undermine the progress achieved in our current work. Suspending visa-free travel for US citizens would inevitably lead the United States to impose visa requirements for all EU citizens. This is the opposite of what we are trying to achieve. It would be difficult to explain to EU citizens how this were in their interest, especially when diplomatic engagement has brought positive results. I should also say that, with the global COVID-19 pandemic, maybe this is not the time to escalate. At the moment, COVID-19 travel restrictions are in force on both sides of the Atlantic. Non-essential travel is simply not taking place, visa-free or not.
Despite COVID-19, the Commission continues to work with the United States and the Member States concerned to accelerate progress on visas. We discussed visas at the most recent EU-US Justice and Home Affairs Ministerial Meeting in May this year, and at the meeting between the United States, the Commission and the Member States concerned on 18 and 19 June of this year. Our continued engagement in difficult times shows how important this issue is to the Commission.
Finally, I turn to the legal aspect raised in your question. The visa reciprocity mechanism, as set out in the visa regulation, requires the adoption of a delegated act suspending the visa waiver for nationals of the third country concerned for 12 months. According to the legislation, we must also take into account the possible consequences for the external relations of the EU and its Member States and for all European citizens. On the one hand, there is the progress achieved so far, notably Poland achieving visa-free access last year and the continued progress made by the other Member States concerned. On the other hand, the expected negative effects of visa suspension for our external relations and visa reciprocity. My assessment is that as long as we see continuing progress through engagement with the United States, full visa reciprocity for all EU nationals can be best achieved through continued diplomatic cooperation. We will of course continue to keep you informed. I know that we all share the same objective: full visa waiver reciprocity. I'm confident that the remaining Member States will join the US visa waiver programme and I call on you to give this approach another chance.

President. – The debate is closed.
The vote will take place on Wednesday, 21 October 2020.


Written statements (Rule 171)



Емил Радев (PPE),
в писмена форма. – Въпросът за визовата реципрочност е изключително важен за моята страна България. За съжаление, българските граждани, както и гражданите на още три държави-членки – Кипър, Румъния и Хърватия – продължават да се третират различно, като те са и единствените граждани на ЕС, които все още не могат да влизат на територията на САЩ без виза. В отговор на двойните стандарти в сферата на визите, единственото правилно решение на ЕК е да приеме делегиран акт относно временното преустановяване на възможността американски граждани да влизат в Европа без визи. Резолюцията, която ЕП ще гласува е въпрос на солидарност между държавите-членки на ЕС и потвърждава правото на българските граждани и гражданите на другите три държави, които не се ползват от визовата реципрочност, да пътуват безвизово до САЩ, така както го правят гражданите на останалите държави-членки. Въпросът за нарушението на принципа на реципрочност за гражданите на България, Хърватия, Кипър и Румъния се поставя още от 2014 г., но за съжаление все още не може да намери своето решение. От 2016 г. насам ЕК не е предприела ответни действия и, въпреки че с резолюция от март 2017 г. ЕП призова да се следват правилата на европейското законодателство, механизмът за визова реципрочност и досега не е задействан.
               
21.   Recommendation to the Council and the VPC/HR concerning the Implementation and governance of Permanent Structured Cooperation (PESCO) (short presentation)

President. – The next item is a short presentation of the report by Radosław Sikorski, on behalf of the Committee on Foreign Affairs, on a European Parliament recommendation to the Council and the Vice-President of the Commission / High Representative of the Union for Foreign Affairs and Security Policy, concerning the implementation and governance of Permanent Structured Cooperation (PESCO) (2020/2080(INI)) (A9-0165/2020).

Radosław Sikorski,
sprawozdawca. – Panie Przewodniczący! Państwa członkowskie jednomyślnie zgodziły się realizować wspólną politykę bezpieczeństwa i obrony, wpisując ją do Traktatu. Rozpisano strategie, stworzono agencje i instrumenty, utworzono fundusze w dziedzinie obrony. Pytamy dzisiaj, czy one są skuteczne.
               

                  Z każdym konfliktem w sąsiedztwie Unii zdajemy sobie coraz bardziej sprawę z naszej zależności i niemalże bezbronności w obliczu potencjalnego zagrożenia. Owocuje to co prawda robieniem kroków naprzód, ale niestety zbyt małych, by móc realnie powiedzieć, że jesteśmy w stanie zapewnić sobie bezpieczeństwo w naszym otoczeniu.
               

                  W ostatnich latach do zagrożeń konwencjonalnych doszły także konflikty o charakterze hybrydowym, takie jak cyberataki, dezinformacja czy naciski gospodarcze. Do tego globalne wyzwania: zmiany klimatu i pandemie. Zdaliśmy sobie sprawę, że Europa musi mieć wpływ na budowanie porządku w swoim regionie. Nasza miękka siła musi być uzupełniona siłą twardą. Unia Europejska potrzebuje wspólnej polityki bezpieczeństwa i obrony dla własnego bezpieczeństwa, dla stabilizowania sytuacji w swoim otoczeniu. Ci, którzy dzisiaj, także w moim kraju, tak głośno krzyczą o narodowej suwerenności, nie dostrzegają albo ignorują naszą zależność w dziedzinie bezpieczeństwa. Nadszedł czas na budowanie większej odpowiedzialności za własne bezpieczeństwo, nie w kontrze do NATO, ale obok i dla wsparcia NATO.
               

                  Wypracowanie kompromisu wokół PESCO unaoczniło jednak stopień oderwania politycznej retoryki od wojskowej rzeczywistości. Polityczne narracje o europejskiej autonomii strategicznej zderzają się z rzeczywistością rażących braków w zdolnościach wojskowych oraz obecną niepewnością co do amerykańskiej obecności wojskowej na kontynencie.
               

                  Czym więc jest PESCO? Stała współpraca w dziedzinie bezpieczeństwa opisana w Traktacie z Lizbony już ponad dekadę temu realnie została ustanowiona dopiero w 2017 r. Jest to forma współpracy wojskowej i obronnej, w której uczestniczy obecnie 25 państw członkowskich, w tym Polska. Opiera się na dwóch filarach: realizacji 20 zobowiązań i wspólnej realizacji projektów.
               

                  Główne rekomendacje zawarte w moim sprawozdaniu dotyczą apelu do uczestniczących państw członkowskich o przejście z poziomu priorytetów krajowych w dziedzinie obronności na rzecz podejścia europejskiego, gdyż żadne państwo członkowskie nie jest w stanie sprostać obecnym zagrożeniom we własnym zakresie. W pierwotnym zamyśle PESCO była koncepcją awangardową, obejmującą państwa członkowskie najbardziej rozwinięte i ambitne w dziedzinie obrony. Uczestnictwo 25 państw oznacza, iż PESCO nie jest współpracą liderów.
               

                  Apelujemy, aby w wyniku pandemii COVID-19 nie dochodziło do cięć krajowych budżetów na obronność, gdyż paradoksalnie wydatki na wojsko mogą zwiększyć gotowość na ewentualną kolejną pandemię. Kilka spośród realizowanych obecnie projektów PESCO, takich jak mobilność wojskowa czy europejskie dowództwo medyczne, zwiększyłoby naszą zdolność do podejmowania wspólnego działania w pandemii.
               

                  Rekomendujemy również rozważenie włączenia do PESCO systemu grup bojowych Unii Europejskiej, który bezsprzecznie wymaga reformy. Sugerujemy, że mogłoby to zwiększyć jego zdolność operacyjną i sprawność poprzez utworzenie stałych jednostek wielonarodowych wykorzystywanych do zadań wojskowych czy zarządzania kryzysami. Zamiast sklejania brygady z batalionów narodowych brygada europejska powinna składać się z ochotników z państw członkowskich i być finansowana ze wspólnego budżetu oraz podlegać Radzie do Spraw Zagranicznych.
               

                  Wreszcie apelujemy o niezwłoczne przyjęcie decyzji regulującej przyszłą współpracę w ramach PESCO z państwami trzecimi.
               

Josep Borrell Fontelles,
Vice-President of the Commission / High Representative of the Union for Foreign Affairs and Security Policy. – Mr President, let me thank your rapporteur, Mr Sikorski, and all Members of Parliament who have contributed to this recommendation on the implementation and governance of Permanent Structured Cooperation (PESCO). It is very timely as the PESCO strategic review will be finalised in the coming weeks. I can say that I will probably support and share your recommendations. We need to strengthen PESCO's operational dimension. We need to maintain the European Union's budgetary ambition in the field of defence, including with regard to the European Defence Fund and military mobility, and we need to sustain efforts to ensure coherence among defence initiatives. There are many of them and we have to make them work together in a coherent way.
PESCO is a key tool for Member States willing to cooperate more in the field of defence within the Union – for those who want to cooperate more in the field of defence. It has three main objectives: first, to enhance the European Union's capacity as an international security actor; second, to maximise the effectiveness of our spending on defence; and third, and above all, to contribute better to the protection of the population of the countries of destination and, hence, European Union citizens. I think that we can be proud of what has been done in such a short time frame because, let's not forget, PESCO projects were launched just a couple of years ago in 2018 and 2019. A large-scale PESCO project requires between 10 and 25 years to see the light of day. Whether carried out within the framework of PESCO or not, it takes 10 years. However, 15 PESCO projects could be operational as early as 2025, including in the cyber domain (the cyber rapid response teams), the field of medical support (the European Medical Command) and the area of land battlefield missiles. Other projects, such as those in the anti-missile defence field – the European Patrol Corvette or the TWISTER project – will need more time, but they are already producing concrete and variable results and reinforcing our European Union and our Member States' military capacity to act and enhance their strategic autonomy.
Today, everybody is talking about ‘strategic autonomy’, but there is also a big debate about what these words that everybody is using actually mean. I know that there are strong differences of opinion on the meaning of these two words. However, I think that we can already see good coherence between PESCO and the European Defence Fund. In fact, 50% of the actions that will receive funding from the European Defence Industrial Development Programme, the precursor of the European Defence Fund, are related to PESCO projects. We will keep working together with the Commission, with my friend Commissioner Breton, to ensure such coherence and synergies.
Let me also highlight that 38 of the 47 PESCO projects are fully coherent with NATO priorities. The need to avoid overlap with NATO priorities is considered when selecting new PESCO projects. The other nine projects are more of an operational nature, combining existing capabilities, or they specifically contribute to the development of European technological sectors. This is the case, for instance, with the project ‘material and components for technological EU competitiveness’, which will develop highly technological electronic components. At the same time, one of the key goals put forward for the next phase of PESCO is to focus more on operational projects. We should prioritise projects where Member States stand ready to deploy joint forces on the ground and which deliver concrete and visible results. I think this is the kind of project that we have to prioritise – several Member States deploying joint forces on the ground – as this is something visible that makes it easy to understand what it means to have a common European security policy.
PESCO has great potential, and it is only just starting. Of course, we are still on a learning curve and there is room for improvement, as I stressed in my assessment report this year and as you point out in your recommendation.
More binding commitments are at the heart of PESCO. We have seen progress in many areas, including on the need to regularly increase defence budgets. That said, I think there is scope for Member States to better fulfil their commitments. Allow me to give a couple of examples. I think that there is scope for them first to provide substantive support to cover security and defence policy missions and operations – as I said, deploying forces on the ground through our missions and operations should be a priority – and, second, to make more systematic use of the European Union defence tools in national planning and decision-making.
As I stated in my recent letter to EU defence ministers, the PESCO strategic review should serve to set up clear milestones for the next phase. I can assure you that many topics raised in your recommendation will be reflected in this review.
Wrapping up this review offers an opportunity to reaffirm PESCO's main political objective for the next five years, to highlight the projects that will deliver concrete results before 2025 and, last but not least, to identify concrete incentives that will help Member States to fulfil their commitments, in particular when it comes to operational projects. We will discuss these issues with defence ministers in November and I sincerely hope that our Member States will decide on an ambitious next phase for PESCO.

President. – The debate is closed.
The vote will take place on Tuesday, 20 October 2020.
22.   Report on the implementation of the EU Association Agreement with the Republic of Moldova (short presentation)

President. – The next item is a short presentation of the report by Dragoș Tudorache, on behalf of the Committee on Foreign Affairs, on the implementation of the EU Association Agreement with the Republic of Moldova (2019/2201(INI)) (A9-0166/2020).

Dragoș Tudorache,
rapporteur. – Mr President, the Association Agreement between the EU and the Republic of Moldova is not just a list of reforms and is not just a financial envelope. It is about shared values and a common destination. We are partners, the Republic of Moldova and us, because we made a commitment to each other. At the heart of that commitment lies one value, one which is being debated now even amongst ourselves, the members of the Union. That value is rule of law. And as we tell and remind our own Member States that rule of law is the fabric of democracy, we also tell and remind Moldovans, over and over again, that the commitment to rule of law and democracy is the essential building block for the common destination that we have set ourselves, which is European integration.
My report and the main message which I would like that we, as Parliament, pass this week to the Republic of Moldova is precisely about these fundamental choices and these fundamental values, those that make us all European.
The Republic of Moldova has delivered on a number of reforms in the course of last year and the report acknowledges those efforts, albeit the political instability and the often-confusing signals coming from the authorities.
Very importantly, Moldova followed through with the concrete institutional and legislative deliverables that were conditionalities for the second tranche of macro-financial assistance. The citizenship for investment scheme was abandoned, the legislative framework for NGOs was duly adopted, some elements of the judicial reform package were implemented. That led to the disbursement of the much-needed financial aid, along with an additional amount of redirected assistance focusing on COVID-19 immediate response measures. Add to that the EUR 100 million in the omnibus instrument and we have a consistent package for which I praise the Commission and the European External Action Service (EEAS), which understood the need to stand by the Republic of Moldova in these times of need.
The report also acknowledges those reforms that are not yet complete, where either the political will is still faltering or where the administrative capacity is insufficient. Democratic mechanisms need to be strengthened, the civil society needs to be more involved, and above all else, the judiciary needs to function independently, beyond any suspicion of political bias or outright corruption. For that reason, the Superior Council of Magistracy needs this reform completed, the activity of prosecutors must be freed of interference and undue pressure, including from obsolete legal provisions in the criminal code.
The banking and financial sectors require transparency, stability and predictability if trust in the investment environment of Moldova is to be sustained. It cannot be that several years later, the Moldovans still do not know who is responsible for defrauding EUR one billion from their bank.
The Union and us, the European Parliament, will keep watching over those reforms because they are important for Moldova and for its citizens. Now, a final word to them, the Moldovan citizens, and I will do that in their own mother tongue.
Europa a fost și va rămâne ‘acasă’. Este deja pentru mulți dintre moldovenii care circulă liber, momentan afectați, ca noi toți, de restricțiile legate de pandemie, pentru cei care muncesc în toate colțurile Europei, sau cei care își însoțesc familia.
Conducătorii Moldovei – oricine ar fi ei – datorează cetățenilor lor o țară din care să le vină mai greu să plece, iar reformele pe care noi – Uniunea și instituțiile sale – le cerem autorităților sunt acolo pentru voi, pentru a construi o societate și o democrație funcțională, sănătoasă și prosperă. Asta vă dorește Uniunea Europeană, asta vă doresc și eu.

Josep Borrell Fontelles,
Vice-President of the Commission / High Representative of the Union for Foreign Affairs and Security Policy. – Mr President, it's true: the Moldova Association Agreement is a very ambitious one. It has been in place for the last four years. It's rooted in democracy, respect for human rights and for the rule of law. These values are at the core of the objective of political association and economic integration of the Republic of Moldova with the European Union.
But as you have been emphasising, only tangible significant progress on the Moldovan side, with the full implementation of necessary reforms, will enable progress in addressing long-term challenges with which you are very familiar. These challenges are weak state institutions, persistently high levels of corruption and oligarch structures, a deficient judiciary, an aging population and economic challenges faced by young people, leading to poverty and brain drain through immigration. As an associated country, Moldova remains an important partner within the Eastern Partnership Framework.
The presidential elections on 1 November will be a crucial juncture in our partnership, and as the report highlights, these elections will be a test for democracy and the rule of law in the country, thus practices contravening international standards must be absolutely avoided. In previous elections, the Organisation for Security and Co-operation in Europe (OSCE) observed vote-buying, misuse of state resources and pressuring voters, among others. That's quite a lot – vote-buying, misuse of state resources, pressuring voters, among others. In the current COVID-19 context, it is even more important to ensure that all Moldovans are given a free and fair opportunity to vote, following a transparent, inclusive and credible election process, which we will be closely monitoring.
We also expect the Moldovan authorities to address the recent actions that risk the hard-won independence of the National Bank of Moldova and the stability of the global banking sector. I agree with your report that the lack of results of the prosecution are unexplainable – not to use another word. Multiple postponements of the ongoing trials of the 2014 one-billion-dollar banking fraud, which means 15% of Moldova's GDP, are deeply problematic. Clear delivery on that issue is a litmus test for Moldova's fight against corruption.
On the other hand, the COVID-19 pandemic is having a devastating impact on Moldova. Our solidarity and assistance in response to the pandemic has been strong and the European Union remains the biggest provider of aid. We have mobilised over EUR 100 million in bilateral grant support, focusing on the immediate need for protective equipment, strengthening the healthcare system and supporting socio-economic recovery.
Looking ahead, we will be updating our association agenda. This offers a further opportunity to focus on reform priorities across all sectors, supporting civil society and, in particular, engaging with local actors and strengthening independent media will remain key. We shall also continue the full implementation of the Deep and Comprehensive Free Trade Area, supporting small and medium enterprises and advancing the ambitious process of regulatory approximation. Our future assistance will continue to be linked to clear delivery and reforms. The European Union's strict and smart conditionality phase out as it pushes the necessary reform to improve lives and strengthen Moldova's resilience. This is the purpose of our association agreement, and I am very happy to participate in this presentation of your report.
I fully agree with the need to continue working with Moldova and to fully engage on the fight against coronavirus and these challenges that I have been mentioning which show that this country really needs and deserves our support.

President. – The debate is closed.
The vote will take place on Tuesday, 20 October 2020.


Written statements (Rule 171)



Gheorghe-Vlad Nistor (PPE),
în scris. – Viitorul european al Republicii Moldova este o certitudine, iar traiectoria sa democratică este evidentă. Deși a întâmpinat numeroase obstacole în această direcție, multe venite chiar din partea propriei clase politice, calea progresului de tip european a rămas deschisă.
               

                  Deplâng acțiunile acelor forțe politice retrograde de la Chișinău ce nu înțeleg că prosperitatea nu poate fi asigurată decât prin crearea condițiilor statului de drept : justiție independentă și funcțională, economie liberă, robustă și predictibilă și respectarea libertăților individuale ale cetățenilor.
               

                  Astăzi dezbatem în plen Raportul asupra acordului de asociere UE-Republica Moldova, pentru adoptarea căruia voi vota. Documentul prezintă atât progresele făcute de Republica Moldova, recunoscute și încurajate pe deplin de către instituțiile și statele UE, cât și neajunsurile, precum corupția endemică și justiția deficitară, printre multe altele. Susțin propunerea de a crea un mecanism strict de condiționalitate, ce va lega asistența furnizată de UE de adoptarea și implementarea, într-un ritm alert, a reformelor necesare.
               

                  Beneficiile rezultate în urma legăturilor strânse cu UE sunt evidente, iar această cooperare trebuie continuată, consolidată și dezvoltată. Fac apel la întreaga conducere a Republicii Moldova, administrație și partide politice, să se ridice la înălțimea acestei provocări, asumându-și pe deplin responsabilitatea față de propriii săi cetățeni.
               
23.   Explanations of vote: see Minutes
24.   Corrections to votes and voting intentions: see Minutes
25.   Agenda of the next sitting : see Minutes
26.   Closure of the sitting

(Denní zasedání skončilo v 21:09.)



ELI: 
ISSN 1977-091X (electronic edition)