6.12.2022
ES
Diario Oficial de la Unión Europea
C 465/89 Martes 3 de mayo de 2022
134.
Especifica que la clasificación de los sistemas de IA como de «alto riesgo» debe basarse en su uso concreto y en el contexto, la naturaleza, la probabilidad, la gravedad y la posible irreversibilidad de los daños que cabe esperar que se produzcan y que vulneren los derechos fundamentales y las normas de salud y seguridad establecidas en el Derecho de la Unión; destaca que esta clasificación debe ir acompañada de orientaciones y de la promoción del intercambio de mejores prácticas para los desarrolladores de IA; destaca que el derecho a la privacidad debe respetarse siempre y que los desarrolladores de IA deben garantizar el pleno cumplimiento de las normas sobre protección de datos;
135.
Subraya que los sistemas de IA que probablemente interactúen con niños o que les afecten de otro modo deben tener en cuenta sus derechos y vulnerabilidades y cumplir las más estrictas normas de seguridad e intimidad desde el diseño y por defecto;
136.
Señala que los entornos en los que operan los sistemas de IA pueden diferir significativamente en un entorno entre empresas en comparación con un entorno entre empresa y consumidor; señala que deben protegerse jurídicamente los derechos de los consumidores mediante normativa de protección de los consumidores; recalca que, aunque las empresas pueden resolver la responsabilidad y otros desafíos legales de forma rápida y rentable por medios contractuales directamente con sus socios comerciales, puede ser necesaria legislación para proteger a las empresas más pequeñas del abuso de poder del mercado por parte de agentes dominantes a través del bloqueo comercial o tecnológico, barreras a la entrada en el mercado o problemas de información asimétrica; recalca que también es necesario tener en cuenta las necesidades de las pymes y las empresas emergentes con requisitos legislativos demasiado complejos, para evitar ponerlas en desventaja frente a las grandes empresas, que cuentan con los recursos para mantener departamentos legales y de verificación del cumplimiento importantes;
137.
Subraya la necesidad de aplicar un enfoque basado en principios a las cuestiones éticas no resueltas que plantean las nuevas posibilidades tecnológicas derivadas de la venta y el uso de aplicaciones de IA, también a través del uso de principios fundamentales y obligatorios como el principio de no maleficencia, el principio de respeto de la dignidad humana y los derechos fundamentales o la protección del proceso democrático; observa que las buenas prácticas en el desarrollo de la IA, como la IA centrada en el ser humano, la gobernanza responsable y los principios de transparencia y explicabilidad, así como los principios de IA sostenible que estén en plena consonancia con la Agenda 2030 para el Desarrollo Sostenible de las Naciones Unidas, son otros componentes importantes para configurar la economía de la IA;
138.
Reconoce que no siempre es posible eliminar completamente los algoritmos de la IA, ya que el objetivo ideal de usar datos sin errores es muy difícil o casi imposible de alcanzar; observa que incluso un sistema de IA que haya sido probado se encontrará inevitablemente con escenarios reales que pueden producir resultados sesgados cuando se despliegue en un entorno diferente de aquel para el que fue entrenado y probado; destaca que la Unión debe esforzarse por mejorar la transparencia de los conjuntos de datos y algoritmos, cooperar muy estrechamente con los desarrolladores de IA para contrarrestar y reducir los sesgos sociales estructurales y tener en cuenta la adopción de normas obligatorias de diligencia debida en materia de derechos humanos en una fase temprana de desarrollo;
139.
Explica que las obligaciones de transparencia o explicabilidad significativa de los sistemas de IA, si bien son útiles en muchas ocasiones, puede que no se puedan aplicar en todos los casos; señala que los derechos de propiedad intelectual y los secretos comerciales deben protegerse frente a prácticas injustas como el espionaje industrial;
140.
Afirma que el marco legislativo sobre la propiedad intelectual debe seguir incentivando y protegiendo a los innovadores de la IA mediante la concesión de patentes como recompensa por desarrollar y publicar sus creaciones; considera que la mayoría de la normativa vigente está preparada para el futuro, pero propone determinados ajustes, como la integración de elementos de código abierto y el recurso a la contratación pública para encargar, cuando proceda, programas informáticos de código abierto para soluciones de IA; propone nuevas formas de concesión de licencias de patentes para garantizar que las herramientas estén disponibles para regiones e iniciativas que, de otro modo, no podrían permitírselas;
141.
Considera que las autoevaluaciones de riesgos ex ante obligatorias basadas en reglas y normas claras, así como en evaluaciones de impacto sobre la protección de datos, complementadas por evaluaciones de la conformidad a cargo de terceros con el marcado CE pertinente y adecuado, junto con el control del cumplimiento ex post mediante la vigilancia del mercado, podrían ser útiles para garantizar que los sistemas de IA en el mercado sean seguros y fiables; considera que, con el fin de evitar que las pymes se vean expulsadas del mercado, se deben elaborar normas y guías sobre cumplimiento de la legislación en materia de IA, con la estrecha participación de pequeñas empresas, alineadas internacionalmente todo lo posible, que deben estar disponibles de manera gratuita;