Inicio   >   Actualidad   >   Propuesta de Reglamento del Parlamento EU: Artific...

Propuesta de Reglamento del Parlamento EU: Artificial Intelligence Act

El pasado viernes, 8 de diciembre de 2023, la Comisión Europea se convirtió en la primera organización del mundo en tomar medidas para comenzar a regular la controvertida Inteligencia Artificial (IA), una tecnología en rápida evolución con gran potencial para proporcionar ventajas competitivas, pero que también puede vulnerar los derechos fundamentales y los principios de la Unión Europea (UE).

Se presentó una propuesta de reglamento de 138 páginas en su versión en español, que consta de 85 artículos y 9 anexos. Su objetivo es desarrollar un ecosistema de confianza mediante la proposición de un marco jurídico destinado a lograr que la IA sea fiable, inspirando confianza en los ciudadanos y otros usuarios, al tiempo que incentiva a las empresas a desarrollar este tipo de soluciones.

La propuesta aborda de manera detallada cada efecto e impacto del uso de la IA en la sociedad. En este artículo, resumiremos los aspectos más relevantes.

La propuesta establece una lista de IA prohibidas y un enfoque basado en los riesgos que distingue entre los usos de la IA que generan i) un riesgo inaceptable, ii) un riesgo alto, y iii) un riesgo bajo o mínimo. Las prohibiciones abarcan prácticas con gran potencial para manipular a las personas mediante técnicas subliminales que trasciendan su conciencia o que aprovechen las vulnerabilidades de grupos específicos, como los menores o las personas con discapacidad, para alterar sustancialmente su comportamiento de un modo que es probable que les cause perjuicios físicos o psicológicos a ellos o a otras personas.

Otro aspecto relevante es el establecimiento de una sólida metodología de gestión de riesgos para definir aquellos sistemas de IA que plantean un «alto riesgo» para la salud, la seguridad o los derechos fundamentales de las personas. Estos sistemas de IA, listados en el Anexo III y sujetos a ampliación por parte de los órganos competentes, deberán cumplir una serie de requisitos horizontales obligatorios que garanticen su fiabilidad y ser sometidos a procedimientos de evaluación de conformidad antes de poder introducirse en el mercado de la UE. Además, tendrán que figurar en una base de datos oficial para toda la UE.

Además, se impondrán obligaciones de transparencia a los sistemas que i) interactúen con seres humanos, ii) se utilicen para detectar emociones o determinar la asociación a categorías (sociales) concretas a partir de datos biométricos, o iii) generen o manipulen contenido (ultrafalsificaciones). Por ejemplo, si un sistema de IA se utiliza para generar o manipular imágenes, audios o vídeos que a simple vista parezcan contenido auténtico, debe ser obligatorio informar que dicho contenido se ha generado por medios automatizados.

Los Estados miembros deberán designar autoridades de supervisión encargadas de aplicar los requisitos legislativos con conocimientos tecnológicos y recursos humanos y financieros suficientes, estableciendo un sistema de gobernanza nacional y a escala de la UE para la aplicación efectiva del reglamento (Comité Europeo de Inteligencia Artificial y el Supervisor Europeo de Protección de Datos). Además, se les anima a crear espacios controlados de pruebas para la IA, con el fin de probar, durante un tiempo limitado, tecnologías innovadoras según un plan de pruebas acordado con las autoridades competentes. Asimismo, los proveedores de IA tendrán la obligación de informar a las autoridades nacionales competentes sobre incidentes graves o defectos de funcionamiento que constituyan un incumplimiento de sus obligaciones respecto de los derechos fundamentales en cuanto tengan constancia de ellos.

Para concluir, el Artículo 71 prevé también un régimen de sanciones que subraya la importancia atribuida a la IA. Estamos hablando de multas administrativas de hasta 30 000 000 EUR o, si el infractor es una empresa, de hasta el 6 % del volumen de negocio total anual mundial del ejercicio financiero anterior.

Estaremos atentos a los siguientes pasos; el texto acordado ahora tendrá que ser adoptado formalmente tanto por el Parlamento como por el Consejo para convertirse en ley de la UE. Las comisiones de Mercado Interior y Libertades Civiles del Parlamento votarán sobre el acuerdo en una próxima reunión.

Michele Vavallo (InnEurope)