En un paso significativo hacia la regulación de la Inteligencia Artificial (IA), Europa ha acordado un marco legal que busca garantizar derechos fundamentales, Estado de derecho, democracia y sostenibilidad ambiental en el desarrollo y uso de la IA de alto riesgo. Este acuerdo también aspira a posicionar a Europa como líder en el ámbito de la IA.
La nueva ley no se aplica a áreas fuera del Derecho de la UE y no afecta las competencias de los Estados miembros en seguridad nacional. Excluye además sistemas de IA utilizados exclusivamente para fines militares, defensa, investigación e innovación, así como aquellos utilizados por personas de forma no profesional.
Clasificación y Prácticas Prohibidas:
- Se clasifican los sistemas de IA de alto riesgo con obligaciones específicas para garantizar la transparencia y evitar violaciones de derechos fundamentales.
- Se prohíbe el uso de IA en prácticas inaceptables, como manipulación cognitiva, rastreo indiscriminado de imágenes faciales, reconocimiento de emociones y vigilancia policial predictiva.
Ámbito Policial:
- Excepciones permitidas para el uso de IA por autoridades policiales, con salvaguardias para la confidencialidad de datos operativos delicados.
- Restricciones en la identificación biométrica remota en espacios públicos, con excepciones para amenazas reales y búsqueda de personas sospechosas de delitos graves.
Sistemas de IA de Uso General y Modelos Fundacionales:
- Se regulan sistemas de IA de uso general y modelos fundacionales con normas específicas.
- Los modelos fundacionales de gran impacto deben cumplir obligaciones estrictas de transparencia antes de su introducción en el mercado.
Nueva Estructura de Gobernanza:
- Se establece una oficina de IA en la Comisión para supervisar modelos avanzados y garantizar el cumplimiento de normas.
- Un panel científico de expertos asesorará sobre modelos de IA de uso general y fundacionales.
- Se crea un Comité de IA con representantes de los Estados miembros para aplicar el Reglamento.
Sanciones:
- Multas basadas en el porcentaje del volumen de negocios anual global de la empresa infractora, pudiendo llegar a 35 millones de euros.
- Limitaciones proporcionadas para pymes y empresas emergentes.
Transparencia y Protección de Derechos Fundamentales:
- Evaluación del impacto en derechos fundamentales antes de la introducción de sistemas de IA de alto riesgo.
- Mayor transparencia en el uso de sistemas de IA de alto riesgo.
- Usuarios de sistemas de reconocimiento de emociones obligados a informar a las personas expuestas.
El Reglamento de Inteligencia Artificial se aplicará dos años después de su entrada en vigor, completamente en 2026, con una aplicación gradual.
Este acuerdo representa un hito crucial en la regulación de la IA, protegiendo los derechos de los ciudadanos y estableciendo un marco para la innovación responsable.