En un pas significatiu cap a la regulació de la Intel·ligència Artificial (IA), Europa ha acordat un marc legal que busca garantir drets fonamentals, Estat de dret, democràcia i sostenibilitat ambiental en el desenvolupament i ús de la IA d’alt risc. Aquest acord també aspira a posicionar a Europa com a líder en l’àmbit de la IA.
La nova llei no s’aplica a àrees fora del Dret de la UE i no afecta les competències dels Estats membres en seguretat nacional. Exclou a més sistemes de IA utilitzats exclusivament per a fins militars, defensa, recerca i innovació, així com aquells utilitzats per persones de forma no professional.
Classificació i Pràctiques Prohibides:
- Es classifiquen els sistemes de IA d’alt risc amb obligacions específiques per a garantir la transparència i evitar violacions de drets fonamentals.
- Es prohibeix l’ús de IA en pràctiques inacceptables, com a manipulació cognitiva, rastreig indiscriminat d’imatges facials, reconeixement d’emocions i vigilància policial predictiva.
Àmbit Policial:
- Excepcions permeses per a l’ús de IA per autoritats policials, amb salvaguardes per a la confidencialitat de dades operatives delicades.
- Restriccions en la identificació biomètrica remota en espais públics, amb excepcions per a amenaces reals i cerca de persones sospitoses de delictes greus.
Sistemes de IA d’Ús General i Models Fundacionals:
- Es regulen sistemes de IA d’ús general i models fundacionals amb normes específiques.
- Els models fundacionals de gran impacte han de complir obligacions estrictes de transparència abans de la seva introducció en el mercat.
Nova Estructura de Governança:
- S’estableix una oficina de IA en la Comissió per a supervisar models avançats i garantir el compliment de normes.
- Un panell científic d’experts assessorarà sobre models de IA d’ús general i fundacionals.
- Es crea un Comitè de IA amb representants dels Estats membres per a aplicar el Reglament.
Sancions:
- Multes basades en el percentatge del volum de negocis anual global de l’empresa infractora, podent arribar a 35 milions d’euros.
- Limitacions proporcionades per a pimes i empreses emergents.
Transparència i Protecció de Drets Fonamentals:
- Avaluació de l’impacte en drets fonamentals abans de la introducció de sistemes de IA d’alt risc.
- Major transparència en l’ús de sistemes de IA d’alt risc.
- Usuaris de sistemes de reconeixement d’emocions obligats a informar les persones exposades.
El Reglament d’Intel·ligència Artificial s’aplicarà dos anys després de la seva entrada en vigor, completament en 2026, amb una aplicació gradual.
Aquest acord representa una fita crucial en la regulació de la IA, protegint els drets dels ciutadans i establint un marc per a la innovació responsable.