El Consejo de Ministros ha dado luz verde esta semana al al anteproyecto de ley de gobernanza de la Inteligencia Artificial (IA), la primera norma nacional que pretende dotar de un marco legal al uso de la inteligencia artificial en nuestro país. Según explica el Ejecutivo en nota de prensa, la nueva norma, que debe ser aprobada por las Cortes, adapta el reglamento europeo de IA ya vigente "bajo un enfoque regulador que impulsa la innovación.".
Según explicó el ministro para la Transformación Digital y de la Función Pública, Óscar López, el objetivo de la norma es "proteger nuestros derechos digitales frente a un uso negativo de la IA", una herramienta "muy poderosa que puede servir para mejorar nuestras vidas o atacar a la democracia".
El reglamento establece prohibiciones para determinados "usos maliciosos de la IA", e introduce obligaciones "más rigurosas para sistemas considerados de alto riesgo", así como una serie de requisitos mínimos para todos estos sistemas. También establece sanciones contra estos incumplimientos e incorpora el derecho digital de "retirada del mercado de sistemas de IA por la autoridad cuando hayan provocado un incidente grave".
Usos prohibidos de los sistemas de IA
- El uso de técnicas subliminales (imágenes o sonidos imperceptibles) para manipular decisiones sin consentimiento, causando un perjuicio considerable a la persona (adicciones, violencia de género o menoscabo de su autonomía). Por ejemplo, una IA que identifica usuarios con adicción al juego y les incita a entrar, con técnicas subliminales, en una plataforma de juego online.
- Explotar vulnerabilidades relacionadas con la edad, la discapacidad o situación socioeconómica para alterar sustancialmente comportamientos de modo que les provoque o pueda provocar perjuicios considerables. Por ejemplo, un juguete infantil habilitado con IA que anima a los niños a completar retos que les producen o pueden producirles daños físicos graves.
- La clasificación biométrica de las personas por raza u orientación política, religiosa o sexual. Por ejemplo, una IA que, basándose en la biométrica facial, clasifique la orientación política o sexual de un individuo mediante análisis de sus fotos en redes sociales
- La puntuación de individuos o grupos basándose en comportamientos sociales o rasgos personales como método de selección para, por ejemplo, denegarles la concesión de subvenciones o préstamos.
- Valorar el riesgo de que una persona cometa un delito basándose en datos personales como su historial familiar, nivel educativo o lugar de residencia, con excepciones legales.
- Inferir emociones en centros de trabajo o educativos como método de evaluación para promoción o despido laboral, salvo por razones médicas o de seguridad.
Multas de hasta 35 millones de euros a estos sistemas
La normativa recogerá sanciones millonarias para los sistemas que incumplan estas prohibiciones: multas de entre 7,5 y los 35 millones de euros, o si es superior, entre el 2% y el 7% del volumen de negocio mundial del ejercicio anterior.
El cumplimiento de esta ley estará a cargo de la Agencia Española de Protección de Datos (ámbito personal y fronterizo), el Consejo General del Poder Judicial (ámbito judicial), la Junta Electoral Central (ámbito de procesos democráticos) y la Agencia Española de Supervisión de la Inteligencia Artificial (de forma general)
