El Gobierno aprueba una ley para el uso ético de la inteligencia artificial que obliga a identificar su contenido

«La IA es una herramienta muy poderosa, que puede servir para mejorar nuestras vidas o atacar a la democracia; puede tener buenos usos o malos usos. La IA puede ser utilizada para investigar el cáncer o el Alzheimer, para prevenir catástrofes naturales, para descubrir nuevos medicamentos; o puede ser usada para difundir bulos y mentiras, esparcir odio y atacar a nuestra democracia. Por eso es oportuno su buen uso y gobernanza», ha explicado el ministro para la Transformación Digital y de la Función Pública, Óscar López, en la rueda de prensa posterior al Consejo de Ministros, en la que ha comparecido junto a la portavoz del Gobierno y ministra de Educación y Formación Profesional, Pilar Alegría, y la ministra de la Sanidad, Mónica García.

López ha dado los principales detalles de esta nueva norma y ha explicado que se trata de la «tercera pata» que completa ese «gran escudo europeo» que defiende los «derechos digitales en un contexto como el actual», después de los anteproyectos de ley que regulan los servicios digitales y los medios de comunicación. Así, ha señalado este texto busca proteger los derechos digitales «frente a un uso negativo» de la inteligencia artificial y lo hace «identificando prácticas prohibidas y también sistemas de alto riesgo».

Según ha detallado el departamento que dirige Óscar López, el anteproyecto de ley se tramitará por la vía de urgencia y seguirá ahora los trámites preceptivos antes de volver al Consejo de Ministros para su aprobación definitiva como proyecto de ley y envío a las Cortes para su aprobación. En cuanto a las prácticas prohibidas, ha explicado que entraron en vigor el 2 de febrero y desde el 2 de agosto se podrán sancionar mediante multas u otras medidas adicionales como requerir su adaptación al sistema para que sea conforme, impedir que se comercialice, etc.

Son prácticas prohibidas el uso de técnicas subliminales (imágenes o sonidos imperceptibles) para manipular decisiones sin consentimiento, causando un perjuicio considerable a la persona (adicciones, violencia de género o menoscabo de su autonomía). En este sentido, el ministro ha puesto como ejemplo un chatbot que identifica usuarios con adicción al juego y les incita a entrar en una plataforma de juego online.

También está prohibido explotar vulnerabilidades relacionadas con la edad, la discapacidad o situación socioeconómica para alterar sustancialmente comportamientos de modo que les provoque o pueda provocar perjuicios considerables.

«Por ejemplo, un juguete infantil que anima a niños a completar retos que acaban provocando lesiones graves. Esto también está ocurriendo», ha recancado el ministro. Entre las prácticas prohibidas se encuentra también la clasificación biométrica de las personas por raza u orientación política, religiosa o sexual; la puntuación de individuos o grupos basándose en comportamientos sociales o rasgos personales como método de selección para, por ejemplo, denegarles la concesión de subvenciones o préstamos; valorar el riesgo de que una persona cometa un delito basándose en datos personales como su historial familiar, nivel educativo o lugar de residencia, con excepciones legales; o inferir emociones en centros de trabajo o educativos como método de evaluación para promoción o despido laboral, salvo por razones médicas o de seguridad.

Óscar López ha apuntado que las sanciones que se pondrán para este tipo de sistemas oscilan entre los 7,5 y los 35 millones de euros, o entre el 2% y el 7% del volumen de negocio mundial del ejercicio anterior, si esta última cifra es superior, salvo en el caso de pymes, que podrá ser la menor de las dos cuantías. Las autoridades encargadas de vigilar los sistemas prohibidos serán la Agencia Española de Protección de Datos para sistemas biométricos y gestión de fronteras; el Consejo General del Poder Judicial para sistemas de IA en el ámbito de la justicia, la Junta Electoral Central para sistemas que IA que afecten a procesos democráticos y la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) en el resto de los casos.

Los sistemas de IA de alto riesgo son todos los que puedan añadirse como elementos de seguridad a productos industriales, juguetes, equipos radioeléctricos, productos sanitarios y productos de transportes; sistemas que formen parte de los ámbitos de biometría, infraestructuras críticas, educación y formación profesional, empleo, acceso a servicios privados esenciales, a servicios y prestaciones públicos esenciales y disfrute de estos servicios y prestaciones; sistemas para la garantía del derecho, migración, asilo y gestión del control fronterizo; y sistemas para su uso en la administración de justicia y en procesos democráticos.

Estos sistemas deberán cumplir una serie de obligaciones y, en caso de incumplimiento, se exponen a sanciones en función de su gravedad. Por ejemplo, las infracciones muy graves se castigan con multas de entre los 7,5 y los 15 millones de euros o hasta el 2% y el 3% del volumen de negocio mundial del ejercicio anterior; y las graves, entre 500.000 euros y 7,5 millones de euros o entre el 1% y el 2% del volumen de negocio mundial. Las autoridades encargadas de vigilar los sistemas de alto riesgo serán las que por defecto ya estén supervisando al sector afectado cuando se trate de productos sujetos a legislación armonizada.

Además, serán competentes la Agencia Española de Protección de Datos para sistemas de gestión de migraciones y asilo asociados a las Fuerzas y Cuerpos de Seguridad del Estado; el CGPJ para sistemas de IA en administración de justicia y la Junta Electoral Central para sistemas de procesos electorales; el Banco de España para sistemas de clasificación de solvencia crediticia; la Dirección General de Seguros para sistemas de seguros y la CNMV para sistemas de mercados de capitales. En el resto de los casos, la autoridad competente será la AESIA.

Por su parte, Pilar Alegría ha destacado que el anteproyecto de Ley para el uso ético, inclusivo y beneficioso de la Inteligencia Artificial es «un texto pionero, no solamente desde el punto de vista nacional, sino también desde el punto de vista internacional». La portavoz del Ejecutivo ha añadido que, con motivo del Día Mundial de las Personas Consumidoras que se celebra el 15 de marzo, el Consejo de Ministros ha aprobado una declaración en la que muestra «un nuevo compromiso con las personas y con los derechos de las personas consumidoras». Además, ha agregado que en ella cobra «una especial importancia la protección del consumidor en un entorno actual digital en constante evolución».