Primera ley integral sobre Inteligencia Artificial en el mundo

Es innegable que la Inteligencia Artificial (IA) se ha posicionado como una fuerza central en la transformación digital de la sociedad. Aunque sus aplicaciones futuras prometen cambios significativos, la IA ya está arraigada en nuestras vidas, desde los asistentes de voz en nuestros teléfonos inteligentes hasta el análisis de datos en redes sociales. 

Sin embargo, su rápida evolución y variedad de aplicaciones plantean riesgos en los derechos fundamentales de los ciudadanos y la protección de datos.

Acuerdo provisional sobre la futura ley de Inteligencia Artificial

Consciente de estos desafíos, la Unión Europea ha dado un paso histórico al establecer el primer marco jurídico integral para regular la IA a nivel mundial. 

Después de un arduo proceso de negociación, el Parlamento y el Consejo de la UE llegaron a un acuerdo provisional el 9 de diciembre de 2023 sobre lo que se conocerá como el Reglamento de Inteligencia Artificial. 

No hay que olvidar que el objetivo principal de esta ley pionera es garantizar que los sistemas de IA comercializados y utilizados en la UE sean seguros y respeten los derechos fundamentales de los ciudadanos.

Asimismo, el propósito es asegurar que los sistemas de inteligencia artificial que se implementen y se utilicen en el mercado de la Unión Europea cumplan con altos estándares de seguridad y respeten plenamente las leyes y valores fundamentales de la UE. Además, busca proporcionar un entorno legal seguro que fomente la inversión y la innovación en el campo de la IA.

Claves que sostienen el nuevo Reglamento de IA

1. El Reglamento proporciona una definición precisa de la IA

Esta será duradera en el tiempo y tecnológicamente neutral. Se define un sistema de IA como software que utiliza diversas técnicas (como aprendizaje automático o estadísticas) para generar información de salida, como contenidos, predicciones o decisiones, influenciando los entornos con los que interactúa.

2. Ámbito de aplicación

Las normas establecidas en el Reglamento se aplican a los proveedores de sistemas de IA sin discriminación, independientemente de su ubicación, siempre que el sistema se introduzca en el mercado de la UE o su uso afecte a personas en la UE. Esto incluye a los usuarios de sistemas de IA cuando la información generada se utilice en la UE.

3. El Reglamento adopta un enfoque basado en el riesgo

Hay cuatro niveles de riesgo para los sistemas de IA y hablamos de:

• Riesgo mínimo: la mayoría de los sistemas de IA, como los asistentes virtuales o chatbots, deben cumplir con requisitos mínimos de transparencia hacia los usuarios.
• Alto riesgo: Para los sistemas de IA considerados de alto riesgo, se requiere una evaluación de conformidad antes de su introducción en el mercado, junto con obligaciones adicionales de transparencia y gestión de riesgos por parte de los proveedores.

Algunos usos de la IA presentan riesgos inaceptables y están prohibidos en la UE debido a su contradicción con los valores fundamentales de la Unión y la violación de los derechos humanos. Estas prohibiciones incluyen:

• Puntuación social para fines públicos y privados.
• Explotación de vulnerabilidades de las personas mediante técnicas subliminales.
• Identificación biométrica remota en tiempo real en espacios públicos por parte de las fuerzas del orden, con excepciones limitadas.
• Categorización biométrica de personas para inferir su raza, opiniones políticas, afiliación sindical, creencias religiosas u orientación sexual, a menos que sea para identificar víctimas.
• Uso de policía predictiva individual.
• Reconocimiento de emociones en entornos laborales y educativos, excepto por razones médicas o de seguridad.

4. Obligaciones de transparencia para determinados sistemas de IA

Este apartado se enfoca en sistemas de IA específicos para abordar los riesgos asociados con la manipulación. 

Se establecen obligaciones de transparencia para sistemas que interactúan con personas, detectan emociones, categorizan en base a datos biométricos o generan y manipulan contenido. 

Se requiere informar a las personas cuando interactúen con estos sistemas o cuando se reconozcan sus emociones o características de manera automatizada para permitirles tomar decisiones informadas.

5. Obligaciones de los proveedores

Los proveedores deben someter los sistemas de IA de alto riesgo a una evaluación de conformidad antes de introducirlos en el mercado de la UE. 

Esto implica demostrar que cumplen con requisitos como calidad de datos, documentación, transparencia, ciberseguridad, entre otros. Además, deben aplicar sistemas de gestión de calidad y riesgos para asegurar el cumplimiento continuo de los requisitos y minimizar riesgos, incluso después de la introducción del producto en el mercado.

6. Cumplimiento y supervisión del Reglamento IA

Los Estados miembros deben designar autoridades nacionales competentes para supervisar y aplicar el reglamento. 

Se establecerá una Oficina Europea de IA dentro de la Comisión Europea para supervisar los modelos de IA de uso general y cooperará con el Comité Europeo de Inteligencia Artificial. Este comité, compuesto por representantes de autoridades nacionales y otros expertos, emitirá recomendaciones para garantizar una aplicación efectiva del reglamento.

7. Multas administrativas

Se establecen sanciones efectivas y proporcionadas para los sistemas de IA que no cumplan con el reglamento. Los Estados miembros deben imponer sanciones en caso de infracciones, que pueden llegar hasta 35 millones de euros o el 7 % del volumen de negocios anual total a nivel mundial del ejercicio financiero anterior.

8. Innovación

La ley de IA facilitará la creación de entornos de pruebas regulados para probar tecnologías innovadoras durante un tiempo limitado. 

Esto fomenta la innovación por parte de empresas, pymes y startups. España ha dado un paso adicional al establecer el primer entorno controlado de pruebas en colaboración con la Comisión Europea; publicado en el Real Decreto 817/2023, de 8 de noviembre.

9. Aplicabilidad y entrada en vigor

El Reglamento debe esperar la aprobación final del Parlamento Europeo y el Consejo antes de entrar en vigor, prevista para el vigésimo día siguiente a su publicación en el Diario Oficial. Su aplicación plena se espera 24 meses después de su entrada en vigor.

La primera ley integral sobre Inteligencia Artificial en el mundo representa un hito en la regulación de la IA. Proporciona un marco sólido para garantizar que la IA se desarrolle y utilice de manera segura y ética, protegiendo al mismo tiempo los derechos fundamentales de los ciudadanos europeos.

Al igual que el Reglamento General de Protección de Datos (RGPD), no cabe duda de que esta ley complementará las regulaciones existentes, asegurando un enfoque coherente y completo hacia la protección de datos y los derechos individuales en la era de la IA.