Normativa europea sobre ia: acta de regulación de la inteligencia artificial en la ue

La Unión Europea ha tomado una decisión trascendental al aprobar el Acta de Inteligencia Artificial (IA), la primera legislación para regular la tan discutida inteligencia artificial que promete revolucionar nuestras vidas.

Puntos principales del Acta de IA de la UE

Después de una maratónica negociación de tres días por parte del trílogo compuesto por la Comisión Europea, el Consejo y el Parlamento, el 8 de diciembre de 2023 aprobaron el Acta de IA para regular el uso de sistemas de inteligencia artificial en la Unión Europea.

Este resultado no estaba garantizado hasta hace unos días, después de que los gobiernos de Francia, Alemania e incluso Italia pidieran reemplazar el Acta de IA con la adopción de un mero código de conducta para disminuir las obligaciones regulatorias de las empresas europeas y permitirles competir mejor en el ámbito internacional. Los legisladores europeos no estuvieron de acuerdo con este enfoque, ya que creían (en mi opinión, con razón) que una regulación equilibrada habría obligado a las empresas extranjeras a cumplir también con el Acta de IA, creando así un entorno más equilibrado que habría permitido una competencia más justa.

Definición de la inteligencia artificial según el Acta de IA

En línea con este objetivo, la definición de sistemas de inteligencia artificial en el Acta de IA se alinea con los criterios reconocidos internacionalmente, siguiendo las directrices de la OCDE, que define un sistema de IA de la siguiente manera:

Un sistema basado en máquinas que, para objetivos explícitos o implícitos, infiere, a partir de la entrada que recibe, cómo generar salidas como predicciones, contenido, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales.

Esto le da un alcance amplio, ya que la inteligencia artificial podría tener un impacto en todos los sectores, excluyendo de su aplicación solo el uso de IA en sectores que requieren regulaciones especiales, como el militar y la defensa, además de la investigación, la innovación y el uso no profesional.

Una excepción muy discutida a la aplicabilidad del Acta de IA opera en relación a los sistemas de IA que explotan software de código abierto y gratuito. Pero el alcance de la excepción es tan estrecho que básicamente se aplicará solo al uso personal de la inteligencia artificial. De hecho, la exención no se aplicará:

1. Si el sistema de IA es (i) para casos de uso de alto riesgo, o (ii) cae bajo usos prohibidos, o (iii) es un caso de uso con requisitos de transparencia.
2. Si los sistemas de IA proporcionados bajo una licencia de código abierto brindan información como el uso del modelo, la arquitectura, etc., ya que, en este caso, sus obligaciones se limitan a proporcionar un resumen detallado del contenido y cumplir con la ley de derechos de autor. Pero la exención no se aplica si el sistema de IA se pone a disposición en el mercado o se pone en servicio, es decir, se utiliza con fines profesionales.

En cualquier caso, las exenciones de código abierto y gratuito no se aplican si el sistema de IA se designa como GPAI con riesgos sistémicos.

Clasificación de los sistemas de IA

El marco legal para la IA se caracteriza por un régimen dual que distingue entre sistemas de IA de bajo riesgo y aquellos que representan un alto riesgo:

• Todos los sistemas de IA están sujetos a obligaciones básicas de transparencia para garantizar un nivel mínimo de claridad y comprensión en general; los sistemas de IA identificados como portadores de riesgo sistémico, aquellos con el potencial de tener un impacto significativo en la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia o el estado de derecho, están sujetos a estándares regulatorios exhaustivos. Estos estándares requieren una asignación bien definida de responsabilidad entre desarrolladores y usuarios, y exigen que los desarrolladores ayuden a los usuarios a cumplir con los criterios de evaluación de sistemas de IA de alto riesgo. Las métricas para determinar estas clasificaciones, incluido FLOPS (es decir, su capacidad de cálculo) con un límite de relevancia de 10^25 FLOPs (que muchos consideran extremadamente alto), son ajustables y pueden revisarse con el tiempo.

Además, la regulación prohíbe prácticas consideradas perjudiciales, como:

• Técnicas que manipulan la cognición y el comportamiento individual.
• Recopilación aleatoria de datos de reconocimiento facial de espacios públicos en Internet o CCTV.
• Uso de sistemas de reconocimiento de emociones en entornos laborales y educativos.
• Implementación de puntajes de crédito social.
• Procesamiento biométrico para inferir datos personales sensibles como la orientación sexual o creencias religiosas.
• Aplicaciones específicas de la policía predictiva dirigidas a individuos.

Obligaciones más estrictas para los modelos fundamentales y la IA de propósito general

Se introduce un régimen especial para los sistemas de IA de propósito general y los modelos fundamentales. Una IA de propósito general es una inteligencia artificial que se puede utilizar para muchos propósitos diferentes. También se rige para los casos en que se integra en otro sistema de alto riesgo. Los modelos fundamentales son sistemas grandes capaces de realizar una amplia gama de tareas distintivas, como generar video, texto e imágenes, conversar en lenguaje lateral, computar o generar código informático.

El Acta de IA hace hincapié en los derechos y la transparencia de los modelos fundamentales, y también establece evaluaciones obligatorias del impacto en los derechos fundamentales para los sistemas de IA de alto riesgo y los sistemas utilizados en los sectores de seguros y banca. En particular, los sistemas de IA de propósito general que pueden representar un riesgo sistémico tienen las siguientes obligaciones:

• Gestión de riesgos: las organizaciones deben realizar evaluaciones de modelos utilizando protocolos y herramientas de vanguardia.
• Pruebas de adversarios: se debe realizar una prueba de adversarios y documentarla a fondo para identificar y abordar los riesgos sistémicos.
• Ciberseguridad: se debe garantizar un nivel sólido de ciberseguridad tanto para el modelo de IA como para su infraestructura física.
• Consumo de energía: las entidades están obligadas a monitorear, registrar y divulgar el consumo de energía real o estimado del modelo.

Además, los proveedores están obligados a:

• Adoptar una política que cumpla con las leyes de derechos de autor de la Unión, utilizando tecnologías avanzadas según sea necesario.
• También deben preparar un resumen detallado de los materiales utilizados para entrenar el modelo de IA. Supongo que los considerandos del Acta de IA dejarán claro que se espera que el resumen no cubra puntos de datos de entrenamiento individuales, ya que esto sería excesivamente costoso.

También se requiere un registro obligatorio en una base de datos europea y esta disposición, junto con la divulgación del contenido utilizado por el sistema de inteligencia artificial mencionado anteriormente, podría dar lugar a litigios significativos, ya que los titulares de derechos de los materiales utilizados por los sistemas de IA podrían impugnar su uso bajo la legislación de derechos de autor y privacidad.

Gobierno de la IA según el Acta de IA aprobada

En términos de gobierno y cumplimiento, el Acta de IA establece una Oficina Europea de IA para monitorear los modelos de IA más complejos. También prevé la creación de un panel científico y un foro consultivo para integrar las perspectivas de los diferentes interesados. Esto garantiza que la regulación esté siempre informada y actualizada con respecto a los avances en el campo.

Pero un tema de considerable discusión será sobre qué poderes se otorgan a las autoridades locales de IA y qué entidades serán designadas como autoridades nacionales. Como ocurrió con el RGPD, las autoridades locales no querrán renunciar a sus poderes. La Oficina de IA debería reducir el riesgo de enfoques inconsistentes en la UE entre las autoridades locales, pero no se puede descartar la fricción política entre las diferentes autoridades locales.

Sanciones del Acta de IA

El Acta de IA también establece un sistema de sanciones que, como ha sido el caso de varias regulaciones europeas recientes, se basa en el volumen de negocios global de las empresas o una cantidad predeterminada, la que sea mayor. Las sanciones serán de 35 millones de euros o el 7% por violaciones de las aplicaciones de IA prohibidas, de 15 millones de euros o el 3% por violaciones de las obligaciones del Acta de IA y de 7,5 millones de euros o el 1,5% por suministrar información incorrecta. Tendremos que revisar la redacción, ya que es más probable que las sanciones sean hasta esas cantidades, como se establece en otras legislaciones de la UE.

Se hacen excepciones para las pequeñas empresas, con sanciones limitadas para las pymes y las startups. Por lo tanto, incluso en cuanto a las sanciones, se ha logrado un equilibrio entre la necesidad de regular la IA y el objetivo de no restringir el desarrollo de esta tecnología en la UE. Por la misma razón, se proporcionan soluciones de sandboxing donde se pueden probar soluciones mientras se benefician de un régimen especial.

Cronograma del Acta de IA

La fecha de aplicabilidad del Acta de IA aprobada seguirá un cronograma preciso, con un período de transición de seis meses para la introducción de prohibiciones, un año para los modelos fundamentales y los sistemas de IA para uso general, y dos años para el lanzamiento de otros sistemas de IA, distinguidos según el riesgo asociado.

El texto del Acta de IA acordada aún no está disponible y la información anterior también se deriva de la información actualmente publicada. El texto final se publicará en el Diario Oficial de la Unión Europea en enero de 2024, momento en el que comenzarán a correr los plazos mencionados anteriormente. Sin embargo, no hay duda de que, independientemente de la duración del período de transición, ninguna empresa estará dispuesta a adoptar soluciones de IA que no cumplan con el Acta de IA y que la obligarían a desprenderse de la tecnología en un futuro cercano.

En DLA Piper, desarrollamos soluciones innovadoras para garantizar el cumplimiento de la inteligencia artificial de manera rentable y eficiente. No dude en contactarnos para obtener más información. Mientras tanto, puede obtener más información en dos seminarios web exclusivos que organizamos en italiano (regístrese AQUÍ) y en inglés (regístrese AQUÍ) con nuestros colegas internacionales, también comparando el Acta de IA con la orden ejecutiva de IA de EE. UU. y el proyecto de legislación de IA actual del Reino Unido.

Prisca AI Compliance

Prisca AI Compliance es una solución integral para evaluar la madurez de los sistemas de inteligencia artificial frente al Acta de IA, las regulaciones de privacidad, las normas de propiedad intelectual y mucho más, proporcionando una puntuación de cumplimiento e identificando las acciones correctivas que deben realizarse. Leer más.

Transfer: Solución legal de DLA Piper para respaldar las evaluaciones de impacto de transferencia

Esta presentación muestra la herramienta legal de tecnología de DLA Piper llamada transfer para respaldar a nuestros clientes en la realización de una evaluación de impacto de transferencia después del caso Schrems II. Leer más.

Solución integral de DLA Piper para proyectos de NFT y Metaverso

Puede consultar las capacidades y áreas de DLA Piper para proyectos de NFT y Metaverso. Leer más.

Si quieres conocer otras notas parecidas a Normativa europea sobre ia: acta de regulación de la inteligencia artificial en la ue puedes visitar la categoría Inteligencia.