La Unión Europea ha logrado un hito al convertirse en la primera región del entorno en establecer una ley integral para regular la inteligencia artificial (IA). Esta tecnología, que genera grandes expectativas y preocupaciones por su potencial disruptivo, será regulada con el objetivo de impulsar la competitividad e innovación en el sector, al mismo tiempo que se protege a los ciudadanos. Además, la UE busca sentar un modelo normativo a seguir por el resto del entorno.
- ¿Cómo se cocina una ley para el futuro?
- ¿Cómo se regula la IA en la ley?
- ¿Cuáles son los riesgos de la IA por los que la UE podría intervenir?
- ¿Cómo impedir que la IA vulnere los derechos ciudadanos?
- ¿Cómo se controlará el cumplimiento de la ley?
- ¿Cuáles son los siguientes pasos?
- Reacciones a la ley
¿Cómo se cocina una ley para el futuro?
La negociación de esta ley futurista tuvo lugar en Bruselas, bajo la presidencia española de turno de la UE. Durante una maratónica sesión de 36 horas, representantes de las instituciones europeas discutieron punto por punto y artículo por artículo la normativa. A pesar de la dificultad de regular tecnologías que aún no existen, se logró llegar a un acuerdo provisional que deberá ser ratificado por los Estados miembros y el Parlamento Europeo.
¿Cómo se regula la IA en la ley?
La ley europea sobre inteligencia artificial se enfoca principalmente en la ia de propósito general, como el popular ChatGPT. Se establece un enfoque de dos niveles: transparencia para los modelos de IA de uso general y requisitos más estrictos para los modelos potentes con impactos sistémicos en el mercado único de la UE. La ley exige a las empresas documentación técnica, cumplimiento de la ley de derechos de autor y la difusión de resúmenes detallados sobre el contenido utilizado para la formación de estos modelos de IA.
Para los modelos de alto impacto con riesgo sistémico, se establecen obligaciones más estrictas, como evaluaciones de modelos, mitigación de riesgos, pruebas constantes, informes de incidentes graves, garantía de ciberseguridad y eficiencia energética. En caso de incumplimiento, se impondrán sanciones.
¿Cuáles son los riesgos de la IA por los que la UE podría intervenir?
La UE no busca intervenir en la IA de origen, sino en función de los riesgos que presente cada tecnología. Se prohíben los usos de la IA que violen los derechos fundamentales y los valores de la UE. Se establecen reglas claras para los casos de uso de alto riesgo y se promueve la innovación sin barreras para los casos de uso de bajo riesgo.
Ejemplos de sistemas de IA de alto riesgo incluyen infraestructuras críticas, dispositivos médicos, sistemas educativos y aplicaciones en los ámbitos de la aplicación de la ley, el control de fronteras, la administración de justicia y los procesos democráticos.
¿Cómo impedir que la IA vulnere los derechos ciudadanos?
El Parlamento Europeo ha luchado por preservar al máximo las libertades y derechos ciudadanos al legislar sobre una tecnología intrusiva como la IA. La futura ley prohíbe sistemas de IA que manipulen el comportamiento humano para eludir el libre albedrío de los usuarios, así como sistemas que permiten la puntuación social por parte de gobiernos o empresas. También se prohíben sistemas de reconocimiento de emociones en entornos laborales y educativos, y la categorización biométrica para deducir datos sensibles. Se establecen restricciones para el uso de sistemas de vigilancia biométrica en tiempo real en espacios públicos, limitándolo a casos específicos y con estrictas salvaguardias.
¿Cómo se controlará el cumplimiento de la ley?
La ley prevé la creación de una Oficina de IA dentro de la Comisión Europea, encargada de supervisar los modelos de IA más avanzados, promover estándares y prácticas de prueba, y garantizar el cumplimiento de las normas en todos los Estados miembros. Esta oficina recibirá asesoramiento de un panel científico compuesto por expertos independientes y de la sociedad civil.
La ley establece duras sanciones para los infractores, que pueden llegar a ser un porcentaje del volumen total de negocios de la compañía infractora o una cantidad predeterminada aún mayor. Las multas pueden alcanzar hasta 35 millones de euros o el 7% del volumen de negocios por violaciones de aplicaciones prohibidas de la IA.
¿Cuáles son los siguientes pasos?
El acuerdo político provisional está sujeto a la aprobación formal del Parlamento Europeo y del Consejo. Una vez adoptada la Ley de IA, habrá un período de transición antes de que sea aplicable. La Comisión Europea lanzará un pacto sobre ia, convocando a desarrolladores de IA de Europa y todo el entorno para que se comprometan voluntariamente a implementar las obligaciones clave de la ley antes de los plazos legales. Se espera que la ley esté plenamente vigente antes de 202
Reacciones a la ley
Las principales empresas responsables de los modelos de IA han asegurado que respetarán la ley, aunque han pedido que su aplicación no frene la innovación. Algunas ONG y expertos en ciberactivismo se han mostrado sorprendidos y defraudados por la ley, considerando que no protege adecuadamente los derechos humanos y permite excepciones peligrosas. Sin embargo, en general, se considera un avance importante en la regulación de la IA.
Si quieres conocer otras notas parecidas a Regulación de la inteligencia artificial en la ue puedes visitar la categoría Inteligencia.