La inteligencia artificial (IA) está transformando la forma en que trabajamos, nos comunicamos e interactuamos entre nosotros. Sin embargo, también puede plantear desafíos y riesgos significativos para nuestra seguridad, privacidad y derechos fundamentales.
Es por eso que la Unión Europea (UE) ha propuesto una legislación histórica para regular el uso de la IA, conocida como el Reglamento de Inteligencia Artificial de la UE, o AI Act. El objetivo de este reglamento es fomentar el desarrollo y la adopción de IA confiable y centrada en el ser humano en toda la UE, al tiempo que se asegura de que los sistemas de IA de alto riesgo estén sujetos a estrictas normas y supervisión.
¿Qué es el Reglamento de Inteligencia Artificial de la UE?
El AI Act es un marco legal integral que abarca todo el ciclo de vida de los sistemas de IA, desde su diseño y desarrollo hasta su implementación y uso. Define la IA como software que se desarrolla con una o más de las técnicas y enfoques enumerados en el anexo i y puede, para un conjunto dado de objetivos definidos por humanos, generar resultados como contenido, predicciones, recomendaciones o decisiones que influyen en los entornos con los que interactúan. Las técnicas y enfoques enumerados en el Anexo I incluyen el aprendizaje automático, los enfoques lógicos y basados en el conocimiento, los enfoques estadísticos y combinaciones de los mismos.
El objetivo de este reglamento es regular la IA en función de su potencial para causar daño a la sociedad utilizando un enfoque basado en el riesgo: cuanto mayor sea el riesgo, más estrictas serán las regulaciones. Esta propuesta legislativa es la primera de su tipo en el entorno, lo que significa que puede establecer un estándar global para la regulación de la IA en otras jurisdicciones y promover el enfoque europeo para la regulación de la tecnología en todo el entorno.
El Comisionado de la UE, Thierry Breton, describió los planes como históricos, diciendo que establecen reglas claras para el uso de la ia. Además, añadió que es mucho más que un libro de reglas, es una plataforma de lanzamiento para las startups y los investigadores de la ue para liderar la carrera mundial de la ia.
Regulación de la IA según los niveles de riesgo
Como parte de su estrategia digital, la UE quiere regular la IA para garantizar mejores condiciones para el desarrollo y uso de esta tecnología innovadora, que puede beneficiar a muchos.
En abril de 2021, la Comisión Europea propuso el primer marco normativo de la UE para la IA. Este marco establece que los sistemas de IA que pueden utilizarse en diferentes aplicaciones se analizan y clasifican según el riesgo que representan para los usuarios. Los diferentes niveles de riesgo implicarán más o menos regulación. Una vez aprobadas, estas serán las primeras normas del entorno sobre IA.
El AI Act clasifica los sistemas de IA en categorías basadas en diferentes niveles de riesgo:
- Riesgo inaceptable: Se consideran sistemas de IA contrarios a los valores y principios de la UE, como aquellos que manipulan el comportamiento humano o explotan vulnerabilidades. Estos sistemas de IA están prohibidos en la UE. Algunos ejemplos serían los juguetes infantiles activados por voz que fomentan comportamientos amenazantes o el sistema de puntuación social.
- Riesgo alto: Son sistemas de IA utilizados en sectores o contextos críticos, como la atención médica, la educación, la aplicación de la ley, la justicia o la administración pública. Estos sistemas de IA están sujetos a estrictas obligaciones, como garantizar la calidad de los datos, la transparencia, la supervisión humana, la precisión, la solidez y la seguridad. También deben someterse a una evaluación de conformidad antes de ser comercializados o utilizados.
- IA generativa: La IA generativa, como ChatGPT, que crea contenido como texto, imágenes o videos, deberá cumplir con requisitos de transparencia, como:
- Indicar que el contenido no es creado por humanos, sino generado por IA.
- Diseñarse de manera que evite producir contenido que viole la ley, como discursos de odio, difamación o incitación a la violencia.
- Respetar los derechos de propiedad intelectual de las fuentes de datos utilizadas para entrenar el modelo y proporcionar resúmenes de los datos con derechos de autor.
- Riesgo limitado: Son sistemas de IA que plantean algunos riesgos para los derechos o intereses de los usuarios u otras personas afectadas, como aquellos que utilizan la identificación biométrica remota (como el reconocimiento facial) en espacios públicos accesibles. Estos sistemas de IA están sujetos a requisitos específicos de transparencia, como informar a los usuarios de que están interactuando con un sistema de IA y proporcionar información sobre su propósito, capacidades y limitaciones. Algunos ejemplos de esto son los sistemas que generan imágenes o audio.
¿Qué significa el AI Act para los profesionales?
El AI Act tendrá implicaciones significativas para los profesionales que utilizan IA en su trabajo, especialmente aquellos que están involucrados en sistemas de IA de alto riesgo. Deberán cumplir con las obligaciones y requisitos establecidos en el AI Act, como garantizar la calidad de los datos, la transparencia, la supervisión humana, la precisión, la solidez y la seguridad de sus sistemas de IA.
Por otro lado, creará nuevas oportunidades y beneficios para los profesionales que utilizan IA en su trabajo. Al establecer reglas claras y armonizadas para el uso de la IA en la UE, el AI Act creará un campo de juego nivelado y un mercado único para la IA, facilitando el comercio y la innovación transfronterizos. También aumentará la confianza en la IA, tanto entre los usuarios y consumidores como entre las autoridades públicas y los reguladores.
El AI Act es actualmente una propuesta y deberá ser adoptado por el Parlamento Europeo y el Consejo de la UE antes de convertirse en ley. Se espera que entre en vigor en 2024, después de un período de transición de dos años.
La Presidenta de la Comisión Europea, Ursula von der Leyen, dijo que el AI Act ayudará al desarrollo de una tecnología que no amenace la seguridad y los derechos de las personas. En una publicación en las redes sociales, dijo que era un marco legal único para el desarrollo de una ia en la que se puede confiar.
Thomson Reuters tiene una larga historia de innovación, que comenzó en el siglo XIX, cuando utilizaba la tecnología para recopilar y organizar información para sus clientes. Con el tiempo, ha incorporado la inteligencia artificial para ayudar a los clientes a encontrar la información que necesitan y ahora utiliza la IA para comprender a los clientes y proporcionar información oportuna.
Regístrate para obtener información, actualizaciones y todo lo relacionado con la IA en Thomson Reuters.
Más información sobre la IA en Thomson Reuters.
Si quieres conocer otras notas parecidas a Reglamento ia de la ue: lo que necesitas saber puedes visitar la categoría Inteligencia.