La inteligencia artificial (IA) es una tecnología que ha revolucionado diversos sectores, desde la medicina hasta la industria automotriz. A medida que su uso se expande, es necesario establecer un marco global que promueva el desarrollo y uso responsable y seguro de los sistemas de IA. En este sentido, el G7, un grupo de países líderes en la economía mundial, ha lanzado los Principios y Código de Conducta sobre IA (AIP&CoC) como un paso importante en este proceso.
¿Qué es la IA G7?
Los Principios y Código de Conducta sobre IA del G7 representan un paso significativo en un proceso continuo por parte de los gobiernos para establecer un marco global coordinado que promueva el desarrollo y uso responsable y seguro de los sistemas de inteligencia artificial (IA). Si bien los AIP&CoC son voluntarios, los gobiernos del G7 los respaldarán y alentarán a las empresas y otras organizaciones a comprometerse con ellos.
El proceso hiroshima del G7 que produjo los AIP&CoC es parte de un conjunto creciente de esfuerzos internacionales para establecer marcos para la gobernanza de la IA. Se basan en los Principios de IA de la OCDE de 2019, que también fueron adoptados por el G20, y pretenden proporcionar un punto de referencia común para los desarrollos actuales, como la Orden Ejecutiva de los Estados Unidos sobre IA Segura, Segura y Confiable, la Ley C-27 de Canadá sobre IA y Datos, y también alimentar los esfuerzos globales como la Cumbre sobre Seguridad de la IA organizada por el Reino Unido, la Convención del Consejo de Europa sobre IA, Derechos Humanos, Democracia y Estado de Derecho y el Pacto Global de las Naciones Unidas sobre Digitalización. Para la UE, los AIP&CoC del G7 complementarán las reglas legalmente vinculantes que actualmente se están negociando en el marco de la Ley de IA de la UE.
Principales aspectos de la gobernanza de la IA
Entre los aspectos destacados de los AIP&CoC se encuentra el establecimiento de un compromiso firme por parte del G7 con una serie de aspectos clave de la gobernanza de la IA. Estos incluyen un enfoque basado en el riesgo que se aplica a lo largo del ciclo de vida de la IA, comenzando con evaluaciones de riesgo preventivas antes de la implementación y mitigación. También reconocen la necesidad de una supervisión continua, informes y mitigación de mal uso e incidentes. Entre las medidas preventivas, los AIP&CoC destacan la necesidad de que los desarrolladores y desplegadores de IA tengan políticas y procedimientos de gestión de riesgos, y controles de seguridad sólidos que deben incluir ejercicios internos de red teaming adversario.
Además de abordar las preocupaciones sobre los posibles riesgos derivados de los sistemas avanzados de IA, los AIP&CoC del G7 también identifican áreas prioritarias de investigación y desarrollo de IA en torno a la autenticación de contenido, medidas para proteger los derechos de los datos, mitigación de riesgos sociales, de seguridad y de seguridad, el uso de IA para abordar desafíos globales (por ejemplo, el cambio climático) y el desarrollo de estándares técnicos.
Desarrollo continuo de los principios y código de conducta
En el futuro, los países del G7 se han comprometido a desarrollar los principios y el código de conducta como parte de un marco de políticas integral, con la aportación de otros países, la OCDE, la Asociación Global de IA (GPAI) y un conjunto más amplio de partes interesadas en la academia, los negocios y la sociedad civil.
Entre los elementos que se abordarán en trabajos posteriores, se encuentra la necesidad de aclarar conceptos clave, como las definiciones de terminología (por ejemplo, sistemas avanzados de ia ), la categorización de incidentes, los estándares de medición y puntos de referencia para los niveles de riesgo, y la orientación para la coherencia de los informes.
También será necesario establecer mecanismos para el intercambio seguro de información sobre la vulnerabilidad de los sistemas de IA. Otros elementos que aún no se han abordado incluyen el papel de la divulgación pública sobre consideraciones de responsabilidad y mecanismos para garantizar la calidad de las comunicaciones a lo largo de la cadena de valor entre desarrolladores, usuarios y todas las partes interesadas intermedias.
Implementación de los AIP&CoC
A medida que los países incorporen los AIP&CoC del G7 en sus marcos de políticas nacionales, algunos de los problemas a tener en cuenta incluyen los medios por los cuales eligen impulsar la adopción de esos marcos por parte de los desarrolladores y desplegadores de IA, ya sea mediante mandatos legislativos o regulatorios (por ejemplo, la propuesta Ley de IA de la UE), a través de normas de contratación gubernamental (por ejemplo, de conformidad con la Orden Ejecutiva del 30 de octubre de 2023 en los Estados Unidos) o directrices recomendadas (por ejemplo, las nuevas directrices de IA de Japón que están siendo finalizadas por el Consejo de Estrategia de IA del gobierno). También será interesante ver hasta qué punto los AIP&CoC se adoptan más allá de los países del G7, incluidos los miembros de la OCDE, los países miembros del G20 (fuera del G7) y las naciones que no están tradicionalmente alineadas con el G
Consultas habituales sobre los Principios y Código de Conducta sobre IA del G7
- ¿Qué es el G7?
El G7 es un grupo de países compuesto por Canadá, Francia, Alemania, Italia, Japón, Reino Unido y Estados Unidos, que se reúnen anualmente para discutir temas económicos y políticos de importancia global.
- ¿Qué son los Principios y Código de Conducta sobre IA del G7?
Los Principios y Código de Conducta sobre IA del G7 son un conjunto de directrices voluntarias que los países del G7 han acordado respaldar para promover el desarrollo y uso responsable y seguro de los sistemas de inteligencia artificial.
- ¿Qué aspectos abordan los Principios y Código de Conducta sobre IA del G7?
Los Principios y Código de Conducta sobre IA del G7 abordan aspectos como evaluaciones de riesgo preventivas, mitigación de riesgos, protección de los derechos de los datos, investigación y desarrollo de IA, y el uso de la IA para abordar desafíos globales.
- ¿Los Principios y Código de Conducta sobre IA del G7 son legalmente vinculantes?
No, los Principios y Código de Conducta sobre IA del G7 son voluntarios. Sin embargo, los gobiernos del G7 respaldarán estos principios y animarán a las empresas y organizaciones a comprometerse con ellos.
Los Principios y Código de Conducta sobre IA del G7 representan un esfuerzo importante por parte de los gobiernos líderes en la economía mundial para establecer un marco global que promueva el desarrollo y uso responsable y seguro de los sistemas de inteligencia artificial. Estos principios abordan aspectos clave de la gobernanza de la IA y establecen un compromiso firme por parte del G7 en la evaluación de riesgos, mitigación de riesgos y protección de los derechos de los datos. A medida que los países implementen estos principios en sus políticas nacionales, será interesante observar cómo se impulsa la adopción de estos marcos y hasta qué punto se adoptan más allá de los países del GSe espera que los Principios y Código de Conducta sobre IA del G7 promuevan un desarrollo responsable y seguro de la inteligencia artificial en beneficio de la sociedad.
Si quieres conocer otras notas parecidas a G7 ia: desarrollo responsable y seguro puedes visitar la categoría Inteligencia.