La Organización Mundial de la Salud (OMS) ha lanzado una nueva publicación en la que se enumeran consideraciones regulatorias clave sobre inteligencia artificial (IA) para la salud. El informe enfatiza la importancia de establecer la seguridad y eficacia de los sistemas de IA, poner a disposición rápidamente sistemas apropiados para aquellos que los necesitan y fomentar el diálogo entre las partes interesadas, incluidos desarrolladores, reguladores, fabricantes, trabajadores de la salud y pacientes.
Con la creciente disponibilidad de datos de atención médica y el rápido progreso en técnicas analíticas, ya sea aprendizaje automático, basado en lógica o estadístico, las herramientas de IA podrían transformar el sector de la salud. La OMS reconoce el potencial de la IA para mejorar los resultados de salud mediante el fortalecimiento de los ensayos clínicos; mejora del diagnóstico médico, tratamiento, autocuidado y atención centrada en la persona; y complementando los conocimientos, habilidades y competencias de los profesionales de la salud. Por ejemplo, la IA podría ser beneficiosa en entornos con falta de especialistas médicos, como la interpretación de escaneos de retina e imágenes radiológicas, entre muchos otros.
Desafíos de la IA en la salud
Sin embargo, las tecnologías de IA, incluidos los modelos de lenguaje grandes, se están implementando rápidamente, a veces sin una comprensión completa de cómo pueden funcionar, lo que podría beneficiar o perjudicar a los usuarios finales, incluidos los profesionales de la salud y los pacientes. Al utilizar datos de salud, los sistemas de IA podrían tener acceso a información personal sensible, lo que requiere marcos legales y regulatorios sólidos para salvaguardar la privacidad, seguridad e integridad, a lo que esta publicación tiene como objetivo ayudar a establecer y mantener.
La inteligencia artificial tiene un gran potencial para la salud, pero también presenta desafíos serios, como la recopilación no ética de datos, las amenazas de ciberseguridad y la amplificación de sesgos o información errónea, dijo el Dr. Tedros Adhanom Ghebreyesus, Director General de la OMS. esta nueva tutorial apoyará a los países a regular la ia de manera efectiva, aprovechando su potencial, ya sea en el tratamiento del cáncer o la detección de la tuberculosis, al tiempo que minimiza los riesgos.
Principios clave para la regulación de la IA en la salud
En respuesta a las crecientes necesidades de los países para gestionar de manera responsable el rápido aumento de las tecnologías de IA en salud, el informe establece seis áreas para la regulación de la IA en la salud:
- Transparencia y documentación: se destaca la importancia de la transparencia y la documentación, como documentar todo el ciclo de vida del producto y rastrear los procesos de desarrollo.
- Gestión de riesgos: se deben abordar de manera integral cuestiones como uso previsto, aprendizaje continuo, intervenciones humanas, modelos de entrenamiento y amenazas de ciberseguridad, con la simplificación de los modelos tanto como sea posible.
- Validación externa de datos: es importante validar externamente los datos y ser claro sobre el uso previsto de la IA para garantizar la seguridad y facilitar la regulación.
- Compromiso con la calidad de los datos: es vital garantizar la calidad de los datos mediante la evaluación rigurosa de los sistemas antes de su lanzamiento, para evitar la amplificación de sesgos y errores.
- Regulaciones complejas: se abordan los desafíos planteados por regulaciones importantes y complejas, como el Reglamento General de Protección de Datos (RGPD) en Europa y la Ley de Portabilidad y Responsabilidad del Seguro de Salud (HIPAA) en los Estados Unidos, enfatizando la comprensión del alcance de la jurisdicción y los requisitos de consentimiento, en aras de la privacidad y la protección de datos.
- Colaboración: fomentar la colaboración entre organismos reguladores, pacientes, profesionales de la salud, representantes de la industria y socios gubernamentales puede ayudar a garantizar que los productos y servicios cumplan con la regulación a lo largo de su ciclo de vida.
Desafíos de la representación en los datos de entrenamiento de la IA
Los sistemas de IA son complejos y dependen no solo del código con el que están construidos, sino también de los datos con los que son entrenados, que provienen de entornos clínicos e interacciones de usuarios. Una mejor regulación puede ayudar a gestionar los riesgos de la IA al amplificar sesgos en los datos de entrenamiento.
Por ejemplo, puede ser difícil para los modelos de IA representar con precisión la diversidad de las poblaciones, lo que lleva a sesgos, inexactitudes o incluso fallas. Para mitigar estos riesgos, se pueden utilizar regulaciones para garantizar que los atributos, como género, raza y etnia, de las personas presentes en los datos de entrenamiento se informen y los conjuntos de datos se hagan intencionalmente representativos.
La nueva publicación de la OMS tiene como objetivo establecer principios clave que los gobiernos y las autoridades reguladoras pueden seguir para desarrollar nuevas pautas o adaptar las pautas existentes sobre IA a nivel nacional o regional. Con una regulación efectiva, la IA en la salud puede aprovechar su potencial para mejorar los resultados de salud y al mismo tiempo minimizar los riesgos asociados.
Consultas habituales
¿Qué es la inteligencia artificial (IA)?
La inteligencia artificial (IA) es un campo de estudio que se centra en la creación de sistemas y programas informáticos capaces de realizar tareas que normalmente requieren inteligencia humana. Estos sistemas pueden aprender, razonar, reconocer patrones y tomar decisiones basadas en datos y algoritmos.
¿Cómo puede la IA beneficiar al sector de la salud?
La IA tiene el potencial de mejorar el sector de la salud de varias maneras. Puede fortalecer los ensayos clínicos, mejorar el diagnóstico médico, facilitar el autocuidado y la atención centrada en el paciente, y complementar los conocimientos y habilidades de los profesionales de la salud. Además, la IA puede ser especialmente útil en entornos con falta de especialistas médicos, ya que puede ayudar en la interpretación de imágenes médicas y en la toma de decisiones clínicas.
¿Cuáles son los desafíos de la IA en la salud?
Si bien la IA tiene un gran potencial en la salud, también presenta desafíos significativos. Algunos de estos desafíos incluyen la recopilación no ética de datos, las amenazas de ciberseguridad y la amplificación de sesgos o información errónea. Es importante abordar estos desafíos a través de una regulación efectiva que garantice la seguridad, la privacidad y la integridad de los datos utilizados por los sistemas de IA en el sector de la salud.
Tabla de regulaciones importantes
| Regulación | Ámbito | Requisitos |
|---|---|---|
| Reglamento General de Protección de Datos (RGPD) | Europa | Protección de datos personales, consentimiento informado |
| Ley de Portabilidad y Responsabilidad del Seguro de Salud (HIPAA) | Estados Unidos | Protección de datos médicos, privacidad y seguridad de la información de salud |
Estas regulaciones son importantes para garantizar la privacidad y protección de datos en el contexto de la IA en la salud. Es esencial comprender su alcance y cumplir con los requisitos correspondientes para garantizar la seguridad de los datos y la confianza de los pacientes y profesionales de la salud.
Si quieres conocer otras notas parecidas a Regulación de la ia en la salud: oms puedes visitar la categoría Inteligencia.