Sesgos de la ia: cómo afectan y cómo abordarlos

Con el creciente uso de la inteligencia artificial (IA), surge la pregunta sobre hasta qué punto los sesgos humanos se han infiltrado en los sistemas de IA. Los ejemplos de sesgos de IA en el entorno real nos muestran que cuando los datos y algoritmos discriminatorios se incorporan en los modelos de IA, estos despliegan sesgos a gran escala y amplifican los efectos negativos resultantes.

Las empresas están motivadas para abordar el desafío del sesgo en la IA no solo para lograr la equidad, sino también para garantizar mejores resultados. Sin embargo, al igual que los sesgos raciales y de género sistémicos han demostrado ser difíciles de eliminar en el entorno real, eliminar el sesgo en la IA no es una tarea fácil.

¿Qué es el sesgo en la inteligencia artificial?

El sesgo de IA, también conocido como sesgo de aprendizaje automático o sesgo algorítmico, se refiere a los sistemas de IA que producen resultados sesgados que reflejan y perpetúan los sesgos humanos dentro de una sociedad, incluyendo desigualdades sociales históricas y actuales. El sesgo puede encontrarse en los datos de entrenamiento iniciales, en el algoritmo o en las predicciones que produce el algoritmo.

Cuando el sesgo no se aborda, dificulta la capacidad de las personas para participar en la economía y la sociedad. También reduce el potencial de la IA. Las empresas no pueden beneficiarse de sistemas que producen resultados distorsionados y fomentan la desconfianza entre las personas de color, las mujeres, las personas con discapacidades, la comunidad LGBTQ+ u otros grupos marginados.

La fuente del sesgo en la IA

Eliminar el sesgo de la IA requiere analizar detenidamente los conjuntos de datos, los algoritmos de aprendizaje automático y otros elementos de los sistemas de IA para identificar las fuentes de sesgo potencial.

Sesgo en los datos de entrenamiento

Los sistemas de IA aprenden a tomar decisiones basadas en los datos de entrenamiento, por lo que es esencial evaluar los conjuntos de datos en busca de la presencia de sesgo. Un método es revisar el muestreo de datos para grupos sobre o subrepresentados dentro de los datos de entrenamiento. Por ejemplo, los datos de entrenamiento para un algoritmo de reconocimiento facial que sobrerrepresenta a las personas blancas puede generar errores al intentar reconocer rostros de personas de color. De manera similar, los datos de seguridad que incluyen información recopilada en áreas geográficas predominantemente negras podrían crear sesgos raciales en las herramientas de IA utilizadas por la policía.

El sesgo también puede resultar de cómo se etiquetan los datos de entrenamiento. Por ejemplo, las herramientas de contratación de IA que utilizan etiquetado inconsistente o excluyen o sobrerrepresentan ciertas características podrían eliminar a solicitantes de empleo calificados de consideración.

Sesgo algorítmico

El uso de datos de entrenamiento defectuosos puede resultar en algoritmos que producen repetidamente errores, resultados injustos o incluso amplifican el sesgo inherente en los datos defectuosos. El sesgo algorítmico también puede ser causado por errores de programación, como un desarrollador que pondera injustamente factores en la toma de decisiones del algoritmo basado en sus propios sesgos conscientes o inconscientes. Por ejemplo, indicadores como el ingreso o el vocabulario podrían ser utilizados por el algoritmo para discriminar involuntariamente a personas de cierta raza o género.

Sesgo cognitivo

Cuando las personas procesamos información y tomamos decisiones, inevitablemente estamos influenciados por nuestras experiencias y preferencias. Como resultado, las personas pueden incorporar estos sesgos en los sistemas de IA a través de la selección de datos o cómo se ponderan los datos. Por ejemplo, el sesgo cognitivo podría llevar a favorecer conjuntos de datos recopilados de estadounidenses en lugar de muestrear una variedad de poblaciones alrededor del entorno.

Según el NIST, esta fuente de sesgo es más común de lo que se piensa. En su informe hacia un estándar para identificar y gestionar el sesgo en la inteligencia artificial (NIST Special Publication 1270), el NIST señaló que los factores humanos, institucionales y sociales sistémicos e institucionales son fuentes significativas de sesgo en la ia, pero actualmente se pasan por alto. superar este desafío con éxito requerirá tener en cuenta todas las formas de sesgo. esto significa ampliar nuestra perspectiva más allá del proceso de aprendizaje automático para reconocer e investigar cómo esta tecnología se crea y afecta a nuestra sociedad.

Ejemplos de sesgo de IA en la vida real

A medida que la sociedad se vuelve más consciente de cómo funciona la IA y de la posibilidad de sesgos, las organizaciones han descubierto numerosos ejemplos destacados de sesgos de IA en una amplia gama de casos de uso.

Salud

La falta de representación de datos de mujeres o grupos minoritarios puede sesgar los algoritmos predictivos de IA. Por ejemplo, se ha descubierto que los sistemas de diagnóstico asistido por computadora (CAD) devuelven resultados de menor precisión para pacientes negros que para pacientes blancos.

Sistemas de seguimiento de solicitantes

Los problemas con los algoritmos de procesamiento de lenguaje natural pueden producir resultados sesgados dentro de los sistemas de seguimiento de solicitantes. Por ejemplo, Amazon dejó de utilizar un algoritmo de contratación después de descubrir que favorecía a los solicitantes en función de palabras como ejecutado o capturado, que se encontraban con más frecuencia en los currículos de los hombres.

Publicidad en línea

Los sesgos en los algoritmos de anuncios en motores de búsqueda pueden reforzar los sesgos de género en los roles laborales. Una investigación independiente realizada en la Universidad Carnegie Mellon en Pittsburgh reveló que el sistema de publicidad en línea de Google mostraba puestos de trabajo bien remunerados a hombres con más frecuencia que a mujeres.

Generación de imágenes

La investigación académica encontró sesgos en la aplicación de generación de arte de IA Midjourney. Cuando se le pidió que creara imágenes de personas en profesiones especializadas, siempre mostraba personas mayores, pero estas siempre eran hombres, reforzando el sesgo de género del papel de las mujeres en el lugar de trabajo.

Herramientas de predicción delictiva

Las herramientas de predicción delictiva impulsadas por IA utilizadas por algunas organizaciones en el sistema de justicia penal deben identificar áreas donde es probable que ocurra un delito. Sin embargo, a menudo se basan en datos de arrestos históricos, lo que puede reforzar los patrones existentes de perfilamiento racial y el direccionamiento desproporcionado de las comunidades minoritarias.

Reducción del sesgo y gobernanza de la IA

Identificar y abordar el sesgo en la IA comienza con la gobernanza de la IA, es decir, la capacidad de dirigir, gestionar y supervisar las actividades de IA de una organización. En la práctica, la gobernanza de la IA crea un conjunto de políticas, prácticas y marcos para guiar el desarrollo y uso responsable de las tecnologías de IA. Cuando se hace correctamente, la gobernanza de la IA garantiza un equilibrio de beneficios para las empresas, los clientes, los empleados y la sociedad en su conjunto.

A través de las políticas de gobernanza de la IA, las empresas pueden establecer las siguientes prácticas:

• Cumplimiento: las soluciones de IA y las decisiones relacionadas con la IA deben ser consistentes con las regulaciones y requisitos legales relevantes de la industria.
• Confianza: las empresas que trabajan para proteger la información de los clientes generan confianza en su marca y tienen más probabilidades de crear sistemas de IA confiables.
• Transparencia: debido a la complejidad de la IA, un algoritmo puede ser un sistema de caja negra con poca visión sobre los datos utilizados para crearlo. La transparencia ayuda a garantizar que se utilicen datos imparciales para construir el sistema y que los resultados sean justos.
• Eficiencia: una de las mayores promesas de la IA es reducir el trabajo práctico y ahorrar tiempo a los empleados. La IA debe diseñarse para ayudar a alcanzar los objetivos comerciales, mejorar la velocidad de comercialización y reducir los costos.
• Equidad: la gobernanza de la IA a menudo incluye métodos que buscan evaluar la equidad e inclusión. Enfoques como la equidad contrafactual identifican el sesgo en las decisiones de un modelo y garantizan resultados equitativos incluso cuando se cambian atributos sensibles, como el género, la raza o la orientación sexual.
• Toque humano: procesos como el sistema humano en el ciclo ofrecen opciones o hacen recomendaciones que luego son revisadas por humanos antes de tomar una decisión para proporcionar otra capa de garantía de calidad.
• Aprendizaje reforzado: esta técnica de aprendizaje no supervisado utiliza recompensas y castigos para enseñar a un sistema a aprender tareas. McKinsey señala que el aprendizaje reforzado trasciende los sesgos humanos y tiene el potencial de generar soluciones y estrategias previamente inimaginables que incluso los expertos más experimentados nunca habrían considerado .

Sesgo, IA e IBM

Una combinación adecuada de tecnología puede ser crucial para una estrategia efectiva de gobernanza de datos y IA, siendo una arquitectura de datos moderna y una plataforma de IA confiable componentes clave. La orquestación de políticas dentro de una arquitectura de tejido de datos es una excelente herramienta que puede simplificar los complejos procesos de auditoría de IA. Al incorporar la auditoría de IA y los procesos relacionados en las políticas de gobernanza de su arquitectura de datos, su organización puede ayudar a comprender las áreas que requieren inspección continua.

En IBM Consulting, hemos estado ayudando a los clientes a establecer un proceso de evaluación para el sesgo y otras áreas. A medida que la adopción de la IA crece y las innovaciones evolucionan, también lo hará la madurez de la tutorial de seguridad, como sucede con cada tecnología que se ha incorporado en la estructura de una empresa a lo largo de los años. A continuación, compartimos algunas mejores prácticas de IBM para ayudar a las organizaciones a prepararse para la implementación segura de la IA en sus entornos:

• Aproveche la IA confiable: evalúe las políticas y prácticas de los proveedores. Permita el acceso seguro a usuarios, modelos y datos. Proteja los modelos de IA, los datos y la infraestructura de ataques adversarios. Implemente protección de privacidad de datos en las fases de entrenamiento, prueba y operaciones. Realice modelado de amenazas y prácticas de codificación segura en el ciclo de vida del desarrollo de la IA. Realice detección y respuesta de amenazas para aplicaciones e infraestructura de IA. Evalúe y decida la madurez de la IA a través del marco de IA de IBM.

Al abordar y mitigar los sesgos en la IA, las organizaciones pueden trabajar hacia la creación de sistemas más equitativos, confiables y efectivos. La gobernanza de la IA y las mejores prácticas de seguridad son fundamentales para lograr este objetivo y asegurar el potencial completo de la inteligencia artificial.

Consultas habituales sobre sesgos de la inteligencia artificial

¿Por qué es importante abordar el sesgo en la inteligencia artificial?

Es importante abordar el sesgo en la IA porque los sistemas sesgados perpetúan desigualdades sociales y generan resultados injustos para ciertos grupos de personas. Además, los sistemas de IA sesgados minan la confianza en la tecnología y dificultan la participación equitativa en la economía y la sociedad.

¿Cuáles son las fuentes de sesgo en la inteligencia artificial?

El sesgo en la IA puede tener varias fuentes, como los datos de entrenamiento sesgados, los algoritmos defectuosos y los sesgos cognitivos de los desarrolladores. También pueden influir los factores sociales e institucionales, que a menudo se pasan por alto.

¿Qué ejemplos de sesgo de IA existen en la vida real?

Existen varios ejemplos de sesgo de IA en la vida real, como algoritmos de diagnóstico médico que son menos precisos para pacientes de ciertos grupos raciales, sistemas de seguimiento de solicitantes que favorecen a ciertos grupos debido a algoritmos de procesamiento de lenguaje natural sesgados y algoritmos de publicidad en línea que muestran puestos de trabajo mejor remunerados a hombres con más frecuencia que a mujeres.

¿Cómo se puede reducir el sesgo en la inteligencia artificial?

La reducción del sesgo en la IA comienza con la gobernanza de la IA, que incluye políticas y prácticas para garantizar la equidad, la transparencia y la eficiencia de los sistemas de IA. También es importante evaluar y abordar los datos de entrenamiento sesgados y los algoritmos defectuosos, así como contar con la participación humana en la toma de decisiones de la IA.

¿Cómo puede ayudar IBM en la reducción del sesgo en la inteligencia artificial?

IBM ofrece soluciones y servicios de consultoría para ayudar a las organizaciones a abordar y mitigar el sesgo en la IA. Esto incluye la implementación de políticas de gobernanza de la IA, la evaluación de proveedores de IA confiables y la protección de modelos de IA, datos e infraestructura contra ataques adversarios.

Los sesgos en la inteligencia artificial son un desafío importante que debe abordarse para garantizar sistemas equitativos y confiables. Al comprender las fuentes de sesgo y aplicar prácticas de gobernanza de la IA, podemos trabajar hacia un futuro de IA más justo y efectivo.

Si quieres conocer otras notas parecidas a Sesgos de la ia: cómo afectan y cómo abordarlos puedes visitar la categoría Inteligencia.