La inteligencia artificial (IA) tiene un potencial ilimitado para ofrecer beneficios en áreas tan variadas como el procesamiento del lenguaje y la medicina.
Pero, al utilizar datos creados por personas como punto de partida, también hereda los sesgos humanos, como el sesgo basado en la edad, el género o la raza. Por ejemplo, un programa a menudo traducirá el término inglés enfermera utilizando una palabra de género femenino, y renderizará doctor como un sustantivo masculino. Este sesgo en la IA tiene el potencial de ampliar la brecha de género e incluso poner en peligro la vida de las mujeres.
Con motivo del Día Internacional de la Mujer, la Secretaría General del Consejo ha invitado a Malvina Nissim, profesora de Lingüística Computacional en la Universidad de Groningen, a dar una presentación. La profesora Nissim, cuya investigación se centra en la interacción entre los datos creados por humanos y el aprendizaje automático, hablará sobre cómo y hasta qué punto se pueden eliminar los prejuicios humanos de la IA.
¿Qué es una brecha artificial?
El concepto de brecha digital no tiene una definición única y aceptada universalmente. La brecha digital hace referencia a la desigualdad en el acceso, uso o impacto de las Tecnologías de la Información y la Comunicación (TIC) entre grupos sociales. Estos grupos se suelen determinar en base a criterios económicos, geográficos, de género, de edad o culturales. Entre los diferentes tipos de brecha digital que existen, la brecha digital de acceso es una de las más habituales. Se refiere a las posibilidades que las personas tienen de acceder a este recurso. Aquí entran en juego las diferencias socioeconómicas entre las personas y los países. El otro tipo de brecha digital más común es el de la brecha de uso que hace referencia a la falta de competencias digitales que impide el manejo de la tecnología. Según la Unión Internacional de Telecomunicaciones (UIT), el organismo especializado de la Organización de las Naciones Unidas (ONU), a finales de 2019 había 40 países en los que más de la mitad de su población no sabía adjuntar un archivo a un correo electrónico.
La pandemia ha agudizado algunos problemas, y entre ellos, la brecha digital existente, porque las comunicaciones y la tecnología ayudan a mitigar el aislamiento y la soledad no deseada, afirma Joaquín Pérez, responsable del Área de Personas Mayores de Cruz Roja. "Nos hemos encontrado con que es necesario contar con dispositivos al alcance de todas las personas, pero también con conectividad y competencias técnicas para usarlos”, precisa. Por tanto, no es una cuestión meramente económica, que se solvente repartiendo tablets, sino que debemos formar a quienes hasta ahora han estado alejados de la tecnología.
Según datos del Plan Cruz Roja Responde -que nace como reacción al impacto de la pandemia-, el 63,8% de los hogares atendidos no dispone de ordenador y el 46,6% no tiene contratado ningún servicio de internet. El hecho de que muchos procesos y servicios pasen por la digitalización impide que estas personas accedan a plataformas o prestaciones que necesitan y, por tanto, acrecenta su fragilidad y su aislamiento. La falta de competencias digitales también afecta de forma decisiva a niños y niñas en la educación, así como a la realización de trámites y gestiones en las familias más vulnerables.
La pandemia ha agudizado algunos problemas, como la brecha digital, porque las comunicaciones y la tecnología ayudan a mitigar el aislamiento y la soledad no deseada
Es por ello que en Cruz Roja hemos priorizado, durante el último año, los programas relativos a la adquisición de competencias digitales. La estrategia ha empezado en el ámbito interno, con la adaptación de los cursos y las acciones al formato online, así como con la capacitación del personal y la dotación de más equipamiento tecnológico. Pero también alcanza a las personas beneficiarias de todas las áreas. Las personas mayores, el ámbito escolar o la búsqueda de empleo han centrado algunas de las iniciativas más interesantes que ha llevado a cabo la Organización en materia digital.
Cómo la inteligencia artificial puede ayudar a la igualdad de género
La palabra de moda para 2023 es la inteligencia artificial (IA). Desde conferencias de prensa corporativas hasta medios de comunicación e incluso discusiones informales en grupo, la IA se cuela en todas partes. Ha estado presente durante años, pero la conversación se puso seria después de que OpenAI, respaldada por Microsoft, lanzara ChatGPT, un chatbot de inteligencia artificial.
Innovador y revolucionario, esta herramienta tiene un valor increíble para todas las industrias y personas, muchos la consideran una de las grandes invenciones de la humanidad. ChatGPT y otros Modelos de Lenguaje Amplio (LLM, por sus siglas en inglés) merecen tal reconocimiento, ya que son herramientas fantásticas que mejoran la capacidad y eficiencia humana y generan cambios en la sociedad.
Lo último es más valioso desde un punto de vista universal, ya que a pesar de la increíble evolución y transformación, los problemas aún existen en todo el entorno. Tomemos como ejemplo la igualdad de género. El siglo XXI está plagado de ejemplos de sesgos de género injustos, con mujeres incapaces de desempeñarse y contribuir de la misma manera que los hombres.
Es un problema mayor en India, donde las costumbres y tradiciones tradicionales alienan aún más a las mujeres y establecen una clara distinción entre las cosas que los hombres y las mujeres pueden hacer. La inteligencia artificial ofrece esperanza. Al ser una máquina, ve a las personas como individuos, no como hombres y mujeres. La IA puede ayudar a romper barreras, desafiar prejuicios y abrir camino hacia un entorno más inclusivo y equitativo.
Inteligencia Artificial (IA) para el cambio
La creciente prominencia de la inteligencia artificial ofrece esperanza de que la igualdad de género pueda abordarse. Los sistemas de IA son imparciales, confiando en algoritmos basados en datos en lugar de prejuicios sociales.
Al eliminar la intervención humana y basarse en datos objetivos, la IA puede ayudar a reducir las disparidades de género y garantizar un trato justo. A continuación, presentamos algunas áreas en las que creemos que la inteligencia artificial puede tener un impacto profundo y apoyar la causa de la igualdad de género.
Reclutamiento
El reclutamiento ha estado plagado de sesgos de género durante décadas en el entorno corporativo. Los hombres son preferidos en ciertos roles, especialmente aquellos que requieren habilidades de programación y tecnología. A pesar de sus habilidades y experiencia, las mujeres a menudo son pasadas por alto en dichos roles.
Los sistemas impulsados por IA pueden resolver este problema y revolucionar los procesos de reclutamiento mediante el análisis de currículums y solicitudes sin prejuicios preconcebidos. Al centrarse únicamente en las habilidades, los algoritmos de IA pueden identificar a los candidatos más adecuados para el trabajo. Esto puede ayudar a superar los sesgos inconscientes, promoviendo una fuerza laboral más diversa y equilibrada en términos de género.
Remuneración
Los hombres ganan más que las mujeres. Es un secreto a voces, pero nadie quiere abordarlo. Las mujeres ganan menos que los hombres en múltiples roles en diferentes industrias, pero la inteligencia artificial puede resolver esto.
La IA puede ayudar a eliminar esto al proporcionar herramientas para el monitoreo y el análisis justo del desempeño. Los análisis impulsados por IA pueden evaluar los datos salariales y vincularlos a las métricas de rendimiento de los empleados, ayudando a las empresas a identificar si las mujeres ganan menos que los hombres por el mismo rol y desempeño.
La IA también puede evaluar las tasas de promoción para identificar patrones de discriminación de género. Las organizaciones pueden utilizar estos puntos de datos para tomar medidas proactivas para corregir la disparidad salarial y crear un entorno de trabajo más inclusivo.
Educación
La desigualdad de género comienza en el hogar y en las escuelas. A las niñas se les priva de las mismas oportunidades de aprendizaje y actividades extracurriculares que a los niños. El problema se extiende desde allí a diversos aspectos de la sociedad, amplificando la desigualdad de género.
Combinar la inteligencia artificial con la igualdad de género es una excelente solución, ya que la IA puede encontrar formas de brindar igual acceso a oportunidades de aprendizaje, resolviendo así los sesgos de género. Las plataformas habilitadas para la IA también tienen beneficios más amplios, ya que pueden hacer que la educación sea más accesible, asequible y personalizada.
Los tutores virtuales y los sistemas de aprendizaje adaptativo impulsados por la IA pueden atender las necesidades de aprendizaje individual, ayudando a las niñas, así como a los niños, a superar las desventajas educativas.
La violencia de género ha sido un gran problema en India. Hasta hace unos años, los medios de comunicación informaban sobre violencia y acoso contra las mujeres, y muchas incluso perdían la vida.
Esta es otra área donde la inteligencia artificial puede afectar la vida humana. La IA puede desempeñar un papel fundamental en la lucha contra la violencia y el acoso basados en el género debido a sus increíbles capacidades de análisis de datos. Los algoritmos de Procesamiento del Lenguaje Natural (NLP, por sus siglas en inglés) pueden analizar datos de plataformas de redes sociales para detectar acoso, discursos de odio y violencia de género.
Esto puede permitir la intervención y una acción rápida para proteger a las víctimas y responsabilizar a los agresores. La IA también puede ayudar a identificar patrones y predecir posibles puntos críticos de violencia, lo que permite a la policía asignar recursos estratégicamente y prevenir incidentes antes de que ocurran.
Atención médica
La atención médica es una de las áreas más importantes en las que la inteligencia artificial puede tener un impacto en la vida humana y ayudar a apoyar la causa de la igualdad de género. La IA ya está revolucionando el diagnóstico y tratamiento de enfermedades al tener en cuenta factores específicos de género.
Es una característica subestimada, ya que históricamente, la investigación médica se ha centrado principalmente en sujetos masculinos, lo que ha llevado a lagunas en la comprensión de las enfermedades y sus efectos en las mujeres. Los sistemas impulsados por IA pueden analizar grandes cantidades de datos médicos, considerando el género como una variable crítica.
Esto puede ayudar a identificar síntomas específicos del género, factores de riesgo y enfoques de tratamiento, lo que conduce a diagnósticos precisos y atención médica personalizada para las mujeres.
Pensamientos finales
La inteligencia artificial en la educación, la atención médica, el reclutamiento y la vida corporativa puede abordar el problema de la desigualdad de género de manera más rápida. Sin embargo, también se requiere precaución, ya que las herramientas de IA también presentan amenazas.
Las empresas tecnológicas deben centrarse en evitar sesgos en el entrenamiento de los algoritmos de IA. Los modelos de LLM son entrenados por humanos, quienes, a diferencia de las máquinas, tienen sesgos de género. Si los datos de entrenamiento están sesgados o son limitados, los sistemas de IA pueden reforzar inadvertidamente los estereotipos y la discriminación de género.
Por lo tanto, es esencial asegurarse de tener datos de entrenamiento diversos y representativos e implementar procesos rigurosos de prueba y auditoría para minimizar los sesgos.
También merece atención la falta de diversidad en el campo de la IA en sí misma. Es necesario contar con equipos diversos de desarrolladores, investigadores e ingenieros que puedan aportar diferentes perspectivas y experiencias para construir sistemas de IA inclusivos. Solo promoviendo la diversidad en la fuerza laboral de la IA, el entorno puede avanzar hacia un entorno equitativo e imparcial.
La Fundación Smile cree que las mujeres no solo son iguales a los hombres, sino que también tienen habilidades notables que deben ser muy valoradas en el trabajo y en el hogar. La paciencia, la diligencia y la opinión tanto en sus energías femeninas como masculinas son los pilares de las mujeres y utilizarlos en el trabajo puede ser increíblemente significativo en el liderazgo del pensamiento. A través de nuestro programa de empoderamiento de las mujeres, Swabhiman, las mujeres están aprendiendo educación financiera para convertirse en empresarias inteligentes del mañana con un alto nivel de conciencia y conocimiento práctico del entorno empresarial.
Si quieres conocer otras notas parecidas a La brecha de género en la ia: sesgos y soluciones puedes visitar la categoría Inteligencia.