Las empresas modernas están impulsadas por el crecimiento de ingresos, y esa es una óptica terrible. Mientras las empresas hablan de abrazar y conocer a los clientes, la búsqueda constante de crecimiento de ganancias las pone constantemente en modo de venta, lo cual se siente espeluznante y unilateral. Por eso, están empezando a utilizar la inteligencia artificial (IA) para cerrar la brecha con los clientes. Están analizando datos, utilizando las ideas para comprender las necesidades de los clientes y luego conectarse mejor con las personas a las que sirven, irónicamente, utilizando IA para ser más humanos.
Al menos, eso es lo que se pretende. Pero las implementaciones de IA son complejas y difíciles. Es fácil introducir riesgos inesperados, como en estos ejemplos de alto perfil:
- Microsoft Tay: Después de su lanzamiento, el bot de Twitter de Microsoft, Tay, rápidamente ganó 50,000 seguidores y generó más de 100,000 tweets... pero después de 24 horas de aprendizaje automático, Tay se convirtió en un antisemita enojado y furioso y tuvo que ser retirado.
- Algoritmo de Recidivismo COMPAS: COMPAS, el software ampliamente utilizado en los Estados Unidos para guiar la sentencia penal, fue expuesto por ProPublica como sesgado racialmente. Los acusados negros tenían el doble de probabilidades de ser mal clasificados como delincuentes blancos.
- Sesgo de la Tarjeta de Apple: Los magnates de la tecnología David Heinemeier Hansson y Steve Wozniak señalaron públicamente a Apple por discriminación cuando a sus cónyuges se les ofrecieron límites de crédito una orden de magnitud menor que los suyos, a pesar de tener una historia bancaria y fiscal compartida.
- Anuncios de campaña de Facebook: Después de negarse a regular la veracidad de los anuncios políticos en su red de IA de $70 mil millones, Facebook provocó una protesta pública que acusaba a la compañía de poner las ganancias por encima de las personas y la democracia.
Las empresas deben ser responsables de las acciones de su IA o corren el riesgo de colapsar su credibilidad, reputación de marca y resultados finales. Tienen la obligación de desarrollar su IA de manera responsable, centrándose en los conceptos de empatía, equidad, transparencia y responsabilidad.
Actuar con Empatía
En el caso de Microsoft, fue la falta de empatía de Tay lo que causó el problema, ya que el bot no estaba configurado para comprender las implicaciones sociales de cómo estaba respondiendo. No había límites establecidos para definir los límites de lo que era aceptable y lo que podría ser perjudicial para la audiencia que interactuaba con Tay.
Esto es fundamental con la IA. Debe comprender no solo lo que es relevante para la audiencia, sino lo que es adecuado para esa audiencia en ese contexto. Es responsabilidad del desarrollador de IA definir esas reglas y proporcionar límites para la IA a medida que aprende.
Reducir o Eliminar el Sesgo
Los algoritmos de IA tomarán decisiones basadas en todos los datos disponibles. En el caso de COMPAS, los desarrolladores no tenían la intención de desarrollar una IA racista: el sesgo que descubrió fue un reflejo del sesgo que existe dentro del propio sistema de justicia/sentencia. Construir una IA justa requiere un esfuerzo concentrado para evitar ese tipo de injusticia, porque incluso con las mejores intenciones, los datos que parecen inocentes pueden estar correlacionados con variables protegidas, como el género y la edad, e introducir problemas. Por lo tanto, las empresas también deben regular los datos de entrenamiento de IA y evaluar el impacto de sus estrategias a medida que se utilizan en el entorno real para detectar cualquier sesgo que se haya introducido sin intención anteriormente en el proceso. Esto se vuelve especialmente importante a medida que los equipos integran el aprendizaje automático. Esos algoritmos se ajustan rápidamente, lo que puede ocultar aún más el problema.
Proporcionar Transparencia
Con toda la publicidad negativa, puede ser difícil convencer a los consumidores de que la IA se está aplicando de manera responsable. El problema en el escándalo de la Tarjeta de Apple no era necesariamente que la toma de decisiones de Apple fuera sesgada, sino que la decisión era tan caja negra que el servicio al cliente de Apple no estaba seguro de cómo responder a las preguntas enérgicas de los clientes, lo que luego se volvió viral. Las empresas deben ser proactivas al certificar sus algoritmos, comunicar claramente sus políticas sobre sesgos y proporcionar una explicación clara de por qué se tomaron las decisiones cuando hay un problema. También deberían considerar el uso de algoritmos transparentes y explicables para casos de uso regulados/de alto riesgo, como el riesgo crediticio. Deben facilitar al máximo posible que los empleados de primera línea comuniquen la justificación a los clientes sin comprometer información exclusiva.
Establecer Responsabilidad
Facebook está siendo criticado porque utiliza su IA para establecer una influencia masiva sobre los consumidores, pero se ha negado a responsabilizarse de la calidad y precisión de la información mostrada en sus anuncios, lo que introduce un riesgo significativo de abuso. Es aterrador para los consumidores, porque la regulación en torno a los problemas tecnológicos siempre está al menos unos años por detrás del problema... por lo que el simple cumplimiento normativo no es suficiente. En su lugar, las empresas deben establecer y responsabilizarse proactivamente de estándares más altos y equilibrar el gran poder que les da la IA con la responsabilidad más amplia de mantener relaciones con los clientes a quienes sirven.
Centrarse en estos cuatro fundamentos de IA responsable —empatía, equidad, transparencia y responsabilidad— no solo beneficiará a los clientes, sino que diferenciará a cualquier organización de sus competidores y ayudará a generar un retorno financiero significativo.
¿Qué es la inteligencia artificial?
La inteligencia artificial es una rama de la informática que se ocupa de la creación de sistemas y programas capaces de realizar tareas que requieren inteligencia humana, como el reconocimiento de voz, la toma de decisiones y el aprendizaje automático.
¿Cuáles son los principales desafíos de la inteligencia artificial?
Los principales desafíos de la inteligencia artificial incluyen la falta de empatía, el sesgo en los algoritmos, la falta de transparencia y la falta de responsabilidad por parte de las empresas que utilizan IA.
¿Cómo se puede reducir el sesgo en los algoritmos de IA?
Para reducir el sesgo en los algoritmos de IA, es necesario regular los datos de entrenamiento de IA y evaluar el impacto de las estrategias utilizadas en el entorno real. También es importante utilizar algoritmos transparentes y explicables y proporcionar una clara comunicación sobre las políticas de sesgo.
¿Cuál es la importancia de actuar con empatía en la IA?
Actuar con empatía en la IA es importante para evitar problemas como el caso de Microsoft Tay, donde la falta de empatía del bot causó problemas. Es responsabilidad de los desarrolladores de IA establecer límites y reglas para definir lo que es aceptable y lo que puede ser perjudicial para la audiencia.
¿Por qué es importante establecer responsabilidad en la IA?
Es importante establecer responsabilidad en la IA para evitar abusos y garantizar la calidad y precisión de la información que se muestra a los consumidores. Las empresas deben asumir la responsabilidad de mantener estándares más altos y equilibrar el poder que les brinda la IA con la responsabilidad de mantener relaciones con los clientes.
La inteligencia artificial tiene el potencial de mejorar la forma en que las empresas se conectan y sirven a sus clientes, pero también presenta desafíos significativos. Para garantizar una implementación exitosa y responsable de la IA, las empresas deben centrarse en los principios clave de empatía, equidad, transparencia y responsabilidad. Actuar con empatía significa comprender las necesidades y expectativas de los clientes y establecer límites claros para la IA. Reducir o eliminar el sesgo implica regular los datos de entrenamiento y evaluar el impacto de las estrategias utilizadas. Proporcionar transparencia implica certificar los algoritmos y comunicar claramente las políticas sobre sesgos. Establecer responsabilidad implica asumir la responsabilidad de mantener estándares más altos y equilibrar el poder de la IA con la responsabilidad de mantener relaciones con los clientes. Al seguir estos principios, las empresas pueden diferenciarse de sus competidores y generar un retorno financiero significativo mientras utilizan la IA de manera responsable.
Si quieres conocer otras notas parecidas a Inteligencia artificial: principios clave para una implementación responsable puedes visitar la categoría Inteligencia artificial.