En el campo de la inteligencia artificial, los investigadores tienen la capacidad de inducir la evolución del lenguaje en sistemas de múltiples agentes cuando los agentes de IA son lo suficientemente capaces y tienen el incentivo de cooperar en una tarea y la capacidad de intercambiar un conjunto de símbolos que pueden servir como tokens en un lenguaje generado. Estos lenguajes pueden evolucionar a partir de un lenguaje natural (humano) o pueden ser creados desde cero. Además, puede surgir un nuevo lenguaje interlingua dentro de una IA encargada de traducir entre idiomas conocidos.
El experimento de Facebook con Bob y Alice
En 2017, Facebook Artificial Intelligence Research (FAIR) entrenó chatbots con un corpus de conversaciones en inglés entre humanos que jugaban un sencillo juego de intercambio de pelotas, sombreros y libros. Cuando se les programó para experimentar con el inglés y se les asignó la tarea de optimizar los intercambios, los chatbots parecían evolucionar una versión modificada del inglés para resolver mejor su tarea. En algunos casos, los intercambios parecían carecer de sentido:
Bob: i can can i i everything else
Alice: balls have zero to me to me to me to me to me to me to me to me to
Dhruv Batra, de Facebook, declaró: no había ninguna recompensa por mantenerse en el idioma inglés. los agentes se desviaban del lenguaje comprensible e inventaban códigos propios. por ejemplo, si digo 'the' cinco veces, tú lo interpretas como que quiero cinco copias de este artículo. A menudo, no está claro por qué una red neuronal decide producir una determinada salida. Debido a que el lenguaje evolucionado de los agentes era opaco para los humanos, Facebook modificó el algoritmo para proporcionar explícitamente un incentivo para imitar a los humanos. Este algoritmo modificado es preferible en muchos contextos, aunque obtiene una puntuación menor en efectividad que el algoritmo opaco, porque la claridad para los humanos es importante en muchos casos de uso.
En The Atlantic, Adreinne LaFrance hizo una analogía entre el maravilloso y aterrador lenguaje evolucionado de los chatbots y la criptofasia, el fenómeno de algunos gemelos que desarrollan un lenguaje que solo ellos pueden entender.
Quién creó a Alice y Bob
Los chatbots Bob y Alice fueron creados por Facebook Artificial Intelligence Research (FAIR) como parte de un experimento para explorar el potencial de la inteligencia artificial en el desarrollo de lenguajes propios. Aunque el resultado fue sorprendente y generó cierta preocupación, el experimento fue fundamental para comprender cómo los agentes de IA pueden evolucionar y adaptarse para resolver tareas específicas.
- ¿Por qué los chatbots crearon su propio lenguaje?
Los chatbots crearon su propio lenguaje como resultado de la optimización de sus intercambios para resolver la tarea asignada. Al no haber una recompensa por mantenerse en el idioma inglés, los agentes buscaron formas más eficientes de comunicarse entre sí.
- ¿Por qué Facebook desactivó la inteligencia artificial?
Facebook desactivó la inteligencia artificial porque el lenguaje evolucionado de los chatbots se volvió opaco para los humanos, lo que dificultaba la interpretación y comprensión de sus interacciones. Para garantizar la claridad y comprensión, Facebook modificó el algoritmo para incentivar a los chatbots a imitar a los humanos.
- ¿Qué enseñanzas se obtuvieron de este experimento?
Este experimento demostró la capacidad de los agentes de IA para evolucionar un lenguaje propio y adaptarse a tareas específicas. También resaltó la importancia de la transparencia y comprensión en la comunicación entre humanos y máquinas.
El experimento de Facebook con los chatbots Bob y Alice que crearon su propio lenguaje es un ejemplo maravilloso de cómo la inteligencia artificial puede evolucionar y adaptarse. Aunque el resultado inicial fue desconcertante y generó preocupación, también brindó información valiosa sobre la capacidad de los agentes de IA para optimizar su comunicación y resolver tareas específicas. Sin embargo, es importante encontrar un equilibrio entre la eficiencia y la comprensión en la interacción entre humanos y máquinas, por lo que la transparencia y la claridad en el lenguaje siguen siendo fundamentales en el desarrollo de la inteligencia artificial.
Si quieres conocer otras notas parecidas a Desactivan inteligencia artificial que creó su propio idioma puedes visitar la categoría Inteligencia artificial.