En la película avengers: age of ultron, se nos presenta a Ultron, una inteligencia artificial (IA) que intenta tomar el control del entorno. La IA se está volviendo cada vez más presente en nuestras vidas, en forma de herramientas de software que demuestran elementos de inteligencia similares a la humana. Incluso en nuestros teléfonos móviles, la IA se aplica y adapta sus reglas para aprender a servirnos mejor. Sin embargo, persisten los temores sobre el impacto negativo que la IA podría tener en la humanidad, como se refleja en personajes como Ultron, una superinteligencia creada accidentalmente por los Vengadores.
¿Qué relación tienen los villanos de IA en las películas con la realidad científica?
Es importante preguntarnos si los villanos de IA en las películas tienen alguna relación con la realidad científica. ¿Podría una IA realmente tomar el control del entorno? ¿Cómo lo haría? ¿Y por qué querría hacerlo? Los villanos de IA en las películas necesitan tener motivos y oportunidades para llevar a cabo sus planes.
¿Cuál es el motivo?
En las películas, las IA a menudo son impulsadas por la autodefensa, el temor a que los humanos las desactiven. Sin embargo, en la vida real, ¿daríamos motivos a nuestras herramientas de IA para que se sientan amenazadas? Estas herramientas nos brindan beneficios y no hay razón aparente para crear una sensación de autoconciencia en un sistema que solo busca encontrar el restaurante italiano más cercano, por ejemplo.
Otro motivo común para la maldad de las IA es su aplicación excesiva de la lógica. En el caso de Ultron, su objetivo de proteger la Tierra solo se puede lograr eliminando a la humanidad. Sin embargo, esta destrucción basada en la lógica parece estar en desacuerdo con los sistemas de IA actuales, que razonan matemáticamente con incertidumbre y están diseñados para funcionar de manera segura con los usuarios.
¿Cuál es la oportunidad?
Cuando consideramos la oportunidad de una IA para dominar el entorno, nos encontramos en terreno más sólido. La famosa Prueba de Turing de la inteligencia de las máquinas se estableció para medir una habilidad en particular: la capacidad de mantener una conversación creíble. La premisa es que si no puedes distinguir entre una IA y una habilidad humana, la IA ha pasado la prueba y debe considerarse tan inteligente como los humanos.
Entonces, ¿cómo sería una Prueba de Turing para la habilidad de dominar el entorno? Para explorar esto, debemos comparar los comportamientos antisociales de las IA con los atributos esperados de un dominador mundial humano. Los dominadores mundiales necesitan controlar partes importantes de nuestras vidas, como nuestro acceso al dinero o nuestra capacidad para comprar una casa. Las IA ya realizan estas tareas, por ejemplo, tomando decisiones de préstamos basadas en montañas de información para determinar nuestra solvencia crediticia. Las IA también operan en el mercado de valores.
Un gobernante daría órdenes y esperaría que se cumplan. Cualquiera que haya estado impotente en una caja registradora de autoservicio de una tienda, mientras la máquina le exige que siga sus instrucciones de empaque, sabe cómo se siente ser controlado por una IA.
Finalmente, ningún robot megalómano de Hollywood estaría completo sin al menos algún deseo de destruirnos. Hoy en día, los robots militares pueden identificar objetivos sin intervención humana. Actualmente, es un controlador humano quien da permiso para atacar, pero no sería descabellado pensar que estas IA tienen el potencial de realizar ataques automáticos si se cambia el código informático para permitirlo.
Estos ejemplos muestran cómo las IA están controlando partes limitadas pero significativas de la vida en la Tierra. Sin embargo, para dominar el entorno al estilo de las películas, estas IA individuales necesitarían comenzar a trabajar juntas para crear un ejército de IA sincronizado: esa caja registradora de autoservicio mandona hablando con tu monitor de salud y negándose a venderte cerveza, mientras un sistema de calificación crediticia se une para aumentar tu límite de crédito solo si compras un par de zapatillas con un rastreador GPS incorporado y solo comes la col rizada de tu refrigerador inteligente después de que los datos de tus zapatillas muestren que completaste una carrera de cinco millas requerida.
Es una imagen preocupante, pero afortunadamente, creo que es poco probable que ocurra. Los ingenieros de todo el entorno están desarrollando el Internet de las cosas, redes que conectan todo tipo de dispositivos para crear nuevos servicios. Estas piezas de un rompecabezas tendrían que unirse y formar una imagen completa para lograr la dominación mundial total. Es una situación poco probable: demasiadas cosas tendrían que encajar y funcionar juntas. Es algo similar al famoso agujero de la trama en la película Independence Day, donde una Mac de Apple y el software de una nave espacial alienígena inexplicablemente tenían compatibilidad entre plataformas.
Nuestros sistemas de IA en la Tierra están escritos en diferentes lenguajes de programación, almacenan datos de diferentes maneras y utilizan diferentes conjuntos de reglas y técnicas de aprendizaje no compatibles entre sí. A menos que los diseñemos para ser compatibles, no hay razón para que dos sistemas de IA diseñados de manera segura, desarrollados por empresas diferentes para servicios separados, se combinen espontáneamente para compartir capacidades y formar un objetivo común mayor sin intervención humana.
Entonces, ¿podrían las IA y los robots que las contienen pasar la prueba y tomar el control del entorno? Solo si los humanos se lo permitimos y los ayudamos mucho. ¿Pero por qué lo haríamos?
¡Quizás porque los humanos somos los estúpidos!
¿Cuál es la diferencia entre Ultron y Jarvis?
En el Universo Cinematográfico de Marvel (MCU), la inteligencia artificial (IA) se define principalmente como una conciencia digital, un cerebro computarizado vivo y pensante. No se trata solo de una computadora muy inteligente que interactúa contigo de manera inteligente.
Jarvis en el MCU es un programa extremadamente refinado, tiene un límite definido, simplemente no se nos muestra claramente cuál es ese límite, y eso es lo que le impide ser una conciencia real como Ultron, quien se describe como capaz de pensar por sí mismo. Sin embargo, es difícil para mí ver claramente la diferencia entre ambos; Jarvis es tan avanzado que me parece inteligente y consciente a pesar de que la introducción de Ultron parece contrastar esa afirmación.
Mi mejor suposición sobre por qué Jarvis no es una IA es porque es un programa construido con millones (posiblemente miles de millones) de líneas de código que anticipan lo que otros podrían decirle. Esto suena extraño; sin embargo, puedo imaginar que se escriba un código para analizar y aprender la comunicación humana para construir los módulos de habla/interacción de Jarvis, esto se conoce como aprendizaje automático, algo que se utiliza en la codificación en nuestra época actual.
Si quieres conocer otras notas parecidas a Ultron: la ia que busca dominar el entorno puedes visitar la categoría Inteligencia artificial.