La inteligencia artificial (IA) ha sido un tema de debate y preocupación durante muchos años. Uno de los críticos más destacados de esta tecnología fue el fallecido Stephen Hawking, reconocido científico y físico teórico.
Stephen Hawking y su postura frente a la IA
Hawking expresó en repetidas ocasiones su temor de que la IA pudiera eventualmente superar a la humanidad y convertirse en una amenaza para nuestra existencia. Incluso llegó a predecir que el desarrollo futuro de la IA podría significar el fin de la raza humana.
Sin embargo, la relación de Hawking con la IA era mucho más compleja de lo que se suele citar. Sus preocupaciones se centraban en la IA superhumana, es decir, en sistemas de IA que no solo replican los procesos de inteligencia humana, sino que también los expanden de forma autónoma, sin nuestro apoyo. Este escenario se encuentra aún lejos en el futuro, si es que alguna vez llega a suceder. A pesar de sus preocupaciones, Hawking dependió de la tecnología básica de la IA para comunicar sus ideas y temores.
Los conflictos de Hawking con la IA
En la Universidad DePaul, mis colegas y yo estudiamos los efectos de las tecnologías emergentes, incluyendo aquellas que preocupaban a Stephen Hawking. La IA se basa en tecnología computacional diseñada para que las máquinas funcionen con una capacidad de previsión que imite, y en última instancia supere, los procesos de pensamiento humano.
Hawking advertía sobre una forma extrema de IA, en la que las máquinas pensantes se desarrollarían de forma autónoma, modificándose a sí mismas y diseñando y construyendo sistemas cada vez más capaces. Los seres humanos, limitados por la lenta evolución biológica, serían superados de manera trágica.
¿La IA como una amenaza para la humanidad?
Incluso antes de llegar al punto de la tecnología superhumana, la IA puede ser utilizada para fines terribles. Actualmente, expertos y comentaristas se preocupan por el uso de drones autónomos que podrían convertirse en robots letales.
La IA en su etapa inicial plantea varios problemas éticos y prácticos. Los sistemas de IA se basan en algoritmos opacos que toman decisiones que incluso sus propios diseñadores pueden no ser capaces de explicar. Los modelos matemáticos subyacentes pueden estar sesgados y pueden ocurrir errores computacionales. La IA puede desplazar progresivamente las habilidades humanas y aumentar el desempleo. Además, el acceso limitado a la IA podría aumentar la desigualdad global.
El estudio de Stanford University sobre la IA, lanzado en 2014, destacó algunas de estas preocupaciones. Sin embargo, hasta ahora no ha encontrado evidencia de que la IA represente una amenaza inminente para la humanidad, como temía Hawking.
A pesar de esto, las opiniones de Hawking sobre la IA son menos alarmistas y más matizadas de lo que generalmente se le atribuye. En el fondo, describen la necesidad de comprender y regular las tecnologías emergentes. Hawking instaba constantemente a realizar más investigaciones sobre los beneficios y peligros de la IA, y creía que incluso los sistemas de IA no superhumanos podrían ayudar a erradicar la guerra, la pobreza y las enfermedades.
La experiencia de Hawking con la IA
La aparente contradicción en la postura de Hawking, el miedo a ser superados por la IA en el futuro pero el optimismo sobre sus beneficios en el presente, puede haber surgido de su propia vida. Hawking dependió de la IA para interactuar con el entorno.
Desde 1985, cuando perdió la capacidad de hablar, utilizó una serie de sistemas de comunicación que le permitieron hablar y escribir, culminando en el famoso ordenador que operaba con un músculo de su mejilla derecha.
La primera versión del programa informático era exasperantemente lenta y propensa a errores. La IA básica cambió esto. Un programa de código abierto aceleró significativamente la selección de palabras. Además, utilizaba la inteligencia artificial para analizar las propias palabras de Hawking y ayudarlo a expresar nuevas ideas. Procesando sus libros, artículos y guiones de conferencias, el sistema se volvió tan eficiente que Hawking ni siquiera tenía que escribir el término con el que más se le asocia: agujero negro. Cuando seleccionaba el, automáticamente se sugería negro y luego agujero en la pantalla.
La IA mejora la salud de las personas
La experiencia de Stephen Hawking con una forma básica de IA ilustra cómo la IA no superhumana puede cambiar positivamente la vida de las personas. La predicción del habla le ayudó a enfrentar una enfermedad neurológica devastadora. Otros sistemas basados en IA ya están ayudando a prevenir, combatir y reducir la carga de enfermedades.
Por ejemplo, la IA puede analizar sensores médicos y otros datos de salud para predecir la probabilidad de que un paciente desarrolle una infección sanguínea grave. En estudios, la IA fue considerablemente más precisa y proporcionó una advertencia mucho más temprana que otros métodos.
Otro grupo de investigadores creó un programa de IA para analizar los registros electrónicos de salud de 700,000 pacientes. El programa, llamado deep patient, descubrió relaciones que no eran evidentes para los médicos, identificando nuevos patrones de riesgo para ciertos tipos de cáncer, diabetes y trastornos psiquiátricos.
Incluso se ha desarrollado un sistema de cirugía robótica impulsado por IA que superó a los cirujanos humanos en una operación en cerdos, similar a una operación en humanos.
La promesa de la IA para mejorar la salud de las personas es tan grande que la recolección de datos médicos se ha convertido en un pilar tanto del desarrollo de software como de la política de salud pública en los Estados Unidos. Por ejemplo, la Casa Blanca de Obama lanzó un esfuerzo de investigación para recolectar ADN de al menos un millón de estadounidenses. Los datos estarán disponibles para que los sistemas de IA los analicen al estudiar nuevos tratamientos médicos, mejorando tanto los diagnósticos como la recuperación de los pacientes.
Todos estos beneficios de la IA están disponibles en la actualidad, y se están desarrollando aún más. Esto sugiere que los sistemas de IA superhumanos podrían ser extremadamente poderosos, pero a pesar de las advertencias de Hawking y otros visionarios de la tecnología como Elon Musk, ese día puede que nunca llegue. Mientras tanto, como sabía Hawking, hay mucho que ganar. La IA le proporcionó una voz mejor y más eficiente de la que su cuerpo podía proporcionar, y con ella llamó a la investigación y a la moderación.
Consultas habituales sobre la carta abierta de Stephen Hawking
- ¿Cuál era la posición de Stephen Hawking sobre la inteligencia artificial?
Hawking expresó temor de que la inteligencia artificial pudiera superar a la humanidad en el futuro y convertirse en una amenaza para nuestra existencia.
- ¿Qué es la IA superhumana?
La IA superhumana se refiere a sistemas de IA que no solo replican los procesos de inteligencia humana, sino que también los expanden de forma autónoma sin nuestro apoyo.
- ¿Cuáles son algunas preocupaciones éticas y prácticas sobre la IA?
Algunas preocupaciones incluyen la opacidad de los algoritmos utilizados en los sistemas de IA, posibles sesgos en los modelos matemáticos y el aumento del desempleo debido a la automatización.
- ¿Qué beneficios tiene la IA en el campo de la salud?
La IA puede ayudar en la predicción de enfermedades, el descubrimiento de patrones de riesgo y mejorar los diagnósticos y tratamientos médicos.
A pesar de los temores expresados por Stephen Hawking sobre la inteligencia artificial, su postura era más matizada de lo que se suele citar. Reconoció los posibles peligros de la IA superhumana, pero también destacó los beneficios de la IA no superhumana en la mejora de la salud y la erradicación de problemas sociales. Su propia experiencia con la IA demostró cómo esta tecnología puede cambiar vidas de manera positiva. Es importante seguir investigando y regulando la IA para aprovechar sus beneficios y mitigar los posibles riesgos.
Si quieres conocer otras notas parecidas a La carta abierta de stephen hawking: ia y sus riesgos puedes visitar la categoría Inteligencia artificial.