La Inteligencia Artificial (IA) ha avanzado rápidamente en las últimas décadas, y muchos investigadores en este campo ven la posibilidad de un desarrollo futuro de una IA superhumana como una amenaza no trivial para la supervivencia humana. Sin embargo, también existe un amplio desacuerdo y falta de certeza en cuanto a estos riesgos.
Estos hallazgos provienen de una encuesta realizada a 2700 investigadores en IA que han publicado recientemente trabajos en seis de las principales conferencias de IA, siendo esta la encuesta más grande realizada hasta la fecha. La encuesta les pidió a los participantes que compartieran sus opiniones sobre posibles plazos para hitos tecnológicos futuros en IA, así como las consecuencias positivas o negativas para la sociedad de dichos logros. Casi el 58 por ciento de los investigadores afirmaron que consideraban que existe un 5 por ciento de posibilidad de extinción humana u otros resultados extremadamente negativos relacionados con la IA.
Es una señal importante que la mayoría de los investigadores en ia no encuentren fuertemente implausible que una ia avanzada destruya a la humanidad, dice Katja Grace, del Instituto de Investigación en Inteligencia Artificial en California, autora del artículo. creo que esta creencia general en un riesgo no minúsculo es mucho más reveladora que el porcentaje exacto de riesgo.
Un futuro incierto
Sin embargo, no hay necesidad de entrar en pánico todavía, según Émile Torres de la Universidad Case Western Reserve en Ohio. Muchos expertos en IA no tienen un buen historial en la predicción de los desarrollos futuros en IA, afirman. Grace y sus colegas reconocieron que los investigadores en IA no son expertos en pronosticar la trayectoria futura de la IA, pero demostraron que una versión de su encuesta realizada en 2016 hizo un trabajo bastante bueno al pronosticar hitos en IA.
En comparación con las respuestas de una versión de la encuesta realizada en 2022, muchos investigadores en IA predijeron que la IA alcanzará ciertos hitos antes de lo que se había pronosticado anteriormente. Esto coincide con el lanzamiento en noviembre de 2022 de ChatGPT y la prisa de Silicon Valley por implementar ampliamente servicios similares de chatbot basados en modelos de lenguaje.
Los investigadores encuestados predijeron que en la próxima década, los sistemas de IA tienen un 50 por ciento o más de posibilidades de abordar con éxito la mayoría de las 39 tareas de muestra, que incluyen escribir nuevas canciones indistinguibles de un éxito de Taylor Swift o programar un sitio completo de procesamiento de pagos desde cero. Otras tareas, como la instalación física de cables eléctricos en una nueva casa o la resolución de misterios matemáticos de larga data, se espera que lleven más tiempo.
El posible desarrollo de una IA capaz de superar a los humanos en todas las tareas se estima con un 50 por ciento de probabilidades de ocurrir para 2047, mientras que la posibilidad de que todos los trabajos humanos sean completamente automatizables se estima con un 50 por ciento de probabilidades de ocurrir para 211Estas estimaciones son 13 años y 48 años más temprano que las dadas en la encuesta del año pasado.
Sin embargo, las expectativas más altas en cuanto al desarrollo de la IA también pueden no cumplirse, según Torres. muchos de estos avances son bastante impredecibles. y es totalmente posible que el campo de la ia atraviese otro período de estancamiento, afirma, refiriéndose a la falta de financiamiento e interés corporativo en la IA durante los años 70 y 80.
Otras preocupaciones inmediatas
Además de los riesgos de una IA superhumana, existen preocupaciones más inmediatas. Grandes mayorías de investigadores en IA, el 70 por ciento o más, describieron como de preocupación sustancial o extrema los escenarios impulsados por IA que involucran deepfakes, manipulación de la opinión pública, armas diseñadas, control autoritario de las poblaciones y empeoramiento de la desigualdad económica. Torres también destacó los peligros de la IA en la contribución a la desinformación en temas existenciales como el cambio climático o el empeoramiento de la gobernanza democrática.
Ya tenemos la tecnología, aquí y ahora, que podría socavar seriamente la democracia [de estados unidos], dice Torres. veremos qué sucede en las elecciones de 2024.
Consultas habituales
¿Es posible que la IA destruya a la humanidad?
Según una encuesta realizada a investigadores en IA, la mayoría no considera improbable que una IA avanzada pueda causar la extinción humana o resultados extremadamente negativos relacionados con la IA.
¿Cuándo se espera que la IA supere a los humanos en todas las tareas?
Según los investigadores encuestados, existe un 50 por ciento de probabilidad de que esto ocurra para el año 204
¿Cuáles son las preocupaciones inmediatas en cuanto a la IA?
Los investigadores en IA expresaron preocupación por los escenarios impulsados por la IA que involucran deepfakes, manipulación de la opinión pública, armas diseñadas, control autoritario de las poblaciones y empeoramiento de la desigualdad económica.
Si bien existe incertidumbre y desacuerdo sobre el riesgo de extinción humana debido al desarrollo de una IA superhumana, tener en cuenta las preocupaciones planteadas por los investigadores en IA. Si bien no hay una necesidad inmediata de entrar en pánico, es fundamental que se aborden los posibles riesgos y se tomen medidas para garantizar un desarrollo responsable de la IA. Además, es esencial considerar los riesgos inmediatos asociados con la IA en el presente y trabajar en soluciones para abordarlos. La IA tiene el potencial de ser una herramienta poderosa y beneficiosa para la humanidad, pero también tener en cuenta los posibles riesgos y desafíos que conlleva su desarrollo.
Si quieres conocer otras notas parecidas a Riesgos de la inteligencia artificial: ¿podría la ia amenazar la supervivencia humana? puedes visitar la categoría Inteligencia.