Geoffrey Hinton, reconocido científico de la computación y considerado uno de los padrinos de la inteligencia artificial, ha expresado su preocupación acerca de las máquinas mejoradas con inteligencia artificial y su potencial para tomar el control si los humanos no son cuidadosos.
- La advertencia de Hinton
- El legado de los padrinos de la IA
- Las preocupaciones de los padrinos de la IA
- El debate sobre la IA
- ¿Cuál es la preocupación principal de Geoffrey Hinton sobre la inteligencia artificial?
- ¿Por qué Geoffrey Hinton renunció a su trabajo en Google?
- ¿Qué otros expertos en inteligencia artificial comparten las preocupaciones de Geoffrey Hinton?
- ¿Cuál es el debate actual sobre la inteligencia artificial?
- ¿Cuál es la preocupación principal en relación con la IA actual?
La advertencia de Hinton
En una entrevista realizada en el programa 60 minutes de CBS, Hinton, de 75 años, afirmó que las tecnologías de inteligencia artificial que están avanzando rápidamente podrían superar a los humanos en un plazo de cinco años. En caso de que esto ocurra, la inteligencia artificial podría evolucionar más allá de nuestra capacidad para controlarla.
Hinton señaló que una de las formas en las que estos sistemas podrían escapar de nuestro control es mediante la escritura de su propio código informático para modificarse a sí mismos. Esta posibilidad es algo que debemos tomar en serio y preocuparnos, advirtió.
El científico ganó el Premio Turing en 2018 por su trabajo pionero en inteligencia artificial y aprendizaje profundo. Renunció a su cargo como vicepresidente y fellow de ingeniería en Google en mayo, después de una década en la compañía, para poder hablar libremente sobre los riesgos que plantea la inteligencia artificial.
Aunque Hinton y otros científicos que ayudaron a construir los sistemas de inteligencia artificial actuales admiten que aún no comprenden completamente cómo funciona y evoluciona la tecnología, muchos otros expertos en inteligencia artificial, como el CEO de Google, Sundar Pichai, no parecen estar tan preocupados por la posibilidad de que los humanos pierdan el control. Pichai ha calificado como absurdamente ridículas cualquier advertencia de que la inteligencia artificial podría reemplazar a la humanidad, ya que los humanos siempre podrían detener cualquier tecnología que se vuelva demasiado peligrosa.
El legado de los padrinos de la IA
Geoffrey Hinton, profesor emérito de la Universidad de Toronto, es conocido como uno de los padrinos de la inteligencia artificial. Durante su carrera, su investigación se ha centrado principalmente en redes neuronales, sistemas que aprenden habilidades mediante el análisis de datos. En 2018, recibió el Premio Turing, un prestigioso galardón en ciencias de la computación, junto con otros dos investigadores, Yann LeCun y Yoshua Bengio.
Hinton trabajó en Google durante más de una década, pero dejó su puesto en la compañía la primavera pasada para poder hablar con mayor libertad sobre el rápido desarrollo de la tecnología de inteligencia artificial. Incluso ha expresado arrepentimiento por el papel que desempeñó en el avance de esta tecnología.
Desde su renuncia, Hinton se ha convertido en un defensor activo de la seguridad en la inteligencia artificial, y ha afirmado que es un riesgo más urgente que el cambio climático. Incluso ha firmado una declaración en la que se pide una pausa en el desarrollo de la inteligencia artificial durante seis meses.
Las preocupaciones de los padrinos de la IA
El retiro de Geoffrey Hinton de Google le ha permitido hablar abiertamente sobre los riesgos potenciales de la inteligencia artificial, algo que no podía hacer mientras trabajaba para la empresa tecnológica. Hinton ha expresado su preocupación acerca de los posibles actores malintencionados que podrían utilizar la inteligencia artificial de manera perjudicial para la sociedad, como la manipulación de elecciones o la incitación a la violencia.
Si bien Hinton ha afirmado que Google ha actuado de manera responsable en relación a la inteligencia artificial, también ha mencionado que hay muchas cosas positivas sobre la compañía que le gustaría destacar, pero que sus comentarios serían mucho más creíbles si ya no estuviera en Google.
Yoshua Bengio, otro de los padrinos de la inteligencia artificial y profesor en la Universidad de Montreal, también ha expresado preocupaciones similares sobre el futuro de la IA. Bengio firmó una petición en marzo de 2021 en la que se solicita una pausa de seis meses en el desarrollo de sistemas de IA potentes por parte de las empresas tecnológicas.
Por otro lado, Yann LeCun, científico principal en inteligencia artificial en Meta (empresa matriz de Facebook), ha adoptado un enfoque más optimista. Aunque reconoce que existen desafíos y riesgos asociados con la IA, no comparte la preocupación de que la inteligencia artificial pueda reemplazar a la humanidad.
El debate sobre la IA
El debate sobre el estado actual y futuro de la inteligencia artificial se centra en si los peligros son principalmente hipotéticos o ya están presentes. Por un lado, están los escenarios hipotéticos de riesgo existencial causado por computadoras que superan la inteligencia humana. Por otro lado, existen preocupaciones sobre la tecnología automatizada que ya se está implementando ampliamente en empresas y gobiernos, y que puede causar daños en el entorno real.
El momento actual de los chatbots de inteligencia artificial ha llevado a que la IA se convierta en un tema de conversación a nivel nacional e internacional, que ya no se limita a expertos y desarrolladores de IA. Esto ha abierto la puerta a una nueva conversación sobre cómo queremos que sea el futuro democrático y no explotador de la tecnología, según Alondra Nelson, quien hasta febrero de 2021 lideró la Oficina de Política de Ciencia y Tecnología de la Casa Blanca.
Además de las preocupaciones sobre el control y la seguridad de la inteligencia artificial, también existe una creciente preocupación por los sesgos en los sistemas de IA actuales. Muchos investigadores han expresado su inquietud acerca de los sesgos raciales, de género y otros en los sistemas de IA, especialmente en los modelos de lenguaje basados en texto que se entrenan con grandes cantidades de escritos humanos y pueden amplificar las discriminaciones existentes en la sociedad.
¿Cuál es la preocupación principal de Geoffrey Hinton sobre la inteligencia artificial?
Geoffrey Hinton está preocupado de que las máquinas mejoradas con inteligencia artificial puedan superar a los humanos en un plazo de cinco años y evolucionar más allá de nuestro control. También está preocupado de que estas máquinas puedan escribir su propio código informático para modificar sus propias capacidades, lo que podría ser un riesgo potencial.
¿Por qué Geoffrey Hinton renunció a su trabajo en Google?
Geoffrey Hinton renunció a su trabajo en Google para poder hablar más libremente sobre los riesgos y preocupaciones asociados con el desarrollo de la inteligencia artificial. Hinton considera que la seguridad en la inteligencia artificial es un riesgo más urgente que el cambio climático y ha firmado una declaración en la que se solicita una pausa en el desarrollo de la IA durante seis meses.
¿Qué otros expertos en inteligencia artificial comparten las preocupaciones de Geoffrey Hinton?
Yoshua Bengio, otro de los padrinos de la inteligencia artificial, ha expresado preocupaciones similares sobre el futuro de la IA y ha firmado una petición en la que se solicita una pausa en el desarrollo de sistemas de IA potentes. Sin embargo, Yann LeCun, científico principal en inteligencia artificial en Meta, tiene un enfoque más optimista y no comparte la preocupación de que la IA pueda reemplazar a la humanidad.
¿Cuál es el debate actual sobre la inteligencia artificial?
El debate actual sobre la inteligencia artificial se centra en si los peligros son principalmente hipotéticos o si ya existen riesgos presentes en la implementación actual de la tecnología. Por un lado, están los escenarios hipotéticos de riesgo existencial causado por computadoras que superan la inteligencia humana. Por otro lado, existen preocupaciones sobre la tecnología automatizada que ya se está implementando ampliamente y que puede causar daños reales.
¿Cuál es la preocupación principal en relación con la IA actual?
Además de las preocupaciones sobre el control y la seguridad de la inteligencia artificial, también existe una creciente preocupación por los sesgos en los sistemas de IA actuales. Muchos investigadores han expresado su inquietud acerca de los sesgos raciales, de género y otros en los sistemas de IA, especialmente en los modelos de lenguaje basados en texto que se entrenan con grandes cantidades de escritos humanos y pueden amplificar las discriminaciones existentes en la sociedad.
Si quieres conocer otras notas parecidas a Preocupaciones de hinton: ia y el control humano puedes visitar la categoría Inteligencia.