El Dr. Geoffrey Hinton, reconocido por su labor en el desarrollo de la tecnología de inteligencia artificial (IA), renunció recientemente a su trabajo en Google, donde laboró por más de una década, para poder expresar sus preocupaciones sobre los riesgos que representa la IA, según informó The New York Times. Hinton, junto con dos de sus estudiantes de posgrado en la Universidad de Toronto, creó en 2012 una tecnología que se ha convertido en la base intelectual para los sistemas de IA que las empresas más grandes de la industria tecnológica consideran clave para su futuro.
Preocupaciones sobre la IA generativa
Un número creciente de críticos, incluyendo a Hinton, sostienen que las empresas de tecnología están dirigiéndose hacia el peligro con su campaña agresiva para crear productos basados en la inteligencia artificial generativa. La IA generativa ya puede ser una herramienta para la desinformación y, pronto, podría ser un riesgo para los trabajos.
A principios de este año, más de 1,000 líderes e investigadores de la tecnología firmaron una carta abierta pidiendo una moratoria de seis meses en el desarrollo de nuevos sistemas porque las tecnologías de IA plantean riesgos profundos para la sociedad y la humanidad. Un grupo de 19 líderes de la Asociación para el Avance de la Inteligencia Artificial publicaron su propia carta días después, advirtiendo sobre los riesgos de la IA.
El legado de Geoffrey Hinton
Hinton, conocido como el padrino de la ia, adoptó la idea de una red neuronal en 1972 como estudiante de posgrado en la Universidad de Edimburgo. En 2012, él y sus dos estudiantes, Ilya Sutskever y Alex Krishevsky, construyeron una red neuronal que podía analizar miles de fotos y enseñarse a sí misma a identificar objetos comunes. Google adquirió su empresa por $44 millones y su sistema llevó a la creación de tecnologías cada vez más poderosas, como ChatGPT y Google Bard.
Sin embargo, el experto ha cambiado de opinión respecto a los sistemas de IA, ya que teme que la capacidad de la IA pueda ser utilizada para crear y propagar información falsa en la red, lo que dificultaría la capacidad de la gente para discernir la verdad. Además, teme que la IA reemplace a los trabajadores humanos en tareas repetitivas, y que versiones futuras de la IA puedan representar una amenaza para la humanidad, incluso en forma de robots asesinos autónomos.
La necesidad de regulación y colaboración
Hinton opina que la competencia entre empresas de tecnología como Google y Microsoft para desarrollar tecnologías de IA podría convertirse en una carrera que solo se detendrá con regulaciones globales. Sin embargo, también cree que regular la tecnología de IA puede ser imposible debido a que no se puede saber si las empresas o los países están trabajando en ella en secreto. La mejor esperanza, según el académico, es que los principales científicos del entorno colaboren en formas de controlar la tecnología.
sobre la renuncia de Geoffrey Hinton
- ¿Por qué renunció Geoffrey Hinton?
Geoffrey Hinton renunció a su trabajo en Google para expresar sus preocupaciones sobre los riesgos que representa la inteligencia artificial.
- ¿Qué tecnología creó Hinton?
Hinton y sus estudiantes crearon una tecnología de red neuronal en 2012, que se ha convertido en la base intelectual para los sistemas de IA utilizados por las empresas más grandes de la industria tecnológica.
- ¿Cuáles son las preocupaciones de Hinton sobre la IA generativa?
Hinton y otros críticos creen que la IA generativa puede ser utilizada para desinformación y representar un riesgo para los trabajos.
- ¿Cuál es la posición de Hinton sobre la regulación de la IA?
Hinton cree que se necesitan regulaciones globales para controlar el desarrollo de la IA, pero también reconoce la dificultad de regular una tecnología que puede estar siendo desarrollada en secreto.
Tabla de comparación de tecnologías de IA
| Tecnología de IA | Desarrollador | Fecha de creación |
|---|---|---|
| Red neuronal | Geoffrey Hinton | 1972 |
| ChatGPT | OpenAI | 2019 |
| Google Bard | 2021 |
La renuncia del Dr. Geoffrey Hinton ha generado un debate sobre los riesgos y la necesidad de regulación en el campo de la inteligencia artificial. A medida que la IA avanza rápidamente, es crucial que los científicos, las empresas y los gobiernos trabajen juntos para garantizar un desarrollo responsable de esta tecnología y mitigar los posibles peligros que pueda representar para la sociedad y la humanidad.
Si quieres conocer otras notas parecidas a Renuncia del padre de la ia: riesgos y necesidad de regulación puedes visitar la categoría Inteligencia.