“Me fui para poder hablar sobre los peligros de la IA sin considerar cómo afecta esto a Google”, dijo Hinton en un tuit. Foto: Twitter @geoffreyhinton.
Geoffrey Hinton, quien ha sido llamado el “padrino de la IA”, confirmó el lunes que dejó su cargo en Google la semana pasada para hablar sobre los “peligros” de la tecnología que ayudó a desarrollar.
El trabajo pionero de Hinton sobre redes neuronales dio forma a los sistemas de inteligencia artificial que impulsan muchos de los productos actuales. Trabajó a tiempo parcial en Google durante una década en los esfuerzos de desarrollo de IA del gigante tecnológico, pero desde entonces ha llegado a tener preocupaciones sobre la tecnología y su papel en su avance.
“Me consuelo con la excusa normal: si no lo hubiera hecho yo, alguien más lo habría hecho”, dijo Hinton al New York Times, que fue el primero en informar su decisión.
En un tuit el lunes, Hinton dijo que dejó Google para poder hablar libremente sobre los riesgos de la IA, en lugar de por el deseo de criticar a Google específicamente.
TE PUEDE INTERESAR: NYT: ¿La IA puede ser considerada inteligente aunque no tenga cuerpo?
“Me fui para poder hablar sobre los peligros de la IA sin considerar cómo afecta esto a Google”, dijo Hinton en un tuit. “Google ha actuado de forma muy responsable”.
Jeff Dean, científico jefe de Google, dijo que Hinton “ha logrado avances fundamentales en IA” y expresó su agradecimiento por la “década de contribuciones de Hinton en Google”.
“Seguimos comprometidos con un enfoque responsable de la IA”, dijo Dean en un comunicado proporcionado a CNN. “Estamos continuamente aprendiendo a comprender los riesgos emergentes mientras también innovamos audazmente”.
La decisión de Hinton de alejarse de la empresa y hablar sobre la tecnología se produce cuando un número creciente de legisladores, grupos de defensa y expertos en tecnología han dado la voz de alarma sobre el potencial de una nueva generación de chatbots impulsados por IA para difundir información errónea y desplazar puestos de trabajo.
La ola de atención en torno a ChatGPT a fines del año pasado ayudó a renovar una carrera armamentista entre las empresas de tecnología para desarrollar e implementar herramientas de IA similares en sus productos. OpenAI, Microsoft y Google están a la vanguardia de esta tendencia, pero IBM, Amazon, Baidu y Tencent están trabajando en tecnologías similares.
TE PUEDE INTERESAR: Elon Musk y otros líderes de la tecnología piden “pausar” la Inteligencia Artificial
En marzo, algunas figuras destacadas de la tecnología firmaron una carta en la que pedían a los laboratorios de inteligencia artificial que detuvieran el entrenamiento de los sistemas de IA más potentes durante al menos seis meses, citando “riesgos profundos para la sociedad y la humanidad”. La carta, publicada por Future of Life Institute, una organización sin fines de lucro respaldada por Elon Musk, llegó solo dos semanas después de que OpenAI anunciara GPT-4, una versión aún más poderosa de la tecnología que impulsa ChatGPT. En las primeras pruebas y en una demostración de la empresa, GPT-4 se utilizó para redactar demandas, aprobar exámenes estandarizados y crear un sitio web funcional a partir de un boceto dibujado a mano.
En la entrevista con el Times, Hinton se hizo eco de las preocupaciones sobre el potencial de la IA para eliminar puestos de trabajo y crear un mundo en el que muchos “ya no podrán saber lo que es verdad”. También señaló el impresionante ritmo de avance, mucho más allá de lo que él y otros habían anticipado.
“La idea de que estas cosas podrían volverse más inteligentes que las personas, algunas personas lo creían”, dijo Hinton en la entrevista . “Pero la mayoría de la gente pensó que estaba muy lejos. Y pensé que estaba muy lejos. Pensé que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso eso”.
Incluso antes de apartarse de Google, Hinton había hablado públicamente sobre el potencial de la IA para hacer tanto daño como bien.
“Creo que el rápido progreso de la IA va a transformar la sociedad de maneras que no entendemos completamente y no todos los efectos van a ser buenos”, dijo Hinton en un discurso de graduación de 2021 en el Instituto Indio de Tecnología de Bombay en Mumbai. Señaló cómo la IA impulsará la atención médica y al mismo tiempo creará oportunidades para armas letales autónomas. “Encuentro esta perspectiva mucho más inmediata y mucho más aterradora que la perspectiva de que los robots tomen el control, que creo que está muy lejos”.
Hinton no es el primer empleado de Google en levantar una bandera roja sobre la IA. En julio, la empresa despidió a un ingeniero que afirmó que un sistema de inteligencia artificial inédito se había vuelto sensible, diciendo que violó las políticas de seguridad de datos y de empleo. Muchos en la comunidad de IA rechazaron con fuerza la afirmación del ingeniero.
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
Fuente: Artículo de CNN Business, por Jennifer Korn. Si desea leer la publicación original puede hacerlo en el siguiente enlace: https://edition.cnn.com/2023/05/01/tech/geoffrey-hinton-leaves-google-ai-fears/index.html
