El pionero de Google AI dice que renunció para hablar libremente sobre los ‘peligros’ de la tecnología

2 mayo (Reuters) – Un pionero de la inteligencia artificial dice que renunció a Google para hablar libremente sobre los peligros de la tecnología, luego de darse cuenta de que las computadoras podrían volverse mucho más inteligentes que las personas antes de lo que él y otros expertos habían anticipado.

“Me fui para poder hablar sobre los peligros de la IA sin considerar su impacto en Google”, escribió Geoffrey Hinton en Twitter.

Dans une interview avec le New York Times, Hinton a déclaré qu’il s’inquiétait de la capacité de l’IA à créer de fausses images et de faux textes convaincants, créant un monde où les gens “ne pourront plus savoir ce qui est real”.

“Es difícil ver cómo puedes evitar que los malos actores lo usen para cosas malas”, dijo.

La tecnología podría desplazar rápidamente a los trabajadores y convertirse en un peligro mayor a medida que aprende nuevos comportamientos.

“La idea de que estas cosas podrían volverse más inteligentes que las personas, algunas personas lo creían”, dijo a The New York Times. “Pero la mayoría de la gente pensó que estaba muy lejos. Y pensé que estaba lejos. Pensé que era en 30 a 50 años o incluso más. Por supuesto, ya no pienso en eso”.

En su tuit, Hinton dijo que el propio Google había “actuado de manera muy responsable” y negó haber renunciado para poder criticar a su antiguo empleador.

Google, parte de Alphabet Inc., no respondió de inmediato a una solicitud de comentarios de Reuters.

The Times citó al científico jefe de Google, Jeff Dean, diciendo en un comunicado: “Seguimos comprometidos con un enfoque responsable de la IA. Estamos continuamente aprendiendo a comprender los riesgos emergentes mientras innovamos audazmente”.

Desde que la startup OpenAI respaldada por Microsoft (MSFT.O) lanzó ChatGPT en noviembre, el creciente número de aplicaciones de “IA generativa” capaces de crear texto o imágenes ha generado preocupaciones sobre la regulación futura de la tecnología.

“El hecho de que tantos expertos expresen su preocupación por la seguridad de la IA, y que algunos científicos informáticos lleguen a arrepentirse de parte de su trabajo, debería alarmar a los legisladores”, dijo la Dra. Carissa Veliz, profesora asociada de filosofía en la Universidad. Instituto de Ética de la IA de la Universidad de Oxford “Ahora es el momento de regular la IA”.

Información de Jyoti Narayan en Bangalore; Información adicional de Chandni Shah Editado por Peter Graff

Nuestros estándares: Los principios de confianza de Thomson Reuters.