El padrino de la inteligencia artificial, Geoffrey Hinton, advierte de los riesgos cuando se va de Google

Un hombre ampliamente visto como el padrino de la inteligencia artificial (IA) renunció a su trabajo, advirtiendo sobre los crecientes peligros de los desarrollos en el campo.

Jeffrey Hinton, de 75 años, anunció su renuncia a Google en un comunicado al New York Times, diciendo que ahora se arrepiente de su trabajo.

En una entrevista con la BBC el lunes, dijo: «Ahora puedo hablar libremente sobre cuáles creo que podrían ser los riesgos».

«Y algunos de ellos dan mucho miedo».

La investigación pionera del Dr. Hinton sobre el aprendizaje profundo y las redes neuronales allanó el camino para los sistemas de inteligencia artificial actuales, como ChatGPT.

Pero un psicólogo cognitivo e informático británico-canadiense le dijo a la BBC que un chatbot pronto podría superar el nivel de información que tiene el cerebro humano.

«Por el momento, lo que estamos viendo es que cosas como GPT-4 superan a una persona en la cantidad de conocimiento general que tienen y superan mucho a una persona. En términos de razonamiento, no es muy bueno, pero lo hace simple pensamiento.

«Y observando la tasa de progreso, esperamos que las cosas mejoren bastante rápido. Así que tenemos que preocuparnos por eso. En este momento, no son mucho más inteligentes que nosotros, que yo sepa. Pero creo que están cerca». de ser.»

En un artículo del New York Times, el Dr. Hinton se refirió a los «malos actores» que intentarían usar la IA para «cosas malas».

Cuando la BBC le pidió que diera más detalles sobre esto, respondió: «Este es solo el peor de los casos, una especie de escenario de pesadilla.

«Puedes imaginar, por ejemplo, algunos malos actores como [Russian President Vladimir] Putin decidió dar a los bots la capacidad de crear sus propios objetivos secundarios.

En última instancia, esto podría «crear objetivos secundarios como ‘Necesito volverme más poderoso'», advirtió el científico.

El Dr. Hinton también dijo que hubo varias otras razones para dejar su trabajo.

«Una es que tengo 75 años. Así que es hora de retirarme. La otra es que realmente quiero decir algunas cosas buenas sobre Google. Sería más creíble si no trabajara para Google».

Destacó que no quería criticar a Google y que el gigante tecnológico era «muy responsable».