El ‘padrino’ de la inteligencia artificial Geoffrey Hinton advierte de los peligros cuando abandona Google
El hombre ampliamente considerado como el padrino de la inteligencia artificial (IA) renunció a su trabajo, advirtiendo de los crecientes peligros causados por el desarrollo del campo.
Geoffrey Hinton, de 75 años, anunció su salida de Google en un comunicado al New York Times, diciendo que ahora se arrepiente de su trabajo.
Le dijo a la BBC que algunos de los peligros de los chatbots de IA eran “bastante aterradores”.
“En este momento, no son más inteligentes que nosotros, por lo que puedo decir. Pero creo que pronto lo serán”.
La investigación pionera del Dr. Hinton sobre el aprendizaje profundo y las redes neuronales allanó el camino para los sistemas de inteligencia artificial actuales, como ChatGPT.
Pero un psicólogo cognitivo e informático británico-canadiense le dijo a la BBC que un chatbot pronto podría superar el nivel de conocimiento contenido en el cerebro humano.
“En este momento estamos viendo cosas como GPT-4 eclipsando a una persona en el conocimiento general que tiene y más o menos eclipsándola. En términos de razonamiento, no es tan bueno, pero ya lo está haciendo. Razonamiento simple.
“Y dada la tasa de progreso, esperamos que las cosas mejoren con bastante rapidez. Así que tenemos que ocuparnos de eso”.
En el artículo del New York Times, el Dr. Hinton se refirió a los “malos actores” que intentarían usar la IA para “cosas malas”.
Cuando la BBC le pidió que diera más detalles sobre esto, respondió: “Esto es solo el peor de los casos, una especie de escenario de pesadilla.
“Puedes imaginar a alguien como un mal actor, por ejemplo [Russian President Vladimir] Putin decidió dar a los robots la oportunidad de crear sus propios subobjetivos”.
El científico advirtió que esto eventualmente podría “crear objetivos secundarios como, ‘Necesito obtener más poder’.
Y agregó: “He llegado a la conclusión de que la inteligencia que desarrollamos es muy diferente a la inteligencia que tenemos.
“Somos sistemas biológicos y estos son sistemas digitales. Y la gran diferencia es que en los sistemas digitales tienes varias copias del mismo conjunto de impresiones, el mismo modelo del mundo.
“Y todas estas copias pueden aprender individualmente pero compartir su conocimiento al instante. Entonces es como si tuvieras 10,000 personas y cada vez que una persona aprendiera algo, todos lo sabían automáticamente. Y así es como estos chatbots pueden saber mucho más que cualquier persona”.
El Dr. Hinton también dijo que hubo varias otras razones para renunciar a su trabajo.
“Una es que tengo 75 años. Así que es hora de retirarme. La otra es que realmente quiero decir cosas buenas sobre Google. Y son más creíbles si no trabajo para Google”.
Destacó que no quería criticar a Google y que el gigante tecnológico había sido “muy responsable”.
Jeff Dean, científico jefe de Google, dijo en un comunicado: “Seguimos comprometidos con un enfoque responsable de la inteligencia artificial. Aprendemos constantemente a comprender los riesgos emergentes mientras innovamos audazmente”.
Especialista web. Evangelista de viajes. Alborotador. Fanático de la música amigable con los hipster. Experto en comida