Nueva York (CNN) Geoffrey Hinton, también conocido como “El padrino de la IA“, decidió que tenía que “hacer estallar” la tecnología que ayudó a desarrollar después de preocuparse por su inteligencia, le dijo a CNN el martes.
“Solo soy un científico que de repente se dio cuenta de que estas cosas se están volviendo más inteligentes que nosotros”, dijo Hinton en una entrevista con Jake Tapper de CNN el martes. “Quiero hacer sonar el silbato y decir que deberíamos estar seriamente preocupados por cómo podemos evitar que estas cosas nos controlen”.
El trabajo pionero de Hinton sobre redes neuronales dio forma a los sistemas de inteligencia artificial que impulsan muchos de los productos actuales. El lunes, apareció en los titulares cuando renunció a su trabajo en Google, donde había trabajado durante una década, para hablar abiertamente sobre sus crecientes preocupaciones sobre la tecnología.
en la entrevista del lunes New York Times, quien fue el primero en informar sobre su movimiento, Hinton dijo que estaba preocupado por el potencial de la IA para eliminar puestos de trabajo y crear un mundo en el que muchos “ya no pueden saber lo que es real”. También señaló una asombrosa tasa de progreso que fue mucho más de lo que él y otros esperaban.
“Si se vuelve mucho más inteligente que nosotros, será muy bueno manipulando porque lo aprendió de nosotros, y hay muy pocos ejemplos de algo más inteligente dominado por algo menos inteligente”, dijo Hinton a Tapper. el martes.
“Puede programar, por lo que encuentra formas de eludir las restricciones que le imponemos. Encuentra formas de manipular a las personas para que hagan lo que quiere”.
Hinton no es el único líder tecnológico que expresa su preocupación por la inteligencia artificial. Varios miembros de la comunidad firmaron un carta en marzo pide a los laboratorios de IA que suspendan el entrenamiento de los sistemas de IA más potentes durante al menos seis meses, citando “riesgos profundos para la sociedad y la humanidad”.
Carta, publicado Instituto Future of Life, sin fines de lucro con Elon Musk, llegó solo dos semanas después de OpenAI Anunciado GPT-4, una versión aún más poderosa de la tecnología impulsada por el chatbot viral ChatGPT. En las primeras pruebas y una demostración de la empresa, GPT-4 se utilizó para redactar demandas, aprobar pruebas estandarizadas y crear un sitio web funcional a partir de un boceto dibujado a mano.
El fundador de Apple, Steve Wozniak, quien fue uno de los firmantes de la carta, apareció en “CNN This Morning” el martes para reiterar sus preocupaciones sobre su potencial para difundir información errónea.
– Hacer trampa será mucho más fácil para aquellos que quieran engañarte, dijo Wozniak a CNN. “Realmente no estamos haciendo ningún cambio en ese sentido, solo estamos asumiendo que las leyes existentes se encargarán de eso”.
Wozniak también dijo que es probable que se necesite “algún tipo” de regulación.
Hinton, por su parte, le dijo a CNN que no firmó la petición. “No creo que podamos detener el progreso”, dijo. “No firmé una petición diciendo que deberíamos dejar de desarrollar inteligencia artificial, porque si la gente en Estados Unidos se detuviera, la gente no lo haría”.
Pero admitió que no tenía una respuesta clara sobre qué hacer en su lugar.
“No me queda claro si podemos resolver este problema”, dijo Hinton a Tapper. “Creo que deberíamos esforzarnos mucho en pensar en formas de resolver el problema. No tengo una solución en este momento”.
Especialista web. Evangelista de viajes. Alborotador. Fanático de la música amigable con los hipster. Experto en comida
