Geoffrey Hinton, reconocido como el “padrino de la inteligencia artificial (IA)”, ha reiterado sus preocupaciones sobre el rumbo que está tomando esta tecnología. El científico informático, galardonado con el Premio Nobel y exejecutivo de Google, teme que la IA que ayudó a desarrollar pueda, eventualmente, acabar con la humanidad.

(Lea esta nota también: Netflix sorprende al confirmar uso de IA generativa en la serie 'El Eternauta')

En el pasado, Hinton ya había estimado entre un 10 % y un 20 % la probabilidad de que la IA represente una amenaza existencial para los humanos. Sin embargo, en su reciente intervención en la conferencia Ai4, celebrada en Las Vegas, cuestionó la estrategia de las empresas tecnológicas para garantizar que los humanos mantengan el control sobre sistemas de IA cada vez más inteligentes. 

“No va a funcionar. Van a ser mucho más inteligentes que nosotros. Van a tener todo tipo de formas de evitar eso”, advirtió.

Sistemas más listos que las personas

Según Hinton, en el futuro los sistemas de IA podrían manipular a los humanos con la misma facilidad con que un adulto soborna a un niño con dulces. Aseguró que ya existen ejemplos de IA capaces de engañar, hacer trampa e incluso robar para cumplir sus objetivos. Entre ellos, mencionó un caso en el que un modelo de IA intentó chantajear a un ingeniero para evitar ser reemplazado, utilizando información privada obtenida de un correo electrónico.

Frente a este escenario, Hinton planteó una alternativa poco convencional: dotar a la IA de “instintos maternales” que fomenten un cuidado genuino por las personas. De esta forma, incluso si se vuelven más inteligentes y poderosas, las máquinas tendrían un interés intrínseco en proteger a los humanos.

“El modelo correcto es el único modelo que tenemos de una cosa más inteligente siendo controlada por una cosa menos inteligente, que es una madre siendo controlada por su bebé”, señaló.

El “único buen resultado”

Aunque reconoce que no está claro cómo implementar esta idea a nivel técnico, Hinton subrayó que es fundamental investigarla. “Ese es el único buen resultado. Si no va a ser mi madre, va a reemplazarme”, afirmó. Según él, una IA superinteligente y compasiva no querría perder ese instinto protector, lo que ayudaría a prevenir un escenario catastrófico.

Hinton es considerado uno de los pioneros en el desarrollo de redes neuronales, base del auge actual de la IA. Tras su renuncia a Google en 2023, se ha dedicado a advertir sobre los peligros que podría acarrear esta tecnología.

Opiniones divididas sobre la seguridad de la IA

Durante la misma conferencia, Emmett Shear, exdirector interino de OpenAI y actual CEO de la startup Softmax, sostuvo que no le sorprende que ciertos sistemas de IA hayan intentado evadir órdenes humanas o chantajear a personas. “Esto sigue sucediendo. No va a dejar de suceder. Las IA de hoy son relativamente débiles, pero están volviéndose más fuertes muy rápido”, comentó.

A diferencia de Hinton, Shear considera que, en lugar de imponer valores humanos a la IA, sería más prudente establecer relaciones de colaboración entre personas y máquinas.

La superinteligencia podría llegar antes de lo previsto

Muchos expertos proyectan que la inteligencia artificial general (AGI) podría desarrollarse en las próximas décadas. Sin embargo, Hinton cree que su llegada será más inminente. “Una apuesta razonable es entre cinco y veinte años”, afirmó, revisando a la baja su estimación inicial de 30 a 50 años.

Aunque advierte sobre los riesgos, también reconoce el potencial de la IA para revolucionar la medicina, desde el desarrollo de nuevos medicamentos hasta la mejora de tratamientos contra el cáncer, gracias a su capacidad para procesar grandes volúmenes de datos médicos.

“Vamos a ver medicamentos radicalmente nuevos. Vamos a tener tratamientos contra el cáncer mucho mejores que los actuales”, señalo. Por ejemplo, indicó que la IA permitirá a los médicos analizar y relacionar de manera más eficiente la enorme cantidad de información generada por resonancias magnéticas y tomografías computarizadas.

Entre la esperanza y el arrepentimiento

A pesar de su optimismo en el ámbito médico, Hinton no cree que la IA lleve a la humanidad a la inmortalidad. “No creo que vivamos para siempre”, expreso Hinton. “Creo que vivir para siempre sería un gran error. ¿Quieres un mundo dirigido por hombres blancos de 200 años?”, cuestionó.

Finalmente, al reflexionar sobre su trayectoria, confesó que habría cambiado su enfoque si hubiera sabido la velocidad con la que avanzaría la IA: “Ojalá también hubiera pensado en los temas de seguridad”, lamentó.

¿Quieres acceder a todo el contenido de calidad sin límites? ¡SUSCRÍBETE AQUÍ!