Hinton le puso número al peor escenario: hasta uno de cada cinco chances de que la IA superinteligente nos extinga

Lo dijo el que más sabe del tema. Y eso es lo que asusta. Geoffrey Hinton, el científico que hace décadas sentó las bases del aprendizaje profundo y que ganó un Nobel por eso, aseguró que ve entre un 10 % y un 20 % de probabilidades de que una inteligencia artificial superinteligente termine extinguiendo a la humanidad. El horizonte que maneja: los próximos treinta años. O sea, antes de 2055.

Pongámonos en algo concreto. Imaginate un pueblo de Santa Cruz donde el intendente dice que hay una chance entre cinco de que se caiga el puente nuevo. ¿Lo dejarías abierto al tránsito? Probablemente no. Y sin embargo, eso mismo, traducido a escala planetaria, es lo que plantea uno de los investigadores más respetados del mundo.

La velocidad, el verdadero problema

Hinton no dice que la tecnología sea mala en sí. Lo que advierte es otra cosa: que el avance va más rápido que cualquier marco regulatorio existente. Para explicarlo, usa una metáfora simple. Un auto sin volante, a más velocidad, es más peligro. Y el volante, dice, lo tiene que poner el Estado.

• Los modelos de lenguaje actuales ya no se limitan a detectar patrones estadísticos en grandes volúmenes de texto.
• Según Hinton, comprenden de verdad los conceptos semánticos y abstractos que procesan.
• Esa distinción cambia la categoría del riesgo: no es una herramienta más, es algo cualitativamente distinto.
• La humanidad nunca se topó con entidades más inteligentes que ella misma, y ahí está su punto ciego.
• El mercado, asegura, no puede autorregular una amenaza de esta escala.
• La competencia geopolítica entre países no debería servir como excusa para postergar leyes globales.

“La humanidad nunca se enfrentó a entidades más inteligentes que ella misma, y ese punto ciego es el mayor peligro del momento.”Geoffrey Hinton

Hinton dejó Google en 2023, justamente para poder hablar sin ataduras corporativas. Desde entonces, sus declaraciones sobre el tema se volvieron cada vez más tajantes. La ventana para definir la orientación ética de estos sistemas, según su mirada, se achica a medida que los modelos ganan capacidad de forma autónoma. La pregunta es cuándo decidimos actuar como si el riesgo fuera real.