¿Puede el cerebro detrás de una tecnología ser el primero en pedir que la frenen? Sí: Geoffrey Hinton, el británico-canadiense de 78 años que en los años ochenta sentó las bases del aprendizaje profundo, calcula que hay entre un 10 % y un 20 % de probabilidades de que la inteligencia artificial supere a la humanidad y la extinga en los próximos treinta años. Para dimensionarlo, es como tirarse a la pileta sin saber si tiene un metro de agua o diez: las chances de terminar mal no son bajas.

Por qué la velocidad preocupa más que el invento en sí

Hinton no dice que la IA sea mala en abstracto. Lo que señala es que el ritmo de avance corre más rápido que cualquier ley que intame ponerle el freno.

• La analogía que eligió es clara: innovar sin regulación es pisar el acelerador de un auto sin volante. Cuanto más rápido, más peligroso.
• Los modelos de lenguaje ya no solo identifican correlaciones estadísticas: comprenden conceptos abstractos, según su análisis. Eso cambia la categoría del riesgo.
• Confiar en que el mercado se autorregule es, para Hinton, un error estratégico del tamaño de la amenaza.

Después de renunciar a Google en 2023 justamente para poder hablar sin ataduras contractuales, el científico recorrió escenarios donde la competencia geopolítica no debería ser excusa para demorar acuerdos globales. La idea suena simple, pero choca con la lógica de los Estados: nadie quiere frenar la pelota si el rival sigue corriendo.

“La humanidad nunca se enfrentó a entidades más inteligentes que ella misma, y ese punto ciego es el mayor peligro del momento.”Geoffrey Hinton

La ventana para decidir se acota

El mensaje de fondo es que todavía hay margen para orientar éticamente estos sistemas, pero se reduce con cada salto técnico. El propio Hinton reconoce que las proyecciones que manejaba hace una década quedaron cortas: el desarrollo fue más rápido de lo previsto. Por eso pide leyes globales, no solo nacionales, y regulaciones estatales firmes en lugar de buenos propósitos de las propias empresas.

¿Qué tipo de regulación concreta te parece realista para la IA a escala global? La discusión queda abierta, y conviene empezarla antes de que el volante deje de servir. Si te sirve, probá charlarlo con alguien que no vive del tema: a veces las preguntas más simples son las que faltan en la mesa.