¿Puede la inteligencia artificial volverse incontrolable o quedar en manos de unos pocos? Sam Altman, CEO de OpenAI, dice que sí, y lo plantea como los dos riesgos centrales del momento. La advertencia llega en un contexto de avance acelerado de los modelos y de pulseadas geopolíticas por liderar esa tecnología.

Dos escenarios que preocupan

El primer riesgo es que la humanidad pierda el control sobre sistemas cada vez más avanzados. El segundo es que una sola persona, empresa o país acumule un poder desproporcionado gracias a una IA muy poderosa. Para Altman, ambos peligros son reales y evitarlos al mismo tiempo exige transitar un camino estrecho.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman

Qué propone para reducir el riesgo

• Un marco regulatorio federal con requisitos de seguridad comunes para los modelos de frontera, que son los más avanzados del momento.
• Incorporación de auditores independientes en los mecanismos de supervisión.
• Coordinación internacional entre gobiernos, un punto donde las empresas necesitarán apoyo estatal.

Altman aclaró que la industria no debería esperar nuevas leyes para empezar a aplicarse medidas de seguridad por cuenta propia. También fue directo con la pulseada entre potencias: ninguna presión competitiva justifica la imprudencia, lanzó, en un mensaje que se lee como respuesta al ritmo frenés que se imponen las grandes tecnológicas. Para mí, el dato de fondo es simple: el propio responsable de una de las empresas que más empuja el avance pide pisar el freno y abrir la puerta a controles externos. Si te sirve, probalo como señal de que el debate dejó de ser futurista y ya está instalado en la mesa de los que toman decisiones.