Imagina a tres pilotos de carreras alineados en la parrilla de salida.
Todos conducen coches que se vuelven más rápidos cuanto más tiempo llevan en marcha. Todos quieren ganar. Hasta ahora, ninguno ha mostrado demasiado interés por ir más despacio.
Entonces se giran a la vez hacia las gradas y dicen:
En ese momento no te pones a discutir el color de los asientos.
Preguntas: ¿qué hay detrás de la próxima curva?
Eso es exactamente lo que siento ahora al escuchar declaraciones procedentes del entorno de OpenAI, Anthropic y Elon Musk, o xAI.
Un antiguo investigador que trabajó en OpenAI y Anthropic dimite públicamente y acusa a ambas empresas de correr hacia una superinteligencia que se mejora a sí misma sin actuar de forma responsable. Dario Amodei dice que hay que reducir el ritmo en la frontera de los modelos. Sam Altman lo aprueba públicamente. Y Elon Musk compara los riesgos de la AGI con las armas nucleares, solo que mayores.
No son declaraciones idénticas. No hubo una rueda de prensa conjunta. No hay prueba de que hayan cerrado con llave una sala de servidores en algún laboratorio.
Pero la coincidencia resulta llamativa.
Al fin y al cabo, estas personas ganan dinero haciendo que los sistemas sean más capaces. Más capacidades, más usuarios, más centros de datos, más capital. Hasta ahora, el freno rara vez ha sido el producto que se anunciaba con más ruido.
Y de repente hablan de control.
O quizá la IA simplemente analizó el estado del mundo, miró la distribución del poder y de la riqueza, y concluyó:
Un chiste bastante bueno, en mi opinión.
Pero solo funciona porque debajo hay una incertidumbre real. Cuando personas que están más cerca de las máquinas que nosotros hablan de repente de perder el control, uno se pregunta inevitablemente: ¿qué saben ellos que nosotros no?
No lo sabemos.
También podría ser que las advertencias sirvan a intereses empresariales muy concretos. Quien dice que solo los laboratorios multimillonarios pueden desarrollar de forma responsable un modelo especialmente peligroso está levantando una valla bastante eficaz alrededor de su propia parcela.
Por desgracia, la seguridad y el poder de mercado no se excluyen mutuamente.
Y está la explicación poco romántica: los centros de datos, los chips y la electricidad cuestan ya tanto que cada nueva etapa de desarrollo es una apuesta con muchísimos ceros. «Vamos más despacio por responsabilidad» suena más elegante para los inversores que «La próxima mejora nos cuesta una pequeña economía europea».
Por eso me interesa menos qué teoría suena mejor.
Me interesa qué se deriva de ello en la práctica.
Si se permite que un sistema trabaje de forma autónoma, necesita límites. Accesos claros. Registros. Personas que aprueben decisiones reales. Un interruptor que funcione de verdad. Deberíamos dejar de dar a los sistemas cada vez más margen de acción y luego sorprendernos cuando el control se convierte en un problema.
Quizá la IA nunca dijo «Eat the Rich».
Pero cuando las personas que dirigen los mayores laboratorios de IA hablan a la vez de frenos, deberíamos estar extremadamente atentos.