Jacob Coxon no renunció a una empresa cualquiera. Durante tres años, trabajó en el preentrenamiento de modelos en OpenAI y Anthropic, dos laboratorios que empujan la frontera de la inteligencia artificial. El 8 de septiembre dejó Anthropic y acusó a ambas compañías de correr hacia una superinteligencia capaz de mejorarse a sí misma, “apostando con nuestras vidas”. Su mensaje superó los cien millones de visualizaciones y convirtió una inquietud técnica en debate público.
Conviene evitar dos reacciones: la primera es tratarlo como a un profeta que ya vio el fin del mundo. Coxon no presentó documentos que demuestren una máquina consciente a punto de escapar ni reveló un descubrimiento secreto. Habló de una trayectoria, de la velocidad del desarrollo y de conversaciones internas.
La segunda, todavía más irresponsable, es descartarlo como a otro apocalíptico de internet. No cualquiera abandona un puesto privilegiado (USD 400.000 al año) para advertir que la carrera en la que participaba perdió controles suficientes.
El núcleo de su denuncia no es que la inteligencia artificial sea mala; es que la competencia entre empresas está sustituyendo una decisión que corresponde a la sociedad. Cada laboratorio razona que si frena, otro seguirá; por eso todos avanzan. Es la lógica de una carrera armamentista; nadie se considera irresponsable porque teme la irresponsabilidad del rival. Hobbes, el hombre es lobo del hombre.
Allí aparece la frase jodida de Coxon: el “juego final” no puede iniciarse desde el Slack de una compañía privada. Si una tecnología puede intervenir sistemas informáticos, acelerar investigaciones, manipular información o concentrar recursos a escala inédita, sus límites no pueden depender solo de ejecutivos, inversores y científicos bajo presión comercial. Acá es donde debe existir intervención de los Estados.
Sería absurdo detener por miedo una herramienta capaz de mejorar la medicina, la educación y la productividad, pero también lo sería confundir innovación con ausencia de reglas. La respuesta necesita evaluaciones independientes, trazabilidad, responsabilidad jurídica, acuerdos entre laboratorios y cooperación internacional antes de que una crisis obligue a improvisar.
Coxon puede equivocarse en los plazos y en la magnitud del peligro. Sin embargo, su renuncia expone una contradicción difícil de dejar de lado: quienes construyen estos sistemas admiten riesgos que el público apenas conoce, pero continúan acelerando porque temen perder la carrera.
Cuando el premio es poder y el costo posible lo paga toda la humanidad, la prudencia no es enemiga del progreso, sino la condición para que el progreso siga perteneciendo a los seres humanos.