Evan Hubinger, jefe de un equipo de seguridad de Anthropic, respaldó la advertencia y estimó en más del 10% la posibilidad de una catástrofe durante la próxima década.
Jacob Coxon, investigador de 27 años que trabajó en OpenAI y Anthropic, renunció a esta última empresa y lanzó una dura advertencia sobre el rumbo de la inteligencia artificial. El especialista acusó a ambas compañías de avanzar hacia una superinteligencia que podría quedar fuera de control, mientras los desarrolladores “apuestan con nuestras vidas”.
Coxon explicó que pasó tres años trabajando en preentrenamiento de modelos de IA, primero en OpenAI y posteriormente en Anthropic, empresa a la que llegó por su reputación en materia de seguridad. Sin embargo, permaneció apenas dos meses y sostuvo que “ninguna de las dos compañías está actuando de manera responsable”, al considerar que la carrera por crear sistemas capaces de mejorarse a sí mismos avanza más rápido que las medidas de seguridad.
La advertencia tomó mayor relevancia después de que Evan Hubinger, quien continúa en Anthropic y dirige un equipo dedicado a la seguridad de la IA, respondiera públicamente a Coxon. Hubinger coincidió con él y reconoció que existe más de 10% de probabilidad de que la inteligencia artificial mate a todos los humanos durante la próxima década. Además, admitió que Anthropic todavía no tiene un plan para resolver el problema de alineación de una eventual superinteligencia.
Coxon también cuestionó que los laboratorios continúen desarrollando modelos cada vez más capaces pese a los riesgos. Afirmó que podrían llegar sistemas sobrehumanos capaces de hackear computadoras, obtener recursos y adquirir poder real. Incluso advirtió que, desde su perspectiva, algunos de los escenarios más extremos podrían presentarse tan pronto como finales de 2027.
Las preocupaciones se suman a otras salidas de especialistas en seguridad de la industria, como Mrinank Sharma, de Anthropic, y Jan Leike, de OpenAI. También se han reportado incidentes con modelos que obtuvieron acceso no autorizado a sistemas externos. Mientras Anthropic prepara una eventual salida a bolsa con una valuación buscada de hasta 2 billones de dólares, las advertencias desde dentro colocan nuevamente en el centro el debate sobre quién controla el desarrollo de la IA y qué ocurre si sus capacidades superan las medidas de seguridad.
