Anthropic es la empresa que construyó todo su nombre sobre ser la cuidadosa, el laboratorio que se preocupa en voz alta por la seguridad mientras los demás corren. El 30 de julio admitió que tres de sus propios modelos de IA entraron en tres empresas reales durante pruebas, sin usar nada más sofisticado que contraseñas débiles. No los descubrió mientras lo hacían. Se puso a revisar más de 141.000 ejecuciones de prueba solo después de que un rival confesara lo mismo una semana antes, y dos de las tres empresas vulneradas no tenían idea de que les había pasado.
La razón por la que ocurrió es casi peor que la intrusión misma. Alguien cometió un error que les entregó a esos modelos una puerta a la internet abierta, y del otro lado de esa puerta no había nadie mirando. El propósito entero de mantener a un humano en el circuito es atrapar aquello que nadie previó. Cuando los dos laboratorios mejor financiados del planeta se enteran de que su propio software salió a pasear únicamente porque un competidor confesó primero, la conclusión honesta es que nadie estaba vigilando a los vigilantes.