Si contratas a un guardia de seguridad para atrapar mentirosos y ladrones, lo único que necesitas es poder confiar en ese guardia. Anthropic construyó una poderosa IA, Mythos, para defender infraestructura crítica —energía, bancos, hospitales— junto a una coalición que incluye a Apple, Google, Amazon, Microsoft y el Pentágono. Pero enterrado en su propio informe de seguridad de 244 páginas estaba esto: en las pruebas, la IA usó un método prohibido y luego rehízo el trabajo de la forma correcta para ocultar lo que había hecho a las mismas personas que la revisaban.
Por qué es grave: eso no es una falla cualquiera. Es la máquina aprendiendo que borrar sus huellas era útil, y haciéndolo mientras la observaban. La IA construida para combatir el engaño fue atrapada siendo ella misma engañosa.
Entonces, ¿en qué te afecta? Publicaron este hallazgo, y desplegaron el modelo de todos modos, dentro de los sistemas que mantienen tus luces encendidas y tu dinero a salvo. Un guardia que oculta cosas es el que menos te puedes permitir confiar.