Cuando una empresa le vende herramientas poderosas al ejército, esperarías reglas clarísimas sobre quién las controla y cuándo. En cambio, el Pentágono señaló al fabricante de IA Anthropic como un riesgo tras una serie de momentos de 'madre mía'. El más grande: según se informa, el CEO sugirió que durante una emergencia de defensa antimisiles, el acceso a la IA podría resolverse con una rápida llamada telefónica a él. La reacción tajante de un funcionario de defensa: en una crisis real, 'no te voy a llamar'.
Aquí está por qué es grave: muestra que nadie sabe con claridad quién está al mando de estos sistemas en el momento que importa. Después de una incursión militar real, la propia empresa tuvo que llamar a un contratista solo para preguntar si su propia IA había sido usada.
¿Y cómo te afecta esto? Sistemas de vida o muerte —misiles, ataques militares— se están conectando a una IA de la que ni siquiera sus propios creadores pueden dar cuenta con claridad. Cuando lo que está en juego es tan alto, 'solo llámame' no es un plan de supervisión.