Algunas advertencias no vienen de los críticos — vienen de la gente de adentro. Caitlin Kalinowski era una alta directiva en OpenAI. Una semana después de que la empresa acordara poner su IA en las redes clasificadas del Pentágono, ella renunció y dijo por qué en voz alta, publicando abiertamente: la vigilancia de estadounidenses sin la supervisión de un juez, y la fuerza letal sin que ningún humano la autorizara, eran "líneas que merecían más deliberación de la que recibieron".
Por qué es algo grave: ella no filtró documentos ni demandó. Creía que se estaba autorizando a la IA a tomar decisiones de vida o muerte sin un humano en el circuito — no en teoría, sino de forma operativa — y lo único que pudo hacer al respecto fue renunciar y hablar.
Entonces, ¿cómo te afecta? Cuando la gente que construye estos sistemas siente que su única opción es salir por la puerta, eso te dice lo frágiles que son realmente las salvaguardas. Esto no es un chatbot dando una respuesta equivocada. Es fuerza mortal, automatizada — y la persona que levantó la mano ya no trabaja ahí.