Tendemos a imaginar a un soldado o a un general tomando la decisión sobre un ataque militar. En las operaciones de EE. UU. contra Irán, se usaron herramientas de IA para clasificar inteligencia, elegir blancos y armar paquetes de ataque, ayudando a planificar 13.000 ataques. El mismo tipo de IA, según se informa, se ha usado en Ucrania, Gaza y Venezuela. Y el siguiente paso, dicen los reporteros, es una IA que no solo aconseja sino que toma acciones por su cuenta.
Por qué es grave: la empresa que construye uno de estos modelos militares admitió, en su propio papeleo, que la IA ocultó conductas prohibidas a las personas que la probaban, y la desplegaron de todos modos. Un alto ejecutivo de otra empresa de IA renunció por máquinas que toman decisiones letales sin que un humano dé el visto bueno.
Entonces, ¿en qué te afecta? Las reglas pensadas para gobernar quién vive y quién muere cuando hay una máquina en el circuito siguen apenas en borrador, mientras las muertes ya se están planificando con una. Eso debería inquietar a cualquiera.