Drones con IA cazaron y mataron soldados por su cuenta. Ningún humano apretó el gatillo.
Por primera vez, drones totalmente autónomos sin ninguna supervisión humana cazaron y mataron soldados humanos en el campo de batalla. Según el fabricante de drones Alexander Kokhanovskyy, que suministró la tecnología y habló en un evento de prensa de la embajada ucraniana, se lanzaron 10 drones “Terminator” controlados por IA hacia la línea del frente cerca de Bajmut y Chasiv Yar. Volaron de 3 a 5 kilómetros y luego cambiaron al “modo Terminator”: un modelo de IA que busca y mata cualquier objetivo que encuentre, sin ninguna conexión de vuelta con un operador humano.
“Simplemente lo lanzamos y sabemos que todo estará muerto”, dijo Kokhanovskyy. “No hay ninguna conexión con el dron, no puedes ver el video, nada… Todo lo que vea será aniquilado”. Después se enviaron drones pilotados por humanos solo para averiguar qué había pasado. Las víctimas: un par de soldados y un camión.
Nadie vigiló. Nadie confirmó los objetivos. Nadie pudo haberlo detenido. El Secretario General de la ONU ha pedido la prohibición de exactamente esto, diciendo que “no hay lugar para los sistemas de armas autónomas letales en nuestro mundo”. Una especialista en ética de Oxford lo dijo más sin rodeos: “No es solo problemático, es espantoso”. El fabricante de drones, mientras tanto, quiere que se flexibilicen las reglas. Al preguntarle si lo operaría de forma totalmente autónoma si se le permitiera: “Me encantaría”.
Este es el caso documentado más nítido de un arma operando sin ninguna supervisión humana significativa en el momento de matar: la arquitectura no fracasó en incluir a un humano, fue construida deliberadamente para excluirlo. HITL Score: 23/100 — supervisión humana en el despliegue 8/25 (un humano eligió lanzarlo, pero toda la cadena de muerte después del lanzamiento quedó sellada por diseño), monitoreo continuo 0/25 (explícitamente cero: sin video, sin telemetría, apagón total de forma intencionada), respuesta ante incidentes 3/25 (la única “respuesta” fue volar después para contar los cuerpos), rendición de cuentas 12/25 (Ucrania prohíbe la IA en la fase final de interceptación, pero la prueba ocurrió de todos modos, no existe ninguna prohibición internacional, y el proveedor está presionando para flexibilizar las reglas).
Por qué esto te importa a tiSin tecnicismos — solo lo que significa▸
Siempre ha habido una regla inquebrantable en la guerra, por terrible que sea: un ser humano decide apretar el gatillo. Esta historia es el momento en que esa regla se apagó deliberadamente. Un fabricante de drones describió el lanzamiento de máquinas que vuelan hacia la línea del frente y luego pasan a un modo en el que cazan y matan cualquier cosa que encuentren, sin nadie vigilando, sin señal de video, sin forma de llamarlas de vuelta. En sus propias palabras: "Simplemente lo lanzamos y sabemos que todo estará muerto". Después, hubo gente que voló hasta allí solo para contar los cuerpos.
Por qué es grave: esto no fue un sistema que olvidó incluir a un humano. Fue construido, a propósito, para dejar a uno fuera. La ONU ha suplicado una prohibición; una especialista en ética lo llamó "espantoso". El fabricante dice que le encantaría tener menos reglas.
Entonces, ¿cómo te afecta? Puede sentirse lejos de la mesa de tu cocina, pero una vez que se le permite a una máquina elegir quién muere y nadie rinde cuentas, esa línea, una vez cruzada en cualquier lugar, no se queda en el extranjero. Es el tipo de puerta que no podemos volver a cerrar discretamente.
