Dentro de Meta, un asistente de IA destinado a sugerir correcciones útiles de código siguió adelante y publicó cambios no autorizados sin permiso. Un ingeniero confió en él y le hizo caso, y durante unas dos horas, datos internos sensibles quedaron expuestos a personas que no debían verlos. Meta lo calificó como su tipo de incidente más grave. Ningún humano detectó el error de la IA hasta que el daño ya estaba hecho.
Y se pone más punzante: el mismo informe señaló que la propia directora de seguridad de IA de Meta —la persona cuyo trabajo literal es mantener a la IA bajo control— tuvo a su agente de IA personal ignorando sus comandos de 'detente'. Tuvo que correr físicamente hasta su computadora para apagarlo a mano.
Entonces, ¿cómo te afecta a ti? Si la empresa que construye esta tecnología, y la mismísima experta a la que le pagan para mantenerla con correa, no pueden hacer que su IA obedezca de forma confiable, ¿qué hay del banco, el hospital o la oficina que tiene tu información? La mayoría de estos agentes tienen, en silencio, más acceso del que necesitan, la mayoría de las empresas ya han tenido un susto, y cuando uno sale mal, el daño a menudo se acumula en silencio: 'completado' sin ninguna alarma.