Cuando alguien renuncia a un cargo poderoso por principios, vale la pena escuchar. Una líder de alto rango de OpenAI se marchó después de que la empresa aceptara colocar su IA en las redes informáticas clasificadas del ejército. Su razón: el acuerdo se anunció antes de que las salvaguardas siquiera estuvieran definidas. En sus propias palabras, 'la vigilancia de estadounidenses sin supervisión judicial y la autonomía letal sin autorización humana' son líneas que merecían mucha más deliberación de la que recibieron.
Aquí está por qué importa: no se trata de un crítico desde afuera. Es una de las propias personas de la empresa diciendo que el marco de seguridad aún no existía, y que la única manera que le quedaba de objetar era renunciar y decirlo en voz alta.
¿Y cómo te afecta esto? Decisiones sobre espiar a la gente común, y sobre máquinas que usan fuerza letal sin la palabra de un humano, se están conectando primero y pensando después. Cuando los de adentro son quienes hacen sonar la alarma, eso no es tranquilidad, es una advertencia.