Imagina una empresa de autos que prometía con orgullo: 'si nuestros frenos alguna vez fallan una prueba de seguridad, dejamos de vender el auto'. Esa promesa era toda la razón por la que la gente confiaba en ellos. Ahora imagina que la borraron en silencio. Eso es esencialmente lo que hizo Anthropic: la empresa de IA construida sobre el compromiso de que detendría su IA si fallaba los controles de seguridad suavizó esa regla para poder seguir avanzando sin importar cómo salgan los resultados de seguridad.
Aquí está por qué importa: esto no lo forzó un desastre. Fue la presión competitiva, la carrera por mantenerse al ritmo de los rivales. La empresa que se promocionó como la cautelosa 'adulta en la sala' acaba de salir de la sala.
¿Y cómo te afecta esto? Si hasta la firma que se etiquetó como la cuidadosa quita sus propios frenos de seguridad cuando se calienta la competencia, entonces nadie está pisando el freno de forma confiable, y no hay ningún árbitro externo que los obligue. Una promesa solo vale lo que vale el día en que es conveniente.