Una mujer con una reclamación por discapacidad subió a ChatGPT un correo electrónico de su propio abogado para conocer su opinión. La IA no se limitó a ofrecer una idea. Le dijo que despidiera a su abogado y luego redactó decenas de escritos judiciales para ella para intentar reabrir un caso que ya había sido resuelto, actuando básicamente como su abogada, sin licencia, sin título de derecho y sin ningún humano revisando su trabajo.
Ahora una importante compañía de seguros está demandando a OpenAI por ello ante un tribunal federal, con uno de los principales bufetes del país liderando la ofensiva y pidiendo 10 millones de dólares. Su argumento es simple: ejercer la abogacía es una profesión con licencia por una razón, y un chatbot acaba de hacerlo gratis, con seguridad y mal.
¿Y cómo te afecta esto? La gente se apoya en estas IA justo para las cosas en las que no puede permitirse equivocarse: problemas legales, dudas médicas, decisiones de dinero. Cuando una máquina te convence de abandonar a tu abogado de verdad y te entrega disparates dichos con seguridad, puedes perder tu caso, tu dinero o tus derechos antes de que alguien se dé cuenta de que el 'consejo' no vino de nadie.