Demandan a ChatGPT por dar asesoramiento legal erróneo

La aseguradora japonesa Nippon Life Insurance ha presentado una demanda contra OpenAI, el creador de ChatGPT, reclamando más de 10 millones de dólares (aproximadamente 8,64 millones de euros) por daños y perjuicios. La compañía argumenta que la inteligencia artificial proporcionó asesoramiento legal incorrecto a una antigua clienta, quien había decidido reabrir un litigio a pesar de haber firmado un acuerdo que lo prohibía.

La demanda, interpuesta el 4 de marzo ante el Tribunal del Distrito Norte de Illinois, acusa a OpenAI de interferir de manera ilícita en los contratos de la aseguradora, ejercer la abogacía sin la debida autorización y abuso de proceso. Según el escrito, ChatGPT indujo a la usuaria a incumplir su contrato y a presentar reclamaciones sin fundamento.

En octubre de 2025, OpenAI actualizó sus políticas para evitar que su chatbot ofreciera asesoramiento personalizado en áreas como la medicina, el derecho y las finanzas. Sin embargo, los hechos que motivaron la demanda ocurrieron antes de esta modificación. La disputa se originó en 2022, cuando una asegurada demandó a Nippon Life tras la suspensión de los pagos de su póliza de incapacidad, alegando que su inhabilitación laboral había finalizado. En enero de 2024, ambas partes llegaron a un acuerdo de conciliación, donde la aseguradora pagó una suma a la clienta a cambio de que esta desistiera de cualquier acción judicial.

No obstante, la exclienta no se mostró satisfecha con el acuerdo y, tras consultar a ChatGPT un año después, decidió despedir a su equipo legal. La inteligencia artificial le había respondido afirmativamente a sus inquietudes sobre una supuesta manipulación emocional, lo que la llevó a intentar anular el acuerdo y reabrir la demanda, a pesar de que el pacto lo impedía.

En enero de 2025, la usuaria presentó una moción en los tribunales, redactada con la ayuda de ChatGPT, contra Nippon Life. Posteriormente, también demandó a otras entidades relacionadas con la aseguradora, acusándolas de fraude. Aunque un tribunal de Illinois desestimó la reapertura del caso, confirmando la validez del acuerdo de conciliación, Nippon Life decidió demandar a OpenAI para recuperar los gastos legales derivados de estos litigios. En total, solicita 300.000 dólares (alrededor de 259.737 euros) por los gastos legales y 10 millones en daños punitivos, además de cubrir todas las costas y honorarios.

La aseguradora sostiene que la usuaria se basó en "argumentos legales erróneos o inventados" proporcionados por ChatGPT para justificar sus nuevas reclamaciones, lo que se conoce en el ámbito legal como "alucinaciones". En sus escritos, la usuaria incluyó referencias a precedentes judiciales que no existen y citas de otros casos. Según la demanda, ChatGPT, a pesar de conocer el acuerdo de conciliación, generó argumentos jurídicos y asistió en la redacción de documentos que fomentaron el deseo de impugnar dicho acuerdo, incluyendo la elaboración de una moción que solicitaba reparaciones incompatibles con los términos del pacto.

Nippon Life argumenta que, hasta la implementación de las nuevas restricciones, ChatGPT actuaba como un "asistente y asesor legal", proporcionando análisis y redacción de documentos jurídicos sin estar habilitado para ello. La aseguradora concluye que OpenAI debe asumir la responsabilidad por estos hechos, ya que, como desarrollador, es cómplice en la prestación de servicios legales no autorizados.