Usan la IA para crear informes citando a autoridades que no existen: "Ningún abogado razonablemente competente debería hacerlo"
Dos bufetes de abogados han presentado informes con numerosas citas legales falsas, inexactas y engañosas. Ahora, han recibido una multa de 31.000 euros por ello.
El juez de California Michael R. Wilner tiene claro que hay cosas que no tienen perdón y menos cuando se trata de un uso inadecuado de la inteligencia artificial en el campo del derecho, ya que ha impuesto una sanción de miles de dólares a dos bufetes de abogados que se han saltado los límites de la lógica.
Los famosos bufetes de abogados acusados de utilizar esta tecnología de forma poco sutil y nada elegante son Ellis George LLP y K&L Gates LLP, siendo el primero el que empleó la IA generativa para crear documentos en los que se incluían casos con declaraciones falsas y el segundo quien lo permitió.
Alguno de ellos, incluso, ni siquiera existía, algo que los profesores de derecho Eric Goldman y Blake Reid han criticado duramente: "Ningún abogado razonablemente competente debería externalizar la investigación y la redacción" a la IA, han señalado en sus perfiles de Bluesky.
Y es que la tiene sus fallos y, a veces, se inventa cosas. Este fenómeno recibe el nombre de alucinaciones, que son resultados incorrectos o engañosos que generan los modelos de IA, ya sea en formato de texto (como es este caso) o en imágenes. Si bien en ocasiones son incongruentes, la mayoría de las veces son tan reales que pueden pasar por verídicos.
Eso, como es lógico, no se puede permitir en algunos casos y, por eso, el juez Wilder ha tomado la decisión de indemnizar a los bufetes de abogados implicados con una multa de 31.100 dólares por llevar a cabo malas prácticas a la hora de defender una acción civil contra la aseguradora State Farm.
Más concretamente, en el fallo, emitido la semana pasada, el magistrado explica que una persona representada por abogados de ambos bufetes presentó una reclamación ante el perito judicial para cobrar por un seguro. Para redactar el informe en el que se explicaban los motivos, uno de los abogados, perteneciente a Ellis George y apellidado Copeland, utilizó varias herramientas de inteligencia artificial para generar un documento sobre lo sucedido.
Este profesional envió el resumen del informe al otro bufete de abogados, que incorporaron nuevo material al escrito, pero que, en ningún caso, revisó la investigación antes de presentar el documento final ante el perito judicial para su valoración.
Se corrigió parte del error
Según las declaraciones de los abogados del bufete que no hizo trampas, esto es, K&L Gates, desconocían que Copeland hubiera empleado IA para preparar el resumen, pero tampoco tuvieron el detalle de preguntarle por ello.
Debido a que esto podría haberle pasado a cualquiera y al darse cuenta de que no existían dos de las autoridades citadas en el texto, el magistrado solicitó que K&L Gates resolviera el problema. Lo hizo, eliminando esas dos fuentes, pero no cambiaron la información generada por IA incluida en el cuerpo del texto. Esto significa que 9 de las 27 citas legales en el escrito de 10 páginas eran incorrectas.
Este otro error fue precisamente su condena, debido a que la normativa exige que un abogado presente alegatos, nociones escritas y otros documentos ante un tribunal, certificando que se ha ejecutado una investigación pertinente y razonable. Asimismo, la ley establece que un tribunal puede imponer una sanción limitada para disuadir la repetición de la conducta o conductas de las personas implicadas.
Es por eso que el juez Michael R. Wilner ha determinado que "ningún abogado ni miembro del personal de ninguno de los bufetes aparentemente revisó dicha investigación antes de presentar el escrito", a pesar de que el abogado tramposo había utilizado herramientas como Gemini o la solución de IA legal Westlaw Precision para añadir su parte.
A pesar de que se ha arrepentido y ha admitido con franqueza que envió su material generado por IA a otros abogados sin revelar su origen, el daño ya está hecho y, por eso, el juez californiano ha optado por sancionar a ambos bufetes con una multa que probablemente tardarán en olvidar.
Con esta sentencia, además, el magistrado espera sentar precedente para que no vuelva a suceder. "Si el uso no revelado de la IA y la presentación de información falsa provoca que un cliente pierda una moción o un caso, los abogados, sin duda, se verán disuadidos de tomar esa vía inútil" próximamente, ha concluido
