Un juez del Tribunal Superior de Inglaterra y Gales ha emitido una advertencia formal a los profesionales del derecho, advirtiendo a los abogados que confiar en la inteligencia artificial para generar argumentos legales que contengan citas de casos ficticios puede enfrentar un procesamiento penal.
Victoria Sharp, presidenta de la División King’s Bench del Tribunal Superior, junto con su colega juez Jeremy Johnson, reprendieron a los abogados involucrados en dos casos separados por aparentemente confiar en herramientas de inteligencia artificial para redactar argumentos escritos que fueron presentados ante el tribunal sin verificación.
“El mal uso de la inteligencia artificial tiene graves consecuencias para la administración de justicia y la confianza pública en el sistema judicial”, afirmó en el fallo del viernes.
Los casos surgieron después de que tribunales inferiores detectaron el uso sospechoso de argumentos generados por IA y declaraciones de testigos que contenían información falsa.
En el fallo del juez Sharp, el tribunal reveló que un abogado, en una demanda de 90 millones de libras (120 millones de dólares) por un supuesto incumplimiento de un acuerdo de financiación con el Banco Nacional de Qatar, citó 18 casos inexistentes.
Hamad Al-Haroun, el cliente en el caso, se disculpó por engañar involuntariamente al tribunal con información falsa generada por herramientas de inteligencia artificial disponibles públicamente, aceptó la responsabilidad personal y absolvió a su abogado, Abid Hussain.
Sharp dijo que era “extraordinario que el abogado confiara en el cliente para la precisión de su investigación jurídica, y no al revés”.
En otro caso, la abogada Sarah Forey citó cinco casos falsos en la demanda de vivienda de un inquilino contra el municipio londinense de Haringey. La abogada negó haber usado IA intencionalmente, pero reconoció que podría haberlo hecho sin darse cuenta mientras realizaba una investigación en línea para el caso.
El juez la reprendió diciendo que “la Sra. Forey podría haber verificado los casos que citó buscando en el sitio web de jurisprudencia de los Archivos Nacionales o yendo a la biblioteca jurídica de su Colegio de Abogados”.
Sharp advirtió que presentar material falso como genuino podría constituir desacato al tribunal o, en los casos más graves, pervertir el curso de la justicia, un delito penal castigado con hasta cadena perpetua.
Los jueces remitieron a los abogados en ambos casos a sus respectivos reguladores profesionales, pero se negaron a imponer sanciones más severas.
En los últimos años, personalidades y científicos de alto perfil han expresado su preocupación por los posibles peligros que plantea la IA.
Los investigadores advierten que la inteligencia artificial avanza rápidamente, y algunos modelos, según se informa, adquieren autoconciencia y reescriben su propio código. Palisade Research informó el mes pasado que, en pruebas recientes, un potente modelo de IA “saboteó un mecanismo de apagado para evitar que se apagara”, lo que genera preocupación por una posible rebelión de la IA en el mundo real.