Vocales, sentencias y citas inexistentes: el uso de la IA y el inédito fallo de la Corte tucumana contra una abogada

La utilización de las herramientas de Inteligencia Artificial en el ámbito laboral está cada vez más extendida. Aunque, a veces, puede resultar en complicaciones. Este parece ser el caso de una abogada del foro local, a quien la Corte Suprema de Justicia de Tucumán (CSJT) efectuó un "severo" llamado de atención y la apartó del proceso penal analizado. Además, motivó un pedido del máximo tribunal al Colegio de Abogados, a fin de que los matriculados concreten un responsable y éticamente controlado de las herramientas de IA.

La inédita situación surgió a partir un pedido de control extraordinario que la abogada Mirta Mariana Santillán (Matrícula Profesional 9737) a una sentencia dictada en abril de este año en contra de su defendido (condenado por abuso sexual). Al tomar el análisis del planteo, los miembros de la Sala Civil y Comercial, Familia y Penal del máximo tribunal, que integran Daniel Leiva, Antonio Estofán y Daniel Posse, se dieron con algunas sorpresas.

Los vocales de la Corte, luego de analizar el caso, advirtió sobre una "serie de groseros errores técnicos" en el escrito presentado por la letrada en cuestión. Y más: "Al efectuar el tratamiento de dichos agravios, la letrada realiza citas jurisprudenciales de esta Corte que no resultan correctas por diferentes motivos".

Según el escrito, al que accedió Tendencia de Noticias, la abogada citó dos -supuestos- fallos del máximo tribunal, uno de 2020 y otro de 2021. "Ambas 'sentencias' transcriptas parcialmente por la letrada resultan inexistentes", afirmaron los vocales. Y detallaron: "en primer lugar, la forma de citar y enunciar las causas son completamente extrañas a nuestro sistema procesal y al modo de colección de jurisprudencia en nuestro ámbito. Por otra parte, el texto no se corresponde a ninguna sentencia dictada por esta Corte en las fechas precisadas por la defensora".

La Corte ahonda en su análisis y expone que la abogada cita jurisprudencia de otras causas, que efectivamente existen. Según la letrada, en esos expedientes "la Corte ha sido clara al establecer que no puede aplicarse la figura agravada sin constancia pericial del acceso carnal". Los vocales, replicaron: "No obstante, en ninguno de ellos se afirma lo que la profesional del derecho expresa. Por el contrario, son dos causas en donde no se hizo referencia al tópico y se rechazó ambos recursos de casación, poniendo énfasis en la importancia de la declaración de la víctima ante la dificultad probatoria en este tipo de delitos".

Hay más datos curiosos en los fundamentos de la resolución de la CSJT. Por ejemplo, que la defensora reiteró las sentencias y citó nombres de vocales (Miguel Ángel de Lillo, Domingo O. Peña, Ana Daniela Erra). La Corte retrucó que los vocales nombrados no forman parte del tribunal tucumano "ni de ningún otro Superior Tribunal del país". "En segundo lugar, lo afirmado por la defensora no se condice en lo más mínimo con la fundamentación dada por los miembros de la Sala Penal de esta Corte en los fallos citados", amplió. Y prosigue: "es decir, la letrada a partir de miembros 'inventados' de esta Corte Suprema de Tucumán, emite afirmaciones falsas de sentencias existentes".

Citas nacionales

Leiva, Estofán y Posse evaluaron también las citas aportadas por la letrada, atribuidas a la Corte de la Nación. La advertencia de los magistrados tucumanos es que ese fallo también es inexistente, "pues la referencia (...) no trata de una causa penal".

"La invención de citas o la tergiversación de jurisprudencia continúa en páginas subsiguientes (...) Idéntico comportamiento se repite en las siguientes páginas, en donde la letrada incluso reitera idénticas citas falsas, con causa inventadas, y aludiendo a vocales inexistentes de esta Corte Suprema de Justicia en por lo menos 20 oportunidades más", acotó la CSJT.

Luego de ese párrafo se introduce la cuestión de la Inteligencia Artificial. "No puede soslayarse, como hecho de gravedad institucional, que la defensa técnica del imputado -en el momento procesal que constituye la última instancia de revisión extraordinaria local- haya presentado un escrito elaborado posiblemente mediante el uso de herramientas de IA, u obtenidos a través de medios no confiables y fidedignos sin ejercer el más mínimo control sobre la veracidad de las citas jurisprudenciales, la autenticidad de las fuentes invocadas ni la coherencia dogmática de los fundamentos empleados", alertaron los jueces.

Y añadieron: "la conducta descripta trasciende el mero error material o descuido profesional: configura un supuesto de negligencia grave incompatible con los deberes de probidad, lealtas y diligencia que rigen la función del abogado defensor".

La Corte fue muy dura en sus conceptos: "La defensa penal no puede convertirse en un espacio de experimentación de medios y/o tecnologías de manera irresponsable que -aunque de utilidad potencial- requieren un manejo prudente, crítico y siempre supervisado por el criterio humano. El ejercicio de la defensa en juicio, protegido por el artículo 18 de la Constitución Nacional y por los instrumentos internacionales con jerarquía constitucional, exige una intervención personal, reflexiva y fundada de quien ejerce la representación técnica. El uso automático y acrítico de un asistente artificial, o la utilización de fuentes con procedencia desconocida para producir un escrito en la instancia recursiva vulnera no solo el deber de diligencia, sino también el derecho del imputado a una defensa real y efectiva".

"De todo lo expuesto surge con nitidez que la conducta observada por la defensa técnica del imputado -al presentar un escrito procesal en las condiciones precisadas- vulnera los deberes legales y éticos que rigen el ejercicio de la abogacía, afectando la buena fe procesal y el principio de defensa efectiva consagrado en el artículo 18 de la Constitución Nacional y en los tratados internacionales de Derechos Humanos incorporados por el artículo 75, inciso 22 de la Ley Fundamental", argumentó la CSJT. "En idéntico sentido y referido a fuentes poco confiables y no verificadas, algunos tribunales de otras jurisdicciones han advertido que “el empleo de sistemas de inteligencia artificial sin verificación humana puede generar la inclusión de citas inexistentes o tergiversadas, fenómeno conocido como alucinación, cuya responsabilidad no recae en la herramienta tecnológica, sino en quien la utiliza sin control ni discernimiento”, planteó.

Finalmente, al citar jurisprudencia de otros tribunales, los vocales tucumanos resolvieron apartar a la abogada de la defensa técnica del imputado: "Teniendo en cuenta lo especificado, vale reiterar que la conducta de la profesional recurrente ha generado precisamente la sustitución de la tarea argumental por un texto producido presuntamente por una inteligencia artificial generativa, sin contraste con fuentes auténticas ni razonamiento jurídico propio, lo cual priva al imputado de una verdadera defensa técnica y desnaturaliza el derecho de impugnación extraordinaria".

También coincidieron en remitir copia de las actuaciones al Tribunal de Ética y Disciplina del Colegio de Abogados de Tucumán para su consideración. De paso, enviaron un mensaje a la entidad que preside Alberto López Domínguez. "Oficiar a efectos preventivos al Colegio de Abogados de Tucumán para que -en cumplimiento de su función de gobierno de la matrícula- adopte medidas tendientes a concientizar a los abogados matriculados sobre el uso responsable y éticamente controlado de las herramientas de inteligencia artificial, recordando que la delegación irreflexiva de la labor intelectual en tales sistemas constituye una infracción grave a los principios que rigen el ejercicio profesional, teniendo en cuenta lo señalado", concluyó la Corte Suprema de Justicia de Tucumán.

La abogada mencionada en el fallo fue contactada por este medio, pero al cierre de esta nota aún no había enviado su descargo. /Tendencia de noticias