Dictan una resolución judicial por el abuso de la inteligencia artificial.
El juez en lo civil y comercial de Villa Constitución, David Lisandrello, destacó el planteo de incidentes basados en normas inexistentes.
Agregó el juez en la sentencia que “el planteo incidental ha sido articulado sobre la base de un plazo que no encuentra sustento en el código procesal santafesino, sino que por la tan segura -y a la vez tan equivocada- afirmación realizada, por la cadencia del estilo gramatical y la construcción típica de las frases, en un alto grado de verosimilitud se advierte que es producto de la IA, mal utilizada”.
Afirmó que “se verifica que no se trata de una simple deficiencia argumental, sino de la introducción en el proceso de una premisa normativa inexistente, lo que desplaza indebidamente el eje del debate y obliga a las restantes partes y al tribunal a pronunciarse sobre construcciones carentes de anclaje jurídico: planteos, traslados, resoluciones (como ésta) totalmente innecesarias, motivadas solamente en el abuso de los modelos de IA”.
Puntualizó el magistrado que “La cuestión adquiere particular relevancia en el contexto actual de utilización extendida de herramientas de asistencia basadas en inteligencia artificial. Si bien tales instrumentos pueden cumplir una función auxiliar en la organización o redacción preliminar de escritos, su empleo no exime -ni siquiera atenúa- el deber profesional de verificación de la normativa invocada. La eventual “génesis tecnológica” del error (sea de la IA de Google como parece, sea de ChatGPT, la que sea) no altera su calificación jurídica: lo relevante es la incorporación al proceso de una afirmación normativa carente de respaldo como fundamento de un planteo incidental”.
Manifestó el juez Lisandrello que “si plantear un incidente (por sus implicancias) es cosa seria, plantearlo cuando de dónde me apoyo para plantearlo es un modelo de IA no nativo para cuestiones jurídicas, con comprobadas alucinaciones, donde nunca no tiene una respuesta, que no están chequeadas y mucho menos linkeadas con la normativa ni nacional y mucho menos provincial, es mucho más serio. Debe acentuarse el propio juicio, no relajarse. El uso acrítico de tales herramientas, sin control posterior suficiente, configura una forma contemporánea de incumplimiento del deber de diligencia profesional, incompatible con los estándares mínimos de actuación exigibles en el proceso”.
Añadió que “no se trata de cuestionar la herramienta en sí, sino de recordar que su utilización no puede implicar una ruptura o abandono en la cadena de control que debe preceder a todo acto jurídico procesal”.
Ordenó que la decisión decisorio se comunique a la Delegación del Colegio de Abogados de Villa Constitución y por su intermedio al Directorio del Colegio de Abogados de Rosario, para que por medio de sus institutos y comisiones, y el propio Tribunal de Ética se tome razón de una nueva arista de complicación del abuso de la IA, tal es: el planteo de incidentes basados en normas inexistentes.
