Abogado multado con $5.000 por testigos inventados con IA en un caso de asesinato
El Tribunal Supremo de Nuevo México sancionó a un abogado que presentó testigos y testimonios policiales completamente fabricados por una herramienta de inteligencia artificial en una apelación por homicidio.
El Supremo de Nuevo México multó con 5.000 dólares a un abogado por usar IA para inventar testigos y testimonios en una apelación por asesinato. Stephen Aarons presentó un recurso que incluía nombres falsos de personas que nunca declararon y hasta un supuesto testimonio de la policía que no existía.
El caso expone uno de los riesgos más graves de la IA en el ámbito legal: las alucinaciones. Las herramientas como ChatGPT pueden generar texto convincente que parece real, pero que es pura ficción. Aarons no verificó ninguno de los hechos antes de presentarlos al tribunal, lo que derivó en una sanción por desacato y la multa correspondiente.
Esto no es un caso aislado. En los últimos años varios abogados en Estados Unidos han sido sancionados por citar fallos judiciales inventados por IA. El problema es que los modelos de lenguaje generan respuestas con alta confianza aunque estén equivocados, y si el profesional no hace la verificación mínima, el desastre está servido.
¿Qué significa esto para la Argentina y LATAM?
Aunque el caso ocurrió en Nuevo México, el riesgo es idéntico acá. En un contexto donde cada vez más estudios jurídicos y estudios chicos usan herramientas de IA para redactar escritos, la tentación de “dejarle todo a la IA” es alta, sobre todo cuando el tiempo apremia y los honorarios son ajustados.
En Argentina, donde los tribunales ya aceptan presentaciones digitales y donde la adopción de IA entre profesionales es creciente, un error de este tipo puede terminar en sanciones del colegio de abogados, multas o hasta responsabilidad penal por falsedad ideológica. La lección es clara: la IA es una herramienta de borrador, nunca de reemplazo del criterio humano.
Los números son elocuentes. Un estudio reciente mostró que ChatGPT alucina en aproximadamente el 20-30% de las consultas que requieren citas o hechos específicos. Para un abogado, ese margen de error es inaceptable cuando se trata de la libertad de una persona.
Cómo evitarlo en la práctica
- Usá la IA solo para estructurar ideas o generar primeros borradores.
- Verificá cada nombre, cada cita y cada hecho con s primarias.
- Nunca copies y pegues texto generado por IA directamente en un escrito judicial sin revisión exhaustiva.
- Documentá el proceso: si usaste IA, dejá registro interno de qué partes generó y qué controlaste vos.
El veredicto del Supremo de Nuevo México es un llamado de atención fuerte para toda la profesión. La IA puede hacerte más eficiente, pero no te exime de tu responsabilidad ética y legal. Al contrario, la aumenta porque ahora tenés que controlar tanto tu trabajo como el del “pasante” digital que no se cansa nunca pero que a veces miente con total seguridad.
Para los estudios jurídicos de Buenos Aires y el interior que están incorporando IA a su flujo de trabajo, el mensaje es concreto: invertí tiempo en protocolos de verificación o preparate para pagar multas que, aunque sean en dólares, duelen igual en pesos.