El caso más reciente es el de un magistrado cuya resolución habría sido elaborada, al menos parcialmente, mediante una herramienta de inteligencia artificial. La irregularidad no radicaría únicamente en el uso de la tecnología, sino en la forma en que se ha empleado.
La sentencia incluiría fragmentos que reproducen literalmente el diálogo entre el juez y el sistema, lo que habría permitido detectar el origen automatizado del texto. Este elemento ha resultado determinante para la apertura de diligencias, al evidenciar una posible falta de control sobre el contenido final y plantear dudas sobre la autoría efectiva de la motivación jurídica.
Más allá de lo anecdótico, el episodio introduce una cuestión de fondo de gran calado, el de si la incorporación directa de respuestas generadas por IA en una resolución judicial puede suponer una delegación indebida de la función jurisdiccional.
La exigencia de motivación, núcleo esencial de toda sentencia, implica una elaboración intelectual propia del juzgador, no sustituible por sistemas automatizados cuya lógica interna puede no ser plenamente verificable. En este contexto, la posible utilización acrítica de contenidos generados por IA podría afectar a principios básicos como la independencia judicial o la responsabilidad personal del juez.
Resoluciones judiciales inventadas
Este caso se suma a otros precedentes recientes en el ámbito de la abogacía. El ha tenido que pronunciarse en los últimos meses sobre situaciones en las que escritos procesales incluían referencias a resoluciones judiciales inexistentes, aparentemente generadas mediante herramientas de inteligencia artificial.
En uno de estos supuestos, se sancionó a un letrado tras comprobarse la inclusión de decenas de citas jurisprudenciales apócrifas, recordando que el uso de estas tecnologías no exime del deber de verificación ni de la responsabilidad profesional.
Estos episodios ponen de manifiesto un fenómeno cada vez más frecuente: las denominadas “alucinaciones” de la inteligencia artificial, que consisten en la generación de contenidos plausibles pero carentes de base real. En el ámbito jurídico, donde la precisión y la fiabilidad son esenciales, este tipo de errores adquiere una dimensión especialmente crítica, ya que puede afectar a la validez de los argumentos, a la coherencia de las resoluciones y, en última instancia, a la tutela judicial efectiva.
La preocupación institucional ha llevado al Consejo General del Poder Judicial a reforzar sus criterios sobre el uso de inteligencia artificial en la administración de justicia, insistiendo en la necesidad de garantizar el control humano efectivo, la trazabilidad de las decisiones y la plena asunción de responsabilidad por parte del operador jurídico. Estas directrices se alinean con el marco europeo, que clasifica los sistemas de IA aplicados a la justicia como de “alto riesgo”, sometiéndolos a exigencias reforzadas de transparencia, supervisión y fiabilidad.
Arquitectura del sistema jurídico
El debate abierto por estos casos afecta a la propia arquitectura del sistema jurídico. La introducción de herramientas capaces de generar textos jurídicos complejos en cuestión de segundos plantea interrogantes sobre la autoría, la responsabilidad y la validez de los actos procesales y resoluciones. También obliga a replantear los estándares de diligencia exigibles a jueces, abogados y otros operadores jurídicos en un entorno donde la tecnología puede amplificar tanto la eficiencia como el error.
Estos precedentes refuerzan además la necesidad de extremar el control en la utilización de inteligencia artificial en la preparación de documentos y en la valoración jurídica de los actos que se autorizan. La eventual incorporación de contenidos generados automáticamente, sin una verificación exhaustiva, podría comprometer la seguridad jurídica preventiva, especialmente en operaciones complejas o con efectos económicos relevantes.
En definitiva, la aparición de sentencias y escritos contaminados por contenidos generados por inteligencia artificial, incluyendo, en este caso, la propia huella del diálogo entre el juez y la máquina, marca un punto de inflexión en la relación entre tecnología y Derecho. Lejos de ser un fenómeno marginal, estos episodios anticipan un escenario en el que la integración de la IA exigirá no solo nuevas herramientas, sino también un reforzamiento de los principios clásicos de responsabilidad, control y garantía que sustentan el sistema jurídico.
Debe estar registrado para poder comentar