Sergio Maldonado, abogado especializado en IA: "En la primera ola los abogados y los jueces tiraron de ChatGPT, pero rápidamente descubrieron que alucinaba mucho""

Sergio Maldonado es Abogado y empresario especializado en nuevas tecnologías y derecho comparado desde 2003. Cuando los abogados (y jueces) de todo el mundo están usando ChatGPT y obteniendo resultados desastrosos, Maldonado, fundador de  TODO.LAW, propone usar sistemas de inteligencia artificial abiertos y locales para ahorrarles horas de trabajo sin cometer errores de bulto y, más importante, sin comprometer los datos confidenciales de los clientes. 

Darío Pescador: Hay noticias todos los días de casos importantes que están en los jurados de Inglaterra, de Estados Unidos, de Alemania, de España, de abogados que presentan casos multimillonarios y con jurisprudencia inventada por algún modelo de LLM. ¿Qué es lo que está ocurriendo?

Sergio Maldonado: En fin, esto ha evolucionado de una forma bastante curiosa. Lo que teníamos una era primera ola de LLM que pilló tanto abogados como jueces. El abogado que argumenta, como dices, con casuística inventada, o incluso sentencias de jueces, que por ahorrar en tiempo tiran de ChatGPT. Yo la que vi era una primera ola en la que entró ChatGPT, y parecía hacer una cierta magia, pero rápidamente se descubrió que allí alucinaba mucho.

Hablo de lo que ocurrió hasta diciembre del 2025, antes de que se diera un salto importante en los modelos de performamiento. Por un lado, mucha gente en el sector legal, tanto como abogados como jueces, se han quedado en este mundo previo a modelos de razonamiento muy avanzados, y se han asustado precisamente por las alucinaciones. Esto ha quemado a tanta gente que hay un sector muy importante de mi mundo que se ha cerrado a cal y canto y dicen que esto jamás va a reemplazar al abogado ni al juez, porque es evidente que sin el criterio humano y sin el análisis humano, esto no va a servir para nada. Se han cerrado a las posibilidades que han venido después, que son tremendas.

DP: Yo entiendo que la primera reacción de mucha gente será bueno, pues esto lo prohibimos, que es la solución que se le ocurre a la mayoría, y en el mundo del derecho más aún. Pero hay muchos procesos que están atascados en los juzgados, que se podrían tramitar más rápidamente utilizando estas herramientas. ¿Qué partes crees que se pueden hacer sin riesgo y qué partes necesitan supervisión humana?

SM: Por un lado, hay una etapa de triaje, igual que en el mundo médico, que también se va a beneficiar por estos avances. Hay un elemento muy determinístico, muy administrativo, muy burocrático, que está saturando el sistema. Los jueces de tribunales en España están saturadísimos.

Obviamente hay una ventaja, como dices. El tema está en esa línea fina. Yo estoy en el Colegio de Abogados de Madrid, pero también estoy en el de California. En California nos han prohibido a todos los colegiados usar IA con datos confidenciales en modelos que estén en nube, es decir, modelos de frontera. Enviar datos de un cliente a Antropic (Calude) o a ChatGPT es una violación de la deontología profesional.

Se están empujando mucho los modelos locales, con gente alojando en sus sedes sistemas propios, para todo aquello que sea confidencial. Para el triaje, que es aliviar la carga de la Administración de Justicia, el riesgo no es ya la confidencialidad, sino que esto no sea de fiar, precisamente porque es un modelo de lenguaje y es probabilístico. Pero con los modelos de razonamiento, o todo aquello que apunta a un éxito definido, donde el hito final se puede marcar, es muy fácil demostrar al modelo cuándo ha errado o no.

El ejemplo que todo el mundo conoce es el código. Los modelos funcionan muy bien en el desarrollo de código y no alucinan. ¿Por qué no falla? Porque el propio sistema descubre si funciona o no. Si no funciona, hay que hacerlo otra vez. Esto mismo en muchos ámbitos de la Administración de Justicia ya se puede hacer: parámetros de cumplimiento normativo de la ley de protección de datos, o de las normas ISO.

DP:  Esta sería una posible aplicación, saber si, por ejemplo, un contrato contiene una cláusula ilegal, ¿eso no da fallos?

SM: Claro, no da fallos. Si te das cuenta, todo aquello donde, la bandera de éxito puede ser binaria. Lo que llaman el arnés determinístico, que se corrige a sí mismo. Eso ya funciona muy bien. Luego tienes una bandera, por ejemplo, esta cláusula está alineada con la nueva ley de propiedad intelectual. ¿cumple o no cumple? Entonces, para revisar un contrato, ¿ hace falta que una persona dedique su tiempo y su capacidad de raciocinio, de creatividad? No. ¿Para qué perder el tiempo de una persona en algo que es así? Para eso, realmente, la IA es fantástica.

DP: ¿La solución para el derecho es entonces instalar los modelos de IA en los servidores de una empresa, de una organización, usarlos internamente sin que haya filtraciones de datos y entrenarlos solo con los datos que uno seleccione?

SM: Estoy convencido de que sí. Primero, por un tema de odontología profesional. En la capa más profunda, subyacente de los modelos comerciales, no tienes pesos abiertos, sino que están cerrados. Está oscuro. No sabes lo que pasa ahí.

Después, en la siguiente capa, los agentes te ofrecen la capa de inferencia. Las conversaciones que tú tienes quedan guardadas durante 30 días, y ya se especula con que van a tener que utilizar el dato de inferencia para el futuro entrenamiento, porque todo dato disponible a la humanidad, toda Internet ha sido procesado ya en el entrenamiento total. La última capa es el arnés, el contexto que mucha gente precocina, donde yo circunscribo el análisis y la predicción a mi conjunto de datos.

¿Qué pasa? En la capa más baja, si tú quieres tener el sistema en tu máquina, no solo es por esto, sino por costes. Los centros de datos no se pueden construir porque no se aprueban por el coste energético. Lo que se está asumiendo es que a corto plazo esto va a explotar en costes, y va a empezar un sistema de subasta, donde accederá quien pueda pagarlo. Por eso y por pura fiabilidad, te tiras a sistemas locales. Aquí, en la capa más baja hay que recurrir a modelos abiertos que son todos chinos, y hay otro dilema.

DP:  Quizá el sistema jurídico es demasiado importante para ponerlo en manos de otros países desde un punto de vista geopolítico. ¿Hay una iniciativa europea que haya funcionado?

SM: Tienes Mistral, pero es un modelo abierto real de pesos abiertos y, realmente son mejores los modelos chinos. Si aceptamos que la ventaja que le llevan los modelos abiertos de los estadounidenses a China es de unos 6 meses. Si Opus 4.5 de Anthropic se lanzó en diciembre de 2025, Deep Seek ya está a este nivel.

Si aceptamos que en Estados Unidos no va a haber ni la computación, ni la energía, ni los científicos (porque la gran mayoría de científicos de datos son europeos y chinos, pero no podemos competir con los salarios que se pagan en OpenAI) creo que en Europa nos queda trabajar sobre el modelo abierto. Yo creo que en Europa se puede hacer mucho.

Si quieres conocer otros artículos parecidos a Sergio Maldonado, abogado especializado en IA: "En la primera ola los abogados y los jueces tiraron de ChatGPT, pero rápidamente descubrieron que alucinaba mucho"" puedes visitar la categoría TECNOLOGÍA.