El entusiasmo por la inteligencia artificial convive con una preocupación creciente sobre la veracidad de los datos en decisiones estratégicas. En el ámbito judicial, por ejemplo, según la Legaltech HAQQ, la base de datos pública AI Hallucination Cases registró un alza de cerca de 200 casos a 1.598 casos judiciales verificados en el último año. Esa tendencia, añade el informe, ha llevado a jueces a aplicar sanciones a quienes dan antecedentes falsos generados por chatbots, que van desde los 3.000 USD a más de 100.000 USD, hasta juicios cancelados y matrículas de abogados suspendidas por años.
En América Latina, la Sala Civil de la Corte Suprema de Justicia de Colombia marcó un hito en 2026, al imponer la primera sanción a un abogado que sustentó un recurso extraordinario de revisión en citas normativas e interpretaciones jurisprudenciales inexistentes generadas por inteligencia artificial.
En Chile, una abogada fue sancionada en junio de este año, tras presentar escritos judiciales redactados con inteligencia artificial con citas e interpretaciones jurisprudenciales falsas. La Tercera Sala de la Corte Suprema la suspendió por un mes y ordenó el pago de una multa de 5 UTM ($358.605).
Alucinaciones y búsqueda de precisión
Esos ejemplos, y muchos otros, exponen la fragilidad de aplicar sistemas probabilísticos sin verificación. La propia industria tecnológica, a través de investigaciones publicadas por desarrolladores como OpenAI, admite que las llamadas “alucinaciones” de la IA responden a límites estadísticos y computacionales insalvables. Son una realidad matemática inevitable de las redes neuronales y no un simple fallo de programación susceptible de corregirse.
En tareas creativas o borradores generales, una alucinación de la IA resulta inofensiva. Sin embargo, al evaluar cláusulas contractuales, procesar reclamos o responder a auditorías, “un dato inventado puede generar desde responsabilidades legales significativas a pérdidas financieras, más importantes pérdidas reputacionales”, explica Nicolás Vilela, CEO de ZTZ, plataforma de inteligencia artificial predictiva especializada en la agilización de la gestión documental de procesos documentales e información privada para corporaciones. “En la práctica, las organizaciones enfrentan dificultades profundas cuando integran herramientas de uso general sin evaluar la arquitectura que las respalda”, añade.
“Cuando hablamos de un proceso regulado, un contrato o una contingencia, el riesgo no solo se multiplica, sino que se vuelve inaceptable”, advierte el especialista. El desafío hoy dice, está en comprender que los modelos estadísticos responden según probabilidades de texto y no mediante la comprobación de hechos. “Cuando una empresa intenta analizar antecedentes normativos con esas plataformas, la especulación se traduce en una vulnerabilidad directa. Esto significa que la tecnología debe configurarse sobre bases de datos verificadas y reglas de negocio para operar como un soporte analítico seguro”, aclara.
Para mitigar estas fallas, explica Vilela, la industria tecnológica diferencia entre los generadores de contenido masivos y la inteligencia artificial de precisión. Mientras que, en las primeras (plataformas como ChatGPT, Gemini o Claude), se intenta reducir el contenido de trillones de parámetros que están dentro de un modelo “grande” a un dominio específico; en las herramientas de precisión, el entrenamiento solo se realiza con material aprobado y conocido.
Un ejemplo de la inteligencia artificial de precisión es Antares de Cisco, un modelo de mil millones de parámetros enfocado de forma estricta en la ciberseguridad y la localización de vulnerabilidades informáticas. Al concentrar su capacidad procesadora en un dominio específico, este caso demuestra, como señala Nicolás Vilela, “que la efectividad operativa no depende de una arquitectura gigantesca, sino de un entrenamiento especializado sobre información verificada que evite la dispersión probabilística de los motores genéricos”.
Supervisión humana
La ventaja estratégica de la inteligencia artificial de precisión radica en su modelo de desarrollo colaborativo. El sistema se diseña en conjunto con el cliente corporativo, haciéndolo parte activa de cada etapa del proceso de entrenamiento y adaptación. “Al contar con herramientas y algoritmos capaces de abstraer las reglas de negocio específicas del flujo interno de trabajo e integrarlas de forma nativa en el modelo, se permite la trazabilidad auditable y el control de versiones en cada respuesta”, aclara.
Un aspecto central en la automatización de procesos complejos destaca Vilela, es que se busca reducir la carga laboral operativa para liberar tiempo valioso y potenciar la capacidad de análisis de los equipos de trabajo, pero sin reemplazar el juicio humano: “La oportunidad es utilizar la inteligencia artificial como un copiloto especializado que procese volúmenes extensos de documentos, permitiendo que las personas enfoquen su tiempo en la evaluación estratégica de los resultados”.
La efectividad de la supervisión humana se define al calibrar el nivel de control según el riesgo que la organización está dispuesta a asumir frente al “peor escenario” posible en materia económica y de reputación. “Esta métrica, ajustada al volumen de trabajo y a la escala de la empresa, permite estructurar una gobernanza por etapas donde aproximadamente el 80% de los flujos opera bajo un modelo de revisión por muestreo, un 10% de bajo impacto accede a una automatización completa y el 10% de riesgo crítico exige una validación humana previa y obligatoria”, señala el especialista de ZTZ.
