Por Marcelo De Luca, Co-Founder y COO de The App Master
La velocidad de adopción de la inteligencia artificial supera en ocasiones la capacidad de comprensión sobre su funcionamiento real. En este escenario, la claridad conceptual no representa un valor agregado, sino una necesidad para la toma de decisiones dentro de las estructuras corporativas, ya que los supuestos sobre los que se basan estas herramientas tienen consecuencias en la operación. Para orientar la integración de estas tecnologías, es necesario identificar y contrastar los mitos predominantes con la evidencia técnica y operativa.
Mito 1: El reemplazo de los puestos de trabajo por la tecnología
Existe una narrativa que posiciona la automatización como un agente de reemplazo total de las capacidades humanas. Sin embargo, la tensión se localiza entre los profesionales que utilizan estas herramientas y los que no lo hacen. En el sector del desarrollo de software, la figura del programador que realiza escritura de código de forma manual está siendo complementada por sistemas que asumen las tareas repetitivas. Esto deriva en un desplazamiento del rol técnico hacia funciones de mayor carga estratégica, como el diseño de arquitecturas, la orquestación de sistemas complejos y el pensamiento en términos de ingeniería de prompts. El valor del desarrollador se traslada a la validación de la producción de la máquina, la integración en sistemas existentes sin generar deuda técnica y el diseño de la experiencia del usuario bajo criterios de responsabilidad y contexto. El riesgo operativo no reside en la tecnología, sino en la falta de acompañamiento de las organizaciones a sus equipos durante esta transición.
Mito 2: La conciencia e intencionalidad de los sistemas
Atribuir capacidades de entendimiento o voluntad a los modelos de lenguaje (LLMs) genera expectativas que pueden derivar en errores de gestión. Técnicamente, un LLM funciona mediante la predicción de tokens a través de procesos estadísticos sofisticados. No posee conciencia de las consecuencias ni capacidad de razonamiento o empatía. El riesgo para las empresas aparece al delegar decisiones críticas a un sistema que carece de noción sobre la realidad. Por esta razón, se establece como norma de trabajo que el sistema propone opciones mientras el humano ejerce la decisión final. Tratar a estos modelos como entidades con propósito debilita los mecanismos de control en momentos de falla.
Mito 3: La tecnología como solución para procesos deficientes
Un supuesto frecuente es que la inteligencia artificial funciona como un atajo para corregir deficiencias organizacionales. No obstante, la tecnología actúa como un amplificador de la situación previa de la empresa. Si una organización posee flujos de trabajo sin documentación, datos desordenados o silos de información, la implementación de estos sistemas hará que dichos problemas sean más visibles y generen costos superiores. Los resultados reales en eficiencia se obtienen cuando la empresa invierte primero en el ordenamiento de sus datos y la fluidez de su comunicación interna. La implementación tecnológica es el paso final de un proceso de saneamiento operativo, no el primero.
Mito 4: La exclusividad para organizaciones de gran escala
Anteriormente, el acceso a la inteligencia artificial requería infraestructura de alto costo y equipos de especialistas en ciencia de datos. Actualmente, las pequeñas y medianas empresas pueden integrar estas funciones en periodos de tiempo reducidos mediante el uso de APIs. No obstante, la disponibilidad de la herramienta es el factor de menor complejidad. El desafío para las PyMES se encuentra en la definición de qué procesos automatizar, en qué orden de prioridad, con qué criterios y bajo qué métricas de funcionamiento. El conocimiento del negocio sigue siendo el elemento determinante para el uso de la herramienta.
Mito 5: La reducción de la supervisión ante resultados positivos
Cuando los sistemas de automatización muestran un funcionamiento estable, surge la tendencia de disminuir la vigilancia humana. Este es el momento de mayor riesgo operativo, puesto que la confianza en los sistemas es una práctica de riesgo. El concepto de “Human-in-the-loop” no es una formalidad, sino un mecanismo de garantía de calidad y cumplimiento ético. Los modelos pueden presentar “alucinaciones”, generando respuestas con una estructura plausible pero que contienen datos incorrectos, y lo hacen con un nivel de seguridad formal que puede inducir al error a personal experimentado. El cumplimiento de normas como la ISO 27001 exige documentar la intervención humana en cada flujo donde participa la tecnología para asegurar que los procesos se ajustan a lo planificado.
Mito 6: La objetividad inherente de los algoritmos
Existe la creencia de que la ausencia de emociones en los sistemas garantiza neutralidad en los resultados. Sin embargo, los modelos se entrenan con datos producidos por humanos que contienen sesgos históricos y sociales. Un sistema entrenado con bases de datos de contratación previas tiene el potencial de perpetuar discriminaciones de forma sistémica bajo una apariencia de objetividad técnica. Asimismo, la premisa de que “más automatización equivale a mayor eficiencia” es inexacta; en ocasiones, incrementa la complejidad de los sistemas, crea más puntos potenciales de falla y eleva los costos de mantenimiento.
Mito 7: El conocimiento total y actualizado
Finalmente, los modelos de lenguaje poseen limitaciones temporales y de base informativa. Tienen fechas de corte en su entrenamiento y pueden incurrir en errores con altos niveles de confianza. La adopción acelerada de estas herramientas requiere descartar la idea de que la tecnología posee un conocimiento absoluto de la realidad. La eficacia de la inteligencia artificial depende de la capacidad de los profesionales para actuar como validadores y estrategas, manteniendo el control sobre la producción de los sistemas de predicción.
En resumen, la evolución tecnológica desplaza el rol técnico hacia la orquestación de sistemas y el diseño de arquitecturas. El funcionamiento de estas herramientas requiere el ordenamiento previo de los procesos y la gestión de los datos organizacionales. Dado que los modelos operan mediante la predicción de tokens sin poseer conciencia, la intervención humana actúa como el mecanismo de validación y control de riesgos. Finalmente, la comprensión de las capacidades de los sistemas representa una necesidad técnica para la toma de decisiones en el entorno empresarial. En definitiva, poner sobre la mesa estas creencias, nos preparará mejor para lo que viene.
