{"id":189915,"date":"2026-09-28T11:44:08","date_gmt":"2026-09-28T14:44:08","guid":{"rendered":"https:\/\/www.itsitio.com\/ar\/?p=189915"},"modified":"2026-09-28T11:52:07","modified_gmt":"2026-09-28T14:52:07","slug":"los-agentes-de-ia-pueden-contar-con-un-humano-en-el-proceso-pero-eso-ya-no-es-suficiente","status":"publish","type":"post","link":"https:\/\/www.itsitio.com\/ar\/inteligencia-artificial\/los-agentes-de-ia-pueden-contar-con-un-humano-en-el-proceso-pero-eso-ya-no-es-suficiente\/","title":{"rendered":"Los agentes de IA pueden contar con un humano en el proceso, pero eso ya no es suficiente"},"content":{"rendered":"

Todos sabemos a qu\u00e9 velocidad innova la IA<\/strong>. Incluso las herramientas que utiliz\u00e1bamos el a\u00f1o pasado parecen pr\u00e1cticamente prehist\u00f3ricas en comparaci\u00f3n con las que empleamos hoy. Paralelamente, los riesgos asociados a la IA<\/strong> tambi\u00e9n est\u00e1n evolucionando: ya no se limitan \u00fanicamente a los modelos, sino que se han convertido en riesgos relacionados con los datos<\/strong> y, por extensi\u00f3n, en riesgos operativos<\/strong>. Sin embargo, hasta la fecha, las organizaciones no han logrado adaptar su enfoque sobre los riesgos de la IA para hacer frente a esta transformaci\u00f3n.<\/p>\n

Hoy en d\u00eda, los agentes internos<\/strong> poseen m\u00e1s poder que algunos empleados humanos, ya que cuentan con amplios permisos que les permiten publicar, desplegar y modificar sistemas de forma autom\u00e1tica<\/strong>. Y, aunque los humanos participen en el proceso, esto ya no basta para garantizar la seguridad y fiabilidad<\/strong> de dichos agentes. Estos operan a velocidad de m\u00e1quina<\/strong>, provocando errores que se propagan en cascada por los sistemas m\u00e1s r\u00e1pido de lo que un ser humano puede comprender \u2014y mucho menos identificar o corregir\u2014 manualmente. A simple vista, estos errores suelen parecer correctos; sin embargo, antes de darse cuenta, surgen da\u00f1os colaterales<\/strong> en forma de transacciones perdidas, flujos de trabajo interrumpidos y graves alteraciones en la actividad empresarial<\/strong>.<\/p>\n

Est\u00e1 claro que el enfoque de \u00abhumano en el bucle\u00bb<\/strong> ya no basta para gestionar estos agentes de IA. Para cuando se detecta un error, resulta casi imposible rastrear su recorrido a trav\u00e9s de los sistemas, por lo que no queda m\u00e1s remedio que realizar un reinicio completo del sistema<\/strong>; esto suele provocar mayores trastornos y acarrear costes superiores a los del error original. Ya desarrollamos un bot\u00f3n de \u00abdeshacer\u00bb para los errores humanos<\/strong>, y es hora de empezar a utilizar un equivalente para la IA, transformando as\u00ed los procesos de restauraci\u00f3n: pasando de un enfoque centrado en el sistema a uno centrado en los cambios<\/strong>.<\/p>\n

El desplazamiento oculto del riesgo<\/strong><\/p>\n

Seg\u00fan los \u00faltimos datos de McKinsey, m\u00e1s del 60%<\/strong><\/a> de las organizaciones est\u00e1n experimentando actualmente con agentes de IA<\/strong>. Y \u00abexperimentar\u00bb es la palabra clave en este contexto. La mayor\u00eda de las organizaciones que utilizan esta tecnolog\u00eda lo hacen sin comprender plenamente el impacto que estos agentes pueden tener en el resto de sus operaciones. De hecho, el 97 % de los agentes cuenta con privilegios excesivos<\/strong><\/a> que podr\u00edan desencadenar el caos. Basta una sola \u00abalucinaci\u00f3n\u00bb derivada de datos err\u00f3neos<\/strong> para que un agente elimine accidentalmente toda una base de datos de producci\u00f3n y sus copias de seguridad<\/strong> en cuesti\u00f3n de segundos. Y no se trata de una exageraci\u00f3n: es algo que ya ha sucedido<\/strong><\/a>.<\/p>\n

Este cambio en el panorama de riesgos<\/strong> no ocurri\u00f3 de la noche a la ma\u00f1ana. Cuando las organizaciones apenas comenzaban a experimentar con los LLM<\/strong>, contar con supervisi\u00f3n humana (human-in-the-loop<\/em>) bastaba para garantizar que se filtraran los resultados incorrectos. Pero eso ya no es as\u00ed. Estos agentes no solo operan a una velocidad que supera la capacidad de comprensi\u00f3n humana, sino que ahora superan en n\u00famero a los empleados encargados de supervisarlos<\/strong>. Se estima que, en una empresa promedio, la proporci\u00f3n de identidades no humanas frente a los empleados humanos es de 82 a 1<\/strong><\/a>. Esta transformaci\u00f3n no solo exige actualizar las medidas de seguridad; requiere un enfoque totalmente nuevo<\/strong>.<\/p>\n

Sin intervenci\u00f3n humana y bajo el modelo de confianza cero (Zero-Trust)<\/strong><\/p>\n

No se trata solo de lo que estos agentes pueden hacer, sino de a qu\u00e9 pueden acceder<\/strong>. Los agentes de IA, especialmente aquellos con privilegios sin restricciones<\/strong>, pueden acceder a todos los datos del ecosistema de una organizaci\u00f3n, incluidos los datos no estructurados<\/strong> que suelen pasarse por alto. Innumerables historiales de chat, archivos mal clasificados y documentos hist\u00f3ricos redundantes quedan ahora al alcance de estos agentes. Es muy probable que existieran medidas de gobernanza y control<\/strong> para estos datos, pero no fueron dise\u00f1adas para flujos de trabajo basados en IA.<\/p>\n

Las arquitecturas tradicionales, como Zero Trust<\/strong>, se dise\u00f1aron para usuarios humanos que empleaban dispositivos cuyo acceso pod\u00eda gestionarse dentro de per\u00edmetros definidos, no para agentes de IA que interact\u00faan directamente con los datos a velocidad de m\u00e1quina<\/strong>. Estos agentes eluden por completo cualquier medida de gobernanza centrada en los puntos finales y la identidad. Por no hablar de los innumerables agentes de IA en la sombra<\/strong> que a las organizaciones les cuesta rastrear y controlar.<\/p>\n

Est\u00e1 claro que este enfoque de seguridad basado en sistemas<\/strong> debe evolucionar para volverse m\u00e1s granular. En lugar de superponer medidas de seguridad a los datos, es necesario integrarlas en los propios datos mediante t\u00e9cnicas de clasificaci\u00f3n y enmascaramiento<\/strong>. De este modo, las pol\u00edticas se aplican incluso antes de que un agente de IA tenga tiempo de actuar, lo cual no es tarea f\u00e1cil.<\/p>\n

Analice en detalle los aspectos relacionados con la IA<\/strong><\/span><\/h3>\n

Lo mismo se aplica a sus procesos de restauraci\u00f3n a mayor escala. Depender de una combinaci\u00f3n de intervenci\u00f3n humana y restauraciones que abarcan todo el sistema<\/strong> resulta insostenible en la era de la IA con capacidad de acci\u00f3n aut\u00f3noma (agentic AI<\/em>)<\/strong>. Estas reversiones generalizadas son costosas y a menudo provocan da\u00f1os colaterales que superan el coste del error original<\/strong>. \u00bfLa raz\u00f3n? Carecen de precisi\u00f3n<\/strong>.<\/p>\n

A medida que los agentes de IA se integran cada vez m\u00e1s en las operaciones empresariales, las organizaciones deben adoptar un proceso de reversi\u00f3n orientado al cambio<\/strong>. Mediante el uso de mecanismos de atribuci\u00f3n vinculados a objetos rastreados o cambios a nivel de registro<\/strong> \u2014considerando el contexto de las dependencias\u2014, es posible identificar con exactitud qu\u00e9 elementos modific\u00f3 el agente y revertir \u00fanicamente dichas acciones<\/strong>.<\/p>\n

Se trata de una reversi\u00f3n precisa: deshacer solo aquello que requiere modificaci\u00f3n<\/strong>. Como bien se sabe, estos errores seguir\u00e1n produci\u00e9ndose a medida que los agentes de IA contin\u00faen aprendiendo. Si una organizaci\u00f3n a\u00fan no ha tenido que afrontar una reversi\u00f3n a gran escala derivada de un fallo de un agente<\/strong>, es solo cuesti\u00f3n de tiempo que deba enfrentarse a esa situaci\u00f3n.<\/p>\n

Las organizaciones deben anticiparse a esta situaci\u00f3n antes de que se produzca un error<\/strong>, no despu\u00e9s. Como ya hemos visto en incidentes que han acaparado titulares, los agentes no cometen errores de la misma manera que los humanos: no se limitan a enviar un correo electr\u00f3nico equivocado, sino que pueden paralizar las operaciones de toda una organizaci\u00f3n<\/strong>. Esto no significa que debamos prescindir por completo de un modelo de gobernanza que incluya supervisi\u00f3n humana<\/strong>.<\/p>\n

Los humanos deben mantener dicha supervisi\u00f3n, pero para corregir eficazmente los problemas de los agentes, necesitan contar con mecanismos de recuperaci\u00f3n de precisi\u00f3n<\/strong>. No solo para minimizar los costes operativos, sino tambi\u00e9n para ganar la confianza necesaria para utilizar con \u00e9xito la IA de agentes<\/strong>. Gracias a la recuperaci\u00f3n de precisi\u00f3n<\/strong>, un error de la IA no tiene por qu\u00e9 desembocar en un desastre para toda la empresa; puede tratarse simplemente de una correcci\u00f3n de rumbo para retomar el camino correcto<\/strong>.<\/p>\n

Leer m\u00e1s<\/span><\/h2>\n

HONOR X7e llega a Argentina con bater\u00eda de 7500 mAh, IA y resistencia certificada<\/a><\/p>\n

Distecna suma a Teltonika y apuesta por el negocio de conectividad industrial e IoT<\/a><\/p>\n

LG celebra la llegada de la primavera con una nueva experiencia para conectar, inspirarse y disfrutar<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Rick Vanover, vicepresidente de Estrategia de Producto de Veeam Software.<\/p>\n","protected":false},"author":233,"featured_media":189917,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"default","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"set","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[65],"tags":[35],"class_list":["post-189915","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial","tag-veeam"],"_links":{"self":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts\/189915","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/users\/233"}],"replies":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/comments?post=189915"}],"version-history":[{"count":4,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts\/189915\/revisions"}],"predecessor-version":[{"id":189922,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts\/189915\/revisions\/189922"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/media\/189917"}],"wp:attachment":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/media?parent=189915"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/categories?post=189915"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/tags?post=189915"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}