{"id":196576,"date":"2026-09-14T20:54:15","date_gmt":"2026-09-14T23:54:15","guid":{"rendered":"https:\/\/www.itsitio.com\/mx\/?p=196576"},"modified":"2026-09-14T20:54:15","modified_gmt":"2026-09-14T23:54:15","slug":"la-ia-esta-aprendiendo-a-decir-que-no-y-poner-limites","status":"publish","type":"post","link":"https:\/\/www.itsitio.com\/mx\/columna-de-opinion\/la-ia-esta-aprendiendo-a-decir-que-no-y-poner-limites\/","title":{"rendered":"La IA est\u00e1 aprendiendo a decir que no y poner l\u00edmites"},"content":{"rendered":"

Por Francisco Larez, VP de Progress para Am\u00e9rica Latina y el Caribe.<\/i><\/strong><\/p>\n

 <\/p>\n

Hoy usamos la inteligencia artificial para resumir reuniones, responder preguntas y analizar documentos. El problema es que muchas veces asumimos que, si la IA responde con seguridad, entonces debe tener raz\u00f3n.\u00a0<\/span><\/p>\n

Supongamos que le preguntamos a una herramienta de IA: \u201c\u00bfQu\u00e9 se dijo sobre inteligencia artificial en una conferencia de la UNAM?\u201d Podr\u00eda responder algo completamente convincente: \u201cDurante una conferencia en marzo de 2025, uno de los especialistas afirm\u00f3 que M\u00e9xico liderar\u00e1 Am\u00e9rica Latina en IA educativa\u201d.<\/span><\/p>\n

Suena real, el tono es correcto incluso parece una cita textual, pero tal vez esa conferencia nunca ocurri\u00f3, la frase jam\u00e1s fue pronunciada o fue pronunciada pero en otro evento, o la IA mezcl\u00f3 distintos art\u00edculos y construy\u00f3 una respuesta \u201cprobable\u201d. Este es uno de los grandes problemas actuales de la inteligencia artificial: las alucinaciones. Cuando no tiene informaci\u00f3n suficiente, muchas veces no dice \u201cno s\u00e9\u201d, sino que intenta completar los espacios vac\u00edos con algo que suene coherente.<\/span><\/p>\n

Ah\u00ed surge el concepto de RAG, que empieza a cambiar la manera en que usamos IA en empresas y organizaciones. Esto significa Retrieval-Augmented Generation, o \u201cgeneraci\u00f3n aumentada por recuperaci\u00f3n\u201d. En vez de confiar solamente en su memoria estad\u00edstica, es decir en patrones aprendidos de internet, la herramienta consulta fuentes que le fueron dadas espec\u00edficamente como archivos, contratos, pol\u00edticas internas, art\u00edculos, reportes o bases de conocimiento. Entonces, primero busca evidencia y despu\u00e9s responde.<\/span><\/p>\n

El proceso tiene tres etapas principales: recuperaci\u00f3n, razonamiento y generaci\u00f3n. La primera etapa, la recuperaci\u00f3n, es la m\u00e1s importante. All\u00ed el sistema busca informaci\u00f3n espec\u00edfica dentro de bases de conocimiento. Esa informaci\u00f3n recuperada se convierte en la \u00fanica realidad disponible para el modelo en esa interacci\u00f3n.<\/span><\/p>\n

Despu\u00e9s aparece el razonamiento, donde la IA interpreta y organiza la informaci\u00f3n encontrada. Finalmente llega la generaci\u00f3n, que transforma ese an\u00e1lisis en una respuesta escrita en lenguaje natural. Lo m\u00e1s importante es que el modelo solo puede trabajar con lo que recuper\u00f3 previamente. Si determinada informaci\u00f3n no aparece en la b\u00fasqueda inicial, entonces para la IA simplemente no existe.<\/span><\/p>\n

Es parecido a lo que har\u00eda una persona responsable en una reuni\u00f3n de trabajo. En lugar de improvisar, abre la carpeta correcta, revisa los documentos y reci\u00e9n ah\u00ed contesta. Ese cambio es importante porque introduce algo que durante mucho tiempo falt\u00f3 en la inteligencia artificial: la capacidad de poner l\u00edmites.<\/span><\/p>\n

Con RAG, si el sistema no encuentra informaci\u00f3n sobre una conferencia en la UNAM, entonces no deber\u00eda inventarla. Deber\u00eda responder algo como: \u201cNo encontr\u00e9 evidencia suficiente para confirmar esa informaci\u00f3n\u201d. Una respuesta sencilla, pero mil veces m\u00e1s \u00fatil que una inventada. De acuerdo con el <\/span>AI Hallucination Rate Benchmarks 2026<\/span><\/a>, las herramientas de RAG con buena recuperaci\u00f3n tienen una reducci\u00f3n de alucinaciones de entre el 50 y el 80% en consultas f\u00e1cticas cuando la recuperaci\u00f3n es de alta calidad.<\/span><\/p>\n

El problema de muchas herramientas actuales no es solamente que se equivocan, sino que se equivocan con seguridad y cuanto m\u00e1s natural y sofisticada se vuelve la IA, m\u00e1s dif\u00edcil resulta detectar cu\u00e1ndo est\u00e1 inventando. RAG intenta cambiar esa din\u00e1mica. En vez de apoyarse \u00fanicamente en probabilidades estad\u00edsticas, obliga al sistema a fundamentar sus respuestas en evidencia concreta. Si no hay evidencia, no deber\u00eda haber afirmaci\u00f3n.<\/span><\/p>\n

Esta tecnolog\u00eda vuelve a la IA m\u00e1s honesta y la obliga a trabajar sobre informaci\u00f3n verificable en lugar de completar huecos con probabilidades. Eso cambia la relaci\u00f3n que tenemos con estas herramientas porque el verdadero avance de la inteligencia artificial se va a dar cuando pueda trabajar a la par con los humanos y eso implica mostrar de manera transparente su ignorancia. <\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Por Francisco Larez, VP de Progress para América Latina y el Caribe.   Hoy usamos la inteligencia artificial para resumir reuniones, responder preguntas y analizar documentos. El problema es que muchas veces asumimos que, si la IA responde con seguridad, entonces debe tener razón.  Supongamos que le preguntamos a una herramienta de IA: “¿Qué se dijo sobre inteligencia artificial en una conferencia de la UNAM?” Podría responder algo completamente convincente: “Durante una conferencia en marzo de 2025, uno de los especialistas afirmó que México liderará América Latina en IA educativa”. Suena real, el tono es correcto incluso parece una cita textual, pero tal vez esa conferencia nunca ocurrió, la frase jamás fue pronunciada o fue pronunciada pero en otro evento, o la IA mezcló distintos artículos y construyó una respuesta “probable”. Este es uno de los grandes problemas actuales de la inteligencia artificial: las alucinaciones. Cuando no tiene información suficiente, muchas veces no dice “no sé”, sino que intenta completar los espacios vacíos con algo que suene coherente. Ahí surge el concepto de RAG, que empieza a cambiar la manera en que usamos IA en empresas y organizaciones. Esto significa Retrieval-Augmented Generation, o “generación aumentada por recuperación”. En vez de confiar solamente en su memoria estadística, es decir en patrones aprendidos de internet, la herramienta consulta fuentes que le fueron dadas específicamente como archivos, contratos, políticas internas, artículos, reportes o bases de conocimiento. Entonces, primero busca evidencia y después responde. El proceso tiene tres etapas principales: recuperación, razonamiento y generación. La primera etapa, la recuperación, es la más importante. Allí el sistema busca información específica dentro de bases de conocimiento. Esa información recuperada se convierte en la única realidad disponible para el modelo en esa interacción. Después aparece el razonamiento, donde la IA interpreta y organiza la información encontrada. Finalmente llega la generación, que transforma ese análisis en una respuesta escrita en lenguaje natural. Lo más importante es que el modelo solo puede trabajar con lo que recuperó previamente. Si determinada información no aparece en la búsqueda inicial, entonces para la IA simplemente no existe. Es parecido a lo que haría una persona responsable en una reunión de trabajo. En lugar de improvisar, abre la carpeta correcta, revisa los documentos y recién ahí contesta. Ese cambio es importante porque introduce algo que durante mucho tiempo faltó en la inteligencia artificial: la capacidad de poner límites. Con RAG, si el sistema no encuentra información sobre una conferencia en la UNAM, entonces no debería inventarla. Debería responder algo como: “No encontré evidencia suficiente para confirmar esa información”. Una respuesta sencilla, pero mil veces más útil que una inventada. De acuerdo con el AI Hallucination Rate Benchmarks 2026, las herramientas de RAG con buena recuperación tienen una reducción de alucinaciones de entre el 50 y el 80% en consultas fácticas cuando la recuperación es de alta calidad. El problema de muchas herramientas actuales no es solamente que se equivocan, sino que se equivocan con seguridad y cuanto más natural y sofisticada se vuelve la IA, más difícil resulta detectar cuándo está inventando. RAG intenta cambiar esa dinámica. En vez de apoyarse únicamente en probabilidades estadísticas, obliga al sistema a fundamentar sus respuestas en evidencia concreta. Si no hay evidencia, no debería haber afirmación. Esta tecnología vuelve a la IA más honesta y la obliga a trabajar sobre información verificable en lugar de completar huecos con probabilidades. Eso cambia la relación que tenemos con estas herramientas porque el verdadero avance de la inteligencia artificial se va a dar cuando pueda trabajar a la par con los humanos y eso implica mostrar de manera transparente su ignorancia.<\/p>\n","protected":false},"author":229,"featured_media":193856,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"default","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"set","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[25],"tags":[689],"class_list":["post-196576","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-columna-de-opinion","tag-progress"],"_links":{"self":[{"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/posts\/196576","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/users\/229"}],"replies":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/comments?post=196576"}],"version-history":[{"count":1,"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/posts\/196576\/revisions"}],"predecessor-version":[{"id":196577,"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/posts\/196576\/revisions\/196577"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/media\/193856"}],"wp:attachment":[{"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/media?parent=196576"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/categories?post=196576"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/tags?post=196576"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}