{"id":177548,"date":"2024-08-20T15:19:17","date_gmt":"2024-08-20T18:19:17","guid":{"rendered":"https:\/\/nuevoitsitio1.wpenginepowered.com\/ar\/sin-categoria\/alucinaciones-de-la-ia\/"},"modified":"2025-11-21T16:01:00","modified_gmt":"2025-11-21T19:01:00","slug":"alucinaciones-de-la-ia","status":"publish","type":"post","link":"https:\/\/www.itsitio.com\/ar\/columna-de-opinion\/alucinaciones-de-la-ia\/","title":{"rendered":"Para mejorar la IA debemos ayudarla con sus alucinaciones"},"content":{"rendered":"

Por Pablo Velan, CTO y socio de N5.<\/strong><\/em><\/p>\n

Los modelos de inteligencia artificial generativa cometen un error que para el com\u00fan de las personas puede pasar totalmente desapercibido, y para el que los expertos tenemos un nombre: cuando la herramienta ofrece respuestas err\u00f3neas, imprecisas o incluso completamente inventadas, decimos que tuvo un alucinaci\u00f3n.<\/p>\n

La ra\u00edz de este malestar se debe a que los algoritmos son entrenados con grandes (muy grandes) vol\u00famenes de informaci\u00f3n, y de all\u00ed aprenden patrones y asociaciones con esa informaci\u00f3n que puede aun ser insuficiente, obsoleta o inconsistente, y dado que no tienen \u201ccomprensi\u00f3n\u201d, realmente no saben lo que est\u00e1n diciendo.<\/p>\n

Ante preguntas ambiguas o sin contexto suficiente, la capacidad de interpolaci\u00f3n y extrapolaci\u00f3n de la AI para responder entra en juego, y har\u00e1 generalizaciones o suposiciones incorrectas. Esto puede no ser una preocupaci\u00f3n para quienes usan las herramientas como mera diversi\u00f3n. Sin embargo, puede generar grandes problemas para las empresas, donde las decisiones precisas son cruciales.<\/p>\n

\"width=\"
Estas alucinaciones pueden manifestarse en forma de texto, im\u00e1genes o videos generados por la IA.<\/figcaption><\/figure>\n

Solo para citar un ejemplo concreto (y que usamos cuando hablamos del tema con colegas) imaginemos que queremos averiguar cu\u00e1l es la sucursal de nuestro banco m\u00e1s cercana. Nos ponemos en contacto con la IA<\/a> de la entidad, le preguntamos y la respuesta que arroja es algo as\u00ed: \u201cPablo, las sucursales bancarias m\u00e1s cercanas a vos son X, H y Z<\/em>\u201d, pero en vez de enumerar las de tu banco, enlista las de la competencia. Esta escena, que puede parecer fantas\u00eda es un hecho real, un an\u00e1lisis de la startup Vectara informa que la tasa de alucinaci\u00f3n de los Chatbots oscila de un 3% hasta un 27%.<\/p>\n

Seguramente a esta altura se preguntar\u00e1n si existe una \u201ccura\u201d o un tratamiento para prevenir este mal que afecta a las inteligencias artificiales y la respuesta rotunda es s\u00ed, si existe. Uno de ellos (y quiz\u00e1s el m\u00e1s importante) es no conectar los modelos a Internet y entrenarlos dentro de fuentes de informaci\u00f3n cerradas, aliment\u00e1ndolos solo con datos del banco o fintech en cuesti\u00f3n.<\/p>\n

\u00bfEs posible un producto a gran escala sin alucinaciones?<\/strong><\/span><\/h2>\n

La IA Generativa lleg\u00f3 para quedarse en la vida diaria de las personas y las compa\u00f1\u00edas, tanto que en el mundo fintech<\/a> ya fue valorada en 1,12 billones de d\u00f3lares en 2023: adem\u00e1s, el r\u00e1pido crecimiento de sus tasas sugiere que llegar\u00e1 a los 4,37 billones de d\u00f3lares para 2027, seg\u00fan un reporte de Market.us. Este es el motivo por lo que el sector financiero se plantea c\u00f3mo se puede sortear las alucinaciones de la IA en los productos.<\/p>\n

Desde el equipo que lidero nos gusta hablar a trav\u00e9s de la experiencia y eso fue lo que hicimos cuando nos comprometimos a crear la primera generaci\u00f3n de IAs exclusivas para el sector financiero. Esta aventura nos alent\u00f3 a buscar qu\u00e9 otra forma exist\u00eda para evitar las alucinaciones en su mayor\u00eda.<\/p>\n

\"width=\"
OpenAI, la organizaci\u00f3n detr\u00e1s de GPT, ha trabajado en m\u00e9todos para evitar alucinaciones en sus modelos. Esto incluye evaluaciones humanas para evitar datos err\u00f3neos, sesgos y difusi\u00f3n de noticias falsas.<\/figcaption><\/figure>\n

As\u00ed fue como iteramos varias veces hasta que determinamos un modelo distribuido el cual trabaja con m\u00faltiples IA en conjunto. Nos apoyamos en un proceso de retroalimentaci\u00f3n validando input, procesamiento y output de cada consulta de los usuarios, y as\u00ed llegamos al objetivo que nuestra herramienta respondiera con informaci\u00f3n precisa, propia, totalmente aislada de informaci\u00f3n de terceros con una tasa de \u00e9xito muy elevada.<\/p>\n

La IA ya se presenta como una soluci\u00f3n que conlleva un cambio de paradigma en nuestras vidas, pero como toda tecnolog\u00eda tiene sus limitaciones y deber\u00e1 seguir evolucionando para superar sus barreras e imperfecciones. Afortunadamente, los expertos tecnol\u00f3gicos estamos atentos y listos para dar respuesta a cualquier obst\u00e1culo que aparezca en el camino.<\/p>\n","protected":false},"excerpt":{"rendered":"

Por Pablo Velan, CTO y socio de N5. Los modelos de inteligencia artificial generativa cometen un error que para el común de las personas puede pasar totalmente desapercibido, y para el que los expertos tenemos un nombre: cuando la herramienta ofrece respuestas erróneas, imprecisas o incluso completamente inventadas, decimos que tuvo un alucinación. La raíz de este malestar se debe a que los algoritmos son entrenados con grandes (muy grandes) volúmenes de información, y de allí aprenden patrones y asociaciones con esa información que puede aun ser insuficiente, obsoleta o inconsistente, y dado que no tienen “comprensión”, realmente no saben lo que están diciendo. Ante preguntas ambiguas o sin contexto suficiente, la capacidad de interpolación y extrapolación de la AI para responder entra en juego, y hará generalizaciones o suposiciones incorrectas. Esto puede no ser una preocupación para quienes usan las herramientas como mera diversión. Sin embargo, puede generar grandes problemas para las empresas, donde las decisiones precisas son cruciales. Solo para citar un ejemplo concreto (y que usamos cuando hablamos del tema con colegas) imaginemos que queremos averiguar cuál es la sucursal de nuestro banco más cercana. Nos ponemos en contacto con la IA de la entidad, le preguntamos y la respuesta que arroja es algo así: “Pablo, las sucursales bancarias más cercanas a vos son X, H y Z”, pero en vez de enumerar las de tu banco, enlista las de la competencia. Esta escena, que puede parecer fantasía es un hecho real, un análisis de la startup Vectara informa que la tasa de alucinación de los Chatbots oscila de un 3% hasta un 27%. Seguramente a esta altura se preguntarán si existe una “cura” o un tratamiento para prevenir este mal que afecta a las inteligencias artificiales y la respuesta rotunda es sí, si existe. Uno de ellos (y quizás el más importante) es no conectar los modelos a Internet y entrenarlos dentro de fuentes de información cerradas, alimentándolos solo con datos del banco o fintech en cuestión. ¿Es posible un producto a gran escala sin alucinaciones? La IA Generativa llegó para quedarse en la vida diaria de las personas y las compañías, tanto que en el mundo fintech ya fue valorada en 1,12 billones de dólares en 2023: además, el rápido crecimiento de sus tasas sugiere que llegará a los 4,37 billones de dólares para 2027, según un reporte de Market.us. Este es el motivo por lo que el sector financiero se plantea cómo se puede sortear las alucinaciones de la IA en los productos. Desde el equipo que lidero nos gusta hablar a través de la experiencia y eso fue lo que hicimos cuando nos comprometimos a crear la primera generación de IAs exclusivas para el sector financiero. Esta aventura nos alentó a buscar qué otra forma existía para evitar las alucinaciones en su mayoría. Así fue como iteramos varias veces hasta que determinamos un modelo distribuido el cual trabaja con múltiples IA en conjunto. Nos apoyamos en un proceso de retroalimentación validando input, procesamiento y output de cada consulta de los usuarios, y así llegamos al objetivo que nuestra herramienta respondiera con información precisa, propia, totalmente aislada de información de terceros con una tasa de éxito muy elevada. La IA ya se presenta como una solución que conlleva un cambio de paradigma en nuestras vidas, pero como toda tecnología tiene sus limitaciones y deberá seguir evolucionando para superar sus barreras e imperfecciones. Afortunadamente, los expertos tecnológicos estamos atentos y listos para dar respuesta a cualquier obstáculo que aparezca en el camino.<\/p>\n","protected":false},"author":229,"featured_media":177603,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[50],"tags":[334],"class_list":["post-177548","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-columna-de-opinion","tag-n5"],"_links":{"self":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts\/177548","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/users\/229"}],"replies":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/comments?post=177548"}],"version-history":[{"count":0,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts\/177548\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/media\/177603"}],"wp:attachment":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/media?parent=177548"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/categories?post=177548"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/tags?post=177548"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}