{"id":184521,"date":"2026-01-19T16:11:34","date_gmt":"2026-01-19T19:11:34","guid":{"rendered":"https:\/\/www.itsitio.com\/ar\/?p=184521"},"modified":"2026-01-19T17:17:01","modified_gmt":"2026-01-19T20:17:01","slug":"shadow-ai-por-que-el-uso-no-controlado-de-inteligencia-artificial-ya-es-un-problema-en-las-empresas","status":"publish","type":"post","link":"https:\/\/www.itsitio.com\/ar\/inteligencia-artificial\/shadow-ai-por-que-el-uso-no-controlado-de-inteligencia-artificial-ya-es-un-problema-en-las-empresas\/","title":{"rendered":"Shadow AI: por qu\u00e9 el uso no controlado de inteligencia artificial ya es un problema en las empresas"},"content":{"rendered":"<div class=\"ast-oembed-container \" style=\"height: 100%;\"><iframe title=\"Future Talks: Luciano Moreira da Cruz, Chief Transformation and Strategy Officer de Cloud Legion\" width=\"500\" height=\"281\" src=\"https:\/\/www.youtube.com\/embed\/y3iQyiaHkDk?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/div>\n<p data-start=\"228\" data-end=\"706\">La inteligencia artificial dej\u00f3 de ser una promesa futura para convertirse en una herramienta cotidiana dentro de las organizaciones. Sin embargo, junto con su adopci\u00f3n acelerada, emergen riesgos que muchas veces pasan desapercibidos. Uno de los m\u00e1s relevantes es el fen\u00f3meno conocido como shadow AI o inteligencia artificial oculta: el uso no controlado de herramientas de IA por parte de los colaboradores, fuera del radar de las \u00e1reas de tecnolog\u00eda, seguridad y compliance.<\/p>\n<p data-start=\"708\" data-end=\"1144\">Ese fue uno de los ejes centrales de la conversaci\u00f3n con <strong>Luciano Moreira da Cruz, Chief Transformation and Strategy Officer de Cloud Legion<\/strong>, durante su participaci\u00f3n en Future Talks, el programa de streaming producido por ITSitio. Brasile\u00f1o de origen pero radicado en Argentina desde hace m\u00e1s de dos d\u00e9cadas, el ejecutivo se define como<em> \u201cun poco argentino-brasile\u00f1o\u201d<\/em>, con \u201cel coraz\u00f3n dividido\u201d despu\u00e9s de 23 a\u00f1os en el pa\u00eds.<\/p>\n<h2 data-start=\"1146\" data-end=\"1205\"><span style=\"color: #333399;\">La inteligencia artificial oculta dentro de las empresas<\/span><\/h2>\n<p data-start=\"310\" data-end=\"865\">Para Luciano Moreira da Cruz, uno de los principales desaf\u00edos en la adopci\u00f3n de la inteligencia artificial dentro de las empresas es el fen\u00f3meno del <em data-start=\"459\" data-end=\"470\">shadow AI<\/em>, es decir, el uso de herramientas de IA por parte de los colaboradores sin conocimiento ni supervisi\u00f3n de las \u00e1reas de tecnolog\u00eda, seguridad, privacidad o compliance. <em>\u201cEl gran problema de la inteligencia artificial oculta es que nuestros colaboradores est\u00e1n utilizando inteligencia artificial sin que las \u00e1reas responsables est\u00e9n al tanto de que eso est\u00e1 sucediendo\u201d<\/em>, explic\u00f3 en <em data-start=\"850\" data-end=\"864\">Future Talks<\/em>.<\/p>\n<p data-start=\"867\" data-end=\"1342\">Este uso no controlado suele responder a la necesidad de resolver tareas de manera r\u00e1pida, pero puede derivar en riesgos significativos. Seg\u00fan detall\u00f3, los empleados pueden utilizar sus propias suscripciones o recurrir a herramientas encontradas en internet que aparentan ser soluciones leg\u00edtimas. <em>\u201cCapaz que alguien busca una herramienta r\u00e1pida y termina usando un motor que dice ser inteligencia artificial, pero en realidad est\u00e1 dise\u00f1ado para robar informaci\u00f3n\u201d<\/em>, advirti\u00f3.<\/p>\n<p data-start=\"1344\" data-end=\"1675\">El peligro radica en que, desde la perspectiva del usuario, estas plataformas funcionan como una IA real. <em>\u201cEs un prompt frente al usuario, \u00e9l cree que realmente es una inteligencia artificial y le est\u00e1n sustrayendo un mont\u00f3n de datos importantes\u201d<\/em>, se\u00f1al\u00f3. Esto puede afectar tanto a informaci\u00f3n estrat\u00e9gica como a datos personales.<\/p>\n<p data-start=\"1677\" data-end=\"2099\">Moreira da Cruz puso especial \u00e9nfasis en \u00e1reas sensibles como recursos humanos, donde el riesgo se amplifica. <em>\u201cEmpiezan a utilizar plataformas de inteligencia artificial sin ning\u00fan tipo de control o homologaci\u00f3n por parte de las \u00e1reas de seguridad\u201d<\/em>, explic\u00f3, y remarc\u00f3 que muchas veces no se sabe si esas herramientas cuentan con certificaciones, cumplen normativas o respetan est\u00e1ndares de protecci\u00f3n de datos personales.<\/p>\n<figure id=\"attachment_184525\" aria-describedby=\"caption-attachment-184525\" style=\"width: 1200px\" class=\"wp-caption alignnone\"><img fetchpriority=\"high\" decoding=\"async\" class=\"wp-image-184525 size-full\" src=\"https:\/\/www.itsitio.com\/ar\/wp-content\/uploads\/sites\/2\/2026\/01\/Image_fx-35-e1768852377108.jpg\" alt=\"El shadow AI crece en las empresas mientras las \u00e1reas de seguridad y compliance intentan recuperar visibilidad.\" width=\"1200\" height=\"655\" \/><figcaption id=\"caption-attachment-184525\" class=\"wp-caption-text\">El shadow AI crece en las empresas mientras las \u00e1reas de seguridad y compliance intentan recuperar visibilidad.<\/figcaption><\/figure>\n<h2 data-start=\"2190\" data-end=\"2227\"><span style=\"color: #333399;\">Fuga de datos y riesgos invisibles<\/span><\/h2>\n<p data-start=\"2229\" data-end=\"2579\">Moreira da Cruz ejemplific\u00f3 el problema con una situaci\u00f3n concreta: una asistente que sube el acta de una reuni\u00f3n estrat\u00e9gica a una herramienta de IA para generar un resumen. <em>\u201c\u00bfQu\u00e9 inteligencia artificial est\u00e1 usando? No lo sabemos. Puede ser una plataforma sin ning\u00fan tipo de certificaci\u00f3n o, peor a\u00fan, algo dise\u00f1ado para robar informaci\u00f3n\u201d<\/em>, alert\u00f3.<\/p>\n<p data-start=\"2581\" data-end=\"2894\">El mismo escenario se replica en \u00e1reas como recursos humanos, donde se manejan datos personales. Seg\u00fan explic\u00f3, muchas veces se utilizan plataformas sin saber si cumplen normas de privacidad, protecci\u00f3n de datos o est\u00e1ndares de compliance. <em>\u201cEse desconocimiento es lo que hace que el riesgo sea tan alto\u201d<\/em>, remarc\u00f3.<\/p>\n<h2 data-start=\"2896\" data-end=\"2957\"><span style=\"color: #333399;\">\u00bfSirven las soluciones corporativas como Copilot o Gemini?<\/span><\/h2>\n<p data-start=\"2959\" data-end=\"3307\">Frente a este escenario, muchas empresas optan por soluciones corporativas como Microsoft Copilot o Gemini dentro de Google Workspace. Sin embargo, para Moreira da Cruz, estas herramientas no resuelven el problema por s\u00ed solas.<em> \u201cNo es la bala de plata\u201d<\/em>, afirm\u00f3. Aunque cuentan con certificaciones y auditor\u00edas, <em>\u201ceso no garantiza que no haya fugas\u201d.<\/em><\/p>\n<p data-start=\"3309\" data-end=\"3569\">El factor humano sigue siendo determinante. <em>\u201cEl usuario es muy creativo cuando quiere romper cosas. Construir es dif\u00edcil, romper es f\u00e1cil\u201d<\/em>, sostuvo, citando incluso una frase de Edgar Allan Poe:<em> \u201cNo existe ingenio humano que el ingenio humano no pueda romper\u201d.<\/em><\/p>\n<p data-start=\"3571\" data-end=\"3860\">Aun as\u00ed, destac\u00f3 que la clave est\u00e1 en la configuraci\u00f3n y el gobierno de la IA. <em>\u201cVos pod\u00e9s limitar la base de conocimiento de un agente, definir que solo use documentaci\u00f3n interna y que no salga a internet\u201d<\/em>, explic\u00f3. El desaf\u00edo es que tanto usuarios como empresas todav\u00eda est\u00e1n aprendiendo.<\/p>\n<h2 data-start=\"3862\" data-end=\"3903\"><span style=\"color: #333399;\">Curva de aprendizaje y cambio cultural<\/span><\/h2>\n<p data-start=\"3905\" data-end=\"4218\">Para el ejecutivo, el problema no es solo tecnol\u00f3gico, sino cultural. <em>\u201cEstamos en plena curva de aprendizaje, no solo de los usuarios, sino tambi\u00e9n de las empresas\u201d<\/em>, afirm\u00f3. En ese contexto, mencion\u00f3 la norma ISO\/IEC 42001, el primer est\u00e1ndar internacional para sistemas de gesti\u00f3n de inteligencia artificial.<\/p>\n<p data-start=\"4220\" data-end=\"4616\"><em>\u201cReci\u00e9n en 2023 se lanz\u00f3 este framework y hay muy pocas empresas que lo est\u00e1n evaluando\u201d<\/em>, se\u00f1al\u00f3. La norma aborda principios como \u00e9tica, privacidad y uso responsable de la IA. Para Moreira da Cruz, el foco debe estar en preparar a los profesionales de TI, seguridad y compliance, pero tambi\u00e9n en educar a los usuarios. <em>\u201cHoy el usuario sigue siendo el eslab\u00f3n m\u00e1s d\u00e9bil de la seguridad\u201d<\/em>, insisti\u00f3.<\/p>\n<figure id=\"attachment_182080\" aria-describedby=\"caption-attachment-182080\" style=\"width: 1200px\" class=\"wp-caption alignnone\"><img decoding=\"async\" class=\"wp-image-182080\" src=\"https:\/\/www.itsitio.com\/ar\/wp-content\/uploads\/sites\/2\/2025\/08\/imagen_1200x582-2-1024x497.webp\" alt=\"La suplantaci\u00f3n de identidad se perfila como uno de los riesgos m\u00e1s sensibles del avance de la inteligencia artificial.\" width=\"1200\" height=\"582\" srcset=\"https:\/\/www.itsitio.com\/ar\/wp-content\/uploads\/sites\/2\/2025\/08\/imagen_1200x582-2-1024x497.webp 1024w, https:\/\/www.itsitio.com\/ar\/wp-content\/uploads\/sites\/2\/2025\/08\/imagen_1200x582-2-300x146.webp 300w, https:\/\/www.itsitio.com\/ar\/wp-content\/uploads\/sites\/2\/2025\/08\/imagen_1200x582-2-768x372.webp 768w, https:\/\/www.itsitio.com\/ar\/wp-content\/uploads\/sites\/2\/2025\/08\/imagen_1200x582-2.webp 1200w\" sizes=\"(max-width: 1200px) 100vw, 1200px\" \/><figcaption id=\"caption-attachment-182080\" class=\"wp-caption-text\">La suplantaci\u00f3n de identidad se perfila como uno de los riesgos m\u00e1s sensibles del avance de la inteligencia artificial.<\/figcaption><\/figure>\n<h2 data-start=\"4618\" data-end=\"4674\"><span style=\"color: #333399;\">Suplantaci\u00f3n de identidad y manipulaci\u00f3n de la verdad<\/span><\/h2>\n<p data-start=\"4676\" data-end=\"5017\">M\u00e1s all\u00e1 del \u00e1mbito corporativo, Moreira da Cruz advirti\u00f3 sobre riesgos m\u00e1s amplios asociados a la inteligencia artificial. Uno de ellos es la suplantaci\u00f3n de identidad. <em>\u201cCon audios, im\u00e1genes o videos, se puede hacer pasar por otra persona\u201d<\/em>, explic\u00f3. Si bien hoy los casos todav\u00eda son limitados, considera que el potencial de da\u00f1o es enorme.<\/p>\n<p data-start=\"5019\" data-end=\"5313\">Otro riesgo clave es la manipulaci\u00f3n de la informaci\u00f3n. Cada vez m\u00e1s personas reemplazan los buscadores tradicionales por asistentes de IA para informarse sobre pol\u00edtica, econom\u00eda o actualidad. <em>\u201cHoy hay ataques que consisten en inyectar informaci\u00f3n falsa para crear una nueva realidad\u201d<\/em>, alert\u00f3.<\/p>\n<h2 data-start=\"5315\" data-end=\"5362\"><span style=\"color: #333399;\">IA, geopol\u00edtica y manipulaci\u00f3n a gran escala<\/span><\/h2>\n<p data-start=\"5364\" data-end=\"5712\">Seg\u00fan explic\u00f3, no se trata solo de ciberdelincuentes aislados. <em>\u201cHablo de estados con recursos para manipular informaci\u00f3n a gran escala\u201d<\/em>, afirm\u00f3. No es necesario hackear plataformas como OpenAI o Google: basta con inundar internet de contenido falso o sesgado. <em>\u201cLa IA aprende de lo que recolecta. Si le das basura, te va a devolver basura\u201d<\/em>, resumi\u00f3.<\/p>\n<p data-start=\"5714\" data-end=\"5893\">En ese sentido, sostuvo que <em>\u201cel que tiene m\u00e1s plata puede inyectar m\u00e1s informaci\u00f3n y manipular la verdad\u201d<\/em>, ya que la IA tiende a darle m\u00e1s peso a lo que aparece con mayor volumen.<\/p>\n<h2 data-start=\"5895\" data-end=\"5947\"><span style=\"color: #333399;\">Regulaci\u00f3n, \u00e9tica y el rol humano detr\u00e1s de la IA<\/span><\/h2>\n<p data-start=\"5949\" data-end=\"6308\">Frente a este escenario, Moreira da Cruz destac\u00f3 la importancia de los marcos regulatorios y del uso \u00e9tico de la tecnolog\u00eda, como los impulsados por la Uni\u00f3n Europea. Sin embargo, se mostr\u00f3 esc\u00e9ptico sobre su cumplimiento.<em> \u201cEn Argentina existe la ley de protecci\u00f3n de datos personales y ni el 30% de las empresas tiene registradas sus bases de datos\u201d<\/em>, se\u00f1al\u00f3.<\/p>\n<p data-start=\"6310\" data-end=\"6614\">Tambi\u00e9n puso el foco en las personas que trabajan detr\u00e1s de la IA. <em>\u201cEse es el boom del ma\u00f1ana\u201d<\/em>, afirm\u00f3. Entrenadores de modelos, ingenieros de prompts y especialistas en sesgos ser\u00e1n perfiles cada vez m\u00e1s demandados. <em>\u201cSon los que prueban c\u00f3mo responde la IA y hasta d\u00f3nde se la puede manipular\u201d<\/em>, explic\u00f3.<\/p>\n<h2 data-start=\"6616\" data-end=\"6655\"><span style=\"color: #333399;\">Entre el entusiasmo y la advertencia<\/span><\/h2>\n<p data-start=\"6657\" data-end=\"6991\">A pesar de los riesgos, Moreira da Cruz se muestra entusiasmado con este mundo.<em> \u201cA m\u00ed me divierte\u201d<\/em>, confes\u00f3. Para \u00e9l, la tecnolog\u00eda es solo un medio. <em>\u201cLos malos de la pel\u00edcula siempre somos los seres humanos\u201d<\/em>, sostuvo. Tambi\u00e9n destac\u00f3 los usos positivos de la IA, especialmente en medicina, investigaci\u00f3n y desarrollo de medicamentos.<\/p>\n<p data-start=\"6993\" data-end=\"7369\">Desde Cloud Legion, ya cuentan con casos concretos de implementaci\u00f3n y certificaciones bajo la norma 42001. Sin embargo, reconoce que el uso actual de la IA sigue siendo incipiente.<\/p>\n<p data-start=\"7371\" data-end=\"7683\" data-is-last-node=\"\" data-is-only-node=\"\">Para el ejecutivo, el camino reci\u00e9n empieza. La inteligencia artificial evoluciona, el poder computacional crece y los incidentes ya se acumulan. <em>\u201cEs genial y preocupante al mismo tiempo\u201d<\/em>, concluy\u00f3, en referencia a una tecnolog\u00eda que promete cambiarlo todo, siempre y cuando sepamos c\u00f3mo \u2014y para qu\u00e9\u2014 utilizarla.<\/p>\n<h3 data-start=\"7371\" data-end=\"7683\"><span style=\"color: #333399;\">Leer m\u00e1s<\/span><\/h3>\n<ul>\n<li class=\"elementor-heading-title elementor-size-default\"><a href=\"https:\/\/www.itsitio.com\/ar\/seguridad\/cloud-legion-su-chief-transformation-strategy-officer-recibe-el-premio-microsoft-mvp-en-seguridad-e-ia\/\">Cloud Legion: su Chief Transformation &amp; Strategy Officer recibe el premio Microsoft MVP en seguridad e IA<\/a><\/li>\n<li class=\"elementor-heading-title elementor-size-default\"><a href=\"https:\/\/www.itsitio.com\/ar\/seguridad\/ciberataques-a-la-industria-manufacturera-generan-perdidas-millonarias-y-operaciones-paralizadas\/\">Ciberataques a la industria manufacturera generan p\u00e9rdidas millonarias y operaciones paralizadas<\/a><\/li>\n<li class=\"elementor-heading-title elementor-size-default\"><a href=\"https:\/\/www.itsitio.com\/ar\/seguridad\/latinoamerica-vuelve-a-liderar-los-ciberataques-globales-y-argentina-se-mantiene-entre-los-paises-mas-golpeados\/\">Latinoam\u00e9rica vuelve a liderar los ciberataques globales y Argentina se mantiene entre los pa\u00edses m\u00e1s golpeados<\/a><\/li>\n<\/ul>\n","protected":false},"excerpt":{"rendered":"<p>En su paso por Future Talks, el programa de streaming de ITSitio, Luciano Moreira da Cruz, Chief Transformation and Strategy Officer de Cloud Legion, analiz\u00f3 los riesgos del uso no controlado de la inteligencia artificial en las empresas, alert\u00f3 sobre la fuga de informaci\u00f3n, la manipulaci\u00f3n de la verdad y la suplantaci\u00f3n de identidad, y explic\u00f3 por qu\u00e9 la adopci\u00f3n de la IA exige un cambio cultural, marcos \u00e9ticos claros y una mayor madurez organizacional.<\/p>\n","protected":false},"author":226,"featured_media":184522,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"default","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"set","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[65],"tags":[522,772],"class_list":["post-184521","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial","tag-cloud-legion","tag-future-talks"],"_links":{"self":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts\/184521","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/users\/226"}],"replies":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/comments?post=184521"}],"version-history":[{"count":0,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts\/184521\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/media\/184522"}],"wp:attachment":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/media?parent=184521"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/categories?post=184521"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/tags?post=184521"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}