{"id":176618,"date":"2024-11-11T14:35:51","date_gmt":"2024-11-11T17:35:51","guid":{"rendered":"https:\/\/nuevoitsitio1.wpenginepowered.com\/co\/sin-categoria\/por-que-la-ia-generativa-representa-un-alto-riesgo-para-la-seguridad-informatica-de-las-organizaciones\/"},"modified":"2025-11-21T21:22:36","modified_gmt":"2025-11-22T00:22:36","slug":"por-que-la-ia-generativa-representa-un-alto-riesgo-para-la-seguridad-informatica-de-las-organizaciones","status":"publish","type":"post","link":"https:\/\/www.itsitio.com\/co\/columna-de-opinion\/por-que-la-ia-generativa-representa-un-alto-riesgo-para-la-seguridad-informatica-de-las-organizaciones\/","title":{"rendered":"\u00bfPor qu\u00e9 la IA generativa representa un alto riesgo para la seguridad inform\u00e1tica de las organizaciones?"},"content":{"rendered":"

Por Alejandro Dutto, Director de Ingenier\u00eda de Seguridad para Tenable Am\u00e9rica Latina y Caribe.<\/em><\/strong><\/p>\n

Pocas tecnolog\u00edas a lo largo de la historia despertaron la pasi\u00f3n que produjo la IA generativa en las organizaciones: pr\u00e1cticamente no existe empresa que no la haya probado.<\/p>\n

Seg\u00fan datos recientes de IDC, el 82% de las grandes empresas colombianas incrementar\u00e1 su presupuesto en IA en los pr\u00f3ximos dos a\u00f1os.<\/strong><\/p>\n

Los beneficios potenciales y reales de esta innovaci\u00f3n son numerosos, y van desde una mayor productividad hasta una mejor experiencia de empleados y clientes, pasando por mayores niveles de automatizaci\u00f3n y eficiencia o la aceleraci\u00f3n en el desarrollo de productos, por citar algunos entre los infinitos ejemplos. La contracara: su adopci\u00f3n implica tambi\u00e9n algunos riesgos y peligros.<\/p>\n

La popularidad de la IA generativa<\/a>, por ejemplo, lleva a un uso dentro de las empresas que est\u00e1 literalmente fuera de control. Lejos de centralizarse en el \u00e1rea de IT o de cumplir con criterios de gobernanza preestablecidos, much\u00edsimos usuarios aprovechan las ventajas de esta tecnolog\u00eda en un plano shadow<\/em>, es decir, fuera del conocimiento de la compa\u00f1\u00eda.<\/p>\n

Tenable Research pone este fen\u00f3meno en n\u00fameros: m\u00e1s de un tercio de los equipos de seguridad encontraron aplicaciones de IA en su entorno que no se hab\u00edan aprovisionado mediante un proceso formal.<\/p>\n

M\u00e1s all\u00e1 de la inocencia<\/strong><\/span><\/h2>\n

En la mayor\u00eda de los casos se trata de un uso \u201cinocente\u201d, en el cual un colaborador apela a la IA generativa para resolver alguna tarea cotidiana sin ninguna intenci\u00f3n de generar un perjuicio para la empresa.<\/p>\n

Sin embargo, en la realidad, con cada uno de estos usos no autorizados se est\u00e1 abriendo una puerta llena de riesgos, entre ellos, el creciente volumen de vulnerabilidades que se multiplica casi a diario, desde infracciones y exploits<\/em> hasta la vulneraci\u00f3n de informaci\u00f3n confidencial.<\/p>\n

\"width=\"
Los datos de Tenable Research son concluyentes: es necesario tomar cartas en el asunto y generar una estrategia de gobernanza para repensar el uso de la IA generativa dentro de las organizaciones.<\/figcaption><\/figure>\n

La utilizaci\u00f3n descontrolada de la IA generativa puede incluir tambi\u00e9n fugas de datos, en l\u00edneas generales involuntarios. Particularmente, en el caso de desarrollo de grandes modelos de lenguaje (LLM<\/a>), ya que el aprendizaje incluye informaci\u00f3n cr\u00edtica y aportes -que podr\u00edan contener datos sensibles- brindados por la propia organizaci\u00f3n.<\/p>\n

El delicado equilibrio entre control e innovaci\u00f3n<\/strong><\/span><\/h2>\n

El desaf\u00edo tiene un ingrediente adicional: se debe controlar lo suficiente para minimizar los riesgos, pero no tanto como para bloquear la innovaci\u00f3n. En especial en estos tiempos, en que un desarrollo de IA generativa implementado en tiempo y forma puede convertirse en un diferencial frente a la competencia.<\/p>\n

\u00bfQu\u00e9 se puede hacer desde la estrategia de ciberseguridad para mitigar estos peligros? Por un lado, es imprescindible adoptar procesos y tecnolog\u00edas que proporcionen informaci\u00f3n contextualizada y manejable sobre soluciones de IA no aprobadas o desarrollos de IA en marcha no autorizados que pueden comprometer la seguridad y el cumplimiento de los datos. Por el otro, incluso cuando se trata de las aplicaciones de IA que s\u00ed atravesaron todos los procesos formales, es cr\u00edtico monitorear y detectar nuevas vulnerabilidades.<\/p>\n

La IA generativa representa un fen\u00f3meno tan irrefrenable como parad\u00f3jico. Las empresas que no la adopten podr\u00edan correr en desventaja de cara al futuro, tanto como aquellas que la hagan de manera descuidada, descontrolada e irresponsable.<\/p>\n","protected":false},"excerpt":{"rendered":"

Por Alejandro Dutto, Director de Ingeniería de Seguridad para Tenable América Latina y Caribe. Pocas tecnologías a lo largo de la historia despertaron la pasión que produjo la IA generativa en las organizaciones: prácticamente no existe empresa que no la haya probado. Según datos recientes de IDC, el 82% de las grandes empresas colombianas incrementará su presupuesto en IA en los próximos dos años. Los beneficios potenciales y reales de esta innovación son numerosos, y van desde una mayor productividad hasta una mejor experiencia de empleados y clientes, pasando por mayores niveles de automatización y eficiencia o la aceleración en el desarrollo de productos, por citar algunos entre los infinitos ejemplos. La contracara: su adopción implica también algunos riesgos y peligros. La popularidad de la IA generativa, por ejemplo, lleva a un uso dentro de las empresas que está literalmente fuera de control. Lejos de centralizarse en el área de IT o de cumplir con criterios de gobernanza preestablecidos, muchísimos usuarios aprovechan las ventajas de esta tecnología en un plano shadow, es decir, fuera del conocimiento de la compañía. Tenable Research pone este fenómeno en números: más de un tercio de los equipos de seguridad encontraron aplicaciones de IA en su entorno que no se habían aprovisionado mediante un proceso formal. Más allá de la inocencia En la mayoría de los casos se trata de un uso “inocente”, en el cual un colaborador apela a la IA generativa para resolver alguna tarea cotidiana sin ninguna intención de generar un perjuicio para la empresa. Sin embargo, en la realidad, con cada uno de estos usos no autorizados se está abriendo una puerta llena de riesgos, entre ellos, el creciente volumen de vulnerabilidades que se multiplica casi a diario, desde infracciones y exploits hasta la vulneración de información confidencial. La utilización descontrolada de la IA generativa puede incluir también fugas de datos, en líneas generales involuntarios. Particularmente, en el caso de desarrollo de grandes modelos de lenguaje (LLM), ya que el aprendizaje incluye información crítica y aportes -que podrían contener datos sensibles- brindados por la propia organización. El delicado equilibrio entre control e innovación El desafío tiene un ingrediente adicional: se debe controlar lo suficiente para minimizar los riesgos, pero no tanto como para bloquear la innovación. En especial en estos tiempos, en que un desarrollo de IA generativa implementado en tiempo y forma puede convertirse en un diferencial frente a la competencia. ¿Qué se puede hacer desde la estrategia de ciberseguridad para mitigar estos peligros? Por un lado, es imprescindible adoptar procesos y tecnologías que proporcionen información contextualizada y manejable sobre soluciones de IA no aprobadas o desarrollos de IA en marcha no autorizados que pueden comprometer la seguridad y el cumplimiento de los datos. Por el otro, incluso cuando se trata de las aplicaciones de IA que sí atravesaron todos los procesos formales, es crítico monitorear y detectar nuevas vulnerabilidades. La IA generativa representa un fenómeno tan irrefrenable como paradójico. Las empresas que no la adopten podrían correr en desventaja de cara al futuro, tanto como aquellas que la hagan de manera descuidada, descontrolada e irresponsable.<\/p>\n","protected":false},"author":229,"featured_media":176620,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[33],"tags":[217],"class_list":["post-176618","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-columna-de-opinion","tag-tenable"],"_links":{"self":[{"href":"https:\/\/www.itsitio.com\/co\/wp-json\/wp\/v2\/posts\/176618","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.itsitio.com\/co\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.itsitio.com\/co\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/co\/wp-json\/wp\/v2\/users\/229"}],"replies":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/co\/wp-json\/wp\/v2\/comments?post=176618"}],"version-history":[{"count":0,"href":"https:\/\/www.itsitio.com\/co\/wp-json\/wp\/v2\/posts\/176618\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/co\/wp-json\/wp\/v2\/media\/176620"}],"wp:attachment":[{"href":"https:\/\/www.itsitio.com\/co\/wp-json\/wp\/v2\/media?parent=176618"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.itsitio.com\/co\/wp-json\/wp\/v2\/categories?post=176618"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.itsitio.com\/co\/wp-json\/wp\/v2\/tags?post=176618"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}