{"id":196916,"date":"2026-10-05T15:49:59","date_gmt":"2026-10-05T18:49:59","guid":{"rendered":"https:\/\/www.itsitio.com\/mx\/?p=196916"},"modified":"2026-10-05T15:49:59","modified_gmt":"2026-10-05T18:49:59","slug":"seguridad-desde-el-diseno-nuevo-estandar-para-la-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/www.itsitio.com\/mx\/columna-de-opinion\/seguridad-desde-el-diseno-nuevo-estandar-para-la-inteligencia-artificial\/","title":{"rendered":"Seguridad desde el dise\u00f1o: nuevo est\u00e1ndar para la Inteligencia Artificial"},"content":{"rendered":"

Por: Edgar Flores, Cyber Threat Intelligence Manager en T-Systems M\u00e9xico<\/strong><\/em><\/p>\n

Vivimos un momento en el que la conversaci\u00f3n sobre Inteligencia Artificial suele centrarse en una sola pregunta: \u00bfqu\u00e9 m\u00e1s podemos hacer con esta tecnolog\u00eda? Sin embargo, creo que estamos dejando de lado un tema a\u00fan m\u00e1s importante: \u00bfc\u00f3mo garantizamos que todo lo que construimos con IA sea confiable desde el primer d\u00eda?<\/span><\/p>\n

La velocidad con la que las organizaciones est\u00e1n incorporando capacidades de IA es impresionante. Los beneficios son evidentes: mayor productividad, automatizaci\u00f3n de procesos, mejores decisiones y nuevas oportunidades de negocio. Pero la innovaci\u00f3n pierde valor cuando no puede sostenerse sobre una base de confianza.<\/span><\/p>\n

Hoy, la ciberseguridad ya no puede ser un requisito que se agrega al final de un proyecto. Debe convertirse en el punto de partida.<\/span><\/p>\n

De acuerdo con el estudio <\/span>Digital Trust Insights 2026<\/span><\/i> de PwC, el 69% de las organizaciones en M\u00e9xico identifica el malware potenciado por Inteligencia Artificial como su principal preocupaci\u00f3n. Al mismo tiempo, las empresas est\u00e1n utilizando la propia IA para fortalecer su postura de seguridad: 63% ya la emplea en actividades de b\u00fasqueda proactiva de amenazas y 44% en evaluaciones de vulnerabilidades.<\/span><\/p>\n

La paradoja es evidente. Mientras confiamos cada vez m\u00e1s en la IA para proteger nuestros entornos, todav\u00eda no hacemos lo suficiente para proteger a la propia IA.<\/span><\/p>\n

M\u00e1s preocupante a\u00fan es que \u00fanicamente el 37% de las organizaciones mexicanas afirma haber implementado pr\u00e1cticas de IA responsable dentro de su estrategia de ciberseguridad. Esto significa que una parte importante del mercado contin\u00faa avanzando en la adopci\u00f3n tecnol\u00f3gica sin desarrollar, al mismo ritmo, los mecanismos de gobierno, control y protecci\u00f3n que esa adopci\u00f3n exige.<\/span><\/p>\n

Con frecuencia pensamos que proteger un sistema de IA consiste \u00fanicamente en asegurar el modelo. En realidad, la seguridad depende de mucho m\u00e1s. Depende de la calidad e integridad de los datos con los que aprende, del software que lo soporta, de la infraestructura donde opera y, sobre todo, de las personas que tienen acceso a \u00e9l. Basta una credencial comprometida, una configuraci\u00f3n incorrecta o un conjunto de datos manipulado para convertir una herramienta dise\u00f1ada para generar eficiencia en una fuente de riesgo para toda la organizaci\u00f3n.<\/span><\/p>\n

La Inteligencia Artificial introduce adem\u00e1s nuevos vectores de ataque que hace apenas unos a\u00f1os no figuraban en las estrategias tradicionales de ciberseguridad. El <\/span>data poisoning<\/span><\/i>, por ejemplo, permite alterar los datos de entrenamiento para inducir respuestas incorrectas o decisiones sesgadas. Los ataques de <\/span>prompt injection<\/span><\/i> buscan manipular asistentes inteligentes para revelar informaci\u00f3n sensible o ignorar controles de seguridad. A ello se suman riesgos ya conocidos, como accesos no autorizados, credenciales d\u00e9biles o la creciente superficie de ataque que generan las m\u00faltiples API, plataformas en la nube y servicios de terceros que alimentan los ecosistemas de IA.<\/span><\/p>\n

Estos desaf\u00edos no se resuelven instalando una herramienta adicional cuando el proyecto ya est\u00e1 en producci\u00f3n. La seguridad siempre resulta m\u00e1s sencilla, menos costosa y m\u00e1s efectiva cuando forma parte del dise\u00f1o inicial. Corregir vulnerabilidades despu\u00e9s del despliegue suele implicar redise\u00f1ar componentes completos, incrementar costos y retrasar la entrega de valor al negocio.<\/span><\/p>\n

No es casualidad que el National Institute of Standards and Technology (NIST) recomiende integrar la gesti\u00f3n del riesgo y la seguridad como parte inherente del ciclo de desarrollo de sistemas de IA, y no como un proceso independiente. Incorporar controles desde la concepci\u00f3n del proyecto permite identificar debilidades antes de que se conviertan en incidentes.<\/span><\/p>\n

Esto implica pensar en seguridad desde las primeras decisiones: qui\u00e9n tendr\u00e1 acceso a los datos, c\u00f3mo se proteger\u00e1 la informaci\u00f3n sensible, qu\u00e9 mecanismos de autenticaci\u00f3n ser\u00e1n necesarios, c\u00f3mo se cifrar\u00e1n los datos, qu\u00e9 monitoreo continuo existir\u00e1 y c\u00f3mo responder\u00e1 la organizaci\u00f3n ante un incidente espec\u00edfico relacionado con IA.<\/span><\/p>\n

Tambi\u00e9n exige reconocer que la tecnolog\u00eda, por s\u00ed sola, nunca ser\u00e1 suficiente. La protecci\u00f3n de los datos requiere validar sus fuentes, eliminar informaci\u00f3n corrupta o duplicada y resguardar adecuadamente los datos sensibles. Las aplicaciones deben someterse peri\u00f3dicamente a pruebas de vulnerabilidades y ejercicios de penetraci\u00f3n. Los colaboradores necesitan capacitaci\u00f3n constante para identificar intentos de fraude o ataques de ingenier\u00eda social, que siguen siendo una de las principales puertas de entrada para los ciberdelincuentes. Y, por supuesto, toda organizaci\u00f3n deber\u00eda contar con un plan espec\u00edfico de respuesta a incidentes que contemple escenarios asociados a sistemas de Inteligencia Artificial.<\/span><\/p>\n

Con demasiada frecuencia escuchamos que la seguridad puede ralentizar la innovaci\u00f3n. Mi experiencia me dice exactamente lo contrario. La seguridad bien dise\u00f1ada acelera la innovaci\u00f3n porque genera confianza. Permite que las organizaciones desplieguen nuevas soluciones con mayor certeza, reduzcan riesgos regulatorios, protejan la informaci\u00f3n cr\u00edtica y eviten costosas correcciones en etapas posteriores.<\/span><\/p>\n

La carrera por desarrollar soluciones de IA continuar\u00e1 aceler\u00e1ndose, y eso es positivo. El verdadero reto consiste en no confundir velocidad con madurez tecnol\u00f3gica. Innovar responsablemente significa construir sistemas que sean inteligentes, \u00fatiles y, al mismo tiempo, resilientes frente a un entorno de amenazas cada vez m\u00e1s sofisticado.<\/span><\/p>\n

La Inteligencia Artificial ser\u00e1 uno de los pilares de la competitividad empresarial durante los pr\u00f3ximos a\u00f1os. Pero su verdadero potencial depender\u00e1 de la confianza que inspire. Y esa confianza no se instala mediante una actualizaci\u00f3n de software ni se compra con una nueva herramienta de protecci\u00f3n. Se dise\u00f1a desde el primer d\u00eda. Porque, en materia de IA, la ciberseguridad no debe ser el \u00faltimo paso del proyecto. Debe ser el primero.<\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Por: Edgar Flores, Cyber Threat Intelligence Manager en T-Systems México Vivimos un momento en el que la conversación sobre Inteligencia Artificial suele centrarse en una sola pregunta: ¿qué más podemos hacer con esta tecnología? Sin embargo, creo que estamos dejando de lado un tema aún más importante: ¿cómo garantizamos que todo lo que construimos con IA sea confiable desde el primer día? La velocidad con la que las organizaciones están incorporando capacidades de IA es impresionante. Los beneficios son evidentes: mayor productividad, automatización de procesos, mejores decisiones y nuevas oportunidades de negocio. Pero la innovación pierde valor cuando no puede sostenerse sobre una base de confianza. Hoy, la ciberseguridad ya no puede ser un requisito que se agrega al final de un proyecto. Debe convertirse en el punto de partida. De acuerdo con el estudio Digital Trust Insights 2026 de PwC, el 69% de las organizaciones en México identifica el malware potenciado por Inteligencia Artificial como su principal preocupación. Al mismo tiempo, las empresas están utilizando la propia IA para fortalecer su postura de seguridad: 63% ya la emplea en actividades de búsqueda proactiva de amenazas y 44% en evaluaciones de vulnerabilidades. La paradoja es evidente. Mientras confiamos cada vez más en la IA para proteger nuestros entornos, todavía no hacemos lo suficiente para proteger a la propia IA. Más preocupante aún es que únicamente el 37% de las organizaciones mexicanas afirma haber implementado prácticas de IA responsable dentro de su estrategia de ciberseguridad. Esto significa que una parte importante del mercado continúa avanzando en la adopción tecnológica sin desarrollar, al mismo ritmo, los mecanismos de gobierno, control y protección que esa adopción exige. Con frecuencia pensamos que proteger un sistema de IA consiste únicamente en asegurar el modelo. En realidad, la seguridad depende de mucho más. Depende de la calidad e integridad de los datos con los que aprende, del software que lo soporta, de la infraestructura donde opera y, sobre todo, de las personas que tienen acceso a él. Basta una credencial comprometida, una configuración incorrecta o un conjunto de datos manipulado para convertir una herramienta diseñada para generar eficiencia en una fuente de riesgo para toda la organización. La Inteligencia Artificial introduce además nuevos vectores de ataque que hace apenas unos años no figuraban en las estrategias tradicionales de ciberseguridad. El data poisoning, por ejemplo, permite alterar los datos de entrenamiento para inducir respuestas incorrectas o decisiones sesgadas. Los ataques de prompt injection buscan manipular asistentes inteligentes para revelar información sensible o ignorar controles de seguridad. A ello se suman riesgos ya conocidos, como accesos no autorizados, credenciales débiles o la creciente superficie de ataque que generan las múltiples API, plataformas en la nube y servicios de terceros que alimentan los ecosistemas de IA. Estos desafíos no se resuelven instalando una herramienta adicional cuando el proyecto ya está en producción. La seguridad siempre resulta más sencilla, menos costosa y más efectiva cuando forma parte del diseño inicial. Corregir vulnerabilidades después del despliegue suele implicar rediseñar componentes completos, incrementar costos y retrasar la entrega de valor al negocio. No es casualidad que el National Institute of Standards and Technology (NIST) recomiende integrar la gestión del riesgo y la seguridad como parte inherente del ciclo de desarrollo de sistemas de IA, y no como un proceso independiente. Incorporar controles desde la concepción del proyecto permite identificar debilidades antes de que se conviertan en incidentes. Esto implica pensar en seguridad desde las primeras decisiones: quién tendrá acceso a los datos, cómo se protegerá la información sensible, qué mecanismos de autenticación serán necesarios, cómo se cifrarán los datos, qué monitoreo continuo existirá y cómo responderá la organización ante un incidente específico relacionado con IA. También exige reconocer que la tecnología, por sí sola, nunca será suficiente. La protección de los datos requiere validar sus fuentes, eliminar información corrupta o duplicada y resguardar adecuadamente los datos sensibles. Las aplicaciones deben someterse periódicamente a pruebas de vulnerabilidades y ejercicios de penetración. Los colaboradores necesitan capacitación constante para identificar intentos de fraude o ataques de ingeniería social, que siguen siendo una de las principales puertas de entrada para los ciberdelincuentes. Y, por supuesto, toda organización debería contar con un plan específico de respuesta a incidentes que contemple escenarios asociados a sistemas de Inteligencia Artificial. Con demasiada frecuencia escuchamos que la seguridad puede ralentizar la innovación. Mi experiencia me dice exactamente lo contrario. La seguridad bien diseñada acelera la innovación porque genera confianza. Permite que las organizaciones desplieguen nuevas soluciones con mayor certeza, reduzcan riesgos regulatorios, protejan la información crítica y eviten costosas correcciones en etapas posteriores. La carrera por desarrollar soluciones de IA continuará acelerándose, y eso es positivo. El verdadero reto consiste en no confundir velocidad con madurez tecnológica. Innovar responsablemente significa construir sistemas que sean inteligentes, útiles y, al mismo tiempo, resilientes frente a un entorno de amenazas cada vez más sofisticado. La Inteligencia Artificial será uno de los pilares de la competitividad empresarial durante los próximos años. Pero su verdadero potencial dependerá de la confianza que inspire. Y esa confianza no se instala mediante una actualización de software ni se compra con una nueva herramienta de protección. Se diseña desde el primer día. Porque, en materia de IA, la ciberseguridad no debe ser el último paso del proyecto. Debe ser el primero.<\/p>\n","protected":false},"author":229,"featured_media":196917,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"default","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"set","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[25],"tags":[600],"class_list":["post-196916","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-columna-de-opinion","tag-tsystems"],"_links":{"self":[{"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/posts\/196916","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/users\/229"}],"replies":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/comments?post=196916"}],"version-history":[{"count":1,"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/posts\/196916\/revisions"}],"predecessor-version":[{"id":196919,"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/posts\/196916\/revisions\/196919"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/media\/196917"}],"wp:attachment":[{"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/media?parent=196916"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/categories?post=196916"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.itsitio.com\/mx\/wp-json\/wp\/v2\/tags?post=196916"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}