Del “Shadow AI” a la responsabilidad compartida: claves para adoptar IA de forma segura

A medida que la inteligencia artificial se integra en el 96% de las empresas, los ciberdelincuentes reducen los tiempos de ataque de días a minutos. Expertos analizan cómo el "Shadow AI", la responsabilidad compartida y la automatización de amenazas obligan a redefinir la defensa corporativa desde el diseño hasta la gobernanza.
La adopción de la inteligencia artificial en el ámbito corporativo registra un ritmo inédito.
La adopción de la inteligencia artificial en el ámbito corporativo registra un ritmo inédito.
Compartir nota:

La adopción de la inteligencia artificial en el ámbito corporativo registra un ritmo inédito. Mientras a la telefonía móvil le tomó 16 años alcanzar 250 millones de usuarios y a internet 23, la IA necesitó solo 7. Esta aceleración lleva a que el 96% de las empresas planifique o ejecute proyectos de IA en los próximos doce meses, atraídas por ganancias inmediatas en efectividad y automatización.

Sin embargo, este despliegue abre una superficie de ataque que el cibercrimen explota de forma sistemática. En la IA, el impacto directo se refleja en la drástica reducción del tiempo necesario para perpetrar un ataque.

“La historia nos ha enseñado que cada vez que hay una tecnología disruptiva que impacta a todo el planeta y repercute en los procesos diarios de las personas, ese avance viene acompañado de nuevos componentes de riesgo. Y los ciberdelincuentes han evolucionado también la forma en la que nos atacan”, explica Herik Soto, Presales Engineer Regional de Palo Alto Networks en Licencias OnLine.

Las métricas muestran una contracción crítica en los tiempos de respuesta:
• Ransomware: hace cuatro años, cifrar datos tomaba 12 horas. Hoy se logra en 3 horas, y para 2027 se proyectan ataques en menos de 15 minutos.
• Filtración de datos: las campañas de exfiltración, que antes demandaban 9 días, hoy se concretan en apenas 20 minutos.
• Explotación de vulnerabilidades: la brecha en una infraestructura toma hoy 60 minutos o menos desde su descubrimiento.

Esta aceleración exige que los modelos defensivos manuales migren hacia sistemas automatizados capaces de operar a velocidad de máquina.

El dilema del “Shadow AI” y la ilusión de la responsabilidad compartida

Un riesgo crítico proviene del uso no regulado de herramientas inteligentes. Más del 50% de los empleados admite utilizar motores de IA generativa sin los controles de seguridad de sus departamentos de TI.

Este comportamiento da origen al Shadow AI (inteligencia artificial en las sombras), donde la falta de trazabilidad convierte a cada usuario en un punto de fuga de datos. Al cargar datos financieros o código en plataformas públicas, la información se integra en los conjuntos de entrenamiento (datasets) de los proveedores, perdiendo la privacidad corporativa.

Soto pone énfasis en la gravedad de este escenario: “Más del 50% de los empleados dentro de las organizaciones utilizan herramientas de inteligencia artificial sin permiso ni ningún tipo de control. Esto es lo que llamamos Shadow AI o la inteligencia artificial detrás de las sombras: la incapacidad que tienen las empresas de saber qué tipo de herramientas están utilizando sus colaboradores, para qué las emplean y con qué tipo de datos alimentan esos motores”.

A esto se suma que más del 80% de los modelos públicos son sensibles a manipulación como jailbreaking, y en el cibercrimen circulan más de 100 modelos maliciosos bajo el esquema de “IA como Servicio”.

El problema se profundiza por una mala concepción de la responsabilidad. Muchas empresas asumen que la protección es tarea exclusiva del proveedor. Sin embargo, los marcos internacionales señalan que la mayoría de los controles, gobernanza de datos, identidades, accesos y prevención de fugas, recae sobre la empresa consumidora.

“Al igual que ocurrió en su momento con el modelo de responsabilidad compartida en la nube, hoy muchas empresas no tienen total certeza de hasta dónde llega la responsabilidad del proveedor de IA y dónde empieza la suya”, señala Soto. “La matriz demuestra que la gran mayoría de los controles de seguridad en una plataforma de inteligencia artificial es responsabilidad directa de la organización. Si la empresa no coloca los controles desde el diseño, todo el modelo de protección colapsa”.

Herik Soto, Presales Engineer Regional de Palo Alto Networks en Licencias OnLine.
Herik Soto, Presales Engineer Regional de Palo Alto Networks en Licencias OnLine.

El ciclo de madurez y el escudo técnico frente a la amenaza autónoma

Para responder a esta complejidad, las empresas transitan un ciclo de adopción en cuatro etapas: consumo de IA externa, construcción de IA propia, agentes autónomos y escalamiento industrial.

Frente a este avance, la respuesta técnica incluye iniciativas globales como el Proyecto Glasswing, liderado por Anthropic y Palo Alto Networks. Esta alianza surgió tras descubrir que modelos de evaluación avanzada (como Mythos) detectaban vulnerabilidades complejas en cadena, uniendo esfuerzos para diseñar controles proactivos.

A nivel de arquitectura, la estrategia defensiva abarca tres ejes: asegurar el uso y desarrollo de IA, defender la infraestructura con IA de precisión (Precision AI) y simplificar operaciones con agentes resolutivos de respuesta automática.

Las soluciones avanzadas abordan estos frentes con herramientas integradas:
• Visibilidad y control (AI Access Security): inspecciona el tráfico para identificar aplicaciones de IA y aplicar políticas de DLP.
• Navegación segura (Prisma Browser): aplica controles en el navegador, bloqueando extensiones no autorizadas.
• Seguridad en desarrollos propios (Prisma AIRS): inventaria modelos, gestiona la postura de agentes (Agent Posture Management) y protege en tiempo de ejecución.
• Protección de endpoints y agentes (Cortex Agentic Endpoint Security / Cortex XDR): supervisa procesos e identidades sintéticas en los dispositivos.

“Existe un principio fundamental en la ciberseguridad que se mantiene vigente a pesar de cualquier avance tecnológico: no puedo controlar lo que no puedo ver”, plantea Soto. “El punto de partida de toda estrategia debe ser ganar visibilidad sobre los usuarios, los modelos y la información que se expone. A partir de esa visibilidad, es posible aplicar controles progresivos que resguarden los activos críticos sin frenar la innovación del negocio”.

Regulaciones y gobernanza: el marco estratégico para una adopción segura

La velocidad de la IA genera el denominado “flujo inverso”: la tecnología ya está en uso antes de que la dirección planifique el presupuesto e infraestructura. Para corregir este desfasaje, las organizaciones deben alinear su estrategia con los marcos normativos internacionales.

Existen más de 55 regulaciones globales estructuradas en cuatro dominios clave:
1. Dominio Legal y Regulatorio: privacidad de datos, propiedad intelectual y cumplimiento.
2. Gobernanza y Gestión de IA: políticas corporativas y evaluación de impacto.
3. Controles de Ciberseguridad: barreras técnicas para proteger modelos, datasets y APIs.
4. Gestión de Amenazas: protocolos para contener ataques en tiempo real.

Entre los estándares más reconocidos destacan la norma ISO/IEC 42001 (gestión de IA), el marco NIST AI Risk Management Framework y el catálogo OWASP Top 10 para LLMs.

La adopción segura de la IA depende de una gobernanza integral que involucre a los líderes de negocios, legal y TI. Solo así las empresas lograrán aprovechar el poder transformador de la IA de forma rentable, responsable y protegida ante las amenazas del futuro.

Compartir nota:

Publicaciones Relacionadas

Publicaciones Relacionadas

Scroll to Top