Tener una sólida base de datos y capacidades de gobernanza son clave para que las empresas implementen la IA agéntica de forma segura

A medida que se acelera la adopción de IA y a su vez las ciberamenazas, casi 8 de cada 10 líderes de IT, reconocen que sus prácticas de seguridad necesitan una transformación. Los últimos datos de Salesforce sobre el estado de IT también revela un optimismo unánime sobre los agentes de IA, ya que el 100 % de los líderes de seguridad identifican al menos un problema de seguridad que podría mejorarse gracias a la aplicación de los mismos.

Sin embargo, a pesar de estas esperanzas, la encuesta mundial realizada a más de 2.000 responsables de seguridad informática empresarial pone de manifiesto los importantes retos que plantea su implantación. A casi la mitad (48%) le preocupa que su base de datos no esté preparada para sacar el máximo partido de la IA agéntica, y más de la mitad (55%) no confía plenamente en disponer de las barreras de seguridad adecuadas para desplegar agentes de IA.

Por qué es importante

Tanto los profesionales encargados de proteger los datos y sistemas de una empresa como aquellos malintencionados que buscan explotar las vulnerabilidades están incorporando cada vez más IA a sus herramientas. Los agentes autónomos de IA, que ayudan a los equipos de seguridad a reducir el trabajo manual, pueden liberar tiempo de los trabajadores para la resolución de problemas más complejos. Sin embargo, las implantaciones de IA mediante agentes requieren una infraestructura de datos y una gobernanza sólida para tener éxito.

Perspectiva de Salesforce: «Los agentes de IA de confianza se basan en datos de confianza. Los equipos de seguridad de IT que dan prioridad a la gobernanza de datos podrán aumentar sus capacidades de seguridad con agentes al tiempo que protegen los datos y cumplen normativas», afirma Alice Steinglass, vicepresidenta ejecutiva y directora general de Salesforce Platform, Integration and Automation.

Los presupuestos de seguridad aumentan a medida que evolucionan las amenazas

Además de los riesgos ya conocidos, como las amenazas a la seguridad en la nube, el malware y los ataques de suplantación de identidad, los responsables de IT citan ahora entre sus principales preocupaciones el envenenamiento de datos, en el que agentes maliciosos ponen en peligro los conjuntos de datos de entrenamiento de IA. Los recursos están aumentando en respuesta: el 75% de las organizaciones espera aumentar los presupuestos de seguridad durante el próximo año.

Los complejos entornos normativos dificultan la aplicación de IA

Aunque cuatro quintas partes de los responsables de seguridad informática creen que los agentes de IA ofrecen oportunidades de cumplimiento, como la mejora de la adhesión a las leyes de privacidad globales. Casi el mismo número (79%), afirma que también presentan retos. Esto puede deberse en parte a un entorno normativo cada vez más complejo y cambiante en todas las zonas geográficas y sectores, ya que existen obstáculos en los procesos, que siguen siendo en gran medida no automatizados y propensos a errores.

• Solo el 47% confía plenamente en que puede desplegar agentes de IA de conformidad con las normativas y reglamentos.
• El 83% de las organizaciones afirma que no ha automatizado completamente sus procesos de cumplimiento.

La confianza es la piedra angular del éxito de la IA, pero aún es incipiente

Según un reciente estudio a los consumidores, la confianza en las empresas está en declive, y tres quintas partes (60%) están de acuerdo en que los avances en IA hacen que la fiabilidad de una empresa sea más crítica. Además, solo el 42% de los consumidores confía en que las empresas utilicen la IA de forma ética, un descenso desde el 58% en 2023. Los líderes de IT ven complicado ganarse esta necesaria confianza.

• El 57% no confía plenamente en la precisión o explicabilidad de sus resultados de IA.
• El 60% no ofrece total transparencia sobre cómo se utilizan los datos de sus clientes con IA.
• El 59% no ha perfeccionado sus directrices éticas para el uso de IA.

El gobierno de los datos es un elemento clave en la evolución ágil de las empresas

Casi la mitad de los responsables de seguridad informática no están seguros de disponer de datos de calidad para respaldar a los agentes, o de poder implantar la tecnología con los permisos, políticas y barreras de seguridad adecuadas, pero hay progreso. Una encuesta reciente entre directores de sistemas de información reveló que se asignaba cuatro veces más presupuesto a la infraestructura y gestión de datos que a la IA, una señal de que las organizaciones estaban sentando inteligentemente las bases adecuadas para una implantación más amplia.

Los agentes de IA son un bálsamo para la adopción de la tecnología

Según la investigación State of IT, más del 40% de los equipos de seguridad informática ya utilizan agentes en sus operaciones cotidianas, una cifra que se prevé casi duplique en los próximos dos años. Los responsables de la seguridad informática esperan obtener una serie de beneficios a medida que aumente el uso de agentes, que van desde la detección de amenazas hasta sofisticadas auditorías del rendimiento de los modelos de IA. Tres cuartas partes (75%) esperan utilizar agentes de IA en un plazo de dos años, frente al 41% actual.

Revisión táctica en marcha

Además de los pasos que estos equipos deben dar para fortalecer sus bases de datos en la era de la inteligencia artificial, más de la mitad admiten que tienen trabajo por hacer para poner al día sus prácticas generales de seguridad y cumplimiento. El 47% cree que sus prácticas de seguridad y cumplimiento están totalmente preparadas para el desarrollo y la implantación de agentes de IA.

Leer más

• Flow y Veo 3: Google revoluciona la creación cinematográfica con inteligencia artificial
• Red Hat, Meta y Google colaboran para impulsar la IA open source para el sector corporativo
• ¿Cómo aprovechar ChatGPT para el análisis de datos? Consejos prácticos de un experto