El avance de la inteligencia artificial como motor de productividad en América Latina trae consigo desafíos críticos en materia de ciberseguridad. Según alertó Claudio Martinelli, director general para las Américas en Kaspersky, el uso de datos internos, informes sensibles o documentos oficiales en plataformas de IA Generativa puede derivar en filtraciones de información confidencial, aumentando la exposición de empresas e instituciones frente al cibercrimen. Martinelli advirtió que este uso incluso podría desencadenar una fuga masiva de información.
Hoy, los equipos de seguridad enfrentan no solo la presión de proteger las redes corporativas ante los 467.000 objetos maliciosos detectados diariamente, sino también la realidad de que los empleados, para ahorrar tiempo en sus tareas, alimentan estas plataformas con reportes confidenciales, bases de datos o documentos. Al hacerlo, comparten información en plataformas públicas que no garantizan ni la protección ni la privacidad de los datos.
“Actualmente, el temor de las empresas también está relacionado con el uso que algunos empleados hacen de plataformas de IA Generativa, compartiendo en ellas datos confidenciales, es decir, usan inteligencia artificial sin inteligencia humana. No se trata de delegar todo a una herramienta, sino de entender los riesgos, cuidar la confidencialidad y entrenar a los empleados para que sepan cómo usar la IA”, destacó Claudio Martinelli.
Recientemente, se ha detectado que los sistemas de IA Generativa pueden indexar las conversaciones con los usuarios en algunos buscadores web, dejando expuestos chats de personas sobre temas íntimos como su vida privada o salud mental. Esto también abre la posibilidad de que las consultas de los empleados con información sensible de una empresa queden registradas y expuestas.
Para un desarrollo y despliegue seguro de los sistemas de Inteligencia Artificial
-
Capacitar a los empleados en ciberseguridad: Es fundamental que todos los colaboradores reciban formación continua en seguridad digital. Existen herramientas diseñadas para desarrollar habilidades en empleados de todos los niveles.
-
Efectuar un modelado de amenazas y evaluación de riesgos: Antes de implementar soluciones de IA, se recomienda identificar posibles escenarios de ataque y medir su impacto para anticipar incidentes. Kaspersky Threat Intelligence ofrece información actualizada sobre amenazas emergentes.
-
Contar con seguridad de la infraestructura y la nube: Configuraciones seguras y monitoreo constante evitan que vulnerabilidades técnicas sean aprovechadas por actores maliciosos.
-
Asegurar la cadena de suministro: Las empresas deben garantizar que sus proveedores cumplan con altos estándares de ciberseguridad; un eslabón débil puede poner en riesgo información sensible y afectar la continuidad del negocio.
-
Realizar pruebas y validación de los sistemas: Todo modelo o aplicación de IA debe someterse a evaluaciones periódicas para verificar su funcionamiento y confiabilidad.
-
Llevar a cabo reportes de vulnerabilidades periódicos: Contar con mecanismos transparentes para notificar y gestionar fallas permite corregirlas rápidamente.
-
Defenderse de ataques específicos a modelos de aprendizaje automático: Implementar medidas de protección especializadas es esencial para garantizar la integridad de estos modelos.
-
Asegurar actualizaciones: Mantener el software y la infraestructura al día con parches de seguridad es una práctica básica pero crucial para evitar incidentes.
-
Cumplir con estándares internacionales: Adoptar marcos normativos globales de ciberseguridad y protección de datos garantiza legalidad y brinda confianza a clientes, socios e inversionistas.
Para más consejos de ciberseguridad, visita nuestro blog.
Leer mas
- OpenAI lanza Pulse en ChatGPT Pro: así funciona el nuevo asistente de IA que anticipa tu día
- Japón pone a una inteligencia artificial al frente de un partido político
- Zoom lanza su clon digital: así funciona la nueva función con avatares de IA para videollamadas
