Gran parte del debate público sobre la Inteligencia Artificial (IA) y su impacto en la ciberseguridad se concentra casi exclusivamente en los modelos, con propuestas que sugieren que las autoridades centrales deberían gestionar los modelos más avanzados a puerta cerrada o incluso regular estrictamente los modelos open weight. Pero mientras los reguladores de todo el mundo discuten el futuro de los modelos abiertos de IA, una pregunta fundamental queda relegada: ¿cómo protegemos realmente los sistemas de IA?
Desde Red Hat advierten que un agente de IA comprende un stack completo de software. Por lo tanto, protegerlo exige evaluar tanto el modelo principal como el agentic harness, las técnicas de sandboxing, la protección en tiempo de ejecución, los controles de datos y la infraestructura subyacente.
Al respecto, Chris Wright, Chief Technology Officer y Senior Vice President de Global Engineering en Red Hat, afirma: “En ciberseguridad, la transparencia es clave para construir sistemas seguros. Limitar la investigación a unos pocos modelos propietarios genera un riesgo sistémico concentrado. Los defensores necesitan examinar modelos abiertos enfocados en la defensa para no quedar desprotegidos ante los vectores de ataque. El acceso a modelos open weight permite desarrollar mitigaciones efectivas y facilita el escrutinio científico para corregir vulnerabilidades ocultas.”
La historia de la tecnología demuestra que proteger la IA mediante barreras cerradas y propietarias solo traslada el riesgo. Del mismo modo que existieron dudas iniciales sobre la confiabilidad empresarial de Linux y el open source —que con el tiempo se convirtieron en el motor de la infraestructura global de TI—, hoy se enfrenta una resistencia similar. La transparencia junto con los modelos, agentic harnesses y sandboxing open source consolidarán la base más segura para el futuro de la computación. Un ejemplo reciente en Hugging Face demostró esta dinámica, donde las soluciones a incidentes provinieron de modelos open weight y no de sistemas propietarios. En esa línea, Red Hat respaldó la carta abierta de Microsoft sobre Open Weights y el liderazgo en IA de EE. UU., reafirmando que el acceso abierto fortalece la seguridad en todo el ciclo de vida del software.
Avances en protección mediante el aprendizaje compartido
Para satisfacer la creciente necesidad de una IA segura, Red Hat continúa colaborando con la comunidad. Recientemente, como parte de la Open Secure AI Alliance, la compañía colaboró con NVIDIA, la Linux Foundation y otros miembros en el desarrollo de una Solicitud de Comentarios (RFC) para el Grupo de Trabajo Shared AI Findings Exchange (SAFE).
Mientras que tradicionalmente los equipos de TI investigaban los incidentes de seguridad de forma aislada e interna, las directrices de SAFE proponen un marco neutral para recopilar, analizar y compartir de manera confidencial los hallazgos derivados de fallas operativas en sistemas de IA, sin atribuir culpas.
A través de esta colaboración abierta, todo el ecosistema logra beneficiarse: las herramientas evolucionan con mayor rapidez, las capacidades de defensa se fortalecen y las infraestructuras críticas quedan mejor protegidas frente a ataques del mundo real.
La propuesta completa de la RFC de SAFE ya está disponible en GitHub para su revisión, discusión y aportes de la comunidad.
Leer más
- LOL Security AI Forum: ciberseguridad e inteligencia artificial frente a un nuevo escenario de amenazas
- El 63% de las alertas de ciberseguridad de una empresa nunca se revisa
- Licencias OnLine Argentina potencia el negocio de sus partners con una propuesta integral de ciberseguridad
