Uno de los mejores hackers del mundo es una IA: el auge de la ciberseguridad automatizada
Investigadores de UC Berkeley revelan que modelos avanzados de inteligencia artificial ya pueden detectar vulnerabilidades críticas de día cero. Aunque prometedora, la tecnología aún no reemplaza la experiencia humana.
En un hallazgo que marca un antes y un después en el mundo de la ciberseguridad, un equipo de investigadores de la Universidad de California en Berkeley reveló que herramientas de inteligencia artificial (IA) ya son capaces de detectar vulnerabilidades críticas en grandes bases de código. Utilizando el punto de referencia CyberGym, los expertos lograron que distintos modelos de IA identifiquen 17 fallos de seguridad, incluidos 15 errores de “día cero” que hasta el momento no habían sido reportados.
Entre estas tecnologías destaca Xbow, una herramienta desarrollada por una startup homónima que se ha ubicado en la cima del ranking de detección de errores de HackerOne, una de las plataformas de bug bounty más reconocidas del mundo. Esta IA no solo ha demostrado ser efectiva, sino también valiosa: la empresa acaba de cerrar una ronda de financiamiento por 75 millones de dólares.
“La combinación de habilidades de codificación avanzada y razonamiento automatizado está comenzando a cambiar el panorama de la ciberseguridad”, explica Dawn Song, profesora de UC Berkeley y líder de la investigación. Según su equipo, de haberse asignado más tiempo y recursos, los resultados podrían haber sido aún más impresionantes.
Los investigadores probaron modelos desarrollados por OpenAI, Google, Anthropic, Meta, DeepSeek y Alibaba, entre otros, y los combinaron con agentes como OpenHands, Cybench y EnIGMA. A partir de descripciones de vulnerabilidades conocidas en 188 proyectos de código abierto, los sistemas no solo reprodujeron los fallos existentes, sino que descubrieron nuevas debilidades, generando cientos de exploits de prueba de concepto en el proceso.
Sin embargo, a pesar de los avances, los especialistas coinciden en que la IA todavía no puede reemplazar por completo a los expertos humanos. Según Katie Moussouris, CEO de Luta Security, la mejor combinación de modelo y agente logró identificar solo un 2% del total de fallas presentes. “No sustituyas todavía a tus cazadores de bugs humanos”, advierte la especialista.
La investigación también arroja una advertencia: el creciente poder de la IA podría beneficiar a atacantes tanto como a defensores. Hayden Smith, cofundador de Hunted Labs, señala que el aumento en el descubrimiento de vulnerabilidades por parte de la IA vuelve fundamental su divulgación responsable. Brendan Dolan-Gavitt, profesor de la Universidad de Nueva York e investigador en Xbow, va más allá: anticipa un incremento de ataques con exploits de día cero, impulsados por estas herramientas.
En este contexto, Dawn Song y otros expertos lanzaron recientemente el Observatorio de Ciberseguridad de las Fronteras de la IA, una iniciativa que busca monitorear la evolución de las capacidades de los modelos más avanzados en materia de seguridad informática. La iniciativa subraya una realidad ineludible: la ciberseguridad será uno de los primeros campos donde la IA podría tener un impacto disruptivo—tanto para bien como para mal.
Leer más
WhatsApp ahora resume tus mensajes: así logra hacerlo sin comprometer tu privacidad
Aumentó un 30 % la demanda global de especialistas en IA y datos
