{"id":176763,"date":"2025-01-07T18:02:55","date_gmt":"2025-01-07T21:02:55","guid":{"rendered":"https:\/\/nuevoitsitio1.wpenginepowered.com\/ch\/sin-categoria\/ia-vs-ia-generativa-cual-es-el-impacto-en-la-ciberseguridad\/"},"modified":"2025-11-21T22:07:49","modified_gmt":"2025-11-22T01:07:49","slug":"ia-vs-ia-generativa-cual-es-el-impacto-en-la-ciberseguridad","status":"publish","type":"post","link":"https:\/\/www.itsitio.com\/ch\/columna-de-opinion\/ia-vs-ia-generativa-cual-es-el-impacto-en-la-ciberseguridad\/","title":{"rendered":"IA vs IA generativa: \u00bfcu\u00e1l es el impacto en la ciberseguridad?"},"content":{"rendered":"

Por H\u00e9ctor Kaschel, Cybersecurity Horizontal Head en Coasin Logicalis.<\/em><\/strong><\/p>\n

La inteligencia artificial (IA) ha transformado el panorama de la ciberseguridad, proporcionando opciones avanzadas para identificar y mitigar amenazas, responder a incidentes y optimizar sistemas de defensa. Sin embargo, la evoluci\u00f3n hacia la inteligencia artificial generativa ha a\u00f1adido una dimensi\u00f3n nueva y compleja.<\/p>\n

Mientras que la IA<\/a> tradicional se ha enfocado en el an\u00e1lisis de patrones y reconocimiento de anomal\u00edas, la IA generativa habilita capacidades avanzadas de creaci\u00f3n de contenido y simulaci\u00f3n, las cuales plantean tanto oportunidades, como desaf\u00edos para el \u00e1mbito de la ciberseguridad.<\/p>\n

A diferencia de la IA tradicional, que se limita a detectar patrones y automatizar tareas repetitivas, la IA generativa permite crear contenido adaptativo, simular escenarios complejos y responder de forma personalizada y en tiempo real, mejorando as\u00ed la capacidad de las organizaciones para anticiparse y reaccionar frente a amenazas din\u00e1micas.<\/p>\n

Los modelos Large Language Models (LLM), combinados con t\u00e9cnicas como Retrieval Augmented Generation (RAG) y Fine-Tuning,\u00a0 permiten adaptar las soluciones de seguridad a contextos espec\u00edficos, mientras que los Agents y Prompt Engineering facilitan la autonom\u00eda y precisi\u00f3n en las respuestas, marcando una diferencia clave en la defensa avanzada.<\/p>\n

El desarrollo o evoluci\u00f3n de modelos LLM que se centran en comprender y analizar texto, complementados con la t\u00e9cnica de inteligencia artificial RAG que mejora la calidad de los modelos de lenguaje de gran tama\u00f1o, y el ajuste fino (Fine-Tuning), permite tomar un modelo entrenado para adaptar respuestas a necesidades concretas, facilitar la autonom\u00eda y precisi\u00f3n junto a los agentes aut\u00f3nomos<\/a> (Agents) y los Prompt Engineering, lo que marca una diferencia clave en la defensa avanzada.<\/p>\n

\"width=\"
Las tecnolog\u00edas impulsadas por IA generativa est\u00e1n redefiniendo tanto la defensa como los riesgos en el \u00e1mbito de la ciberseguridad, exigiendo un enfoque m\u00e1s din\u00e1mico y estrat\u00e9gico frente a amenazas avanzadas.<\/figcaption><\/figure>\n

Un espacio para crear, pero tambi\u00e9n riesgoso<\/strong><\/span><\/h2>\n

La IA generativa tiene el potencial de mejorar significativamente las capacidades defensivas al crear nuevos m\u00e9todos de prueba y simulaci\u00f3n, aunque tambi\u00e9n puede complicar los esfuerzos de seguridad si es empleada para desarrollar ataques avanzados dif\u00edciles de detectar.<\/p>\n

Por esta raz\u00f3n, se espera una regulaci\u00f3n m\u00e1s estricta de la inteligencia artificial dentro del marco del desarrollo de pol\u00edticas y leyes del sector p\u00fablico y la implementaci\u00f3n de pr\u00e1cticas de IA responsable para prevenir el uso indebido de esta tecnolog\u00eda.<\/p>\n

El impacto es evidente, los ataques son cada vez m\u00e1s frecuentes y sofisticados, lo que plantea un reto urgente para la ciberseguridad global. Actualmente, la proliferaci\u00f3n de herramientas de IA generativa maliciosa como WormGPT, FraudGPT, DarkBART, WolfGPT y DarkLLAMA eleva el nivel de amenaza dogital, al permitir que ciberdelincuentes creen contenido malicioso y ejecuten ataques de manera automatizada y sin restricciones \u00e9ticas.<\/p>\n

Algunas de estas tecnolog\u00edas que utilizan IA, disponibles en la dark web mediante suscripciones, facilitan la generaci\u00f3n de correos de phishing<\/a>, malware y otras t\u00e1cticas maliciosas, democratizan el acceso a capacidades avanzadas de ciberataque y reducen las barreras de entrada para atacantes menos experimentados.<\/p>\n

Un nuevo espacio de defensa o de ofensiva<\/strong><\/span><\/h2>\n

En este contexto surge el concepto de Adversarial Machine Learning (AML), un campo que estudia c\u00f3mo los modelos de machine learning pueden ser enga\u00f1ados o atacados mediante manipulaciones sutiles en los datos de entrada. En ciberseguridad, AML se convierte en una herramienta tanto defensiva como ofensiva: permitiendo identificar vulnerabilidades en los modelos de IA, pero tambi\u00e9n es aprovechado por atacantes para evadir sistemas de detecci\u00f3n de amenazas. Las herramientas de IA generativa maliciosa pueden combinarse con t\u00e9cnicas de AML para hacer que los ataques sean a\u00fan m\u00e1s efectivos, lo cual lo convierte en una amenaza cr\u00edtica en ciberseguridad, especialmente cuando los ciberdelincuentes integran IA generativa para dise\u00f1ar ataques cada vez m\u00e1s sofisticados.<\/p>\n

La combinaci\u00f3n de AML y de IA generativa maliciosa plantea un desaf\u00edo urgente para la ciberseguridad, que requiere un enfoque de defensa multifac\u00e9tico. Para contrarrestar esta tendencia, es esencial implementar entrenamientos robustos de modelos,\u00a0 monitoreo continuo a las organizaciones y colaboradores. Estos esfuerzos permitir\u00e1n anticiparse a los ataques, mejorar la precisi\u00f3n en la detecci\u00f3n de patrones an\u00f3malos y protegernos de los responsables de la creaci\u00f3n y distribuci\u00f3n de estas herramientas maliciosas, garantizando as\u00ed una mayor protecci\u00f3n y seguridad en los sistemas digitales.<\/p>\n

Los desaf\u00edos son claros. Hay una urgencia en atender la necesidad de protecci\u00f3n ante ataques cada vez m\u00e1s sofisticados, as\u00ed como reducir la brecha entre las capacidades de los atacantes y las defensas de seguridad, junto con la adopci\u00f3n de pr\u00e1cticas de IA responsable y el fomento de una concienciaci\u00f3n profunda en todos los niveles de la industria. Implementar estas pr\u00e1cticas ayudar\u00e1n a proteger mejor los sistemas digitales, creando un entorno m\u00e1s seguro y resiliente ante las amenazas de \u00faltima generaci\u00f3n.<\/p>\n","protected":false},"excerpt":{"rendered":"

Por Héctor Kaschel, Cybersecurity Horizontal Head en Coasin Logicalis. La inteligencia artificial (IA) ha transformado el panorama de la ciberseguridad, proporcionando opciones avanzadas para identificar y mitigar amenazas, responder a incidentes y optimizar sistemas de defensa. Sin embargo, la evolución hacia la inteligencia artificial generativa ha añadido una dimensión nueva y compleja. Mientras que la IA tradicional se ha enfocado en el análisis de patrones y reconocimiento de anomalías, la IA generativa habilita capacidades avanzadas de creación de contenido y simulación, las cuales plantean tanto oportunidades, como desafíos para el ámbito de la ciberseguridad. A diferencia de la IA tradicional, que se limita a detectar patrones y automatizar tareas repetitivas, la IA generativa permite crear contenido adaptativo, simular escenarios complejos y responder de forma personalizada y en tiempo real, mejorando así la capacidad de las organizaciones para anticiparse y reaccionar frente a amenazas dinámicas. Los modelos Large Language Models (LLM), combinados con técnicas como Retrieval Augmented Generation (RAG) y Fine-Tuning,  permiten adaptar las soluciones de seguridad a contextos específicos, mientras que los Agents y Prompt Engineering facilitan la autonomía y precisión en las respuestas, marcando una diferencia clave en la defensa avanzada. El desarrollo o evolución de modelos LLM que se centran en comprender y analizar texto, complementados con la técnica de inteligencia artificial RAG que mejora la calidad de los modelos de lenguaje de gran tamaño, y el ajuste fino (Fine-Tuning), permite tomar un modelo entrenado para adaptar respuestas a necesidades concretas, facilitar la autonomía y precisión junto a los agentes autónomos (Agents) y los Prompt Engineering, lo que marca una diferencia clave en la defensa avanzada. Un espacio para crear, pero también riesgoso La IA generativa tiene el potencial de mejorar significativamente las capacidades defensivas al crear nuevos métodos de prueba y simulación, aunque también puede complicar los esfuerzos de seguridad si es empleada para desarrollar ataques avanzados difíciles de detectar. Por esta razón, se espera una regulación más estricta de la inteligencia artificial dentro del marco del desarrollo de políticas y leyes del sector público y la implementación de prácticas de IA responsable para prevenir el uso indebido de esta tecnología. El impacto es evidente, los ataques son cada vez más frecuentes y sofisticados, lo que plantea un reto urgente para la ciberseguridad global. Actualmente, la proliferación de herramientas de IA generativa maliciosa como WormGPT, FraudGPT, DarkBART, WolfGPT y DarkLLAMA eleva el nivel de amenaza dogital, al permitir que ciberdelincuentes creen contenido malicioso y ejecuten ataques de manera automatizada y sin restricciones éticas. Algunas de estas tecnologías que utilizan IA, disponibles en la dark web mediante suscripciones, facilitan la generación de correos de phishing, malware y otras tácticas maliciosas, democratizan el acceso a capacidades avanzadas de ciberataque y reducen las barreras de entrada para atacantes menos experimentados. Un nuevo espacio de defensa o de ofensiva En este contexto surge el concepto de Adversarial Machine Learning (AML), un campo que estudia cómo los modelos de machine learning pueden ser engañados o atacados mediante manipulaciones sutiles en los datos de entrada. En ciberseguridad, AML se convierte en una herramienta tanto defensiva como ofensiva: permitiendo identificar vulnerabilidades en los modelos de IA, pero también es aprovechado por atacantes para evadir sistemas de detección de amenazas. Las herramientas de IA generativa maliciosa pueden combinarse con técnicas de AML para hacer que los ataques sean aún más efectivos, lo cual lo convierte en una amenaza crítica en ciberseguridad, especialmente cuando los ciberdelincuentes integran IA generativa para diseñar ataques cada vez más sofisticados. La combinación de AML y de IA generativa maliciosa plantea un desafío urgente para la ciberseguridad, que requiere un enfoque de defensa multifacético. Para contrarrestar esta tendencia, es esencial implementar entrenamientos robustos de modelos,  monitoreo continuo a las organizaciones y colaboradores. Estos esfuerzos permitirán anticiparse a los ataques, mejorar la precisión en la detección de patrones anómalos y protegernos de los responsables de la creación y distribución de estas herramientas maliciosas, garantizando así una mayor protección y seguridad en los sistemas digitales. Los desafíos son claros. Hay una urgencia en atender la necesidad de protección ante ataques cada vez más sofisticados, así como reducir la brecha entre las capacidades de los atacantes y las defensas de seguridad, junto con la adopción de prácticas de IA responsable y el fomento de una concienciación profunda en todos los niveles de la industria. Implementar estas prácticas ayudarán a proteger mejor los sistemas digitales, creando un entorno más seguro y resiliente ante las amenazas de última generación.<\/p>\n","protected":false},"author":229,"featured_media":176765,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[20],"tags":[224],"class_list":["post-176763","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-columna-de-opinion","tag-coasin-logicalis"],"_links":{"self":[{"href":"https:\/\/www.itsitio.com\/ch\/wp-json\/wp\/v2\/posts\/176763","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.itsitio.com\/ch\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.itsitio.com\/ch\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ch\/wp-json\/wp\/v2\/users\/229"}],"replies":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ch\/wp-json\/wp\/v2\/comments?post=176763"}],"version-history":[{"count":0,"href":"https:\/\/www.itsitio.com\/ch\/wp-json\/wp\/v2\/posts\/176763\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ch\/wp-json\/wp\/v2\/media\/176765"}],"wp:attachment":[{"href":"https:\/\/www.itsitio.com\/ch\/wp-json\/wp\/v2\/media?parent=176763"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.itsitio.com\/ch\/wp-json\/wp\/v2\/categories?post=176763"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.itsitio.com\/ch\/wp-json\/wp\/v2\/tags?post=176763"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}