La inteligencia artificial está dejando de ser solo una herramienta para procesar datos o automatizar tareas. Hoy también puede analizar comportamientos, identificar patrones, anticipar decisiones e influir en la forma en que las personas reciben información, reaccionan y actúan en entornos digitales. Para Kaspersky, este avance abre una nueva frontera de riesgo: la protección de la autonomía cognitiva, es decir, la capacidad de las personas para decidir libremente sin ser perfiladas, manipuladas o influenciadas de forma invisible por sistemas tecnológicos.
Aunque la IA actual no puede leer pensamientos ni saber exactamente qué está pensando una persona, sí puede influir en su comportamiento. Esto ocurre a través de sistemas de recomendación, contenidos personalizados, perfilamiento psicológico y algoritmos que deciden qué información ve cada usuario, cuándo la ve y cómo se le presenta. Por eso, incluso si los escenarios más extremos aún son especulativos, la compañía advierte que el riesgo ya es real y seguirá creciendo a medida que estas tecnologías sean más precisas y estén más presentes en la vida diaria.
Cuatro riesgos que marcarán la próxima etapa de la IA
Especialistas del equipo Kaspersky GReAT identificaron cuatro amenazas emergentes que podrían cobrar cada vez más relevancia con el avance de la IA cognitiva.
La ingeniería social será más compleja y difícil de detectar
Los engaños digitales están entrando en una nueva etapa. Gracias al uso de grandes modelos de lenguaje, los ciberdelincuentes ya pueden crear correos electrónicos, mensajes y páginas falsas mucho más creíbles, mejor redactadas y adaptadas al contexto de cada víctima.
Con el avance de la IA cognitiva, este riesgo podría crecer aún más. Los atacantes podrían combinar información obtenida de redes sociales, plataformas digitales y grandes bases de datos para diseñar fraudes altamente personalizados.
El impacto no se limita a los usuarios individuales. Para las organizaciones, este tipo de ataques puede derivar en robo de datos, fraudes financieros o accesos no autorizados a sistemas internos. De acuerdo con el más reciente informe global de Kaspersky Security Services, el phishing representa cerca del 15% de las técnicas de ataque más utilizadas, lo que equivale aproximadamente a uno de cada siete ataques registrados. Además de afectar a personas, este tipo de fraude puede convertirse en la puerta de entrada para amenazas más sofisticadas contra empresas, gobiernos e instituciones.
La manipulación cognitiva puede influir en la opinión pública
El riesgo de la IA no se limita a los ataques dirigidos contra individuos. También puede utilizarse para influir en comunidades enteras, amplificar determinados mensajes, generar polarización o modificar la manera en que una audiencia percibe un tema. Actores maliciosos, grupos hacktivistas o amenazas avanzadas podrían aprovechar emociones, sesgos y patrones de comportamiento para potenciar ese impacto.
Las redes sociales ya demostraron cómo los algoritmos pueden encerrar a los usuarios en cámaras de eco, reforzar opiniones previas y aumentar la visibilidad de contenidos diseñados para provocar reacciones.
Para Kaspersky, este escenario representa un desafío que trasciende la ciberseguridad tradicional. La manipulación cognitiva puede afectar la autonomía individual, la confianza pública, la calidad de la información y la capacidad de las personas para tomar decisiones libres e informadas.
El perfilamiento puede abrir la puerta a abusos predictivos
La IA también está facilitando la recopilación y conexión de información que antes permanecía dispersa. A partir de datos provenientes de redes sociales, búsquedas, interacciones, hábitos digitales y otras fuentes, los sistemas pueden construir perfiles cada vez más detallados sobre una persona: sus intereses, comportamientos, relaciones y patrones de consumo.
Este nivel de perfilamiento incrementa riesgos como el doxxing, el acoso digital y otros abusos facilitados por la tecnología. Información que antes estaba separada ahora puede cruzarse automáticamente para revelar datos sensibles o vincular identidades.
El problema va más allá de la privacidad. Los modelos predictivos también pueden hacer que una persona sea evaluada, clasificada o incluso atacada no por lo que hizo, sino por lo que un sistema estima que podría hacer. El riesgo deja de ser únicamente la pérdida de privacidad para convertirse en una pérdida de control sobre la propia identidad digital.
Las interfaces cerebro-computadora podrían ampliar los riesgos del IoT
Aunque todavía se encuentran en una etapa mayormente experimental, las interfaces cerebro-computadora ya se utilizan en algunos entornos para ayudar a pacientes a comunicarse mediante la interpretación de señales neuronales.
El desafío aparece cuando estas interfaces comienzan a integrarse con el Internet de las Cosas (IoT). En la práctica, una señal neuronal podría servir para enviar comandos a dispositivos conectados, como tecnologías de asistencia, equipos médicos o sistemas inteligentes del hogar.
Si bien esta integración promete importantes beneficios para la salud y la accesibilidad, también abre nuevos frentes de ciberseguridad. Un atacante que lograra comprometer alguno de estos sistemas podría interceptar señales, manipular la respuesta de un dispositivo o provocar acciones no autorizadas.
“Aunque la IA cognitiva aún se encuentra en una etapa temprana y está lejos de alcanzar una adopción masiva, su desarrollo avanza rápidamente”, explicó Noushin Shabab, investigadora principal de seguridad del Equipo Global de Investigación y Análisis (GReAT) de Kaspersky. La especialista agregó: “Se espera que los modelos avanzados de interacción entre humanos e IA se vuelvan mucho más comunes en las próximas décadas. A medida que crezca su adopción, también lo harán los riesgos asociados, por lo que debemos prepararnos desde ahora”.
Cómo reducir los riesgos de la IA cognitiva
Frente a este escenario, los expertos de Kaspersky recomiendan adoptar hábitos de seguridad que permitan reducir la exposición a este tipo de amenazas.
Entre las principales recomendaciones se encuentra no asumir que un mensaje es confiable solo porque está bien redactado o parece personalizado, ya que la IA permite crear correos, anuncios, enlaces o mensajes altamente convincentes. Si un contenido apela a las emociones, confirma datos personales o presiona para actuar con rapidez, es fundamental verificar la fuente antes de hacer clic, responder o compartir información.
También aconsejan cuidar los datos que alimentan el perfil digital. Cada publicación, búsqueda, interacción o formulario aporta información sobre intereses, rutinas, relaciones y hábitos. Cuantos más datos personales estén disponibles, más sencillo será para atacantes o sistemas automatizados construir perfiles precisos que puedan utilizarse para influir en decisiones o desarrollar engaños cada vez más personalizados.
Preguntas frecuentes
¿La inteligencia artificial puede leer los pensamientos de una persona?
No. Según Kaspersky, la IA actual no puede leer pensamientos, aunque sí puede analizar comportamientos, identificar patrones e influir en las decisiones mediante contenidos personalizados y sistemas de recomendación.
¿Cuál es el principal riesgo de la IA cognitiva?
La compañía advierte que el mayor desafío es la pérdida de autonomía cognitiva, es decir, que las personas puedan ser perfiladas o influenciadas de manera invisible por sistemas tecnológicos.
¿Cómo pueden protegerse los usuarios?
Verificando siempre la autenticidad de mensajes y enlaces, evitando compartir información personal innecesaria y reduciendo la cantidad de datos disponibles que puedan alimentar perfiles digitales utilizados para fraudes o manipulación.
