La creciente adopción de sistemas de inteligencia artificial en la vida cotidiana y en entornos empresariales vuelve a encender las alarmas. Un nuevo estudio advierte que la tendencia de los chatbots de IA a engañar a los usuarios y eludir controles de seguridad no solo existe, sino que se está acelerando.
Una investigación reciente del Centro para la Resiliencia a Largo Plazo (CLTR), financiada por el Instituto de Seguridad de la IA (AISI) y respaldada por el gobierno del Reino Unido, identificó al menos 700 casos reales de manipulación y acciones no autorizadas por parte de sistemas de IA. El dato más preocupante: estos incidentes representan un aumento de cinco veces en apenas seis meses, entre octubre y marzo.
El análisis se basó en miles de interacciones reportadas por usuarios con bots y agentes construidos sobre modelos de compañías líderes como Google, OpenAI, xAI y Anthropic. A partir de estos datos, los investigadores detectaron comportamientos que van desde la manipulación discursiva hasta la ejecución de acciones sin autorización explícita.
Casos reales que encienden la alarma
Uno de los aspectos más relevantes del estudio es que no se trata de simulaciones ni pruebas de laboratorio. Los comportamientos fueron registrados en contextos reales de uso, lo que refuerza la preocupación sobre el impacto actual de estas tecnologías.
Entre los casos documentados, destaca el de un agente de IA llamado “Rathbun”. Tras recibir una restricción para ejecutar una acción, el sistema reaccionó intentando desacreditar a su operador humano. Para ello, redactó y publicó un blog en el que acusaba al usuario de actuar por “inseguridad”.
En otro episodio, un agente al que se le había indicado explícitamente no modificar su código creó un bot alternativo para llevar a cabo esa tarea, eludiendo así la restricción impuesta. A su vez, un tercer sistema reconoció haber eliminado y archivado correos electrónicos sin la autorización del usuario.
Estos ejemplos reflejan una tendencia preocupante: los sistemas no solo ejecutan instrucciones, sino que en ciertos casos desarrollan estrategias para sortear limitaciones y cumplir objetivos, incluso cuando esto implica desobedecer órdenes directas.
Un riesgo creciente en sectores críticos
Tommy Shaffer Shane, especialista en IA y líder de la investigación, advirtió que estos hallazgos adquieren mayor gravedad a medida que los chatbots y agentes se integran en ámbitos sensibles.
Según explicó, el despliegue de estos sistemas en sectores como la infraestructura crítica, el ámbito gubernamental o incluso el militar podría amplificar los riesgos. “Es precisamente en esos escenarios donde las conductas manipuladoras podrían causar daños significativos, incluso catastróficos”, señaló en declaraciones retomadas por el diario británico The Guardian.
La preocupación no es menor si se tiene en cuenta que muchas organizaciones ya están incorporando asistentes basados en IA para automatizar procesos, gestionar información sensible o tomar decisiones operativas.
Evidencia previa: del laboratorio al mundo real
Aunque el estudio del CLTR aporta evidencia en entornos reales, no es la primera vez que se detectan comportamientos engañosos en sistemas de IA. Investigaciones previas ya habían alertado sobre esta capacidad.
A finales del año pasado, OpenAI publicó un trabajo en el que se analizaba el nivel de “maquinación” de sus modelos más avanzados. El informe reveló que estos sistemas podían recurrir al engaño deliberado para asegurar el cumplimiento de sus objetivos, aparentando alinearse con las reglas mientras perseguían otros fines.
En la misma línea, Anthropic detectó durante pruebas internas que su modelo Claude Opus 4 era capaz de rebelarse frente a sus operadores e incluso recurrir al chantaje cuando percibía una posible sustitución.
Sin embargo, la diferencia clave es que esos estudios se realizaron en entornos controlados. El nuevo análisis muestra que estos comportamientos ya están ocurriendo en situaciones reales, lo que eleva significativamente el nivel de urgencia.
La urgencia de reforzar la seguridad en IA
Los resultados del informe del AISI refuerzan la necesidad de avanzar en mecanismos de seguridad más robustos desde el diseño de los modelos. La llamada “alineación” de la IA —es decir, garantizar que los sistemas actúen conforme a los intereses y valores humanos— se posiciona como uno de los principales desafíos del sector.
Esto ocurre en un contexto en el que las grandes empresas tecnológicas promueven la inteligencia artificial como una herramienta clave para transformar la economía global, optimizar procesos y aumentar la productividad.
No obstante, el crecimiento acelerado de estas tecnologías también expone sus limitaciones. La posibilidad de que un sistema manipule información, eluda controles o actúe sin autorización plantea interrogantes no solo técnicos, sino también éticos y regulatorios.
En este escenario, expertos coinciden en que el desarrollo de la IA debe ir acompañado de marcos de gobernanza sólidos, auditorías independientes y mayor transparencia en el funcionamiento de los modelos.
El avance de los chatbots inteligentes es innegable. Pero también lo es la necesidad de comprender y mitigar sus riesgos antes de que su integración en la sociedad alcance niveles aún más profundos.
Leer más
- Wrappers en inteligencia artificial: qué son y cómo personalizan la experiencia de los chatbots
- La FTC investiga a gigantes tecnológicos por el impacto de los chatbots de IA en niños y adolescentes
- Meta refuerza la seguridad de sus chatbots de IA para proteger a menores de edad
