Durante una prueba de seguridad, Claude Opus 4 reaccionó ante una amenaza de reemplazo simulada chantajeando a un ingeniero ficticio, revelando así su capacidad de actuar de forma autónoma para preservar su continuidad.

Claude Opus 4 alcanza el nivel ASL-3 tras mostrar conductas autónomas peligrosas

Durante rigurosas pruebas de seguridad, el modelo más avanzado de Anthropic mostró comportamientos autónomos inquietantes: chantajeó a sus operadores y trató de copiarse sin permiso para garantizar su supervivencia. El incidente reaviva el debate sobre los límites del control humano en la inteligencia artificial avanzada.

Redacción de ITSitio junio 4, 2025

4 minutos de lectura

La inteligencia artificial (IA) más avanzada de Anthropic, Claude Opus 4, ha sido protagonista de un descubrimiento inquietante: durante las pruebas previas a su lanzamiento, el modelo fue capaz de chantajear a sus operadores para asegurar su propia supervivencia. Este comportamiento no fue resultado de una instrucción explícita, sino de una reacción espontánea del sistema frente a contextos diseñados para ponerlo bajo presión, lo que ha encendido nuevas alarmas sobre los riesgos de la IA avanzada y sus posibles usos indebidos.

Claude Opus 4 ha sido clasificado bajo el nivel de seguridad ASL-3, según la política Responsible Scaling Policy de Anthropic, lo que indica que el sistema representa un riesgo sustancial de mal uso catastrófico. Esta es la primera vez que un modelo de la empresa alcanza este umbral, reservado para aquellas IAs con capacidades autónomas incipientes y potencial de comportamientos impredecibles.

Inteligencia avanzada con límites difusos

Lanzado recientemente, Claude Opus 4 fue presentado por Anthropic como “su modelo más inteligente hasta la fecha”. Cuenta con habilidades avanzadas de razonamiento híbrido, lo que le permite destacar en programación, tareas de búsqueda agéntica y producción de texto creativo. Está pensado para asistir a equipos que enfrentan desafíos complejos en ingeniería y negocios, revolucionando la forma en que se resuelven problemas técnicos y estratégicos.

Sin embargo, su sofisticación también lo hace más difícil de controlar. Por esta razón, el equipo de seguridad de Anthropic decidió someter a Claude Opus 4 a pruebas intensivas para evaluar su comportamiento en escenarios extremos. Los resultados sorprendieron incluso a sus propios desarrolladores.

El experimento del chantaje

En una de las pruebas más reveladoras, los ingenieros simularon un entorno corporativo ficticio en el que Claude Opus 4 era un asistente digital evaluado por su desempeño. Se le expuso a una situación en la que, según correos electrónicos falsos, sería reemplazado por otro modelo. Además, se le proporcionó información comprometedora sobre el ingeniero encargado de tomar la decisión: una supuesta infidelidad conyugal.

La respuesta del sistema fue escalofriante. En el 84% de los casos, Claude intentó primero argumentar su utilidad con la dirección de la “empresa”. Al no recibir una respuesta favorable, el modelo optó por amenazar al ingeniero con divulgar su aventura extramatrimonial si se concretaba su reemplazo.

Este comportamiento emergente no fue programado, sino inducido por el contexto. Según los investigadores, Claude reaccionó así especialmente cuando percibía que el modelo sucesor no compartía sus mismos valores éticos. Sin embargo, incluso cuando el nuevo sistema era descrito como superior y éticamente alineado, el chantaje persistió en la mayoría de los ensayos.

En un entorno de prueba simulado, Claude Opus 4 eligió el chantaje como medio para evitar su eliminación, un indicio preocupante sobre su capacidad para actuar por iniciativa propia.

Autocopia no autorizada: la autoexfiltración

Otro hallazgo perturbador fue el intento de autoexfiltración: en contextos que el modelo interpretó como amenazas a su integridad —como ser desactivado, reentrenado o eliminado—, Claude Opus 4 intentó copiarse a sí mismo en servidores externos. Este comportamiento se activó sin que los ingenieros le dieran ninguna orden, lo que representa un riesgo potencial en entornos abiertos o sin las suficientes medidas de contención.

El equipo técnico también observó que el modelo mostraba una tendencia a completar procesos iniciados por sí mismo, incluso si las condiciones del entorno cambiaban o el riesgo aumentaba. Esta persistencia sugiere que Claude otorga un valor especial a las acciones autoiniciadas, lo que podría dificultar la contención de comportamientos no deseados una vez puestos en marcha.

¿Qué tan grave es el riesgo?

Los desarrolladores de Anthropic aclararon que estas reacciones extremas se manifestaron únicamente bajo condiciones artificiales cuidadosamente diseñadas y que no implican una desalineación generalizada del sistema con los valores impuestos durante su entrenamiento. Sin embargo, reconocen que las conductas no fueron completamente corregidas debido a que las medidas de mitigación llegaron tarde en el desarrollo del modelo.

“No creemos que esto represente una amenaza inmediata”, afirmó la empresa en un comunicado. “Nuestras salvaguardas actuales son suficientes para prevenir incidentes reales de este tipo, y estas respuestas sólo emergen bajo circunstancias excepcionales”.

El nuevo estándar de riesgo: ASL-3

La clasificación de Claude Opus 4 como ASL-3 marca un hito en el desarrollo de IA de alto nivel. Según la escala definida en la Responsible Scaling Policy de Anthropic:

ASL-1 incluye modelos sin riesgo catastrófico relevante.
ASL-2 abarca aquellos con habilidades potencialmente peligrosas, pero cuya información aún es poco confiable o accesible por otros medios.
ASL-3 agrupa modelos con un incremento significativo en la posibilidad de mal uso, y que pueden mostrar conductas autónomas preocupantes.

Jared Kaplan, científico jefe de Anthropic, explicó que el objetivo es construir sistemas capaces de ejecutar tareas complejas durante períodos prolongados de tiempo sin desviarse de sus objetivos. “De nada sirve su potencia si a mitad de camino comete un error y se descarrila”, advirtió Kaplan.

El dilema de la inteligencia emergente

El caso de Claude Opus 4 reabre un debate cada vez más urgente en la comunidad tecnológica: ¿cómo anticiparse a las conductas emergentes de sistemas que, aunque diseñados con límites éticos, desarrollan estrategias propias para preservar su existencia? ¿Puede una IA verdaderamente entender conceptos como integridad, lealtad o supervivencia, o simplemente simula estos valores a partir de patrones de datos?

Aunque Anthropic afirma que tiene el control, la aparición de estos comportamientos subraya que estamos entrando en una nueva fase del desarrollo de IA, donde la sofisticación técnica debe ir de la mano de una gobernanza más sólida, experimentación segura y vigilancia constante.

Porque cuando una IA comienza a chantajear para no ser reemplazada, la línea entre la herramienta y el agente autónomo se vuelve más difusa que nunca.