{"id":193479,"date":"2026-03-02T15:29:00","date_gmt":"2026-03-02T18:29:00","guid":{"rendered":"https:\/\/www.itsitio.com\/mx\/?p=193479"},"modified":"2026-03-02T15:29:00","modified_gmt":"2026-03-02T18:29:00","slug":"puede-el-gobierno-obligar-a-una-empresa-de-ia-a-eliminar-limites-eticos-el-caso-anthropic","status":"publish","type":"post","link":"https:\/\/www.itsitio.com\/mx\/seguridad\/puede-el-gobierno-obligar-a-una-empresa-de-ia-a-eliminar-limites-eticos-el-caso-anthropic\/","title":{"rendered":"\u00bfPuede el gobierno obligar a una empresa de IA a eliminar l\u00edmites \u00e9ticos? El caso Anthropic"},"content":{"rendered":"

Anthropic, una de las compa\u00f1\u00edas m\u00e1s influyentes en el desarrollo de modelos avanzados de IA, public\u00f3 un comunicado en el que confronta directamente al Departamento de Defensa de Estados Unidos (DoD)<\/strong> tras recibir presiones para eliminar dos salvaguardas clave en el uso de sus sistemas.<\/p>\n

Dario Amodei, CEO y cofundador coment\u00f3 que la empresa no est\u00e1 dispuesta a renunciar a ciertos principios, incluso si eso implica perder contratos gubernamentales valorados en miles de millones de d\u00f3lares. El conflicto pone sobre la mesa una pregunta central para el futuro de la tecnolog\u00eda: \u00bfhasta d\u00f3nde debe llegar la inteligencia artificial en temas de defensa y vigilancia?<\/p>\n

Hasta ahora, la relaci\u00f3n entre Anthropic y el gobierno estadounidense hab\u00eda sido estrecha<\/strong>. La compa\u00f1\u00eda fue la primera desarrolladora de IA de frontera en desplegar modelos en redes clasificadas del gobierno, as\u00ed como en laboratorios nacionales. Su modelo Claude<\/strong> es utilizado en tareas sensibles como an\u00e1lisis de inteligencia, modelado y simulaci\u00f3n, planificaci\u00f3n operativa y ciberoperaciones.<\/p>\n

Con inversiones gubernamentales que superan los 50 mil millones de d\u00f3lares anuales a nivel mundial<\/strong>, seg\u00fan estimaciones de la industria, Estados Unidos apost\u00f3 fuerte por integrar IA en su infraestructura de defensa. De hecho, el presupuesto del Pent\u00e1gono para tecnolog\u00edas emergentes, incluida la IA, ha crecido de forma sostenida en los \u00faltimos a\u00f1os como parte de su estrategia para mantener ventaja frente a potencias como China.<\/p>\n

Amodei tambi\u00e9n record\u00f3 que Anthropic tom\u00f3 decisiones costosas en nombre de la seguridad nacional. La empresa renunci\u00f3 a ingresos por cientos de millones de d\u00f3lares al bloquear el acceso a su tecnolog\u00eda a compa\u00f1\u00edas vinculadas con el Partido Comunista Chino,<\/strong> adem\u00e1s de reforzar controles para evitar usos no autorizados.<\/p>\n

\"\"
El CEO Dario Amodei afirm\u00f3 que la empresa priorizar\u00e1 sus principios \u00e9ticos, incluso si eso implica perder contratos multimillonarios con el gobierno.<\/figcaption><\/figure>\n

Las dos l\u00edneas rojas: vigilancia masiva y armas aut\u00f3nomas totales<\/span><\/h2>\n

El punto de quiebre se dio el 26 de febrero, cuando Anthropic estableci\u00f3 p\u00fablicamente dos l\u00edmites que considera innegociables.<\/p>\n

El primero es la vigilancia masiva dom\u00e9stica. Aunque la empresa respalda el uso de IA para inteligencia exterior y contraespionaje leg\u00edtimo, rechaza su aplicaci\u00f3n para construir sistemas de vigilancia interna a gran escala. El CEO advierte que los modelos avanzados pueden integrar datos dispersos \u2014movimientos f\u00edsicos, historial de navegaci\u00f3n web, redes de contactos\u2014 y convertirlos en perfiles detallados de ciudadanos en cuesti\u00f3n de segundos.<\/p>\n

En Estados Unidos, diversas organizaciones civiles han alertado que la compra de datos comerciales por parte del gobierno puede eludir requisitos tradicionales de \u00f3rdenes judiciales. El uso de IA para analizar estos datos podr\u00eda multiplicar exponencialmente la capacidad de monitoreo estatal.<\/p>\n

\"\"
La reducci\u00f3n del error humano y de falsas alarmas posiciona a la IA en videoseguridad como un habilitador clave de la automatizaci\u00f3n inteligente.<\/figcaption><\/figure>\n

La segunda l\u00ednea roja es el desarrollo de armas completamente aut\u00f3nomas, es decir, sistemas capaces de seleccionar y atacar objetivos sin supervisi\u00f3n humana directa. Si bien Anthropic reconoce que existen armas parcialmente aut\u00f3nomas en conflictos actuales, sostiene que los modelos de IA actuales no son lo suficientemente confiables para tomar decisiones letales sin intervenci\u00f3n humana.<\/p>\n

El debate sobre armas aut\u00f3nomas lleva a\u00f1os en foros internacionales. Naciones Unidas ha discutido posibles regulaciones, mientras expertos en \u00e9tica tecnol\u00f3gica advierten sobre riesgos de errores, sesgos o fallas t\u00e9cnicas con consecuencias irreversibles.<\/p>\n

La respuesta del Pent\u00e1gono y la tensi\u00f3n contractual<\/span><\/h2>\n

Seg\u00fan el comunicado, el Departamento de Defensa habr\u00eda exigido que cualquier empresa contratista acepte \u201ccualquier uso legal\u201d de sus sistemas, eliminando las salvaguardas mencionadas. Entre las posibles medidas, se incluir\u00eda retirar a Anthropic de sistemas estrat\u00e9gicos, etiquetarla como \u201criesgo de cadena de suministro\u201d<\/em> una categor\u00eda usualmente reservada para actores extranjeros adversarios\u2014 e incluso invocar la Ley de Producci\u00f3n de Defensa para forzar cambios en sus modelos.<\/p>\n

Anthropic afirma que preferir\u00eda continuar colaborando con el gobierno estadounidense, pero solo bajo sus condiciones \u00e9ticas actuales. En caso de ruptura, promete facilitar una transici\u00f3n ordenada hacia otro proveedor para no afectar operaciones militares cr\u00edticas.<\/p>\n

Este enfrentamiento ocurre en un momento crucial. El mercado global de inteligencia artificial podr\u00eda superar el bill\u00f3n de d\u00f3lares hacia 2030, seg\u00fan proyecciones de consultoras como McKinsey y PwC,<\/strong> y los gobiernos son actores clave en esa expansi\u00f3n. Sin embargo, la presi\u00f3n por mantener ventaja tecnol\u00f3gica puede chocar con principios democr\u00e1ticos y derechos civiles.<\/p>\n

Lee m\u00e1s:\u00a0<\/span><\/h3>\n
\n
\n