Cuando un agente de IA comete un error en una compra, ¿quién paga?

Por Carlos Mattos, Chief Technology Officer (CTO) Latam de GFT Technologies
Los agentes de IA impulsan el comercio automatizado y plantean nuevos desafíos sobre la seguridad de los pagos y la responsabilidad ante errores de compra.
Los agentes de IA impulsan el comercio automatizado y plantean nuevos desafíos sobre la seguridad de los pagos y la responsabilidad ante errores de compra.
Compartir nota:

Imagina pedirle a un agente de inteligencia artificial (IA) que encuentre un boleto de avión a la Ciudad de México por hasta 500 dólares, sin escalas y con equipaje incluido. El agente busca, compara y compra. Minutos después descubres que eligió una tarifa de 650 dólares, con conexión y sin posibilidad de reembolso. La tecnología funcionó: encontró el vuelo, accedió al medio de pago y concluyó la transacción. Sin embargo, no cumplió el mandato. ¿Quién responde por la pérdida? ¿El consumidor que delegó la tarea? ¿La empresa que desarrolló el agente? ¿El banco que autorizó el pago? ¿O el adquirente, la marca o el comerciante que aceptó una compra ejecutada por software? Esta pregunta ya dejó de ser hipotética.

El riesgo ya aparece en los indicadores que los propios bancos centrales de la región están monitoreando. El Informe de Estabilidad Financiera del Banco de México, publicado en junio de 2026, dedica un capítulo a los riesgos de los agentes de IA para la estabilidad del sistema financiero y recomienda a las autoridades supervisoras, entre ellas la CNBV, considerar medidas como la explicabilidad de los modelos comerciales, auditorías independientes periódicas y mecanismos de apelación humana para usuarios afectados por decisiones automatizadas.

El propio Banxico, señala que América Latina es la región más expuesta a incidentes relacionados con agentes de IA, con 89% de las instituciones financieras de la región reportando este tipo de ocurrencias.

Los primeros elementos de la infraestructura para este mercado ya se están construyendo. En el ámbito de las tarjetas, Visa Intelligent Commerce contempla credenciales tokenizadas específicas para agentes, autenticación del usuario y controles destinados a verificar si una compra corresponde a las instrucciones originalmente autorizadas. Por su parte, Mastercard Agent Pay avanza en una dirección similar, al combinar registro e identificación del agente, tokens de pago, consentimiento explícito y verifiable intent (intención verificable).

En América Latina, Mastercard anunció en marzo de 2026 la expansión de las transacciones agénticas en tiempo real, incluso con autenticación biométrica y mecanismos de trazabilidad. El movimiento muestra que el desafío dejó de ser únicamente lograr que una IA compre. Ahora es necesario demostrar que estaba autorizada para comprar exactamente eso y bajo esas condiciones.

En GFT Technologies consideramos que esto cambia profundamente la arquitectura de los pagos. Hoy, una autorización comprueba que determinada transacción fue aceptada de acuerdo con las reglas del sistema de pagos, pero un agente introduce una capa previa: el mandato. “Compra una laptop” no significa “compra cualquier laptop, de cualquier vendedor y a cualquier precio”.

Es necesario transformar la intención humana en permisos que puedan ser verificados por una máquina: límite de valor, categoría de producto, comerciante, plazo, recurrencia, ubicación y situaciones en las que una nueva aprobación humana será obligatoria. La propia documentación técnica ya contempla controles para confrontar las credenciales solicitadas por el agente y la autorización recibida por el comerciante con la instrucción autenticada originalmente por el consumidor.

Esto también significa que tokenizar la credencial resuelve solo una parte del problema. Una tarjeta protegida puede financiar una compra equivocada de manera perfectamente segura. El requisito más importante pasa a ser la trazabilidad del proceso: quién autorizó al agente, qué parámetros fueron definidos, qué alternativas evaluó, qué permisos estaban vigentes en el momento de la compra y si la transacción final se mantuvo dentro de esos límites. Esa huella puede transformar una discusión abstracta sobre un “error de la IA” en una disputa que pueda ser reconstruida y verificada técnicamente.

Un paper publicado en junio de este año, RAILS: Verification-Native Clearing for Agentic Commerce (“Compensación con verificación nativa para el comercio basado en agentes”), llama la atención precisamente sobre una laguna que todavía existe: autorizar o liquidar un pago no determina, por sí solo, si el agente cumplió correctamente con la obligación que le fue delegada ni quién debe responder cuando eso no sucede.

Aquí es donde la pregunta sobre quién paga empieza a encontrar una respuesta. En lugar de establecer de antemano un único responsable por cualquier error de un agente, el ecosistema tendrá que identificar dónde ocurrió la ruptura del mandato. Si el consumidor autorizó una compra de hasta 500 dólares y el sistema permitió una de 650, hubo una falla de control. Si el agente recibió una instrucción correcta, pero la interpretó de manera inadecuada, la discusión se desplaza hacia el sistema que tomó la decisión. Si el comerciante recibió una credencial válida, pero información diferente de la aprobada originalmente, surge otra dimensión de responsabilidad. Y si hubo fraude o compromiso del agente, entran en juego la autenticación, la seguridad y los controles de acceso.

En otras palabras, la responsabilidad en los pagos agénticos dependerá cada vez más de la capacidad de reconstruir técnicamente la cadena de decisión.

Para bancos, adquirentes y proveedores de servicios de pago, esto exige pensar en gobernanza antes de alcanzar la escala. Los controles deben ser proporcionales al riesgo: quizá un agente pueda renovar automáticamente una suscripción de bajo valor, pero necesite solicitar confirmación antes de adquirir un boleto internacional o realizar una compra muy por encima del patrón habitual del consumidor. Límites dinámicos, credenciales específicas para agentes, autenticación reforzada, expiración de permisos, restricciones por comerciante y mecanismos de interrupción dejan de ser recursos adicionales para convertirse en parte de la propia arquitectura del producto. El principio es simple: autonomía no debería significar autoridad ilimitada.

En América Latina, esta discusión será especialmente relevante porque la infraestructura tecnológica puede avanzar más rápido que la construcción de reglas específicas para cada situación creada por el comercio agéntico. Las instituciones financieras no deberían esperar a que todos los escenarios de responsabilidad estén resueltos para comenzar a diseñar sus controles. Al contrario: cuanto antes se incorporen autorización, consentimiento, trazabilidad y límites de ejecución a la arquitectura, menor será la necesidad de reconstruir esos sistemas cuando los agentes comiencen a mover volúmenes relevantes de pagos.

La gran transformación quizá no sea permitir que las máquinas gasten dinero. Los sistemas automatizados ya lo hacen de diferentes maneras desde hace años. El verdadero salto está en permitir que un software interprete una intención, tome decisiones comerciales y ejecute una compra en nombre de una persona.

En ese escenario, la confianza no vendrá solo de agentes más inteligentes, sino de agentes cuyos poderes puedan ser delimitados, comprobados y auditados.

Antes de preguntar qué protocolo ganará la carrera del comercio agéntico, bancos y empresas de pagos necesitan responder una cuestión más básica: cuando le demos a una IA el poder de comprar, ¿podremos demostrar exactamente qué tenía permiso de hacer?

Leer más

Ciberataques con inteligencia artificial: un hacker usó agentes de IA y US$ 5.000 para atacar más de 100 empresas

P7 DarkSword: el malware que roba datos de iPhone

La nueva ecuación de la ciberseguridad

Compartir nota:

Publicaciones Relacionadas

Scroll to Top