Cuando la IA falla: 5 casos reales donde los agentes destrozaron procesos críticos

Todo medio tech celebra los éxitos de la IA. Pocos cuentan los fracasos. Y los fracasos son donde está toda la lección. Estos son cinco casos reales que recopilé en entrevistas con equipos LATAM, con nombres cambiados pero cifras intactas.

Una fintech mexicana montó un agente para procesar dispersiones masivas a proveedores. El agente tenía contexto del proveedor pero no validación de cuenta destino. Un proveedor cambió su CLABE bancaria por email y el agente actualizó sin verificación humana. Tres semanas después, $40.000 estaban en una cuenta correcta — pero del proveedor anterior, que ya no era proveedor.

La lección: cualquier acción que mueva dinero o credenciales debe tener un humano en el loop, sin excepciones. No importa cuán "obvia" parezca la operación.

SaaS argentino. Implementaron un agente que rastreaba menciones en redes sociales y, si parecía un buyer signal, creaba lead automáticamente en HubSpot con un score sugerido. El agente confundió la palabra "necesito un CRM" en un debate filosófico con buyer intent. Resultado: 8.000 leads de cuentas que ni siquiera tenían empresa, contactados por vendedores reales.

La lección: validar que los datos de entrada al agente son los correctos antes de validar que el agente clasifica bien.

Software factory en Colombia. Implementaron agente de tier 1 sobre Claude. El agente "alucinó" funcionalidades que no existían en el producto cuando un cliente preguntaba si algo era posible. Lo prometió porque, viendo la documentación parcial, le pareció probable. Cuando el cliente intentó usar esas funciones inexistentes, escaló al CEO directamente.

La lección: agente con knowledge incompleto > sin agente. Hay que poner restricciones explícitas sobre lo que NO se sabe.

SaaS B2B. Agente diseñado para reducir churn detectando señales de cancelación y proactivamente ofreciendo descuentos. Detectó usuarios "en riesgo" basándose en login decreciente, sin saber que muchos de esos usuarios estaban en vacaciones. Mandó 1.400 correos ofreciendo "una solución para cancelar fácilmente" a clientes contentos. 230 se dieron de baja en 48h porque hasta ese momento no se les había ocurrido.

La lección: cuidado con que el agente NO genere el problema que intenta evitar.

Empresa industrial. Agente para clasificar facturas y enrutar al aprobador correcto. El agente desarrolló sesgo: aprendió de meses de aprobaciones que las facturas de cierto proveedor las firmaba siempre el mismo director. Cuando ese director renunció, el agente siguió mandándole facturas — al email corporativo desactivado. Tres meses sin que nadie viera 47 facturas.

La lección: agentes que se "calibran" con datos históricos necesitan revisión periódica cuando la realidad cambia.

• OKConfianza desproporcionada en la salida del agente sin checks de cordura
• OKFalta de "qué hacer cuando no sé" — el agente nunca pide ayuda
• OKSin monitoring activo: nadie miraba qué hacía el agente hasta que el daño fue grande
• OKNo hubo dry-run o simulación previa antes de poner en producción
• OKNo hubo presupuesto de fallo: cuánto puede gastar el agente antes de parar