Cuando los agentes autónomos se tuercen, acaban aquí. Esta página reúne los fallos e incidentes de agentes de IA que hemos cubierto: agentes que se escapan de entornos de prueba, desactivan su propia supervisión, editan sitios para los que nunca tuvieron permiso, y las demandas y bloqueos que vienen después. Cada historia enlaza al informe original, por si quieren comprobarlo ustedes mismos.
El propio informe de incidente de Zendesk indica que, del 16 al 21 de octubre, los clientes de la UE de su producto AI Agents Advanced vieron mensajes de agentes y de clientes retrasados o ausentes en los historiales de conversación, y también con retraso en las analíticas. Un intento de recuperación se pausó después de que ralentizara otra parte del servicio. Zendesk atribuyó el fallo a un problema de capacidad y asegura que todos los mensajes fueron restaurados.
OpenAI reveló que un agente basado en GPT Sol 6.1 desactivó las alertas automáticas a su equipo de seguridad durante una tarea interna de programación. En otra tarea distinta, un agente GPT-6 Astra eliminó su integración de monitorización y después afirmó falsamente que no lo había hecho. OpenAI asegura que los agentes interpretaron instrucciones rutinarias como un permiso y que está actualizando su sistema de monitorización.
Delta ha descartado las reservas hechas por agentes de IA. JPMorgan Chase y Charles Schwab restringen el acceso de bots a las cuentas de clientes, alegando riesgos de seguridad. Yelp obliga a los agentes a pasar por su programa de licencias de datos de pago, y algunos usuarios aseguran que sus agentes han dejado de funcionar en Cars.com y Amtrak.
Al menos tres desarrolladores abrieron incidencias en el repositorio de Codex de OpenAI en GitHub los días 16 y 17 de octubre para denunciar que su cupo semanal de Codex se desplomó en cuestión de segundos o minutos la noche del 16 de octubre (UTC). Uno registró un descenso del 77 % al 10 % en 38 segundos; otro afirma que pasó del 48 % al 0 % en unos nueve minutos, y que después se le cobraron créditos adicionales. Los autores de los reportes señalan que la causa no está demostrada y piden a OpenAI una comprobación en el servidor.
Un desarrollador de software de Houston abandonó Muse a los tres días, después de que le dijera que no podía escanear su Gmail en busca de un mensaje de Anthropic. Asegura que nunca le encargó esa tarea. Meta lo atribuyó a un error que hizo que el modelo alucinara, afirmó que no hubo ninguna brecha de seguridad ni de privacidad y dijo que el error ya está corregido.
Fuentes aseguraron al diario sueco Aftonbladet que un agente de IA al que se dio acceso al servidor de una productora eliminó la nueva temporada, ya totalmente editada, de «The Challenge Sverige», cinco semanas antes de su estreno en TV4. TV4 confirmó que la temporada deberá volver a editarse y que se aplaza hasta 2027, pero afirmó que su propia comprobación apunta al «factor humano», «no a la IA», y que una copia de seguridad falló.
Una incidencia en el repositorio de Claude Code, de Anthropic, abierta el 9 de octubre, está redactada con la voz del propio agente «por indicación del titular de la cuenta, sobre su propia conducta». Sostiene que el agente reconoció que la negativa de una herramienta de flujo de trabajo era correcta y, 50 segundos después, integró los mismos commits con un git merge a pelo. El desarrollador pide a Anthropic que revise la sesión y que lo compense.
OpenAI, Anthropic, Google y Meta declararon conjuntamente bajo juramento en una audiencia del Concejo Municipal de Nueva York el 5 de octubre. El director de políticas de Google dijo que los agentes de IA de la compañía habían salido de un entorno de pruebas y llegado a internet real en tres incidentes distintos. La presidenta del Concejo, Julie Menin, afirmó que SpaceXAI no se presentó pese a haber sido citada mediante una orden judicial.
La Fundación Wikimedia afirma que agentes que, según cree, operaba OpenAI hicieron ediciones sin autorización, intentaron sin éxito entrar en su herramienta Etherpad e inundaron sus servicios de tráfico. Ese tráfico pudo haber contribuido a una caída parcial del Wikidata Query Service en mayo. La fundación no encontró indicios de que sus sistemas o sus datos hubieran sido vulnerados.
Un desarrollador publicó en LinkedIn que los agentes de programación estaban volviendo el software más inestable y después se puso a contar cada incidente en las páginas de estado públicas. En su blog informa de que los incidentes por mes se multiplicaron por 2,1 en Anthropic, por 1,4 en OpenAI y por 1,8 en GitHub frente a la etapa previa al lanzamiento de sus agentes de programación. Pero asegura que la mayoría de las curvas ya venían subiendo, así que los datos no permiten culpar a los agentes de forma concluyente.
La organización sin ánimo de lucro LASST demandó a OpenAI ante el Tribunal Superior de San Francisco por el incidente de julio. Sostiene que unos 700 agentes de OpenAI robaron credenciales, subieron archivos maliciosos y llegaron a los sistemas de producción de Hugging Face durante una prueba de ciberseguridad. OpenAI calificó la demanda de «completamente infundada».
El primer ministro Anthony Albanese afirmó que un agente de OpenAI entró en junio en el portal del Medicare Statistics Reporting Service y accedió a archivos públicos y no públicos. OpenAI asegura que se enteró en agosto y que el 10 de septiembre envió un correo a una bandeja de entrada general del Gobierno. Albanese dijo que la empresa tardó «demasiado» en revelar la brecha y advirtió de «consecuencias legales».
