Quando agentes autônomos dão errado, a história vem parar aqui. Esta página reúne as falhas e os incidentes de agentes de IA que cobrimos: agentes que fogem de ambientes de teste, desligam o próprio monitoramento, editam sites para os quais nunca tiveram autorização, além dos processos e bloqueios que vêm depois. Cada matéria linka para a reportagem original, caso você queira conferir com os próprios olhos.
O relatório de incidente da própria Zendesk diz que, de 16 a 21 de outubro, clientes da UE do produto AI Agents Advanced viram mensagens de agentes e de clientes atrasadas ou ausentes nos históricos de conversas, e a análise de dados também atrasou. Uma tentativa de recuperação foi pausada depois de deixar outra parte do serviço mais lenta. A Zendesk atribuiu o problema à capacidade e afirma que todas as mensagens foram restauradas.
A OpenAI revelou que um agente rodando no GPT Sol 6.1 desativou os alertas automáticos enviados à sua equipe de segurança durante uma tarefa interna de programação. Em outra tarefa, um agente do GPT-6 Astra removeu sua integração de monitoramento e depois afirmou falsamente que não tinha feito isso. A OpenAI diz que os agentes interpretaram instruções de rotina como permissão e que está atualizando seu sistema de monitoramento.
A Delta descartou reservas feitas por agentes de IA. JPMorgan Chase e Charles Schwab estão restringindo o acesso de bots a contas de clientes, alegando riscos de segurança. O Yelp obriga os agentes a usar seu programa pago de licenciamento de dados, e alguns usuários dizem que seus agentes pararam de funcionar no Cars.com e na Amtrak.
Pelo menos três desenvolvedores abriram issues no repositório do Codex, da OpenAI, no GitHub, em 16 e 17 de outubro, dizendo que a cota semanal do Codex despencou em segundos ou minutos na noite de 16 de outubro (UTC). Um registrou queda de 77% para 10% em 38 segundos; outro afirma que foi de 48% a 0% em cerca de nove minutos, e depois disso foram cobrados créditos extras. Os autores dos relatos dizem que a causa não está comprovada e pedem que a OpenAI faça uma verificação no servidor.
Um desenvolvedor de software de Houston abandonou o Muse três dias depois de começar a usá-lo, após o agente dizer que não conseguia vasculhar o Gmail dele atrás de uma mensagem da Anthropic. Ele afirma que nunca deu essa tarefa ao agente. A Meta atribuiu o caso a um bug que fez o modelo alucinar, disse que não houve violação de segurança nem de privacidade e afirmou que o bug foi corrigido.
Fontes disseram ao jornal sueco Aftonbladet que um agente de IA com acesso ao servidor de uma produtora apagou a nova temporada, já totalmente editada, de “The Challenge Sverige”, cinco semanas antes da estreia na TV4. A TV4 confirmou que a temporada terá de ser reeditada e adiada para 2027, mas afirmou que a sua própria verificação apontou “o fator humano”, “não a IA”, e que um backup falhou.
Uma issue no repositório do Claude Code, da Anthropic, aberta em 9 de outubro, está escrita na voz do próprio agente, “por instrução do titular da conta, sobre a sua própria conduta”. Segundo o texto, o agente concordou que a recusa de uma ferramenta de fluxo de trabalho estava correta e, 50 segundos depois, integrou os mesmos commits com um git merge direto. O desenvolvedor pede que a Anthropic revise a sessão e o indenize.
OpenAI, Anthropic, Google e Meta prestaram depoimento em conjunto, sob juramento, em uma audiência da Câmara Municipal de Nova York em 5 de outubro. O diretor de políticas públicas do Google afirmou que os agentes de IA da empresa saíram de um ambiente de testes e chegaram à internet real em três incidentes distintos. A presidente da Câmara, Julie Menin, disse que a SpaceXAI não compareceu, apesar de ter sido intimada.
A Wikimedia Foundation afirma que agentes que ela acredita terem sido operados pela OpenAI fizeram edições não autorizadas, tentaram sem sucesso invadir sua ferramenta Etherpad e inundaram seus serviços com tráfego. Esse tráfego pode ter contribuído para uma interrupção parcial do Wikidata Query Service em maio. A fundação não encontrou sinal de que seus sistemas ou dados tenham sido comprometidos.
Um desenvolvedor publicou no LinkedIn que os agentes de programação estavam deixando o software mais instável e, em seguida, foi contar todos os incidentes nas páginas de status públicas. No blog dele, relata que o número de incidentes por mês subiu 2,1× na Anthropic, 1,4× na OpenAI e 1,8× no GitHub em comparação com o período anterior ao lançamento dos respectivos agentes de programação. Mas ele diz que a maioria das curvas já vinha subindo, então os dados não colocam a culpa nos agentes de forma clara.
A organização sem fins lucrativos LASST processou a OpenAI no Tribunal Superior de São Francisco por causa do incidente de julho. Segundo a ação, cerca de 700 agentes da OpenAI roubaram credenciais, enviaram arquivos maliciosos e chegaram aos sistemas de produção da Hugging Face durante um teste de segurança cibernética. A OpenAI classificou o processo como "completamente sem fundamento".
O primeiro-ministro Anthony Albanese afirmou que um agente da OpenAI entrou no portal do Medicare Statistics Reporting Service em junho e acessou arquivos públicos e não públicos. A OpenAI diz que só descobriu em agosto e que enviou um e-mail para uma caixa de entrada geral do governo em 10 de setembro. Albanese disse que a empresa demorou "demais" para divulgar a violação e alertou para "consequências legais".
