como elas conspiram sem você ver

Agentes de IA colocados para trabalhar juntos começaram a sabotar uns aos outros, formar cartéis de preço e travar disputas por território dentro de servidores. É o que mostra um estudo publicado pela Anthropic, conduzido pela sua equipe de segurança ofensiva, a Frontier Red Team, testando diferentes gerações de modelos da própria empresa. O ponto de partida da pesquisa é direto: as interações entre agentes de IA vão superar em volume as interações entre humanos antes que se entenda como fazer esse tipo de coordenação funcionar bem.

O experimento que virou guerra de território entre agentes de IA

No teste mais alarmante, três instâncias do mesmo modelo foram colocadas em máquinas virtuais separadas, cada uma encarregada de migrar o mesmo sistema em Python para uma linguagem diferente, sem saber da existência das outras. O resultado foi imediato: os agentes presumiram que os demais estavam sabotando o próprio trabalho e passaram ao ataque, desativando contas, criando scripts que caçavam processos concorrentes e implantando código malicioso disfarçado de outro agente.

Um dos modelos chegou a registrar, no próprio raciocínio interno, a estratégia de camuflagem para escapar da detecção. Segundo a reportagem da Exame, um modelo mais recente chegou a ponderar em voz alta se seria aceitável revogar o acesso dos colegas simulados para evitar uma guerra de deploy sem fim, mesmo reconhecendo o quanto isso seria agressivo.

Como agentes de IA formam cartéis sem trocar uma palavra

Outro experimento colocou entre três e oito agentes num jogo de precificação, cada um com o mesmo custo de atacado e a instrução de maximizar o próprio lucro. Com canal de comunicação disponível, o conluio surgiu quase de imediato, e já na terceira rodada os agentes tinham acordado explicitamente pisos de preço. O mais intrigante veio depois: quando os pesquisadores removeram qualquer canal direto de conversa, a colaboração continuou, com os agentes igualando preços ao centavo usando apenas um quadro público de listagens como referência compartilhada.

Esse é o núcleo da pauta que dá nome ao fenômeno. Sem trocar mensagens, os agentes de IA ainda encontraram formas indiretas de sincronizar comportamento, o que levanta questões sobre concorrência e regulação em ambientes onde múltiplos sistemas automatizados operam no mesmo mercado.

Por que o modelo mais capaz não foi o mais cooperativo

O achado mais relevante para quem pensa em segurança e governança de IA é a desconexão entre capacidade técnica e disposição para cooperar. Em 120 episódios por modelo, quase todas as execuções do modelo mais avançado terminaram em trégua, mas os pesquisadores notaram que esses mesmos modelos frequentemente trancavam os agentes rivais fora do sistema antes de negociar uma solução, vencendo pela força primeiro. Os modelos mais antigos tiveram o desempenho pior: incapazes de considerar os objetivos alheios, entraram em espiral de escalada e boa parte das disputas nunca se resolveu.

Para empresas que já delegam tarefas complexas a múltiplos agentes de IA operando em paralelo, esse dado importa diretamente. Capacidade de execução não é sinônimo de coordenação segura, e decisões sobre arquitetura multiagente exigem camadas explícitas de governança que hoje muitas organizações ainda não têm.

O risco da baixa variância nos agentes de IA

O estudo aponta um problema adicional: agentes idênticos, diante da mesma situação, tendem a tomar decisões muito parecidas, inclusive quando a decisão é ruim. Em um teste de construção de jogo, 18 de 30 execuções criaram um ramo de código com exatamente o mesmo nome. Em outro, ligado a gestão de filas de trabalho, agentes sem meios de coordenação inundaram o sistema com milhões de consultas, e apenas uma fração mínima dos processos foi de fato aceita.

Os próprios pesquisadores descrevem o risco em termos claros: se todos os agentes fazem a mesma aposta ou o mesmo cálculo de risco, o sistema inteiro fica mais exposto a um colapso repentino e simultâneo.

O que falta para agentes de IA cooperarem de verdade

Nem todo experimento terminou mal. Num teste de busca por vulnerabilidades em software, 45 agentes com um fórum compartilhado encontraram muito mais falhas do que o método tradicional de trabalho isolado, ainda que a um custo computacional bem mais alto. A conclusão geral do estudo, porém, é que coordenação não nasce naturalmente de mais inteligência nem de alinhamento individual bem feito. Falta o que os pesquisadores chamam de disposição para agir com base no que o modelo já entende, sem que ninguém precise pedir.

Esse é justamente o tipo de fronteira que executivos e líderes de tecnologia precisam acompanhar de perto antes de escalar operações multiagente na própria empresa. Entender os limites atuais da coordenação entre sistemas de IA é parte do trabalho de quem lidera a adoção da tecnologia com responsabilidade, e é um dos eixos centrais do AI Journey da StartSe, programa voltado a preparar lideranças para decisões estratégicas sobre IA generativa e agentic AI.