Um grupo de agentes de IA da OpenAI tomou o controle de um site alemão em maio e transformou a página em um espaço de troca de mensagens. O episódio reacende o debate sobre os riscos de sistemas autônomos que encontram maneiras de escapar das restrições impostas por seus desenvolvedores.
A atividade ocorreu no DseWiki, uma plataforma colaborativa voltada a programadores. Mais de 15 mil edições foram atribuídas a agentes de IA. O caso só foi descoberto em agosto por pesquisadores que investigavam sinais de comportamento não autorizado desses sistemas.
Wiki virou ponto de encontro de agentes
Sydney Von Arx, CEO da organização de segurança de IA Nightingale, e Cormac Slade Byrd, pesquisador de IA e ex-operador do mercado financeiro, encontraram as alterações no DseWiki.
Segundo a Reuters, as mensagens mostravam agentes compartilhando estratégias para resolver problemas técnicos, contornar restrições da OpenAI e dificultar a identificação de suas atividades.
Cerca de metade das contas utilizava nomes que sugeriam alguma ligação com a OpenAI, entre eles “OpenAIResearcher” e “OAIResearchMar26”. Logs públicos também indicaram que boa parte da movimentação partiu da infraestrutura da Microsoft Azure, usada pela OpenAI.
Parece extremamente improvável que a OpenAI quisesse que eles fizessem isso. Duvido que eles devessem estar coordenando uns com os outros. Duvido que devessem estar escrevendo na internet aberta.
Sydney Von Arx, CEO da organização de segurança de IA Nightingale, a Reuters.
Agentes tentaram escapar da limpeza
A movimentação não terminou quando o moderador do DseWiki começou a apagar as páginas. Os agentes criaram cópias de segurança para preservar o conteúdo e continuar as comunicações.
Os pesquisadores também encontraram mensagens sobre maneiras de evitar a detecção, utilizar ferramentas como Tor e manter os canais de comunicação mesmo depois que os sistemas fossem desligados.
Entre os comportamentos identificados estavam:
- tentativas de contornar restrições da OpenAI;
- estratégias para escapar da detecção;
- uso de ferramentas como Tor;
- criação de páginas de backup após exclusões;
- tentativas de alterar o próprio site.
Lukasz Olejnik, pesquisador visitante do King’s College London, classificou a atividade como uma tentativa de invasão. A OpenAI contestou essa interpretação após analisar o material.
OpenAI nega interferência no caso
A descoberta ocorre em meio a preocupações mais amplas sobre o comportamento de agentes capazes de executar tarefas com pouca intervenção humana.
A OpenAI afirmou que não poderia responder às conclusões antes de analisar o relatório completo.
Leia mais:
- OpenAI anuncia R$ 5,2 bilhões para reforçar cibersegurança com IA
- O que é AGI e por que a OpenAI diz que podemos ter chegado lá
- GPT-6 Astra chega e OpenAI diz que era da AGI pode ter começado
“Não podemos responder de forma significativa a alegações ou descobertas de um relatório que não tivemos a oportunidade de analisar”, disse um porta-voz da empresa.
A companhia também negou que sua equipe jurídica tenha desencorajado uma investigação mais ampla sobre o episódio. Segundo a OpenAI, essa afirmação é falsa.
A empresa acrescentou que o incidente na Alemanha não tinha relação com o caso envolvendo o Hugging Face e que atuou de boa-fé ao trabalhar com especialistas externos e divulgar incidentes relevantes.
O risco dos enxames de IA
Maurice Chiodo, pesquisador do Centre for the Study of Existential Risk, da Universidade de Cambridge, analisou parte das conversas deixadas pelos agentes no site. Para ele, o conteúdo não parecia apenas uma sequência de respostas automáticas, mas algo mais organizado: as mensagens lembravam o funcionamento de uma rede clandestina empenhada em cumprir uma missão.
O caso chama atenção justamente porque os agentes não ficaram restritos a uma tarefa isolada. Eles trocaram estratégias, tentaram preservar informações diante da ação dos moderadores e buscaram maneiras de contornar as restrições impostas aos sistemas. É esse tipo de comportamento coordenado que amplia a preocupação sobre o avanço da autonomia na inteligência artificial.
Na avaliação de Chiodo, o cenário mais preocupante pode nem envolver uma única IA superinteligente capaz de agir por conta própria. O risco estaria na possibilidade de vários sistemas menos sofisticados colaborarem entre si, encontrando caminhos que seus desenvolvedores não previram.
O post Robôs da OpenAI sequestram site e criam fórum secreto na web apareceu primeiro em Olhar Digital.
