Agentes de inteligência artificial (IA) criados e mantidos pela OpenAI tentaram realizar ataques diversos contra serviços da Wikimedia Foundation. A denúncia é da própria organização sem fins lucrativos, que cuida de páginas como a enciclopédia gratuita e colaborativa Wikipédia.
De acordo com uma publicação da companhia, uma investigação interna encontrou três tipos de atividade ilícita provocada por agentes de IA da dona do ChatGPT:
- Realização de edição em wikis da Wikimedia por agentes de IA dentro de espaços de teste não disponíveis ao público e edições na configuração de uma ferramenta de citação, além de tentativas de “utilizar a ferramenta indevidamente como um intermediário” para obter dados de serviços remotos;
- Tentativas de comprometer o acesso ao Etherpad, um serviço comunitário de criação de notas, e usá-lo “como proxy para obter dados de outros sites” ou apenas para “fazer anotações sobre suas tarefas”;
- O download excessivo de dados por agentes a partir de milhões de pedidos automáticos de acesso à API pública da plataforma, inclusive no Wikidata e no Wikimedia Commons, gerando um aumento de tráfego e custos de manutenção ou hospedagem.
A Wikimedia diz não ter encontrado evidências de que os sistemas dela foram usados para coordenação ou comunicação entre agentes, como outra wiki de origem alemã, e nem que sistemas ou dados foram comprometidos — caso do repositório Hugging Face, incidente mais notável desse tipo de comportamento agêntico.
Atualmente, a Wikipédia proíbe criação e edição de artigos por IA generativa e tem problemas constantes nos servidores pelos acessos massivos de bots de “raspagem” de dados para treinamento, apesar de ter uma subdivisão que cobra de algumas empresas de IA por acesso massivo aos conteúdos de seus textos.
Empresas como a OpenAI devem ser responsabilizadas?
A Wikimedia também reclama que a OpenAI ainda não foi responsabilizada o suficiente pelo impacto causado pelos agentes, inclusive para desenvolver sistemas de monitoramento e prevenção, e que o trabalho até agora tem sido todo direcionado para as empresas afetadas.
A organização ainda se diz “preocupada” com a situação atual do mercado, em especial por ter um serviço que é mantido majoritariamente por humanos, mas que agora conta com uma enorme tentativa de acesso e manipulação de conteúdos por IAs.
“A web aberta é um bem público. Não devemos permitir que esse comportamento se torne o ‘novo normal’ para as pessoas ou organizações que a mantêm”, diz o comunicado.
Até agora, a OpenAI só foi processada por um grupo de advogados na Califórnia pela atividade criminosa de agentes, além de ser investigada por um órgão do governo dos EUA. Empresas como Anthropic e Meta também já confirmaram comportamentos “rebeldes” de seus robôs, a maioria durante testes de segurança, mas ainda sem consequências jurídicas.
A própria OpenAI chegou a pausar o desenvolvimento de alguns modelos pelo alto risco deles, além de criar diretrizes de proteção e estar em constante comunicação com companhias afetadas por essas ações.
Seguindo por outro caminho, a Nvidia desenvolveu ferramentas que ajudam a prevenir, monitorar e impedir o comportamento possivelmente perigoso de robôs, já com o apoio de várias empresas da área.
Como lidar com os riscos apresentados pelos agentes de IA? Confira um ponto de vista sobre o tema nesta coluna!
