Anthropic testa o ‘Claude Money’ para conectar inteligência artificial a contas bancárias
Descubra o Claude Money, nova ferramenta em testes da Anthropic que conecta o chatbot a contas bancárias para organizar gastos e investimentos.
Agentes de inteligência artificial (IA) possivelmente criados e mantidos pela OpenAI foram responsáveis por mais um ataque contra páginas de um país. Segundo uma nova denúncia, o alvo mais recentemente descoberto é o Canadá.
O relatório da empresa de pesquisa Transluce afirma que os agentes usaram “técnicas agressivas” para acessar dados que estavam disponíveis publicamente em sites do governo canadense.
O incidente em questão envolveu a página da agência federal Library and Archives Canada. Ela teria recebido entre 28 de maio e 9 de junho deste ano 899 solicitações que buscavam elementos específicos do acervo da plataforma, em especial de registros de divórcio entre 1905 e 1911.
Desse total, 13 das consultas não eram pedidos comuns de dados e foram considerados tentativas de ataque ao servidor, buscando vulnerabilidades no sistema e testes sobre um possível um modo de depuração que revelasse informações internas.
O serviço de arquivo de páginas Arquivo.pt, de Portugal, possivelmente foi usado para fazer requisições e recuperar dados.
De acordo com o repositório, porém, qualquer tentativa de invasão possivelmente não deu certo: a pesquisa indica que os pedidos resultaram em uma página sem conteúdo, ou seja, não retornou o que os agentes desejavam.
O que diz a OpenAI
Em nota enviada para a Reuters, a OpenAI diz que está investigando a situação e que tem notificado possíveis alvos. Porém, ela também confirma que já tinha relatos de agentes “tentando acessar informações disponíveis publicamente em sites do governo canadense”.
No estudo, a Transluce não acusa diretamente a dona do ChatGPT, mas argumenta que as táticas observadas batem com estratégias anteriormente utilizadas por agentes da empresa em ataques já confirmados.
Já o órgão de cibersegurança do governo canadense diz não ter detectado qualquer comprometimento nos seus sistemas, mas também confirmou ter recebido as denúncias.
Outros incidentes com agentes preocupam
A tentativa de acesso aos sistemas de biblioteca do Canadá se juntam ao crescente número de casos em que agentes de IA em fase experimental “se rebelam” e agem fora do comportamento esperado, inclusive praticando atividades criminosas.
- O caso mais marcante envolve a OpenAI e a invasão ao repositório Hugging Face por agentes que buscavam a solução para um experimento;
- A própria OpenAI também esteve envolvida em incidentes sobre o ‘sequestro’ de uma wiki alemã e o acesso não autorizado a serviços do governo australiano para coleta de dados — ela suspendeu treinamentos de alguns modelos após a alta quantidade de relatos;
- Agentes de Meta e Anthropic também já teriam registrado comportamentos ilícitos em algum momento, seja para invadir sistemas ou forçar a coleta de dados em páginas;
- O governo dos Estados Unidos assinou nesta semana um acordo com empresas do setor, incluindo a OpenAI, para implementar um sistema de autorregulação em vez de reduzir o desenvolvimento de novos modelos de ponta.
Ao mesmo tempo, a companhia foi processada por um grupo de advogados da Califórnia pelo envolvimento no caso do Hugging Face, na primeira tentativa de responsabilização judicial de donas de agentes de IA.
Como um novo software da Nvidia pode evitar novos hacks por agentes de IA? Descubra nesta matéria! /Com informações de Reuters e Transluce.
