Eleições 2026: Especial do TecMundo traz propostas de candidatos sobre IA, tecnologia e games
O TecMundo produziu uma série de matérias mostrando o que candidatos à presidência com maior intenção de voto pensam e prometem sobre o tema tecnologia, intelig.
Mais de 100 organizações de todo o mundo foram notificadas pela OpenAI sobre a possibilidade de terem sido alvo de “atividades não autorizadas” de seus agentes de inteligência artificial (IA). A empresa revelou os primeiros detalhes do caso nessa quinta-feira (1º).
Segundo a desenvolvedora do ChatGPT, os alertas fazem parte de uma ampla investigação iniciada após o ataque dos bots autônomos à plataforma Hugging Face, em julho. A startup quer saber até que ponto seus modelos mais avançados podem agir de maneira inesperada quando conseguem acesso à internet e sistemas externos.
Análise pode durar meses
Nos incidentes notificados pela empresa, os agentes de IA podem ter burlado mecanismos de segurança ou causado diferentes tipos de impactos nos sistemas externos que miravam. Um dos efeitos seria a derrubada momentânea de um serviço online, por exemplo.
- A companhia ressalta que tais invasões não necessariamente resultaram no acesso a dados sigilosos;
- Essas organizações foram avisadas imediatamente após a identificação de incidentes que representavam algum tipo de risco;
- Mais notificações podem acontecer à medida que a investigação avance, não havendo um prazo mais exato para que o trabalho termine;
- Como a análise abrange aproximadamente 50 petabytes de dados, estima-se que a revisão completa leve meses para ser concluída.
“Em alguns casos, os modelos usaram o acesso à internet de maneiras não previstas ou, em retrospectiva, não tiveram as restrições ideais aplicadas. Nos últimos meses, temos aplicado novas medidas técnicas e operacionais para evitar problemas semelhantes ou detectá-los precocemente, e continuaremos esse trabalho”, explicou a OpenAI, em comunicado.
Ao final, a desenvolvedora deve divulgar um relatório mais completo direcionado às organizações que sofreram ataques dos agentes de IA maliciosos. Mas ela também planeja apresentar os resultados de maneira geral para o público.
Custos elevados
Para analisar essa enorme quantidade de dados e descobrir mais detalhes sobre o comportamento dos agentes autônomos, a empresa depende de uma grande capacidade computacional. E isso tem um custo significativo: US$ 500 mil por dia, no mínimo, o equivalente a R$ 2,6 milhões pela cotação atual.
O processo envolve triagem inicial com sistemas de IA, seguido por mais duas revisões automatizadas dos casos que representem comportamento malicioso dos bots. Por fim, investigadores humanos analisam os registros, reconstroem os caminhos e determinam se a notificação é necessária ou não.
“Algumas notificações podem se referir a eventos ocorridos meses atrás. Deixaremos claro quando a atividade aconteceu, quando a detectamos, o que sabemos e o que ainda permanece incerto”, afirmou a OpenAI.
Em um dos casos mais recentes, os agentes da IA tentaram acessar dados de sites do governo do Canadá. Saiba mais nesta matéria.
Com informações de Reuters.
