Antes de concluir as investigações acerca da invasão do ChatGPT à Hugging Face, a OpenAI lançou uma atualização sobre o progresso nesta sexta-feira (25). A desenvolvedora da inteligência artificial (IA) está notificando organizações cujos sites foram afetados por interações indevidas de seus modelos.
A “grande maioria” das ações analisadas pela OpenAI até agora foram execuções de tarefas mundanas, como tarefas de pesquisa rotineiras e busca de conteúdo disponível publicamente na web para responder perguntas, afirmou a empresa. O foco da investigação é observar os casos em que os agentes de IA interagiram com sites de terceiros “de maneiras que extrapolaram as tarefas atribuídas ou os métodos previstos”.
Segundo a empresa, desses casos identificados, a maioria foi de baixa gravidade e apresentou pouca ou nenhuma evidência de impacto significativo. A empresa conduzirá uma análise sobre cada incidente, portanto o trabalho levará meses para ser concluído.
Dentre os sites que o ChatGPT interagiu de forma indevida estão sites mantidos por governos, universidades, agências públicas e outras instituições. De acordo com a OpenAI, isso acontece porque os modelos recorrem às autoridades como fontes de informação pública.
A empresa ressalta, porém, que a notificação não deve ser interpretada como um alerta de incidente de segurança significativo.
“Algumas organizações podem analisar o que compartilhamos e concluir que as informações eram intencionalmente públicas ou que a intenção do modelo não apresentava riscos. Outras podem identificar uma falha de projeto ou uma vulnerabilidade de segurança que desejam corrigir”, disse a OpenAI.
A OpenAI também avalia quais casos atendem aos critérios de divulgação pública. Os nomes das organizações afetadas não foram divulgados.
Quer ficar por dentro das novidades do mundo da tecnologia? Acesse o TecMundo e acompanhe as últimas notícias sobre OpenAI, ChatGPT e cibersegurança.
