Na manhã em que é preso, Josef K. descobre que existe um processo contra ele e que ninguém está disposto a lhe dizer do que se trata. Já recorri a Kafka em texto anterior desta coluna e repito a ilustração de propósito, porque os casos também se repetem. Kafka escreveu O Processo há mais de cem anos, e a notificação de um perfil derrubado parece ter sido redigida pelo mesmo departamento. A diferença é que hoje o departamento é um sistema. Quem já teve uma conta suspensa conhece o roteiro: o acesso some, a mensagem é genérica, o motivo não aparece e o canal de recurso nem sempre responde.
Em segurança da informação, existe vocabulário para isso: controle de acesso, trilha de auditoria, gestão de incidentes, falso positivo. A suspensão de uma conta é um evento de controle de acesso. Sem registro compreensível do motivo, o titular não consegue corrigir, contestar nem saber se foi vítima de um erro humano, de um classificador automático ou de uma campanha coordenada de denúncias, vetor de abuso conhecido dos mecanismos de report. Em escala, as plataformas combinam detecção automatizada e revisão humana, e errar é inevitável. O que importa é o que acontece depois do erro: quem é notificado, com qual explicação, por qual canal, em quanto tempo e com que chance de revisão. Isso é devido processo, mas também é desenho básico de sistema. Para empresas, criadores e jornalistas, perder uma conta é um incidente de disponibilidade, e, no caso das contas de anúncios, envolve ainda dinheiro e dados de pagamento.
Nas últimas semanas, o roteiro se repetiu com perfis de jornalismo, uma conta de anúncios de campanha e vídeos de criadores de conteúdo, no Instagram e no Facebook. Num perfil, a justificativa foi apenas que o conteúdo “não segue os padrões” da plataforma, sem indicar qual. Em outros casos, a empresa alegou aplicar uma regra eleitoral sobre uso de inteligência artificial, afirmou depois que não havia violação, restaurou uma publicação e a derrubou de novo. Em vários, a conta voltou em poucas horas, com um pedido de desculpas pela inconveniência.
Para medir o problema, em vez de apenas lamentá-lo, o IRIS, instituto em que sou pesquisador, lançou oficialmente ao público, em 1º de outubro, o Observatório da Moderação de Conteúdo. Trata-se de um painel de dados, parte do projeto Tropicália-IA, com financiamento da Luminate e do Instituto Beja, funciona como uma auditoria externa, do tipo caixa-preta. A equipe analisa os sítios oficiais de YouTube, Instagram, TikTok, Facebook e X, complementa a análise com pedidos de informação e repassa os resultados às empresas antes da publicação, para que possam corrigir ou complementar os dados. Depois, testa o sistema na prática: cria perfis e publica conteúdos fictícios sobre desinformação eleitoral e violência política de gênero, para observar o que acontece com a moderação.
Resolução TSE nº 23.610/2019
O parâmetro normativo é a Resolução TSE nº 23.610/2019, com as alterações da Resolução nº 23.755/2026, em especial o art. 9º-D, incisos I a VI, e o art. 9º-E, que fixam obrigações de transparência para as plataformas. Foram 40 avaliações, resultado de oito obrigações em cada uma das cinco empresas. Só 19 (47,5%) foram cumpridas integralmente, 45% parcialmente e 7,5% descumpridas. A menos atendida é a prestação de contas sobre os resultados da moderação contra a desinformação eleitoral, o equivalente a operar um sistema sem relatório de incidentes.
Nos testes, TikTok e YouTube removeram o conteúdo observando o devido processo, com notificação, fundamentação, recurso e prazos. No dia seguinte ao lançamento, 2 de outubro, Facebook e Instagram, ambos da Meta, removeram e limitaram o alcance dos conteúdos de teste, e a avaliação do respeito ao devido processo nesses casos está em análise e será divulgada em breve. Até o momento, apenas o X manteve os conteúdos no ar, mesmo depois de denúncias pelos canais da plataforma e de tentativas de contato direto da equipe.
A amostra é pequena, e o painel a apresenta como resultado parcial. Os dados foram organizados em um painel construído com auxílio de inteligência artificial e revisado em detalhe pela equipe do projeto, formada atualmente por Fernanda Rodrigues, Rafaela Ferreira, Lauro Accioly e por mim, e que já contou com Paloma Rocillo e Luiza Dutra. O resultado de momento pode ser conferido aqui.
Comecei com Kafka e fecho com Nietzsche, autor da ideia de eterno retorno. Em linguagem de programador, essa repetição infinita é um loop sem condição de saída: o perfil cai, volta, a empresa pede desculpas, ninguém explica nada e o caso seguinte reproduz o anterior. Josef K. nunca descobriu do que era acusado. O Observatório não pretende quebrar o loop sozinho, mas, se ele vai rodar de novo, que ao menos fique registrado, comparado e cobrado.
