No começo deste ano, o CEO da Meta, Mark Zuckerberg, anunciou uma grande mudança nas plataformas Facebook e Instagram. O sistema de verificação de fatos (fact-checking), realizado por terceiros, está sendo oficialmente descontinuado.

A verificação será substituída por um modelo baseado em notas da comunidade, semelhante ao usado na rede social X, antigo Twitter.

Diante deste cenário, Adrianus Warmenhoven, especialista em segurança cibernética da NordVPN, analisou dados agregados de milhares de fóruns na dark web para ver o perigo que a desinformação pode representar para os usuários de mídia social nos próximos meses.

Verificação de fatos

A decisão da Meta significa que a empresa de mídia social começará a eliminar gradualmente o programa de verificação de fatos de terceiros.

O CEO da Meta, Mark Zuckerberg, citou o resultado da eleição presidencial dos EUA de 2024 como um “ponto de inflexão cultural” para priorizar a liberdade de expressão. Ele também expressou preocupações sobre o viés percebido dos verificadores de fatos.

O novo sistema de “Notas da Comunidade” depende dos usuários para sinalizar e fornecer contexto para informações potencialmente enganosas. Desde que a plataforma de mídia social X/Twitter introduziu um método semelhante de regulamentação, houve um aumento nas informações falsas circulando na internet.

Adrianus Warmenhoven, especialista em segurança cibernética da NordVPN, analisou dados agregados de milhares de fóruns na dark web para ver o perigo que a desinformação pode representar para os usuários de mídia social nos próximos meses.

“A decisão da Meta de se afastar da verificação de fatos é um movimento monumental para permitir a disseminação de desinformação. A dark web oferece insights valiosos sobre porque a desinformação é tão valiosa para os criminosos cibernéticos.”, afirma Adrianus.

Ele acrescenta que “já estamos saudando o surgimento iminente de uma nova estratégia obscura sendo implantada por usuários e organizações mal-intencionados – a desinformação como serviço.”

Ele explica que “de acordo com o Relatório de Riscos Globais de 2024, do Fórum Econômico Mundial, a desinformação gerada por IA é classificada como o segundo risco global mais grave (53%) nos próximos dois anos. A ameaça da desinformação só perde para o aquecimento global.”

Para ele, a “a dark web está cheia de táticas projetadas para espalhar desinformação, incluindo o uso de milhares de contas falsas de mídia social e vários e-mails de spam que disseminam propaganda.”

(continua após a imagem)

Desinformação

Pode parecer estranho, mas já existem, segundo Adrianus, fazendas de bots para espalhar desinformação:

“Estamos até mesmo vendo fazendas de bots de desinformação que estão sendo desenvolvidas para distribuir informações falsas em grande escala. Dar um passo para trás na regulamentação da mídia social torna esses mecanismos de notícias falsas imparáveis.”

O especialista refleta também sobre as tendências atuais de desinformação:

“Prevemos que a desinformação como serviço surgirá como uma ameaça significativa nos próximos meses, à medida que a Meta começa a eliminar gradualmente seu programa de verificação de fatos.”

Ele explica que “a tecnologia de desinformação e seus criadores lucram com a criação e disseminação de informações falsas. Este serviço altamente personalizável e adaptável permite a segmentação precisa de perfis demográficos e a manipulação de algoritmos de mídia social para maximizar o impacto.”

Para Adrianus, “analistas de segurança cibernética não estão tentando alarmar quando alertam sobre os perigos do abandono da verificação de fatos.” Ele avisa que, “além de querer mitigar a disseminação de conteúdo prejudicial, a regulamentação é importante para dificultar a capacidade de os hackers de obter insights sobre outros usuários e impede que usuários mal-intencionados influenciem o discurso social e a política.”

O tema liberdade de expressão tem sido usado por diversos grupos para justificar as informações que querem espalhar nas redes, mas Adrianus alerta:

“A liberdade de expressão é importante, mas os consumidores devem estar cientes que, sem as precauções necessárias, ela também dá aos criminosos a liberdade de operar.”