Inteligência artificial pode reduzir abusos na Internet

Um sistema utilizado pela Riot Games, desenvolvedora do League of Legends, pode ajudar a reduzir abusos na Internet. Nos últimos anos, a empresa testou a inteligência artificial↳Inteligência artificial440 conteúdosUX e IA: Transformando Experiências Digitais com Inteligência ArtificialProduto & UX · jan 2025MCP: O que é e por que você vai ouvir falar disso em breve?AI · jul 2025IA generativa e a urgência de reconstruir nossa relação com a verdadeAI · jun 2025Ver tudo em AI → para monitorar a comunicação entre os jogadores, punindo comportamentos negativos e recompensando os positivos.

De acordo com Jeffrey Lin, chefe de sistemas sociais da Riot, 92% dos jogadores punidos não reincidem na violação. “Os desafios que enfrentamos em League of Legends podem ser vistos em qualquer jogo online, plataforma, comunidade ou fórum. Por isso, estamos dispostos a compartilhar os nossos dados e as melhores práticas com o setor industrial. Esperamos que outros estúdios e empresas percebam que a toxicidade online não é um problema impossível de se resolver”, afirmou.

O jogo usa a inteligência artificial para identificar linguagem negativa em 15 idiomas e pode oferecer uma resposta aos jogadores em 5 minutos. Antes, o processo era feito manualmente e podia levar até uma semana para ser finalizado. Quem é identificado tendo um comportamento abusivo na plataforma pode enfrentar limitações nos recursos de bate-papo e até ser proibido de prosseguir se não completar jogos sem nenhum incidente.

“Uma das ideias cruciais é de que o comportamento abusivo não vem necessariamente de pessoas terríveis; ele vem de pessoas comuns que têm um dia ruim. Isso significa que as estratégias para lidar com o comportamento tóxico na web precisam dar conta de nossa tendência humana coletiva de permitir que o pior de nós mesmos a apareça sob o anonimato da internet”, explicou Justin Reich, do Centro Berkman de Harvard, que tem estudado o trabalho da Riot.

Um dos principais desafios do sistema é a análise de contexto. Nos jogos, os usuários podem acabar utilizando palavras e expressões que, em outras situações, poderiam ser consideradas cruéis e abusivas, mas não na plataforma. As máquinas, no entanto, não são capazes de compreender o sarcasmo. Essa é a barreira mais significativa na utilização da inteligência artificial para analisar violações na rede.

Para solucionar a dificuldade e aumentar a precisão nas escolhas, a equipe da Riot usa mais de um sistema para chegar a uma decisão, mesmo que o jogador tenha tido um comportamento considerado negativo por um deles.

Com informações de Olhar Digital