As redes sociais estão usando a nova tecnologia de inteligência artificial para limpar mensagens falsas ou de discurso de ódio. Um vídeo da conta de Olavo de Carvalho foi retirado após ele dizer que não existe coronavírus. E os twitters de Flavio Bolsonaro e Ricardo Salles foram paralisadas por 12 horas após quebra de regras da plataforma. Grande parte dessas correções passa por um sistema e depois é filtrada por moderadores manuais. Infelizmente, com a pandemia do coronavírus, muitos moderadores estão em casa. A falta desses funcionários esta sobrecarregando os sistemas automáticos, levando-os a cometer erros.
Com mais 1,7 bilhão de pessoas sob quarentena, as redes sociais se tornaram o principal meio de comunicação. O Facebook vem tomando essa frente, melhorando o seu sistema e oferecendo serviços gratuitos para ajudar associações médicas a utilizarem o Messenger. Além de ter disponibilizado um centro de informações sobre como enfrentar a Covid-19. Mas com a alta de demanda, o seu sistema de gerenciamento de postagens está em crise. Esse erro de sistema está retirando postagens e vídeos legítimos da rede, segundo o site Recode.
Outras plataformas, como o Youtube e o Twitter, também estão tendo problemas com as suas áreas de inteligência artifical aplicada aos mecanismos de manutenção. Segundo os perfis oficiais das redes, as falhas são uma decorrência da falta de moderadores manuais, uma vez que o sistema não é totalmente eficiente. Para tentar resolver esses problemas o Youtube está atualizando a sua plataforma; e o Twitter decidiu que não suspenderá nenhuma conta permanentemente. Já o Facebook está adaptando seus processos internos para que os moderadores possam trabalhar de suas casas.
O moderador online é essencial para manter um espaço saudável para todos os usuários nas redes sociais. Mas por terem um sistema de correção técnico, não conseguem identificar o contexto social em que uma mensagem está inserida. As máquinas ainda dependem dos seres humanos para atuarem com perfeição.