A plataforma de conteúdo e a moderação de discurso
Uma plataforma de vídeos curtos com 8 milhões de usuários no Brasil adota um sistema automático de moderação que remove conteúdo por "discurso de ódio" e "desinformação sobre saúde". No último trimestre, removeu 120 mil vídeos; 18 mil foram contestados e, desses, 7 mil foram restaurados após revisão humana. Um criador com 2 milhões de seguidores teve um vídeo sobre vacinas removido e alega censura. A plataforma recebeu ofício de um órgão público pedindo explicações sobre os critérios. Internamente, a equipe de moderação tem 40 revisores para 8 milhões de usuários e afirma que o volume é "incontrolável". A área jurídica lembra que a plataforma não é obrigada a manter todo conteúdo, mas deve agir com transparência e não pode remover por motivos discriminatórios.
1. Analise os números de remoção e restauração e explique o que eles revelam sobre a qualidade do sistema automático.
Read the worked answer
Das 120 mil remoções, 18 mil foram contestadas (15%) e 7 mil restauradas, o que representa 39% das contestações e cerca de 5,8% de todas as remoções. Isso indica erro relevante: se quase quatro em cada dez contestações são procedentes, o sistema automático tem precisão limitada e há risco de remover conteúdo legítimo. O número de restaurações é um piso, pois nem todo usuário contesta. A conclusão é que a automação deve ser tratada como triagem, com revisão humana acessível e prazos claros, e que a plataforma precisa medir precisão e recall por categoria. A alegação de censura do criador não se resolve por retórica: exige verificação do motivo da remoção, do critério aplicado e da possibilidade de recurso.
2. Proponha três medidas de transparência e governança que a plataforma deveria adotar para responder ao órgão público e reduzir o risco de remoções indevidas.
Read the worked answer
Medidas: (1) publicar relatório periódico com volume de remoções por categoria, número de contestações, tempo médio de resposta, taxa de restauração e desempenho do classificador, incluindo estimativas de erro; (2) criar processo de recurso com revisão humana independente, prazo definido e comunicação de motivos específicos ao usuário, com registro auditável; (3) estabelecer governança dos critérios, com revisão das regras por equipe multidisciplinar, testes de viés e documentação das políticas, além de canal de diálogo com autoridades e sociedade civil. Essas medidas respondem ao ofício e reduzem o risco de remoções arbitrárias sem exigir que a plataforma mantenha todo conteúdo.
3. A equipe sugere reduzir a revisão humana para cortar custos, confiando mais no classificador. Avalie essa proposta.
Read the worked answer
A proposta é arriscada. Os dados mostram taxa de restauração de 39% entre contestações, o que indica que o classificador erra de forma relevante; reduzir a revisão humana aumentaria remoções indevidas e o risco jurídico e reputacional. O gargalo real é a escala (40 revisores para 8 milhões de usuários), o que pede priorização por risco, triagem melhor e recurso eficiente, não eliminação da revisão. A decisão adequada é investir em qualidade do classificador, medir precisão e recall, e manter revisão humana para casos sensíveis, como saúde e conteúdo de interesse público.