Plataforma relata em documento que transmissão ficou no ar por quase 2 horas e que, inicialmente, sistema de proteção não detectou “atividade violadora”.

O Discord admitiu que seu sistema de proteção falhou e demorou cerca de duas horas para derrubar a live que vitimou uma menina de 13 anos. A informação consta em um relatório apresentado pela própria plataforma ao Ministério da Justiça nesta semana, obtido pela GloboNews.

Nesta quarta-feira (12), a Agência Nacional de Proteção de Dados (ANPD) determinou a suspensão das transmissões ao vivo da rede social em território brasileiro. A ordem atinge apenas a ferramenta de lives e não significa que o Discord tenha sido tirado do ar.

🔎A ANPD é uma agência reguladora vinculada ao Ministério da Justiça e Segurança Pública, que tem como missão zelar pela proteção de dados pessoais de brasileiros.

Foram quase duas horas de duração entre o início da live e a sua derrubada. A transmissão teve início às 2h20 da manhã do dia 22 de julho.

Segundo o Discord, a primeira comunicação de risco iminente de morte ou lesão corporal grave foi emitida às 3h50. A retirada do servidor do ar só se concretizou às 4h15.

De acordo com a plataforma, o canal que hospedou a transmissão não apresentou, inicialmente, indicadores “de atividade violadora”.

Isso porque o sistema de intervenção automática da plataforma só é ativado quando uma live atinge a marca 0,95 ponto dentro de uma escala de risco —a princípio, a live teria marcado 0,12 ponto.

No relatório, o Discord afirmou que nomes e comunicações em texto usados pelos criadores do servidor teriam “mascarado” sua real intenção.

A plataforma ainda disse que uma mudança no critério de alerta de risco pode comprometer a atuação automatizada, mas que reavalia o modelo.

“Reduzir o limiar de detecção aplicável aumentaria materialmente os falsos positivos e poderia comprometer a eficácia da intervenção proativa automatizada. Esse resultado está sendo reexaminado, inclusive para avaliar possíveis aprimoramentos nos critérios de priorização”, disse o Discord.
💻O Discord é uma plataforma de comunicação bastante utilizada por jogadores de games online e também por adolescentes. A empresa tem sido alvo de críticas e investigações relacionadas a falhas na moderação de conteúdo e na verificação da idade dos usuários.

Medida preventiva

A decisão de suspender as transmissões ao vivo do Discord foi tomada por meio de uma medida preventiva e estabelece prazo de três dias úteis para que a plataforma cumpra a determinação.

A decisão pela suspensão do recurso das lives, tomada com base no ECA Digital, é inédita no Brasil.

Segundo a ANPD, a medida preventiva valerá até que o Discord comprove que adotou ferramentas efetivas para proteger crianças e adolescentes que acessam a plataforma.

Por Bianka Vieira, GloboNews — Brasília