Justiça Federal determina novas medidas de segurança no Discord

Plataforma terá de reforçar mecanismos de proteção a menores e mulheres, sob pena de multa de R$ 100 mil por dia

A Justiça Federal determinou que o Discord adote uma série de medidas para ampliar a proteção de crianças, adolescentes e mulheres contra situações de risco dentro da plataforma. Em caso de descumprimento, a empresa poderá ser penalizada com multa diária de R$ 100 mil.

A decisão foi tomada pelo juiz Anderson Silva, da 14ª Vara Federal Cível de Brasília, após pedido apresentado pela Advocacia-Geral da União (AGU) em uma ação civil pública movida contra a plataforma em agosto deste ano.

Segundo a AGU, o Discord apresenta deficiências em mecanismos de verificação de idade e na proteção dos usuários diante de situações consideradas graves. Entre os casos citados está a morte de uma adolescente de 13 anos, ocorrida em julho.

A empresa contestou a existência de responsabilidade direta pelo episódio. Segundo a defesa, a transmissão do ato que resultou na morte ocorreu em outra plataforma. O magistrado, porém, considerou que parte das interações que antecederam o episódio ocorreu dentro do Discord e avaliou que havia necessidade de ampliar as medidas de proteção destinadas a menores.

Na decisão, o juiz afirmou que investigações oficiais indicaram o uso de recursos da plataforma em etapas relevantes das interações e a exposição de menores a situações relacionadas a ameaças, coação, aliciamento, automutilação e outras práticas consideradas graves.

Para o magistrado, os elementos apresentados no processo demonstram a existência de um risco concreto que justifica a adoção de medidas preventivas.

Discord questiona classificação como rede social

Durante o processo, o Discord argumentou que não deveria ser enquadrado como uma rede social. A empresa afirma que sua principal finalidade é permitir a comunicação direta entre usuários, além da criação de comunidades e do compartilhamento de mensagens, imagens e vídeos.

Apesar da argumentação da empresa, a decisão estabelece uma série de obrigações relacionadas à segurança e à proteção de usuários menores de idade.

Medidas determinadas pela Justiça

Entre as providências que deverão ser adotadas pelo Discord estão:

• Impedir que servidores, canais e comunidades removidos sejam recriados por meio de novas contas ou identidades relacionadas às anteriores.
• Manter, por no mínimo seis meses, registros de moderação, contas, servidores, comunidades, comunicações e denúncias relacionadas aos fatos investigados.
• Criar procedimentos específicos para casos de sextorsão envolvendo crianças e adolescentes, incluindo comunicação às autoridades competentes.
• Incorporar situações de maus-tratos, mutilação ou crueldade contra animais aos sistemas de avaliação e moderação quando houver possibilidade de exposição de menores a esse tipo de conteúdo.
• Demonstrar que possui estrutura operacional em língua portuguesa para atividades de segurança, moderação e recebimento de denúncias no Brasil.
• Informar como funciona o sistema de verificação de idade e apresentar eventual planejamento para adequação às exigências legais.
• Adotar medidas para cumprir as regras relativas à vinculação de usuários menores de 16 anos aos respectivos responsáveis legais.
• Comprovar a existência e a efetividade de ferramentas de supervisão parental, configurações de proteção e mecanismos de privacidade.
• Apresentar uma avaliação dos impactos da plataforma sobre a segurança e a saúde de crianças e adolescentes, incluindo riscos relacionados a aliciamento, violência, automutilação e suicídio.
• Bloquear convites utilizados para reconstruir comunidades anteriormente removidas ou levar menores a ambientes associados a contas reincidentes.
• Preservar e comunicar às autoridades conteúdos relacionados a automutilação, suicídio e violência grave quando forem identificados de forma legítima.
• Manter representante legal no Brasil e disponibilizar um canal de denúncias em português.
• Retirar, após notificação válida, cópias tecnicamente idênticas de gravações e materiais que incentivem práticas violentas ou de risco.

As medidas deverão ser cumpridas nos termos estabelecidos pela decisão judicial. O descumprimento poderá resultar na aplicação da multa diária de R$ 100 mil.