Um personagem colorido com voz
infantil aparece em cena, mas antes de finalizar sua aparição deixa instruções
assustadoras sobre o modo adequado de cortar os pulsos. É esse o tipo de
conteúdo que vem sendo descoberto no YouTube Kids, a versão da plataforma
voltada a crianças, que deveria justamente não exibir cenas do tipo.
"Lembrem-se crianças: [cortem]
na vertical para atenção, na horizontal para resultados", diz um dos
vídeos perigosos descobertos no YouTube Kids. Até então, o desenho de cinco
minutos seguia o roteiro comum de um conteúdo infantil.
Free Hess, pediatra, defensora dos
direitos da criança e mãe foi quem encontrou o vídeo. O desenho mostra o
personagem chamado Filthy Frank (Frank imundo, em tradução livre) por 10
segundos, tempo suficiente para que ele dê suas instruções.
O YouTube
Kids nasceu em 2015 com a proposta de dar mais tranquilidade aos pais, mas
desde então vem fazendo o contrário. No ano passado, uma reportagem da BBC descobriu que clipes falsos, com
mensagens negativas ou violentas, estavam sendo exibidos como sugestões para as
crianças, assim como materiais sobre armas e objetos perigosos.
Em um dos vídeos, personagens da
animação Patrula Canina apareciam proferindo palavrões em um avião em queda,
que pegava fogo. Em outro, Mickey Mouse utilizava uma arma para disparar contra
crianças e outros personagens, enquanto vídeos sobre afiamento de facas ou
utilização de armas apareciam como sugestões.
Na época, a Google reconheceu o problema e pediu
desculpas, mas os incidentes continuaram acontecendo. Mais recentemente, foi
descoberto que alguns vídeos infantis estavam sendo editados com a inserção de
instruções para a prática do suicídio, de forma a burlar os controles da
plataforma.
Teoricamente, o YouTube Kids é
protegido por um algoritmo que só libera a visualização de conteúdos próprios
para crianças, mas a introdução de cenas dificulta que a Google (e pais)
identifiquem vídeos inadequados, dependendo da denúncia de usuários para que
esses conteúdos nocivos sejam removidos.
Ainda no ano passado, a Google
anunciou a criação de uma verificação humana para criar um acervo de vídeos
apropriados para crianças. Mas parece que a iniciativa não rendeu bons frutos e
a empresa continua incapaz de conter o fluxo de conteúdos impróprios dentro de
sua plataforma.
Atualmente, vídeos sinalizados como
conteúdo ofensivo são revisados pela plataforma, mas a resposta pode ser
demorada. Todos os vídeos encontrados por Hess foram compartilhados com seus
seguidores para que fossem denunciados. O vídeo com instruções para cortar os
pulsos foi marcado pela primeira vez há oito meses, mas excluído do YouTube só
no mês passado.
Outros vídeos impróprios flagrados
por Hess ainda estão na plataforma — um deles de Minecraft.
O personagem aparece falando palavrões antes de reproduzir uma cena de tiroteio
dentro de uma escola.
Em seguida, outro vídeo parece ser um
exemplo de tráfico humano. O personagem masculino do desenho em estilo anime
compra uma mulher fantasiada de lobo por US$ 400 de outro homem. A personagem
feminina é desenhada de uma forma que sugere que ela foi espancada
anteriormente, com machucados em seu rosto. Mais tarde, o homem pergunta
"Por que você está com medo?" e ela diz "Porque todo mundo me
maltrata".
Outros vídeos no mesmo estilo
apresentam cenas de violência, linguagem adulta, assassinato e suicídio.
"Criamos o YouTube Kids para tornar mais seguro e simples para as crianças
explorarem o mundo por meio de vídeos on-line. Há também todo um conjunto de controles
para os pais, para que você possa adaptar a experiência às necessidades de sua
família", diz a empresa na descrição da plataforma juvenil.
Apesar de não cumprir a promessa de
um ambiente "mais seguro", o YouTube Kids disponibiliza uma
configuração que permite aos pais que escolham os vídeos de cada canal que
podem ser exibidos no perfil de seus filhos. É um começo para livrar a
plataforma de vídeos impróprios, ao menos.
Um porta-voz do YouTube disse ao The
Next Web que a empresa trabalha para garantir que todos os vídeos sejam
adequados à faixa etária do público-alvo. "Os vídeos sinalizados são
revisados manualmente 24 horas por dia, sete dias por semana, e todos
aqueles que não devem pertencer ao aplicativo são removidos. Também estamos
investindo em novos controles para os pais. Estamos fazendo melhorias
constantes em nossos sistemas e reconhecemos que há mais trabalho a se
fazer".
Fonte: The Next Web
Nenhum comentário:
Postar um comentário