O repositório de
códigos e plataforma para programadores GitHub baniu em definitivo o DeepNude,
um programa de deepfakes que
permitia a manipulação de imagens de mulheres para a produção de conteúdos
eróticos sem consentimento, incluindo até deixá-las digitalmente sem roupas.
No fim de junho deste ano,
quando o projeto foi descoberto, o próprio responsável pelo DeepNude anunciou
que encerraria a criação. Entretanto, variações de código aberto do algoritmo
utilizado pelo aplicativo não pararam de aparecer no GitHub — e esse
espalhamento poderia resultar em várias consequências negativas e usos
criminosos da tecnologia.
Em um comunicado enviado ao Motherboard, o site afirmou que os códigos
violavam os termos e as condições da página por conterem conteúdo sexualmente
obsceno. "Nós não monitoramos conteúdos gerados pelo usuário, mas investigamos
ativamente denúncias sobre abuso. Nesse caso, removemos o projeto porque
encontramos uma violação em nossa política de usos aceitáveis", disse o
porta-voz.
Em defesa, os criadores alegam que os
deepfakes criados pelo programa não são necessariamente voltados para a
pornografia: indústrias como cinema e moda poderiam se beneficiar das
montagens. Entretanto, parece que será mesmo o mercado de conteúdos adultos que
liderará essa iniciativa, algo que foi capaz de assustar até os programadores
originais do projeto.
Fontes: Motherboard/Joseph Cox
Nenhum comentário:
Postar um comentário