A Microsoft recentemente
recusou um pedido de fornecimento de tecnologia de reconhecimento facial para
uma agência de policiamento do estado da Califórnia, segundo o presidente da
empresa, Brad Smith.
A ideia era a de instalar o software nas câmeras acopladas aos uniformes de
policiais, porém a oferta foi negada pela Microsoft sobre “preocupações com os
direitos humanos”.
Segundo Smith, a recusa se deu pela
possibilidade de aumentar a discriminação para com mulheres e pessoas de pele
negra, haja vista que tecnologias de reconhecimento facial são majoritariamente
treinadas em homens brancos, o que poderia levar a erros de interpretação e,
consequentemente, prisões abusivas e incoerentes.
Recentemente, a Amazon viu seu
software Rekognition cair em escrutínio pelos mesmos motivos: no estado do
Oregon, a polícia local utiliza o
software do grupoliderado por Jeff Bezos,
apesar de testes comprovarem que ele apresenta falhas de
reconhecimento e da própria Amazon ser alvo de pedidos que
rogam pela paralisação da oferta e retirada do produto — até mesmo pelos
seus próprios acionistas.
Pesquisas
mostraram que softwares de reconhecimento facial vêm apresentando erros de
identificação que regularmente colocam pessoas negras e mulheres em risco
“A
qualquer hora que eles parassem alguém no trânsito, por exemplo,” — disse
Smith, sem nomear a agência de policiamento — “eles executariam uma pesquisa
facial comparativa à base de dados de suspeitos. Depois de considerarmos os
impactos desproporcionais, nós dissemos que essa tecnologia não era a resposta
que procuravam”.
As
palavras de Smith foram ditas durante uma palestra ministrada por ele na
Universidade de Stanford. Na ocasião, ele também disse que a Microsoft recusou
um outro pedido, para instalar o software de reconhecimento facial por todas as
câmeras da capital de um país que a organização sem fins lucrativos Freedom
House
disse não
ser livre, no sentido de nação austera.
Smith
justificou dizendo que a tecnologia seria usada para suprimir as liberdades do
povo local, novamente sem nomear o país.
Por outro
lado, a Microsoft concordou em instalar o software em uma prisão nos EUA (sem
nomear local, nome ou estado), após concluir que o uso da tecnologia na
instituição correcional seria voltado ao aprimoramento da segurança dos
detentos e funcionários.
Fonte: Reuters
Nenhum comentário:
Postar um comentário