Segundo
uma dupla de pesquisadores, os profissionais que trabalham na criação
e desenvolvimento de IAs precisam “ensinar” às suas máquinas
valores sociais e humanos se não quisermos ter problemas no futuro.
De acordo com os cientistas – Mona Sloane e Emanuel Moss, da
Universidade de Nova York e da Universidade da Cidade de Nova York,
respectivamente –, já existem indícios de que a IA pode perpetuar
a discriminação, intensificar desigualdades e inclusive ocasionar
danos nesse sentido e, portanto, os desenvolvedores devem cuidar para
que suas criações, em vez de prejudicar, sirvam a sociedade da
melhor forma possível.
Tecnologia social
Os
pesquisadores defendem que estamos diante da emergência de um
complexo sistema “tecnossocial” e, para que ele seja mais justo,
democrático e equilibrado, engenheiros e programadores precisam
incluir a mais ampla gama de noções sociais em suas IAs para
reduzir o risco de que elas venham a causar danos à nossa sociedade.
(Fonte:
EFFRA / Reprodução)
A
dupla mencionou estudos que demonstraram que motores de busca podem
fazer discriminação contra mulheres negras e, como você deve
saber, existem muitos temores relacionados a como carros autônomos
tomarão decisões diante de situações de acidente – em que terão
de escolher entre atropelar um humano ou bater em um poste, por
exemplo. Para evitar dilemas desse tipo e conquistar um
desenvolvimento tecnológico que beneficie a humanidade como um todo,
é preciso ensinar às máquinas como serem mais socialmente
inteligentes também.
Os
pesquisadores sabem que já existem profissionais preocupados em
integrar ideias sociais em suas máquinas, para que elas atuem mais
de acordo com os valores humanos, embora seja extraordinariamente
difícil definir e codificar essas informações em uma máquina –
sem falar que engenheiros e programadores tipicamente não são
treinados para entender como diferentes categorias raciais e sociais
em machine learning podem impactar organizações e a própria
sociedade.
Assim
a dupla sugere que métodos qualitativos de pesquisa social sejam
adotados na criação e desenvolvimento das IAs, uma vez que essas
técnicas normalmente exigem que os profissionais reflitam sobre como
suas intervenções impactam o universo em que as observações são
realizadas.
Além disso, as pesquisas qualitativas podem ajudar
programadores e engenheiros a ter um melhor entendimento sobre o
histórico sociocultural e histórico por trás das diferentes
categorias que compõem a nossa sociedade e de como a IA deverá se
integrar nesse contexto.
Fonte:
Science
Daily
Nenhum comentário:
Postar um comentário