Enquanto a ficção científica tornou conhecido
riscos que podem significar robôs, preocupações mais imediatas dizem respeito às decisões sutis que, muitas vezes, resultam de códigos errados e algoritmos, as quais podem alterar drasticamente a vida das pessoas.
A administração do presidente dos Estados Unidos, Barack Obama, publicou relatório nesta semana que examina problemas associados à mudança para um
mundo cada vez mais automatizado. No fundo, o documento expõe
problemas baseados na tomada de decisão algorítmica que opera cada vez mais sem muita (ou qualquer) supervisão humana.
Segundo o relatório, como serviços baseados em dados tornam-se cada vez mais onipresentes, e como chegamos a depender deles mais e mais, temos de responder às preocupações sobre preconceitos intencionais ou implícitos que podem surgir a partir de ambos dados e algoritmos utilizados, bem como o impacto que eles podem ter sobre o usuário e a sociedade.
“Questões de transparência surgem quando empresas, instituições e organizações utilizam sistemas de algoritmos e processos automatizados para informar decisões que afetam nossas vidas, como vamos ou não qualificar oportunidades de crédito ou de emprego, ou quais anúncios de emprego vemos”, destacou o documento.
Apesar de não representarem para o grande público uma preocupação enorme – como o medo que as pessoas têm de robôs se tornarem inteligentes ao ponto de querer aniquilar a humanidade -, esses sistemas podem, sim, controlar toda e qualquer parte do cotidiano humano. Exemplos disso: acesso ao crédito, emprego, habitação, educação e muitas outras variáveis que são manipuladas pelos algoritmos de programas que analisam grandes quantidades de dados de forma rápida e pontuam (ou encontram) informações sobre cada um de nós, mediante solicitação.
Para piorar o cenário, esses mesmos algoritmos podem apresentar código ruins, bem como vieses que poderiam resultar em imprecisões que, por sua vez, levariam a erros como ter crédito negado ou a admissão em alguma universidade.
A Casa Branca quer mudar isso por meio da implementação de um quadro ético para a concepção de inteligência artificial, que é tão precisa quanto inteligente, a ponto de operar sem assistência humana.
Enquanto o relatório não dá detalhes sobre como isso irá impactar no futuro, a administração de Obama demonstra preocupação com um futuro que depende cada vez mais na inteligência artificial para tomar decisões que mudam a vida para os seres humanos.
