Cientista de dados da Radix, Raul Sena explica motivo pelo qual, em alguns casos, tecnologia pode levar a interpretações equivocadas e até preconceituosa
Todo mundo já parou para se perguntar como, minutos após realizar uma busca qualquer na internet, diversos anúncios e propagandas relacionados ao assunto se proliferam nas páginas da rede. Essa “mágica”, apesar de curiosa, não tem nada de sobrenatural. Ela é possível por meio do machine learning, um conceito que, entre outras coisas, diz respeito à capacidade que os computadores têm de aprender a reconhecer e desenvolver padrões baseados em dados.
Basicamente, o aprendizado de máquina, em português, é um dos ramos da inteligência artificial que torna automática a construção de modelos analíticos, identifica padrões e permite que máquinas tomem decisões com o mínimo de intervenção humana possível. No caso da publicidade virtual, o machine learning é usado para analisar o histórico das pessoas, reconhecer suas preferências e mostrar anúncios com grandes chances de impactar o usuário.
As possibilidades do machine learning são tão extensas que não é só o segmento de publicidade que se aproveita dos recursos. De acordo com o cientista de dados Raul Sena, da Radix, a análise de dados passou a ser uma tendência global nos negócios e pode ser aplicada tanto em pequenas como em grandes empresas.
“Com o machine learning é possível analisar, de forma rápida e automática, um volume maior de dados complexos e, assim, focar em resultados mais precisos. O sistema consegue, por exemplo, tomar a decisão mais apropriada para um contexto e processo específico”, explica. “A tecnologia pode ser usada para resolver problemas com muitos dados em que existe a necessidade de previsões, recomendações, agrupamentos ou classificações”, conclui.
Na Radix, o conceito é utilizado atualmente em quatro projetos: analisando e classificando imagens em postos de gasolinas; dando suporte à decisão de envio de equipes de manutenção para uma multinacional do setor de energia; prevendo índice de fluidez em processos químicos para uma empresa multinacional do setor de química; e fazendo a manutenção preditiva em plantas químicas.
Como o machine learning trabalha com números frios, sua aplicação pode levar a interpretações equivocadas e até preconceituosas. Segundo Sena, essa tecnologia pode ser bem tendenciosa com minorias quando são feitas correlações erradas. Isso se torna ainda mais grave quando o sistema atua em áreas sensíveis, como na liberação de crédito em bancos ou lojas.
“Se uma região menos favorecida economicamente tiver um número significativo de pessoas do gênero feminino, inadimplentes e negras, por exemplo, a máquina pode chegar à conclusão que todas as mulheres negras daquela região serão inadimplentes e, assim, negar automaticamente crédito a pessoas com este perfil. É preciso ter muito cuidado e nunca usar cor da pele ou gênero como parâmetro, porque o machine learning fará uma correlação descontextualizada de todos os dados”, explica.
Nesses casos, de acordo com o cientista, cabe ao profissional detectar possíveis falhas e excluir certos parâmetros, distinguindo se eles fazem sentido dentro de um contexto cultural ou social específico.
