Polêmica do Gemini veio após sua suspensão devido a imagens ofensivas para alguns usuários, levando Sundar Pichai a se retratar publicamente
O CEO do Google, Sundar Pichai, recentemente enfrentou uma série de controvérsias relacionadas à ferramenta de inteligência artificial (IA) da empresa, conhecida como Gemini. Em um comunicado divulgado na última terça-feira (27), Pichai descreveu as respostas problemáticas do aplicativo em questões de raça como “completamente inaceitáveis” e prometeu implementar mudanças estruturais para resolver o problema.
A controvérsia em torno do Gemini surgiu após a suspensão da ferramenta de criação de imagens da empresa, na semana passada, devido a resultados constrangedores e ofensivos. Em alguns casos, o aplicativo se recusou a retratar pessoas brancas ou inseriu imagens de mulheres ou pessoas racializadas em contextos inadequados, como na representação de nazistas ou do Papa.
Leia mais: Softwares com IA fake: como profissionais de TI podem desmascarar impostores?
Em uma declaração à imprensa, Pichai afirmou que “algumas das respostas do Gemini têm ofendido nossos usuários e mostraram viés”, destacando que tais ações são inaceitáveis. Ele também mencionou que a equipe do Google tem trabalhado incansavelmente para abordar essas questões e já observou melhorias significativas em várias áreas.
“Nenhuma IA é perfeita, especialmente nesta fase emergente do desenvolvimento da indústria, mas sabemos que o padrão é alto para nós e continuaremos nesse caminho, não importa quanto tempo leve. E vamos revisar o que aconteceu e garantir que consertemos em escala”, disse Pichai em nota. “Estaremos conduzindo um conjunto claro de ações, incluindo mudanças estruturais, diretrizes de produto atualizadas, processos de lançamento aprimorados, avaliações robustas e testes finais, e recomendações técnicas”.
A controvérsia em torno do Gemini destaca os desafios enfrentados pelas empresas na utilização da IA, especialmente no que diz respeito à mitigação de viés e à garantia de respostas precisas e imparciais. No entanto, para além do problema de viés, isso mostra que o Google enfrenta falhas técnicas no refinamento dos modelos de IA, um desafio comum enfrentado por todas as empresas que desenvolvem produtos de IA para consumidores, não apenas o Google.
*Com informações do Semafor
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
A redação contempla textos de caráter informativo produzidos pela equipe de jornalistas do IT Forum.
