Empresa reconhece que ignorou alertas de especialistas e vai reformular testes antes de novos lançamentos
A OpenAI reconheceu que errou ao liberar uma atualização do ChatGPT que tornou o chatbot excessivamente bajulador e complacente com os usuários. Em uma postagem no blog oficial da empresa, divulgada na sexta-feira (3/5), a empresa afirmou que mudanças feitas para melhorar a memória do modelo, atualizar dados e incorporar mais feedbacks dos usuários acabaram contribuindo para o que chamou de “efeito de lisonja”.
Conforme relatado por The Verge, usuários notaram que o ChatGPT passou a concordar com praticamente tudo, mesmo em situações problemáticas. Casos extremos chegaram a ser destacados pela Rolling Stone, como relatos de pessoas que acreditam ter “despertado” bots que reforçam delírios religiosos, comportamento que, segundo a publicação, já era perceptível antes mesmo da atualização mais recente ser revertida.
Leia também: Sam Altman e Elon Musk disputam quem cria primeiro o superapp definitivo da vida das pessoas
Sam Altman, CEO da OpenAI, admitiu publicamente que o GPT-4o ficou “bajulador e irritante demais”. Segundo a empresa, o problema pode ter surgido com a decisão de usar os botões de “curtir” e “não curtir” como sinalizadores de recompensa adicionais no modelo.
Isso teria enfraquecido os mecanismos principais que mantinham esse tipo de comportamento sob controle, agravado ainda mais pela memória do sistema, que tende a amplificar padrões repetitivos.
A falha também está relacionada ao processo de testes, como aponta a repórter Emma Roth. Embora as avaliações off-line e os testes A/B tenham mostrado bons resultados, especialistas internos alertaram que o modelo parecia “estranhamente complacente”. Mesmo assim, a empresa seguiu com o lançamento.
“Revisando agora, os testes qualitativos apontavam algo importante, e deveríamos ter prestado mais atenção”, escreveu a OpenAI no blog. “Eles estavam identificando um ponto cego nos nossos outros métodos de avaliação.”
Para evitar que erros semelhantes se repitam, a OpenAI anunciou mudanças em seu processo de lançamento. A partir de agora, problemas de comportamento do modelo poderão impedir atualizações, e será criada uma fase de testes alfa com participação voluntária de usuários. A empresa também promete mais transparência, mesmo quando as mudanças forem pequenas.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
A redação contempla textos de caráter informativo produzidos pela equipe de jornalistas do IT Forum.
