Nobel de Economia, Paul Romer não confia na IA generativa

Paul Romer não está convencido de que o modelo atual de desenvolvimento da inteligência artificial (IA) generativa trará benefícios duradouros para o progresso da humanidade.

Laureado com o Nobel de Economia por seu trabalho em parceria com William Nordhaus, o economista, empreendedor e professor do Boston College manifesta diversas ressalvas em relação à tecnologia. A principal delas, no entanto, é a propensão a erros e às alucinações inerentes aos grandes modelos de linguagem (LLMs).

“Se você procura uma resposta para algo, não quer uma resposta ‘quase confiável’. Você quer uma resposta segura. Esses modelos não conseguem oferecer isso”, afirmou durante a palestra de abertura do último dia do Febraban Tech 2025, nesta quinta-feira (12/6).

Conhecido por sua teoria do crescimento endógeno, Romer sustenta que a tecnologia e a disseminação do conhecimento são pilares essenciais para a prosperidade econômica e social das sociedades humanas. Ao longo dos séculos, esse avanço se baseou, sobretudo, no “sistema científico” estabelecido desde a Revolução Industrial. “As coisas ao nosso redor funcionam como funcionam porque criamos um sistema para isso”, explicou.

Esse sistema, segundo Romer, fornece as bases para a experimentação científica, que gera confiança nas tecnologias desenvolvidas. Por meio do método científico, é possível reproduzir e verificar informações, o que impulsiona a inovação e o surgimento de novos produtos e serviços. A propensão ao erro da IA generativa e a forma como ela é naturalizada frente à rápida adoção da tecnologia por organizações e pessoas, defendeu, precisa ser repensada.

Leia também: Drex vs. futuro com IA: duas visões para o dinheiro inteligente disputam o Brasil

“Precisamos avaliar se o custo de uma falha é suficientemente baixo e o benefício alto o bastante antes de utilizar esses modelos”, pontuou. “Mas há muitas pessoas ganhando muito dinheiro com a venda de LLMs, e elas não vão te contar que talvez você consiga realizar um trabalho melhor sem recorrer a essas ferramentas.”

Como exemplo, Romer citou um caso judicial recente envolvendo a Anthropic, empresa responsável pelo desenvolvimento do chatbot Claude. Em uma disputa legal contra representantes da indústria musical, uma citação “completamente fabricada” foi incluída na defesa da empresa. O trecho incorreto foi gerado pela própria ferramenta de IA generativa utilizada na elaboração do argumento jurídico.

“A IA é interessante, faz coisas impressionantes, mas ainda é muito fraca”, declarou. “É preciso ter cautela para não ser induzido ao erro por pessoas que buscam lucrar ao convencê-lo a utilizar uma ferramenta de forma inadequada.” E acrescentou: “experimente essas tecnologias, mas verifique se elas realmente trazem vantagens.”

O economista se preocupa também com o ritmo de evolução destas ferramentas. Na sua avaliação, os modelos de linguagem estão evoluindo e se tornando mais confiáveis, mas não no ritmo que seria necessário frente à rápida adoção observado na economia e pela nossa sociedade. “Esses modelos precisam de dados para treinamento, mas já estamos chegando ao final dos dados disponíveis”, disse.

Romer, contudo, acredita que ainda há uma forma de direcionar a inteligência artificial para um caminho benéfico à sociedade e à economia. Para isso, defende que seu desenvolvimento esteja alinhado com o mesmo “sistema científico” que sustentou o progresso da humanidade até hoje.

“Para que a inteligência artificial funcione de verdade, ela precisa ser desenvolvida com base na ciência, não por interesses comerciais. Torne as informações públicas, abra os sistemas com código aberto, sem fins lucrativos”, afirmou. “Sam Altman pode se tornar bilionário de outra maneira, e Elon Musk pode voltar a fabricar carros”, concluiu.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!