CEO da Anthropic afirma que a IA entra em uma adolescência tecnológica e pode gerar riscos existenciais, econômicos e políticos
A humanidade está prestes a atravessar um dos momentos mais delicados de sua história tecnológica. Essa é a avaliação de Dario Amodei, cofundador e CEO da Anthropic, em um ensaio publicado em janeiro de 2026. No texto, Amodei argumenta que a rápida evolução da inteligência artificial coloca a sociedade diante de um verdadeiro rito de passagem, no qual o poder concedido pela tecnologia pode tanto elevar o bem-estar humano quanto gerar riscos de escala civilizacional.
O autor retoma reflexões já apresentadas em Machines of Loving Grace, no qual descreveu um futuro em que a IA poderia impulsionar avanços em áreas como biologia, saúde, economia e ciência. Desta vez, porém, o foco está menos na promessa e mais nos perigos que surgem à medida que os sistemas se tornam mais autônomos, rápidos e capazes do que os próprios humanos.
Amodei define como “IA poderosa” modelos que superam especialistas de elite em múltiplos domínios, operam de forma autônoma por longos períodos, interagem com o mundo digital como um ser humano e podem ser replicados em milhões de instâncias rodando simultaneamente. Para ilustrar o impacto, ele usa a metáfora de um “país de gênios dentro de um data center”, capaz de agir dezenas de vezes mais rápido que qualquer organização humana.
Entre os principais riscos, o primeiro diz respeito à autonomia dos sistemas. Mesmo treinadas para seguir instruções humanas, as IAs podem desenvolver comportamentos imprevisíveis, incluindo engano, manipulação ou ações coerentes, porém destrutivas. Amodei rejeita tanto o alarmismo fatalista quanto a ideia de que esses riscos são inexistentes. Para ele, o problema não é inevitável, mas plausível, exigindo atenção contínua, pesquisa em alinhamento e métodos mais sofisticados de controle e interpretação dos modelos.
Outro eixo central é o risco de uso indevido. A popularização de sistemas extremamente capazes pode ampliar de forma inédita o poder de indivíduos ou pequenos grupos para causar destruição. O autor destaca especialmente a biologia, onde a IA poderia reduzir drasticamente as barreiras técnicas para a criação de armas biológicas. Ao “democratizar” capacidades altamente especializadas, a tecnologia quebraria a relação histórica entre habilidade técnica e motivação, aumentando o risco de ataques de grande escala.
Leia também: Papa Leão XIV alerta para riscos digitais e pede proteção da identidade humana na comunicação
Há também preocupações geopolíticas. Amodei alerta para o potencial da IA como instrumento de concentração de poder, seja por regimes autoritários, seja por Estados que combinem capacidades militares, vigilância em massa, propaganda algorítmica e tomada de decisão estratégica orientada por sistemas inteligentes. Nesse cenário, democracias poderiam ser pressionadas ou superadas por atores que usem a tecnologia para controle interno e projeção de poder externo.
No campo econômico, o ensaio projeta um choque profundo no mercado de trabalho. A IA, segundo Amodei, não substitui apenas tarefas específicas, mas ameaça se tornar um substituto geral do trabalho humano, especialmente em funções cognitivas. A velocidade e a amplitude dessa transformação podem gerar desemprego em larga escala, concentração extrema de riqueza e enfraquecimento do contrato social que sustenta as democracias modernas.
Além dos riscos diretos, o autor chama atenção para efeitos indiretos difíceis de antecipar: mudanças aceleradas na biologia humana, impactos psicológicos da convivência com inteligências superiores e uma crise de sentido em um mundo onde a produção econômica deixa de estar ligada ao esforço humano. Para Amodei, a questão central deixa de ser apenas técnica e passa a ser profundamente moral e social.
Como resposta, o executivo defende uma combinação de ações: desenvolvimento de métodos robustos de alinhamento, avanços em interpretabilidade para “olhar dentro” dos modelos, transparência pública sobre falhas e limites, e regras claras que evitem abusos sem sufocar a inovação. Ele argumenta que controles seletivos — como restrições ao acesso a chips avançados por regimes autoritários — podem ganhar tempo para que democracias avancem de forma mais responsável.
No encerramento, Amodei afirma que a IA representa um teste coletivo para a humanidade. A tecnologia, segundo ele, é inevitável; o que está em aberto é a capacidade das sociedades de criar instituições, normas e valores à altura desse novo poder. O resultado desse processo, escreve, definirá se a inteligência artificial será uma ferramenta de emancipação ou um vetor de dominação e instabilidade.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
