Ex-líder de Segurança da OpenAI, traz seu expertise para a Anthropic empenhado em fortalecer os protocolos de segurança da inteligência artificial
Após sua saída da OpenAI em meados de maio, Jan Leike, pesquisador de Inteligência Artificial, juntou-se recentemente à concorrente Anthropic, onde assumirá a liderança de uma equipe voltada para o “superalinhamento”.
Durante sua saída da OpenAI, Leike expressou críticas públicas à abordagem da empresa em relação à segurança da IA, o que o levou a se juntar a outros especialistas que migraram para a Anthropic devido a divergências com sua antiga empresa.
Em seu novo cargo, Leike concentrará seus esforços em áreas como “supervisão escalável”, “generalização de fraca para forte” e pesquisa de alinhamento automatizado. A equipe da Anthropic, focada na supervisão escalável da IA agora estará sob a liderança de Leike, à medida que ele constroi sua equipe na empresa.
Leia também: Abalo na liderança da OpenAI: Jan Leike também se demite
O pesquisador se reportará diretamente a Jared Kaplan, Diretor Científico da Anthropic, disse uma fonte familiarizada com o assunto ao TechCrunch.
A equipe liderada por Leike na Anthropic parece estar embarcando em uma missão que ecoa a da extinta equipe de superalinhamento da OpenAI. Essa equipe, na qual Leike foi um dos líderes, tinha o desafio ambicioso de resolver questões técnicas cruciais para controlar a IA superinteligente em um prazo de quatro anos, mas frequentemente esbarrava em obstáculos relacionados à liderança da OpenAI.
Enquanto isso, a Anthropic tem se posicionado como uma organização mais focada na segurança da IA em comparação com a OpenAI, conforme reclamações públicas de Leike durante sua saída da empresa.
Dario Amodei, CEO da Anthropic e ex-vice-presidente de Pesquisa da OpenAI, também deixou a empresa devido a algumas insatisfações, como discordâncias sobre o crescente foco comercial da OpenAI. Junto com Amodei, vários ex-funcionários da empresa, incluindo Jack Clark, ex-líder de políticas, também se uniram à Anthropic para apoiar essa visão orientada para a segurança.
*Com informações do TechCrunch
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
A redação contempla textos de caráter informativo produzidos pela equipe de jornalistas do IT Forum.
