A gigante anunciou uma solução que promete corrigir erros em textos gerados por IA, mas especialistas alertam para os desafios de confiabilidade
A Microsoft lançou nesta terça-feira (24), a ferramenta Correction, projetada para identificar e corrigir imprecisões em textos criados por IA. O sistema usa dois meta-modelos: um localiza possíveis erros e o outro corrige o texto, comparando com documentos confiáveis. A novidade faz parte da API de Segurança de Conteúdo do Azure AI e pode ser aplicada a diferentes modelos de linguagem, como o GPT-4, da OpenAI, ou o Llama, da Meta.
“O Correction é alimentado por um novo processo que utiliza pequenos modelos de linguagem e grandes modelos de linguagem para alinhar as saídas com documentos de referência”, disse um porta-voz da Microsoft ao TechCrunch. “Esperamos que esse novo recurso apoie desenvolvedores e usuários de IA generativa em áreas como a medicina, onde a precisão das respostas é de grande importância”.
Leia também: “Eu sou feita de várias mulheres dentro de mim”, diz Rafaela Rezende, sobre ser mãe e CEO
O porta-voz da Microsoft afirmou que o Correction tem o potencial de aumentar a confiabilidade e a confiança no conteúdo gerado por IA, ajudando desenvolvedores a minimizar a insatisfação dos usuários e reduzir riscos à reputação. Ele destacou, no entanto, que a ferramenta não garante a precisão total, mas contribui para alinhar as respostas da IA com documentos de referência.
Concorrentes também estão explorando soluções semelhantes. O Google, por exemplo, introduziu recentemente o Vertex AI, permitindo que modelos de IA sejam “fundamentados” com dados confiáveis. No entanto, especialistas como Os Keyes, da Universidade de Washington, questionam a eficácia dessas abordagens, argumentando que as alucinações são uma característica inerente da IA generativa. “Tentar eliminar as alucinações da IA generativa é como tentar eliminar o hidrogênio da água”, disse Os Keys.
De acordo com informações do TechCrunch, o artigo mencionado pelo porta-voz da Microsoft para explicar os modelos do Correction não revela informações essenciais, como os conjuntos de dados utilizados no treinamento.
Mike Cook, pesquisador especialista em IA da Queen Mary University, disse ao TechCrunch que, mesmo que o Correction funcione como esperado, ela pode induzir os usuários a uma falsa sensação de segurança, fazendo-os acreditar que os modelos são mais precisos do que realmente são.
“O que a Microsoft está fazendo agora é repetir o erro em um nível superior. Vamos supor que isso nos leve de 90% de segurança para 99% — o problema nunca esteve realmente nesses 9%. Ele sempre estará no 1% de erros que ainda não detectamos”, disse.
Cook também observou que a forma como a Microsoft está disponibilizando o Correction tem um viés comercial questionável. Embora a ferramenta em si seja gratuita, a “detecção de fundamento”, essencial para identificar alucinações e permitir as correções, só é gratuita para os primeiros 5.000 “registros de texto” por mês. Após esse limite, os usuários precisam pagar 38 centavos por cada 1.000 registros adicionais.
Sob pressão de investidores e clientes, a Microsoft se esforça para recuperar a confiança no mercado de IA. Recentemente, uma reportagem do The Information revelou que muitos primeiros usuários do Microsoft 365 Copilot interromperam suas implementações por preocupações com desempenho e custo. Um cliente teria relatado que a IA inventou participantes e sugeriu tópicos que nunca foram discutidos durante reuniões no Microsoft Teams.
Para Cook, idealmente, a IA generativa ainda deveria estar em fase de pesquisa, mas já está sendo usada em várias indústrias, o que pode indicar uma abordagem apressada e arriscada.
*Com informações do TechCrunch
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
A redação contempla textos de caráter informativo produzidos pela equipe de jornalistas do IT Forum.
