Steve Wozniak, cofundador da Apple, faz alerta sobre maus atores que podem utilizar IA generativa para enganar usuários
O cofundador da Apple, Steve Wozniak, tem circulado pela mídia para discutir os perigos da inteligência artificial (IA) generativa, alertando as pessoas para terem cuidado com seus impactos negativos. Falando à BBC e à Fox News, ele enfatizou que a IA pode fazer uso indevido de dados pessoais e levantou preocupações de que poderia ajudar os golpistas a gerar golpes ainda mais eficazes, desde fraude de identidade a phishing, quebra de senhas e muito mais.
“Estamos recebendo tanto spam, coisas tentando controlar nossas contas e senhas, tentando nos enganar”, disse ele.
(Esta é uma preocupação também levantada pela presidente da Federal Trade Commission, Kina Khan)
Leia também: Construir um clone digital com IA generativa — uma boa ou má ideia?
Steve Wozniak expressou preocupação de que tecnologias como o ChatGPT possam ser usadas para criar e-mails fraudulentos realmente convincentes, por exemplo. Embora ele seja ambivalente no sentido de ver as vantagens que a tecnologia pode oferecer, ele também teme que o uso indevido dessas ferramentas poderosas possa se tornar uma ameaça real nas mãos de pessoas más.
“A IA é tão inteligente que está aberta aos jogadores ruins, aqueles que querem enganar você sobre quem são”, alertou.
Os pesquisadores de segurança estão igualmente preocupados. Nos negócios, 53% dos tomadores de decisão acreditam que a IA ajudará os invasores a criar golpes de e-mail mais convincentes. Mais recentemente, o BlackBerry alertou que um ataque bem-sucedido creditado ao ChatGPT surgirá nos próximos 12 meses.
Steve Wozniak foi signatário de uma carta aberta assinada por mais de mil nomes pesquisadores da tecnologia, alertando sobre a necessidade de ir devagar no desenvolvimento da IA. Essa carta pedia aos laboratórios de IA que interrompessem o treinamento em sistemas mais poderosos que o GPT-4 por pelo menos 6 meses.
Mesmo assim, Steve Wozniak também alertou contra uma reação instintiva ao medo implícito: “Devemos ser realmente objetivos”, disse ele no programa da Fox News, Your World with Neil Cavuto. “Onde estão os pontos de perigo?”
Veja também: Slack GPT traz IA generativa nativa para aplicativo de chat
A petição alertou contra alguns desses pontos: “Os sistemas de IA contemporâneos estão se tornando competitivos para humanos em tarefas gerais, e devemos nos perguntar: ‘Devemos deixar as máquinas inundarem nossos canais de informação com propaganda e falsidade?’”
Também vimos casos em que o uso de modelos de IA generativa levou à divulgação de segredos de negócios, gerando alertas de segurança de agências de inteligência.
A visão de Woz não é um aviso solitário. Geoffrey Hinton, o chamado padrinho da IA, tem uma opinião semelhante e recentemente deixou de trabalhar no Google para poder alertar sobre os perigos da IA. Hinton vê a IA substituindo trabalhadores humanos em grande escala, alertando que o impacto disso pode ameaçar a estabilidade e potencialmente levar à extinção.
Como outros especialistas em tecnologia, Steve Wozniak argumenta que a indústria e o governo devem identificar os pontos de perigo e agir agora para minimizar os riscos.
Apontando para o que sabemos agora sobre os riscos da mídia social, ele disse: “E se tivéssemos apenas nos sentado e pensado sobre isso antes da chegada da Web social e criado estruturas para ajudar a gerenciar e minimizar esses riscos?
Muitos governos estão tentando descobrir se as ferramentas de IA precisam ser regulamentadas e como, mas é improvável que esse processo acompanhe a evolução da IA. A administração Biden anunciou recentemente um conjunto voluntário de regras de IA destinadas a lidar com segurança e privacidade e iniciar a discussão sobre a ameaça real e existencial das tecnologias de IA, incluindo o ChatGPT.
“A IA é uma das tecnologias mais poderosas do nosso tempo, mas, para aproveitar as oportunidades que ela apresenta, devemos primeiro mitigar seus riscos”, afirmou a Casa Branca em comunicado. “O Presidente Biden deixou claro que, quando se trata de IA, devemos colocar as pessoas e as comunidades no centro, apoiando a inovação responsável que serve ao bem público, protegendo nossa sociedade, segurança e economia”.
No Reino Unido, a Autoridade de Concorrência e Mercados (CMA) está revisando o mercado de IA. “Nossa meta é ajudar esta nova tecnologia em rápida expansão a se desenvolver de forma a garantir mercados abertos e competitivos e proteção efetiva do consumidor”, disse Sarah Cardell, Diretora Executiva da CMA.
O governo do Reino Unido, no entanto, parece interessado em uma abordagem sem intervenção para o uso dessa tecnologia.
Esses esforços enfrentam uma reação contrária entre alguns especialistas em tecnologia, que argumentam que desacelerar a evolução da IA em alguns países pode dar a outros a chance de progredir na aplicação da tecnologia. O cofundador da Microsoft, Bill Gates, é um dos que defendem esse argumento.
Leia mais: Samsung proíbe uso de IA por preocupação com vazamento de dados
Hinton disse recentemente sua “única esperança” em relação à IA: que os governos concorrentes possam concordar em reinar em seu uso, dado que todas as partes enfrentam uma ameaça existencial. “Estamos todos no mesmo barco com relação à ameaça existencial, então todos devemos ser capazes de cooperar para tentar detê-la”, disse ele.
A tragédia, claro, é que os riscos existenciais inerentes à IA foram sinalizados por anos. Em 1863, o romancista Samuel Butler advertiu: “O resultado é simplesmente uma questão de tempo, mas que chegará o tempo em que as máquinas terão a verdadeira supremacia sobre o mundo e seus habitantes é o que nenhuma pessoa com uma mente verdadeiramente filosófica pode questionar por um momento”.
O cofundador da Apple não parece muito otimista de que restrições efetivas em torno desse uso serão implementadas. “As forças que impulsionam o dinheiro em comparação com as forças que impulsionam o cuidado conosco, o amor… as forças que impulsionam o dinheiro geralmente vencem. É meio triste”, disse ele à BBC.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
