Descubra a evolução da IA, de ELIZA ao ChatGPT, e as implicações éticas dessa jornada fascinante
Certamente, todos já ouviram falar do ChatGPT. E a ELIZA, você conhece?
Nos anos 60, Joseph Weizenbaum criou a ELIZA, um programa pioneiro que simulava conversas e dava a ilusão de compreensão. Utilizando um método de correspondência de padrões, ELIZA respondia de maneira que parecia entender os usuários. A simplicidade de ELIZA, especialmente com o script “DOCTOR”, que imitava um psicoterapeuta rogeriano ou Terapia Centrada na Pessoa, fez com que muitos acreditassem estar conversando com um profissional real.
ELIZA foi desenvolvida no IBM 7094, do sistema de tempo compartilhado do Project MAC (Multiple Access Computer and Machine-Aided Cognition) no MIT, um projeto de pesquisa focado em inteligência artificial e interfaces homem-máquina. Weizenbaum escolheu o modelo de conversa de uma sessão de psicoterapia porque o entrevistador psiquiátrico é uma das poucas formas de comunicação natural categorizada em que um dos participantes pode assumir a postura de saber quase nada sobre o mundo real. Se um paciente diz “Eu fui para um longo passeio de barco”, e o terapeuta responde “Fale-me sobre barcos”, isso não é porque o terapeuta não sabe o que é um barco, mas porque ele quer incentivar o paciente a explorar mais esse tópico. Essa abordagem permite ao paciente sentir-se ouvido e compreendido, mantendo o foco na autoexploração, enquanto na verdade estava apenas replicando padrões de fala.
Essa experiência destacou a tendência de antropomorfizar a tecnologia, atribuindo-lhe características humanas. A experiência de conversar com ELIZA fazia os usuários se sentirem ouvidos e compreendidos, mesmo que essa impressão fosse uma ilusão criada pelo próprio usuário, atribuindo ao programa conhecimentos e habilidades que ele não possuía. Assim, podemos facilmente ser levados a ver inteligência onde não há, levantando questões importantes sobre a natureza da interação humano-máquina e os limites da inteligência artificial. ELIZA não tinha a capacidade de realmente compreender ou aprender, mas sua habilidade de gerar respostas reflexivas era suficiente para enganar muitos, incluindo a própria secretária de Weizenbaum, que pediu privacidade para conversar com o programa.
Leia mais: Adoção de IA no setor público e inclusão social: desafios no contexto brasileiro.
Hoje, temos o ChatGPT, uma IA incrivelmente avançada que eleva essa ilusão a um novo patamar. O ChatGPT é capaz de gerar respostas detalhadas e contextualmente relevantes, tornando a interação ainda mais convincente. No entanto, assim como a ELIZA, o ChatGPT não possui consciência; ele apenas simula a compreensão através de padrões complexos de dados e algoritmos sofisticados.
A antropomorfização de ELIZA baseava-se em sua capacidade de refletir as palavras dos usuários, criando uma sensação de diálogo humano. Com o ChatGPT, essa tendência se intensificou significativamente. As respostas mais sofisticadas e o entendimento contextual proporcionam uma experiência de interação que muitas vezes nos faz esquecer que estamos conversando com uma máquina. A habilidade do ChatGPT de gerar respostas que parecem empáticas e conhecedoras leva muitos a atribuírem a ele uma inteligência que na verdade não possui.
Enquanto a ELIZA oferecia respostas simples e reflexivas baseadas em regras pré-determinadas, o ChatGPT utiliza redes neurais complexas e vastos conjuntos de dados para fornecer interações ricas e informativas. Essa evolução tecnológica destaca o quanto avançamos na criação de máquinas que imitam a comunicação humana. O ChatGPT pode engajar em conversas prolongadas e fornecer informações detalhadas sobre uma ampla variedade de tópicos, algo que a ELIZA jamais poderia alcançar.
No entanto, essa sofisticação traz consigo desafios éticos e práticos. A capacidade do ChatGPT de gerar texto indistinguível do produzido por humanos levanta questões sobre desinformação, privacidade e o potencial para uso malicioso. Além disso, a tendência de antropomorfização pode levar a uma confiança excessiva nas respostas geradas pela IA, ignorando o fato de que o ChatGPT não possui entendimento real ou sentimentos.
A comparação entre a ELIZA e o ChatGPT não é apenas tecnológica, mas também uma reflexão sobre como interagimos com máquinas e as percebemos. A ELIZA, com suas respostas simples, revelou nossa tendência de projetar inteligência em interações básicas. O ChatGPT, com sua capacidade avançada, exacerba essa tendência, sublinhando a necessidade de educar os usuários sobre os limites e as capacidades reais da IA.
A ELIZA foi um marco inicial, quase uma avó do ChatGPT e similares. Mas Weizenbaum sempre alertou sobre os riscos de superestimarmos suas capacidades. Hoje, com o ChatGPT, essa cautela é mais relevante do que nunca. Precisamos celebrar os avanços tecnológicos, mas também reconhecer seus limites e as implicações éticas de seu uso. A jornada da IA, da ELIZA ao ChatGPT, ilumina o progresso e os desafios contínuos na IA. A inovação e a tecnologia devem ser usadas para aumentar nosso potencial e gerar benefícios para toda a humanidade.
E você, já conhecia a ELIZA? Se quiser, você pode “conversar” com ela neste link.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
Fábio Correa Xavier é Diretor do Departamento de Tecnologia da Informação (CIO) do Tribunal de Contas do Estado de São Paulo, onde lidera projetos de inovação, transformação digital e cibersegurança. É também Professor e Coordenador de Graduação e Pós-Graduação em diversas instituições de ensino, além de Colunista do MIT Technology Review, onde escreve sobre temas relacionados à tecnologia e sociedade. Possui formação acadêmica sólida, com Mestrado em Ciência da Computação pela USP, MBA em Gestão de Negócios pelo IBMEC/RJ, Especialização Network Engineering pela JICA-Japão, Pós-graduação em Lei Geral de Proteção de Dados, Direito Público, Gestão Pública e Responsabilidade Fiscal e Projetos de Redes. Possui ainda certificações internacionais em privacidade e proteção de dados, como IAPP CIPM e CDPO/BR, EXIN Privacy and Data Protection e (ISC)² CC.
Com mais de 30 anos de experiência na área de tecnologia e segurança da informação, atuou em empresas de grande porte, do setor público e privado, sendo reconhecido por diversos prêmios e homenagens, como o Prêmio de Inovação Judiciário Exponencial, o Ranking 100 Empresas + Inovadoras no Uso de TI, o Prêmio Empresa +Digital, o Prêmio Security Leaders Case do Ano, entre outros. Além da sua atuação profissional e acadêmica, dedica-se a trabalhos voluntários como Secretário Executivo do Comitê Gestor de Tecnologia, Governança e Segurança da Informação dos Instituto Rui Barbosa – IRB e Membro do Conselho de Administração do Instituto do Câncer Dr. Arnaldo.
É autor dos livros “LGPD no setor público: boas práticas para os municípios brasileiros”, “LGPD no setor público: Boas práticas para a jornada de adequação”, “Roteadores Cisco: guia básico de configuração e operação”, “Tecnologias, Inovação e outros assuntos em análise” e “Cartilha de Governança em Proteção de Dados para Municípios”. Também é autor de capítulos em livros sobre a Lei Geral de Proteção de Dados Pessoais e os Tribunais de Contas Brasileiros.
