Por uma tecnologia menos artificial e mais inteligente

A Inteligência Artificial pode resolver todos os problemas da humanidade. Todos. Mas está trilhando um perigoso e descontrolado caminho de desgovernança. A sociedade, você e eu, precisa se manifestar contra isso. Já. Debate já. Leis já. Ou, caríssimos e caríssimas, estamos lascados.

Estava eu lá entregue às minhas conjecturas e leituras (intensas ambas) de final de ano, chegando a triste e apavorante conclusão de que a inteligência artificial na mão de cientistas toscos, pesquisadores socialmente despreparados, tecnólogos rasos, startups idiotas e as Big Techs (parte delas, ao menos) está aberta e francamente desgovernada e que todo esse povo está se lixando para a segurança e a sustentabilidade da vida no Planeta…estava lá eu, então, viajando na maionese, dizia, quando dei de cara com essa capa abaixo, da Wired dos EUA.

Foi o estopim. Copiei o genial título da capa da revista (quase que integralmente dedicada à minha mesma preocupação) e resolvi aqui alinhar alguns princípios e trechos de textos que considero importante que todos leiam, para tentarmos entender um pouco melhor o que está acontecendo e o efetivo perigo que corremos.

Acho que deveríamos caminhar para a redação de um HUMAN INTELLIGENCE MANIFEST, franca e abertamente em contraposição ao desenfreado e anti-humano desenvolvimento da ARTIFICIAL INTELLIGENCE. Uma espécie de Direitos Humanos para o novo mundo digital.

Parece-me mais do que razoável que todos nós, em sociedade, tenhamos direito a defender a vida. A vida biológica. Eventualmente, com os ganhos que a tecnologia possa nos proporcionar. Mas do jeito que a ciência e a tecnologia tratam o tema hoje, somos solenemente excluídos e ignorados, por definição e de fato, das decisões tomadas em centros de pesquisa e laboratórios, que poderiam estar (e, de fato, muitos estão, justiça seja feita) desenvolvendo soluções para melhorar a vida no Planeta. Só que não.

Entenda um pouco mais e caia na real, please!

Uma preocupação estrutural básica em relação a AI é que, tecnicamente, não temos agora mais controle sobre ela. Alimentamos sua base de dados e ela, a partir daí, faz suas conexões na busca da resolução de algum desafio / problema / objetivo e….. foi. Ela vai fazendo isso sozinha. Nenhum ser humano pode mais acompanhar sua velocidade e suas “deduções”. Ela simplesmente cospe, depois, um resultado qualquer. Que não controlamos como será e qual será.

AI é já, hoje, uma caixa preta para os seres humanos. Está fora do nosso controle. Isso não dito por mim, mas por técnicos que mexem como o assunto.

Veja abaixo trecho de excelente artigo do engenheiro de software e blogueiro, Ben Dickson, cujo título revelador é Learning How AI Makes Decision. Ele cita um cientista e faz o seguinte comentário: “’Na programação clássica de computadores, você tem precisão com o algoritmo. Sabe exatamente em termos matemáticos o que está fazendo’”, disse Sheldon Fernandez, CEO da DarwinAI, empresa de inteligência artificial de Ontário. “Com o aprendizado profundo, o comportamento é orientado por dados. Você não está prescrevendo comportamento ao sistema. Está dizendo: ‘veja os dados, descubra qual é o comportamento’. Essa é uma abordagem intrinsecamente imprecisa e estatística. Isso significa que, quando você permite que uma rede neural desenvolva seu modelo comportamental, está basicamente perdendo visibilidade em seu processo de raciocínio. E principalmente, os parâmetros internos e as conexões que as redes neurais desenvolvem são tão numerosos e complexos que se tornam muito difíceis para os humanos entenderem”.

Sacou? Sacou que ferrou? Sacou que não sou eu que estou dizendo, mas gente muito mais qualificada que eu? Ainda duvida?

A nossa conversa ainda não acabou, quero expor outras ideias sobre o tema.

(*) Pyr Marcondes é jornalista, consultor, autor de livros e empreendedor