“A realidade dos fatos é: nós estamos criando Deus”
Gawdat conta que, durante seu trabalho no Google, teve uma revelação assustadora: a empresa estava desenvolvendo um sistema que permitia a braços robóticos encontrarem e agarrarem uma pequena bola. Diz ele que, ao longo do progresso da pesquisa, um dos braços não só agarrou a bolinha, mas também a segurou, dando a entender que estava “se exibindo” para seus criadores.
A entrevista não deixa claro se a ação do braço foi autônoma ou se estava, de alguma forma, inserida em sua capacidade de aprendizado (a descrição geral fala em “identificar, localizar e agarrar”, e as ações teoricamente param por aí).
“Foi aí que percebi o quão assustador isso é”, disse Gawdat, que deixou a empresa em 2017, após a morte de seu filho de 21 anos durante uma cirurgia de rotina. Ele, hoje, responde como empreendedor digital e autor do livro “A Fórmula da Felicidade” (Editora Leya), onde conta a experiência de lidar com a perda.
De acordo com a entrevista, Gawdat acredita que estamos cada vez mais perto de uma “inteligência artificial geral” – o tipo de IA capaz de aprender tudo, e aplicar esse conhecimento de forma a ameaçar a humanidade se assim julgar necessário. Você se lembra do meme “estamos criando a SkyNet”, em referência à IA da franquia de filmes “O Exterminador do Futuro”? Gawdat está se referindo à ela.
“A realidade dos fatos é: nós estamos criando Deus”, ele disse.
Já não é de hoje que personalidades exemplares do setor tecnológico pedem por maiores cuidados nas pesquisas envolvendo a inteligência artificial: Elon Musk, fundador da SpaceX (e da Tesla, e da Boring Company, e da Neuralink…) já disse que, sem as devidas restrições e regulamentações, corremos o risco de sermos conquistados por algum tipo de IA rebelde.
Essas pinceladas generalizadas, porém, ignoram certos problemas que já existem nas tecnologias que já criamos: a Amazon, por exemplo, desenvolveu o sistema Rekognition de reconhecimento facial, oferecendo-o para testes às mãos de autoridades policiais nos EUA. A tecnologia em si acabou paralisada após relatos de que ela trazia viés racista, gerando identificações erradas em pessoas negras por falta de “calibragem” correta.
Esse problema – e diversos outros – já foram citados pela Microsoft, que corriqueiramente pede que as autoridades governamentais de diversos países criem regulamentações e restrições mais firmes na pesquisa e desenvolvimento da IA.
Em outros casos, desenvolvedores independentes já usaram algoritmos preditivos – um braço do machine learning – para criar “falsos nudes” e deepfakes de mulheres na internet – anônimas e celebridades – com graus assustadores de realismo.
