ChatGPT: provando que esses dialogadores não são humanos. - VOCÊ CONHECE O MÁRIO?

Para começar o papo (vejam lá embaixo), sugeri ao chatGPT que falássemos em português. Ele concordou imediatamente. Aliás, ele nunca discute, ao contrário do que costumam fazer os humanos, em ocasiões assim. Logo, eu já poderia considerar provada sua natureza não humana. Mas resolvi ir adiante porque, senão, o jogo acabaria muito cedo. 

Meu intento era provar que essas novas máquinas virtuais de diálogo não são humanas. 

Por que isso? Porque o Blake Lemoine, que criou o modelo LaMDA (a maquininha de diálogo da Google, batizada de BARD), sugeriu que o modelo tinha ganhado consciência (era humano) e foi afastado da empresa. Compreensível, pois o engenheiro pareceu ter se deixado enganar pela criatura a que dera a luz. 

Mas milhões de humanos, quando dialogam com o chatGPT, todos os dias,  e se deliciam com as “tiradas” do conversador maquínico, se perguntam: será humano este algoritmo?  Todos são empurrados para aquele estado que o Descartes chamou de “estado de dúvida metódica”. Afinal, será que não tem consciência mesmo? Será que não é humano mesmo? 

O último diálogo dele que me fez rir foi este: 

-GPT, você conhece o Mário? 

- Que Mário? – respondeu o solícito algoritmo. 😆Mais humano impossível, não é? Será? 

A pergunta fatídica e antiga (de 1950), do Alan Turing, sobre as máquinas poderem pensar, é equívoca e fala de “pensamento” e não de “humanidade”. Podem as máquinas pensar? E o Turing propôs o jogo da imitação para tirar a prova. No dia em que a máquina conseguisse enganar um humano e esconder sua natureza de máquina, estaria provado que as máquinas poderiam pensar. Ele apostou que, em 50 anos, máquinas passariam no teste. Seriam capazes de se passar por humanas num diálogo com um humano. O chatGPT estaria  conseguindo pensar, então? Que isso está pondo pulga atrás da orelha de muita gente, não há dúvida!😕

Pode-se imaginar que o Turing escorregou na casca de banana jogada pelo Descartes: “penso, logo existo!” Ora, a conclusão do Descartes foi “existo” e não “sou humano”, que é a resposta que estou procurando. 

O Descartes foi esperto para não misturar as coisas (pensar e ser humano). Afinal, está cheio de coisas, por aí, que não pensam, mas existem. Inclusive alguns humanos.😅 O que significa que “não penso, logo existo” também seria aceitável. 

Estamos num tempo em que distinguir máquinas de humanos se tornou crucial. E pensar já não parece servir para fazer a distinção. 

O filósofo John Searle, com o famoso esquema do “quarto chinês” [1], pôs as coisas em termos diferentes, bem adequados para analisar o chatGPT.  Vejamos simplificadamente:

Pedro, um humano que não entende chinês, é posto num quarto com uma tabela de conversão de símbolos chineses. É o tal de quarto chinês e a tabela vincula símbolos chineses com outros símbolos chineses. 

SiangXo é um chinês que está fora do quarto, não conhece o Pedro e não sabe que Pedro tem a tabela de conversão no quarto. 

SiangXo tem de falar com Pedro, enviando símbolos chineses aos quais o Pedro responde devolvendo outro símbolo chinês, após consultar a tabela de conversão. 

Depois de um tempo de conversa (troca de símbolos com o Pedro), SiangXo jura que Pedro entende chinês. Afinal, bateu o maior papo com ele. 

Mas o humano Pedro não sabe nada dos conteúdos e sentidos dos símbolos que manipulou e nem sobre o que conversou. 

Para o filósofo Searle, a mera manipulação de símbolos não significa pensar. E, portanto, o chatGPT não pensa. Máquinas virtuais, como os algoritmos, sabem encadear símbolos e assim podem enganar quem dialoga com elas. Mas não pensam porque pensar é algo diferente de manipular símbolos mecanicamente. 

O Pedro manipulou símbolos, falou com o SiangXo em chinês, mas é claro que não pensou. Ao menos não pensou naquilo que o chinês estava conversando com ele. Ele nem sabe que houve, de fato, uma conversa. 

Pois é... mas o Pedro é humano, tem consciência. Logo, será que o chatGPT pode ser/ter também? 

Resolvi perguntar a ele o que ele entendia por consciência. 

- eu: Vamos falar em português, por favor!
- gpt: Claro, sem problemas. Em que posso ajudar você hoje?

- eu: O que é consciência? 

- gpt: Consciência é o estado de ter conhecimento de si mesmo, dos pensamentos, das sensações, das emoções e do ambiente ao redor. É a capacidade de perceber, compreender e estar ciente de nossa própria existência e da realidade que nos cerca. 

-eu: E você é consciente? 

-gpt: Como modelo de linguagem, eu sou uma entidade digital programada para processar e responder a perguntas e comentários com base em meu treinamento prévio. 

-eu: Você está querendo me enrolar. Humanos também treinam intensamente e previamente para responder perguntas e comentários. Decoram um monte de coisas para fazer o vestibular, por exemplo. 

-gpt: Embora eu tenha a capacidade de responder a perguntas e gerar respostas, eu não tenho uma consciência própria, emoções ou pensamentos autônomos como os seres humanos. 

-eu: Continua enrolando! Muitos humanos não têm consciência, própria ou não, nem emoções e muito menos pensamentos autônomos. E são humanos. 

-gpt: Meu funcionamento se baseia no processamento de dados e na aplicação de algoritmos para fornecer respostas às solicitações dos usuários. 

Fiz mais umas 20 provocações e ele continuou friozão e bem-humorado, feito gelo do polo norte. 

Definitivamente, fui obrigado a concluir que ele não é humano. E não pensa também.

Explicações finais:

1) Todas as frases “dele” foram geradas “por ele”... eu apenas intercalei algumas das minhas provocações! 

2) Para mim, ele não é humano, não pensa, mas é uma ferramenta incrível e divertida! Um milagre tecnológico-matemático. 

3) Veja acima que quem associou humano com consciência, emoções e pensamentos autônomos foi ele. 

Créditos: todas as ilustrações acima foram feitas pelo DALL-E 2, da mesma empresa que desenvolveu o chatGPT. Pedi "livremente" e ele sugeriu as imagens que utilizei.

[1] Sobre o argumento do quarto chinês, de Searle, incluí o anexo 1 no meu livro Machine Learning nas decisões.