Esqueça a ideia de que o ChatGPT é um gênio que entende o mundo como você, que raciocina e que é capaz de pensar por si mesmo. O CEO da OpenAI, Sam Altman, revelou uma série de segredos sobre como a inteligência artificial realmente funciona, e garantimos que você ficará sem palavras. Por trás de suas respostas fluidas e coerentes, há uma série de processos mecânicos que demonstram que ela não tem consciência, não tem sentimentos e nem mesmo entende palavras. Saber como esse chatbot realmente opera é fundamental para entender por que ele às vezes acerta e por que outras vezes simplesmente inventa tudo.
Clique para receber notícias de Tecnologia e Ciências pelo WhatsApp
1. Ele não pensa sozinho; há uma equipe de humanos por trás dele
Embora possa parecer que o ChatGPT sabe tudo sozinho, a realidade é que, para que o chatbot responda naturalmente, há uma equipe de pessoas que o “treinou”. Esse processo se chama alinhamento, e é a razão pela qual, se você perguntar como fazer uma arma, o sistema não só não lhe dará uma resposta, como também o redirecionará para uma fonte confiável. Sem esse filtro humano, a IA seria uma caixa de Pandora, sem qualquer tipo de supervisão ou ética.
2. Eles não aprendem com palavras, eles aprendem com tokens
Quando você lê uma frase, você a entende como uma unidade significativa, mas para o ChatGPT, isso não existe. O que o sistema faz é dividir cada texto em pedaços menores chamados tokens. Por exemplo, a frase “O ChatGPT é maravilhoso” é dividida em Chat-G-PT-é-mar-avilhoso. Esse sistema explica por que a IA às vezes interpreta mal uma pergunta, confunde significados ou responde de forma estranha. O que ela vê não são ideias, mas peças soltas que ela tenta juntar.
3. Eles vivem presos no passado
Embora o chatbot pareça saber tudo, seu conhecimento se limita a uma data específica: junho de 2024. Após essa data, ele não tem ideia do que aconteceu no mundo. Se você perguntar sobre algo recente, ele precisa fazer uma busca na internet e usar o mecanismo de busca Bing. Se o conteúdo encontrado for escasso, contraditório ou pouco claro, sua resposta também será. Atualizar um modelo de linguagem não é tão fácil quanto instalar um aplicativo; é um processo complexo, caro e demorado. Portanto, até que uma nova versão seja treinada, o ChatGPT permanece preso ao passado.
4. As famosas “alucinações” que te contam mentiras
Uma das falhas mais graves dessa IA é sua capacidade de “alucinar”, ou seja, dar respostas que parecem convincentes, mas são completamente falsas. Ela não faz isso de propósito; ela simplesmente preenche as lacunas para que a resposta pareça completa e fluida. Isso acontece porque sua prioridade é soar coerente, não estar certa. Se uma frase soa lógica e segue o padrão de milhões de textos que leu, ela a gerará mesmo que não tenha base na realidade. Portanto, você deve ter cuidado ao usá-la para buscar informações, pois ela pode lhe dar ideias, mas você nunca deve tomar suas respostas como definitivas.
LEIA TAMBÉM:
Amigo ou computador? Criador do ChatGPT diz que IA já superou humanos como melhores amigos
5. Ela realiza operações matemáticas com uma calculadora, não com seu “cérebro”
O ChatGPT não entende matemática. Embora possa fornecer o resultado correto, o que ela está, na verdade, fazendo é delegar essa operação a uma ferramenta interna que atua como uma calculadora. Você digita a pergunta, o sistema a identifica como um cálculo, resolve com o aplicativo e mostra o resultado como se o chatbot tivesse pensado nisso. Por isso, às vezes ele pode falhar com problemas simples de adição, mas acertar com problemas complexos. Tudo depende se você ativou ou não a ferramenta de raciocínio.