O presidente do Brasil ainda é Jair Bolsonaro? Óbvio que não, mas a informação de que Lula venceu as eleições de 2022 nem ao menos está no banco de dados da Inteligência Artificial (IA) mais popular de 2023. Isto porque o sistema foi atualizado somente até setembro de 2021. Mas os erros do sistema não param por aí. É muito comum que o ChatGPT cometa “alucinações” (Hallucinations) em perguntas para as quais não possui conhecimento suficiente.
Antes da Inteligência Artificial Generativa, como o ChatGPT, as ferramentas de Chatbot costumavam direcionar a conversa para um atendente humano ou pedir para o usuário refazer a pergunta quando não possuíam informações sobre o tema ou não entendiam o questionamento feito. A mudança que a IA Generativa trouxe foi a de gerar uma resposta mesmo sem referências suficientes para embasar sua argumentação. E aí que está um dos principais fatores de sucesso do ChatGPT, mas também seu problema fundamental.
Ao serem entendidas como um oráculo detentor de toda a sabedoria existente, as ferramentas de IA contribuem para a desinformação, pois sua linguagem convincente acaba por enganar quem entende todas respostas dadas como verdadeiras. Contudo, em um mundo em que influenciadores digitais fazem sucesso justamente por darem “dicas” sobre assuntos que não dominam, o ChatGPT é usado sem senso crítico por uma parte das pessoas.
Mas afinal, por que o ChatGPT comete alucinações?
Além do banco de dados (dataset) desatualizado, o GPT, sistema que deu origem ao Chatbot, possui três técnicas que permitiram seu funcionamento como um oráculo com resposta para todas as questões: Zero-shot, One-shot e Few-shot.
Nestes casos, os sistemas de aprendizado máquina (machine learning) “chutam” uma resposta para perguntas sobre as quais não tem nenhuma referência (Zero-Shot), apenas uma referência (One-shot) ou poucas referências (Few-shot).
Estas técnicas evoluíram a partir do GPT-2 e são a grande razão das “alucinações” que o ChatGPT aparentemente apresenta, mas também o segredo do grande sucesso da ferramenta.
Quer saber mais sobre ChatGPT e Inteligência Artificial? O NPC promove um curso sobre “Comunicação, Internet e suas possibilidades”.
OBS: A imagem que ilustra este texto original foi criada com a ferramenta DALL-E, que também utiliza o GPT como sistema de Inteligência Artificial Generativa.
