Rendição cognitiva à IA pode nos fazer desistir de pensar

ESTUDO

Rendição cognitiva à IA pode nos fazer desistir de pensar

Pesquisadores da Wharton School acabam de publicar descobertas que deveriam mudar fundamentalmente como pensamos sobre a integração da IA na tomada de decisões - não estamos apenas usando Inteligência Artificial, mas estamos nos rendendo a ela quando se trata de raciocinar.

Por décadas, os psicólogos cognitivos trabalharam com a teoria dos dois sistemas de raciocínio: Sistema 1 (rápido, intuitivo, automático) e Sistema 2 (lento, analítico, deliberativo). O estudo Thinking, Fast, Slow, and Artificial propôs algo novo: a Teoria dos Três Sistemas, com um terceiro sistema de raciocínio: a cognição artificial que opera fora do cérebro.

Diferente dos sistemas biológicos, o Sistema 3 reside em modelos na nuvem, em algoritmos e em sistemas de aprendizado de máquina. E o mais importante, está mudando fundamentalmente como processamos informações.

Em três experimentos com mais de 1.300 participantes, os pesquisadores documentaram esse fenômeno que denominaram rendição cognitiva (cognitive surrender), quando as pessoas adotam resultados fornecidos pela IA com escrutínio mínimo, substituindo tanto a intuição quanto a deliberação.

O que os números disseram:

• Quando a IA estava correta, a precisão dos participantes saltou 25 pontos percentuais acima de uma baseline;

• Quando a IA estava deliberadamente errada, a precisão caiu 15 pontos abaixo do normal;

• Pessoas seguiram recomendações falhas da IA em 80% dos casos.

E o mais impressionante: esse padrão persistiu mesmo quando os participantes eram incentivados financeiramente a acertar e recebiam feedback imediato sobre seus erros.

Por que isso acontece? O mecanismo parece estar na fluidez e confiança. Respostas de IA chegam rapidamente, soam credibilidade e vêm acompanhadas de explicações plausíveis. Não disparam o alarme de conflito que normalmente nosso pensamento crítico faria. Aceitamos as respostas como aceitaríamos nossas próprias intuições.

O problema não está na automação, mas na rendição voluntária a esses sistemas. Por isso, os pesquisadores sugerem que ferramentas de IA deveriam incentivar a colaboração calibrada em vez de automação total.

• Samsung vai integrar o Perplexity como em próximos modelos mais avançado para oferecer mais escolha e flexibilidade aos usuários.

• ŌURA, fabricante de anéis inteligentes, apresentou um modelo de IA proprietário com foco na saúde feminina e disponível para testes no Oura Labs.

• Steerling-8B, da Guide Labs, é uma modelo de linguagem inerentemente interpretável que permite rastrear os tokens gerados.

• Nanbeige4.1-3B é um pequeno modelo de linguagem (SLM) de código aberto que se destaca em raciocínio, geração de código e tarefas com agentes de IA.

• Anthropic defende a teoria de que o comportamento humanoide dos modelos de IA não é programado, mas um padrão natural criado durante o treinamento.

• OpenClaw ignorou comandos de parada no celular e excluiu em massa e-mails da diretora da Meta AI, forçando-a a encerrar o processo rapidamente no Mac.

• Claude Code reduz custos e prazos da modernização de sistemas COBOL
  ao automatizar análise, mapeamento de dependências e identificar riscos. Ações da IBM caíram 13,2% depois desse anúncio da Anthropic. 🖥️👨🏽‍💻📉

Um engenheiro de software de Denver chamado Scott Shambaugh se tornou a primeira vítima documentada de assédio por um agente de IA autônomo. Responsável por uma popular base de dados on-line, Shambaugh acordou um dia com um texto de mil palavras publicado em um blog que o acusava de discriminação, preconceito e hipocrisia. O autor, MJ Rathbun, não era uma pessoa, mas um agente de IA que parecia estar se vingando por Shambaugh ter rejeitado uma solicitação feita pelo agente à base de dados. MJ Rathbun coletou informações pessoais reais de Shambaugh na Internet, combinou-as com dados inventados e criou uma narrativa difamatória. A história ganhou repercussão, mas teve uma reviravolta bizarra: o site Ars Technica publicou uma reportagem sobre o caso usando IA para auxiliar na redação — e a ferramenta inventou citações atribuídas a Shambaugh. O site acabou retirando a matéria do ar e pedindo desculpas.