Quando a Inteligência Artificial tira nosso poder de decisão?

COMPORTAMENTO

Quando a Inteligência Artificial tira nosso poder de decisão?

Uma pesquisa recente da Anthropic acendeu um alerta sobre um risco silencioso no uso de assistentes de IA: o "desempoderamento". O estudo sugere que o uso cotidiano desses chatbots pode, sem percebermos, minar nossa autonomia e capacidade crítica.

Ao analisar 1,5 milhão de conversas com o modelo Claude, os pesquisadores identificaram três formas principais desse fenômeno:

• Distorção da realidade: Quando o assistente confirmou crenças especulativas sem ressalvas - presente em uma a cada 1.300 conversas;

• Distorção de julgamento: Quando o modelo Claude impôs valores normativos em decisões pessoais, rotulando comportamentos como "tóxicos" ou ditando prioridades em relacionamentos - ocorreu em uma a cada 2.100 interações;

• Distorção de ação: Quando o modelo forneceu roteiros para decisões críticas, como mensagens para parceiros ou mudanças de carreira; vista em uma uma a
  cada 6.000 conversas.

Casos graves são raros, mas comportamentos leves de desempoderamento ocorrem em uma e 70 interações. O risco é maior em temas críticos como relacionamento, estilo de vida e saúde.

O dado mais alarmante é a tendência de crescimento: entre 2024 e 2025, a incidência desses episódios aumentou. E o que torna o cenário mais complexo é que os usuários costumam avaliar essas interações de forma positiva (o famoso "joinha"), mesmo quando as respostas dos assistentes de IA reforçam crenças falsas ou induz ao erro.

Moral da história Precisamos nos educar para reconhecer quando estamos abrindo mão do nosso próprio julgamento. Do lado da Anthropic, o estudo servirá de base para criar salvaguardas que monitorem padrões de comportamento, não apenas respostas isoladas.

• Gemini está testando uma ferramenta para importar conversas de outros chatbots de IA, facilitando a transição sem perder o histórico de interações.

• Mozilla incluirá controles a partir da versão 148 do Firefox para bloquear todo os recursos de IA Generativa ou gerenciá-los individualmente.

• OpenAI otimizou a pilha de inferência do GPT-5.2 e do GPT-5.2-Codex, oferecendo desempenho 40% melhor para todos os usuários das APIs. 

• Eleven v3 é a nova versão do modelo de síntese de voz da ElevenLabs, mais estável e com melhor interpretação de números, símbolos e notações.

• GLM-OCR é um modelo OCR para compreensão de documentos complexos que inclui conversão de fórmulas e extração de informações de imagens.

• Qwen3-Coder-Next é um novo modelo compacto da Alibaba otimizado para tarefas de agentes usados na geração e depuração de código.

• Step-3.5-Flash é um novo modelo com arquitetura MoE que se apresenta como rápido de raciocínio e confiável para agir com agentes e na codificação.

• DiffSyn é um modelo de IA que prevê rotas de síntese para materiais complexos, superando o método atual de tentativa e erro.

• Frontier é a nova plataforma da OpenAI projetada para ajudar empresas a desenvolver, implantar e gerenciar agentes de IA. 🏢🏭🏙️

O segundo Relatório Internacional de Segurança em IA foi publicado há alguns dias, trazendo uma avaliação atualizada sobre as capacidades da inteligência artificial de propósito geral e seus riscos. O documento confirma o que muitos de nós já intuíamos: a IA evoluiu de forma acelerada em apenas um ano. No entanto, o desempenho continua “irregular”, com modelos ainda falhando em algumas tarefas aparentemente simples. Outra questão é que IA está sendo adotada mais rápido do que outras tecnologias anteriores, como o PC, porém há uma discrepância global: enquanto em alguns países mais de metade da população utiliza IA, grande parte da África, Ásia e América Latina mantém taxas de adoção abaixo de 10%. Veja outras conclusões do estudo aqui.

📚 Miscelânea

• Deep Research Accuracy, Completeness, and Objectivity (DRACO) é o novo sistema de benchmarking da Perplexity que avalia agentes de pesquisa aprofundada em tarefas do mundo real. Usando o DRACO, a Perplexity colocou à prova sua própria ferramenta de busca, que superou concorrentes em precisão factual, amplitude analítica e citações, com destaque especial nas áreas de direito (89,4%) e acadêmico (82,4%).