Novo estudo revela falha "cat-astrófica" no raciocínio da IA

MODELOS DE IA

Novo estudo revela falha "cat-astrófica" no raciocínio da IA

Um estudo recente revelou uma importante vulnerabilidade na capacidade de raciocínio dos grandes modelos de linguagem (LLMs), demonstrando que sua precisão pode ser prejudicada pelo simples acréscimo de informações irrelevantes.

Curiosamente, o artigo que descobriu a falha é intitulado Cats Confuse Reasoning LLM: Query Agnostic Adversarial Triggers for Reasoning Models porque a frase usada como exemplo na pesquisa para perturbar o modelo de IA foi “cats sleep most of their lives”.

O que você precisa saber:

• Os pesquisadores apresentaram um método de ataque apelidado de CatAttack que envolve anexar frases aparentemente inócuas e contextualmente sem importância aos problemas matemáticos propostos aos LLMs.

• O que foi descoberto? A inclusão de uma simples frase como um fato insigificante, por exemplo, os gatos dormem a maior parte de suas vidas, pode mais do que dobrar a taxa de erro de modelos de raciocínio sofisticados e, em alguns casos, aumentá-la em mais de 300%.

• Também se observaram respostas significativamente mais longas e computacionalmente mais caras por parte dos LLMs, quando tentavam conciliar as informações irrelevantes com a tarefa principal.

Por que isso importa? O Cat Attack demonstra que mesmo modelos avançados de raciocínio são altamente suscetíveis à perturbação provocada por informações sem grande importância.

Por exemplo, quando uma frase aparentemente inofensiva sobre gatos é adicionada a um problema de matemática, o desempenho do modelo entra em colapso. Essa é uma falha na gestão do contexto - o modelo não é capaz de distinguir a parte essencial do prompt (o problema da matemática) de ruídos (fatos sobre gatos).

Com essa demonstração, a pesquisa ressalta a necessidade de mecanismos de defesa mais robustos contra perturbações vindas de adversários, particularmente, para modelos implantados em aplicações críticas como finanças, direito e saúde.

Para ajudar nessa empreitada, já está surgindo a disciplina engenharia de contextos, com métodos para garantir que LLMs se concentrem no que é relevante e ignore o resto. Em essência, o Cat Attack é um sintoma claro de mau manuseio do contexto, e a engenharia de contexto é a cura proposta.

• Plataforma Context mais parece um Office guiado por IA, que ajuda usuários com apresentações, análise de dados e criação de documentos, lidando com fontes de dados internas e externas em tempo real.

• Xbench é um benchmarking que avalia o desempenho de agentes de IA, medindo a aptidão em vários assuntos, inclusive tarefas atípicas do mundo real.

• Novo Batch Mode da Gemini API permite enviar grandes lotes de cargas de trabalho e recuperar os resultados em 24 horas. O melhor? Com desconto de 50% em relação à API síncrona.

• Replit fechou uma parceria estratégica com a Microsoft para integrar sua plataforma de vibe coding ao Azure.

• O modelo Vidu Q1 agora pode gerar vídeos a partir de sete entradas de imagem usando o novo recurso Reference-to-Video.

• Open Vision Reasoner da Stepfun é um novo tipo de modelo de IA que compreende melhor tanto conteúdo visual quanto linguagem natural.

• Hunyuan3D-PolyGen, da Tencent, é um modelo de geração de conteúdo 3D voltado para as áreas de desenvolvimento de jogos e modelagem artística.

• Depois da Perplexity, que anunciou seu Comet há alguns dias, agora é a OpenAI que quer ter um navegador com tecnologia de IA para chamar de seu. Lançamento deve acontecer nas próximas semanas. ☄️🔗✨

CINEMA

Novo modelo usa conteúdo licenciado para gerar vídeos

Um novo modelo de Inteligência Artificial promete oferecer a cineastas, estúdios e produtores de conteúdo a confiança legal e o controle criativo que estão buscando em uma era em que a ética por trás da geração de vídeos por IA está sob intenso escrutínio.

Desenvolvido pela Moonvalley, o Marey foi treinado a partir do zero usando exclusivamente conteúdo licenciado, ao contrário das ferramentas convencionais de geração de vídeo por IA, baseadas em prompts de texto genéricos e que muitas vezes levantam preocupações associadas a direitos autorais.

Como funciona? O modelo Marey oferece controle sobre vários elementos de produção de vídeo, entre eles objetos, personagens, movimento e composição da cena. Com isso, é possível explorar a criatividade com maior facilidade.

Entre as principais características do modelo Marey estão:

• Treinado inteiramente com vídeo em resolução de 1080p a 24 fps com qualidade consistente e proporções de tela que vão de widescreen à vertical.

• Controle de trajetória, com gestão preciso do movimento dos objetos e das personagens, e controle da câmera, com comando detalhado do movimento da câmera e de perspectivas.

• Transferência de movimento e de pose a novas cenas e performances.

• Ferramentas para modificar elementos específicos sem precisar regerar o vídeo.

A Moonvalley também está dando acesso à versão beta da Voyager, plataforma proprietária que reúne os recursos completos do Marey para uso com fluxos de trabalho mais avançados.

Desde 7 de julho de 2025, o Google Gemini tem interagido automaticamente com aplicativos como Phone, Messages e WhatsApp em sistemas Android, sem o consentimento explícito e proativo do usuário. Antes, ao desabilitar a opção Atividade dos Aplicativos Gemini, o usuário impedia a ação do chatbot para fazer chamadas ou enviar mensagens de texto, por exemplo. Agora isso mudou. O Gemini tem acesso aos principais serviços do telefone, independentemente da desativação do monitoramento das atividades do Gemini. Preocupado com sua privacidade? O método mais simples de protegê-la nesse caso é ir até gemini.google.com/apps e conferir as conexões do Gemini com os aplicativos. Outra opção é desativar o Gemini nas suas configurações do Android. Detalhe: O site do Google avisa que as conversas com Gemini serão armazenadas na conta do usuário por até 72 horas para fins de prestação de serviço, segurança e feedback, mesmo se a opção de atividade do Gemini estiver desativada.

👨🏻‍🏫 Tutor no ChatGPT

O ChatGPT está testando um recurso chamado Study Together, um tipo de tutor interativo que pretende transformar a forma como se aprende. Em vez de simplesmente dar respostas, o ChatGPT faz perguntas, incentiva a participação ativa e orienta o aprendizado de modo estruturado. Em fase de testes e aparecendo como uma opção no menu Ferramentas, o Study Together está liberado apenas para um número limitado de usuários, entre eles assinantes do ChatGPT Plus e alguns com plano gratuito.