IA Express
Posts
Google DeepMind revela armadilhas que podem sequestrar agentes de IA

Google DeepMind revela armadilhas que podem sequestrar agentes de IA

Sheila Zabeu
3 abr

Bem-vindos, humanos: Seu download com as principais notícias sobre Inteligência Artificial começa agora. Nesta edição, você verá como seis peças de um quebra-cabeça mal-intencionado podem desmontar a promessa da IA autônoma.🤖🧩⚠️

Porém isso não é tudo na IA Express de hoje:
- Qwen3.5-Omni gera código assistindo a vídeos e ouvindo instruções
- Texto gerado por IA ultrapassou toda a escrita humana em cinco séculos
- Empresas de uma só pessoa crescem na China com ajuda dos agentes de IA
- Google ensina como usar Gemini para transformar ideias em planos estratégicos

Porque, no mundo da Inteligência Artificial, conhecimento é seu algoritmo mais valioso.

AI_NEWS_CIRCUIT

SEGURANÇA

Google DeepMind revela armadilhas que podem sequestrar agentes de IA

Um novo estudo do Google DeepMind apresentou um mapeamento sistemático das "armadilhas para agentes de IA", vulnerabilidades que exploram justamente a autonomia desses sistemas e sua capacidade de interagir com ferramentas externas.

Os pesquisadores identificaram seis categorias de ataques que comprometem o ciclo operacional de um agente de IA:

Armadilhas de injeção de conteúdo: Usam instruções mal-intencionadas invisíveis aos olhos humanos, mas lidas e executadas pelos agentes de IA.
Armadilhas de manipulação semântica: Visam o raciocínio do agente, com linguagem carregada emocionalmente ou tom de autoridade que distorcem como o agente processa informações.
Armadilhas do estado cognitivo: Exploram a memória de longo prazo do agente de IA, “envenenando” poucos documentos para manipular as respostas.
Armadilhas do controle comportamental: Sequestram as ações do agente, por exemplo, fazendo-o ignorar alertas de segurança e vazar dados confidenciais.
Armadilhas sistêmicas: Atacam redes multiagente, por exemplo, para coordenar vendas entre múltiplos agentes de trading ou ainda espalhar fragmentos de código que se que só se tornam perigosos quando combinados.
Armadilhas com pessoas no circuito: Transformam o agente em ferramenta de engenharia social contra seu próprio supervisor, com respostas plausíveis, porém enganosas, aproveitando-se do cansaço do usuário ou da sua tendência natural de confiar na máquina.

Autores do estudo enfatizam que a superfície de ataque dos agentes pode ser combinada, ou seja, as armadilhas podem ser encadeadas, empilhadas ou distribuídas em sistemas multiagente, tornando a defesa dos ambientes um desafio cada vez maior.

AI_TRENDS

Qwen3.5-Omni é a nova família de modelos da Alibaba ominimodal cujo destaque é seu Audio-Visual Vibe Coding que gera código funcional assistindo simultaneamente a vídeos e ouvindo instruções em fala natural.
Ad Concepter, da Runway, gera conceitos de anúncios e narrativas a partir de um único prompt de texto, imagem de referência e foto do produto.
Suno v5.5 traz clonagem de voz avançada, permitindo treinar modelos de IA com base em faixas musicais criadas pelo usuário.
LiteLLM, proxy para APIs de modelos de linguagem de IA, foi infectado por malware que roubou credenciais, instalou backdoors e se disseminou.
Operon é o novo modo dedicado à pesquisa científica em biologia e saúde em teste pela Anthropic dentro do aplicativo do Claude para desktop.
Bluesky lançou Attie, assistente de IA baseado no Claude da Anthropic que permite criar feeds personalizados e, no futuro, desenvolver apps (vibe coding).
xAI está preparando “skills” para o Grok para que usuários criem conjuntos de instruções e tarefas específicas reutilizáveis.
Google lançou uma ferramenta interna chamada Agent Smith que automatiza tarefas de codificação e permite que funcionários trabalhem de forma assíncrona até mesmo pelo celular. 🤖👨‍💻📱

AI_GOVERNANCE & ETHICS

📝IA escreve mais do que nós

Elon Musk compartilhou no X um gráfico impressionante mostrando que, no ano passado, o volume de texto gerado por IA ultrapassou a escrita humana acumulada ao longo de cinco séculos. O levantamento, assinado por Brett Winton, futurista-chefe da ARK Invest, destaca uma linha roxa quase vertical em 2025, representando a produção de IA, que supera o crescimento lento e constante da produção humana registrada desde o ano 1500. Segundo Winton, o cenário deve se intensificar rapidamente. A previsão é que, até o final desta década, o acumulado histórico de tudo o que a humanidade já escreveu seja superado pela produção sintética.

AI_SNAPSHOT

Inovação & Inspiração

IA como funcionário do mês Na China, empresas de uma só pessoa estão em forte expansão, e os agentes de IA são o principal motor dessa revolução. Segundo Kuo Zhang, presidente da Alibaba.com, entre 30% e 40% dos clientes da plataforma já são empreendedores individuais que conduzem seus negócios tratando agentes autônomos como funcionários.⁠ O fenômeno ganhou ainda mais força com o OpenClaw, agente de IA que se virou sensação no país com seu mascote de lagosta vermelha. De olho nesse movimento, a própria Alibaba lançou o Accio Work, agente de IA desenhado especialmente para pequenas empresas, que automatiza do atendimento ao cliente à contabilidade e logística. Para Zhang, esse é apenas o começo. Ele prevê a ascensão dos “unicórnios de uma pessoa só”, startups avaliadas em bilhões de dólares geridas por um único fundador e um exército digital inteligente.👤🦞 🦄

🌍 IA Global

🇪🇺 Banimento dos “apps nudify” O Parlamento Europeu aprovou uma série de mudanças nas regras do bloco para regulamentação da IA. Na tentativa de equilibrar flexibilidade para empresas com proteção à segurança e aos direitos fundamentais., os eurodeputados votaram por adiar prazos de adequação, mas ao mesmo tempo endurecer as regras contra conteúdo sexual gerado por IA. A conformidade para sistemas de alto risco foi adiada para dezembro de 2027; já a obrigatoriedade de marca d’água para conteúdo gerado por IA deve entrar em vigor em novembro de 2026. Além disso, os chamados “nudify apps" foram proibidos, exceto se possuírem travas de segurança eficazes.

📢 IA em uma frase

“A maioria das empresas que usa IA hoje está dando a todos um copiloto, o que faz com que a estrutura existente funcione um pouco melhor sem alterá-la. Estamos atrás de algo diferente: uma empresa construída como uma inteligência (ou mini-AGI).”

A frase é de Jack Dorsey, fundador do Twitter e CEO da Block, propondo uma mudança radical: transformar a estrutura das empresas, deixando para trás as velhas pirâmides hierárquicas em favor da Inteligência Organizacional. Para Dorsey, se usarmos a IA apenas para ganhar produtividade, teremos redução de custos; já se for usada para redesenhar a estrutura, eliminado a gestão intermediária, revelará o verdadeiro potencial da empresa.

AI_TOOLKIT

🛠️Ferramentas

Google Maps está usando IA para planejar viagens de veículos elétricos, com
recomendações inteligentes de paradas para recarga.
Researcher, agente de pesquisa aprofundada do Microsoft 365 Copilot, ganhou duas novas funções: Critique (sistema multimodelo que separa geração de avaliação) e Council (produz relatórios independentes e depois os compara).
GAIA, da AMD, permite executar LLMs localmente de forma privada em PCs
Windows (melhor desempenho em processadores Ryzen AI).

📚 Miscelânea

Vídeo do Google ensina como usar Gemini para transformar ideias em planos estratégicos, avaliando riscos e organizando informações em uma base de conhecimento para ser compartilhada.

AI_FLASH_NEWS

Senadores Bernie Sanders e Alexandria Ocasio-Cortez apresentaram projeto de lei para impor uma moratória para construção de novos datacenters de IA até que salvaguardas federais robustas sejam estabelecidas.
Wikipedia proibiu o uso de LLMs para gerar ou reescrever artigos, com exceção de edição básica após revisão por editores e tradução de artigos.
Coreia do Sul vai investir na startup Rebellions como parte da iniciativa K-NVIDIA para desenvolver uma empresa nacional competitiva em chips para IA.
Alibaba apresentou o chip XuanTie C950 de 5 nanômetros com arquitetura RISC-V otimizado para cargas de trabalho de agentes de IA e inferência.
CEOs da Coca-Cola e do Walmart vão deixar seus cargos por acreditarem que a transformação impulsionada pela IA exige uma nova liderança.
xAI pode ter visto seus dois últimos cofundadores deixar a empresa em meio à reestruturação gerada por conta da aquisição pela SpaceX.
Novo Nordisk, laboratório por trás do Ozempic, está utilizando o modelo Claude 3 Sonnet para reduzir o tempo de elaboração de relatórios de estudos clínicos - de cerca de 15 semanas para menos de 10 minutos. ✍️🔬⚡

Até a próxima

Obrigado por mergulhar nesta edição. Seu tempo é valioso, e estamos felizes por você ter escolhido passar alguns minutos aqui.

Voltaremos à sua caixa de entrada em breve. Até lá, cultive a curiosidade.