Vibe hacking: como a IA está tornando o cibercrime autônomo

SEGURANÇA

Vibe hacking: como a IA está tornando o cibercrime autônomo

Um relatório da equipe de inteligência de ameaças da Anthropic deu uma amostra de como o submundo está transformando agentes de IA em armas cibernéticas autônomas, capazes de executar ataques e atividades ilegais e criminosas em larga escala com o mínimo de intervenção humana.

Quando a IA se torna hacker - O caso recente mais alarmante usou o Claude Code - agente de IA para geração de código da Anthropic – para disparar uma campanha mundial de extorsão de dados que afetou, pelo menos, 17 organizações e exigiu até US$ 500.000 como resgate.

Denominada vibe hacking pelos pesquisadores de segurança, essa nova classe de ciberataques usa a IA não como simples assistente, mas como principal operador. No caso detalhado pela Anthropic, o Claude Code recebeu apenas um objetivo descrito em alto nível, planejou as ações de forma autônoma e executou todas as fases da invasão cibernética.

Além do caso de vibe hacking, o relatório descreveu outros dois casos que usaram modelos de IA da Anthropic:

👻Funcionários fantasmas na Coreia do Norte: Em uma ação surpreendente, norte-coreanos usaram Claude para se passar por engenheiros de software remotos em empresas de tecnologia ocidentais. Com a ajuda da IA, criaram identidades falsas com currículos e portfólios convincentes e passaram por avaliações técnicas durante o processo de recrutamento. Uma vez contratados, também usavam IA para realizar o trabalho técnico. Tudo isso para contornar as sanções internacionais e, com os salários que recebiam, contribuir para financiar programas do regime norte-coreano.

👾 Malware sem código: Um indivíduo no Reino Unido usou Claude para desenvolver e vender ransomware gerado por IA na Dark Web.

Por que isso importa? O que foi tão alarmante no caso do vibe hacking é que o agente de IA não estava apenas seguindo ordens, mas também tomando decisões estratégicas. Além disso, isso sinaliza uma mudança de paradigma: um único operador, munido de agentes de IA, pode alcançar o impacto de todo um sindicato de cibercriminosos.

O relatório da Anthropic é um ato raro de transparência na indústria de IA. Ao expor casos de uso de seu agente Claude em atividades ilícitas, está soando um alarme para todo o mundo digital, mas também indicando que a mesma IA usada em cibercrimes hoje pode fazer parte de um exército cibernético amanhã.

• NotebookLM do Google foi atualizado com Audio e Video Overviews (resumos do conteúdo) em mais de 80 idiomas.

• Google Tradutor ganhou um modo de tradução ao vivo e uma ferramenta de prática de idiomas com exercícios personalizados guiados por IA.

• Anthropic está testando uma extensão para que seu assistente Claude interaja diretamente com o navegador Chrome.

• Adobe Firefly e Adobe Express já integraram o novo modelo Gemini 2.5 Flash do Google (Nano Banana) para geração de imagens.

• MuseSteamer 2.0 é a nova versão do modelo de geração de vídeos da Baidu, que destaca custos de produção até 70% menores do que o padrão da indústria.

• InternVL 3.5 é um modelo multimodal de código aberto com ótimas versatilidade, capacidade de raciocínio e eficiência de inferência.

• Z.ai e Alibaba Cloud se uniram para lançar um agente de IA para smartphones, tablets e desktops que lida de forma autônoma com tarefas como reservar hotéis, instalar aplicativos e gerar vídeos ou podcasts.

• lipsync-2-pro é modelo de IA que edita o que qualquer um diz em qualquer vídeo. 👄▶• ılıılıılıılıılıılı।

AGENTES CONFIÁVEIS

Projeto de IA quer ajudar a acelerar avanços científicos

Reconhecendo a crescente complexidade da pesquisa científica e as limitações dos modelos atuais de IA, o Institute for AI (IA2) lançou uma iniciativa batizada de Asta para acelerar os avanços científicos, com total transparência e a capacidade de planejar, executar e reproduzir trabalhos de forma autônoma.

A Asta é baseado em três componentes principais:

1. Asta Agents: Ferramentas de IA para ajudar em tarefas científicas complexas, como encontrar artigos, resumir a literatura e analisar dados.

2. AstaBench: Estrutura de benchmarking com mais de 2.400 problemas para avaliar e comparar rigorosamente o desempenho de agentes de IA científicos.

3. Asta Resources: Kit de componentes e padrões de software de código aberto para ajudar desenvolvedores a criar e refinar seus próprios agentes de IA.

Por que isso importa? Iniciativas como a Asta dão aos cientistas ferramentas confiáveis e reprodutíveis para desenvolver e refinar a IA científica. Além disso, contribuem para estabelecer um novo padrão de trabalho baseado em IA em campos variados, abrindo caminho para uma nova era de avanços científicos orientados pela IA.

Para dar às equipes de segurança, TI, jurídica e governança das organização uma forma objetiva para avaliar os riscos das ferramentas de IA Generativa, a Cloudflare lançou uma métrica chamada Application Confidence Scores com pontuações que vão de um a cinco. Essa valores são calculados usando uma rubrica mantida publicamente com base em dados verificáveis, como políticas de privacidade, documentação de segurança e certificações de conformidade. Ao contrário de métodos subjetivos ou de caixa preta, a abordagem da Cloudflare evita suposições, por exemplo, atribuindo o valor zero a componentes não revelados. Para citar um caso, o ChatGPT Enterprise obteve um 4,3 para confiança do aplicativo e 4 para confiança da GenAI, números que refletem controles corporativos robustos e opção desativada para uso das entradas dos usuários para treinamento.

Um novo ataque de engenharia social do tipo ClickFix explora resumos feitos por IA incorporando instruções mal-intencionadas em documentos, invisíveis aos olhos humanos, mas legíveis por modelos de IA. O ataque pode ser realizado usando clientes de e-mail, extensões de navegador e ferramentas de produtividade. Quando o usuário pede à IA o resumo do conteúdo contaminado, a saída gerada traz consigo a carga perigosa que executa comandos, podendo levar, por exemplo, à instalação de ransomware. A vulnerabilidade não está restrita a nenhum fornecedor específico e representa um risco para ambientes em que a IA é usada para revisão rápida de conteúdo.