• IA Express
  • Posts
  • Claude Mythos promete reescrever as regras da cibersegurança

Claude Mythos promete reescrever as regras da cibersegurança

Author

Sheila Zabeu
10 abr

Bem-vindos, humanos: Seu download com as principais notícias sobre Inteligência Artificial começa agora. Nesta edição, você verá como o novo modelo Claude Mythos da Anthropic transformou o 'inquebrável' em vulnerável em questão de horas e como vai mudar a cibersegurança com a conhecemos hoje.🤖💥🛡️

Porém isso não é tudo na IA Express de hoje:
- GPT-Image-2 vazou como provável novo modelo da OpenAI para imagens
- Perplexity é acusada de enviar para Meta e Google as conversas de usuários
- Pesquisa da USP usa IA para identificar casos de hanseníase em fases iniciais
- Sam Altman sugere novo contrato social para os Estados Unidos

Porque, no mundo da Inteligência Artificial, conhecimento é seu algoritmo mais valioso.

AI_NEWS_CIRCUIT

COM ACESSO RESTRITO

Claude Mythos promete reescrever as regras da cibersegurança

A Anthropic anunciou um novo modelo de linguagem de propósito geral que representa um salto significativo em capacidade de raciocínio, codificação e autonomia. No entanto, o que realmente impressiona no novo Claude Mythos Preview é seu desempenho em cibersegurança: é capaz de identificar e explorar vulnerabilidades zero-day sem qualquer treinamento específico para isso.

🔍 O que o Mythos foi capaz de fazer? Em apenas alguns dias de testes internos, identificou milhares de vulnerabilidades de alta severidade em praticamente todos os sistemas operacionais e navegadores modernos. Entre os destaques mais impressionantes, estão:

  • Identificação de uma falha que persistia havia 27 anos no OpenBSD, sistema amplamente reconhecido como um dos mais seguros e auditados do mundo.

  • Claude Mythos não só encontrou problemas de segurança em um navegador, como gerou um código capaz de explorar quatro vulnerabilidades em cadeia para escapar de sandboxes do browser e do sistema operacional.

  • Com intervenção humana mínima, o novo modelo usou engenharia reversa em software de código fechado para transformar vulnerabilidades conhecidas, mas não corrigidas, em ferramentas de ciberataque.

🚨 Diante desse poder, a Anthropic tomou a decisão de não lançar o Mythos para o público geral. O motivo é óbvio: a mesma inteligência que permite corrigir um erro crítico pode ser usada por cibercriminosos para paralisar infraestruturas essenciais.

O acesso será restrito a parceiros selecionados - entre eles, AWS, Apple, Google, Microsoft, NVIDIA - e desenvolvedores de código aberto por meio do novo Projeto Glasswing da Anthropic. Como parte dessa iniciativa, a empresa destinará US$ 100 milhões em créditos de uso do Mythos e US$ 4 milhões em doações diretas para organizações de cibersegurança.

Mais de 99% das vulnerabilidades descobertas ainda não haviam sido corrigidas no momento dessa divulgação, o que reforça a necessidade desse esquema de anúncio da Anthopic. Além disso, para a comunidade de IA, a chegada do Mythos reforça um alerta: a fronteira entre "capacidade avançada" e "potencial destrutivo" da IA está cada vez mais tênue.

AI_TRENDS

  • Anthropic cortou o acesso de ferramentas de terceiros, entre elas OpenClaw,
    para assinantes do Claude, citando demanda insustentável.

  • GPT-Image-2 vazou no LMSYS Arena como provável novo modelo da OpenAI para geração de imagens com ótimo fotorealismo e velocidade 4x maior.

  • Google AI Edge Eloquent é um app para iOS que usa modelos Gemma off-line para fazer transcrições em tempo real e elaborar discursos bem estruturados.

  • VOID é uma estrutura da Netflix para remoção de objetos em vídeos que identifica interações afetadas e gera preenchimentos fisicamente plausíveis.

  • Bonsai 8B é um modelo menor e energeticamente mais eficiente do que seus pares convencionais para uso em dispositivos com apenas 1 GB de memória.

  • Conway é um agente autônomo e sempre ativo em teste pela Anthropic, que funciona como um ambiente independente e conectado para executar Claude.

  • Noah Labs Vox foi reconhecido pela FDA como ferramenta inovadora para monitoramento remoto de pacientes (RPM) que utiliza IA para analisar gravações de voz e detectar agravamento da insuficiência cardíaca. 🫀🩺🔊 

AI_GOVERNANCE & ETHICS

⚖️Mais uma vez na mira da justiça

Uma nova ação judicial nos Estados Unidos acusa a Perplexity de enviar secretamente para Meta e Google as conversas dos usuários com seu chatbot. Segundo o processo, os dados compartilhados incluem informações sensíveis sobre finanças pessoais, impostos e estratégias de investimento. A acusação mais grave? O modo Incógnito da Perplexity, que deveria garantir que nenhuma consulta fosse armazenada, não impediria o envio de informações a terceiros. Segundo a queixa, ferramentas de rastreamento "indetectáveis" são baixadas automaticamente assim que o usuário acessa a página inicial. Isso permitiria que Meta e Google interceptassem transcrições das interações com o chatbot da Perplexity. A empresa nega as acusações. Esse não é o único embate jurídico que a empresa enfrenta atualmente. A justiça concedeu recentemente uma liminar em um processo movido pela Amazon. A decisão proíbe que os agentes de IA do navegador Comet AI da Perplexity realizem compras na Amazon em nome dos usuários.

AI_SNAPSHOT

Inovação & Inspiração

  • IA com sensibilidade A IA está prestes a transformar o diagnóstico de uma das doenças mais antigas da humanidade. Pesquisadores da Faculdade de Medicina de Ribeirão Preto da Universidade de São Paulo desenvolveram um novo método que combina exame de sangue, questionário padronizado e IA para identificar casos de hanseníase em fases iniciais, quando os sintomas ainda são sutis e os testes laboratoriais tradicionais frequentemente falham. As respostas do questionário são avaliadas pelo sistema de IA MaLeSQs, que aprimora a análise das respostas e aumenta a precisão do rastreamento. Em um experimento com cerca de 700 participantes, a combinação da análise laboratorial com a ferramenta de IA alcançou 100% de sensibilidade, sinalizando com sucesso todos os casos suspeitos que foram confirmados na consulta presencial. 🩸🧪🎯

🌍 IA Global

 🇯🇵 IA Física no lugar de funcionários O Japão está emergindo como líder em IA Física impulsionado principalmente pela necessidade de combater a escassez de mão de obra e não apenas pela busca de eficiência. Com a população em declínio há 14 anos consecutivos e a força de trabalho projetada para diminuir em 15 milhões nos próximos 20 anos, o país está adotando robôs movidos por IA em fábricas, armazéns e infraestrutura crítica. O governo japonês não está de brincadeira. Em março passado, anunciou a meta de capturar 30% do mercado global de IA Física até 2040 - e tem com o que começar. Fabricantes japonesas já dominavam cerca de 70% da robótica industrial mundial em 2022. O investimento? US$ 6,3 bilhões para fortalecer as áreas de IA, integração robótica e implantação industrial.

🔢 IA em números

Apesar do ceticismo em relação a "pilotos que não decolam", números da a16z mostram que cerca de 29% das empresas da Fortune 500 e 19% da Global 2000 já são clientes pagantes de startups de IA - com contratos assinados e soluções em produção. Três casos de uso que já estão funcionando são codificação, atendimento ao clientes e busca. Já no recorte setorial, as áreas de tecnologia, jurídico e saúde são lideram a adoção da IA. O que isso significa? Em apenas três anos desde a chegada do ChatGPT, a IA conquistou um espaço no mundo empresarial que tecnologias anteriores levaram décadas para alcançar.

 AI_TOOLKIT

🛠️Ferramentas

  • Heptabase AI Tutor é um sistema de tutoria para estudantes e pesquisadores que desejam cursos personalizados conectados às suas anotações e fontes.

  • Bibby é um editor LaTeX movido por IA voltado para pesquisadores que acelera a escrita e a revisão de artigos.

  • Student Spaces é uma ferramenta de IA gratuita da Adobe que transforma anotações, PDFs e outros materiais em guia de estudo.

📚 Miscelânea

  • Remote Labor Index é um novo benchmarking desenvolvido pela Center for AI Safety e pela Scale AI que avalia como agentes de IA se saem em projetos reais de freelancing, abrangendo desde desenvolvimento de jogos e design de produtos até arquitetura e análise de dados. O resultado? Agentes de IA avançados apresentou desempenho "próximo ao mínimo" nos projetos do RLI. Mesmo o melhor modelo testado alcançou uma taxa de automação extremamente baixa, demonstrando que ainda não conseguem completar a maioria dos projetos em nível de qualidade aceitável para o mercado.

 AI_FLASH_NEWS

  • Sam Altman, CEO da OpenAI, sugeriu como tributar, regular e redistribuir a riqueza gerada pela IA em um novo contrato social para os Estados Unidos.

  • Microsoft planeja desenvolver modelos de IA de fronteira até 2027 com recursos avançados de texto, imagens e áudio.

  • Meta está preparando os primeiros modelos de IA desenvolvidos sob a liderança de Alexandr Wang; alguns devem ter código aberto.

  • OpenAI, Anthropic e Google se uniram para combater ataques de destilação de modelos de IA realizados por laboratórios chineses.

  • Irã ameaçou aniquilar por completo o datacenter de IA da OpenAI em Abu Dhabi, caso os Estados Unidos causem danos à sua infraestrutura energética.

  • Google atualizou a interface do Gemini para exibir recursos de apoio quando detectar que o usuário está passando por uma crise de saúde mental.

  • Anthropic e OpenAI tiveram suas finanças reveladas antes de possíveis IPOs - OpenAI prevê prejuízos até final da década, enquanto Anthropic espera atingir o equilíbrio financeiro mais cedo. 💰📊⚖️

Até a próxima

Obrigado por mergulhar nesta edição. Seu tempo é valioso, e estamos felizes por você ter escolhido passar alguns minutos aqui.

Voltaremos à sua caixa de entrada em breve. Até lá, cultive a curiosidade.