• IA Express
  • Posts
  • Como Google pretende garantir segurança na navegação autônoma

Como Google pretende garantir segurança na navegação autônoma

Author

Sheila Zabeu
12 dez

Bem-vindos, humanos: Seu download com as principais notícias sobre Inteligência Artificial começa agora. Nesta edição, você vai entender por que o Gartner recomendou não usar navegadores com recursos de IA… e como o Google quer provar que não é bem assim. 🌐👎👍

Porém isso não é tudo na IA Express de hoje:
- Adobe leva Photoshop, Express e Acrobat para o ChatGPT
- Microsoft vai investir US$ 23 bilhões em infraestrutura de IA
- Stitch do Google usa Nano Banana Pro para redesenhar interface de apps​
- VP do Google nega planos de levar anúncios para o Gemini no momento

Porque, no mundo da Inteligência Artificial, conhecimento é seu algoritmo mais valioso.

AI_NEWS_CIRCUIT

CHROME COM IA

Como Google pretende garantir segurança na navegação autônoma

Após anunciar a repaginação do Chrome com recursos do Gemini há alguns meses, agora chegou a hora do Google contar como pretende proteger seu browser na Web na era da navegação autônoma.

Reconhecendo a importância de medidas de segurança robustas para resguardar os usuários contra ataques sofisticados, particularmente os que usam injeção de prompts, o Google detalhou um estrutura com várias camadas de defesa que combina décadas de aprendizado em segurança de navegadores com novos controles específicos para o universo da Inteligência Artificial.

O que você precisa saber:

  • No centro da arquitetura está o User Alignment Critic, que serve como um mecanismo de supervisão independente. Toda ação que o agente principal deseja tomar é enviada para um modelo Gemini isolado, cujo único trabalho é vetar comportamentos perigosos ou desalinhados com a intenção do usuário.

  • O Google expandiu a tecnologia de isolamento de sites existente no Chrome com um novo conceito chamado Agent Origin Sets. Esse sistema limita o acesso dos agentes aos dados estritamente vinculados ao objetivo explícito do usuário.

  • Outras camadas de defesa incluem a confirmação do usuário para tarefas críticas e a detecção de ameaças em tempo real. Além disso, o Google está testando essas defesas usando sistemas automatizados para gerar sites com agentes mal-intencionados.

Essa arquitetura de segurança chega em um momento crítico em que analistas do setor, incluindo o Gartner, têm recomendado empresas a restringir o uso de navegadores de IA até que os riscos associados possam ser devidamente gerenciados.

Para incentivar mais pesquisas em segurança, o Google está oferecendo recompensas de até US$ 20.000 para aqueles que demonstrarem falhas relevantes no Chrome relacionadas aos seus recursos de IA. Veja mais detalhes aqui.

AI_TRENDS

  • Adobe leva Photoshop, Express e Acrobat para o ChatGPT. Para usar, basta digitar, por exemplo, “Photoshop, desfoque o fundo dessa imagem”.

  • Rnj-1 é um modelo de IA para tarefas de programação, desenvolvido pelos cocriadores da arquitetura Transformer, que supera gigantes do mercado.

  • Anthropic criou uma técnica para remover conhecimento perigoso de LLMs, como instruções para construir armas químicas, sem prejudicar sua utilidade geral.

  • GigaTIME é um modelo multimodal da Microsoft para ajudar a tornar a pesquisa de ecossistemas tumorais mais acessível.

  • Live Avatar gera vídeos com avatares interativos para streaming em tempo real e de duração ilimitada. É indicado para manter conversas naturais com avatares de IA, oferecendo feedback visual imediato nas interações. 👤🗪🎦

AI_GOVERNANCE & ETHICS

👎 Uso não recomendado

O Gartner recomendou às organizações que bloqueiem os navegadores com IA, pois trazem riscos inaceitáveis para a segurança dos negócios. Em um relatório, o instituto de de pesquisas argumenta que navegadores como Comet da Perplexity e ChatGPT Atlas da OpenAI usam configurações padrão que priorizam a experiência do usuário em detrimento da segurança. Por exemplo, dados críticos podem ser enviados para a nuvem, a menos que as opções de segurança e privacidade sejam reforçadas deliberadamente. Outras preocupações do Gartner com as funções autônomas dessa classe de navegadores estão relacionadas à injeção de prompts, às decisões baseadas em raciocínio impreciso da IA e ao roubo de credenciais.

AI_SNAPSHOT

💡 Inovação & Inspiração

  • Conversa produtiva A Anthropic integrou seu modelo Claude Code diretamente à plataforma de comunicação Slack para acelerar o fluxo de trabalho dos desenvolvedores. Como funciona? Bastar mencionar @Claude em uma tarefa de programação no thread do Slack para que o assistente de IA entre em ação: vai detectar automaticamente a intenção, criar uma sessão na web e assumir a tarefa. Tudo isso acontece sem que o desenvolvedor precise abandonar a conversa em grupo. Mais do que acabar com o tedioso copiar-e-colar de linhas de código, é uma iniciativa da Anthropic para levar assistentes de codificação aos ambientes de conversa em grupos de trabalho, onde boa parte das decisões de desenvolvimento é tomada. A funcionalidade ainda está em versão preview, sem data definida para ter disponibilidade geral. 🗫👨🏻‍💻

🌍 IA Global

🇮🇳 Atenções voltadas para Índia A Microsoft vai investir US$ 23 bilhões em infraestrutura de IA com um foco especial nos mercados emergentes. Esse movimento estratégico visa não apenas intensificar a concorrência com rivais como Amazon e Google, mas também atender à crescente demanda por recursos de IA baseados na nuvem. O centro dos investimentos será a Índia, que receberá o valor histórico de US$ 17,5 bilhões - trata-se do maior da Microsoft em um único país da Ásia até agora. Apenas um dia após o anúncio da Microsoft, a Amazon afirmou que injetará US$ 35 bilhões na Índia até 2030 para promover a digitalização guiada por IA, o crescimento das exportações e a criação de empregos no país.

📢 IA em uma frase

“Seria como pegar um motor e um carro conceito em vez de um automóvel fabricado de ponta a ponta.”

A frase é de Michael Truell, CEO da Cursor, ao comparar sua ferramenta de IA para codificação com as das concorrentes OpenAI e Anthropic. Ele explica que a solução da Cursor agrega inteligência de vários provedores de IA, inclusive seus próprios modelos especializados, de forma perfeita pcom integração rcionar melhores experiências.

 AI_TOOLKIT

🛠️Ferramentas

  • Redesing Agent é um novo recurso do Stitch do Google que redesenha a interface de apps a partir da captura de telas ou URLs usando Nano Banana Pro.​

  • Slop Evader é uma extensão para navegador que faz buscas na Web e retorna apenas resultados anteriores ao lançamento do ChatGPT (de novembro de 2022).

📚 Miscelânea

 AI_FLASH_NEWS

  • Presidente Donald Trump permitirá que NVIDIA venda seus chips de IA H200 para certos "clientes aprovados" na China.

  • Dan Taylor, VP global de publicidade do Google, desmentiu reportagem e garantiu que não há planos de levar anúncios para o Gemini no momento.

  • A Comissão Europeia abriu uma investigação antitruste com foco no uso de conteúdo on-line pelas ferramentas de pesquisa de IA do Google.

  • OpenAI, Anthropic e Block fundaram a Agentic AI Foundation (AAIF) sob a Linux Foundation voltada a padronizar protocolos para agentes de IA.

  • Accenture se tornou parceira estratégica da Anthropic e terá uma prática dedicada em torno do modelo Claude com 30 mil profissionais treinados.

  • IBM adquire Confluent para fortalecer sua infraestrutura de dados e ofertas de IA com recursos de streaming de dados em tempo real.

  • O Departamento de Guerra dos Estados lançou uma plataforma baseada no Gemini para integrar recursos avançados de IA em sua operações.

  • Motoristas de carros da Tesla em breve poderão pedir que Grok defina rotas a partir de comando de voz. E se ele errar o caminho com respostas equivocadas como já aconteceram no passado? 🚗⛐🤔

Até a próxima

Obrigado por mergulhar nesta edição. Seu tempo é valioso, e estamos felizes por você ter escolhido passar alguns minutos aqui.

Voltaremos à sua caixa de entrada em breve. Até lá, cultive a curiosidade.😊