VaultGemma: novo modelo de IA do Google com privacidade “by design”

MAIS CAPAZ DO MUNDO

VaultGemma: novo modelo de IA do Google com privacidade “by design”

Grandes modelos de linguagem (LLMs), aqueles que trabalham na retaguarda dos chatbots e assistentes virtuais, são treinados usando vastos tesouros de dados da Internet e, às vezes, podem "memorizar" informações confidenciais passíveis de vazamento. Para reduzir os riscos à privacidade, Google Research e Google DeepMind desenvolveram o VaultGemma, apresentado como o LLM mais capaz do mundo quando o assunto é proteger dados alheios.

Como funciona? O segredo do VaultGemm está na tecnologia Differential Privacy, estrutura matemática que adiciona ruídos cuidadosamente calculados ao processo de treinamento para evitar que o modelo de IA memorize qualquer informação privada.

O resultado? Um modelo de IA útil, mas incapaz de reconstruir detalhes particulares a partir dos dados com que foi treinado. Dotado de novas armas para proteger a privacidade das informações, o VaultGemma é, até o momento, o maior LLM aberto (um bilhão de parâmetros) totalmente pré-treinado com privacidade diferencial e de alta utilidade, segundo o Google.

Por que isso importa? O VaultGemma pode abrir caminho para modelos de IA com “proteção à privacidade por design”.

Embora ainda exista uma lacuna de utilidade entre os modelos treinados com e sem tecnologias de proteção à privacidade, o Google acredita que pode ser sistematicamente reduzida com mais pesquisas sobre mecanismos de treinamento. Para os interessados nesse campo, o VaultGemma está disponível no Hugging Face e no Kaggle, com pesos abertos e um relatório técnico detalhado.

• Google liberou a versão beta do AI Max, conjunto de ferramentas de IA para dar aos anunciantes mais controle e otimização mais inteligente de suas campanhas.

• Microsoft apresentou a prévia do Visual Studio 2026, primeira grande atualização desde 2021, com melhor integração da IA e nova aparência.

• Genkit Go 1.0 é a primeira versão estável da estrutura de desenvolvimento de aplicações IA do Google para o ecossistema Go.

• IndexTTS2 é um novo modelo que transforma texto em fala (TTS) e tenta superar limitações como entonação robótica e e falta de profundidade emocional.

• Tests for ElevenLabs Agents são um novo recurso para melhorar a confiabilidade e o desempenho dos sistemas de IA baseados em voz.

• Kling AI Avatar gera avatares realistas combinando imagens com voz e descrição de expressões e emoções.

• HeyGen revelou o novo Avatar IV para criar vídeos curtos em segundos a partir de uma foto, um script e a voz do usuário.

• YouTube Shorts agora permite gerar adesivos criados com IA simplesmente descrevendo a ideia em um prompt de texto.

• Gemini, do Google, é o primeiro entre os apps gratuitos mais baixados da Apple Store nos Estados Unidos, ultrapassando ChatGPT - provavelmente por conta do modelo Nano Banana para edição de imagens. 🍌🔝

CONCURSO

AI Darwin Awards 2025: palco para erros espetaculares da IA

Você ou algum conhecido já fez uso imprudente da IA que se transformou em um fiasco lendário? Então, esta é chance de ganhar estrelato no AI Darwin Awards 2025 - que celebra erros espetaculares usando IA com os quais o mundo deve aprender!

O AI Darwin Awards é um evento irônico que homenageia os usos mais desaconselhados da IA e se inspirou no Darwin Awards original – que reconhece indivíduos que supostamente contribuíram para a evolução humana ao se autoexcluírem da humanidade por suas próprias ações desastrosas.

O que você precisa saber:

• Na edição de 2025, o AI Darwin Awards vai destacar casos em que sistemas de IA foram implantados com testes mínimos de segurança.

• Os vencedores serão escolhidos por um painel de votação pública, especialistas e, quem sabe, sistemas de IA. Os critérios de escolhe serão baseados em cinco fatores: impacto mensurável, destruição criativa, estupidez viral, consequências desastrosas inesperadas e tentativa de corrigir os erros usando a própria IA.

• Entre alguns dos candidatos já inscritos estão o caso de implementação malsucedida do assistente de IA no drive-thru da Taco Bell e um advogado australiano que usou documentos jurídicos gerados por IA com citações forjadas.

As indicações permanecem abertas aqui, e os vencedores serão anunciados em fevereiro do próximo ano.

_{PS: Meus agradecimentos ao especialista em segurança - e amigo - Anchises Moraes pela dica.} 🙌

O estado do Texas (EUA) elaborou uma lei que exige normas para cortar o fornecimento de energia para grandes consumidores, como data centers de IA, durante crises energéticas, como um esforço para proteger residentes após o apagão de 2021. A mesma abordagem já está sendo considerada em outras regiões, em particular pela PJM Interconnection, maior operadora de grids elétrico nos Estados Unidos, que serve 13 estados e 65 milhões de pessoas. A proposta da PJM prevê a não garantia de oferta de energia aos novos data centers durante emergências, suscitando debates sobre legalidade, estabilidade do mercado e impactos nos investimentos.

Em uma entrevista ao The Verge, o presidente do conselho da OpenAI, Bret Taylor, reconheceu que a indústria de IA está atualmente experimentando uma bolha, na qual “muitas pessoas perderão muito dinheiro”, ecoando o aviso já dado por Sam Altman, CEO da OpenAI. Taylor, que também é CEO da startup Sierra de agentes de IA, comparou a situação à bolha das “empresas .com” no final dos anos 90. Apesar dos riscos, não expressa preocupação, enfatizando o potencial transformador da IA, assim como aconteceu com a Internet, que mudou a economia por completo e gerou muito valor econômico mesmo com o fantasma da bolha.