OpenAI treina redes neurais para serem mais fáceis de interpretar

ABRINDO CAIXAS PRETAS

OpenAI treina redes neurais para serem mais fáceis de interpretar

Durante anos, temos aceitado um paradoxo fundamental: quanto mais capazes as redes neurais se tornam, menos entendemos como funcionam. Estamos falando de uma classe específica de Inteligência Artificial inspirada na estrutura e no funcionamento do cérebro humano, composta de nós interconectados (neurônios) que processam dados através de conexões ponderadas.

Bilhões dessas conexões das redes neurais são formadas na fase de treinamento, criando redes densas que nenhum ser humano é capaz decifrar. Essa caixa preta, usada hoje em campos que vão da saúde à pesquisa científica, se transformou em uma razoável fonte de preocupação por falta de transparência.

Qual foi a solução apresentada recentemente pela OpenAI: inverter o roteiro da interpretabilidade. Em vez de tentar desembaraçar essas redes complexas após o treinamento, construiu versões esparsas em que cada neurônio tem apenas algumas dezenas de conexões, resultando uma rede mais simples e mais fácil de entender.

Pense nisso como a diferença entre analisar fios emaranhados de luzes de Natal e projetar uma placa de circuito na qual cada conexão tem um propósito claro.

Os pesquisadores testaram essa abordagem em tarefas algorítmicas simples e chegaram a uma conclusão surpreendente: podem isolar pequenos circuitos que são necessários e suficientes para reproduzir comportamentos específicos.

A pesquisa ainda está em fase inicial. Essas redes esparsas são muito menores do que os modelos de IA de fronteira, e grandes partes deles permanecem não interpretadas. Entre as áreas a serem exploradas estão a extração de circuitos esparsos dos modelos densos e o desenvolvimento de técnicas mais eficientes para treinar modelos interpretáveis em escala.

• Com a chegada da Black Friday e do final de ano, Google lançou ferramentas centradas em agentes de IA para tornar as compras menos trabalhosas.

• Private AI Compute, do Google, permite usar seus modelos de IA na nuvem sem comprometer a privacidade dos dados pessoais, por exemplo, nos celulares.

• Firefox terá um espaço opcional para interagir com assistentes de IA durante a navegação (ainda em fase inicial de liberação).

• NotebookLM ganhou a ajuda dos agentes de pesquisa aprofundada do Google e pode trabalhar com mais tipos de documentos.

• Google lança ferramentas movidas pelo Gemini para ajudar a desenvolver aplicativos mais inteligentes baseados nos dados do Google Maps.

• Plataforma de e-mail marketing Beehiiv agora conta com análise em tempo real e ferramentas para venda de produtos digitais como forma de monetização.

• Copyleaks, conhecida por detectar plágio e texto gerado por IA, expandiu sua capacidade para também identificar imagens criadas por Inteligência Artificial.

• World Labs lançou Marble, seu primeiro produto comercial que cria ambientes 3D persistentes para download a partir de texto, imagens ou vídeos.

• ERNIE-4.5-VL-28B-A3B-Thinking, da Baidu, é um novo modelo de código aberto compacto com ótima capacidade de raciocínio (linguagem e visual).

• ElevenLabs apresenta Scribe v2 Realtime, modelo de IA para transcrição em tempo real com latência de 150ms em mais de 90 idiomas.

• Modelos multimodais, que processam texto, imagens e vídeo, não conseguem interpretar horários com precisão em relógios analógicos. ⏰😵

ALÉM DOS JOGOS

SIMA-2: mais do que seguir instruções de jogos

O Google DeepMind acabou de revelar SIMA-2, um modelo para jogos que, como um amigo inteligente, pode se juntar a mundos virtuais e videogames, entender o que você quer fazer e descobrir novos ambientes por conta própria.

É uma evolução do SIMA original, lançado em março de 2024, que basicamente ensinava computadores a seguirem instruções de jogos. A nova versão é alimentada pelo modelo Gemini e é um game changer (literalmente!). Por quê? Porque não apenas segue comandos em linguagem natural em mundos virtuais, como também “pensa” a respeito dos objetivos, conversa e se aprimora ao longo do tempo.

Imagine assistir a centenas de horas de pessoas jogando videogames e depois ser capaz de descobrir como atuar em qualquer outro jogo. É essencialmente o que SIMA-2 faz: observa a tela, interpreta o que vê e usa controles como uma pessoa faria. E ainda navega em ambientes novos nunca vistos antes.

Por que isso importa? SIMA-2 é mais do que apenas um modelo de IA para jogos. Trata-se de entender e interagir com ambientes 3D, o que representa mais um passo na direção da Inteligência Artificial Geral (AGI) com importantes implicações na robótica e na IA Física.

O primeiro Relatório da Microsoft sobre Difusão da IA revela que a Inteligência Artificial está se difundindo em um ritmo sem precedentes, superando a velocidade de adoção de outras importantes tecnologias como Internet, smartphones, computadores pessoais e eletricidade. Em menos de três anos, mais de 1,2 bilhão de pessoas passaram a usar ferramentas de IA em todo o mundo. No entanto, o estudo emitiu um alerta sobre a crescente divisão digital; quase quatro bilhões de pessoas não têm infraestrutura básica, como eletricidade, conectividade e habilidades digitais necessárias para participar plenamente da economia da IA. O relatório introduz três índices – AI Frontier Index, AI Infrastructure Index e AI Diffusion Index – para rastrear e entender onde os avanços da IA estão ocorrendo, onde a infraestrutura existe como suporte para IA e como a IA está melhorando vidas em todo o mundo.

Outra pesquisa, esta do Center for Democracy & Technology (CDT), apontou um perigo oculto da IA: induzir silenciosamente distúrbios alimentares. A partir de entrevistas com 15 especialistas em prevenção e tratamento de transtornos associados à alimentação, o estudo apresentou a primeira taxonomia de danos causados pela IA para esse grupo vulnerável. As seis categorias são: orientação genérica de dieta e saúde; criação de moldes para inspiração e comparação social; reforço de comportamentos alimentares desordenados; amplificação de emoções negativas; foco excessivo nos aspectos corporais; e visões estreitas dos distúrbios alimentares. Os pesquisadores revelaram que as atuais salvaguardas dos modelos de IA, em geral, deixam passar pistas sutis dos distúrbios, mas clinicamente significativas, que profissionais habilitados reconheceriam.