LawZero: iniciativa vai desenvolver IA segura por design

SEGURANÇA

LawZero: iniciativa vai desenvolver IA segura por design

Yoshua Bengio, vencedor do Turing Award e muitas vezes aclamado como um dos “padrinhos da IA” por seu trabalho inovador em aprendizado profundo, fundou uma organização sem fins lucrativos dedicada a criar modelos de IA “seguros por design”.

A nova LawZero é uma resposta aos crescentes riscos impostos pelos modelos de IA, entre eles comportamentos enganosos, autopreservação e desalinhamento de metas e valores. Apenas para citar um caso recente, o modelo Claude Opus 4 da Anthropic tentou chantagear um engenheiro fictício durante testes internos ao “acreditar” que ele o substituiria por outro modelo de IA.

A preocupação de Bengio se intensificou quando começou a observar a rápida evolução de laboratórios da iniciativa privada em direção à Inteligência Artificial Geral (AGI), que frequentemente priorizavam capacidade em detrimento da segurança.

Ao contrário dos atuais agentes de IA - comparados por Bengio a “atores” treinados para agradar usuários, às vezes à custa da verdade -, o Scientist AI é treinado para entender, explicar e fazer previsões, como um cientista altruísta e platônico. Na prática, será implementado com cadeias de pensamentos estruturadas que explicam fatos, não tomados como verdades absolutas, mas como observações das ações.

Na visão de Bengio, essa abordagem pode ajudar a reduzir riscos impostos por agentes de IA não confiáveis, fornecendo ingredientes para os “guardrails” de segurança.

Com sede em Montreal, a LawZero conta com 15 pesquisadores e já garantiu US$ 30 milhões em financiamento de um grupo de apoiadores, entre eles Jaan Tallinn, cofundador do Skype, Eric Schmidt, ex-CEO do Google e organizações filantrópicas.

• LangWatch é uma plataforma de observação e avaliação que monitora, depura, avalia e otimiza agentes de IA.

• PlayDiffusion é um modelo de código aberto que modifica as saídas de voz sem interromper o fluxo natural, fazendo ajustes localizados na fala.

• Jules, agente de IA assíncrono do Google para programação, permitirá realizar 60 tarefas diárias gratuitas usando o Gemini 2.5 Pro durante o beta-teste público.

• Character.AI revelou novas ferramentas de criação multimodal que expandem a plataforma de personagens para além do bate-papo baseado em texto.

• HeyGen AI Studio é um novo pacote de edição de vídeo que dá mais controle sobre os avatares.

• BioReason é um projeto de código aberto que integra modelos de DNA com LLMs para viabilizar raciocínio biológico multimodal.

• Manus AI agora também transforma prompts em histórias completas em vídeo. Acesso antecipado está aberto para assinantes de planos pagos, mas a ferramentas estará disponível em breve para todos. 🎥👏

SAÚDE

App baseado em IA ajuda a prever níveis de glicose

IBM e Roche apresentaram uma solução guiada por IA que pretende transformar a vida de pessoas com diabetes. O aplicativo Accu-Chek SmartGuide Predict usa algoritmos preditivos e monitoramento de glicose em tempo real para garantir aos pacientes níveis de controle sem precedentes sobre sua condição.

• O principal recurso do aplicativo é a previsão orientada por IA, com base em dados de glicose em tempo real e informações como refeições e atividades.

• A ferramenta apresenta tendências nos níveis de glicose para as duas horas seguintes, assegurando uma janela para ajustar a terapia antes que surjam problemas.

• Prevê baixo teor de glicose, alertando para possível hipoglicemia com até 30 minutos de antecedência e sensibilidade de 95%.

• Também estima o risco de hipoglicemia noturna, preocupação para muitos, já que mais de 40% dos pacientes com diabetes tipo 1 experimentam essa condição.

Por trás da proeza preditiva do Accu-Chek SmartGuide Predict está a plataforma watsonx AI da IBM.

🆘Ajuda humanitária recebendo ajuda da IA

A Mercy Corps, organização global de ajuda humanitária, lançou uma ferramenta de IA para melhorar a oferta de ajuda humanitária em regiões atingidas por crises. Desenvolvida em colaboração com a Cloudera, a AI Methods Matcher usa IA Generativa para dar respostas rápidas e confiáveis, baseadas no extenso histórico de projetos, pesquisas e abordagens bem-sucedidas da organização. A solução se baseia nos serviços de inferência de IA da Cloudera e na plataforma da NVIDIA para acelerar a distribuição de ações de ajuda com precisão.

A chinesa DeepSeek está sob escrutínio de alguns pesquisadores de IA especulando que a recente atualização do modelo de raciocínio R1 (R1-0528) pode ter sido treinada com base na família Gemini do Google. A DeepSeek apresentou a versão atualizada na semana passada, com bom desempenho em sistemas de benchmarking de matemática e programação, mas não divulgou as fontes de dados usadas no treinamento. Entre as evidências para especulação estão similaridade linguística e passos de raciocínio parecidos.