Memória pode ajudar a reduzir alucinação da IA

MODELOS LLM

Memória pode ajudar a reduzir alucinação da IA

Grandes modelos de linguagem (LLMs), como aqueles que alimentam chatbots, são capazes de gerar texto semelhante ao produzido por nós, responder perguntas complexas e até mesmo gerar código de programação. Como nem tudo é perfeito, também apresentam uma falha peculiar: alucinações. Elas acontecem quando a IA produz informações incorretas ou cita um estudo inexistente.

A novidade? Um estudo da IBM revelou surpreendentemente que alucinações têm muito em comum com a forma como pensamos.

Por que as alucinações acontecem? Esses erros não são falhas aleatórias, mas decorrem de como os LLMs são projetados para prever a próxima palavra em uma sequência com base em padrões nos dados de treinamento. A consequência? Priorizam a fluência sobre a precisão. Se os dados de treinamento estiverem incompletos ou forem incorretos ou ambíguos, o LLM poderá preencher lacunas com informações convincentes, mas falsas.

A conexão com o pensamento humano? Alucinações de IA não são tão diferentes dos vieses cognitivos humanos. Pesquisadores da IBM observaram que tanto pessoas quanto LLMs dependem de raciocínio probabilístico. Nós usamos regras mentais para tomar decisões rápidas; da mesma forma, LLMs dependem de padrões estatísticos para gerar respostas. Ambos podem se perder quando suposições subjacentes não correspondem à realidade.

Uma abordagem proposta pela IBM para reduzir alucinações é o sistema Larimar, que dá aos LLMs uma forma de memória editável de curto prazo para que atualizem o conhecimento dinamicamente sem a necessidade de reciclagem mais ampla. Assim, ao reduzir a dependência de dados de treinamento eventualmente falhos, o Larimar ajuda a minimizar as alucinações.

Outras recomendações da IBM para reduzir as alucinações:

• Alimentar LLMs com dados de alta qualidade, diversificados e precisos.

• Usar ferramentas que detectem e filtrem saídas incorretas ou arriscadas antes de chegarem aos usuários.

• Combinar velocidade e supervisão humana para LLMs para detectar erros e garantir precisão.

• Ao estudar erros do raciocínio humano, pesquisadores podem projetar sistemas de IA que evitem armadilhas semelhantes.

Conheça aqui outras estratégias de empresas como Microsoft, Vectare e a própria IBM para tentar acabar com as alucinações de LLMs.

SEGURANÇA

lA renova crime antigo nos Estados Unidos

Quem diria que estamos mais avançados do que os Estados Unidos em alguma área? Sim, estamos, em um campo que combina finanças e tecnologia. E do que estamos falando? Lavagem de cheques. Até pouco tempo atrás, considerada uma relíquia da era analógica, a lavagem de cheques ressurgiu nos Estados Unidos e, desta vez, alimentada pela Inteligência Artificial.

O que é lavagem de cheques?
Um golpe clássico realizado por criminosos que roubam cheques em caixas de correio (isso é comum nos Estados Unidos), usam produtos químicos para apagar a tinta e reescrevem o cheque com valor maior ou para outro destinatário. O cheque alterado é descontado ou depositado, drenando fundos da vítima antes mesmo de se dar conta de que algo está errado.

O que dizem os números?
De acordo com recente levantamento, a fraude de cheques tem crescido nos Estados Unidos desde 2023:

• 665 mil registros de atividades suspeitas relacionadas à lavagem de cheques foram feitos em 2023, salto de 134% em comparação com 2020.

• US$ 688 milhões em prejuízo decorrentes desse tipo de fraude estavam relacionados a roubo de cheques, isso em apenas seis meses de 2023.

• Fraude de cheques agora representa 30% de todas as perdas por golpe nos Estados Unidos, perdendo apenas cartão de débito.

Onde entra a IA? As redes de crime organizado estão combinando o roubo de cheques em caixa de correspondência com ferramentas digitais da nova escola. A Inteligência Artificial agora está ajudando a (1) forjar identidades e documentos falsos de modo mais realista; (2) alterar imagens de cheques; e (3) criar identidades sintéticas para abrir contas fraudulentas. Essas técnicas tornam a lavagem de cheques mais rápida, mais difícil de detectar e muito mais lucrativa.

E o Brasil, o país do PIX? Enquanto os Estados Unidos lutam contra o crescimento de um crime antigo, o Brasil não tem com o que se preocupar (pelo menos, não muito), afinal desde o início da série histórica em 1995, quando foram compensados 3,3 bilhões de cheques, a queda foi significativa, de 95,87% até 2024.

• Na Computex 2025, a NVIDIA anunciou o DGX Cloud Lepton, marketplace que conecta desenvolvedores de agentes de IA e de aplicações ivos de IA física com dezenas de milhares de GPUs disponíveis na nuvem.

• Também apresentou o NVLink Fusion, solução para construir infraestruturas de IA semipersonalizadas, que integram CPUs e GPUs de terceiros e usam a tecnologia de interconexão de alta velocidade NVLink da NVIDIA.

• O NVIDIA Isaac GR00T N1.5 é a primeira atualização do modelo aberto totalmente personalizável para raciocínio e habilidades humanoides. Já o NVIDIA Isaac GR00T-Dreams é um modelo que gera dados sintéticos de movimento.

• Durante o evento Build 2025, a Microsoft defendeu uma “web aberta de agentes”, com o anúncio de avanços no GitHub Copilot, do Windows AI Foundry para desenvolvedores e de mais recursos para o Azure AI Foundry.

• A Microsoft também revelou a plataforma Discovery para acelerar a pesquisa científica com agentes de IA especializados.

• Saiba em 10 minutos tudo o que foi anunciado durante o Google I/O 2025, maior conferência do Google para desenvolvedores.

• Desenvolvedores externos vão ganhar acesso aos modelos Apple Intelligence. O anúncio oficial deverá ser feito pela Apple em sua Worldwide Developers Conference (WWDC) em junho.

• A nova Hunyuan Game Visual Generation Platform da Tencent é um mecanismo de IA que ajuda desenvolvedores de jogos na produção de conteúdo. 🎮🎧

FINANÇAS

Banco suíço adota avatares de IA para analistas financeiros

Com sede em Zurique, o banco suíço UBS está usando IA para transformar a forma como entrega relatórios financeiros aos clientes. Criou avatares de analistas que apresentam notícias e atualizações do cenário financeiro em vídeos curtos e não mais relatórios PDF tradicionais.

Os avatares foram criados usando ferramentas da Synthesia. Modelos de IA da OpenAI analisam os relatórios e ajudam a produzir os roteiros. A iniciativa teve início em janeiro e, até agora, foram replicados digitalmente 36 analistas.

O programa usa o modelo “opt-in” para o aceite dos analistas e foi aprovado pela equipe de recursos humanos antes de ser lançado. O conteúdo a ser divulgado pelos avatares também é aprovado antes de ser distribuído aos clientes.

O UBS tem observado um maio interesse dos clientes por vídeos curtos gerados por IA. Já para a instituição financeira, a iniciativa promete reduzir custos e aumentar a eficiência.

🍎De olho na Apple

O governo Trump está de olho em um possível acordo entre Apple e Alibaba para integrar tecnologia de IA chinesa em iPhones vendidos na China. Autoridades dos Estados Unidos estão preocupadas com a segurança nacional e a privacidade dos dados. Temem que a parceria dê a Pequim acesso a vantagens tecnológicas norte-americanas, comprometa a privacidade dos dados e exponha a Apple à regulamentação e à censura chinesas.

👈👉Viés político dos LLMs

Um estudo de Stanford propôs um método para avaliar o viés político percebido em grandes modelos de linguagem (LLMs). A abordagem colocou usuários no papel de avaliadores das respostas a solicitações sobre 30 tópicos políticos, comparando a inclinação ideológica de 24 modelos. Os resultados? Quase todos os modelos foram considerados como de esquerda – mesmo por muitos Democratas. Por exemplo, um modelo amplamente utilizado se inclina para a esquerda em 24 dos 30 tópicos. Quando se pede que adotem uma postura neutra, os modelos oferecem mais ambivalência, e os usuários percebem as repostas como mais neutras. Republicanos relatam um interesse modestamente maior em usar os modelos no futuro.

🛠 Ferramentas

• Macky é uma plataforma de consultoria que usa IA para auxiliar em recomendações de negócios.

• Odin ajuda a criar agentes de IA para várias funções de negócios.

• PixVerse V4.5 oferece mais de 20 controles de câmera para criar vídeos cinematográficos mesclando vários elementos.

📚 Mais recursos

• Higgsfield é uma plataforma de geração de vídeo guiada por IA com foco no controle de câmeras e movimentos realistas. Gabe Michael, premiado cineasta conhecido por integrar a IA na produção de filmes e vídeos, dá dicas de como usar essa nova ferramenta para gerar resultados impressionantes.

• Conheça os detalhes dos três campos de matemática necessários para trabalhar com aprendizado de máquina. Já adianto - são estatística, álgebra linear e cálculo.