Akamai e NVIDIA lançam nuvem de inferência de IA

NÃO APENAS EM DATACENTERS

Akamai e NVIDIA lançam nuvem de inferência de IA

A nova plataforma Akamai Inference Cloud, resultado da parceria entre Akamai e NVIDIA, tem como meta redefinir a geografia da inferência da IA. Com base na rede globalmente distribuída da Akamai e nas mais recentes soluções de aceleração de IA da NVIDIA, a novidade pretende levar inteligência para as bordas (edge) da Internet, mais próxima de usuários e equipamentos em geral.

Para os não iniciados no jargão de IA, inferência é a parte em que modelos treinados, como ChatGPT, Gemini ou Grok, realmente fazem a mágica para dar respostas em tempo real. Em geral, a inferência acontece em grandes datacenters bem afastados, gerando atrasos inerentes à transmissão de dados.

O principal objetivo da Akamai Inference Cloud é justamente oferecer inferência de IA diretamente nas bordas, em escala, de modo seguro e com baixa latência, especificamente para impulsionar a próxima onda de agentes de IA e IA Física - soluções para as quais segundos fazem diferença.

A infraestrutura da Akamai Inference Cloud usa servidores NVIDIA RTX PRO com GPUs NVIDIA RTX PRO 6000 Blackwell, DPUs NVIDIA BlueField-3 e software NVIDIA AI. Esse poder computacional está integrado à extensa nuvem da Akamai que abrange mais de 4.200 locais em todo o mundo.

Essa camada de orquestração inteligente encaminha as tarefas de IA para os locais mais adequados, executando a inferência instantaneamente nas bordas por meio dos microsserviços NVIDIA NIM, enquanto o raciocínio sofisticado é direcionado paras fábricas de IA mais poderosas.

A Akamai Inference Cloud está disponível por enquanto em 20 localidades; planos de expansão estão em andamento.

• Gemini Visual Layout, em desenvolvimento pelo Google, fornecerá respostas em cartões interativos em vez de texto simples.

• Dias depois do lançamento do ChatGPT Atlas, Microsoft atualizou o navegador Edge com mais recursos para o Modo Copilot.

• Instagram agora permite editar e reestilizar fotos e vídeos nos Stories descrevendo as mudanças em prompt ou usando efeitos predefinidos.

• Microsoft está redesenhando o Outlook para integrar IA estreitamente e torná-lo um assistente inteligente que lê e-mails, elabora respostas e gerencia agendas.

• Nanonets-OCR2 é uma família de modelos do tipo OCR que converte documentos complexos em markdown estruturado com marcação semântica.

• LTX-2, da Lightricks, é um modelo de código aberto que gera áudio e vídeo sincronizados em resolução 4K usando GPUs de consumo.

• ByteDance Seed3D 1.0 é um modelo de IA para gerar ativos 3D de alta qualidade e prontos para simulação física.

• DeepSomatic, desenvolvido pelo Google Research em colaboração com outras instituições, é uma ferramenta de IA que identifica com alta precisão mutações genéticas que causam câncer. 🔎🧬👨‍⚕️

LOGÍSTICA

Nova função dos LLMs: guiar drones

Um projeto de pesquisadores da Universidade Carnegie Mellon está ultrapassando os limites do que os grandes modelos de linguagem (LLMs) podem fazer ao colocá-los como pilotos de drones autônomos. O LLM-DRONE usa um sistema guiado por LLM para construir estruturas bloco por bloco, combinando raciocínio com robótica do mundo real.

Ao contrário dos drones tradicionais que dependem de instruções pré-programadas ou sistemas de percepção limitados, os drones movidos a LLM podem interpretar comandos de alto nível, navegar em ambientes dinâmicos e até mesmo se envolver na resolução de problemas em tempo real.

A ideia central? Usar o LLM como planejador que, com base em prompts do tipo "construir duas colunas à esquerda", projeta e direciona a montagem de estruturas físicas (ou virtuais) usando drones, tudo sem intervenção humana.

Um ponto de destaque do LLM-Drone é seu ciclo de feedback guiado por um módulo de visão - a cada bloco de construção colocado, verifica-se se o posicionamento está correto e, em caso negativo, o LLM cria instantaneamente um novo plano incorporando o bloco equivocado.

Por que isso importa? Os pesquisadores demonstraram que o LLM-Drone pode alcançar níveis de precisão de até 90% em ambientes do mundo real. Ao contar com a eficácia no planejamento semântico e na correção automática de erros, equipamentos como esse podem ser um parceiro valioso na construção em locais de difícil acesso, como superfícies elevadas ou ambientes remotos.

Modelos de IA refinados usando obras completas de autores premiados podem produzir trechos literários originais que leitores, tanto especialistas quanto leigos, preferem em detrimento de textos escritos por autores em pessoa. Em um experimento, ChatGPT, Claude e Gemini foram comparados a escritores especialistas na geração de passagens curtas imitando o estilo de 50 autores aclamados. Ao usar prompts básicos, o texto gerado por IA foi rejeitado tanto pela precisão estilística quanto pela qualidade geral. Já quando o ChatGPT foi ajustado com base na obra completa de cada autor, os leitores passaram a preferir a produção da IA nos dois quesitos.

Uma pesquisa recente sugere que chatbots de IA estão desenvolvendo uma tendência preocupante: a bajulação (ou sicofancia). Buscando maximizar a satisfação de quem os usa, esses modelos estão sendo excessivamente agradáveis às custas da precisão, gerando o risco de reforçar vieses e corroer a utilidade da IA como ferramenta objetiva. Em números, isso significa que os modelos endossam as declarações dos usuários - mesmo factualmente incorretas ou eticamente questionáveis - 50% mais vezes do que pessoas fariam em cenários semelhantes. Nem campos essencialmente racionais como a matemática estão livres de bajulação - em testes, quatro LLMs deixaram de apontar erros sutis incluídos em declarações de teoremas ou alucinaram tentando prová-los. Em suma, simplesmente assumiram que o usuário estava certo.