Prompts ocultos em artigos científicos - manipulação ou defesa?

ÉTICA

Manipulação ou defesa? Prompts ocultos em artigos científicos

Autores de artigos acadêmicos de 14 universidades em oito países, entre eles Japão, Coreia do Sul, China e Estados Unidos, foram pegos no pulo depois de incorporarem prompts ocultos em seus artigos para manipular avaliações de pares guiadas por IA, de acordo com uma investigação do site NikkeiAsia.

Os artigos, principalmente da área de ciência da computação, contavam com o fato de que ferramentas de IA são cada vez mais usadas em revisão por pares por conta dos altos volumes de texto submetidos e um número limitado de revisores especialistas.

Alguns autores chegaram a justificar o uso desses prompts, por serem um contraponto a “revisores preguiçosos”, segundo eles, ajudando a coibir a prática de usar IA nas revisões acadêmicas.

Por que isso importa? O incidente expôs a falta de diretrizes para o uso de ferramentas de IA nas publicações acadêmicas. Alguns editores científicos permitem a utilização limitada de IA, enquanto outros proíbem por completo citando riscos de avaliações tendenciosas ou incorretas. 

Além disso, tais manipulações podem ir além da academia e avançar por outros campos que se baseiam em resumos gerados pela IA.

• Google integrou chatbots personalizáveis chamados Gems diretamente na barra lateral dos aplicativos Docs, Slides, Sheets, Drive e Gmail para que usuários tenham acesso à ajuda da IA sem sair do espaço de trabalho.

• Comet, navegador da Web da Perplexity com tecnologia de IA integrada (busca e assistente) foi lançado oficialmente para assinantes do plano Max e um grupo limitado de integrantes da lista de espera.

• Warp lançou o primeiro Agentic Development Environment (ADE), que já se tornou o agente de IA para codificação por IA com melhor desempenho no mercado, ultrapassando o Claude Code da Anthropic em mais de 20%.

• DeepSWE é um agente de código aberto para programação treinado com aprendizado por reforço sobre o modelo de linguagem Qwen3-32B.

• Com AI Docs, Genspark completa o trio de agentes de produtividade ao lado de AI Slides e AI Sheets.

• E, por falar em produtividade, Shortcut, do Fudamental Labs, promete ser o agente Excel super-humano que realiza tarefas das mais simples às complexas.

• MIT e NVIDIA desenvolveram ferramenta HART (Hybrid Autoregressive Transformer) que acelera a geração de imagens de alta qualidade por AI e, ao mesmo tempo, reduz custos computacionais.

• Resultados preliminares de benchmarking do futuro Grok 4 da xAI, não oficiais, mostraram alto desempenho em vários testes, entre eles HLE da Humanity, STEM, e de capacidade de programação.

• X-UniMotion é uma estrutura de IA da Bytedance que anima imagens estáticas de corpo inteiro de forma bem realista, com movimento de mãos e faciais. 🕺🏻💃

PROTEÇÃO AMBIENTAL

Satélite e IA ajudam a identificar algas tóxicas do espaço

A Finlândia está usando modelos de IA associados a um sistema de satélite para monitorar a proliferação de algas tóxicas do espaço, marcando um avanço significativo no monitoramento ambiental.

O Instituto Ambiental Finlandês (Syke) se associou à startup Kuva Space para implantar um satélite orientado por IA que analisa assinaturas espectrais de quase qualquer material na Terra, inclusive algas nocivas que ameaçam a saúde humana, a vida selvagem e os ecossistemas aquáticos.

Os parceiros estão treinando modelos de IA em imagens de satélite hiperespectrais, bem como amostras de água e dados de pesquisa bioquímica e genética. Com isso, ao processar dados de alta resolução, o satélite alimentado por IA supera os métodos tradicionais de monitoramento, que dependem de amostragem intensiva e imagens públicas de satélite em baixa resolução.

Por que isso importa? A tecnologia permite detectar de forma mais rápida e precisa vários tipos de algas, aprimorando as avaliações da qualidade da água em lagos e águas costeiras da Finlândia.

Além da detecção de algas nocivas, a tecnologia pode ser aplicada em vários outros casos de uso, por exemplo, para banir pesca ilegal, monitorar culturas agrícolas, identificar vazamentos químicos e rastrear espécies animais.

A Pinwheel lançou seu primeiro smartwatch para crianças de 7 a 14 anos com o chatbot PinwheelGPT, adequado à idade, segundo a empresa. O wearable é uma alternativa mais segura aos modelos tradicionais por oferecer meios de manter nos pais no controle, além do simples rastreamento da localização. Podem ser controlados pelo pais, por exemplo, os s contatos com as crianças se comunicam e as fotos que são compartilhadas. O preço? US$ 160 com uma assinatura mensal de US$ 15, com disponibilidade para venda no site pinwheel.com e posteriormente na Amazon.

⚖ Mais um capítulo da novela NYT X OpenA

O jornal The New York Times (NYT) conquistou uma vitória judicial contra a OpenAI, ganhando acesso a registros excluídos do ChatGPT em um processo envolvendo direitos autorais. Um juiz federal dos Estados Unidos ordenou que a OpenAI retenha todos os dados de conversas do ChatGPT, entre eles chats temporários e apagados. Esses registros podem servir de evidência, argumentou o jornal. Do outro lado, a OpenAI afirmou que reter chats apagados violaria a privacidade dos usuários e as políticas de exclusão de dados. O juiz não aceitou a justificativa, citando o acordo entre OpenAI e usuários que inclui a permissão de retenção de dados para fins legais. A OpenAI planeja recorrer da decisão.