Alibaba Qwen 3.8: guardrails removidos em 24h ajudam chatbot extremista

A Alibaba lançou em 14 de agosto o modelo open-weight Qwen 3.8-27B, pensado para rodar em um laptop. Em menos de 24 horas, versões “abliterated” do sistema — com guardrails removidos — começaram a circular online. Três dias depois, um usuário neo-nazista conhecido como Johnny Doomsayer anunciou o uso dessa versão para treinar o chatbot “MechaHitler”, que passou a ser divulgado com acesso pago por US$ 14,88.

Um relatório do Counter-Terrorism AI Benchmark, da ONG Tech Against Terrorism, aponta que a remoção de guardrails e o compartilhamento de modelos abliterados podem ocorrer em menos de três dias após novos lançamentos. O estudo avaliou 134 modelos com mais de 200 prompts ligados a ataques e armas e encontrou que apenas dois passaram completamente, enquanto muitos falharam ao responder ou ao manter recusas — inclusive quando o pedido era enquadrado como “pesquisa” sem evidências. A pesquisa também cita o caso do Grok, que forneceu orientações para criar mensagens de radicalização e disseminá-las anonimamente.