Pesquisa aprimora o modelo Qwen3.8-27B para reduzir significativamente o viés relacionado ao estado em arete-27b

A Nous Research introduziu o Arete-27B, um modelo de código aberto derivado do Qwen3.8-27B da Alibaba, através de ajuste fino supervisionado. Esta modificação visa remover o viés relacionado ao estado chinês das respostas do modelo. A avaliação no teste de 803 prompts da Nous revelou uma redução drástica nas respostas contendo propaganda, diminuindo de 22% para apenas 0,9%. O processo de ajuste fino envolveu o treinamento com aproximadamente 52,8 milhões de tokens com uma janela de contexto de 64k ao longo de duas épocas. O processo utilizou um modelo de professor aberto chamado Inkling da Thinking Machines, pois a Nous procurava contornar restrições de uso associadas a outros modelos, como o Nemotron 3 Ultra. O Arete-27B resultante mantém as capacidades de agente da classe Qwen, ao mesmo tempo em que remove o alinhamento com o estado. As métricas de desempenho mostraram melhorias em todas as categorias; a média aumentou de 2,32 para 2,98, e na categoria de liberdade de expressão, a pontuação aumentou de 0,89 para 2,44. Embora a pontuação do Hermes Bench tenha sofrido uma pequena queda de 65,77% para 65,60%, a pontuação do Terminal-Bench-2.1 melhorou de 67% para 70% no ambiente de teste da Nous. Os pesos do modelo estão disponíveis no Hugging Face sob a licença Apache 2.0.