O AGENTICO
GPT-OSS
modelo · 4 menções
O que as fontes disseram sobre GPT-OSS
O GPT-OSS, um modelo de 120B parâmetros, foi comprimido para 60B por meio do método Quantization-Aware Healing, com quantização MXFP4 de 4 bits. Segundo as fontes, a versão comprimida superou o modelo original em precisão em 7 de 9 benchmarks, sendo menor, mais barata e mais precisa. Os pesquisadores afirmam que, em um pipeline de cura baseado em destilação, o passo de quantização é uma oportunidade adicional de supervisão do professor, produzindo um modelo mais barato, mais leve e pelo menos tão preciso quanto a versão em precisão total.
Menções
O QAH foi aplicado a um modelo GPT-OSS de 120B parâmetros, comprimido para 60B com quantização MXFP4 de 4 bits.
Descreve a aplicação prática do método e as especificações técnicas do modelo.
Os pesquisadores afirmam que, em um pipeline de cura baseado em destilação, o passo de quantização não é um custo a ser minimizado, mas uma oportunidade adicional para supervisão do professor, produzindo um modelo ao mesmo tempo mais barato, mais leve e pelo menos tão preciso quanto sua versão em precisão total.
Essa é uma mudança conceitual importante: trata a quantização como benefício no treinamento, não como perda a corrigir.
A versão comprimida superou o modelo original em precisão em 7 de 9 benchmarks, sendo menor, mais barata e mais precisa.
Mostra o resultado contraintuitivo: o modelo menor e comprimido é superior, o que pode influenciar práticas futuras de compressão de IA.
O método Quantization-Aware Healing foi aplicado a um modelo GPT-OSS de 120B parâmetros comprimido para 60B, com quantização MXFP4 de 4 bits.
Detalha a técnica e o modelo específico usados no experimento, mostrando a escala da compressão.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.