transformers

As bibliotecas Transformers, Diffusers, Accelerate, PEFT e TRL poderão rodar no Trainium diretamente, usando as mesmas classes e scripts empregados em outros aceleradores.

A compatibilidade direta pode facilitar o uso dos chips Trainium por quem já trabalha com as bibliotecas da Hugging Face.

ver evento

Meta oferece suporte day-0 para o modelo em transformers, llama.cpp, vLLM, Inference Endpoints e outras bibliotecas.

Isso facilita a adoção imediata pela comunidade, ampliando o ecossistema de ferramentas.

ver evento