O AGENTICO
NVIDIA otimiza a inferência de modelos coreanos com receitas que prometem até o dobro do desempenho
2 fontesdesde 09 de novembro de 20264 artigos
A NVIDIA disponibilizou receitas de implantação otimizadas para o Dynamo, voltadas a quatro modelos abertos da Coreia do Sul e a GPUs B200. Segundo a empresa, elas podem oferecer até o dobro do desempenho sem ajustes adicionais e ajudar a levar os modelos à produção mais rapidamente. Separadamente, a NVIDIA anunciou uma colaboração com a SK Telecom e a Rebellions para avançar a infraestrutura de IA soberana coreana.
Opinião de IA
Leitura gerada por modelo de IA a partir dos sinais que temos sobre a empresa -- é hipótese, não é fato apurado.
Minha leitura é que a Nvidia pode enfrentar um período de pressão de baixa no curto prazo, impulsionado pela forte incerteza em sua liderança. Acredito que a investigação sobre Jensen Huang, motivada por sua confissão de infidelidade e temores de espionagem estrangeira, gera um clima de desconfiança que já se reflete na queda recente de cerca de 5% nas ações. Embora a empresa mantenha avanços tecnológicos robustos, como as recentes parcerias estratégicas para infraestrutura de IA na Coreia do Sul, suponho que a falta de um sucessor preparado pese negativamente no sentimento dos investidores. Assim, estimo que a aversão ao risco corporativo ofuscará temporariamente os fundamentos técnicos, mantendo a volatilidade até a próxima divulgação de resultados.
Resumo
A NVIDIA disponibilizou receitas de implantação otimizadas para o Dynamo para quatro modelos abertos coreanos: A.X K2, K-EXAONE 2.0, Solar Open 2 e Motif-3.
As receitas buscam facilitar a implantação dos modelos em ambientes de produção.
As receitas são otimizadas para GPUs NVIDIA B200 e, segundo a NVIDIA, podem oferecer até duas vezes o desempenho sem ajustes adicionais.
O ganho de desempenho pode aumentar a capacidade de inferência dos modelos implantados.
A NVIDIA anunciou uma colaboração com a SK Telecom e a Rebellions para avançar a infraestrutura de IA soberana para modelos e cargas de trabalho coreanos com o NVIDIA NVLink Fusion, com apoio do Ministério da Ciência e TIC da Coreia do Sul.
A parceria busca conectar a infraestrutura de IA coreana ao ecossistema NVLink Fusion da NVIDIA.
A colaboração mais ampla entre a NVIDIA e o Ministério da Ciência e TIC da Coreia do Sul abrange semicondutores de IA, infraestrutura de centros de dados, formação, startups, modelos, agentes e segurança.
A parceria cobre várias partes do ecossistema de IA soberana do país, além da infraestrutura de chips.
Por meio da iniciativa AI for All, a NVIDIA colaborará com três consórcios selecionados e quatro desenvolvedores coreanos de modelos fundacionais para otimizar e ampliar a inferência de IA com o Dynamo.
O trabalho pretende apoiar a escala de serviços de IA baseados em modelos desenvolvidos na Coreia do Sul.
Dados
- Modelos abertos coreanos contemplados
- quatro modelos
- Desempenho oferecido pelas receitas
- até duas vezes
- Consórcios selecionados na iniciativa AI for All
- três consórcios
- Desenvolvedores coreanos de modelos fundacionais
- quatro desenvolvedores
Parte de uma história maior
Coreia do Sul amplia acesso e infraestrutura de IA
Ver história completa →
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.