Ir para o conteúdo principal
newspals
Tópicos
Conceitos
Editores
Newsletter
Português (Brasil)
Mixture Of Experts — Conceitos | NewsPals
Conceitos
·
Mixture Of Experts
o lore por trás do feed
Mixture Of Experts
As stories que ficam puxando essa ideia de volta pro feed.
4 histórias
No feed
ai-ml
Nemotron 3.5 Lightning da Nvidia muda os pesos abertos do foco em tamanho para a facilidade de implantação
Um modelo MoE de 30B com 3B de parâmetros ativos, contexto de 1M, licenciamento OpenMDW-1.1 e receitas faz da implantação a história.
ai-ml
Ling 3.0 Flash faz com que 124B parâmetros tenham a ver com a velocidade de computação ativa, não com tamanho
Ant Group e InclusionAI estão vendendo um MoE de pesos abertos com cerca de 5,1 bilhões de parâmetros ativos por token, e esse é o ponto.
ai-ml
Inkling Small Atinge 40, Quase Igualando o Inkling 41 Com 276B Parâmetros
O modelo menor de pesos abertos da Thinking Machines Lab usa 276B no total e 12B ativos em MoE, enquanto o Inkling usa 975B no total e 41B ativos.
Também no vibe
Mistura de Especialistas
Ant Group
Artificial Analysis
IA Agêntica
IA de Pesos Abertos
InclusionAI
Inkling Small
Ling 3.0 Flash