KI & ML · 31. Juli
Inkling Small erreicht 40 und liegt mit 276 Mrd. Parametern fast gleichauf mit Inkling 41
Das kleinere Open-Weights-Modell von Thinking Machines Lab nutzt insgesamt 276 Milliarden Parameter und 12 Milliarden aktive MoE-Parameter, während Inkling insgesamt 975 Milliarden Parameter und 41 Milliarden aktive Parameter nutzt.
- Beurteilen Sie Modelle nach Aufgabenpassung, Lizenzierung, Kontext und Bereitstellungsanforderungen, nicht allein nach der Gesamtzahl der Parameter.
- Testen Sie Inkling Small mit realen Arbeitslasten, bevor Sie annehmen, dass seine Nähe in Benchmarks sich in Produktionszuverlässigkeit übersetzt.
- Behalten Sie aktive MoE-Parameter genau im Blick, da sie praktische Kompromisse bei der Bereitstellung prägen.