IA y ML · 31 jul
Inkling Small Hits 40, casi igualando a Inkling 41 con 276B parámetros
El modelo de pesos abiertos más pequeño de Thinking Machines Lab usa 276 mil millones en total y 12 mil millones activos en MoE, mientras que Inkling usa 975 mil millones en total y 41 mil millones activos.
- Evalúa los modelos según su ajuste a la tarea, la licencia, el contexto y las necesidades de servicio, no solo por el número total de parámetros.
- Prueba Inkling Small en cargas de trabajo reales antes de asumir que su cercanía en los benchmarks se traduce en fiabilidad en producción.
- Presta mucha atención a los parámetros MoE activos porque determinan las compensaciones prácticas de implementación.