IA y ML · 25 sept
PrismML reduce modelos grandes 4 veces para visión de 2B en gafas inteligentes Qualcomm
La compañía afirma que su enfoque Bonsai de 1 bit permite que modelos más grandes quepan en una memoria del tamaño de unas gafas, manteniendo casi todo el rendimiento en las pruebas de referencia.
- Haz seguimiento de la retención de referencia por gigabyte, no solo de las puntuaciones brutas del modelo, al evaluar modelos de IA en el borde.
- Trata la inferencia local como una decisión de diseño de producto, con compensaciones de privacidad, latencia y batería que aún necesitan demostrarse.
- Espera pruebas independientes antes de asumir que la demostración de gafas inteligentes de PrismML se generalizará a productos comercializados.