IA e ML · 25 de set.
PrismML reduz modelos grandes em 4x para visão de 2B em óculos inteligentes da Qualcomm
A empresa diz que sua abordagem Bonsai de 1 bit acomoda modelos maiores na memória do tamanho da dos óculos, mantendo quase todo o desempenho em benchmarks.
- Acompanhe a retenção de benchmark por gigabyte, não apenas as pontuações brutas do modelo, ao avaliar modelos de IA de borda.
- Trate a inferência local como uma escolha de design de produto, com compensações de privacidade, latência e bateria que ainda precisam ser comprovadas.
- Aguarde testes independentes antes de presumir que a demonstração dos óculos inteligentes da PrismML será generalizável para produtos lançados.