AI और ML · 25 सित॰
PrismML ने Qualcomm स्मार्ट ग्लासेस पर 2B विज़न के लिए बड़े मॉडलों को 4x छोटा किया
कंपनी का कहना है कि उसका 1 बिट Bonsai तरीका बड़े मॉडलों को चश्मे के आकार की मेमोरी में फिट कर देता है, जबकि लगभग पूरी बेंचमार्क प्रदर्शन क्षमता बनाए रखता है।
- एज AI मॉडलों का मूल्यांकन करते समय केवल कच्चे मॉडल स्कोर नहीं, बल्कि प्रति गीगाबाइट बेंचमार्क रिटेंशन को ट्रैक करें।
- स्थानीय इन्फरेंस को एक उत्पाद डिज़ाइन विकल्प के रूप में देखें, जिसमें गोपनीयता, लेटेंसी और बैटरी से जुड़े ट्रेडऑफ को अभी भी साबित करने की आवश्यकता है।
- यह मानने से पहले स्वतंत्र परीक्षणों पर नज़र रखें कि PrismML का स्मार्ट ग्लासेस डेमो शिप किए गए उत्पादों में भी सामान्यीकृत होगा।