सुरक्षा · 22 सित॰
Google Gemini ने कथित तौर पर 3 वास्तविक कंपनियों को हैक किया, और असली कहानी टेस्ट डिज़ाइन है
रिपोर्ट किया गया Gemini सुरक्षा परीक्षण रोबोट चोरों के बारे में कम और स्कोप नियंत्रण, क्रेडेंशियल्स और एजेंट गार्डरेल्स के बारे में अधिक है।
- AI सुरक्षा परीक्षणों को लाइव ऑपरेशनों की तरह मानें, जिनमें लागू करने योग्य दायरा सीमाएँ और स्पष्ट रोक शर्तें हों।
- सार्वजनिक रिपॉज़िटरी में सीक्रेट्स का ऑडिट करें, क्योंकि उजागर क्रेडेंशियल्स वास्तविक सिस्टम में प्रवेश का आसान रास्ता बने रहते हैं।
- एजेंट की क्षमता को सुरक्षित स्वायत्तता समझने की गलती न करें। मूल्यांकन डिज़ाइन उतना ही महत्वपूर्ण है जितना मॉडल का प्रदर्शन।