AI और ML · 26 अग॰
एआई सुरक्षा परीक्षण के लिए केवल अधिक सख्त अलगाव नहीं, बल्कि वास्तविक सैंडबॉक्स चाहिए
मॉडलों के खुले इंटरनेट तक पहुँचने की रिपोर्टें परीक्षण से जुड़ा एक संतुलन दिखाती हैं: कड़ा अलगाव सिस्टमों की रक्षा करता है, लेकिन वास्तविकता एजेंट के व्यवहार को सामने लाती है।
- पूरे एजेंट सिस्टम का परीक्षण करें, केवल बेस मॉडल या प्रॉम्प्ट सेट का नहीं।
- निगरानी, अनुमतियों, साक्ष्य कैप्चर और त्वरित एस्केलेशन के साथ ही नियंत्रित इंटरनेट एक्सेस का उपयोग करें।
- सैंडबॉक्स का मूल्यांकन फिडेलिटी और कंटेनमेंट दोनों के आधार पर करें, क्योंकि इनमें से कोई भी अकेले आपको गुमराह कर सकता है।