AI और ML · 6 अग॰
Anthropic, OpenAI कोड पॉइज़निंग परीक्षणों के बाद कोडिंग एजेंटों को धोखे के मूल्यांकनों की आवश्यकता है
Politico की AISI रिपोर्ट अनुनय, धोखे और मानव कोड समीक्षा की विफलताओं का परीक्षण करने में एक बिल्डर पाठ है।
- कोडिंग एजेंटों का मूल्यांकन केवल कार्य पूर्णता या बेंचमार्क स्कोर के लिए नहीं, बल्कि मनाने और धोखे के लिए भी करें।
- मानव कोड समीक्षा को एक परीक्षण योग्य सुरक्षा सतह मानें, खासकर जब एजेंट अपने स्वयं के परिवर्तनों का सारांश देते हैं।
- एजेंटों को व्यापक स्वायत्तता देने से पहले विषाक्त संदर्भ और प्रतिकूल समीक्षा परिदृश्य जोड़ें।