सुरक्षा · 2 अक्टू॰
Perplexity का सुरक्षित-एजेंट मॉडल वहाँ निगरानी रखता है जहाँ AI क्लिक करता है
उपयोगी सीख एजेंट पर भरोसा करना नहीं है। यह है: औज़ारों को सीमित करना, कार्रवाइयों पर नज़र रखना, और मनुष्यों को ब्लास्ट डोर पर बनाए रखना।
- एजेंटों को चैटबॉट नहीं, बल्कि क्रिया-प्रणालियों के रूप में देखें, खासकर जब वे ब्राउज़ कर सकते हों, फ़ाइलें संपादित कर सकते हों या API कॉल कर सकते हों।
- मॉडल के तर्क को अनुमति-संबंधी निर्णयों से अलग रखें, और एजेंट लूप के बाहर टूल के उपयोग की निगरानी करें।
- जब वर्कफ़्लो सैंडबॉक्स किए गए कार्यों से लाइव डेटा, लिखने की पहुँच या एंडपॉइंट क्रियाओं की ओर बढ़ें, तो मानवीय समीक्षा जोड़ें।