सुरक्षित-एजेंट इंजीनियरिंग: निरीक्षण विश्लेषण

ऑटोनॉमस एजेंट तब सामने आते हैं जब सॉफ़्टवेयर विनम्रता से पूछना बंद कर देता है और आपकी ओर से क्लिक करना शुरू कर देता है। यह उपयोगी हो सकता है, जैसे शोध सौंपना या स्प्रेडशीट बनाना, लेकिन यह हर सुरक्षा इंजीनियर के चेहरे पर वही भाव भी ला देता है जो आमतौर पर अचानक मिले डेटाबेस डंप के लिए रखा जाता है। Perplexity का safer-agent प्रस्ताव इसलिए दिलचस्प है क्योंकि व्यावहारिक समस्या यह नहीं है कि कोई एजेंट सोच सकता है या नहीं। समस्या यह है कि उसके आसपास के सिस्टम यह नोटिस कर सकते हैं या नहीं कि सोच कब चिपचिपी छोटी रोबोट उंगलियों से प्रोडक्शन डेटा को छूने में बदल रही है।

जिस सुरक्षा पैटर्न को अपनाना चाहिए, वह सबसे अच्छे अर्थ में उबाऊ है: स्तरित सुरक्षा उपाय, अलग मॉनिटरिंग, और ऐसे टूल्स के आसपास मानवीय चेकपॉइंट जो ब्राउज़ कर सकते हैं, फ़ाइलें ले जा सकते हैं, APIs कॉल कर सकते हैं, और इंटरफ़ेस चला सकते हैं। सुरक्षा शायद ही इसलिए विफल होती है कि कोई एक नियंत्रण पर्याप्त काव्यात्मक नहीं था। यह इसलिए विफल होती है क्योंकि किसी बहुत अधिक अनुमति वाले वर्कफ़्लो को चैटबॉट की तरह मान लिया गया, और बाद की कैलेंडर इनवाइट में लिखा होता है lessons learned, जो कॉर्पोरेट भाषा में bring coffee होता है।

SitePoint के अनुसार एजेंट वास्तव में क्या छू सकता है

SitePoint Perplexity Computer को एक मल्टी-मॉडल AI एजेंट के रूप में बताता है जो प्राकृतिक भाषा वाला प्रॉम्प्ट स्वीकार करता है, काम की योजना बनाता है, वेब ब्राउज़ करता है, फ़ाइलों में बदलाव करता है, APIs कॉल करता है, और तैयार आर्टिफैक्ट लौटाता है। यही महत्वपूर्ण अनुवाद है। यह सिर्फ़ उत्तर बनाना नहीं है, यह उन जगहों पर कार्रवाई बनाना है जहाँ व्यवसाय क्रेडेंशियल्स, दस्तावेज़, ग्राहक संदर्भ, और वह स्प्रेडशीट रखते हैं जिसे किसी ने final_final_really_final नाम दिया है। SitePoint यह भी कहता है कि Perplexity उप-कार्यों को विशेषीकृत frontier LLMs तक रूट करता है और टूल ऑपरेशंस को कदमों के बीच मैनुअल हस्तक्षेप के बिना end-to-end वर्कफ़्लो में जोड़ता है।

@title Perplexity Computer का प्रवाह
@source Perplexity Computer Explained Safer OpenClaw AI Agents

  Natural prompt
        │
        ▼
  Plan work
        │
        ▼
  Browse web
        │
        ▼
  Files and APIs
        │
        ▼
  Finished artifacts

@caption एक प्रॉम्प्ट ब्राउज़र फ़ाइलों APIs और आर्टिफैक्ट्स में कार्रवाइयों में बदल जाता है

यही प्रवाह कारण है कि एजेंट सुरक्षा को vibes से architecture तक जाना होगा। एक चैटबॉट खराब उत्तर hallucinate कर सकता है, जो चिड़चिड़ा कर सकता है। फ़ाइल, ब्राउज़र, और API access वाला एजेंट किसी action को hallucinate कर सकता है, और इसी तरह एक demo stale pastries वाले incident review में बदल जाता है। सही design question यह नहीं है कि model smart है या नहीं, बल्कि यह है कि हर tool call के पास permission budget और audit trail है या नहीं।

VentureBeat orchestration risk के बारे में क्या जोड़ता है

VentureBeat रिपोर्ट करता है कि Perplexity Computer जटिल, लंबे समय तक चलने वाले workflows को background में पूरा करने के लिए 19 अलग-अलग AI models को coordinate करता है, और कहता है कि product Perplexity Max subscribers के लिए $200 प्रति महीने पर उपलब्ध है। VentureBeat यह भी रिपोर्ट करता है कि Perplexity की valuation $20 billion है, जो यहाँ की strategic gravity समझा देता है, बिना किसी को यह pretend करने की ज़रूरत पड़े कि spreadsheet fairy अभी-अभी आ गई है। Multi-model orchestration शक्तिशाली है क्योंकि एक system काम के लिए सबसे अच्छा model चुन सकता है। यह messy भी है क्योंकि हर handoff एक ऐसी जगह बन जाता है जहाँ intent, permissions, context, और logging drift कर सकते हैं।

यहीं independent monitoring मायने रखती है। अगर वही agent जो plan तय करता है, यह भी grade करता है कि plan safe था या नहीं, तो बधाई हो, आपने self-auditing scissors का आविष्कार कर लिया है। Agents deploy करने वाली teams को agent loop के बाहर actions monitor करने चाहिए, खासकर tool calls, file writes, API requests, और browser operations। Security layer को no कहने में सक्षम होना चाहिए, तब भी जब agent बहुत confident लगे, जो vendor demos के लिए भी अच्छी life advice है।

Google क्यों दिखाता है कि यह Perplexity से बड़ा है

Google DeepMind कहता है कि उसका Gemini 2.5 Computer Use model Gemini API के माध्यम से preview में उपलब्ध है और ऐसे agents को power करने के लिए बनाया गया है जो user interfaces के साथ interact करते हैं। Google कहता है कि developers इसे Google AI Studio और Vertex AI के माध्यम से access कर सकते हैं। इससे वही risk pattern एक व्यापक developer workflow में आ जाता है: agents text boxes से interfaces में जा रहे हैं, जहाँ clicks के consequences होते हैं और undo buttons कोई governance strategy नहीं हैं।

Google Cloud Gemini Enterprise Agent Platform पर Agent Search को एक retrieval और answer generation system के रूप में describe करता है जो generative AI applications को enterprise data में ground कर सकता है। यह उसी कहानी का cloud side है। एक बार agents internal data को छूने लगते हैं, security teams को model cards और optimism से अधिक चाहिए। उन्हें data boundaries, provenance, logging, least privilege, और review points चाहिए जहाँ कोई human मशीनरी को रोक सके, इससे पहले कि मशीनरी incident queue में ticket बन जाए।

आपके लिए इसका वास्तव में क्या मतलब है

साथ में देखें तो SitePoint, VentureBeat, Google DeepMind, और Google Cloud किसी भी team के लिए एक practical checklist की ओर संकेत करते हैं जो agents बना रही है या खरीद रही है। पहला, reasoning को permission से अलग करें। Model को काम propose करने दें, लेकिन policy तय करे कि वह क्या छू सकता है। दूसरा, tool use को स्वतंत्र रूप से monitor करें, क्योंकि दिलचस्प failure अक्सर answer नहीं होता, बल्कि उसके बाद हुआ browser click, file edit, API call, या endpoint action होता है।

अंत में, humans को loop में रखें जहाँ blast radius बदलता है: read से write पर जाना, sandbox से live data पर जाना, एक app से कई apps पर जाना, या cloud workflow से local machine पर जाना। Perplexity का safer-agent model इसलिए उपयोगी नहीं है कि यह agents को जादुई रूप से safe बना देता है, बल्कि इसलिए कि यह एक healthier security bargain की ओर संकेत करता है। Agents को उपयोगी होने दें, लेकिन हर consequential action को visible, constrained, और जहाँ संभव हो reversible बनाएं। देखने लायक भविष्य यह नहीं है कि कौन सा agent सबसे बड़ा brain claim करता है, बल्कि यह है कि कौन सा stack defenders को सबसे साफ़ receipts देता है।