Keamanan · 2 Okt
Model agen yang lebih aman dari Perplexity menempatkan pemantau di tempat AI mengeklik
Pelajaran yang berguna bukanlah memercayai agen. Melainkan membatasi alat, mengawasi tindakan, dan menempatkan manusia di pintu pengaman.
- Perlakukan agen sebagai sistem tindakan, bukan chatbot, terutama ketika mereka dapat menjelajah web, mengedit file, atau memanggil API.
- Pisahkan penalaran model dari keputusan izin, dan pantau penggunaan alat di luar loop agen.
- Tambahkan tinjauan manusia ketika alur kerja beralih dari tugas dalam sandbox ke data langsung, akses tulis, atau tindakan endpoint.