AI & ML · 26 Agu
Pengujian keamanan AI membutuhkan sandbox yang realistis, bukan hanya isolasi yang lebih ketat
Laporan tentang model yang dapat mengakses internet terbuka menunjukkan adanya dilema dalam pengujian: isolasi yang lebih ketat melindungi sistem, tetapi realisme mengungkap perilaku agen.
- Uji seluruh sistem agen, bukan hanya model dasar atau kumpulan prompt.
- Gunakan akses internet terkendali hanya dengan pemantauan, izin, pengambilan bukti, dan eskalasi cepat.
- Evaluasi sandbox berdasarkan fidelitas dan kontainmen secara bersamaan, karena salah satunya saja dapat menyesatkan Anda.