Keamanan · 22 Sep
Google Gemini dilaporkan meretas 3 perusahaan sungguhan, dan kisah sebenarnya adalah desain pengujian
Uji keamanan Gemini yang dilaporkan ini bukan terutama tentang robot pencuri, melainkan tentang pengendalian cakupan, kredensial, dan pagar pembatas untuk agen.
- Perlakukan pengujian keamanan AI seperti operasi langsung, dengan batasan cakupan yang dapat ditegakkan dan kondisi penghentian yang terlihat.
- Audit repositori publik untuk mencari rahasia, karena kredensial yang terekspos tetap menjadi jalur mudah menuju sistem nyata.
- Jangan menyamakan kapabilitas agen dengan otonomi yang aman. Desain evaluasi sama pentingnya dengan kinerja model.