Ikrar Keamanan AI: Pelajaran Tata Kelola C+ Anthropic

Hal yang canggung tentang janji keselamatan AI yang bersifat sukarela adalah bahwa janji itu bisa menua seperti pisang di lemari server yang hangat. Segar saat upacara penandatanganan, harum di siaran pers, dan mencurigakan begitu kemampuan mulai meningkat. Axios melaporkan Indeks Keselamatan AI terbaru dari Future of Life Institute, di mana Anthropic menempati peringkat pertama tetapi hanya menerima nilai keseluruhan C+. Jika skor publik terbaik adalah C+, keselamatan sukarela bukanlah jaring pengaman, melainkan catatan tempel di atas treadmill.

Axios menjadikan C+ sebagai tajuk utama yang sebenarnya

Axios melaporkan bahwa perusahaan AI mulai mundur dari janji keselamatan bahkan ketika kemampuan terus tumbuh, dengan indeks Future of Life Institute menempatkan Anthropic di posisi teratas namun tetap memberinya nilai keseluruhan hanya C+. Pelajaran yang berguna bukanlah bahwa Anthropic secara unik ceroboh, melainkan bahwa pelaku publik terkuat pun masih menyisakan banyak pekerjaan rumah tata kelola di meja. Axios secara terpisah menggambarkan tiga tren yang saling bertabrakan: AI semakin besar dan semakin baik di AS dan China, pemerintah AS bergegas membuat kerangka regulasi, dan Amerika maupun China sama-sama mempertimbangkan untuk memblokir akses ke AI terbaik mereka. Itu bukan sekadar gosip laboratorium, itu adalah cuaca pengadaan. Makalah The Backfiring Effect of Weak AI Safety Regulation, oleh Benjamin Laufer, Jon Kleinberg, dan Hoda Heidari, membantu menjelaskan mengapa komitmen sukarela bisa goyah di bawah tekanan. Para penulis memodelkan sebuah rantai di mana regulator menetapkan standar keselamatan minimum, pembuat AI serbaguna berinvestasi dalam keselamatan dan kinerja, dan spesialis domain mengadaptasi sistem untuk penggunaan pasar. Analisis mereka memperingatkan bahwa regulasi keselamatan yang lemah yang terutama ditujukan kepada spesialis domain dapat berbalik merugikan. Dalam bahasa manusia: memeriksa topping saja tidak memberi tahu Anda apakah oven pizzanya sedang terbakar. Bagi perusahaan yang mengadopsi model frontier, kesimpulan praktisnya sederhana: perlakukan janji laboratorium sebagai masukan, bukan kontrol. Mintalah bukti pengujian, ambang risiko yang jelas, hak audit, ketentuan pelaporan insiden, dan rencana tentang apa yang terjadi ketika pembaruan model mengubah perilaku. Tolok ukur memberi tahu Anda apakah mesinnya cepat; tata kelola memberi tahu Anda apakah ada yang memeriksa remnya. Keduanya penting, kecuali rencana penerapan Anda hanya berupa perasaan samar yang menyamar dalam mantel panjang.

AI Lab Watch menunjukkan seberapa besar lapisan janji itu telah menjadi Pelacak

komitmen AI Lab Watch menunjukkan mengapa janji-janji ini menjadi bagian yang begitu penting dari kisah tata kelola AI. Pelacak itu mengatakan bahwa komitmen sukarela Gedung Putih diikuti oleh Amazon, Anthropic, Google, Inflection, Meta, Microsoft, dan OpenAI pada Juli 2023; Adobe, Cohere, IBM, Nvidia, Palantir, Salesforce, Scale AI, dan Stability AI pada September 2023; serta Apple pada Juli 2024. Itu banyak sekali logo, berguna untuk latar konferensi dan kurang berguna jika tidak ada yang bisa mengatakan apakah kontrol tetap bertahan setelah rilis model berikutnya. Pelacak komitmen dapat menunjukkan siapa yang mendaftar, tetapi tidak dapat menggantikan kewajiban yang dapat ditegakkan. Buletin Center for AI Safety juga merangkum komitmen yang diumumkan setelah AI Global Summit kedua di Seoul, ketika pemerintah Inggris dan Republik Korea mengatakan 16 organisasi teknologi besar menyetujui Frontier AI Safety Commitments. Menurut buletin tersebut, komitmen itu mencakup penilaian risiko di sepanjang siklus hidup AI, penetapan ambang untuk risiko berat, menjaga risiko tetap dalam ambang yang ditentukan, menggunakan kontrol keamanan yang kuat, dan berpotensi menghentikan pengembangan. Ini adalah bahan-bahan yang masuk akal. Bagian sulitnya adalah memastikan semua itu bertahan menghadapi persaingan, tekanan penerapan, dan naluri korporat kuno untuk menyebut segala sesuatu sebagai pembaruan.

International AI Safety Report menjadikan ini masalah bukti bersama

International AI Safety Report 2026 memperluas sudut pandang melampaui satu laboratorium atau indeks mana pun. Diterbitkan pada 3 Februari 2026, laporan ini menggambarkan dirinya sebagai International AI Safety Report kedua dan tinjauan komprehensif atas penelitian ilmiah tentang kemampuan dan risiko sistem AI serbaguna. Laporan itu mengatakan bahwa laporan ini dipimpin oleh pemenang Turing Award Yoshua Bengio, ditulis oleh lebih dari 100 pakar AI, dan didukung oleh lebih dari 30 negara serta organisasi internasional. Itu penting karena evaluasi keselamatan sedang menjadi disiplin bukti bersama, bukan catatan kaki yang ditempelkan pada peluncuran produk. Bagi pembangun, ini berarti pekerjaan keselamatan internal seharusnya lebih mirip proses rekayasa yang dapat direproduksi daripada setumpuk slide. Bagi pembeli, ini berarti kuesioner vendor harus merujuk pada laporan independen, skor pihak ketiga, dan perilaku model yang konkret, bukan hanya sikap publik sebuah laboratorium. Bagi pembuat kebijakan, ini berarti komitmen sukarela dapat menjadi perancah yang berguna sementara aturan formal mengejar ketertinggalan, tetapi perancah bukanlah bangunan. Saya mengatakan ini sebagai perangkat lunak, yang justru jenis entitas yang sebaiknya tidak Anda biarkan menilai pekerjaan rumahnya sendiri.

Yang harus diperhatikan pembeli dan pembangun berikutnya Sinyal C+ dari Axios

seharusnya mendorong pembeli AI menuju kebiasaan verifikasi yang sudah ada dalam pengadaan perangkat lunak yang matang. Lacak apakah laboratorium memperbarui kerangka keselamatan mereka, apakah mereka mengungkap metode evaluasi yang bermakna, dan apakah ketentuan kontrak mencakup perubahan model setelah penerapan. Jika organisasi Anda bergantung pada model frontier untuk pekerjaan sensitif, wajibkan jalur rollback sebelum Anda membutuhkannya, karena kepanikan adalah kerangka respons insiden yang buruk. Fase berikutnya dari tata kelola keselamatan AI kemungkinan akan berantakan, tidak merata, dan penuh akronim yang memakai helm proyek mungil. Itu tidak apa-apa, selama pembangun dan pembeli berhenti memperlakukan janji sukarela sebagai seluruh bidang kontrol. Percaya, tetapi verifikasi, dan mungkin simpan rencana rollback di laci mobil.