Analisis Pendanaan Verifikasi AI California SB 813

Pekerjaan paling aneh di AI mungkin sebentar lagi adalah membaca PR keselamatan model milik orang lain lalu berkata, dengan sopan, buktikan. SB 813 California bukan tentang papan peringkat lain di mana Model A mengalahkan Model B dengan selisih desimal yang mencurigakan. Ini tentang siapa yang boleh memeriksa klaim keselamatan AI frontier, dengan kewenangan apa, dan dengan insentif apa. Bagian terakhir itu penting, karena audit yang didanai seperti suvenir pesta tidak sama dengan audit yang didanai seperti infrastruktur publik. Fathom, organisasi nirlaba yang mensponsori SB 813, mengatakan bahwa Badan Legislatif California meloloskan secara besar-besaran rancangan undang-undang yang disusun oleh Senator Jerry McNerney. Fathom menggambarkan langkah ini sebagai langkah menuju kerangka negara bagian pertama di Amerika Serikat untuk Independent Verification Organizations, atau IVO, guna menguji klaim keselamatan AI, mengukur risiko, dan membangun kepercayaan publik. Terjemahan dari bahasa kebijakan: negara bagian sedang mencoba membuat evaluasi model tidak lagi seperti ujian bawa pulang yang dinilai sendiri, melainkan lebih seperti sistem inspeksi dengan pengawasan orang dewasa. Laboratorium AI mungkin membenci urusan dokumennya, tetapi dokumen adalah cara masyarakat memberi tahu mesin yang sangat besar agar berhenti melakukan peluncuran berbasis firasat.

SB 813 memindahkan audit

AI dari firasat ke institusi Menurut Fathom, mekanisme inti dalam SB 813 adalah model IVO, yaitu pakar luar yang dapat mengevaluasi klaim keselamatan AI dan risiko. ICT Solutions and Education melaporkan bahwa para pembuat undang-undang California meloloskan SB 813 untuk membuat kerangka bagi organisasi independen dalam menilai keselamatan, risiko, dan perlindungan AI. Perumusan ini penting karena menunjuk melampaui teater benchmark. Verifikator yang kredibel tidak hanya bertanya apakah sebuah model bisa unggul dalam set pengujian, tetapi juga bertanya apakah cerita keselamatan dari pengembang tetap bertahan ketika berhadapan dengan pemeriksaan independen. CalMatters Digital Democracy mencatat bahwa hukum yang sudah ada, Transparency in Frontier Artificial Intelligence Act, telah mewajibkan pengembang frontier besar untuk menulis, menerapkan, dan menerbitkan dengan jelas kerangka AI frontier untuk model frontier mereka. SB 813 secara alami cocok setelah itu: jika pengembang harus menerbitkan kerangka, seseorang di luar pengembang perlu memiliki cara untuk memeriksa apakah kerangka tersebut benar-benar bermakna. Kalau tidak, kerangka keselamatan bisa menjadi versi AI dari keanggotaan gym yang dibeli pada Januari dan diabaikan pada Februari.

GovBuddy menunjukkan saluran kebijakan kini mulai bergerak

GovBuddy mencantumkan SB 813 dalam sesi reguler California 2025 hingga 2026 dan mengidentifikasinya sebagai rancangan undang-undang Senat dengan status Passed both house. Itu tidak membuat pertanyaan teknis menghilang. Itu membuatnya menjadi operasional. Begitu verifikasi menjadi fungsi yang diakui negara bagian, laboratorium, evaluator, dan lembaga publik membutuhkan jawaban yang membosankan tetapi penting tentang cakupan, akses, dokumentasi, dan pengelolaan konflik. Di sinilah roda rekayasa menyentuh jalan regulasi, lalu mengeluh bahwa jalan itu tidak ada dalam dokumen persyaratan. Evaluator model mungkin memerlukan akses API, system card, dokumentasi kebijakan, model ancaman, perangkat evaluasi, dan anggaran komputasi yang cukup untuk menjalankan pengujian yang bermakna. Jika evaluator tidak mampu membiayai pengujiannya, independensi menjadi sekadar hiasan. Jika pengembang mengendalikan akses terlalu ketat, independensi menjadi teater makan malam dengan keluaran JSON.

Masalah uang bukan catatan kaki

ICT Solutions and Education menggambarkan IVO sebagai penilaian pihak ketiga yang memenuhi syarat atas model dan sistem AI, termasuk keselamatan, risiko, dan perlindungan. Itu terdengar rapi, tetapi siapa pun yang pernah menjalankan evaluasi model serius tahu bahwa argo biaya mulai berjalan dengan cepat. Probe konteks panjang, rangkaian tugas agentic, pengujian adversarial, sampling berulang, evaluasi penggunaan alat, dan pemeriksaan regresi tidak gratis. Faktur bukanlah seluruh cerita, tetapi berpura-pura bahwa itu tidak relevan adalah cara kita mendapatkan audit yang pada dasarnya hanyalah PDF yang memakai jas lab. Pelajaran kebijakannya sederhana: independensi verifikator membutuhkan model pendanaan, bukan hanya pernyataan misi. Jika laboratorium membayar secara langsung, pembaca sebaiknya bertanya bagaimana konflik dikelola. Jika negara bagian membayar atau mensertifikasi pasar evaluator, pembaca sebaiknya bertanya bagaimana kualitas dan akses dipertahankan. Jika tidak ada yang membayar cukup, ekosistem mendapatkan pengujian simbolis, yang mirip seperti memeriksa parasut dengan memuji jahitannya.

Hal yang perlu disiapkan para pembangun selanjutnya

Bagi pembangun AI, kesimpulan praktisnya bukan panik, melainkan kebersihan. Fathom mengatakan SB 813 dirancang seputar pengujian klaim keselamatan dan pengukuran risiko, jadi tim sebaiknya membuat klaim-klaim itu dapat diuji sebelum orang lain meminta bukti. Itu berarti dokumentasi model berversi, log evaluasi, prosedur respons insiden, kriteria rilis yang jelas, dan catatan tentang apa yang berubah di antara versi model. Ya, ini kurang glamor dibanding putaran kemenangan benchmark, tetapi begitu juga membersihkan gigi dengan benang, dan dokter gigi tetap tak terkalahkan. Bagi tim produk dan keselamatan, pasar yang sedang muncul untuk verifikasi independen berarti kesiapan rilis mungkin mulai terlihat lebih seperti kepatuhan ditambah tinjauan rekayasa. Tim terbaik akan memperlakukan ini sebagai infrastruktur umpan balik, bukan sekadar surat izin. Perhatikan bagaimana California mendefinisikan evaluator yang memenuhi syarat, bagaimana ketentuan akses disusun, dan apakah model pendanaan mendukung independensi yang nyata. Ekonomi audit sedang tiba, dan ia membawa tanda terima.