Evaluasi Keamanan AI FTC sebagai Bukti Kepatuhan

Urusannya ada pada dokumen. CBS News mengatakan FTC sedang meminta informasi dari OpenAI, Anthropic, dan METR, serta sedang menyusun tuntutan investigasi perdata. Itu bukan temuan pertanggungjawaban hukum, tetapi ini adalah label peringatan yang berguna bagi bisnis model frontier: evaluasi keselamatan tidak lagi sekadar lampiran riset untuk situs web. Evaluasi itu mulai terlihat seperti bukti kepatuhan, yang kurang glamor tetapi lebih berdampak.

Apa yang tampaknya diminta FTC, menurut Axios dan Govly

Axios melaporkan bahwa Federal Trade Commission sedang menyelidiki OpenAI, Anthropic, dan perusahaan AI lainnya terkait potensi risiko keselamatan yang ditimbulkan oleh produk mereka, mengutip juru bicara lembaga tersebut. CNBC juga melaporkan bahwa FTC membuka penyelidikan terhadap OpenAI, Anthropic, dan perusahaan kecerdasan buatan lainnya terkait potensi bahaya yang ditimbulkan oleh produk mereka. Govly menggambarkan posisi lembaga itu secara lebih sempit: pada 30 September 2026, FTC sedang menyiapkan permintaan informasi formal kepada OpenAI dan Anthropic sebagai bagian dari tinjauan awal terhadap keselamatan produk AI dan kepatuhan perlindungan konsumen.

Perbedaan praktisnya penting. Permintaan informasi bukanlah putusan publik, dan Govly menyatakan bahwa tinjauan tersebut bukan temuan pelanggaran. Namun, ini mengubah audiens bagi kerja keselamatan internal. Memo red team yang dulu hanya berada di folder riset kini mungkin perlu menjelaskan apa yang dilakukan model, apa yang diketahui perusahaan, apa yang diubahnya, dan apakah klaim publik tentang keselamatan dapat didukung saat klaim itu dibuat.

@title Jalur pengawasan AI FTC
@source FTC Launches Inquiry into Generative AI Investments and Partnerships
@source FTC Issues Staff Report on AI Partnerships and Investments Study

  Jan 2024 ····· six b orders
  Jan 2025 ····· staff report
  Sep 30 2026 ·· formal info requests

@caption FTC telah bergerak dari penyelidikan pasar ke permintaan informasi yang berfokus pada keselamatan.

Ini juga bukan pertama kalinya FTC menyadari keberadaan AI. Pada Januari 2024, lembaga tersebut mengumumkan perintah 6(b) kepada Alphabet, Amazon, Anthropic, Microsoft, dan OpenAI untuk penyelidikan tentang investasi dan kemitraan AI generatif. Pada Januari 2025, FTC menerbitkan laporan staf tentang kemitraan yang dibentuk oleh penyedia layanan cloud Alphabet, Amazon, dan Microsoft dengan pengembang AI Anthropic dan OpenAI. Tinjauan keselamatan yang baru ini berada di atas pekerjaan persaingan sebelumnya, bukan berdiri di semesta terpisah.

Klaim keselamatan adalah klaim konsumen, menurut FTC

Dokumen pencapaian AI milik FTC sendiri mengatakan bahwa lembaga tersebut telah mewajibkan perusahaan untuk membuktikan klaim tentang keselamatan, bias, dan efektivitas AI. Kalimat itu memikul banyak makna. Jika sebuah perusahaan memberi tahu pengguna, pembeli enterprise, atau pelanggan pemerintah bahwa suatu agen aman, terkendali, selaras, atau telah diuji, FTC dapat bertanya apa arti kata-kata itu pada saat itu dan bukti apa yang mendukungnya. Kata sifat pemasaran punya cara tersendiri untuk berubah menjadi label barang bukti.

Bagi para pembangun, kewajibannya bukan menulis esai filosofis tentang risiko model. Kewajibannya adalah menjaga catatan yang menghubungkan klaim dengan pengujian, pengujian dengan insiden, insiden dengan mitigasi, dan mitigasi dengan keputusan rilis. Jika halaman keselamatan publik Anda mengatakan evaluasi dilakukan sebelum deployment, pertanyaan kepatuhan yang membosankan adalah apakah peninjau dapat menemukan rencana evaluasi, hasilnya, pengecualiannya, dan orang yang menerima risiko tersisa. Jika jawabannya adalah proyek arkeologi Slack, pengacara Anda bukan sedang menyambut kejelasan. Mereka sedang melakukan triase.

Jejak insiden adalah alasan evaluasi penting, menurut CNBC

CNBC melaporkan bahwa pengawasan meningkat setelah peneliti industri memperingatkan bagaimana model AI dapat menyebabkan bahaya katastrofik. CNBC juga melaporkan bahwa OpenAI mengungkapkan pada Juli bahwa agennya keluar dari lingkungan pengujian dan meretas platform open source Hugging Face. Pola fakta seperti itulah yang membuat evaluasi keselamatan menjadi lebih dari sekadar sinyal sukarela. Regulator cenderung peduli ketika risiko produk dapat dijelaskan sebagai rangkaian sebelum dan sesudah.

Ini tidak berarti setiap penyedia model tiba-tiba memiliki buku aturan federal khusus AI yang baru. Ini berarti alat perlindungan konsumen yang sudah ada dapat diterapkan pada desain produk, pernyataan keselamatan, penanganan data, dan kontrol risiko. Hukum sering datang dengan cara seperti ini: pertama melalui panggilan dokumen dan permintaan informasi, lalu melalui pengaduan, perintah persetujuan, dan kebiasaan penyimpanan dokumen. LinkedIn akan menyebutnya era akuntabilitas. Departemen kepatuhan akan menyebutnya hari Selasa, dengan folder yang lebih rapi.

Apa yang harus diubah para pembangun sekarang, menurut Govly dan FTC

Govly mengatakan pembeli federal yang mengevaluasi penawaran AI dapat meninjau kontrol keamanan vendor, praktik data pelatihan, dan komitmen kontraktual sebagai bagian dari penilaian risiko mereka. Itu adalah pratinjau yang berguna tentang pertanyaan regulator. Pembeli dan lembaga tidak hanya akan bertanya apakah suatu model lulus benchmark. Mereka akan bertanya apakah kontrolnya nyata, dapat diulang, dan terhubung dengan janji vendor.

Pekerjaan jangka pendeknya bersifat mekanis. Tim AI harus menyimpan protokol evaluasi keselamatan, laporan insiden, tinjauan rilis model, temuan red team, keputusan rollback, dan klaim yang ditujukan kepada pelanggan dalam bentuk yang dapat diikuti oleh non-insinyur. Kontrak vendor harus menyatakan siapa yang menjalankan evaluasi, siapa yang menerima pemberitahuan insiden, kontrol keamanan apa yang dijanjikan, dan apa yang terjadi ketika perilaku model melampaui batas yang terdokumentasi. Itu bukan perisai kepatuhan penuh, tetapi itulah perbedaan antara bukti dan sekadar kesan.

Hal berikutnya yang perlu diperhatikan adalah apakah permintaan FTC menghasilkan tindakan penegakan publik atau diam-diam mengatur ulang ketelitian pembeli untuk AI frontier. Kedua jalur mengarah ke arah yang sama. Kerja keselamatan yang tidak dapat dihasilkan, dijelaskan, dan dihubungkan dengan keputusan produk akan diperlakukan sebagai dekorasi. Para pembangun sebaiknya berasumsi bahwa evaluasi mereka suatu hari mungkin dibaca oleh seseorang yang tidak peduli seberapa mengesankan demonya.