Keamanan AI sumber terbuka: cek realita rantai pasok

Model termurah dalam stack Anda mungkin bukan bagian yang paling berisiko. Bagian yang berisiko adalah tumpukan menarik berisi package, weight, agent, plugin, dan permission yang Anda undang masuk ke produksi hanya karena demonya berhasil dan semua orang bertepuk tangan. AI open-source bukan penjahatnya di sini. Penjahatnya adalah antusiasme tanpa inventaris, yang pada dasarnya seperti mengadopsi naga lalu melabelinya sebagai anjing. Model dan tool terbuka memberi builder daya ungkit nyata: portabilitas, inspeksi, kustomisasi, dan ketergantungan yang lebih kecil pada suasana hati pricing satu vendor. Namun pelajaran operasionalnya tegas. Jika stack AI Anda terbuka, proses keamanan Anda juga perlu terbuka matanya, dengan pemeriksaan provenance, pemantauan dependency, dan threat modeling sebelum sistem itu mulai memanggil API seperti intern berkafein dengan akses root.

Risikonya pindah ke build system

Recorded Future’s Emerging Enterprise Security Risks of AI mengatakan adopsi agentic AI sedang meningkat cepat seiring software enterprise menambahkan agent khusus tugas yang dapat menjalankan pekerjaan kompleks dengan kecepatan mesin. Laporan yang sama memperingatkan bahwa otonomi dan skala agent dapat membuat error, miskonfigurasi, atau manipulasi berbahaya menyebar cepat ke seluruh sistem yang saling terhubung. Laporan itu juga mengatakan agentic AI dapat memperburuk kelemahan supply-chain software yang sudah ada karena komponen open-source yang rentan atau berbahaya dapat diterapkan lebih cepat dan dalam skala besar. Terjemahannya: dependency graph itu tidak berubah menjadi terkutuk. Ia mendapatkan skuter.

Respons builder bukanlah melarang open source dan mundur ke bunker panik proprietary. Responsnya adalah memperlakukan komponen AI seperti dependency produksi, karena memang itulah mereka, hanya dengan lebih banyak distribusi probabilitas dan lebih sedikit pesan error yang membantu. Tim harus tahu model weight mana yang mereka gunakan, dari mana asalnya, lisensi apa yang berlaku, package apa yang membungkusnya, dan permission apa yang diterima agent mana pun. Jika itu terdengar membosankan, selamat, Anda telah menemukan security engineering.

Black Duck mengatakan governance telah memasuki era AI

Black Duck’s 2026 OSSRA Report, yang diterbitkan pada Maret 2026, membingkai isu ini sebagai software governance di era AI. Laporan tersebut mengatakan ledakan pengembangan berbantuan AI telah mengubah lanskap risiko open source dan mengubah baseline untuk compliance terhadap inisiatif regulasi termasuk EU Cyber Resilience Act dan Digital Operational Resilience Act. Black Duck juga mengatakan analisis OSSRA-nya didasarkan pada temuan anonim dari codebase komersial yang diaudit oleh tim Audit Services mereka, yang membuat ini kurang seperti memo berbasis feeling dan lebih seperti cermin yang tidak diminta siapa pun.

Bagi builder AI, itu berarti pemantauan dependency tidak boleh berhenti di layer aplikasi. Kode model-serving, orchestration framework, tool evaluasi, data connector, notebook, dan kode yang dihasilkan semuanya harus masuk ke inventaris. Kebenaran yang canggung adalah bahwa pengembangan berbantuan AI dapat membuat tim menghasilkan lebih banyak kode sebelum mereka menghasilkan lebih banyak proses. Begitulah Anda berakhir dengan prototipe indah yang disatukan oleh package terbengkalai, weight misterius, dan satu shell script bernama final_final_really_final.sh.

Provenance bukan paperwork, melainkan konteks runtime

International AI Safety Report’s First Key Update mengatakan teknik pelatihan yang lebih baru, yang memungkinkan sistem AI menggunakan lebih banyak daya komputasi, telah membantu sistem memecahkan masalah yang lebih kompleks dalam matematika, coding, dan disiplin ilmiah. Laporan itu juga mengatakan peningkatan kemampuan tersebut memiliki implikasi terhadap risiko termasuk serangan siber, sekaligus menciptakan tantangan pemantauan dan pengendalian baru. Dengan kata lain, model menjadi lebih baik dalam tugas-tugas persis yang digunakan developer untuk membangun sistem, yang menyenangkan sampai guardrail Anda hanyalah sticky note bertuliskan bersikaplah normal.

The Global Center on AI Governance, dalam riset yang diterbitkan 21 Feb 2025, memperingatkan bahwa model open-source yang sangat kapabel dapat dialihgunakan oleh pelaku berbahaya untuk melanggengkan kejahatan, menyebabkan kerugian, atau melemahkan proses demokratis. Builder tidak perlu menyelesaikan kebijakan global sebelum merilis produk yang berguna, tetapi mereka memang perlu disiplin provenance dasar. Catat sumber model, versi, lisensi, hash, catatan keselamatan, lineage fine-tuning jika tersedia, dan pemilik deployment. Jika Anda tidak dapat menjawab dari mana sebuah model berasal, Anda tidak punya strategi AI. Anda punya angkat bahu yang sangat mahal.

Debat kebijakan sedang menjadi realitas produk

R Street Institute’s Mapping the Open-Source AI Debate, yang diterbitkan 17 April 2025, memperlakukan AI open-source sebagai pertanyaan cybersecurity dan kebijakan, bukan sekadar pertarungan teologi terbuka versus tertutup. Itu juga kerangka yang tepat bagi builder. Pertanyaan praktisnya bukan apakah AI open-source aman secara abstrak, karena software abstrak tidak pernah membangunkan siapa pun pada pukul tiga pagi. Pertanyaannya adalah apa yang dapat dilakukan sistem Anda, apa yang dapat diaksesnya, dan seberapa cepat komponen buruk atau instruksi buruk dapat menyebar.

Jadi lakukan threat model pada workflow, bukan hanya model card. Tanyakan apa yang terjadi jika sebuah package berbahaya, jika agent diprompt untuk mengambil tindakan tidak aman, jika artefak model ditukar, jika dependency menjadi usang, atau jika credential lebih luas daripada yang dibutuhkan tugas. Tempatkan checkpoint manusia di mana tindakan melintasi batas kepercayaan, terutama untuk agent yang menyentuh data, infrastruktur, pembayaran, komunikasi pelanggan, atau sistem internal.

AI open-source tetap menjadi salah satu cara terbaik untuk membangun sistem yang berguna tanpa menunggu roadmap vendor turun dari awan, tetapi diskonnya hanya berhasil jika Anda tidak membiayainya dengan incident response. Bagi pembaca yang membangun dengan model terbuka, langkah berikutnya praktis: inventarisasi stack, pantau dependency secara berkelanjutan, verifikasi provenance model, dan jalankan threat modeling sebelum agent mendapat kunci kerajaan. Open source memberi Anda kotak suku cadang. Security menentukan apakah Anda sedang membangun mobil balap atau meriam confetti yang diarahkan ke prod.