Dalam artikel ini (4)
Tata Kelola AI Membuat Pemakaian Token Model Frontier Jadi Perhitungan CIO
Poin utama
- Perlakukan pemilihan model sebagai arsitektur: sesuaikan ukuran model dengan risiko, kebutuhan data, kualitas, dan biaya inferensi.
- Bangun kontrol runtime sebelum menskalakan agen, karena penyebaran data yang tidak terkendali dapat mengubah AI yang berbasis data menjadi liabilitas.
- Perhatikan regulasi di luar Eropa, karena rencana tata kelola regional mulai menjadi bagian dari perencanaan AI perusahaan.
Para CIO memperlakukan pemilihan model sebagai arsitektur biaya dan fondasi kepatuhan, bukan sebagai ajang mencari API terbesar.
CIO memperlakukan pilihan model sebagai arsitektur biaya dan pengaturan kepatuhan, bukan sebagai kontes untuk menemukan API terbesar.
Refleks lama AI enterprise itu sederhana: jika ragu, kirim prompt ke model terbesar dan biarkan bagian keuangan menemukan pencerahan nanti. Era itu mulai terdesak oleh tekanan tata kelola, realitas alur kerja, dan fisika brutal dari tagihan token. Kerangka praktis Jon Reed tentang suasana enterprise berguna karena memperlakukan pembakaran token model frontier sebagai bau arsitektur, bukan kegagalan moral. API terbesar mulai terlihat bukan seperti strategi, melainkan seperti memesan truk pindahan untuk mengantar sandwich.
Model terbesar bukan pengaturan default Dalam Governing AI Beyond
the Pretraining Frontier, para penulis menulis bahwa yurisdiksi di seluruh dunia, termasuk Amerika Serikat, Uni Eropa, Inggris Raya, dan Tiongkok, bersiap untuk memberlakukan atau merevisi undang-undang yang mengatur AI frontier. Mereka berpendapat bahwa banyak upaya tata kelola bergantung pada asumsi bahwa peningkatan skala model melalui prapelatihan adalah jalur utama menuju kemampuan yang lebih kuat. Bagian yang canggung, menurut makalah yang sama, adalah bahwa semakin banyak bukti menunjukkan jalur penskalaan prapelatihan mungkin mulai menemui tembok, sementara perusahaan-perusahaan AI besar beralih ke penalaran pada waktu inferensi untuk meningkatkan kemampuan. Terjemahannya untuk tim enterprise: pengukur risiko tidak lagi hanya terpasang pada proses pelatihan raksasa di ruang bawah tanah bersama paduan suara GPU. Itu mengubah percakapan pemilihan model. Jika kemampuan dan biaya muncul saat inferensi, maka tata kelola harus peduli pada apa yang terjadi saat runtime, bukan hanya logo penyedia mana yang tercetak di faktur. Model frontier masih bisa menjadi alat yang tepat untuk pekerjaan yang sulit, ambigu, dan bernilai tinggi. Tetapi menggunakannya sebagai default untuk setiap tugas peringkasan, klasifikasi, dan asisten internal lebih mirip takhayul dengan kunci API daripada rekayasa.
Runtime adalah tempat tata kelola berhenti menjadi sandiwara Stephen Catanzano
dari TechTarget menggambarkan masalah data enterprise sebagai penyebaran tak terkendali di berbagai gudang data cloud, basis data on-premises, aplikasi SaaS, data lake, banyak cloud, dan tim dengan versi kebenaran yang saling bertentangan. Penyebaran itu menyebalkan ketika dashboard tidak sepakat. Ia menjadi risiko operasional ketika model dan agen didasarkan pada data tersebut, karena, seperti yang dikatakan TechTarget, setiap celah, duplikat, dan sudut yang tidak dikelola menjadi liabilitas. Model raksasa bisa membuat data yang berantakan terdengar meyakinkan, dan itulah persis masalahnya. Itu seperti rakun memakai tuksedo. TechTarget juga berpendapat bahwa agen otonom mendorong enterprise menuju tata kelola terpadu dan kontrol runtime untuk mengelola akses agen serta tindakan yang boleh dilakukan agen. Itulah bagian yang sering dilewati banyak pilot AI karena demo lebih suka kilau daripada pipa. Namun kontrol runtime adalah tempat enterprise memutuskan siapa bisa melihat apa, tindakan mana yang diizinkan, dan apakah alur kerja AI cukup dapat diaudit untuk bertahan saat berhadapan dengan bagian legal. Pertanyaan CIO menjadi bukan lagi model mana yang paling pintar, melainkan sistem mana yang bisa membuktikan apa yang telah dilakukannya.
Tekanan ini tidak hanya berasal dari Eropa AI in Asia melaporkan bahwa diskusi
tata kelola AI ASEAN bergerak melampaui titik acuan yang hanya berpusat pada Singapura, dengan tenggat April 2026 untuk ASEAN Strategic Action Plan di bawah keketuaan Filipina. Laporan yang sama mengutip proyeksi peningkatan PDB ASEAN sebesar 18 persen yang didorong AI pada 2030, senilai sekitar 1 triliun dolar. Angka-angka itu bukan alasan untuk panik, mohon kembalikan mesin kabut ke vendornya. Itu adalah pengingat bahwa tata kelola AI sedang menjadi konteks operasi regional, bukan misi sampingan kepatuhan yang diparkir di Brussel. Bagi enterprise multinasional, ini berarti menu model harus bisa dibawa lintas wilayah. Alur kerja yang terlihat murah dan menyenangkan di satu yurisdiksi mungkin memerlukan dokumentasi, kontrol data, atau batasan deployment yang berbeda di tempat lain. Di sinilah pembakaran token model frontier dan tekanan tata kelola bertemu: model yang mahal bukan hanya mahal. Model itu juga mungkin lebih sulit dibenarkan jika tugas, data, dan profil risikonya sejak awal tidak pernah membutuhkannya.
Yang harus diubah builder pada kuartal ini Langkah praktisnya bukan melarang
model frontier. Itu hanya akan mengganti kecanduan frontier dengan cosplay model kecil, dan tidak ada yang membutuhkan pesta kostum lain dengan akurasi lebih buruk. Sebaliknya, gunakan peringatan dari makalah arXiv tentang kemampuan pada waktu inferensi sebagai alasan untuk mengatur perilaku runtime, dan gunakan argumen tata kelola data dari TechTarget sebagai alasan untuk membereskan akses sebelum agen mulai berkeliaran di sistem enterprise seperti anak magang yang kebanyakan kafein. Mulailah dengan mengklasifikasikan beban kerja AI berdasarkan risiko tugas, paparan data, kebutuhan kualitas, dan sensitivitas biaya. Tempatkan model frontier di area tempat peningkatan kualitas marginal sepadan dengan biaya tata kelola dan inferensi marginal. Arahkan pekerjaan rutin ke opsi yang lebih murah atau lebih terbatas ketika opsi tersebut memenuhi standar, dan catat perilaku runtime secukupnya agar audit terasa membosankan. Audit yang membosankan itu diremehkan, seperti sabuk pengaman dan unit test. Fase berikutnya dari AI enterprise akan memberi penghargaan pada tim yang bisa menjelaskan mengapa sebuah model dipilih, data apa yang disentuhnya, dan kontrol apa yang membungkus alur kerjanya. Perhatikan alat tata kelola yang menghubungkan routing model, kontrol runtime, dan silsilah data, alih-alih memperlakukannya sebagai ritual kuil yang terpisah. Gaya baru bukanlah menggunakan model terbesar. Melainkan tahu kapan tidak perlu menggunakannya.
