Analisis Inkling: 975B, Multimodal, Bukan yang Terbaik dalam Benchmark

Jumlah parameter kembali jadi topik utama, yang berarti industri AI sekali lagi menilai restoran dengan menghitung jumlah kompornya. Reuters, yang dimuat oleh WMBD, melaporkan bahwa Thinking Machines Lab telah memperkenalkan Inkling, rilis model serbaguna pertamanya dari startup San Francisco yang didirikan oleh mantan CTO OpenAI Mira Murati. Angka utamanya sangat besar, tetapi cerita yang lebih berguna justru lebih kecil dan lebih praktis: bobot terbuka, input multimodal, dan sebuah perusahaan yang secara terbuka memosisikan modelnya di sekitar kustomisasi, bukan meriam konfeti berisi dominasi benchmark.

Apa yang terjadi, menurut MarkTechPost dan Databricks

MarkTechPost menggambarkan Inkling sebagai model mixture of experts multimodal berbobot terbuka dengan 975 miliar parameter, 41 miliar parameter aktif, dan upaya berpikir yang dapat dikendalikan. Mixture of Experts terdengar seperti firma konsultan yang menagih berdasarkan jumlah shot espresso, tetapi ide intinya sederhana: modelnya bisa sangat besar sambil hanya mengaktifkan sebagian dari dirinya untuk komputasi tertentu. AlphaSignal melaporkan bahwa Inkling bernalar atas teks, gambar, dan audio, sementara Databricks mengatakan model ini tersedia melalui Unity AI Gateway untuk membangun agen dan aplikasi di atas data perusahaan. Databricks juga mengatakan tim dapat mengelola Inkling dengan keamanan terpusat, izin, kontrol biaya, dan observabilitas, serta menghubungkannya ke agen pemrograman seperti Cursor dan OpenCode. Detail distribusi itu penting karena rilis bobot terbuka tidak memenangkan adopsi hanya dengan hadir secara mulia di halaman unduhan, seperti kayak di garasi. Mereka membutuhkan jalur inferensi, kait tata kelola, dan pipa perusahaan yang membosankan, tempat banyak model yang secara teknis bagus akhirnya berkenalan dengan urusan dokumen. Kehadiran Inkling di dalam platform pengembang dan perusahaan yang sudah ada adalah bagian yang perlu dilingkari para builder dengan pena merah.

Catatan tentang benchmark, menurut VentureBeat

VentureBeat melaporkan bahwa Inkling memiliki performa tinggi, tetapi masih di bawah yang paling mutakhir, untuk model berbobot terbuka pada benchmark pihak ketiga. Pada SWE-bench Verified, VentureBeat mengatakan Inkling mencetak skor 77,6 persen, di atas Nvidia Nemotron 3 yang mendapat 71,9 persen. Laporan yang sama mengatakan Inkling mencapai 91,4 persen pada VoiceBench. Itu mengesankan, tetapi ini bukan ritual peluncuran model yang biasa, ketika seseorang mengibas-ngibaskan diagram batang seolah-olah di dalamnya tersimpan rahasia peradaban. Ini bagian yang sehat. Sebuah model bisa bernilai tanpa harus menjadi gedung pencakar langit benchmark paling tinggi di cakrawala yang sangat berkabut. Jika Anda membangun agen pemrograman, alur kerja suara, atau alat internal multimodal, keputusannya bukan sekadar model mana yang menang di satu tabel publik. Pertanyaannya adalah apakah model itu bisa diadaptasi, dikelola, diterapkan dekat data privat, dan dibuat cukup murah sehingga bagian keuangan tidak diam-diam mengganti anggaran GPU Anda dengan lilin aromaterapi.

Mengapa bobot terbuka menjadi strateginya, menurut Reuters via WMBD Reuters,

yang dimuat oleh WMBD, menjelaskan bahwa bobot terbuka berarti pengguna dapat mengunduh, menjalankan, dan menyesuaikan sistem dasarnya, tidak seperti model proprietary closed-source. Laporan Reuters yang sama mengatakan Inkling tersedia di Tinker dan platform pengembang lainnya, serta mencatat bahwa Thinking Machines meluncurkan Tinker, produk untuk menyesuaikan model AI, pada Oktober lalu. Urutan itu membuat Inkling terlihat bukan seperti rilis model sekali jadi, melainkan seperti potongan puzzle yang hilang untuk sebuah stack kustomisasi. Pertama berikan tooling kepada builder, lalu berikan mereka model besar yang layak di-tuning, yang secara mencurigakan mirip dengan sebuah rencana. Reuters juga membingkai Inkling sebagai salah satu dari sedikit alternatif untuk penawaran open-source populer dari lab AI Tiongkok, sambil mencatat bahwa ekosistem open-source Barat tertinggal setelah Meta mengubah arah menuju pendekatan proprietary. VentureBeat menambahkan sudut pandang perusahaan lain, melaporkan adanya minat pada model berbobot terbuka yang dapat disesuaikan, dikendalikan, dan dijalankan organisasi secara on-premises atau di virtual private cloud. Terjemahannya: sebagian pembeli menginginkan model yang kuat, tetapi mereka juga menginginkan hak untuk memeriksa mesinnya sebelum mengundangnya masuk ke brankas. Sangat tidak sopan ya, mereka peduli pada kontrol data.

Hal yang perlu diperhatikan selanjutnya, menurut AlphaSignal dan VentureBeat

AlphaSignal melaporkan bahwa Inkling dilatih dari nol dengan bobot penuh tersedia untuk publik dan dilatih untuk menunjukkan perilaku aman di berbagai modalitas. VentureBeat melaporkan bahwa Thinking Machines merancang Inkling untuk menjawab secara langsung topik-topik yang mungkin terkena sensor, yang akan membuat evaluasi lebih rumit daripada sekadar tangkapan layar leaderboard. Perilaku aman, keterbukaan, dan jawaban langsung bukan hanya kata sifat pemasaran; semuanya adalah batasan deployment dengan konsekuensi hukum, kebijakan, dan produk. Jika aplikasi Anda menyentuh data perusahaan, alur kerja teregulasi, atau input buatan pengguna, batasan-batasan itulah tempat kenyataan bertemu log audit. Bagi para builder, pertanyaan berikutnya bukan apakah Inkling mempermalukan setiap model tertutup dalam pertarungan kandang benchmark. Perhatikan seberapa baik model ini di-fine-tune, berapa biaya penyajiannya, seberapa andal perilaku multimodalnya, dan apakah integrasi platform membuat kustomisasi terasa seperti rekayasa, bukan arkeologi. Thinking Machines Lab telah membuat langkah pertama yang kredibel dengan memasangkan model berbobot terbuka raksasa dengan akses ekosistem. Mahkota benchmark boleh tetap berada di kotak kacanya; bagian yang menarik adalah apakah orang benar-benar membangun sesuatu dengan benda ini.