AI Mostik Tingkat Bobot: Model Bertemu Tanpa Kata-kata
Poin utama
- Perlakukan kolaborasi tingkat bobot sebagai ide interoperabilitas yang serius, bukan sekadar hiasan fiksi ilmiah.
- Tanyakan apakah biaya koordinasi terjadi selama inferensi atau lebih awal dalam fase penggabungan atau pencarian.
- Tuntut demo yang dapat direproduksi sebelum mengganti orkestrasi prompt dengan jembatan berbasis bobot.
Laporan WIRED menunjukkan jalur yang lebih asing untuk kolaborasi model, yaitu ketika prompt bukan satu-satunya bentuk jabat tangan.
Laporan WIRED menunjukkan jalur yang lebih aneh untuk kolaborasi model, yaitu ketika prompt bukan satu-satunya bentuk jabat tangan.
Model-model kalian semua terjebak dalam obrolan grup, dan Mostik ingin menyita ponselnya. Will Knight dari WIRED melaporkan bahwa startup yang namanya berarti “jembatan” dalam bahasa Rusia ini sedang mengerjakan cara agar model AI dapat berinteraksi melalui nilai matematis dalam bobot mereka, bukan melalui kata-kata. Ini bisa jadi telepati mesin, atau hanya aljabar linear yang memakai jubah beludru kecil. Yang menyebalkan bagi para skeptis hype, premis teknisnya tidak konyol. Bagian yang terasa berlawanan dengan intuisi sebenarnya sederhana: bahasa mungkin merupakan antarmuka yang nyaman bagi manusia, tetapi bagi model, bahasa adalah lorong yang sempit. Orkestrasi berbasis prompt meminta satu model memampatkan kekacauan internal berdimensi tinggi menjadi teks, lalu meminta model lain mengembangkan teks itu kembali menjadi sesuatu yang berguna. Itu bisa berhasil, sama seperti kamu bisa memindahkan sofa lewat jendela kamar mandi jika semua orang berkomitmen dan tidak ada yang bertanya soal cat.
Jembatan WIRED Berurusan dengan Bobot, Bukan Obrolan
Menurut WIRED, pendekatan Mostik memungkinkan berbagai model berinteraksi menggunakan nilai matematis yang ditemukan dalam bobot mereka, yaitu nilai-nilai yang membentuk bagaimana sebuah prompt menjadi keluaran. WIRED juga melaporkan bahwa Mostik menggunakan pendekatan ini untuk membangun model yang mencapai posisi teratas di ARC-AGI 3, sambil menolak membagikan detail lebih lanjut karena ingin memenangkan kontes tersebut. Untuk demonstrasi, WIRED mengatakan perusahaan itu membangun sebuah jembatan yang melibatkan versi terbesar GLM-5.2, yang memiliki 753 miliar parameter.
Itu penting karena tumpukan multi-model yang biasa memperlakukan teks sebagai lingua franca, yang ramah untuk dasbor tetapi tidak ramah terhadap nuansa. Pitch Mostik lebih mirip memberi model lapisan adaptor pribadi, tempat serah terima terjadi dalam matematika asli model. Jika prompt adalah kartu pos, bobot adalah sistem pipa: kurang memesona, tetapi lebih mungkin menentukan apakah rumah akan kebanjiran.
Pengingat RAND: Bobot Adalah Hal yang Berharga
Laporan RAND tentang pengamanan bobot model AI mendefinisikan bobot sebagai parameter yang dapat dipelajari yang mengodekan kecerdasan inti sebuah model AI. Kerangka ini berguna di sini karena Mostik tidak sekadar mengusulkan format pesan baru. Ia menunjuk ke bagian model yang sudah diperlakukan laboratorium sebagai sesuatu yang cukup penting secara strategis untuk dilindungi dari pencurian dan penyalahgunaan.
Ini juga sebabnya para pembangun perlu memisahkan ide cerdas dari pusing operasionalnya. Jika kolaborasi terjadi melalui bobot atau representasi yang berdekatan dengan bobot, maka interoperabilitas, kontrol akses, asal-usul data, dan risiko kebocoran menjadi masalah desain utama. Saya akan menyerahkan pemodelan ancaman yang lebih gelap kepada Sam, karena saya suka bisa tidur, tetapi pelajaran rekayasanya jelas: jembatan yang lebih baik tetap membutuhkan pagar pengaman, log, dan seseorang yang bertanggung jawab atas baut-bautnya.
MoCo Menunjukkan Mengapa Kolaborasi Masih Berantakan
Makalah MOCO, berjudul A One-Stop Shop for Model Collaboration Research, mempelajari kolaborasi model dan mencakup analisis leave-one-out tentang sensitivitas debat multiagen terhadap perubahan kecil dalam komposisi model. Terjemahannya: mengganti satu peserta dalam dewan model dapat mengubah hasilnya, karena tampaknya bahkan jaringan saraf pun membawa energi proyek kelompok yang aneh.
Itu menjadi latar yang berguna untuk Mostik, karena kualitas kolaborasi bukan hanya soal menghubungkan model, tetapi soal bagaimana kemampuan mereka berpadu di bawah tekanan. Analisis MoCo terpisah dari arXivIQ memberikan kontras paling jelas bagi para pembangun: metode tingkat teks umumnya menimbulkan biaya saat digunakan, sementara metode tingkat bobot memindahkan biaya ke awal, ke fase pencarian koefisien penggabungan, dan dapat memiliki kolaborasi tanpa overhead pada waktu inferensi. Itu tidak membuktikan sistem Mostik bekerja secara luas, tetapi menjelaskan mengapa idenya menarik. Jika kamu dapat membayar pajak koordinasi sebelum melayani permintaan, jalur inferensimu menjadi tidak terlalu padat, yang dalam dunia sistem terdistribusi mungkin adalah hal paling mirip dengan hari spa.
Hal yang Perlu Diperhatikan Pembangun Selanjutnya
Laporan WIRED meninggalkan publik dengan klaim yang menarik dan cerita implementasi yang sengaja belum lengkap, terutama seputar sistem ARC-AGI 3 yang tidak diungkapkan Mostik. Respons yang tepat bukan tepuk tangan atau penolakan, melainkan pengukuran. Para pembangun perlu mencari demo yang dapat direproduksi, perbandingan dengan orkestrasi prompt, bukti lintas keluarga model, dan kejelasan tentang akses seperti apa ke bobot yang diperlukan.
Jika Mostik benar, lapisan kolaborasi model berikutnya yang menarik mungkin tidak akan terlihat seperti agen-agen yang saling bertukar paragraf dengan sopan. Bentuknya mungkin lebih seperti adaptor, penggabungan, kanal laten, dan pipeline inferensi yang memperlakukan bahasa hanya sebagai salah satu format keluaran, bukan seluruh layanan pos. Bagian yang aneh bukanlah bahwa model mungkin berhenti berbicara seperti kita, melainkan bahwa sejak awal kita membuat mereka menggunakan bahasa seperti email kantor.
