Dalam artikel ini (3)
Analisis CEO Vercel: kemitraan AI dengan satu lab sudah ketinggalan zaman
Poin utama
- Rancang produk AI agar penyedia model dapat berubah tanpa menulis ulang alur kerja inti.
- Perlakukan pengendalian biaya dan kecocokan penyedia sebagai persyaratan produksi, bukan pembersihan setelah peluncuran.
- Gunakan evaluasi untuk membandingkan model pada tugas nyata sebelum menjadikan lab mana pun sebagai default.
Argumen Guillermo Rauch mengubah pemilihan model dari semacam ikatan loyalitas menjadi arsitektur produksi.
Argumen Guillermo Rauch mengubah pilihan model dari ikatan loyalitas menjadi arsitektur produksi.
Deck kemitraan AI dulu hanya punya ruang untuk satu logo. Sekarang, yang dibutuhkan adalah denah tempat duduk. CEO Vercel Guillermo Rauch mengatakan bahwa perusahaan-perusahaan mulai bergerak melampaui pilihan satu lab AI saja, menurut artikel AOL yang memuat laporan Business Insider. Bagi para builder, bagian yang menarik bukanlah gosip tentang lab mana yang diajak makan siang. Ini soal arsitektur: tim produk sedang belajar bahwa pilihan model seharusnya berada di bagian “pipa” sistem, bukan di pernyataan misi.
AOL: Loyalitas pada satu lab bertemu kenyataan produksi
Laporan Business Insider di AOL mengatakan bahwa Rauch berpendapat perusahaan tidak lagi mengandalkan satu lab AI untuk semua kebutuhan mereka. Laporan yang sama mengatakan perusahaan beralih ke lab yang berbeda untuk bagian berbeda dari stack AI mereka, sambil memikirkan cara membelanjakan anggaran AI dengan lebih efektif. Laporan itu juga menggambarkan pola tahun lalu sebagai masa ketika tim memilih satu mitra lab dan berencana membangun semuanya di atas OpenAI atau Anthropic. Itu tampak rapi di slide, dan slide yang rapi sudah mengkhianati lebih banyak roadmap daripada WiFi yang suka putus-putus.
Pelajaran praktisnya adalah bahwa prototipe dan produksi memberi imbalan pada perilaku yang berbeda. Saat membuat prototipe, satu vendor dapat membuat tim tetap bergerak dan menyelamatkan semua orang dari sup integrasi yang membingungkan. Dalam produksi, pertanyaannya menjadi apakah sebuah penyedia cocok untuk fungsi tertentu, profil biaya tertentu, dan ekspektasi keandalan tertentu. Mempertaruhkan semuanya pada satu lab mungkin terasa sederhana, tetapi kesederhanaan tidak sama dengan ketahanan, seperti yang diketahui siapa pun yang pernah melakukan deployment pada hari Jumat sambil berbisik pada dashboard.
Hyper AI: Stack AI modular menjadi nyata
Hyper AI melaporkan bahwa Rauch menggambarkan perusahaan-perusahaan mengadopsi strategi multi-model yang dibangun di sekitar stack AI modular. Dalam laporan itu, komponen mulai dari model dasar hingga gateway menjadi dapat dipertukarkan, dan itulah frasa arsitektur kunci yang tersembunyi di balik judul eksekutifnya.
Hyper AI mengatakan perusahaan dapat mengintegrasikan OpenAI, Anthropic, dan Gemini dari Google dalam satu workflow. Laporan itu juga mengatakan Rauch menunjuk pertumbuhan kuat pada model Gemini karena kinerja harga pada skala besar, bersamaan dengan adopsi alternatif termasuk DeepSeek dan GLM-5.2 dari Z.ai.
Itu bukan berarti setiap aplikasi harus menyebarkan request secara acak ke berbagai model seperti meriam konfeti yang memegang API key. Artinya, layer model sedang menjadi dependensi yang dapat diganti, lebih dekat ke infrastruktur daripada identitas.
Hyper AI juga melaporkan bahwa industri bergerak dari fokus tahun lalu pada pembuatan prototipe dan pembangunan agen menuju tantangan produksi dan efisiensi operasional. Di situlah kontrol biaya masuk, memakai sepatu yang masuk akal dan membawa spreadsheet yang tidak diinginkan siapa pun tetapi dibutuhkan semua orang.
Hyper AI menghubungkan pergeseran ini dengan koreksi yang lebih luas dalam pengeluaran AI, sambil mencatat bahwa belanja lebih besar tidak otomatis berubah menjadi nilai bagi pelanggan. Laporan itu mengatakan penekanan sebelumnya pada memaksimalkan penggunaan token mulai digantikan oleh kontrol biaya yang lebih ketat.
Rauch juga membuat paralel dengan komputasi cloud, ketika perusahaan bergerak dari ketergantungan pada satu vendor menuju arsitektur multi-cloud untuk mengurangi risiko dan biaya, menurut Hyper AI. Versi AI-nya tidak identik, tetapi peringatannya berima: jika stack Anda tidak bisa menukar komponen, strategi vendor Anda pada dasarnya adalah tato.
Axios: Stack multi-penyedia membutuhkan pengukuran yang lebih baik
Axios melaporkan bahwa metode yang ada untuk menguji dan mengevaluasi model AI frontier perlu ditulis ulang, terutama ketika model melampaui tes yang dirancang untuk mengukur kemampuan peretasan mereka. Media itu mengatakan bahwa tanpa tes baru, pembuat kebijakan dan tim keamanan perusahaan tidak akan memiliki cara yang jelas untuk memprediksi apa yang dapat dilakukan model atau apakah model itu dapat diterapkan dengan aman.
Saya akan menyerahkan opera ancaman lengkapnya kepada Sam, yang menangani bidang keamanan dan mungkin memiliki mug kopi yang lebih besar. Untuk kolom ini, pelajaran bagi builder lebih sempit: pilihan model baru berguna ketika pengukurannya ikut mengejar. Arsitektur multi-penyedia memberi tim pilihan, tetapi pilihan tanpa evaluasi hanyalah buffet tanpa label makanan.
Jika perusahaan akan mencampur penyedia dalam satu workflow, mereka perlu tahu model mana yang benar-benar lebih cocok untuk pekerjaan di depannya, bukan logo mana yang terlihat paling bagus dalam keynote. Argumen Rauch, seperti dilaporkan oleh AOL dan Hyper AI, bukan terlalu soal drama antar-lab, melainkan soal kematangan operasional.
Perhatikan bagaimana platform AI akan bersaing dalam routing, gateway yang dapat dipertukarkan, dan visibilitas biaya, karena stack yang menang mungkin adalah stack yang membuat pergantian model terasa membosankan. Dalam infrastruktur AI, membosankan bukanlah hinaan. Itu adalah hal yang terjadi tepat sebelum sesuatu benar-benar bekerja.
