Dalam artikel ini (4)
Pendanaan $65 Juta Ollama: Analisis Bisnis Platform AI Lokal
Poin utama
- Perlakukan tooling AI lokal sebagai infrastruktur platform, bukan sekadar alur kerja untuk bereksperimen.
- Perhatikan model penetapan harga dengan cermat, karena penagihan waktu GPU mengubah cara pengembang memperkirakan biaya AI.
- Adopsi pengembang dapat menjadi distribusi ketika hambatan penyiapan menghilang.
Hampir 9 juta pengembang menunjukkan bahwa alur kerja model lokal dengan satu perintah sedang berkembang menjadi platform pengembang yang didukung cloud.
Satu perintah terminal baru saja melenggang masuk ke Series B senilai $65 juta dengan hoodie dan, entah bagaimana, cap table. Menurut TNW, Ollama menggalang putaran pendanaan itu saat runner model terbukanya mencapai hampir 9 juta pengembang, yang kira-kira merupakan titik ketika AI lokal berhenti terlihat seperti proyek synth di ruang bawah tanah dan mulai terlihat seperti infrastruktur. Daya tariknya hampir sangat sederhana: unduh model open weight, jalankan secara lokal, dan hindari mengubah setiap eksperimen menjadi ritual pengadaan. Bagi para builder, kabar ini bukan terutama soal confetti modal ventura, melainkan soal alur kerja yang menjadi bisnis platform tanpa lebih dulu menuntut semua orang menyembah di altar harga per token.
Apa yang terjadi, dan mengapa builder peduli TNW melaporkan bahwa Ollama
menggalang Series B senilai $65 juta yang dipimpin oleh Theory Ventures, dengan Benchmark, 8VC, Y Combinator, dan lainnya ikut bergabung. Laporan yang sama mengatakan putaran ini membawa total pendanaan menjadi $88 juta, tiga tahun setelah peluncuran. Itu jumlah uang yang berarti untuk sebuah alat yang paling dikenal karena membuat penyiapan model open weight terasa seperti memasang dependency pengembang biasa, bukan memanggil iblis GPU dengan pentagram YAML. TNW juga menjelaskan jembatan produk yang membuat ini lebih dari sekadar utilitas desktop: pengembang dapat menjalankan model secara lokal dengan satu perintah, dan jika laptop tidak mampu menangani model yang lebih besar, cloud Ollama menjalankannya dengan pengaturan yang sama. Menurut TNW, cloud ditagih berdasarkan waktu GPU, bukan per token, yang menyelaraskan tagihan dengan penggunaan komputasi alih-alih membuat setiap prompt terasa seperti memberi makan meteran parkir yang belajar puisi.
Pola lokal dulu, cloud kemudian adalah langkah platform yang tersembunyi di depan mata. Pola ini memungkinkan pengembang menjaga eksperimen cepat tetap dekat dengan mesin mereka, lalu menaikkan beban kerja yang lebih besar tanpa mengganti model berpikir. Dalam tooling pengembang, itu penting karena memori otot adalah distribusi. Tanyakan saja pada Docker, atau insinyur mana pun yang pernah mengetik perintah yang tidak lagi mereka pahami tetapi sangat mereka percayai.
Adopsi melakukan bagian yang bising secara diam-diam Hyper.ai melaporkan bahwa
Ollama memiliki 8,9 juta pengembang aktif bulanan, 176.000 bintang GitHub, 17.000 fork, dan penggunaan di 85 persen perusahaan Fortune 500. Angka-angka itu tidak membuktikan bahwa setiap perusahaan menjalankan beban kerja mission-critical melalui Ollama, karena bintang GitHub bukanlah purchase order yang ditandatangani dan saya secara hukum diwajibkan oleh SRE batin saya untuk mengatakan itu. Namun angka-angka tersebut menunjukkan pengenalan luas di kalangan pengembang, dan pengenalan sering kali menjadi cara infrastruktur menyelinap masuk ke perusahaan dengan memakai sepatu sneakers. Hyper.ai juga melaporkan bahwa Ollama beroperasi dengan tim berisi 14 karyawan. Itu membuat profil adopsinya sangat menarik, karena perusahaan ini tampaknya tumbuh dengan menghaluskan alur kerja yang menyakitkan, bukan dengan menciptakan nama kategori baru di stan konferensi. Pelajaran inti bagi builder bersifat tahan lama dan dengan menyenangkan tidak seksi: kurangi friksi penyiapan, temui pengembang di tempat mereka sudah bekerja, dan biarkan distribusi berlipat ganda sebelum monetisasi mencoba memakai mahkota.
Memori otot Docker bukan kebetulan Kisah pendirinya relevan di sini,
bukan sekadar bahan scrapbook startup. TNW melaporkan bahwa Jeff Morgan dan co-founder Michael Chiang membangun Kitematic, yang dibeli Docker pada 2015, dan bahwa pekerjaan mereka menjadi Docker Desktop. Hyper.ai juga mengidentifikasi Morgan dan Chiang sebagai veteran Docker dan Kitematic, serta mengatakan Ollama diluncurkan pada 2023 untuk menyederhanakan deployment model bahasa besar open weight di komputer pribadi. Latar belakang itu membantu menjelaskan bentuk produknya. Ollama tidak mencoba membuat pengembang peduli pada setiap detail konfigurasi hardware sebelum mereka bisa menguji model. Hyper.ai mengatakan platform ini mengabstraksikan konfigurasi hardware kompleks yang biasanya diperlukan untuk inferensi AI lokal. Dalam bahasa sederhana, ini mengubah tumpukan driver, file model, dan batasan mesin menjadi sesuatu yang lebih dekat dengan pengalaman pengembang normal, yang mungkin kalah glamor dibanding grafik benchmark tetapi jauh lebih mungkin digunakan pada hari Selasa.
Model bisnis adalah ujian sebenarnya Hyper.ai melaporkan bahwa aplikasi desktop
inti Ollama tetap gratis dan tidak berubah, sementara perusahaan telah berekspansi ke layanan cloud berbasis langganan untuk model yang lebih besar dan lebih intensif secara komputasi. Hyper.ai mengatakan layanan cloud ditagih berdasarkan utilisasi GPU, bukan jumlah token, dengan tingkatan mulai dari gratis hingga $100 per bulan. Itu memberi Ollama jalur yang lebih bersih dibanding banyak alat yang berdekatan dengan open source: pertahankan alur kerja lokal cukup gratis agar menyebar, lalu tarik biaya ketika beban kerja membutuhkan komputasi hosted. Pertanyaannya sekarang adalah apakah Ollama dapat mempertahankan kepercayaan pengembang yang membawanya sampai ke sini sambil membangun bisnis cloud di pinggirannya. Builder perlu memperhatikan apakah pengalaman lokal tetap cepat, membosankan, dan dapat diandalkan, karena membosankan adalah pujian tertinggi yang bisa diterima infrastruktur. Jika Ollama berhasil melakukan itu, tooling AI open source lokal akan terlihat kurang seperti side quest para hobiis dan lebih seperti lapisan tahan lama berikutnya dalam stack pengembang AI. Prompt terminal, sayangnya bagi PowerPoint, tetap tak terkalahkan.
