Optik near-packaged Biren: analisis AI 1.000 kartu

Bayangkan seribu kartu akselerator di sebuah ruangan, masing-masing berusaha saling mengirim catatan tanpa mengubah rak menjadi oven spageti tembaga. Itulah masalah lapisan fisik yang tersembunyi di balik AI modern: komputasi hanya berguna jika kartu-kartu itu bisa terus saling memasok data. Tawaran baru Biren Technology bukan sekadar cerita chip yang lebih cepat; ini adalah cerita tentang kabel, pengemasan, dan topologi, dengan foton sebagai pengemudi pelarian. Penghargaan perlu diberikan pada tempatnya: bagian yang menarik bukan logo di akselerator, melainkan di mana serat optik boleh masuk ke lokasi kejadian.

Pembongkaran dimulai dari kabel

Menurut South China Morning Post, Biren Technology telah memperkenalkan solusi supernode baru yang menggunakan transmisi data optik untuk menghubungkan ribuan chip AI dalam satu klaster. Spesifikasi kunci yang terselip dalam deskripsi arsitekturnya adalah target skala: SCMP mengatakan perusahaan ini menggunakan optik dekat-kemasan untuk menskalakan lebih dari 1.000 kartu prosesor dalam satu klaster. Optik dekat-kemasan, seperti dijelaskan SCMP, membawa serat optik lebih dekat ke chip untuk meningkatkan kecepatan data dan melewati batas arsitektur tradisional. Itu bukan catatan kaki, itu adalah dinding penopang.

Diterjemahkan ke bahasa Inggris bebas jargon ruang rapat, Biren sedang mencoba memindahkan kemacetan lalu lintas dari jalur tembaga yang biasanya membuat klaster besar jadi rewel. Elektron adalah pekerja kecil yang hebat, tetapi pada tautan padat berkecepatan tinggi, mereka juga bertingkah seperti rakun berkafein di saluran ventilasi: panas, kehilangan sinyal, ekualisasi, dan drama integritas sinyal datang sebagai satu paket. Tautan optik tidak membuat fisika menghilang, tetapi mengubah fisika mana yang harus membayar tagihan. Saat Anda mencoba membuat sebuah klaster bertingkah seperti satu mesin, tagihan itu bisa menentukan apakah armada akselerator Anda menjadi paduan suara atau food court saat jam makan siang.

Apa yang dibeli oleh cahaya

EurekAlert, yang merangkum rilis Science China Press tentang supernode serba-optik, menjelaskan pergeseran yang lebih luas dengan jelas: sistem AI bergerak dari peningkatan kinerja chip tunggal menuju penskalaan multi-chip kolaboratif. Sumber yang sama mencatat bahwa jaringan scale-up sangat penting karena menyediakan interkoneksi berbandwidth tinggi dan berlatensi rendah di antara chip komputasi, sementara jaringan scale-up saat ini mendekati hambatan bandwidth. Itulah pelajaran untuk para perakit yang tersembunyi di dalam pengumuman Biren. Pertarungan berikutnya bukan hanya tentang siapa yang punya foto die paling cantik, tetapi tentang siapa yang bisa menjaga ribuan perangkat lapar tetap tersinkronisasi tanpa membuat fabric berubah menjadi molase.

Ini penting karena pelatihan dan inferensi AI pada skala klaster sangat sensitif terhadap waktu tunggu. Kartu prosesor yang macet menunggu data bukanlah silikon heroik, melainkan pemanas ruangan mahal yang punya ambisi. Transmisi optik yang dekat dengan package menarik karena interkoneksi menjadi bagian dari arsitektur komputasi, bukan tambahan belakangan yang dibaut ke rak. Begitu jalur data menjadi produknya, para insinyur pengemasan dan arsitek jaringan naik pangkat dari penyihir ruang bawah tanah menjadi tokoh utama.

Spesifikasi yang tak terucap adalah topologi

SCMP menggambarkan sistem server yang sangat terhubung sebagai medan pertempuran baru bagi perusahaan infrastruktur AI, seiring model berkembang menuju triliunan parameter dan aplikasi agen AI makin luas diadopsi. The Wire China secara terpisah menggambarkan Biren sebagai perusahaan yang menantang firma seperti Nvidia dalam chip canggih, sambil mencatat dorongan China yang lebih luas menuju kemandirian teknologi. Gabungkan keduanya, dan ceritanya bukan lagi tentang satu vendor akselerator, melainkan tentang kontes tingkat sistem mengenai berapa banyak chip yang bisa bekerja sama sebelum interkoneksi menyerah.

Di sinilah slide pemasaran biasanya menjadi mencurigakan berkabut, seperti kamera termal yang diarahkan ke VRM panas di bawah heatsink dekoratif. Mari kita bicarakan apa yang tidak mereka masukkan ke foto glamor itu. Spesifikasi yang ingin saya lihat berikutnya adalah topologi, link budget, latensi saat beban tinggi, daya konektor, kemudahan servis, dan apa yang terjadi ketika sebuah kartu gagal di tengah supernode. Supernode hanya mengesankan jika bisa dibangun, didinginkan, diperbaiki, dan dijadwalkan tanpa membutuhkan pendeta, forklift, dan tiga dongle diagnostik proprietary. Thermal throttling saja sudah terasa seperti pengkhianatan; runtuhnya fabric tingkat klaster adalah pengkhianatan dengan purchase order.

Apa yang perlu diperhatikan para perakit berikutnya

SCMP mengatakan Biren menggunakan arsitektur supernode terdistribusi dan terlepas, dan itu adalah frasa yang perlu Anda simpan. Terdistribusi berarti pekerjaan dibagi ke banyak perangkat, dan terlepas menunjukkan arsitektur ini mencoba melonggarkan ketergantungan lama antara komputasi dan tata letak interkoneksi. Jika Biren dapat membuat optik dekat-kemasan praktis pada skala ini, perbandingan yang menarik bukan satu chip melawan chip lain. Yang menarik adalah perilaku klaster melawan perilaku klaster: utilisasi, latensi, penanganan gangguan, daya, termal, dan seberapa banyak pekerjaan berguna yang bertahan di luar demo benchmark.

Bagi pembaca yang merencanakan infrastruktur AI, kesimpulannya sederhana: berhentilah memperlakukan akselerator sebagai seluruh mesin. Tanyakan kepada vendor bagaimana kartu-kartu itu berbicara, di mana konversi optik terjadi, bagaimana fabric diskalakan, dan apa yang harus diganti ketika satu tautan bertingkah buruk. Dorongan supernode berbasis cahaya dari Biren adalah pengingat berguna bahwa lapisan fisik bukan lagi pipa ledeng di latar belakang. Ia adalah terowongan perampokan, mobil pelarian, dan kadang-kadang pintu brankas.