Razor Lake-AX 700 TOPS: Analisis PC AI 3,88x

Tujuh ratus TOPS adalah jenis angka yang masuk ke panggung keynote sambil memakai kacamata hitam di dalam ruangan. Roadmap Razor Lake-AX dari Intel kini memilikinya, dan para penggemar AI PC sudah mulai membayangkan stiker-stikernya. Pertanyaan yang berguna bukan apakah 700 lebih besar dari 180, selamat untuk aritmetika, melainkan apakah angka itu berubah menjadi AI lokal yang benar-benar dapat digunakan oleh para builder yang mengirimkan produk nyata.

Di situlah ceritanya menjadi menarik. Spesifikasi AI PC mulai terasa seperti selfie di gym: sudut yang mengesankan, pencahayaan yang dipilih-pilih, dan tidak ada jaminan siapa pun benar-benar bisa mengangkat sofa. Razor Lake-AX memberi Intel klaim 2028 yang lantang, tetapi TOPS adalah tawaran pembuka, bukan janji bahwa agen lokalmu akan berhenti mengunyah riwayat prompt-nya sendiri.

Angka yang ingin Intel pasang di kotak

Menurut GameGPU, wakil presiden Intel Min-sung Cho mengungkap roadmap platform hardware yang diperbarui di konferensi industri Semiconductors Powering Humanoids, mengonfirmasi Razor Lake AX untuk rilis pada 2028. GameGPU melaporkan bahwa system on chip tersebut direncanakan memiliki 700 TOPS komputasi neural network gabungan, dibandingkan Panther Lake dengan 180 TOPS. Wccftech membingkai perbandingan yang sama sebagai 3,88 kali komputasi AI Panther Lake, jenis rasio yang disukai tim pengadaan dan langsung diinterogasi oleh engineer seolah-olah rasio itu berutang uang kepada mereka.

GameGPU mengatakan Intel memosisikan Razor Lake AX untuk komputasi lokal tanpa bergantung pada komputasi cloud jarak jauh. Laporan yang sama mengatakan chip ini ditujukan untuk sistem mobile otonom dan robotika, tempat informasi sensorik dan pengambilan keputusan cepat perlu terjadi secara real time. Itu penting karena ini bukan sekadar angka pamer untuk laptop, melainkan upaya Intel membuat perangkat klien terlihat tidak lagi seperti sedotan ke cloud, tetapi lebih seperti dapurnya sendiri.

TOPS adalah stiker, bukan sistem

Tanda peringatan paling berguna datang dari makalah arXiv Pre-Compiled Pipeline Shards for Distributed LLM Inference on Intel AI PC Fleets. Para penulis menulis bahwa AI PC Intel modern dikirim dengan GPU terintegrasi dan NPU yang mumpuni serta memori terpadu 16+ GB, tetapi itu belum cukup untuk memuat LLM berparameter 70B. Solusi mereka adalah pipeline parallelism: membagi model berdasarkan layer menjadi shard per tahap, melakukan pre-compile setiap shard menjadi graph OpenVINO INT4, lalu membuat setiap mesin menjalankan satu shard dan meneruskan aktivasi ke tahap berikutnya.

@title Jalur shard Intel AI PC
@source Pre-Compiled Pipeline Shards for Distributed LLM Inferenceon Intel AI PC Fleets

  Model split by layer
     │
     ▼
  INT4 OpenVINO graphs
     │
     ▼
  Machines run shards
     │
     ▼
  Activations pass onward

@caption Makalah ini menunjukkan bagaimana AI PC dapat bekerja bersama ketika satu perangkat tidak dapat memuat model besar.

Makalah itu bukan tentang Razor Lake-AX, tetapi sangat relevan untuk setiap pamer TOPS. Puncak komputasi AI tidak menjawab apakah modelnya muat, apakah runtime dapat mempertahankan performa, atau apakah graph benar-benar mendarat di jalur akselerator yang kamu kira sudah kamu beli. Jika benchmark-mu membutuhkan graph INT4 dan perilaku OpenVINO agar bisa tampil bagus, angka utama itu hanyalah mesin karaoke, bukan suaranya.

Efisiensi adalah bagian yang tetap bertahan saat bertemu pengguna

Makalah arXiv The Race to Efficiency berargumen bahwa scaling law klasik dapat melewatkan faktor waktu dan efisiensi, lalu memperkenalkan kerangka kerja yang berpusat pada apa yang disebutnya efficiency-doubling rate. Poin intinya adalah bahwa kemajuan performa yang berkelanjutan tidak hanya bergantung pada melempar komputasi ke dinding, tetapi juga pada peningkatan di seluruh stack AI. Terjemahan dari bahasa akademik ke bahasa builder: silicon yang lebih cepat membantu, tetapi software yang bodoh tetap bisa mengubah mobil sport menjadi troli belanja dengan lampu RGB.

Lensa itu membuat roadmap 700 TOPS Intel menjadi lebih berguna dan tidak terlalu magis. Jika Razor Lake-AX tiba pada 2028 dengan komputasi neural network gabungan seperti yang dilaporkan, developer tetap perlu menanyakan presisi apa yang diasumsikan angka tersebut, bentuk model mana yang berjalan baik, dan apakah stack deployment sudah cukup matang untuk pekerjaan produksi yang membosankan. Pekerjaan produksi yang membosankan, agar jelas, adalah tempat pendapatan tinggal. Booth demo adalah tempat latensi pergi untuk memakai parfum.

Hal yang perlu dipantau builder berikutnya

Pembingkaian robotika dari GameGPU adalah petunjuknya. Workload dengan loop sensorik real time dapat diuntungkan oleh komputasi lokal karena mereka tidak selalu bisa menunggu panggilan cloud jarak jauh, terutama ketika persepsi dan pengambilan keputusan berada dalam loop yang sama ketatnya. Namun pipeline persepsi robotika, asisten lokal, dan setup LLM terdistribusi menekan chip dengan cara yang berbeda, jadi satu angka TOPS adalah versi AI PC dari menilai restoran berdasarkan volume kulkasnya.

Bagi pembaca yang membangun di atas AI klien, langkah berikutnya sederhana: pantau spesifikasi yang belum sepenuhnya Intel buka dalam bukti ini, lalu uji dengan workload aktualmu. Kapasitas memori, perpindahan memori, presisi yang didukung, kematangan compiler, dan perilaku runtime akan menentukan apakah 700 TOPS terasa lega atau hanya fotogenik. Perlombaan AI PC bukan hanya tentang siapa yang mencetak angka terbesar di kotak, tetapi tentang siapa yang membuat angka itu tetap bertahan saat bertemu kodemu.