हाई बैंडविड्थ फ्लैश G1.5: SK hynix Sandisk विश्लेषण

FMS 2026 में AI हार्डवेयर की दिलचस्प बात कोई और accelerator glamour shot नहीं थी। वह flash memory थी, जो memory badge पहनकर service entrance से चुपके से अंदर आने की कोशिश कर रही थी। यह तब तक एक छोटी-सी paperwork वाली गलती लगती है, जब तक आप clipboard पर लिखे नामों पर ध्यान नहीं देते: SK hynix, Sandisk, UCIe, OCP, और G1.5 नाम की एक memory tier। पुरानी hierarchy को एक खराब diner analogy से समझाना काफी आसान था: DRAM counter है, flash storeroom है, और GPU वह भूखा line cook है जो ingredients के लिए चिल्ला रहा है। High Bandwidth Flash एक थोड़ा बदतमीज़ सवाल पूछता है। क्या हो अगर storeroom grill के इतना पास आ जाए कि cook को इंतज़ार करना ही बंद हो जाए?

वह stack जो

SK hynix ने margins में बनाया Forbes में Thomas Coughlin के अनुसार, SK hynix और Sandisk ने 2026 FMS Conference का उपयोग AI inference के लिए High Bandwidth Flash काम दिखाने में किया, सिर्फ सामान्य storage throughput के लिए नहीं। महत्वपूर्ण बात SK hynix की tier language थी: 3D stacked DRAM के लिए G0.5, HBF के लिए G1.5, और CXL pooled memory के लिए G2.5, जिन्हें Forbes ने xPU performance को optimize करने की कोशिश का हिस्सा बताया। यह marketing confetti नहीं है। यह उस जगह का map है जहाँ memory wall में दरार पड़ रही है। SK hynix के अपने newsroom ने कहा कि company और Sandisk ने OCP के माध्यम से पहला open HBF standard जारी किया, जिसमें up to 512GB capacity, up to 3TB/s bandwidth, और UCIe support है। यही combination असली संकेत है। Flash से अब सिर्फ storage controller के पीछे शालीनता से बैठने को नहीं कहा जा रहा; उसे chip to chip conversation में बुलाया जा रहा है, जहाँ महँगा इंतज़ार होता है।

छिपी हुई spec capacity नहीं, locality है

Forbes रिपोर्ट करता है कि पहला HBF specification UCIe interconnect का उपयोग करते हुए up to 512GB capacities और 0.4TB/s से 3.0TB/s तक bandwidths को cover करता है। Capacity number display case में रखा चमकदार jewel है, लेकिन interconnect getaway driver है। UCIe इसलिए मायने रखता है क्योंकि यह HBF को दूर बैठे SSD जैसा कम और पास की memory tier जैसा ज़्यादा बनाता है, इतना पास कि inference systems को provision करने का तरीका बदल सके।

अगर आप AI infrastructure बना रहे हैं या खरीद रहे हैं, तो आपको इसकी परवाह क्यों करनी चाहिए? क्योंकि inference cost अक्सर इस बात पर आती है कि accelerators कितना समय सचमुच useful work में लगाते हैं बनाम bytes के आने का इंतज़ार करते हैं, जो एक tiny suitcase और खराब attitude के साथ पहुँचते हैं। Forbes ने यह भी रिपोर्ट किया कि HBF ने HBM की तुलना में AI inference में 2X GPU efficiency दिखाई। इसे independent systems testing के ज़रिए देखने लायक claim मानें, लेकिन यह समझाता है कि storage class memory ideas नए जूतों के साथ AI stack में वापस क्यों घुस रहे हैं।

Sandisk, DRAM की knife fight में

NAND लेकर आता है The Elec ने रिपोर्ट किया कि Sandisk ने 6 Aug. को घोषणा की कि वह FMS 2026 में AI focused NAND technologies unveil करेगा, जिनमें HBF शामिल है। Forbes इसमें ज़्यादा दिलचस्प teardown layer जोड़ता है: Sandisk ने BiCS8 और BiCS10 NAND technologies showcase कीं और HBF को high capacity, high performance non volatile storage के रूप में position किया, जो कुछ roles में HBM को supplement या replace कर सकता है। Flash के लिए यह एक bold assignment है, जिसे historically data center का patient mule माना जाता था।

SK hynix ने यह भी कहा कि उसका 375 layer 4D NAND 2.5 times अधिक power efficient है। Power efficiency वह जगह है जहाँ spreadsheet boring होना बंद कर CFO के कान में फुसफुसाना शुरू करता है। अगर flash board को panini press बनाए बिना एक बड़ा nearby tier दे सकता है, तो model serving designs को more HBM खरीदने के अलावा turn करने के लिए एक नया knob मिल जाता है।

GPU को chaperone नहीं चाहिए

Blocks & Files में Chris Mellor ने FMS के एक अलग aisle से वही architectural mood पकड़ा, रिपोर्ट करते हुए कि DDN और Nvidia एक ऐसा तरीका test कर रहे हैं जिसमें GPU data खुद request कर सके, बजाय इसके कि पहले CPU से उसे fetch करने को कहे। Blocks & Files ने कहा कि approach Nvidia की SCADA architecture को DDN के Infinia platform के साथ use करता है, जिसका लक्ष्य एक step काटना और idle time घटाना है। Plumbing अलग है, lesson वही है: industry accelerator demand और data arrival के बीच के dead air पर हमला कर रही है।

आइए बात करें उस चीज़ की जिसे उन्हें keynote slide में डालना ज़रूरी नहीं था। Memory hierarchy अब एक neat apartment building जैसी कम और casino heist जैसी ज़्यादा होती जा रही है, जहाँ हर tier alarm बजने से पहले vault के और पास खड़े होने की कोशिश कर रहा है। HBM premium table बना हुआ है। HBF वह suspiciously well dressed accomplice है जो capacity और bandwidth को ऐसी जगह offer कर रहा है जहाँ flash सामान्यतः खड़ा नहीं हो पाता था।

FMS के बाद क्या देखना है

Forbes HBF को AI inference में HBM के possible supplement या replacement के रूप में frame करता है, जबकि SK hynix G1.5 को 3D stacked DRAM और CXL pooled memory के बीच रखता है। यही middle position पूरी कहानी है। यह संकेत देती है कि future inference servers को सिर्फ peak compute से कम और इस बात से ज़्यादा judge किया जा सकता है कि वे HBM, HBF, DRAM, और pooled memory में data को कितनी समझदारी से arrange करते हैं।

Readers के लिए practical move आसान है: package photos ही नहीं, software stack भी देखें। अगर frameworks, runtimes, और system vendors सही inference data को सही tier में place कर सकते हैं, तो HBF useful engineering बन जाता है। अगर वे ऐसा नहीं कर सकते, तो यह workload की तलाश में घूमती एक और बेहतरीन spec sheet बन जाता है। और हाँ, thermals पर नज़र रखें, क्योंकि thermal throttling वही जगह है जहाँ elegant memory diagrams आपको धोखा देने जाते हैं।