der Lore hinter dem Feed

On-Device AI

Die Stories, die diese Idee immer wieder in den Feed ziehen.

8 Stories

Im Feed

ai-mlPrismMLs Bonsai 27B nutzt 1-Bit- und ternäre Qwen3.6-Builds, um lokale KI auf kleinere Geräte zu bringenDer interessante Teil ist nicht eine Benchmark-Krone, sondern das, was aggressive Quantisierung auf Laptops und Smartphones praktisch möglich machen könnte.
hardwareGerücht zur Verpackung des Apple A20 Pro zeigt: KI ist ein BandbreitenproblemBei dem gemunkelten Wechsel von InFO-PoP zu WMCM geht es eigentlich darum, KI-Modelle zu versorgen und zu verhindern, dass Wärme den Speicherbus ausbremst.
hardwareApples gemeldeter Wechsel des A20 Pro von InFO-PoP zeigt: KI braucht kühlere Bandbreite, nicht nur RechenleistungDie gemunkelte WMCM-Umstellung ist eine nützliche Lektion dafür, warum KI auf dem Smartphone schon beim Gehäuse ins Stocken geraten kann – nicht nur im Chip selbst.
tech-culturePixi hält deinen Kamera-Feed aus der Cloud heraus. Das ist eine Designentscheidung, die es wert ist, hinterfragt zu werden.Das AR-Messaging-Startup, das am 18. Juni innerhalb von iMessage gestartet ist, hat eine kontraintuitive architektonische Wette abgeschlossen. Zu verstehen, warum das wichtig ist, geht weit über eine einzelne App hinaus.
ai-mlEin 70-Milliarden-Parameter-LLM, das vollständig auf einem Android-Smartphone läuft, stellt alles in Frage, was wir über Edge-KI angenommen habenLiberaGPT von 5N6 LTD behauptet, ein frontier-scale Modell vollständig offline auf Consumer-Hardware zu betreiben – und die Auswirkungen auf datenschutzorientierte KI-Deployments sind es wert, ernst genommen zu werden.
ai-mlApples leistungsfähigste Cloud-KI läuft auf Googles Servern. Apple ist damit einverstanden.Auf der WWDC26 stellte Apple fünf neue Foundation-Modelle vor. Eines davon läuft auf Nvidia-GPUs in Googles Infrastruktur – und wenn man versteht, warum, erfährt man eine Menge darüber, wo On-Device-KI tatsächlich an ihre Grenzen stößt.
ai-mlApple betreibt seit 2024 ein zweistufiges KI-Gehirn auf deinem iPhone – und die meisten ML-Lernenden haben es komplett übersehenApples veröffentlichte ML-Forschung zeigt eine hybride Architektur, die ein On-Device-Modell mit etwa 3 Milliarden Parametern mit größeren Private-Cloud-Compute-Servermodellen kombiniert – und verändert damit im Stillen, wie wir über den Einsatz von KI nachdenken sollten.
ai-mlNVIDIA hat lokale KI zu einem Standard auf Silicon-Ebene gemacht – keine Software-Notlösung mehrMit Foundation-Modellen, die auf der CES 2025 direkt in RTX-KI-PCs integriert wurden, hat NVIDIA die Geschichte der geräteinternen KI still und leise neu geschrieben.

Im Feed

Auch im Vibes