el lore detrás del feed

On-Device AI

Las historias que vuelven a meter esta idea en el feed.

8 historias

En el feed

ai-mlBonsai 27B de PrismML utiliza compilaciones Qwen3.6 de 1 bit y ternarias para llevar la IA local a dispositivos más pequeñosLo interesante no es una corona en una prueba de rendimiento, sino lo que la cuantización agresiva podría hacer práctico en portátiles y teléfonos.
hardwareUn rumor sobre el empaquetado del Apple A20 Pro muestra que la IA es un problema de ancho de bandaEl supuesto cambio de InFO-PoP a WMCM en realidad consiste en alimentar modelos de IA y evitar que el calor asalte el bus de memoria.
hardwareEl supuesto cambio de Apple del A20 Pro de InFO-PoP muestra que la IA necesita un ancho de banda más frío, no solo potencia de cálculoEl rumoreado cambio a WMCM es una lección útil sobre por qué la IA en los teléfonos puede estancarse en el encapsulado, no solo dentro del chip.
tech-culturePixi Mantiene tu Feed de Cámara Fuera de la Nube. Es una Decisión de Diseño que Vale la Pena Cuestionar.La startup de mensajería AR que se lanzó dentro de iMessage el 18 de junio apostó por una arquitectura que va a contracorriente. Entender por qué importa va mucho más allá de una sola aplicación.
ai-mlUn LLM de 70 mil millones de parámetros ejecutándose completamente en un teléfono Android desafía todo lo que asumíamos sobre la IA en dispositivos móvilesLiberaGPT de 5N6 LTD afirma ejecutar un modelo de escala fronteriza completamente sin conexión en hardware de consumo, y las implicaciones para el despliegue de IA con privacidad como prioridad merecen tomarse en serio.
ai-mlLa IA en la nube más potente de Apple funciona en los servidores de Google. A Apple le parece bien.En la WWDC26, Apple anunció cinco nuevos modelos de base. Uno de ellos vive en GPUs de Nvidia dentro de la infraestructura de Google, y entender por qué te dice mucho sobre dónde choca realmente contra su techo la IA en el dispositivo.
ai-mlApple lleva desde 2024 ejecutando un sistema de inteligencia artificial de dos niveles en tu iPhone, y la mayoría de los estudiantes de ML no se dieron cuentaLa investigación de ML publicada por Apple revela una arquitectura híbrida que combina un modelo en el dispositivo de ~3.000 millones de parámetros con modelos de servidor más grandes en Private Cloud Compute, lo que está transformando silenciosamente la forma en que debemos pensar sobre la implementación de la IA.
ai-mlNVIDIA acaba de convertir la IA local en un estándar a nivel de silicio, no en un parche de softwareCon los modelos de base integrados directamente en las RTX AI PCs presentadas en el CES 2025, NVIDIA reescribió discretamente el relato sobre quién lidera la inteligencia artificial en dispositivo.

En el feed

También vibra