o lore por trás do feed

On-Device AI

As stories que ficam puxando essa ideia de volta pro feed.

8 histórias

No feed

ai-mlO Bonsai 27B da PrismML usa versões Qwen3.6 de 1 bit e ternárias para levar IA local a dispositivos menoresA parte interessante não é uma coroa em benchmarks, mas o que a quantização agressiva poderia tornar prático em laptops e celulares.
hardwareRumor sobre o encapsulamento do Apple A20 Pro mostra que a IA é um problema de largura de bandaA suposta mudança de InFO-PoP para WMCM tem, na verdade, a ver com alimentar modelos de IA e impedir que o calor atrapalhe o barramento de memória.
hardwareA Suposta Mudança da Apple do A20 Pro para InFO-PoP Mostra que a IA Precisa de Largura de Banda Mais Fria, Não Apenas de ComputaçãoA suposta mudança para WMCM é uma lição útil sobre por que a IA em celulares pode travar no encapsulamento, não apenas dentro do chip.
tech-culturePixi Mantém Sua Câmera Fora da Nuvem. Essa é uma Escolha de Design que Vale a Pena Questionar.A startup de mensagens com AR que foi lançada dentro do iMessage no dia 18 de junho fez uma aposta arquitetural contraintuitiva. Entender por que isso importa vai muito além de um único aplicativo.
ai-mlUm LLM de 70 Bilhões de Parâmetros Rodando Inteiramente em um Celular Android Desafia Tudo o Que Assumíamos Sobre IA de BordaLiberaGPT, da 5N6 LTD, afirma executar um modelo de escala frontier completamente offline em hardware doméstico, e as implicações para implantação de IA com foco em privacidade merecem ser levadas a sério.
ai-mlO AI de nuvem mais poderoso da Apple roda nos servidores do Google. A Apple não tem problema com isso.No WWDC26, a Apple anunciou cinco novos modelos de fundação. Um deles roda em GPUs da Nvidia na infraestrutura do Google, e entender o porquê revela muito sobre onde a IA no dispositivo realmente encontra seu limite.
ai-mlA Apple Tem Rodado um Cérebro de IA em Dois Níveis no Seu iPhone Desde 2024, e a Maioria dos Estudantes de ML Não PercebeuA pesquisa de ML publicada pela Apple revela uma arquitetura híbrida que combina um modelo local de ~3 bilhões de parâmetros com modelos de servidor maiores no Private Cloud Compute, reformulando silenciosamente a forma como devemos pensar sobre a implantação de IA.
ai-mlA NVIDIA Acaba de Tornar a IA Local um Padrão em Nível de Silicon, Não um Contorno de SoftwareCom modelos de base integrados diretamente nos PCs com RTX AI apresentados na CES 2025, a NVIDIA reescreveu discretamente quem protagoniza a história da IA no próprio dispositivo.

No feed

Também no vibe