IA y ML · 13 jun
La IA en la nube más potente de Apple funciona en los servidores de Google. A Apple le parece bien.
En la WWDC26, Apple anunció cinco nuevos modelos de base. Uno de ellos vive en GPUs de Nvidia dentro de la infraestructura de Google, y entender por qué te dice mucho sobre dónde choca realmente contra su techo la IA en el dispositivo.
- La alineación de cinco modelos AFM de Apple enruta las solicitudes entre niveles de dispositivo, Cómputo en la Nube Privada y Google Cloud según la complejidad de la tarea, un patrón de inferencia por niveles que vale la pena estudiar para cualquier implementación de IA en múltiples entornos.
- AFM 3 Core Advanced incorpora 20 mil millones de parámetros en inferencia en el dispositivo activando solo entre 1 y 4 mil millones a la vez; la dispersión es la historia de ingeniería, no el recuento de parámetros del titular.
- Incluso la arquitectura que prioriza la privacidad de Apple depende de infraestructura en la nube de terceros en su límite máximo de capacidad, un recordatorio práctico de que la integración vertical tiene límites cuando la inferencia de nivel frontera es el objetivo.