IA & ML · 24 août
L’achat rapporté d’OpenRouter par Stripe pour plus de 7 milliards de dollars rend le routage des modèles stratégique
L’accord rapporté indique que la couche discrète de passerelle d’IA devient un endroit où les coûts, l’utilisation et le choix du modèle se décident.
- Traitez le routage des modèles comme une couche stratégique, et non comme une plomberie jetable.
- Cartographiez les endroits où votre produit choisit les modèles et enregistre l’utilisation des jetons avant que les coûts ne s’emballent.
- Préservez la flexibilité de changement afin qu’un fournisseur ne devienne pas silencieusement votre architecture.