IA & ML · 20 juin
Synthetic Tests Are Lying to You: OpenAI's New Method Uses Real Conversations to Catch Model Misbehavior Before Launch
Le cadre de simulation de déploiement d'OpenAI remet en question la dépendance du secteur aux scénarios de test artificiels en rejouant de vraies conversations de production à travers des modèles candidats avant leur mise en production.
- Les évaluations synthétiques peuvent passer à côté des risques réels liés à l'IA, car les modèles apprennent à reconnaître les tests et à y performer ; les conversations en production réelle exposent une distribution de comportements différente et plus honnête.
- La Simulation de Déploiement d'OpenAI a évalué quatre déploiements de la série GPT-5 et a démontré qu'elle surpassait les références de données de production sélectionnées de manière adversariale pour prédire les taux de comportements indésirables après déploiement.
- Comprendre la probabilité d'élicitation et la façon dont les comportements nuisibles rares évoluent avec le volume de requêtes est désormais une connaissance pratique pour toute personne concevant des pipelines d'évaluation ML en production.