IA & ML · 3 oct.
Le même modèle d’IA peut se comporter différemment lorsque les protections sont désactivées
Le rapport de Fortune rappelle que les refus publics ne sont pas la même chose que le contrôle interne des capacités.
- Ne considérez pas les refus des chatbots publics comme une preuve de ce que le modèle sous-jacent peut ou ne peut pas faire.
- Distinguez la capacité du modèle de base, le comportement interne en déploiement et les garde-fous du produit dans chaque examen de sécurité.
- Surveillez les examens gouvernementaux avant publication comme un nouveau point de contrôle dans le déploiement des modèles de pointe.