OpenAI a dévoilé gpt-oss-safeguard en octobre 2025, en publiant des modèles d’IA open-weight permettant aux développeurs de créer des systèmes de modération de contenu personnalisés sans réentraînement. Les modèles à 20 milliards et 120 milliards de paramètres adoptent une approche « bring-your-own-policy » via l’interface Harmony, offrant une prise de décision transparente avec des explications détaillées pour chaque classification de sécurité.
Les modèles, publiés sous une licence Apache 2.0, sont désormais disponibles sur des plateformes comme Hugging Face, marquant une rupture significative avec les systèmes de sécurité propriétaires traditionnels. Selon la documentation technique d’OpenAI, les développeurs peuvent déployer ces modèles à l’aide d’outils open source populaires comme Hugging Face Transformers, Ollama et vLLM, ce dernier étant recommandé pour les applications à haut débit.
La conception à double canal de l’interface Harmony sépare le processus de raisonnement du modèle en une phase d’analyse interne et une sortie décisionnelle structurée. Cette architecture permet aux développeurs d’examiner précisément pourquoi le modèle a produit des classifications de sécurité spécifiques, créant ce qu’OpenAI décrit comme des workflows Trust & Safety auditables. La profondeur de raisonnement peut être ajustée sur trois niveaux — faible, moyen ou élevé — permettant aux équipes d’équilibrer performances et rigueur analytique, selon le guide OpenAI Cookbook.
Élaborer des politiques de sécurité efficaces
Le système demande aux développeurs de structurer les politiques comme des manuels de modération, avec quatre composantes essentielles : une taxonomie de classification, des définitions claires des violations, des cas limites autorisés et des instructions de sortie explicites. OpenAI recommande de maintenir les politiques entre 400 et 600 tokens pour des performances optimales, bien que les modèles puissent gérer jusqu’à 10 000 tokens. Cette flexibilité permet aux équipes chargées des politiques d’effectuer des tests A/B sur les changements en temps réel avant un déploiement complet, comme détaillé dans le guide utilisateur d’OpenAI.
Le développement a impliqué une collaboration avec des partenaires tels que Discord et SafetyKit, selon Help Net Security. Les réactions de la communauté IA ont été mitigées — les développeurs ont salué la transparence et la capacité d’itération rapide, tandis que des chercheurs en sécurité ont mis en garde contre des usages potentiellement malveillants. Les critiques ont souligné que la nature open source pourrait fournir à des acteurs malveillants des outils pour sonder les faiblesses ou affaiblir délibérément les politiques de sécurité.
Les limitations de performance constituent un autre défi. La documentation d’OpenAI note une latence et des coûts de calcul plus élevés que ceux des classifieurs traditionnels, et recommande d’utiliser ces modèles au sein d’une safety stack plus large où des classifieurs plus rapides assurent le filtrage initial. La charge de mise en œuvre repose grandement sur les développeurs, qui doivent concevoir des politiques robustes et sans failles — une tâche exigeant une expertise considérable que les petites équipes pourraient peiner à mobiliser, selon une analyse sectorielle de Help Net Security.
