Utilisation principale déclarée ou déduite avec prudence de la documentation officielle.
OpenAI CSAM Image Classifier
Classificateur d’OpenAI disponible depuis le 16 novembre pour aider à prioriser l’examen d’images potentiellement liées à des abus sexuels sur enfants, y compris du contenu généré par IA. Il associe un encodeur visuel CLIP interne et un classificateur MLP. Il ne génère pas d’images et ne classe pas de texte.
L'essentiel
Capacité d'entrée maximale une fois publiée par la source.
Limite de génération maximale documentée.
Canaux de disponibilité vérifiés.
Famille fonctionnelle principale et spécialités vérifiées.
Conditions déclarées pour l’API, les poids ou l’auto-hébergement.
Limites et intégration
| ID d’API | omni-moderation-csam-latest |
|---|---|
| Type de modèle | Classification d’images |
| Mode d’accès | Service gratuit pour les organisations approuvées |
| Licence | Propriétaire |
| Déploiement | API hébergée |
| Lancement | 16 NOV 2026 |
| Date limite des connaissances | Non publié |
| Entrée | Image |
| Sortie | Probabilités · JSON |
| Fenêtre contextuelle | Une image fixe par requête ; maximum 20 000 000 d’octets |
| puissance maximale | Indicateurs et scores pour likely-csam et likely-csam/gen-ai |
| Raisonnement | Non publié |
| Outils publiés | |
| Sorties structurées | Non publié |
| Traitement par lots | Indisponible |
| Cache de prompts | Non publié |
| Ajustement fin | Non publié |
| Plateformes vérifiées | API OpenAI |
Aider les équipes spécialisées de confiance et de sécurité avec deux signaux de risque. Il complète la détection par empreintes connues et l’examen humain, avec accès préalablement approuvé et traitement adéquat des données.
Un score ne confirme ni le caractère illégal ni la provenance d’une image et n’est pas une probabilité calibrée. Le classificateur ne signale pas automatiquement aux autorités. Aucun contenu d’abus connu ne doit être envoyé. Batch API et modération intégrée à la génération ne sont pas pris en charge ; les quotas dépendent de l’organisation.
Ce qu’il peut faire
Orientation
Aider les équipes spécialisées de confiance et de sécurité avec deux signaux de risque. Il complète la détection par empreintes connues et l’examen humain, avec accès préalablement approuvé et traitement adéquat des données.
Contexte
Une image fixe par requête ; maximum 20 000 000 d’octets · Indicateurs et scores pour likely-csam et likely-csam/gen-ai
Outils et intégration
Non publié
Accès
OpenAI API · POST /v1/moderations
Coût documenté
| Concept | Valeur | Unité/état |
|---|---|---|
| Entrée standard | Sans frais pour les organisations approuvées | Tarif API standard |
| Entrée en cache | Non publié | Lecture de préfixes réutilisés |
| Écriture ou stockage de cache | Non publié | La condition varie selon le fournisseur |
| Sortie standard | Sans frais pour les organisations approuvées | Peut inclure des tokens de raisonnement |
| Entrée par lots | Non publié | Traitement asynchrone |
| Sortie par lots | Non publié | Traitement asynchrone |
OpenAI déclare le service gratuit pour les organisations approuvées. L’accès doit être demandé ; ce n’est pas une API publique sans restrictions. L’unité est une image par requête, pas des tokens de génération de LLM.
i Les prix changent et peuvent dépendre du niveau, de la région ou de la durée du contexte. Vérifiez la source avant de prendre une décision.
Comment lire les résultats
La fiche indique un rappel de 80,2 % et une précision de 99,1 % pour likely-csam au seuil par défaut, sur 6 849 positifs et 40 000 négatifs. Les performances varient selon le groupe et le domaine. Ces chiffres ne constituent ni une garantie ni une évaluation générale de vision.
| Benchmark | Résultat | Métrique | Source |
|---|---|---|---|
| OpenAI CSAM likely-csam offline recall | 80,2 % | Rappel · seuil 0,996324 | Voir la source ↗ |
Inferama ne met en évidence un « meilleur résultat » que lorsque la métrique, l'ensemble de test, la configuration et la date permettent une comparaison équivalente. Les chiffres du fournisseur sont présentés comme des affirmations provenant de sa propre source.
Chronologie
omni-moderation-csam-latest
Accès approuvé via Moderations API ; alias distinct de la modération générale.