Modération de contenu - Modèle de carte
Modèles en pipeline
| Composants | Modèle | Licence | Données de formation |
|---|---|---|---|
| Classification binaire NSFW | Classifiant Brainiall NSFW Quantifié Quantifié | Licence autorisée | ~80k images étiquetées (Brainiall eval set, web-curated) |
| Détecteur de parties du corps au niveau régional | Détecteur NSFW v3 Une inférence optimisée | Mme | ~12 classes de corps-partie; 2024 sortie; ensemble de formation non publique |
Évaluation des performances (held-out)
Nombre sont nos mesures; nous publierons un référentiel public de tête à tête (NPDI, Adult-Content) au Q3 2026 pour normaliser la comparaison.
| Classes | précision | Souvenez-vous | F1 |
|---|---|---|---|
| NSFW (Binaire) | 0.96 | 0.94 | 0.95 |
| Exposé sexe / parties privées | 0.92 | 0.89 | 0.90 |
| Réservation de l’habillement (cleavage / sous-vêtements) | 0.86 | 0.83 | 0.84 |
| La plage / mode attire | 0.88 | 0.91 | 0.89 |
Les bias connus : taux faux-positif élevé sur le carnaval brésilien, la plage et l'image de haute mode — les mêmes bias de l'Ouest documentés pour AWS Recognition Moderation (Gender Shades, MIT 2018Pour la région mixte UGC, nous vous recommandons de tonner le seuil par marché.
Le CSAM (Child Sexual Abuse Material)
L'API de modération du contenu de Brainiall ne détecte pas CSAM. Les données de formation et l'architecture de modèle sont explicitement hors de portée pour la détection de la sécurité des enfants - l'utilisation de cette API pour la détection de CSAM est une mauvaise utilisation et ne fournit aucune protection juridique.
Pour la détection de CSAM, les clients doivent utiliser des infrastructures spécialisées :
- PhotoDNA (Microsoft) — hash-matching contre la base de données NCMEC. gratuit pour les plateformes de qualification.
- Apple NeuralHash — hash perceptuel pour le CSAM connu (utilisé par Apple iCloud).
- Thorn / Plus en sécurité - CSAM classifier commercial + intelligence (ONG qualifiées).
- NCMEC et CyberTipline — rapports obligatoires aux États-Unis (18 USC § 2258A).
Les clients qui absorbent le potentiel de CSAM dans leur pipeline sont responsables de la direction de ces flux vers les services ci-dessus. Brainiall accepte clairement la détection de CSAM en tant qu'extérieur dans notre Conditions 6.4 et DPA §3.2.
Trail d’audit
Chaque /v1/moderation/analyze/base64 Appel retourne à request_id; nous conserverons les métadonnées de demande (taim, source IP, latence, version de modèle, score) pendant 90 jours pour l'audit. not Réservé - voir /trust pour les engagements de traitement des données complets. sur demande, nous fournissons des exportations de registre d'audit pour les enquêtes juridiques / réglementaires via hello@brainiall.com.
Utilisation intentionnelle vs out-of-scope
Dans le cadre : UGC NSFW filtra à l'heure de téléchargement, les vérifications pré-liste du marché, les pipelines de modération communautaire, le screening photo de l'application de rencontres, l'intégrité de la catégorie de produits de e-commerce.
Au-delà de la portée : CSAM (voir ci-dessus), détection de failles profondes, détection d'armes, détection de symboles de haine, modération de flux vidéo en temps réel. Chacun requiert des modèles spécialisés que nous n'avons pas encore navigué.
Version + changements à briser
La version est imprimée dans chaque réponse (pipeline_version : « s7-v1.x.y »Les swaps de modèle majeurs (par exemple Brainiall → plus récent SOTA) sont marqués dans /changelogAvec au moins 90 jours d'avis et un deprecated sur le point de fin de l'héritage. les clients peuvent pinter une version spécifique via le La version X-Brainiall Le titre de demande (Pro+ plans)
Dernière mise à jour 2026-05-06. Questions : hello@brainiall.com.