Brainiall Content Guard - Modellkarte
Modelle in Pipeline
| Komponenten | Modell | Lizenz | Trainingsdaten |
|---|---|---|---|
| Binäre NSFW Klassifizierung | Brainiall NSFW Klassifizierung Quantitative Quantitative | Zulässige Lizenzen | ~80k gekennzeichneten Bildern (Brainiall eval set, web-curated) |
| Region-Level Körperteil-Detektor | Brainiall NSFW Detektor v3 Optimierte Inferenz | Mit | ~12 Körperteilklassen; 2024 veröffentlicht; nicht öffentliche Trainingssatz |
Leistung (Held-out Bewertung)
Die Zahlen sind unsere Messungen; wir werden in Q3 2026 eine öffentliche Benchmarke Kopf zu Kopf (NPDI, Adult-Content) veröffentlichen, um den Vergleich zu standardisieren.
| Klasse | Präzision | Erinnerung | F1 |
|---|---|---|---|
| NSFW ( binär) | 0.96 | 0.94 | 0.95 |
| Exponierte Sex / private Teile | 0.92 | 0.89 | 0.90 |
| Vorschläge (Reinigung / Unterwäsche) | 0.86 | 0.83 | 0.84 |
| Strand / Mode Attraktion | 0.88 | 0.91 | 0.89 |
Bekannte Bias: erhöhte falsch-positiven Raten auf brasilianisch-Karnival, Strand und hochmodische Bilder — die gleichen westlich-skew bias dokumentiert für AWS Rekognition Moderation (Gender Shades, MIT 2018Für Mixed-Region UGC empfehlen wir, die Grenze pro Markt zu tun.
CSAM (Child Sexual Abuse Material) Stellung
Die Content Guard von Brainiall erkennt keine CSAM. Die Schulungsdaten und die Modellarchitektur sind ausdrücklich für die Kindersicherheits-Detektion ausgeschlossen – die Verwendung dieser API für die CSAM-Detektion ist eine Missbrauch und bietet keine rechtliche Schutz.
Für die CSAM-Detektion müssen Kunden spezialisierte Infrastruktur verwenden:
- FotoDNA (Microsoft) — Hash-Matching gegen die NCMEC-Datenbank. kostenlos für qualifizierte Plattformen.
- Apple NeuralHash - perceptuelle Hash für bekannte CSAM (anwendet von Apple iCloud).
- Safer / Safer - kommerzielle CSAM-Klassifizierung + Intelligenz (qualifizierende NGO).
- Die NCMEC CyberTipline — obligatorische US-Berichtung (18 USC § 2258A).
Kunden, die potenzielle CSAM in ihre Pipeline einnehmen, sind verantwortlich für die Routing dieser Flüsse zu den oben genannten Dienstleistungen. Brainiall akzeptiert CSAM-Detektion-as-out-of-scope klar in unserem Bedingungen § 6.4 und DPA §3.2.
Überprüfung Trail
Jeder /v1/moderation/analyze/base64 Anrufe kehrt zurück a request_idWir speichern die Anfragemetadata (Timestamp, Quell-IP, Latenz, Modellversion, Score) für 90 Tage für die Prüfung. not aufbewahrt - siehe /trust auf Anfrage bieten wir Audit-Log-Exporte für juristische / regulatorische Umfragen über hello@brainiall.com.
Zweckgebrauch vs out-of-scope
Im Bereich: UGC NSFW-Filterung bei Ladenzeit, Marktpre-Listechecks, Community-Moderation Pipelines, Date-App-Photo-Screening, E-Commerce-Produkt-Kategorieintegrität.
Aus dem Umfang: CSAM (siehe oben), Deepfake-Detektion, Waffen-Detektion, Hass-Symbol-Detektion, Real-Time-Video-Stream-Moderatung. Jeder erfordert spezialisierte Modelle, die wir noch nicht schiffen.
Versionierung + brechen Änderungen
Die Version des Modells wird in jeder Antwort geprägt (Pipeline_Version: „s7-v1.x.y“Hauptmodellswaps (z. B. Brainiall → neuer SOTA) sind in /changelogmit mindestens 90 Tagen Mitteilung und einer deprecated header auf dem legacy endpoint.Kunden können eine bestimmte version über die X-Brainiall-Modellversion Anfrage header (Pro+ Pläne)
Letzte Aktualisierung 2026-05-06. Fragen: hello@brainiall.com.