Moderação de Conteúdo — Model Card
Modelos em pipeline
| Componente | Modelo | Licença | Dados de treinamento |
|---|---|---|---|
| Classificador binário NSFW | Classificador NSFW da Brainiall quantizado quantizado | licença permissiva | ~80k imagens rotuladas (conjunto de avaliação Brainiall, curado da web) |
| Detector de partes do corpo em nível de região | Detector NSFW Brainiall v3 inferência otimizada | MIT | ~12 classes de partes do corpo; lançamento em 2024; conjunto de treinamento não público |
Desempenho (avaliação em conjunto reservado)
Precisão / recall / F1 por classe na avaliação interna (n=2000, amostra balanceada). Os números são nossas próprias medições; publicaremos uma comparação direta em benchmark público (NPDI, Adult-Content) no 3T 2026 para padronizar a comparação.
| Classe | Precisão | Recall | F1 |
|---|---|---|---|
| NSFW (binário) | 0.96 | 0.94 | 0.95 |
| Genitais / partes íntimas expostas | 0.92 | 0.89 | 0.90 |
| Sugestivo (decote / roupa íntima) | 0.86 | 0.83 | 0.84 |
| Vestuário de praia / moda | 0.88 | 0.91 | 0.89 |
Viés conhecido: taxa elevada de falsos positivos em imagens de carnaval brasileiro, praia e alta-costura — mesmo viés ocidental documentado para o AWS Rekognition Moderation (Gender Shades, MIT 2018). Para UGC de regiões mistas, recomendamos ajustar o limiar por mercado.
Posicionamento sobre CSAM (Child Sexual Abuse Material)
A API de moderação de conteúdo da Brainiall NÃO detecta o CSAM. Os dados de treinamento e a arquitetura do modelo estão explicitamente fora do escopo para detecção de segurança infantil — usar esta API para detecção de CSAM é uso indevido e não oferece proteção legal.
Para detecção de CSAM, os clientes DEVEM usar infraestrutura especializada:
- PhotoDNA (Microsoft) — hash-matching contra o banco de dados do NCMEC. Gratuito para plataformas qualificadas.
- Apple NeuralHash — hash perceptual para CSAM conhecido (usado pelo Apple iCloud).
- Thorn / Safer — classificador comercial de CSAM + inteligência (ONG qualificada).
- NCMEC CyberTipline — reporte obrigatório nos EUA (18 U.S.C. § 2258A).
Clientes que processam potencial CSAM em seu pipeline são responsáveis por rotear esses fluxos para os serviços acima. A Brainiall declara claramente que detecção de CSAM está fora do escopo em nosso Termos §6.4 e DPA §3.2.
Trilha de auditoria
Cada /v1/moderation/analyze/base64 a chamada retorna um request_id; retemos metadados da requisição (timestamp, IP de origem, latência, versão do modelo, score) por 90 dias para auditoria. Os bytes da imagem são not retido — ver /trust para compromissos completos de tratamento de dados. Sob solicitação, fornecemos exportações de logs de auditoria para consultas legais/regulatórias via hello@brainiall.com.
Uso pretendido vs. fora do escopo
No escopo: Filtragem de UGC NSFW no upload, verificações pré-publicação em marketplaces, pipelines de moderação comunitária, triagem de fotos em apps de namoro, integridade de categorias de produto em e-commerce.
Fora do escopo: CSAM (ver acima), detecção de deepfakes, detecção de armas, detecção de símbolos de ódio, moderação de stream de vídeo em tempo real. Cada um requer modelos especializados que ainda não disponibilizamos.
Versionamento + breaking changes
A versão do modelo é estampada em cada resposta (pipeline_version: "s7-v1.x.y"). Trocas importantes de modelo (ex.: Brainiall → SOTA mais recente) são sinalizadas em /changelogcom pelo menos 90 dias de aviso e um deprecated cabeçalho no endpoint legado. Os clientes podem fixar uma versão específica via X-Brainiall-Model-Version cabeçalho de requisição (planos Pro+).
Última atualização 2026-05-06. Perguntas: hello@brainiall.com.