コンテンツモダレーション - モデルカード

パイプラインのモデル

パフォーマンス評価(Held-out Assessment)

数字は私たちの測定であり、私たちは比較を標準化するために、Q3 2026 に公共のベンチマーク(NPDI、成人コンテンツ)を公開します。

知り合いのビアス: ブラジル・カーニバル、ビーチ、高ファッションイメージの偽ポジティブレートの上昇 - AWS Recognition Moderation (ジェンダー・シェイド、MIT 2018混合地域 UGC では、市場ごとに限界を調整することをお勧めします。

CSAM(児童性虐待物質)

Brainiallのコンテンツモダレーション API は CSAM を検出しません。 トレーニングデータとモデルアーキテクチャは、子どもの安全検出に明示的に適用されていない - CSAM検出のためのこのAPIを使用することは誤用であり、法的保護はありません。

CSAM検出のために、顧客は専門インフラストラクチャを使用しなければなりません:

• 写真DNA (マイクロソフト) - ハッシュ対NCMECデータベースとの対比. 資格プラットフォームのための無料。
• ・Apple NeuralHash 知られているCSAM(Apple iCloudによって使用される)の感覚ハッシュ。
• セキュリティ / Safer 商業CSAM分類 + インテリジェンス(資格のあるNGO)
• NCMEC サイバータイプライン アメリカ合衆国の義務報告(18 U.S.C. § 2258A)

パイプラインに潜在的なCSAMを摂取する顧客は、上記のサービスへのこれらの流れをルーティングする責任を負います。 条件 6.4 と DPA §3.2.

監査トラック

すべての /v1/moderation/analyze/base64 電話が戻ってくるA request_idリクエストメタデータ(タイムスタンプ、ソースIP、遅延、モデルバージョン、スコア)を90日間監査する。 not 保存 - 見る /trust 完全なデータ処理の義務について. ご要望に応じて、法的/規制調査のための監査記録の輸出を提供します。 hello@brainiall.com.

目的の使用 vs out-of-scope

範囲内: UGC NSFWフィルタリングアップロードタイム、マーケットプレリストチェック、コミュニティモダレーションパイプ、デートアプリの写真スクリーニング、電子商取引製品カテゴリの完全性。

範囲外: CSAM(上記を参照)、深い誤解検出、武器検出、憎悪シンボル検出、リアルタイムのビデオストリーム測定。

バージョンアップ + ブレイク変更

すべての回答に印刷されたモデル版(パイプライン_バージョン: 「s7-v1.x.y」大型モデルスワップ(例えば、Brainiall → より新しい SOTA)は、 /changelog少なくとも90日間の通知と、 deprecated ヘッダーは遺産の端点にあります. 顧客は特定のバージョンをピンすることができます。 X・ブライニャル・モデル版 リクエストヘッダー(プロ+プラン)