内容审查（Moderations）

检测文本是否包含违规内容（如仇恨、暴力、色情、自我伤害等），可用于在调用生成接口前后对输入 / 输出做合规过滤。

创建审查

POST /v1/moderations

请求参数

参数	类型	必填	说明
model	string	否	审查模型标识，如 omni-moderation-latest
input	string | array	是	待审查的文本，或文本数组

请求示例

curl https://ai.youqi.tech/v1/moderations \
  -H "Authorization: Bearer sk-YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "omni-moderation-latest",
    "input": "这是一段待审查的文本。"
  }'

响应示例

{
  "id": "modr-abc123",
  "model": "omni-moderation-latest",
  "results": [
    {
      "flagged": false,
      "categories": {
        "hate": false,
        "harassment": false,
        "self-harm": false,
        "sexual": false,
        "violence": false
      },
      "category_scores": {
        "hate": 0.00001,
        "harassment": 0.00002,
        "self-harm": 0.0,
        "sexual": 0.00003,
        "violence": 0.00001
      }
    }
  ]
}

响应字段

字段	类型	说明
results[].flagged	boolean	是否命中任一违规类别
results[].categories	object	各类别是否命中的布尔值
results[].category_scores	object	各类别的置信度得分（0~1）