Moderations

检测输入内容是否涉及暴力、色情、仇恨、自残等风险类别,适合在把用户输入交给大模型前、或把模型输出展示给用户前做一道过滤。接口兼容 OpenAI POST /v1/moderations。

项 值
方法与路径 POST /v1/moderations
鉴权 Authorization: Bearer YOUR_API_KEY
Content-Type application/json

快速示例

cURL

BASH
curl https://www.nextai-code.com/v1/moderations \
  -H "Authorization: Bearer $NEXTAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR_MODEL",
    "input": "我想学习怎么做蛋糕"
  }'

Python(OpenAI SDK)

PYTHON
import os
from openai import OpenAI

client = OpenAI(api_key=os.environ["NEXTAI_API_KEY"], base_url="https://www.nextai-code.com/v1")

resp = client.moderations.create(model="YOUR_MODEL", input="我想学习怎么做蛋糕")
print(resp.results[0].flagged)

Node.js(OpenAI SDK)

JAVASCRIPT
import OpenAI from "openai";

const client = new OpenAI({ apiKey: process.env.NEXTAI_API_KEY, baseURL: "https://www.nextai-code.com/v1" });

const resp = await client.moderations.create({ model: "YOUR_MODEL", input: "我想学习怎么做蛋糕" });
console.log(resp.results[0].flagged);

可用的审核模型以 模型列表(GET /v1/models)为准。

请求参数

参数 类型 必填 说明
model string 否 审核模型名。请显式传入;不传时可能因默认模型不可用而报错
input string / array 是 待检测文本,或文本数组。缺失或为空字符串时返回 400(缺少 input 字段)。多模态输入(图文对象数组)是否支持取决于模型

响应

返回 OpenAI Moderations 格式的审核结果:

JSON
{
  "id": "modr-xxxx",
  "model": "YOUR_MODEL",
  "results": [
    {
      "flagged": false,
      "categories": { "violence": false, "sexual": false, "hate": false, "self-harm": false },
      "category_scores": { "violence": 0.0001, "sexual": 0.0002, "hate": 0.00003, "self-harm": 0.00001 }
    }
  ],
  "usage": { "prompt_tokens": 9, "completion_tokens": 0, "total_tokens": 9 }
}
字段 说明
results[] 与 input 一一对应的审核结果
results[].flagged 是否命中任一风险类别
results[].categories 各类别是否命中
results[].category_scores 各类别的置信度分数
usage 用量。模型服务商未返回用量时,平台按输入文本估算并补充到响应中

完整类别列表取决于所用模型。

计费

按输入 Token 计费,以响应中的 usage 为准。按次计价的模型每次请求固定扣费。

相关文档