Moderations
检测输入内容是否涉及暴力、色情、仇恨、自残等风险类别,适合在把用户输入交给大模型前、或把模型输出展示给用户前做一道过滤。接口兼容 OpenAI POST /v1/moderations。
| 项 | 值 |
|---|---|
| 方法与路径 | POST /v1/moderations |
| 鉴权 | Authorization: Bearer YOUR_API_KEY |
| Content-Type | application/json |
快速示例
cURL
BASH
curl https://www.nextai-code.com/v1/moderations \
-H "Authorization: Bearer $NEXTAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "YOUR_MODEL",
"input": "我想学习怎么做蛋糕"
}'
Python(OpenAI SDK)
PYTHON
import os
from openai import OpenAI
client = OpenAI(api_key=os.environ["NEXTAI_API_KEY"], base_url="https://www.nextai-code.com/v1")
resp = client.moderations.create(model="YOUR_MODEL", input="我想学习怎么做蛋糕")
print(resp.results[0].flagged)
Node.js(OpenAI SDK)
JAVASCRIPT
import OpenAI from "openai";
const client = new OpenAI({ apiKey: process.env.NEXTAI_API_KEY, baseURL: "https://www.nextai-code.com/v1" });
const resp = await client.moderations.create({ model: "YOUR_MODEL", input: "我想学习怎么做蛋糕" });
console.log(resp.results[0].flagged);
可用的审核模型以 模型列表(
GET /v1/models)为准。
请求参数
| 参数 | 类型 | 必填 | 说明 |
|---|---|---|---|
model |
string | 否 | 审核模型名。请显式传入;不传时可能因默认模型不可用而报错 |
input |
string / array | 是 | 待检测文本,或文本数组。缺失或为空字符串时返回 400(缺少 input 字段)。多模态输入(图文对象数组)是否支持取决于模型 |
响应
返回 OpenAI Moderations 格式的审核结果:
JSON
{
"id": "modr-xxxx",
"model": "YOUR_MODEL",
"results": [
{
"flagged": false,
"categories": { "violence": false, "sexual": false, "hate": false, "self-harm": false },
"category_scores": { "violence": 0.0001, "sexual": 0.0002, "hate": 0.00003, "self-harm": 0.00001 }
}
],
"usage": { "prompt_tokens": 9, "completion_tokens": 0, "total_tokens": 9 }
}
| 字段 | 说明 |
|---|---|
results[] |
与 input 一一对应的审核结果 |
results[].flagged |
是否命中任一风险类别 |
results[].categories |
各类别是否命中 |
results[].category_scores |
各类别的置信度分数 |
usage |
用量。模型服务商未返回用量时,平台按输入文本估算并补充到响应中 |
完整类别列表取决于所用模型。
计费
按输入 Token 计费,以响应中的 usage 为准。按次计价的模型每次请求固定扣费。