使用 OpenAI 的 AI 支持的审核端点解锁优势

改进的和新的内容审核工具

我们正在引入一个更快、更准确的调制端点,以帮助开发人员保护他们的应用程序免遭滥用。 此端点使 OpenAI API 开发人员可以免费访问检测不需要内容的 GPT 分类器。 一份描述我们评估方法的技术文件已经发布。

Moderation 端点评估文本输入以确定它是否包含色情内容、仇恨内容、暴力或促进自我伤害的内容——我们的政策禁止的内容。 该端点经过培训,可在各种应用程序中快速、准确和稳健。 这降低了产品说错话的可能性,即使它们是大规模部署的。 人工智能能够释放敏感环境的好处,比如教育,在这些环境中很难放心使用。

来源和详细信息:
https://openai.com/blog/new-and-improved-content-moderation-tooling/