一天搞定 6 个月工作！OpenAI 曝光 GPT-4 新功能「内容审核」

GPT- 4 到底有多强？

问世以来，代码编写、数据分析、图表生成、执行数学运算、生成视频、分析股票市场……都不在话下，让无数网友感慨：这是要“逆天”了！

如今， GPT-4 的新功能直逼「内容审核」，可以帮助企业一天完成 6 个月工作量。

(资料图片)

与传统方法相比，GPT-4 内容审核的优势

众所周知，传统内容审核在现阶段面临多种挑战。

需要人工细致的审核、对上下文的深刻理解、快速对新用例的适应，耗时且挑战性较大。

传统内容审核的重担落在「审核人员」身上，给人带来巨大的精神压力。

为此，OpenAI 表示， GPT-4 目前正在测试内容审核功能，它被用于制定和完善内容政策、标记内容和制定决策。

任何拥有 OpenAI API 访问权限的人都可以创建自己的 AI 辅助审核系统。

一方面，可以执行内容审核任务， 加速处理内容审核等繁重任务，提高社交媒体公司的工作效率。

另一方面，还能使在线平台能够 更快制定新内容审核规则，并完善现有规则 。

OpenAI 官方称：“内容审核过程本身就很缓慢，GPT-4 的新功能可以帮助审核过程能从 6 个月缩短到几个小时。”

目前，最新的 GPT-4 相较于传统的内容审核方法，存在以下优势：

提供一致的判断。 由于内容政策不断发展并且十分详细，GPT-4 的这项新功能能对措辞的细微差异很敏感，可以立即适应政策更新，为用户提供良好的内容体验。

提高审核的反馈效率。 政策更新的周期漫长，GPT-4 的这项新功能可以将这一过程缩短至几个小时，从而能够更快地响应新的危害。

减轻审核人员精神负担。 持续接触有害、令人反感的内容，容易导致审核人员情绪疲惫和心理压力。为此，GPT-4 的这项新功能能为相关工作人员思想减负。

事实上，由 AI 驱动的审核工具并非什么新鲜事，Meta、YouTube 和 TikTok 等平台已经利用算法来控制有害和非法内容。

据 The Verge 往期报道，2020 年时，Meta（前 Facebook） 就明确表示希望 AI 在平台上承担更多的审核职责。

其审核原理为 ：被认为违反公司规则的帖子（包括从垃圾邮件、含仇恨言的内容）会被用户或机器学习过滤器标记。随后，一些明确的案例会自动处理（删除帖子、阻止帐户），而其余案例则进入队列供人工审核员审核。

由此可见， OpenAI 的这枪「内容审核」并非首发。

据官方消息，这项由 GPT-4 领衔的内容审核工作，目前涉及多个工作流程。

首先，公司必须创建一个包含 有害内容示例的数据集 。

随后，指示 GPT-4 用 标签标记每条有害内容 ，并描述其违反审核政策的原因。

最后，通过审查模型生成的标签，以此 发现问题 。

就目前的情况而言， GPT-4 对于某些缺乏开发自己的内容审核系统资源的小公司，无疑是一个可行的选择。

历史里程碑 or 巨大的挑战 ？

当然，GPT-4 也并非完美。 新功能虽然前景广阔，但仍然存在局限性。

在内部测试中，OpenAI 将 GPT-4 与人类内容审核团队进行了比较。

结果显示， 现阶段 GPT-4 表现优于接受过“轻度训练”的审核人员，但准确性不如“经验丰富、训练有素”的审核人员。

值得关注还有 —— 语言模型的判断很容易受到训练期间引入模型的不良偏差的影响。特别是误导性、错误性和攻击性内容（不一定是非法的）的灰色区域给自动化系统带来了巨大的挑战。

与 任何 AI 应用程序一样，结果和输出需要审核人员参与其中来仔细监控、验证 和完善。

为此， OpenAI 也强调，审核的过程不应该完全自动化。

事物发展总是利弊共存，在 OpenAI 曝光的 GPT-4 新功能内容审核后，也引发了许多业界人士的积极讨论。

OpenAI 的产品政策经理 Andrea Vallone 认为：“在这种情况下，审核人员可以更侧重在对可能有内容违规的极端案例如何做评判，以及怎样完善内容的政策。”此外，他也强调称：“我始终认为， 人类始终参与其中是很重要的。 ”

OpenAI 安全系统负责人 Lilian Weng 在接受 Semafor 时表示：“ 这为如何利用 AI 造福社会、解决现实世界的问题，向前迈出了非常好的一步 。”

外媒 Semafor 记者 Reed Albergotti 坦言：“人类实际上不太擅长内容审核，因为即使人能够记住每条规则，也会不断有内容陷入灰色区域，无法给出明确的答案。 GPT-4 虽然不是完美的，但避免了人们在工作中整天查看令人不安的内容。 ”

对此，你怎么看？

参考链接：

/blog/using-gpt-4-for-content-moderation

/2023/8/15/23833406/openai-gpt-4-content-moderation-ai-meta

/article/08/15/2023/can-chatgpt-become-a-content-moderator#room-for-disagreement

关键词：