GPT- 4 到底有多強(qiáng)？

(相關(guān)資料圖)

問(wèn)世以來(lái)，代碼編寫(xiě)、數(shù)據(jù)分析、圖表生成、執(zhí)行數(shù)學(xué)運(yùn)算、生成視頻、分析股票市場(chǎng)……都不在話下，讓無(wú)數(shù)網(wǎng)友感慨：這是要“逆天”了！

如今， GPT-4 的新功能直逼「內(nèi)容審核」，可以幫助企業(yè)一天完成 6 個(gè)月工作量。

與傳統(tǒng)方法相比，GPT-4 內(nèi)容審核的優(yōu)勢(shì)

眾所周知，傳統(tǒng)內(nèi)容審核在現(xiàn)階段面臨多種挑戰(zhàn)。

需要人工細(xì)致的審核、對(duì)上下文的深刻理解、快速對(duì)新用例的適應(yīng)，耗時(shí)且挑戰(zhàn)性較大。

傳統(tǒng)內(nèi)容審核的重?fù)?dān)落在「審核人員」身上，給人帶來(lái)巨大的精神壓力。

為此，OpenAI 表示， GPT-4 目前正在測(cè)試內(nèi)容審核功能，它被用于制定和完善內(nèi)容政策、標(biāo)記內(nèi)容和制定決策。

任何擁有 OpenAI API 訪問(wèn)權(quán)限的人都可以創(chuàng)建自己的 AI 輔助審核系統(tǒng)。

一方面，可以執(zhí)行內(nèi)容審核任務(wù)， 加速處理內(nèi)容審核等繁重任務(wù)，提高社交媒體公司的工作效率。

另一方面，還能使在線平臺(tái)能夠 更快制定新內(nèi)容審核規(guī)則，并完善現(xiàn)有規(guī)則 。

OpenAI 官方稱：“內(nèi)容審核過(guò)程本身就很緩慢，GPT-4 的新功能可以幫助審核過(guò)程能從 6 個(gè)月縮短到幾個(gè)小時(shí)。”

目前，最新的 GPT-4 相較于傳統(tǒng)的內(nèi)容審核方法，存在以下優(yōu)勢(shì)：

提供一致的判斷。 由于內(nèi)容政策不斷發(fā)展并且十分詳細(xì)，GPT-4 的這項(xiàng)新功能能對(duì)措辭的細(xì)微差異很敏感，可以立即適應(yīng)政策更新，為用戶提供良好的內(nèi)容體驗(yàn)。

提高審核的反饋效率。 政策更新的周期漫長(zhǎng)，GPT-4 的這項(xiàng)新功能可以將這一過(guò)程縮短至幾個(gè)小時(shí)，從而能夠更快地響應(yīng)新的危害。

減輕審核人員精神負(fù)擔(dān)。 持續(xù)接觸有害、令人反感的內(nèi)容，容易導(dǎo)致審核人員情緒疲憊和心理壓力。為此，GPT-4 的這項(xiàng)新功能能為相關(guān)工作人員思想減負(fù)。

事實(shí)上，由 AI 驅(qū)動(dòng)的審核工具并非什么新鮮事，Meta、YouTube 和 TikTok 等平臺(tái)已經(jīng)利用算法來(lái)控制有害和非法內(nèi)容。

據(jù) The Verge 往期報(bào)道，2020 年時(shí)，Meta（前 Facebook） 就明確表示希望 AI 在平臺(tái)上承擔(dān)更多的審核職責(zé)。

其審核原理為 ：被認(rèn)為違反公司規(guī)則的帖子（包括從垃圾郵件、含仇恨言的內(nèi)容）會(huì)被用戶或機(jī)器學(xué)習(xí)過(guò)濾器標(biāo)記。隨后，一些明確的案例會(huì)自動(dòng)處理（刪除帖子、阻止帳戶），而其余案例則進(jìn)入隊(duì)列供人工審核員審核。

由此可見(jiàn)， OpenAI 的這槍「內(nèi)容審核」并非首發(fā)。

據(jù)官方消息，這項(xiàng)由 GPT-4 領(lǐng)銜的內(nèi)容審核工作，目前涉及多個(gè)工作流程。

首先，公司必須創(chuàng)建一個(gè)包含 有害內(nèi)容示例的數(shù)據(jù)集 。

隨后，指示 GPT-4 用 標(biāo)簽標(biāo)記每條有害內(nèi)容 ，并描述其違反審核政策的原因。

最后，通過(guò)審查模型生成的標(biāo)簽，以此 發(fā)現(xiàn)問(wèn)題 。

就目前的情況而言， GPT-4 對(duì)于某些缺乏開(kāi)發(fā)自己的內(nèi)容審核系統(tǒng)資源的小公司，無(wú)疑是一個(gè)可行的選擇。

歷史里程碑 or 巨大的挑戰(zhàn) ？

當(dāng)然，GPT-4 也并非完美。 新功能雖然前景廣闊，但仍然存在局限性。

在內(nèi)部測(cè)試中，OpenAI 將 GPT-4 與人類內(nèi)容審核團(tuán)隊(duì)進(jìn)行了比較。

結(jié)果顯示， 現(xiàn)階段 GPT-4 表現(xiàn)優(yōu)于接受過(guò)“輕度訓(xùn)練”的審核人員，但準(zhǔn)確性不如“經(jīng)驗(yàn)豐富、訓(xùn)練有素”的審核人員。

值得關(guān)注還有 —— 語(yǔ)言模型的判斷很容易受到訓(xùn)練期間引入模型的不良偏差的影響。特別是誤導(dǎo)性、錯(cuò)誤性和攻擊性內(nèi)容（不一定是非法的）的灰色區(qū)域給自動(dòng)化系統(tǒng)帶來(lái)了巨大的挑戰(zhàn)。

與 任何 AI 應(yīng)用程序一樣，結(jié)果和輸出需要審核人員參與其中來(lái)仔細(xì)監(jiān)控、驗(yàn)證 和完善。

為此， OpenAI 也強(qiáng)調(diào)，審核的過(guò)程不應(yīng)該完全自動(dòng)化。

事物發(fā)展總是利弊共存，在 OpenAI 曝光的 GPT-4 新功能內(nèi)容審核后，也引發(fā)了許多業(yè)界人士的積極討論。

OpenAI 的產(chǎn)品政策經(jīng)理 Andrea Vallone 認(rèn)為：“在這種情況下，審核人員可以更側(cè)重在對(duì)可能有內(nèi)容違規(guī)的極端案例如何做評(píng)判，以及怎樣完善內(nèi)容的政策。”此外，他也強(qiáng)調(diào)稱：“我始終認(rèn)為， 人類始終參與其中是很重要的。 ”

OpenAI 安全系統(tǒng)負(fù)責(zé)人 Lilian Weng 在接受 Semafor 時(shí)表示：“ 這為如何利用 AI 造福社會(huì)、解決現(xiàn)實(shí)世界的問(wèn)題，向前邁出了非常好的一步 。”

外媒 Semafor 記者 Reed Albergotti 坦言：“人類實(shí)際上不太擅長(zhǎng)內(nèi)容審核，因?yàn)榧词谷四軌蛴涀∶織l規(guī)則，也會(huì)不斷有內(nèi)容陷入灰色區(qū)域，無(wú)法給出明確的答案。 GPT-4 雖然不是完美的，但避免了人們?cè)诠ぷ髦姓觳榭戳钊瞬话驳膬?nèi)容。 ”

對(duì)此，你怎么看？

參考鏈接：

/blog/using-gpt-4-for-content-moderation

/2023/8/15/23833406/openai-gpt-4-content-moderation-ai-meta

/article/08/15/2023/can-chatgpt-become-a-content-moderator#room-for-disagreement

關(guān)鍵詞：