近期，社交媒體巨頭meta正在醞釀一場審核機(jī)制的變革，計(jì)劃將原本依賴人工的風(fēng)險(xiǎn)評估工作大幅轉(zhuǎn)向人工智能（AI）處理。據(jù)美國國家公共廣播電臺（NPR）的深度報(bào)道，meta內(nèi)部文件透露，公司旨在讓AI承擔(dān)起高達(dá)90%的風(fēng)險(xiǎn)評估重任，這一轉(zhuǎn)變不僅限于常規(guī)內(nèi)容，更將觸及青少年保護(hù)和“誠信”領(lǐng)域，后者廣泛涵蓋暴力、虛假信息等敏感問題。
過去，meta旗下平臺如Instagram和WhatsApp在推出新功能或更新前，均需經(jīng)過嚴(yán)格的人工審核流程。然而，近兩個月來，meta顯著加快了AI技術(shù)的應(yīng)用步伐。現(xiàn)在，產(chǎn)品團(tuán)隊(duì)需先填寫詳盡的調(diào)查問卷，再由AI系統(tǒng)迅速反饋潛在風(fēng)險(xiǎn)領(lǐng)域，產(chǎn)品團(tuán)隊(duì)必須解決AI提出的問題后方可發(fā)布。
對于這一變革，meta內(nèi)部出現(xiàn)了不同聲音。多位現(xiàn)任及前任員工在接受NPR采訪時(shí)表達(dá)了對AI審核能力的擔(dān)憂，他們認(rèn)為，AI可能無法像人工團(tuán)隊(duì)那樣敏銳捕捉到某些嚴(yán)重風(fēng)險(xiǎn)。一位前高管直言，審核力度的減弱等同于“增加潛在風(fēng)險(xiǎn)”，新產(chǎn)品變更可能帶來的負(fù)面效應(yīng)更難在初期得到遏制。
meta官方對此回應(yīng)稱，公司并未完全放棄人工審核，而是將“人類專業(yè)知識”聚焦于“新穎且復(fù)雜的問題”，而將那些“低風(fēng)險(xiǎn)決策”交由AI處理。這一策略調(diào)整旨在提升審核效率，同時(shí)保持對關(guān)鍵問題的敏銳洞察。
值得注意的是，meta近期發(fā)布了其最新季度誠信報(bào)告，這也是公司自年初調(diào)整內(nèi)容審核和事實(shí)核查政策后的首次報(bào)告亮相。報(bào)告數(shù)據(jù)顯示，政策調(diào)整導(dǎo)致被刪除的內(nèi)容數(shù)量有所減少，但與此同時(shí)，霸凌騷擾行為以及暴力和血腥內(nèi)容的比例卻略有上升，這一現(xiàn)象引發(fā)了外界對meta審核機(jī)制有效性的進(jìn)一步關(guān)注。
