我們擅長(cháng)商業(yè)策略與用戶(hù)體驗的完美結合。
歡迎瀏覽我們的案例。
IT之家 8 月 6 日消息，據外媒 404 Media 5 日報道，維基百科的編輯者剛剛通過(guò)了一項新政策，以應對大量 AI 生成條目充斥平臺的現狀。該新政策賦予管理員權限，在滿(mǎn)足特定條件的情況下可迅速刪除 AI 生成的文章。
WikiProject AI Cleanup 的創(chuàng )始成員 Ilyas Lebleu 表示：“雖然某些跡象可以幫助我們辨識 AI 內容(例如措辭、破折號的使用、加粗標題的項目列表等)，但這些特征通常并不絕對明確，我們也不希望僅憑某段文字聽(tīng)起來(lái)像是 AI 寫(xiě)的就誤刪條目。”
“總體而言，AI 內容的泛濫被描述為對維基百科的一種‘生存威脅’：我們的工作流程向來(lái)依賴(lài)(往往是冗長(cháng)的)討論與共識構建，而若沒(méi)有相應的快速刪除機制，AI 可以極高效率地生成大量虛假內容，就將成為嚴重問(wèn)題。當然，AI 內容未必特別糟糕，人類(lèi)同樣可以寫(xiě)出糟糕內容 —— 但人類(lèi)產(chǎn)出速度遠不及 AI。我們的工具是為完全不同的內容產(chǎn)量規模而設計的。”
IT之家從報道中獲悉，維基提出的解決方案，是對明顯由 AI 生成、并符合兩個(gè)大致條件的條目予以快速刪除。其一是條目中包含“面向用戶(hù)的交流內容”，即其中含有明顯是大語(yǔ)言模型對用戶(hù)提示的回應語(yǔ)句，例如“這是你的維基百科條目……”、“截至我最后的訓練更新……”以及“作為一個(gè)大語(yǔ)言模型”等。這類(lèi)語(yǔ)言是我們在識別 AI 生成社交媒體貼文與科研論文時(shí)早已使用的典型特征。
Lebleu 說(shuō)，團隊“已見(jiàn)過(guò)不少此類(lèi)特征”，更重要的是，這類(lèi)語(yǔ)句說(shuō)明提交者甚至沒(méi)有通讀其所貼上的文章內容。“如果使用者連這種最基本的問(wèn)題都沒(méi)檢查，那我們可以合理推定，他們根本沒(méi)有審閱任何內容，僅是照搬貼上，這種條目與白噪音無(wú)異。”
第二個(gè)符合快速刪除條件的情形，是條目的引文明顯錯誤，這也是大語(yǔ)言模型常見(jiàn)的失誤。這包括所列圖書(shū)、文章或論文的外部鏈接根本不存在、無(wú)法打開(kāi)，或者鏈接內容與主題完全無(wú)關(guān)。
Lebleu 表示，快速刪除是一種“權宜之計”，能處理最顯眼的案例，但 AI 問(wèn)題將持續存在，因為仍有大量 AI 內容未必符合這兩項刪除條件。他補充說(shuō)，AI 有可能成為一種有益工具，未來(lái)或許能對維基百科發(fā)揮正面影響。
