社交媒體 X 計劃利用 AI 撰寫(xiě)社區注釋(community notes)，其目的是提高事實(shí)核查效率，但官方也承認存在明顯風(fēng)險。

　　該計劃可能破壞用戶(hù)對事實(shí)核查系統的信任，因為 AI 撰寫(xiě)的注釋可能不準確且具有誤導性。專(zhuān)家警告，AI 注釋可能導致錯誤信息擴散，并可能加劇審查負擔。

　　在最新研究論文中，X 平臺將這一計劃描述為一次“升級”，同時(shí)解釋了 AI 撰寫(xiě)社區注釋可能出現的所有問(wèn)題。

　　在理想情況下，X 平臺描述了 AI 能夠加速和增加錯誤帖子上的社區注釋數量，從而提高平臺范圍內的事實(shí)核查力度。

　　每個(gè) AI 撰寫(xiě)的注釋將由人工審查員評分，為 AI 提供反饋，以改善其寫(xiě)作能力。隨著(zhù) AI 寫(xiě)作能力提升，人工審查員可以專(zhuān)注于 AI 無(wú)法快速處理的更細微的事實(shí)核查任務(wù)，例如需要特定專(zhuān)業(yè)知識或社會(huì )意識的帖子。

　　如果一切順利，人類(lèi)和 AI 審查員將共同轉變 X 的事實(shí)核查方式，甚至探索形成“公共知識生產(chǎn)中人類(lèi)與 AI 合作的新形式”。

　　

 

　　IT之家援引論文觀(guān)點(diǎn)，然而，仍然存在一個(gè)關(guān)鍵問(wèn)題：X 平臺不確定 AI 撰寫(xiě)的注釋是否能夠像人類(lèi)撰寫(xiě)的注釋一樣準確。

　　進(jìn)一步復雜化的是，AI 可能會(huì )生成“有說(shuō)服力但錯誤”的注釋?zhuān)祟?lèi)評分員可能會(huì )因為 AI 在撰寫(xiě)有說(shuō)服力、情感共鳴且看似中立的注釋方面“異常擅長(cháng)”而給予好評。這可能會(huì )破壞反饋循環(huán)，削弱社區注釋的可信度，并隨著(zhù)時(shí)間的推移，讓整個(gè)系統變得不那么可靠。

　　

 

　　X 平臺預測，如果無(wú)法解決這一難題，最重要的注釋的影響可能會(huì )被稀釋。一種可能的解決方案是取消人工審查流程，將 AI 撰寫(xiě)的注釋?xiě)糜?ldquo;類(lèi)似上下文”的帖子，但最大的潛在問(wèn)題是顯而易見(jiàn)的：自動(dòng)匹配人們認為不需要注釋的帖子可能會(huì )顯著(zhù)削弱系統信任度。