三院士三教授熱聊元宇宙&——AIGC，學術界怎么看？
來源：清元宇宙在近日舉辦的中國江寧2023元宇宙產業·人才高峰論壇暨AIGC發展大會上，中國工程院院士譚建榮、劉韻潔、鄭緯民出席并發表了主旨演講。除了三大院士，還有清華
在浩瀚無垠的網絡信息世界里，生成式人工智能（AI）正掀起一場前所未有的變革風暴，但這也使得信息的真偽辨別變得日益復雜。為了應對AI內容可能帶來的網絡污染挑戰，各方勢力正積極探索解決方案。近日，備受矚目的互聯網工程任務組（IETF）公布了一項創新草案——《AI內容披露標頭》，該草案旨在通過在網頁HTTP響應中添加機器可讀標識，來明確標注內容的AI生成屬性。
IETF介紹稱，這一標識設計巧妙地與HTTP結構化字段語法相融合，其核心目的是向用戶代理、網絡爬蟲及歸檔系統等關鍵實體提供關于AI在內容生成過程中參與程度的元數據。這些系統可以依據自身需求，靈活決定是否接納或處理AI生成的內容。此舉直擊AI領域的關鍵痛點：不同AI產品間可能存在的虛假內容相互引用，這種循環引用極易導致虛假信息被誤判為真實，進而對整個互聯網的內容生態造成擾亂。
AI之所以會“信口雌黃”，根源在于其作為“概率預測機”的本質特性。AI大模型通過海量數據的訓練，學習詞語間的關聯規律，但在處理罕見或復雜信息時，可能因缺乏確鑿依據而“無中生有”。面對用戶提問，若AI無法找到確切答案，便會傾向于生成一個概率上看似最合理的答案，而非事實正確的答案。這種傾向使得AI輸出的內容往往看似合乎邏輯，實則可能偏離事實真相。
AI幻覺現象雖難以徹底根除，但已成為業界關注的焦點。更令人憂慮的是，當多個AI產品開始相互引用這些虛假內容時，便可能形成一個虛假的閉環，使得虛構的信息逐漸被大眾所接受。例如，近期發生的關于明星王一博的謠言事件，正是由于AI在未核實事實的情況下，基于語義關聯性自動補全了內容，最終被另一款AI工具ChatGPT所揭露。
ChatGPT在此次事件中能夠發揮事實核查作用的關鍵，在于它與生成虛假道歉聲明的AI使用了不同的訓練數據集。換言之，ChatGPT因未被虛假內容所污染，所以能夠輸出真實信息。然而，如果OpenAI的爬蟲GPTBot抓取到了虛假的“道歉聲明”，結果或將截然不同。當前，為了提升模型的智能水平，AI廠商的爬蟲幾乎不加篩選地抓取數據，即便這些數據中包含有害的虛假信息。
這種做法在學術界已引發“引用農場”現象，即通過相互引用將低質量的論文包裝成高影響力論文。同樣，當AI開始相互引用虛假內容時，用戶將深受其害。IETF此次提出的《AI內容披露標頭》草案，旨在從源頭上切斷AI生成的虛假和垃圾內容回流至互聯網的渠道，防止它們成為訓練新AI模型的數據，從而避免陷入“垃圾進、垃圾出”的惡性循環。
具體而言，IETF要求HTTP文件中必須聲明AI模型的名稱、提供者、校驗團隊及時間戳等關鍵信息，以此防止AI廠商的爬蟲錯誤地抓取AI生成的內容。實際上，AI廠商同樣不希望抓取到AI內容，以免其訓練數據受到污染。從某種程度上說，《AI內容披露標頭》草案與AI水印有著異曲同工之妙，都是從內容生產和傳播的起點入手，為“AI生成”的內容打上獨特的識別烙印。
相較于技術實現難度較大的AI水印，要求網站主動披露內容是否由AI生成顯然更為切實可行。關鍵在于，IETF作為互聯網標準制定與推廣的權威組織，其影響力不可小覷。HTTP和IPv6等互聯網基礎協議均出自IETF之手，可以說，當今的互聯網是建立在IETF的堅實基石之上的。因此，IETF提出的這一草案，有望為凈化網絡內容生態、遏制AI虛假信息的傳播發揮舉足輕重的作用。
舉報 0收藏 0打賞 0評論 0分享 0 更多>同類資訊
AI+金融：大模型技術引領行業高質量轉型新篇章09-02
俄羅斯太空實驗：75只小鼠失重生活畫面曝光，探索太空生物安全性09-02
AI常識性錯誤頻發，人類責任何在？花生上樹、六指模特引熱議09-02
Z世代擔憂隱私：智能眼鏡普及加劇年輕人焦慮09-02
阿里云強勁增長帶動阿里股價飆升，芯片供應“后備方案”獲市場關注09-02
隨機翻閱，輕松刪除：這款App讓整理相冊變得像開盲盒一樣有趣09-02
蘋果iPhone 17系列9月發布，京東PLUS會員享優先購買權09-02
華為Pura 70系列官方翻新機登場，售價4699元起，享一年質保09-02
蘋果將推iOS 18.7更新，適用于部分iPhone機型，9月與iOS 26相繼到來09-02
蘋果可折疊iPhone新爆料：或采用側邊Touch ID，屏下指紋或成泡影09-02
iPhone 17 Pro 系列透明殼曝光：設計三大變動引關注09-02快遞費上漲波及電商核心區 “反內卷”政策助行業良性轉型09-02快遞業核心區域漲價潮起，“反內卷”行動助力行業良性轉型09-02
全球最大冰山A23a面積三個月劇減超三分之一09-02
蘋果力推供應鏈自動化轉型，iPhone、iPad等主要產品線受影響09-02點擊查看更多 +全站最新全球最大冰山A23a面積三個月劇減超三分之一蘋果力推供應鏈自動化轉型，iPhone、iPad等主要產品線受影響
蘋果印度新店融合天才吧與快速取貨服務，提升顧客體驗
美國iPhone用戶調研：超六成計劃升級iPhone 17，電池續航成首要考量
OPPO Find X9 工程機曝光：搭載聯發科天璣9500芯片，性能參數搶先看
蘋果iPhone 17 Pro官方透明手機殼曝光：背部設計以白色為主熱門內容
百度地圖就彈窗廣告爭議回應：設有明顯關閉鍵，當日不重復彈出
網紅表情包“不可以色色”原型柴犬PON安詳離世
離世后，你的微信朋友圈會何去何從？客服這樣回答
蔚來資本、聯想創投攜手入股，原力靈機智能科技迎來新股東
AI數字人爆款IP崛起，硅基智能D輪融資領跑，創始人影響力趕超雷軍
阿里巴巴強化ESG治理，首推“范圍3+”減排新概念引領行業綠色轉型
本文鏈接：http://m.www897cc.com/showinfo-45-27201-0.htmlIETF推AI內容披露草案，能否有效阻止網絡虛假信息泛濫？
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號