近日，2024年度上海市科學技術獎的獲獎名單正式揭曉，上海交通大學與螞蟻集團攜手合作的項目《復雜對抗場景下的網絡媒體內容安全檢測關鍵技術與應用》榮獲科技進步獎一等獎。這一殊榮標志著該項目在內容安全檢測領域取得了國際先進水平，特別是AIGC檢測等技術更是達到了國際領先。Non28資訊網——每日最新資訊28at.com

在此次獎項的核心技術評審中，以中國工程院院士王耀南領銜的專家委員會給予了高度評價。他們認為，該技術整體表現卓越，尤其在復雜對抗場景下，展現出了強大的檢測能力和創新性。Non28資訊網——每日最新資訊28at.com

Non28資訊網——每日最新資訊28at.com

在頒獎現場，上海交通大學與螞蟻集團的代表，蔣興浩與王維強，共同見證了這一榮耀時刻。隨著生成式人工智能和大模型的快速發展，雖然內容生成技術日益智能化，但也帶來了諸多挑戰，如價值觀偏離、意識形態沖突以及道德規范問題等。這些問題對互聯網信息的健康傳播和網絡有害信息的治理構成了嚴峻挑戰。Non28資訊網——每日最新資訊28at.com

面對這一挑戰，上海交通大學與螞蟻集團等團隊共同研發了一系列關鍵技術，旨在應對大模型時代復雜對抗場景下的內容安全治理難題。這些技術包括多模理解、AI鑒真、異常推理和多模文檔解析等，為內容安全治理提供了新的模式和思路。Non28資訊網——每日最新資訊28at.com

上海交通大學副校長蔣興浩表示，項目組的多家單位研發團隊緊密合作，共同探索如何保護人工智能時代的信息內容安全。他們不僅解答了這一難題，還積極引領了生成式人工智能時代的內容安全治理新模式。Non28資訊網——每日最新資訊28at.com

該項目在技術創新方面取得了顯著成果，解決了傳統檢測模型泛化難題、異常樣本采集挑戰、隱晦內容檢測以及多變博弈攻擊等核心問題。具體而言，他們提出了基于思維鏈的多模態大模型幻覺緩解技術，研發了可控多模態數據智能生成方法，研制了網絡媒體內容安全監測一體化解決方案，并提出了基于對抗與溯源的模型安全防護技術。Non28資訊網——每日最新資訊28at.com

這些技術創新不僅顯著提升了內容安全領域復雜攻擊下的防控效果和效率，還為互聯網上有害信息的治理帶來了突破性進展。同時，這些技術也為AI技術在更廣泛領域的應用提供了強有力的支撐。Non28資訊網——每日最新資訊28at.com

據了解，該項目已經獲得了41項發明專利、1項國標和1項地標、10項軟件著作權以及118篇論文的發表。該項目已經應用于多個平臺的內容安全業務防控中，取得了顯著的成效。其中，AIGC安全檢測等技術已經服務于支付寶的內容相關業務，實現了對不良內容的高效識別與攔截，確保了平臺內容的健康與安全。Non28資訊網——每日最新資訊28at.com

螞蟻安全實驗室首席科學家王維強表示，在國家網絡安全戰略的指引下，螞蟻集團通過產學研合作，研發了包括隱晦推理、AIGC識別等核心技術，構建了互聯網信息安全智能治理體系。這一體系不僅為海量創作者提供了安全可信的創作環境，還通過持續迭代的模型能力，筑牢了風險屏障。未來，螞蟻集團將繼續投入安全科技，深耕可信AI技術研發，推動網絡安全智能化進程。Non28資訊網——每日最新資訊28at.com

舉報 0收藏 0打賞 0評論 0分享 0    更多>同類資訊中國電信欒曉維：云網智融戰略引領，賦能百業轉型新篇章在主論壇上，中國電信集團有限公司副總經理欒曉維發表題為《云網智融，賦能百業》的主旨演講，分享了中國電信在基礎設施升級、智能云體系建設、AI普惠向善方面的實踐成果。 在此次大會上，中國電信發布了人工智能算力優化…08-26智慧農業云平臺：以數據為翼，引領農業精準決策新時代智慧農業云平臺能根據土壤實時墑情、未來天氣預報和作物需水規律，自動計算出最佳灌溉時間與水量，實現按需供水，節水效率提升可達30%以上。云飛科技近年來在農業物聯網與云平臺研發方面持續投入，其推出的智能監測設備與…08-265G-A至6G躍遷：中國AI大模型引領全球通信新篇章啵特叮咚有限公司在 6G 技術預研上布局量子通信、太赫茲通信和空天地一體化網絡架構，其 “通信認知大模型”具備多模態業務識別、網絡自愈與優化、能耗動態調節等能力，在多地測試中效果顯著。 啵特叮咚有限公司的 …08-26王國棟院士：人工智能引領鋼鐵行業轉型升級，邁向綠色未來王國棟舉例說，鐵前系統全面應用煉鐵大數據與人工智能，面向“料場、燒結、球團、高爐、能源”等關鍵環節，建立實時監測與智能感知系統，開發高爐關鍵參數預測和多目標優化模型，實現全過程精細化調控，實現節能降碳、降本增…08-26蘋果推出RLCF技術：以大模型為導師，強化小模型復雜指令執行能力IT之家注：RLCF 的全稱為 Reinforcement Learning from ChecklistFeedback，不同于傳統的“人類反饋強化學習”（RLHF）依賴人工點贊 / 點踩，RLCF 為…08-26釘釘十周年：AI釘釘1.0及首款硬件產品DingTalk A1重磅發布單看概念或許有點抽象，其實不難理解，在發布會現場，無招就用“奏折”來做比喻，AI釘釘就像是用戶的專屬秘書，將一切與工作相關的信息與任務進行分析和整理，然后根據重要性排序，最終像信息流一樣呈現在用戶的面前。 …08-26科大訊飛融資凈買入超7千萬，近三日融資買入額持續高企8月25日，滬深兩融數據顯示，科大訊飛獲融資買入額6.80億元，居兩市第42位，當日融資償還額6.07億元，凈買入7378.21萬元。 最近三個交易日，21日-25日，科大訊飛分別獲融資買入6.33億元、7.…08-26科大訊飛半年報：AI紅利助業務高增長，實控人定增彰顯信心AI紅利驅動各業務線健康成長 1）智慧教育業務25H1收入35.3億元，同比+23.5%，其中AI學習機上半年收入繼續保持翻番增長。4）企業AI解決方案25H1收入4.4億元，同比+349.9%，公司正在加…08-26AI招聘工具信任危機：超六成科技人才擔憂，呼吁人性化透明招聘08-26阿里國際Ovis2.5多模態大模型發布，提升視覺感知與深度推理能力08-26AI貓咪短片風靡社交媒體，奇幻劇情吸引數億播放成新寵08-26算力新紀元：太原市算力產業邁向規?；叨嘶诤匣抡鞒套鳛槿珖讉€全棧自主可控的煤炭行業智能算力中心，該平臺建成包含盤古、文心、DeepSeek等大模型拼盤，完成了從技術可行到工程可靠、再到商業閉環的全鏈條驗證，為各類開發需求提供了強有力的算力支撐。山西數據流量…08-26高途武漢新設智成科技公司，涉足AI軟件開發領域08-26英偉達發布新一代機器人計算機Jetson Thor，售價2.5萬，宇樹優必選等已采用08-26馬斯克xAI正式起訴蘋果與OpenAI，指控雙方聯手壟斷AI市場08-26點擊查看更多 +全站最新京東七夕節新玩法：知名男團女團PK團播試水智譜AI：從B端到C端，全力沖刺生成式AI第一股智界R7與新S7新車上市首日，大定量火速破萬豆包App推出未成年人保護模式，視頻展示等功能默認關閉保障安全熱門內容

• 雷軍抖音賬號變動引熱議：武漢大學標簽悄然消失？
• 云計算新紀元：云智融合引領未來趨勢，安全與技術創新并行
• AI企業市場新格局：Anthropic超越OpenAI成首選
• 阿里巴巴1688升級AI服務：新品App與查詢工具上線，賦能中小企業高效采購
• 華為Mate 80系列爆料：全新麒麟9030，eSIM與低軌衛星通訊技術加持
• 2025年人工智能發展藍圖：趨勢、格局與行業應用深度剖析
• 浙大發布“悟空”類腦計算機：神經元規模超20億，模擬獼猴大腦
• 紅米Note15系列前瞻：7s芯片、7000mAh大電池，防水新標桿即將登場
• 光伏電站智能化管理：提升效率，降低成本，助力“雙碳”目標實現
• 字節跳動AI底層架構領跑2025：技術、組織與財務全面賦能AI時代
• 雷軍抖音賬號母校標簽“武漢大學”消失，或涉平臺隱私調整
• 國家網信辦約談英偉達：要求闡釋H20算力芯片安全隱患及后門風險
• 馬斯克將為Grok Heavy用戶帶來AI視頻生成器及虛擬男友“Valentine”測試版
• 英偉達H20芯片安全風險引關注，網信辦約談要求說明“追蹤定位”等技術詳情
• AI浪潮下，微軟研究預警：40種職業或面臨變革挑戰

本欄最新王國棟院士：人工智能引領鋼鐵行業轉型升級，邁向綠色未來蘋果推出RLCF技術：以大模型為導師，強化小模型復雜指令執行能力釘釘十周年：AI釘釘1.0及首款硬件產品DingTalk A1重磅發布算力新紀元：太原市算力產業邁向規?；叨嘶诤匣抡鞒?img src="http://img3.28at.com/d/file/20250827/218495112d6b11f85698e91f6bddb68c.png" alt="高途武漢新設智成科技公司，涉足AI軟件開發領域" />高途武漢新設智成科技公司，涉足AI軟件開發領域移動云智算平臺攜手DeepSeek，共促AI大模型應用高效落地

本文鏈接：http://m.www897cc.com/showinfo-45-26930-0.html上海交通大學與螞蟻集團聯手，安全AI科技獲上海市科技進步一等獎

聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： IOTE深圳物聯網展明日啟幕，AI+IoT全產業鏈年度盛會邀您共襄盛舉

下一篇： 中國電信欒曉維：云網智融戰略引領，賦能百業轉型新篇章