8 月 26 日消息，科技媒體 bleepingcomputer 昨日（8 月 25 日）發(fā)布博文，報(bào)道稱 Trail of Bits 研究人員開發(fā)出一種新型 AI 攻擊手法，將惡意提示詞隱藏在高分辨率圖片中，并在 AI 系統(tǒng)自動(dòng)降采樣處理后顯現(xiàn)，再被大語言模型當(dāng)作指令執(zhí)行，可竊取用戶數(shù)據(jù)。grM28資訊網(wǎng)——每日最新資訊28at.com

該方法由 Trail of Bits 的 Kikimora Morozova 與 Suha Sabi Hussain 提出，靈感來源于 2020 年德國布倫瑞克工業(yè)大學(xué)的圖像縮放攻擊理論。攻擊者先在高分辨率圖片中嵌入肉眼不可見的指令，再利用 AI 系統(tǒng)降采樣算法使其顯現(xiàn)。grM28資訊網(wǎng)——每日最新資訊28at.com

援引博文介紹，AI 平臺(tái)為節(jié)省性能與成本，通常會(huì)自動(dòng)降采樣（downscaled）用戶上傳的圖片，主流使用最近鄰（nearest neighbor）、雙線性（bilinear）、雙三次插值（bicubic interpolation）等圖像重采樣算法。grM28資訊網(wǎng)——每日最新資訊28at.com

攻擊者可針對特定算法設(shè)計(jì)圖片，讓隱藏的色塊在降采樣后形成可識別文字。例如，Trail of Bits 的案例中，圖片深色區(qū)域會(huì)變紅，并在雙三次降采樣后顯現(xiàn)黑色文字。grM28資訊網(wǎng)——每日最新資訊28at.com

grM28資訊網(wǎng)——每日最新資訊28at.com

一旦文字顯現(xiàn)，AI 模型會(huì)將其視為用戶輸入的一部分，會(huì)結(jié)合正常指令執(zhí)行，從而引發(fā)數(shù)據(jù)泄露或其他風(fēng)險(xiǎn)操作。研究人員在 Gemini CLI 環(huán)境中，利用此漏洞在 Zapier MCP“trust=True”模式下，未經(jīng)用戶確認(rèn)便提取了 Google 日歷數(shù)據(jù)并發(fā)送至指定郵箱。grM28資訊網(wǎng)——每日最新資訊28at.com

該方法已在多個(gè)平臺(tái)測試有效，包括 Google Gemini CLI、Vertex AI Studio（Gemini 后端）、Gemini 網(wǎng)頁與 API 接口、安卓手機(jī)上的 Google Assistant 及 Genspark。grM28資訊網(wǎng)——每日最新資訊28at.com

研究團(tuán)隊(duì)還發(fā)布了開源工具 Anamorpher（測試版），可生成針對不同降采樣方法的攻擊圖片，表明其潛在威脅范圍遠(yuǎn)超已驗(yàn)證的工具。grM28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://m.www897cc.com/showinfo-45-27025-0.htmlAI“看圖”時(shí)的致命盲點(diǎn)，可竊取你的隱私數(shù)據(jù)

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： Perplexity 應(yīng)對“版權(quán)爭議”推出 4250 萬美元專項(xiàng)基金，成首個(gè)提出“直接分成”模式 AI 公司

下一篇： 蘋果創(chuàng)新“清單法”：用 AI 大模型當(dāng)“老師”，教小模型更精準(zhǔn)執(zhí)行復(fù)雜指令