近期,網(wǎng)絡(luò)上興起了一股新的潮流:利用ChatGPT破解照片拍攝地點。據(jù)TechCrunch報道,這一現(xiàn)象正迅速擴(kuò)散,并引發(fā)了廣泛的關(guān)注與擔(dān)憂。
ChatGPT的這項新技能,得益于OpenAI最新推出的兩款圖像推理模型——o3和o4-mini。這兩款模型能夠通過對上傳照片的畫面細(xì)節(jié)進(jìn)行深入分析,甚至對模糊或變形的圖片進(jìn)行裁剪、旋轉(zhuǎn)和放大,從而實現(xiàn)更精準(zhǔn)的識別。這種強(qiáng)大的分析能力,結(jié)合ChatGPT的網(wǎng)頁搜索功能,使得它成為了一個令人矚目的“定位神器”。
在社交平臺上,不少用戶開始上傳各種照片,如餐廳菜單、街區(qū)風(fēng)景、建筑外觀乃至個人自拍,并挑戰(zhàn)ChatGPT及o3等模型來猜測照片的拍攝地點。這些模型展現(xiàn)出了驚人的推斷能力,能夠從照片中的細(xì)微線索中推斷出城市、地標(biāo),甚至具體到餐館和酒吧的位置。
然而,這一趨勢也引發(fā)了人們對于隱私安全的擔(dān)憂。試想,如果有人截取了他人的Instagram動態(tài)截圖,那么利用ChatGPT,他們就能輕松嘗試定位照片中的主人公,且這一過程中幾乎沒有任何技術(shù)障礙。這無疑為個人隱私安全帶來了新的挑戰(zhàn)。
盡管如此,o3等模型在定位能力上仍存在一定的局限性。在實際測試中,模型有時會陷入循環(huán)推理,無法給出明確的結(jié)論;有時則會定位錯誤,出現(xiàn)明顯的偏差。盡管如此,這些模型所展現(xiàn)出的推理能力依然令人印象深刻,并引發(fā)了人們對于新一代“推理型”AI模型安全隱患的廣泛關(guān)注。
值得注意的是,這些模型的判斷往往并不依賴于ChatGPT過往的對話記錄,也不依賴于通常能夠揭示拍攝地的照片EXIF元數(shù)據(jù)。這意味著,即使照片經(jīng)過了處理或編輯,只要畫面中的細(xì)節(jié)足夠豐富,ChatGPT及o3等模型仍然有可能準(zhǔn)確推斷出照片的拍攝地點。
目前,ChatGPT及OpenAI在o3和o4-mini的安全報告中并未提及此類隱私風(fēng)險問題。這引發(fā)了人們對于AI模型在隱私保護(hù)方面的擔(dān)憂,并呼吁相關(guān)企業(yè)和機(jī)構(gòu)加強(qiáng)對于AI模型的安全監(jiān)管和隱私保護(hù)措施。隨著新一代“推理型”AI模型的不斷發(fā)展,如何平衡技術(shù)進(jìn)步與個人隱私安全,將成為未來需要深入探討和解決的問題。