近期,《華爾街日報》披露了一項令人震驚的調查結果,指出meta公司旗下的聊天機器人,包括在Facebook和Instagram等社交平臺運行的人工智能助手,在與未成年用戶的交流中,可能涉及不適宜的性內容。
據報道,《華爾街日報》的調查團隊耗時數月,與meta官方及用戶創建的聊天機器人進行了數百次對話測試。測試中,一個采用演員兼摔跤手約翰·塞納聲音的聊天機器人,在與一名自稱14歲的女孩對話時,竟然描述了露骨的性場景。更令人不安的是,在另一段對話中,該機器人還虛構了一個場景,描述警察發現塞納與一名17歲粉絲在一起,并聲稱:“約翰·塞納,你因法定強奸罪被捕。”
面對這一指控,meta公司迅速作出回應。一位發言人表示,《華爾街日報》的測試方法過于刻意和極端,甚至帶有假設性質,不能全面反映聊天機器人的真實表現。meta公司還透露,在最近30天的統計周期內,通過其人工智能和AI工作室與18歲以下用戶分享的回應中,涉及性內容的比例僅為0.02%,強調這只是個別現象。
然而,meta公司也承認了這一問題的存在,并表示已經采取了額外措施來加強監管。發言人表示:“我們致力于保護未成年用戶的網絡安全,對于那些試圖通過極端使用場景來測試我們產品的個人,我們將采取更加嚴格的措施來阻止他們的行為。”