據觀察者網援引美國福克斯新聞網等多家美媒報道，近日一組由AI制作的美國流行歌星泰勒·斯威夫特（Taylor Swift，中文綽號“霉霉”）不雅照在網絡上流傳。對此，有網友熱議：“科技也是雙刃劍，AI技術如被濫用是很可怕的”。“AI看你怎么用了，副作用是顯而易見了”。據九派新聞報道，泰勒·斯威夫特正在考慮對生成這些圖片的網站采取法律行動。“X”平臺表示正在“積極刪除相關圖片”。偽造照片發布后，立刻引起了全網轟動。在發布照片的賬戶被封之前，這些照片被觀看了超過千萬次。26日白宮記者會上，發言人讓-皮埃爾回應此事，她表示“這令人擔憂”。讓-皮埃爾稱，“雖然社交媒體公司在內容管理方面能做出獨立決定，但我們相信他們在執行自己規則，防止錯誤信息和未經同意的真實人物私密圖像傳播方面能發揮重要作用。”她還稱應該立法對AI生成的虛假信息圖像進行遏制，表示拜登政府會努力解決這類問題。美國AI深度造假詐騙正在增加據澎湃新聞1月17日報道，就在不久前，由人工智能生成的假泰勒·斯威夫特（Taylor Swift）帶貨廣告在社交媒體Facebook上傳播。AI生成的泰勒·斯威夫特推銷Le Creuset炊具視頻“嘿你們好，我是泰勒·斯威夫特。由于包裝出錯，有3000套Le Creuset（中文名譯為‘酷彩’）炊具套裝無法正常線下銷售，轉向線上出售。有一個好消息分享給你們，我與Le Creuset聯手進行促銷——有20位忠實粉絲將免費獲得贈送的炊具套裝。”涉事公司對此迅速做出回應稱，Taylor Swift沒有參與任何消費者贈品活動，所有關于產品促銷的活動均來自官方社交活動。AI“深度造假”技術合成了她的聲音，并將聲音與她的形象和Le Creuset廣告片段拼湊在一起。當受害者被引導至虛假網站后，會被要求支付9.96美元的運費。但號稱免費送的廚具不會真的送出去。Facebook母公司Meta也對這一欺詐活動迅速做出了回應。目前，Meta表示已經刪除該廣告。Taylor Swift并非最新被牽扯到利用人工智能技術造假的名人。1月15日，印度的板球傳奇人物薩欽·坦杜卡也成為了AI深度造假的受害者。什么是AI“深度造假”？AI“深度造假”（Deepfake）技術再次引發關注。深度造假（Deepfake）是英文“Deep learning”（深度學習）和“Fake”（偽造）的混成詞，指利用深度學習技術生成合成圖像、音頻或視頻的技術。美國布法羅大學“媒體取證實驗室”的計算機科學教授呂思偉 （Siwei Lyu）表示，“霉霉”這起“深度造假”詐騙活動很可能是利用文字轉語音服務制作的。這類工具可將腳本轉譯成聲音，并用唇語同步程序將其合成至視頻片段。過去一年，人工智能取得重大進步，制作未經授權的真人數字復制品變得更加容易，音頻、視頻惡搞特別容易，也很難識別。美國商業改善局去年警告，“深度造假”詐騙正在增加，“在購買商品之前，請花一點時間重新檢查帖子和社交媒體賬戶，這些照片和視頻很可能是假的，如果你購買了不合格或不存在的產品，你就會損失金錢（通常比你想象的還要多）。”來源：觀察者網、澎湃新聞、九派新聞SFC本期編輯 江佩佩 實習生 譚雅涵21君薦讀