陳國祥
- 陳國祥，政治大學新聞系、新聞研究所碩士，台灣資深媒體人，曾任中央通訊社董事長、中央選舉委員會委員、《自立晚報》總編輯、《中國時報》總編輯、《中時晚報》社長、臺北市政府客家事務委員會委員、《中國時報》特約主筆、時報育才董事長。 現為<大師鏈>傳媒顧問。
AI深偽技術誤導選民的技術精進
2024-07-31
15733
.jpg)
這支影片廣獲分享，足以證明AI生成的圖片、影片或錄音檔已被使用在操弄、誤導選舉，由於栩栩如生，真偽難以辨識，所以令人更加擔心選舉中被惡用。
陳國祥／評論
正在如火如荼進行的美國總統大選，近日出現一個轟動江湖的插曲，令人對選舉未來可能出現的不可控欺騙情事深以為憂。
人工智慧（AI）深度偽造技術幾可亂真。日前一支運用AI深偽操作，模仿將代表民主黨參選總統的賀錦麗影音檔出現，再經科技億萬富豪馬斯克分享在自家社媒平台X，而且沒有標註這支影片的初衷是在諷刺，造成以假亂真的錯亂。人們更加擔憂AI的力量會在關鍵時刻影響選情。
影片把賀錦麗沒講過的話塞到賀錦麗模樣的人物嘴裡，真假難辨，手法雖然算不上創新，但這次選舉兩方旗鼓相當，一個運用深偽技術的造假可能對一個候選人產生無可彌補的損害。
這支上週「被公布」的「競選廣告」，證明是使用相同的影像配上模仿賀錦麗的聲音，將旁白偷天換日。影片中的「賀錦麗」說，「我，賀錦麗，是各位的民主黨總統候選人，原因在拜登總統終於在辯論中曝露自己的老邁」。偽造影片中宣稱賀錦麗是「多元僱員」，既是女人又是有色人種，而且說她連「治國初步」都不知道。影片保留了「賀錦麗選總統」的字眼，還添加一些賀錦麗過去真講過的話。
她的發言人立即譴責馬斯克推波助瀾的惡行：相信國人要的是賀錦麗提供的真正的自由、機會及安全，而不是馬斯克與川普經偽造、操弄的謊言。
這支影片廣獲分享，足以證明AI生成的圖片、影片或錄音檔已被使用在操弄、誤導選舉，由於栩栩如生，真偽難以辨識，所以令人更加擔心選舉中被惡用。
高品質的AI工具比以往更容易取得，技術不斷進化，造成的欺騙與誤導效果更難防範與控制。最早貼出這支影片的是自稱「雷根先生」（Mr. Reagan）的YouTube內容創作者，他在YouTube及X平台都表示，這支經過改造的影片旨在諷刺。馬斯克強烈支持川普，他聰明絕頂，轉載這支貼文不太可能是自己先被誤導，更大的可能是蓄意誤導選民。據X平台表示，瀏覽量已超過1億2300萬次，只下標題「這真不可思議」，再配上發笑的表情圖，顯然沒有更正的誠意。人工智慧和深度偽造（deepfake）技術正迅速改變人們接收及處理訊息的方式，別有用心者企圖將其應用在影響公眾輿論及選舉結果，可以對民主制度構成前所未有的威脅與挑戰。
深偽技術的崛起之所以能對選舉產生破壞性影響，主要是因為其可利用機器學習（machine learning）算法，製作逼真的假影片和音頻，在社群媒體上高效傳播給潛在的受影響者。
由於AI驅動的演算法可製作精巧的影音作品，其內容通常被設計用來引起群眾強烈的情緒反應，從而塑造輿論。影片的製作與傳播，還可對選民數據深入分析，而能更精準地定位其信息，從而更有效地傳播給特定群體的選民，從製作到傳送的精準程度令人防不勝防。
由於生成人工智慧的技術日益精進，幾乎任何人都可以創建虛假內容，且愈來愈令人信以為真，但實際上是虛假的圖像、音訊、視頻、虛構的，許多選民對於這種由AI驅動的謊言無從辨識。AI假信息越來越氾濫，社群媒體公司雖然多半想避免捲入政治的棘手內容爭議，但查不勝查，禁不勝禁，無法根絕欺騙性內容。
OpenAI聲稱已禁止使用其工具來做政治競選；Meta表示今年大選禁止大選前的最後一個星期投放新的政治廣告；對於用AI創建出來的圖像，Meta會標記說明。然而，實際上執行不易，往往假造的影片走遍全城後才開始在城門圍堵。
深偽技術其實已問世多年，主要手法是將某人的影片移植到影片中，透過人工後製呈現虛擬真人。現在的深偽技術已進展至人類演員能直接操控螢幕上的機器人，進步到只需單一影像便能產出深偽模型。
人工智慧專家解釋說，這種即時深偽模型需要一個「操控者」負責演出的部分，當「演員」的樣貌疊加在操控者身上時，便能打造出其中一種深偽影片。深偽技術也能用於竄改訊息，或直接讓虛擬的真人說出假話，諸如此類的騙局已經層出不窮，競爭激烈的選舉焉能逃過這種劫數？
【圖片翻攝自x.com/elonmusk?lang=zh-Hant】
正在如火如荼進行的美國總統大選，近日出現一個轟動江湖的插曲，令人對選舉未來可能出現的不可控欺騙情事深以為憂。
人工智慧（AI）深度偽造技術幾可亂真。日前一支運用AI深偽操作，模仿將代表民主黨參選總統的賀錦麗影音檔出現，再經科技億萬富豪馬斯克分享在自家社媒平台X，而且沒有標註這支影片的初衷是在諷刺，造成以假亂真的錯亂。人們更加擔憂AI的力量會在關鍵時刻影響選情。
影片把賀錦麗沒講過的話塞到賀錦麗模樣的人物嘴裡，真假難辨，手法雖然算不上創新，但這次選舉兩方旗鼓相當，一個運用深偽技術的造假可能對一個候選人產生無可彌補的損害。
這支上週「被公布」的「競選廣告」，證明是使用相同的影像配上模仿賀錦麗的聲音，將旁白偷天換日。影片中的「賀錦麗」說，「我，賀錦麗，是各位的民主黨總統候選人，原因在拜登總統終於在辯論中曝露自己的老邁」。偽造影片中宣稱賀錦麗是「多元僱員」，既是女人又是有色人種，而且說她連「治國初步」都不知道。影片保留了「賀錦麗選總統」的字眼，還添加一些賀錦麗過去真講過的話。
她的發言人立即譴責馬斯克推波助瀾的惡行：相信國人要的是賀錦麗提供的真正的自由、機會及安全，而不是馬斯克與川普經偽造、操弄的謊言。
這支影片廣獲分享，足以證明AI生成的圖片、影片或錄音檔已被使用在操弄、誤導選舉，由於栩栩如生，真偽難以辨識，所以令人更加擔心選舉中被惡用。
高品質的AI工具比以往更容易取得，技術不斷進化，造成的欺騙與誤導效果更難防範與控制。最早貼出這支影片的是自稱「雷根先生」（Mr. Reagan）的YouTube內容創作者，他在YouTube及X平台都表示，這支經過改造的影片旨在諷刺。馬斯克強烈支持川普，他聰明絕頂，轉載這支貼文不太可能是自己先被誤導，更大的可能是蓄意誤導選民。據X平台表示，瀏覽量已超過1億2300萬次，只下標題「這真不可思議」，再配上發笑的表情圖，顯然沒有更正的誠意。人工智慧和深度偽造（deepfake）技術正迅速改變人們接收及處理訊息的方式，別有用心者企圖將其應用在影響公眾輿論及選舉結果，可以對民主制度構成前所未有的威脅與挑戰。
深偽技術的崛起之所以能對選舉產生破壞性影響，主要是因為其可利用機器學習（machine learning）算法，製作逼真的假影片和音頻，在社群媒體上高效傳播給潛在的受影響者。
由於AI驅動的演算法可製作精巧的影音作品，其內容通常被設計用來引起群眾強烈的情緒反應，從而塑造輿論。影片的製作與傳播，還可對選民數據深入分析，而能更精準地定位其信息，從而更有效地傳播給特定群體的選民，從製作到傳送的精準程度令人防不勝防。
由於生成人工智慧的技術日益精進，幾乎任何人都可以創建虛假內容，且愈來愈令人信以為真，但實際上是虛假的圖像、音訊、視頻、虛構的，許多選民對於這種由AI驅動的謊言無從辨識。AI假信息越來越氾濫，社群媒體公司雖然多半想避免捲入政治的棘手內容爭議，但查不勝查，禁不勝禁，無法根絕欺騙性內容。
OpenAI聲稱已禁止使用其工具來做政治競選；Meta表示今年大選禁止大選前的最後一個星期投放新的政治廣告；對於用AI創建出來的圖像，Meta會標記說明。然而，實際上執行不易，往往假造的影片走遍全城後才開始在城門圍堵。
深偽技術其實已問世多年，主要手法是將某人的影片移植到影片中，透過人工後製呈現虛擬真人。現在的深偽技術已進展至人類演員能直接操控螢幕上的機器人，進步到只需單一影像便能產出深偽模型。
人工智慧專家解釋說，這種即時深偽模型需要一個「操控者」負責演出的部分，當「演員」的樣貌疊加在操控者身上時，便能打造出其中一種深偽影片。深偽技術也能用於竄改訊息，或直接讓虛擬的真人說出假話，諸如此類的騙局已經層出不窮，競爭激烈的選舉焉能逃過這種劫數？
【圖片翻攝自x.com/elonmusk?lang=zh-Hant】
作者介紹
延伸閱讀
.jpg)
.jpg)