哈里斯說「 拜登在辯論中暴露了自己是個老糊塗」？！人工智慧將操控政治？

近日，埃隆·馬斯克最近分享了一段經過修改的視頻，視頻中模仿了美國副總統卡馬拉·哈里斯的聲音。

在距離美國大選的選舉日倒數幾個月之時，這一事件引發了公眾對人工智慧技術可能操控政治選舉的廣泛擔憂。

虛假操控

馬斯克在X上發布的這段視頻，使用了許多與民主黨總統候選人哈里斯發布的競選廣告中相同的視覺效果，但視頻將畫外音換成了另一個令人信服的哈里斯模仿者的聲音。

視頻中的聲音說道：「我，卡瑪拉·哈里斯，是你們的民主黨總統候選人，因為喬·拜登終於在辯論中暴露了自己是個老糊塗。」視頻聲稱哈里斯是「折中的選擇」，因為她是一名女性和有色人種，並說她「對管理國家一無所知」。視頻還添加了哈里斯的一些真實過往片段。

哈里斯競選團隊發言人米婭·埃倫伯格在給媒體的一封電子郵件中表示：「我們相信美國人民想要哈里斯副總統提供的真正的自由、機會和安全，而不是埃隆·馬斯克和唐納德·特朗普虛假的、被操縱的謊言。」

這段被廣泛分享的視頻是一個例子，表明隨著美國總統大選的臨近，逼真的人工智慧生成的圖像、視頻或音頻片段如何被用來調侃和誤導政治。

這也揭示了一個事實：儘管高質量的人工智慧工具越來越容易獲得，但迄今為止聯邦政府仍未採取重大行動來規範它們的使用，指導人工智慧在政治領域的規則主要由各州和社交媒體平台制定。

混淆視聽

該視頻還引發了一些問題：即如何更好地處理模糊人工智慧適當使用界限的內容，特別是如果它屬於諷刺類別。

發布該視頻的原始用戶是一位名為「Mr Reagan」的YouTuber，他在YouTube和X 都披露，該視頻是惡搞。但根據平台的數據，馬斯克的帖子已被觀看超過1.23億次，而帖子只包含一個標題「這太棒了」，並帶有一個笑臉表情符號。

熟悉該平台的X用戶可能知道，點擊馬斯克的帖子可以看到原始用戶的帖子，在那裡可以看到披露的內容。馬斯克的標題並沒有指導網友這樣做。

一些在線用戶質疑馬斯克的帖子是否違反了X的政策，該政策規定用戶「不得分享合成的、被操縱的或脫離上下文的媒體，這些媒體可能會欺騙或混淆人們並導致傷害。」

但是，該政策對諷刺作品有一個例外，只要它們不會「引起對媒體真實性的嚴重混淆」。

本月初，馬斯克公開表示支持共和黨候選人、前總統唐納德·特朗普競選美國總統。

重大分歧

研究稱，X上與美國大選相關的虛假賬戶激增。而美國選舉官員對政治廣告中人工智慧的使用規則存在分歧。

兩位專門研究人工智慧生成媒體的專家審查了虛假廣告的音頻，並證實其中大部分內容是使用人工智慧技術生成的。

加州大學伯克利分校的數字取證專家哈尼·法里德 (Hany Farid) 表示，該視頻展示了生成式人工智慧和深度偽造的威力。「人工智慧生成的聲音非常好，」他在一封電子郵件中說道。「儘管大多數人不會相信這是副總統哈里斯的聲音，但當視頻中的文字以她的聲音表達時，其震撼力會更強。」

Farid說，向公眾提供語音克隆工具和其他人工智慧工具的人工智慧公司應該做得更好，以確保他們的服務不會被以傷害人民或民主的方式使用。

公民權利倡導組織聯合主席Rob Weissman不同意Farid的觀點，他認為很多人會被這段視頻愚弄。

「我不認為這是個玩笑，」Weissman在接受採訪時說。「我敢肯定，大多數人看到它時都不會認為這是個玩笑。視頻質量不是很好，但已經足夠好了。而且正是因為它符合當下的熱門主題，大多數人才會相信這是真的。」

Weissman的組織一直倡導國會、聯邦機構和各州對生成性人工智慧進行監管，他表示這段視頻是「我們一直警告的那種東西」。

但國會尚未通過關於政治領域人工智慧的立法，聯邦機構也只採取了有限的措施，大部分現行的美國法規都由各州自行制定。據全國州議會會議（National Conference of State Legislatures，NCSL）稱，超過三分之一的州已經制定了自己的法律，規範人工智慧在競選和選舉中的使用。

除了X，其他社交媒體公司也制定了針對其平台上分享的合成和操縱媒體的政策。例如，視頻平台YouTube上的用戶必須披露他們是否使用生成人工智慧製作視頻，否則將被停止更新。

AI的「死穴」

另一份報告還揭示了一個有趣的現象：人工智慧很難理解紐約、新澤西和長島的口音。

報告稱，雖然人工智慧越來越受歡迎，各種應用程序都利用該技術來製作圖片、視頻等。然而，隨著人工智慧的發展，它仍然面臨著理解人類一切（包括口音）的挑戰。

紐約市的口音包括多種變體，尤其是布魯克林和皇后區的口音，其獨特的發音和語調常常難以被AI系統準確理解。

新澤西口音也對人工智慧（AI）系統構成挑戰。新澤西的口音有其獨特的特徵，尤其是在某些區域，例如北新澤西和南新澤西，口音會有明顯的差異。

例如：母音的變化，「coffee」發音更接近「cawfee」，「water」發音更接近「wooder」；

r音的處理，在某些詞語中，r音的發音可能會有所變化。

鼻音化，一些發音具有獨特的鼻音化特徵。

快節奏，新澤西的口音通常語速較快，發音清晰但節奏緊湊。

「我們不同地區的方言可以追溯到早期的定居模式，」紐約大學語言學系助理教授勞雷爾·麥肯齊博士說。「不同的地區由不同的群體定居。最初的定居者奠定了方言模式，這些模式已經延續了數百年，直到今天。」

北澤西人與紐約人和波士頓人一樣，以省略「R」而聞名，例如在「park」、「car」和「New York」等詞中。

麥肯齊解釋說，如今波士頓人會省略「R」，而費城人卻不會，這是因為 17 世紀英國方言之間存在著地域差異。她說，英格蘭南部人會省略「R」，而英格蘭北部人則不會。

「波士頓的定居者是來自英格蘭南部的人，而費城的定居者是來自英格蘭北部的人，」麥肯齊說。「如今紐約市和費城方言之間最大的差異之一就是紐約人會省略『R』，而費城人則不會。」

其原因可以追溯到 17 世紀，當時第一批定居者從英國來到東海岸。

「紐約市也是由來自英格蘭北部的人定居的，這意味著 300 年前的紐約人會把 R 發成音，」她說。「然而，在 19 世紀，受波士頓的影響，紐約口音開始去 R 音。這種影響從未傳到費城，因此費城人一直把 R 發成音。」

我們說話的方式在很大程度上體現了我們的身份。就像費城人不喜歡被誤認為是紐約人一樣，南澤西人也不喜歡被誤認為是北澤西人，反之亦然。

ref：