隨著大選投票進入關鍵階段，近日，一段由人工智能（AI）技術生成的印度總理莫迪熱舞視頻在社交網絡上瘋傳，為莫迪的高人氣再添一把火，也顯示AI在今年印度大選中熱度不減。

今年印度大選被稱為該國首次“AI選舉”，AI技術被廣泛應用于競選活動，甚至被認為正在重塑印度的選舉生態(tài)。

不過，在選舉過程中，濫用AI也導致亂象叢生，為莫迪政府帶來巨大監(jiān)管挑戰(zhàn)。

首次“AI選舉”

在一段上傳于社交媒體X的AI生成視頻中，“莫迪”跟著一首動感十足的孟加拉語歌曲盡情舞動。

莫迪本人顯然對此感到驚喜。他在X的個人賬號上轉了這條視頻，并留言說：“和你們所有人一樣，我也喜歡看自己跳舞。在投票高峰期看到這樣的創(chuàng)意真是讓人快樂!”

有網友贊莫迪是“印度有史以來最酷的總理”。

無獨有偶，上周，印度女強人、西孟加拉邦首席部長班納吉的一段AI生成的舞蹈視頻也火爆網絡。

莫迪和班納吉的舞蹈視頻都是用免費網站Viggle制作的。制作過程非常簡單，只需一張照片，再根據教程的基本提示，就能在幾分鐘內生成視頻。

同時，視頻的病毒式傳播十分驚人。在社交媒體X上，“莫迪”熱舞視頻的瀏覽量逾千萬次。

這些只是AI技術“滲透”今年印度大選的最新“水印”。

印度本次議會下院（人民院）選舉被稱為該國首次“AI選舉”。

從生成數字人的競選視頻和個性化音頻消息，到“克隆”候選人的聲音給選民打電話，AI技術被認為正在重塑印度的選舉活動和競選方式。

比如，一段AI生成的“莫迪”拉票視頻讓印度選民獲得全新體驗。

視頻中，數字人“莫迪”竟然能叫出觀看視頻的選民名字。

又如，莫迪本人可以通過官方創(chuàng)建的AI翻譯工具Bhashini，將一場印地語的講話實時翻譯成泰米爾語、卡納達語、孟加拉語、旁遮普語等幾十種印度本土語言。

與此同時，莫迪所在的印度人民黨通過即時通訊軟件WhatsApp發(fā)送大量AI生成的拉票視頻。

在這些視頻中，印人黨成員以數字人形象現身，向選民宣傳莫迪的惠民政策。

通過AI技術，一些政黨為拉票還“復活”了已故具有影響力的政黨創(chuàng)始人或先驅。比如，在印度南部，一名國大黨領袖用AI技術制作了一段2分鐘視頻，再現其已故政治家父親的音容笑貌，以此喚起選民的記憶。

與競選集會、挨家挨戶拜票等傳統(tǒng)方式相比，有AI加持的新競選方式收獲事半功倍的效果。

一家制作競選材料和產品的AI初創(chuàng)公司創(chuàng)始人賈杜恩說，他的團隊每天可以制作1萬個AI視頻。“過去需要七八天才能完成的工作，現在可以在三分鐘內搞定。”

按照專家的說法，AI還能降低溝通成本、提升民調效率。

印度政治活動家和傳播專家維什諾伊說，過去，政黨依靠由工作人員和志愿者組成的呼叫中心，或利用交互式語音應答系統(tǒng)進行宣傳。如今，借助AI技術與選民溝通、互動，成本可以降低多達50倍。民調方面，“傳統(tǒng)上需要數月才能完成的調查現在可以在一天內完成”。

拉杰尼蒂政治管理咨詢公司技術主管德什潘德指出，內容生產的大規(guī)模擴張和向數字化傳播的轉變，凸顯政治信息傳遞方式的革命性變化，也標志著選舉策略進入新時代。

制造選舉亂象

然而，AI在成為競選利器的同時，其以假亂真的深度偽造（deep fake）能力也在干擾這場全球規(guī)模最大的選舉。

上月，濫用AI的新聞頻頻登上印度媒體頭條，盡顯AI在選舉中釋放的負能量。

在兩段AI生成的偽造視頻中，印度兩位寶萊塢知名演員對莫迪發(fā)起猛烈抨擊，并呼吁印度人投票給反對黨國大黨。

兩名演員表示均未授權制作相關視頻。而這兩段視頻在社交媒體上的瀏覽量都達數十萬次。

莫迪政府的兩名高級官員也遇到AI假視頻的尷尬。

其中，一個偽造視頻顯示，印度內政部長沙阿談及一個敏感議題。他說，印人黨將停止面向少數族群的部分社會保障。慮及視頻或對選情造成影響，沙阿迅速辟謠。

維什諾伊表示，印度已經面臨巨大的虛假錯誤信息風險，有了人工智能后，這些信息更能以100倍的速度傳播。

根據世界經濟論壇1月份發(fā)布的一項調查，在未來兩年內，虛假信息將比傳染病或非法經濟活動給印度帶來更高的風險。

事實上，AI被濫用不僅制造了選舉亂象，也在加劇印度國內的黨爭。

針對兩名政府官員“中招”假視頻一事，印度警方逮捕了9人，其中6人為國大黨成員，國大黨譴責莫迪政府“專制濫權”。

競選活動啟動以來，執(zhí)政的印人黨與反對黨國大黨一直相互指責對方利用AI深度偽造與選舉有關的內容，并在網上大肆傳播。

同時，兩黨也將AI作為互相攻擊的武器。比如，國大黨先前在照片墻（Instagram）上發(fā)布了一段AI生成的模仿莫迪的視頻，諷刺莫迪把大量資源投給商業(yè)富豪。

還有分析人士擔心，一些政客在競選中可以利用AI技術達到操縱公眾輿論的目的。

監(jiān)管是難題

面對濫用AI深度造假的問題，如何有效監(jiān)管是一大挑戰(zhàn)。

印度有近10億選民、逾8億網民，印度人平均每天花在社交媒體上的時間超過三個小時。在此背景下，制止虛假錯誤信息傳播是一項高風險工作。

分析人士稱，這需要執(zhí)法人員和選舉官員全天候監(jiān)控，并向社交平臺Facebook和X發(fā)出刪除命令。而假消息在選舉季更是泛濫成災，要迅速甄別并及時刪除幾乎是不可能完成的任務。

專家表示，僅僅靠逮捕、懲罰造假者和傳播者只能“治標”，印度需要制定全面的人工智能法律才能“治本”。

“根本沒有任何規(guī)則，”數據和安全研究員科達利說，“政府讓科技行業(yè)自我監(jiān)管，而不是制定法規(guī)”。

據悉，印度政府只是要求科技公司在公開推出“不可靠”或“未經測試”的AI模型或工具之前，必須獲得政府批準。

有評論指出，AI技術已融入印度的政治格局，促使競選活動和信息傳播方式發(fā)生重大轉變。但是，濫用AI以及相關監(jiān)管缺位也為“AI+選舉”的前景帶來重大挑戰(zhàn)。