極端組織推數字人主播辦AI研討會，警惕AI技術成恐怖分子宣傳新利器

3月22日，恐怖分子襲擊了俄羅斯莫斯科的“克羅庫斯城”音樂廳（Crocus City Hall），共造成140多人死亡。此後，一段有關這次襲擊的宣傳視頻——據稱來自極端組織“伊斯蘭國（IS）”——開始在網上流傳。

據《華盛頓郵報》5月17日報道，恐怖分子的支持者精通技術，他們利用新的人工智能工具來傳播極端主義。追蹤恐怖分子和極端分子網絡活動的公司SITE情報集團（SITE Intelligence Group）表示，極端組織“伊斯蘭國”（IS）支持者的AI生成媒體項目“新聞收穫（News Harvest）”已發佈了6條視頻，獲得“病毒般”的擴散效果，並在世界各地的支持者中招募新成員。

“伊斯蘭國”組織擅長媒體運作，可以製作好萊塢級別的招募視頻來吸引年輕人。現在，人工智能視頻生成工具可以使該組織以更低的成本創建此類內容。包括“基地”組織在內的幾個伊斯蘭激進組織已表示有興趣使用人工智能聊天機器人、圖像生成工具和語音克隆工具來快速創建虛假信息。

人工智能意味着遊戲規則的改變

3月以來，“新聞收穫”幾乎每週都會發布有關極端組織“伊斯蘭國”在全球各地行動的視頻。SITE情報集團聯合創始人麗塔·卡茨（Rita Katz）表示，該節目的製作類似於電視臺的新聞廣播，標誌着AI已成爲極端組織“伊斯蘭國”分支一種強大的宣傳工具。

“對於IS來說，人工智能意味着遊戲規則的改變。”卡茨說，“這將是他們傳播血腥襲擊的快速方式，幾乎能到達世界的每個角落。”

在節目中，人工智能生成的新聞主播穿着迷彩服出現在屏幕上，新聞滾動條和視頻片段顯示IS成員正執行恐怖任務，主播們宣讀IS官方媒體的快訊。

3月15日，名爲Al Kurdi 500的IS支持者在私人消息服務器上提出關於“採用人工智能宣傳的優勢”的案例。“如果兄弟們製作有關每日新聞的視頻，作爲閱讀文本新聞和查看圖像的替代方案，那就太好了，就像半島電視臺等新聞頻道如何談論事件一樣。”這名支持者寫道，“技術已經取得了很多發展，現在會更容易做到，特別是在使用人工智能的情況下……媒體與實體戰爭一樣重要，甚至更重要。因爲它對人們的影響非常大。”

該消息發出7天后，IS聲稱對莫斯科的音樂廳發動了襲擊。隨後，名爲Hisad的該組織支持者迅速動員起來，製作了一段人工智能生成的視頻並進行宣傳。3月26日，Hisad在私人信息平臺上發佈了“新聞收穫”的第一集。

自莫斯科襲擊事件以來，“新聞收穫”已經發布了6段節目，概述了IS分支機構最近在全球各地的行動，包括尼日爾、喀麥隆、伊拉克、敘利亞和尼日利亞。目前還不清楚他們正在使用什麼人工智能技術，儘管帖子中的一些支持者鼓勵使用“好的”人工智能軟件。

招聘AI人才，發佈聊天機器人使用指南

中東媒體研究所 （MEMRI） 執行主任史蒂文·斯大林斯基（Steven Stalinsky）說，這些視頻並非由IS官方部門製作，因此尚不清楚它們是否符合該組織的總體戰略。但他表示，因爲該組織一直在快速採用尖端技術，所以有可能創建人工智能媒體部門。

此外，親IS的媒體已經在尋找掌握人工智能技能的人才，他們在招聘啓事中要求：熟悉海報製作、文章撰寫和視頻編輯，並精通Adobe Photoshop、Premiere和AI。

“基地”組織等其他激進組織也在討論人工智能的使用。2月9日，一個相關組織宣佈將開始舉辦在線人工智能研討會。次日，它與另一個“基地”附屬組織合作發佈了一份50頁的指南，標題爲《使用人工智能聊天機器人的不可思議的方式》，其中提供了ChatGPT的基本概述。

反恐新挑戰

反恐專家表示，雖然IS已經被削弱，但人工智能可以讓其支持者在恐怖襲擊發生後的幾天內迅速進行宣傳，這些宣傳在網上停留的時間很長，而此時招募新成員的機率也很高。

華盛頓近東政策研究所高級研究員亞倫·澤林（Aaron Zelin）表示，人工智能可以爲任何地方的人們提供接受宣傳、創建人工智能生成的媒體並參與極端主義組織的能力，從而有助於本土極端主義的發展。“如果你往牆上扔那麼多意大利麪，最終其中一塊會粘在牆上。”他說，“它可以爲此類內容的病毒式傳播提供更多途徑。”

斯大林斯基表示，運營社交平臺的科技公司對IS支持者所傳播的內容監管不力，這對監管機構和反恐工作來說將是一個挑戰。對於這一點，聊天應用Rocket.Chat的公關代表萊斯·馬查多羅查（Laís Machado Rocha）稱，該平臺是開源的，不在其服務器上託管消息，因此無法刪除極端分子的消息。而Telegram和X沒有回覆置評請求。