研究警告：AI假新聞恐惡化銀行擠兌現象

英國研究公司Say No to Disinfo和傳播公司Fenimore Harper的一項新研究強調，人工智慧生成的假新聞在社交媒體上傳播，引發銀行擠兌的風險日益增加。該研究表明，生成式人工智慧可用於創建關於銀行財務狀況的令人信服的虛假敘事，可能導致儲戶迅速取款。

AI生成和傳播虛假信息的便利性和速度是主要擔憂。研究人員向英國銀行客戶展示了AI生成的示例內容，例如聲稱客戶資金不安全的虛假新聞報導，或嘲笑安全問題的表情包。他們發現，三分之一的人在看到這些內容後「極有可能」轉移資金，另有27%的人「有些可能」。

「由於AI使虛假宣傳活動比以往任何時候都更容易、更便宜、更快、更有效，因此對金融業的新興風險正在迅速增長，但卻經常被忽視，」報告指出。該研究強調了惡意行為者利用AI創建和放大關於金融機構的有害敘事的潛力。

該研究估計，每花費10英鎊在社交媒體廣告上放大虛假內容，就可能有高達100萬英鎊的客戶存款面臨風險。這一計算基於英國客戶的平均存款、社交媒體廣告成本和估計的觀看人數，說明了問題的潛在規模。

該報告建議，銀行應加強對媒體和社交媒體的監控，並與取款跟蹤系統相結合，以檢測虛假信息對客戶行為的影響。這種綜合方法將使銀行能夠識別與負面信息在網上流傳相關的異常取款模式。

雖然一些機構，如Revolut，承認了潛在的威脅，並強調了其現有的監控措施，但其他機構，包括NatWest和Barclays，拒絕置評。Revolut金融犯罪主管Woody Malouf表示，這家金融科技公司會對新興威脅進行實時監控，並認為雖然全行業範圍的事件不太可能發生，但仍然存在可能性，需要做好準備。他還強調，社交媒體平台需要承擔更大的責任，以防止虛假信息的傳播。

行業機構UK Finance指出，「銀行正在努力管理和減輕與AI相關的風險，監管機構正在研究這項技術可能對金融穩定構成的潛在挑戰。」 這表明，雖然銀行意識到了風險，但AI生成的虛假信息帶來的具體挑戰需要進一步關注和協調行動。該報告的發布恰逢在法國舉行的人工智慧峰會，此次峰會的重點是促進AI的傳播，這與之前強調風險管理的峰會有所不同，凸顯了圍繞AI對社會影響的討論正在發生變化。