美財長耶倫警告：金融行業廣泛應用AI帶來潛在“重大風險”

6月6日週四，美國財政部長耶倫出席了金融穩定監督委員會（FSOC）有關人工智能與金融穩定的會議，並在開幕致辭中警告金融機構使用人工智能技術的潛在風險。

有分析稱，這是耶倫迄今爲止對人工智能作出的最廣泛評論。據一位美國財政部官員向媒體透露，耶倫本人也嘗試用過人工智能聊天機器人。

上述委員會在2008年金融危機之後由美國財政部牽頭其他監管機構成立。本次爲期兩天的會議與美國智庫布魯金斯學會合辦，“美國版銀監會”貨幣監理署OCC的負責人也會發表講話。

會議主題是討論金融服務領域使用AI帶來的潛在系統性風險，並分享鼓勵創新與有效監管的洞察。與會者包括監管部門，科技公司、保險公司和資產管理機構的高管，以及學者和銀行代表。

耶倫眼中的金融業利用AI“重大風險”：頭寸過於擁擠，放大市場波動？

耶倫在演講中透露，人工智能與金融穩定是拜登政府高度重視的話題，“在未來幾年只會變得更加重要”。金融公司使用人工智能帶來的“巨大機遇和重大風險”已成爲美國財政部和金融穩定監督委員會的首要議題。

耶倫承認，人工智能爲金融系統提供了巨大機遇，例如通過AI的預測能力進行投資組合管理，利用AI檢測異常的能力來打擊欺詐和非法融資，客服也開始實現自動化。在最新的發展中，自然語言處理、圖像識別和生成式人工智能有助於金融服務成本更低和更易於獲取：

但她同時警告稱，金融機構使用AI在促進機遇的同時伴隨着“重大風險”（significant risks）：

有分析指出，耶倫意在警告，如果許多投資者都依賴於產生相同結果的AI工具，這可能導致某些熱門交易的倉位押注擁擠，從而加劇市場上行或下行的走勢。

同時，如果只有少數幾家公司有能力提供AI模型，一旦其中一家公司出現問題，許多金融機構可能受到波及。更別提AI模型有時會產生有偏差或者歧視性的結果，但耶倫沒提AI系統產生錯誤答案的“幻覺”問題。

美國財政部也在利用AI打擊金融犯罪，FSOC去年首次警告AI對金融體系構成威脅

有美國財政部官員透露，FSOC正在努力探究人工智能如何對金融系統構成威脅，包括加大力度監控人工智能在金融行業的使用情況。

耶倫承認，美國財政部早就在利用AI技術來打擊非法金融行爲，例如檢測洗錢、恐怖主義融資和逃避制裁等“我們面臨的一些最大風險”，美國國稅局則用AI來增強逃稅的欺詐檢測能力。

未來，美國政府和金融監管機構將繼續擴大利用最新技術的能力、深入瞭解AI在金融服務領域的用例，並將公開徵求市場參與者、消費者、學者和社會公衆對金融領域AI應用的意見。

美國財政部還將舉辦人工智能和保險行業的圓桌會議，討論保險公司如何防止AI造成貸款歧視等潛在的消費者保護措施，並將同美國國內與國際的金融監管機構定期對話，共同探究和監測AI對國際金融體系和全球經濟的影響。

耶倫提到，除了促進信息共享和對話之外，金融穩定監督委員會及其成員機構將加強AI監管能力，在已有風險管理指導框架的基礎上，還會引入“場景分析”（scenario analysis）的方法：

去年12月，美國金融穩定監督委員會在2023年度報告中首次警告稱“人工智能對金融體系構成潛在威脅”，將人工智能在金融服務領域的廣泛應用視爲一個“新興弱點”，AI可能帶來的某些風險包括網絡安全、合規和用戶隱私保護等問題。

在報告中，監管機構還提到了對ChatGPT等生成式AI模型“複雜性”的擔憂，除了這些模型可能會產生“幻覺”而提供有缺陷的結果之外，一些人工智能系統像是外部人員無法洞察的“黑箱運作”，令評估系統概念是否合理變得困難，進而增加對其適用性和可靠性的不確定風險。

例如，監管機構擔心，如果銀行依賴“神秘的”人工智能模型，就很難理解其底層系統到底有多安全。AI系統也可能產生並掩蓋有偏見或不準確的結果，導致公平借貸等消費者保護問題。

耶倫也在本次演講中援引了FSOC年報，稱美國財政部希望解決與人工智能相關的直接運營風險、網絡安全和欺詐挑戰。去年的年報特意指出：