全球首個AI監管法律落地！經紀商要做好哪些功課？

2024年5月21日，歐盟理事會正式批准了《歐盟人工智慧法案》（EU AI Act）。一般來說，法案在經過歐洲議會和理事會主席簽署後，將會很快在EU官方公報上公布，並於公布後的20日內生效。該法案成了全球範圍內第一個正式的對於AI技術進行監管的法案。

歷時四年的立法

該法案最早可以追溯到2020年。當年的2月，歐盟委員會發布了《人工智慧白皮書》（White Paper on Artificial Intelligence）。當年10月，歐盟各國領導人在理事會首次對AI話題進行了辯論。

時間來到2021年4月21日，歐盟委員會正式在這天提出了《法案》。2022年12月6日，歐洲理事會通過了總體方向，允許和歐洲議會開始談判。2023年12月6-9日，三天的馬拉松會談之後，歐盟理事會和議會終於達成了協議。

2024年3月13日，歐洲議會正式對該法律發起投票。投票結果是523票贊同、46票反對和49票期權，獲得全面勝利。上周，即我們前面提到的5月21日，該法案獲得了歐盟理事會的批准。但正如我們所述，此次此刻並不意味著該法案已經生效，不過無論如何，這已經只是時間問題了。

歐盟AI監管的核心理念——風險管理

其實歐盟法案的概念源自風險管理，也就是說真正監管的不是AI技術，而是該技術在社會特定領域的使用方式所具備的風險。根據該法案條例，共分為五類風險：首先是「不可接受的風險（Unacceptable risk）」、「高風險（High risk）」、「一般目的AI（General-purpose AI）」、「有限風險（Limited risk）」和「最小風險（Minimal risk）」。

由於法案將AI技術定義為「以人為本」的技術，應作為人類的工具，以增進人類的福祉，所以許多使用情形都被禁止，其中就包括部分金融機構、經紀商在KYC等流程中所可能涉及的使用情形：

比如，在「不可接受的風險」中，明確列入了包括「操縱人類行為的人工智慧應用程式、在公共場所使用實時遠程生物識別（包括面部識別）的人工智慧應用程式以及用於社會評分的應用程式（根據個人特徵、社會經濟地位對人們進行排名） 狀態或行為）。」以上這些應用場景必須得到豁免後才能使用，因此，這一類別會影響到對信用評分、風險評估和欺詐檢測等金融決策過程非常重要AI應用程式。

此外，在「高風險」類別中，還包括生物識別系統、關鍵基礎設施的運行以及AI支持的人力資源軟體（如申請工作的軟體）。

經紀商應該如何應對《法案》

可以看到，《法案》為了保證AI使用場景的透明度、準確性和公平性，做出了全面的風險評估和風險環節措施的規定。對於經紀商在內的金融機構而言，如要避免新《法案》生效後出現違規行為，一定要進行徹底的風險評估，並採用有效的風險緩解措施進入AI在交易中的各類使用場景。

這就包括確保AI系統的數據質量；留存詳盡的文檔以提高透明度；履行對於投資者的信息披露義務；以及建立一套行之有效的人工監督機制。

還有一點，根據法案中對於「有限風險」的規定，意味著經紀商在向用戶提供諸如「聊天機器人」和「生物識別分類系統」等AI應用時，所生成的音頻、視頻和圖像內容一定要標記為「AI生成」，方便用戶選擇是否進一步進行交互，這樣才能免去自身的責任。

結語

對於經紀商來說，《法案》的實施並不一味帶來的是更高的合規成本，反而在AI監管框架內，經紀商將比以往任何時候都更能贏得交易者的信任。畢竟，在保證AI運營符合法律規定和道德規範後，就有可能進一步實現市場競爭的差異化。因此，經紀商應儘快主動評估目前自身平台所使用的AI場景，以確定哪些場景更容易受到《法案》中高風險場景的影響，以及還有哪些新的監管需求尚未得到滿足。