獨家對話Sumsub聯合創始人兼CTO Vyacheslav Zholudev：人類能多大程度上信任AI？
數月前，Fazzaco榮幸地與領先驗證平台Sumsub的聯合創始人兼CTO Vyacheslav Zholudev進行了獨家深度對話。此次採訪是對於當前火爆程度不減、競爭日益激烈的生成式人工智慧領域對金融行業影響這一話題的重要補充。
Vyacheslav Zholudev作為Sumsub的聯合創始人兼首席技術官（CTO），憑藉其無與倫比的技術與創業能力，幫助Sumsub的開發團隊有效地實現複雜的目標。Vyacheslav擁有雅各布斯大學（德國）計算機科學博士學位，曾在ResearchGate擔任解決方案架構師。 他是隱私保護、身份驗證趨勢、數字欺詐案例和國際個人數據合規性方面的專家。
Fazzaco：ChatGPT對金融科技領域有什麼影響？帶來了哪些機遇/價值和挑戰？
Vyacheslav Zholudev：金融科技創新涉及到許多方面。ChatGPT背後的創新之處在於，它讓非常技術性的任務變得更適應於普通大眾。以前，創建、開發和編碼應用程式及軟體需要很高的門檻。ChatGPT的優勢在於，它可以替你完成這些工作，而無需用戶自己具備這些技能。以最近的應用程式創建為例，ChatGPT-4讓你可以輕鬆掌握應用程式創建的程式語言。現在，用戶唯一需要的就是想法，而不是技術知識。這是革命性的發展，它相當於為你提供了一個技術團隊，來實現你的願景。這是一個非常積極的發展，因為它讓更多的人能夠參與到先進技術的創造中，而不需要技術專長。
但是潛在的威脅可能存在於那些想要利用ChatGPT進行投資建議的人。儘管它們可能有一定的價值，但也存在著固有的風險。由於ChatGPT可能產生不準確甚至誤導性的內容，個人可能面臨意想不到的負面後果。此外，還必須注意，ChatGPT的訓練數據是有限的，只包含了2021年9月之前的信息。因此，該技術提供的任何指導可能缺乏當代適用性。
Fazzaco：在金融科技公司中，哪些地方可以使用生成式 AI 技術？
Vyacheslav Zholudev：生成式 AI 技術在金融科技公司中的應用近年來迅速增長。然而，關鍵是要確定其具體的應用場景，以優化其效率，同時避免潛在的負面影響。雖然這項技術的潛力已經得到廣泛認可，但在某些領域使用它應該避免。例如，它不適合用於合規目的，尤其是在金融等受到嚴格監管的行業中。部分可能是由於存在錯誤和缺乏透明度的風險，這會影響監管合規，甚至可能導致法律後果。
另一個不應該完全依賴生成式 AI 技術的領域是金融諮詢。在這方面，人類因素仍然是必不可少的，因為需要考慮個人情況的個性化建議是必要的。過度依賴 AI 生成的建議可能會對客戶造成傷害，而不是帶來好處。
此外，也不應該完全依賴生成式 AI 技術進行數據提取。僅僅基於 AI 生成的建議做出確定結論是有風險的，可能會導致生成虛假的信息。雖然 AI 有潛力簡化流程，但使用時必須謹慎，以確保結論或決策具有高度準確性。
Fazzaco：利用 AI 技術為客戶提供投資建議或市場洞察和預測，相比真正的金融專家有什麼優勢？
Vyacheslav Zholudev：利用 AI 技術提供投資建議和市場洞察已經越來越普遍。然而，必須了解這種技術相比真正的金融專家的優勢和局限性（我已經在回答第一個問題時提到了這一點）。雖然 AI 技術可能不適合直接進行市場預測，但可以用來分析和總結冗長的文檔。例如，可以綜合公司的財務報告，以更好地了解運營情況，為有經驗的投資者提供獨立做出投資決策的起點。
然而，AI 生成的洞察可能無法完全取代金融專家的專業知識和直覺。必須注意，AI 生成的洞察可能受到可用數據的偏見或限制的影響。因此，任何由 AI 得出的建議都必須經過人類專業知識的審查和指導，以降低風險和不確定性。
此外，通過使用 AI 使投資洞察更容易獲取，可能會導致沒有必要的知識或經驗進行成功交易的投資者湧入。市場對這種激增的反應如何尚不確定，這繼續證明人類專業知識在決策中的重要性。雖然 AI 可以支持金融決策，但應該謹慎使用，認識到它的建議只有在與人類洞察力和判斷力相結合時才有用。
Fazzaco：ChatGPT有哪些局限性？
Vyacheslav Zholudev：我想到的第一個典型的ChatGPT的缺點是可能出現幻覺。聊天機器人可能產生令人恐懼又令人信服的回覆，其中可能包含錯誤或不準確的信息，無意中對客戶造成傷害。即使有複雜的算法和強大的語言生成能力，ChatGPT仍然面臨著提供準確建議的風險。
其次，ChatGPT的訓練數據只到2021年9月為止，這使得它對金融世界不斷變化的格局有些不相關。這種局限性如何影響平台的整體性能和實際金融決策的適用性，目前還不確定。
Fazzaco：摩根大通曾因為合規問題限制了員工使用ChatGPT。你們公司對這項技術是什麼態度？
Vyacheslav Zholudev：的確，將敏感數據發送給ChatGPT可能不是一個好主意，考慮到最近的數據泄露，導致安全漏洞增加。我們的目標是僅將AI技術用於非敏感信息，如市場洞察、競爭對手分析和初步搜索，以降低網絡威脅的風險。這種方法確保了ChatGPT的潛力得到最大化，而不會將財務或敏感數據暴露於威脅之下。在處理敏感數據時採取額外的謹慎措施，金融科技公司可以大大降低造成破壞性泄露和數據泄露的風險，確保客戶的數據保持機密和安全。
Fazzaco: 你能多大程度上信任AI/ChatGPT？
Vyacheslav Zholudev：雖然AI和ChatGPT在各個行業都是強大的工具，但對它們產生的結果保持懷疑是很重要的。當不確定時，重新表述或擴展問題，以衡量ChatGPT回復的可靠性和一致性。理想情況下，一個人不應僅根據ChatGPT的回覆做出重要決定。
相反，我認為一個人應該把它當作一個靈感來源，並對手頭的事情有一種直覺。最終，在做出關於財務方面的重要決定時，人類的參與和分析是必不可少的，使用AI技術必須謹慎進行，以安全地發揮其潛力。
Fazzaco：有專家認為，ChatGPT監管滯後存在潛在風險。一些國家，比如美國，已經呼籲對人工智慧技術進行監管，以確保不會損害經濟增長或成為國家安全風險。您認為ChatGPT的未來會怎樣？
Vyacheslav Zholudev：ChatGPT的未來讓許多人感到擔憂。除了擔心失業和全球經濟影響之外，還有一些與我們領域相關的令人警惕的隱患。如果ChatGPT學會了處理圖像，它很容易就可以用來製造虛假的文件和深度偽造，而這些目前正被用於KYC入職流程中。因此，目前用於安全用戶入職的方法可能不再足夠。這可能導致身份驗證行業發生重大變革，甚至回歸傳統方法，即人們需要親自到辦公室開設銀行帳戶。
這些人工智慧工具（包括ChatGPT在內）所釋放出來的速度和力量，迫切需要進一步調查其潛在的負面能力。科技行業領袖和著名計算機科學家發表了一封公開信，呼籲停止對ChatGPT進行進一步的開發，超過其最新的公開版本Chat-GPT4，原因也是出於同樣的擔憂。如果這些技術要繼續發展，就需要一系列監管和法律保障來引導其有序地發展。
此外，歐洲刑警組織最近警告說，他們已經看到詐騙者利用Chat-GPT進行他們的計劃，並補充說：「對於一個技術知識不多的潛在犯罪分子來說，這是一個無價之寶。與此同時，一個更高級的用戶可以利用這些改進的能力來進一步完善甚至自動化複雜的網絡犯罪手法。」
英國政府提出了一個關於人工智慧技術規則和監管的框架建議，特別是針對「它可能對人們的隱私、人權或安全造成的風險」，我們預計其他政府也會效仿。必須儘快採取一系列不會阻礙人工智慧技術創新的保障措施，以保護所有相關方。
閱讀更多
Fazzaco人工智慧論壇：來自經紀商和金融科技業界領袖的聲音——當金融遇上ChatGPT
訂閱
