Page 11 - NO.116銀行家雜誌
P. 11
因子做出錯誤判斷,或讓那些很少上線,例如處 保AI的判斷公平而透明。新加坡金融管理局就在
境不佳或年老的客戶,因為偏見而權益受損。 2018 年 11 月公布了一套讓AI與資料分析能夠更
研究公司顧能(Gartner)表示,由於資料、演 公平、道德、可問責、透明的原則。它建議公司
算法,或負責管理的團隊具有偏見,到了 2022 定期檢查AI的資料與模型,並用相同的倫理標準
年將有約 85%的AI會算出錯誤的結果。因此產 檢驗人類與AI的決策。
業與決策者都認為,還是需要人類來修正AI的錯 到了 2019 年 4 月,歐盟議會也發布了《可
誤。全球諮詢公司麥肯錫就表示,最近某家歐洲 信賴人工智慧倫理準則》(Ethics Guidelines for
金融公司決定在面對財務脆弱或最近喪失親人的 Trustworthy AI)。制定該準則的第三方專家希望
客戶時,必須有「真人參與」。 藉此讓更多人開發出負責且可問責的AI技術。歐
盟議會去年發布的AI戰略表明了想在該領域領先
衝擊與風險值得監管機關思考 全球的雄心,它決定在 2020 年底前,將公私部門
投資AI的經費提高到 200 億歐元,並在之後 10 年
世界各地的決策者與監管機構,都開始思 內每年投資相同的金額。《倫理準則》知道取得大
考AI對社會與經濟的衝擊,以及盡量降低相關風 眾的信任是成敗的關鍵,因此特別著重AI的透明
險的方法。如今討論AI風險時,不再僅限於技術 度、多樣性、公平、避免歧視與偏見等方面。
上的問題,更加入它對全球金融穩定性的全面影
響。金融穩定委員會(Financial Stability Board)這 AI崛起無國界
個國際政策協調機構在《AI與機器學習對金融服
務業的影響》(Artificial intelligence and machine AI應用風潮已席捲了全球各地的政府與企
learning in financial services)中指出,「若能適當 業,而且一定會繼續深遠地影響我們的日常生
管理相關風險,這些新技術將帶來大好前程」; 活,以及與金錢的關係。霍金曾說:「強大AI的崛
但如果所有銀行都使用同一套演算法和資料流, 起,既可能是人類史上最好的事情,也可能是最
或者全面仰賴AI來擴張市場,可能就有危險。 糟的事情。我們目前還不知道將走向哪邊。」AI確
某些地區有保障人民不受歧視之害的法律, 實具有巨大風險,它除了可能帶著偏見,也會消
這些法律也將適用於AI決策。例如美國的《公平 滅許多工作職位,或將人們的互動方式改得面目
信貸機會法》(The Equal Credit Opportunity Act) 全非。但它的巨大優勢卻也可能蓋過這些風險。
就規定,債權人否決貸款申請的時候,必須提 因此重要的是,我們要確保AI成為一種善良
供一份書面理由。歐盟在 2018 年 5 月全面生效 的力量,讓它將金融市場與整個社會變得更為包
的《一般資料保護規範》(General Data Protection 容。各國政府、監管機關、企業之間必須通力合
Regulation)也寫明,人類有權拒絕完全由電腦來決 作,以彼此不矛盾的架構降低AI無意間造成的風
定自己的案件。在某些情況下,客戶可以要求人 險,並防止人們藉此機會逃避責任。世界各地都
類出面,在真人面前表達意見或質疑決策結果。 有人呼籲持續進行相關的國際級討論,因為其成
另一方面,決策者與監管機關也設法開發一 敗可能決定每個人的未來。(本文作者為台灣金
套諮詢指南,給引進AI的金融機構使用,藉此確 融研訓院特聘研究員)
11
台灣銀行家2019.8月號
1 5% JOEE ɨʹ