Page 10 - NO.116銀行家雜誌
P. 10
ᝈ˂ɨ
Global View
非監督式機器學習（unsupervised machine learning） 題，並確保使用方式符合公司的整體標準與價值
中，即使輸入AI系統的資訊是透明的，人類也很 觀。而且AI將無孔不入，無論商業、法規、風
難充分了解程式的決策過程，因此無法解釋決策 險管理，還是安全部門，都需要一起研發相關
結果。但金融服務業是一種高度監管的行業，決 規定以及符合道德的演算法模型。而隨著金融
策的結果，例如拒絕申請抵押貸款或人壽投保， 服務業使用 AI的範圍逐漸增廣，公司也得像處
可能會改變人的一生，我們不能在沒有正當理 理其他風險一樣，用全盤的視角來面對 AI固有
由的時候，光靠「電腦說不行」就否決客戶的申 的問題。
請。消費者會希望知道哪些決定將影響自己，並 此外，分析人士也提出一些可能降低AI偏
了解之後要怎樣調整行為才能獲得批准。 見的其他方法。最直觀的一招，就是讓AI開
最重要的是，如果我們無法解釋決策，可能 發團隊反映出社會的樣貌。根據世界經濟論壇
也就無法發現系統充斥著各種不公平的偏見。因 （World Economic Forum）發布的《2018 年全球
此公司經常採取一種重視透明性甚於效能的折衷 性別差距報告》（The Global Gender Gap Report
方案：即使償還貸款的可預測性會降低幾個百分 2018），AI專家目前只有 22%是女性，這數字需
點，但只要能夠了解系統的決策方式，藉此揪出 要大幅提高。此外，保持輸入AI模型的資料的多
無意間滲入系統的偏見，而且能向監管機關解釋 樣性也同等重要，但這實行起來充滿挑戰。雖然
公司的管理方針，就依然值得。 當代科技讓我們能夠從社群媒體、行動網路等得
AI的問題早就跨出了IT部門的範疇。有效 到各種足以支持信譽的資料，讓金融標準變得更
運用AI需要公司高層參與，他們可以提出相關問 包容；但它也會讓模型變得不透明、因為無關的
隨著金融服務業使用AI的範圍逐漸增廣，每間企業都需用全盤的視角來面對AI固有的問題。（圖／達志影像）
10 台灣銀行家2019.8月號
1 5% JOEE ɨʹ
