Page 123 - 窺見-你以為你知道，其實沒弄懂的事!
P. 123
卷 2 想清楚，弄明白
―藏在你我週遭的難題
術勞工」生產，且成本最低，但可執行非線性多功能工作的
系統。
自動化決策系統並不完美
若跳脫工作恐被奪走的焦慮，相信大多數人都會肯定當代
資通訊科技進步帶來的諸多好處，尤其是自動化決策系統可提
供各式各樣貼心的客製化服務，最易令人上癮。 例如前述的
亞馬遜自動推薦商品服務，即是在自動化決策系統分析消費者
行為之後，試圖提供讓消費者會感覺到「正中下懷」的商品，
並誘發消費行為。
但即使有設計很好的自動化決策系統，也絕非完美。 特
別是當輸入的資料品質有缺陷，抑或用以作判定的整體評估標
準不正確時，自動化決策錯誤的風險便會大增。2016 年美國
總統候選人希拉蕊（Hillary Clinton）在部分民調領先地區得
票率落敗的原因之一，就是如此。
更值得重視的是，自動化決策演算系統中的偏差可能會延
續，甚至放大一些社會既存的有害偏見。哈佛大學教授史維尼
（Latanya Sweeney）指出，若在 Google 搜尋引擎上，輸入非裔
美人常見的姓名時，出現查詢逮捕紀錄的廣告頻率比輸入白人
常用姓名高；相對的，若輸入科學家或祖母等字串，絕大多數
會出現白人的圖像。
121
