我們必須面對數位化時代所帶來創新的機會與風險。重要的是如何確保個人資料之使用,建立在民主基本制度的公共利益基礎上。金融科技在金融領域的運用,日益廣泛,尤其大數據及人工智慧(BDAI)使金融業得創新經營模式,提供更有效率及效益的金融服務。
目前各銀行正在大力推動大數據分析並透過電腦的運算法(algorithm)應用於機器學習( machine-learning)的人工智慧,其中運用於線上或APP申請消金個人信貸功能,用以承貸決定、額度及利率,所謂對於個人的自動化程序決策(automated individual decision-making),及利用客戶個資素描個人(profile)用於預測客戶需求或消費行為喜好,以行銷或提供客製化的金融產品服務,對於金融消費者皆具有權益的影響。
由於上該消金信貸的評分決定及個人素描的內容與歸類,皆屬銀行內部資料,對銀行具有商業利益及作業效率,但對客戶欠缺透明,而受到選擇的限制,可能影響消費者在金融業的公平對待。客戶可能會想知道為什麼拒絕承貸、額度為何被縮減、為什麼負擔較高的利率,目前線上申辦客戶並無申訴或異議的管道。銀行依其對客戶所作素描的個人圖像而評定的投資等級,進而推薦銀行認為適合的理財商品,將限制客戶其他商品的選擇。
歐盟2018.5.25開始實施之「個人資料保護通則」(The General Data Protection Regulation , GDPR)第四節標題Right to object and automated individual decision-making第21條及第22條,對於上述自動化程序決策情形,設有保護個人資料主體的權利被侵害的補救條款。對於個人素描的檔案資料,可依第21條隨時拒絕,使檔案資料持有者不得再為處理及利用。對於個人的自動化程序決策,依第22條客戶在一定條件下,如該決策對於該客戶有法律效果或類似重大影響者,有權不受完全基於自動化程序作成的決定所拘束。因此,在歐盟對於上述線上申辦信貸並輸入個資,透過銀行的電腦運算,決定是否承貸或承作利率時,依GDPR應通知客戶就銀行決定及個人需求,表達異議意見,以便有再經人工重新審視的機會。
透過機器運用大數據人工智慧的演算而進行自動化程序決策時,例如個人線上或APP申貸,依銀行要求輸入資料,可能個人輸入資料不正確,或銀行要求提供的資料不周全,影響對承貸決定,或因未及驗證真實而作承貸決策。或機器人理財時,可能因先前對於客戶個人的素描檔不全,而造成金融商品不當行銷或提供的投資組合配置建議不當等情形時,因機器無法承擔責任,究應由誰負責。當然最終仍應由業者承擔決策的各項責任,故如何及早發現自動化決策的演算分析程式之缺失,顯得越來越來更形重要。
上述GDPR給予客戶有不受自動化決策限制之權利(自動化決策異議權),或可減少自動化決策所生的缺失,並可作為我國個人資料保護法的修法參考。尤其在人工智慧利用大數據分析為基礎,需要蒐集龐大的個資為前提,我國個資法對於個資的蒐集、處理或利用,仍建立在特定目的之立法原則,不得逾越特定目的之必要範圍,並應與蒐集之目的具有正當合理之關聯,為因應人工智能未來的發展,經由機器演算及學習能力所處理而產出新的個資素描,已非原始蒐集資料,是否屬於特定目的內之蒐集行為,應及早面對個資保護法制的準備。