導入AI所面臨之七大風險與可能因應之道(上)

七大風險聽起來好慘

不到一年前,因為從台灣人工智慧學校學到很多,因此就自告奮勇到AIA第一屆校友會上台分享AI應用上可能遭遇的風險,並嘗試提出一些可能的解決之道。

附上難得輕鬆的簡報

天下沒有白吃的午餐,世界經濟論壇所發布的Global Risk Report 2017內,十二項新興科技中,AI雖然可以帶來非常大的好處,但也同時產生了最負面的影響。

AI就像雙面刃(最右上角)

綜合了各方報告與個人的觀察,以下整理出七大AI(或是導入AI後)可能為企業帶來的風險。

  1. 歧視偏見

2009年5月,華裔美國人Jocelyn Wang買了Nikon Coolpix S630相機作為母親節禮物,在幫家人拍照時,螢幕上卻一直出現「是否有人眨眼?」的警告訊息,即使大家眼睛都努力張到最大了,相機仍繼續警告。Joz把這個相機的「特異功能」發表到網路上,並宣稱是「種族歧視相機」後,掀起一片譁然。

我眼睛小我驕傲

無獨有偶, 2016年紐西蘭一名華裔DJ Richard Lee,因為要更換紐西蘭護照,透過網路上傳照片至紐西蘭內政部時,網頁上居然出現了「相片中人物閉上眼睛」的錯誤訊息,不管他怎麼換照片都過不了網站的檢查。(眼睛小到底得罪誰了…)

照相機一直出現警告訊息,或是上傳照片常常失敗,看起來只是有點好笑,亞洲人可以當作自嘲笑話,不會嚴重影響人生。但如果法官量刑所參考的軟體存在歧視,那就真的笑不出來了。

美國司法制度中,法官承擔了刑事量刑(也就是決定要判幾年)的責任,而這個被告是否再犯機率的高低,很大程度影響了法官的量刑(越容易再犯當然關久一點不要出來害人)。在科技發達的今天,許多法官都參考了COMPAS這套軟體背後演算法所提供的再犯風險。非營利媒體Pro Publica在2016年就曾提出一個調查報告,指出COMPAS的演算法存在嚴重的歧視,特別是對於黑人是否再犯有著非常嚴重的高估(當然對白人就是低估)。

右邊的黑人被評為極容易犯風險,但根本沒再犯…

2. 道德兩難

AI在自鴐車的領域發展迅速,也引起了許多道德上的爭議。MIT推出道德機器(Moral Machine)網站,原本希望透過一系列的自駕車失控情境,彙總出一個犧牲「誰」(老人/年輕人、男性/女性、胖子/瘦子、高社經/低社經、動物/行人等)對社會比較好的普世價值。

道德機器的測驗的測驗情境

不過,研究團隊分析近4000萬樣本後發現,不同國情、區域與地理文化,偏好的答案不盡相同。一般來說,全世界大多願意拯救人類,而非動物,但是東方文化的國家比較會拯救長者(敬老尊賢?),而西方文化的國家則比較願意拯救年輕人;而即使同屬東方文化,日本人比較傾向保護行人,而中國則多半支持保護車內乘客。

那麼自駕車的設計者,在遇到這樣的兩難時,汽車內的程式該怎麼指導車子做出「符合社會大眾道德期待」的決定,特別是在沒有放諸四海皆準的道德標準情況下呢?

3. 負面意外

聊天機器人是另一個AI應用的熱區,不少大廠都搶著推出,對岸的騰訊也不例外,推出了Baby Q聊天機器人,迅速引起廣大民眾嘗鮮。結果,一個鄉民問它什麼是「愛國」,沒想到Baby Q誠實到不行,居然回應「 即使隨著裸官的增多,官商勾結,政府稅收的增加…政府對普通人民壓迫的嚴重,依然還願意做一個中國人,這就叫愛國。」

過不久,Baby Q就被關閉了,我想他們老闆應該也被抓去喝咖啡了吧…

誠實的Baby Q

4. 威脅加劇

沒有人規定,壞人/駭客不能用AI吧?

Adam做了一個小小的實驗,他把左邊波斯貓的原圖,偷偷改成了右邊的樣子(肉眼根本看不出來差在哪),然後把這兩張圖片都丟給目前很受歡迎也很強悍的影像辨識模型Inception V3來檢查。原圖不意外地被辨識成波斯貓,改圖卻意外地被辨識成烤土司機!

修改後的照片網址如下,實際試過後你會發現,人工智慧現在還是處於非常脆弱的階段!把波斯貓辨識為烤土司機好像無傷大雅,但如果把員工辨識成老闆,把恐怖分子辨識成擁有核彈發射密碼的總統呢…

https://miro.medium.com/max/299/1*xNGCocsmmxysEr1kuxgjCA.png

From Adam Geitgey

5. 個人隱私

AI除了有演算法,還需要質優量夠的資料,而怎麼蒐集並使用這些資料,就成了個人隱私保護的重要議題。

想像你正在規劃出國旅行,用手機正在閱讀幾篇旅遊部落客的文章,發現在歐洲被搶的機率很高,很多證件要補辦又很麻煩,這時手機內的軟體透過你滑動與按壓銀幕的力量與頻率,偵測出你很害怕的情緒,加上知道你正在閱讀旅遊網站,於是投放了旅平險的廣告給你。

手指偵測情緒不是科幻小說,而是已實作的論文。看到這,你會覺得這軟體真貼心,還是感覺很恐怖呢?

手指洩情緒,很有趣的論文

6. 不導淘汰

我們總是引以為傲的精緻型農業,在AI與機器人的協助下,已經慢慢受到原屬粗放地區的威脅了。

Mashable與雪梨大學合作,開發一系列的智慧農業機器人,可以自己計算最好的剪枝方式、辨識哪些水果熟了可以摘、在不傷害水果的情況下摘果、甚至白天儲存太陽能,晚上持續巡田。

如果台灣每年都還是在吵政府要不要補貼、中間商又賺了多少,而不是趕快引進這種新技術,相信很快就失去自己原有的優勢了。

很強悍的智慧農業機器人(From Mashable

7. 投報率低

2016年3月,AlphaGo打敗圍棋世界冠軍李世乭後,背後的DeepMind公司也開始受到重視,因為應該準備發大財了吧?

2016年,DeepMind虧了約1.64億美金,沒問題,畢竟AlphaGo剛橫空出世,需要一點時間讓子彈飛。2017年擴大為3.68億,嗯子彈飛得有點久,再給它一點時間。2018年呢?

虧損再擴大為5.7億美金。

也只有富爸爸Google,才能夠這樣燒錢呀。有錢就是任性!

商管 * 科技 | 顧問 + 稽核 | AI X Fraud | baubimedi@gmail.com

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store