【漫長驚慄】
即使我們好像愈來愈長壽,最終我們都會老,普遍了六十歲就是步入老年階段,如果身體條件較好,有機會到了七十歲仍然健步如飛,但大部分人的七十歲打後,衰老的速度愈見明顯,不管我們最後有百二歲或者八十歲,這都只是一條或漫長或短促的老年生活,不管記憶力和體力逐漸衰退,餘下的生命難免黯然無光。
老人自必然想在自己熟悉的地方終老,能夠在自己家裡走完最後一段路是真正夢寐以求。當然大前提是個的健康狀態,包括身體和精神上,不容易估量會牽連照顧者需要付出的精神和時間。需要爭論的,可能只是究竟中風引致肢體癱瘓不容易照料,還是認知障礙更讓人心力交瘁。即是你情願腿壞還是腦壞。但其實,腿壞最終也引致腦壞,反過來亦然。
家裡有老人嚴重中風,也足足等待了三年多才能入住由政府營運的老人院舍。要知道在香港,輪候入住政府營運的院舍跟輪候公屋不遑多讓,等到了的好運程度如同中六合彩二獎。其實不是政府的特別好,只是私營的特別差。私營院舍獨板間房間好像好聽,收費昂貴不在話下,月費逾萬非常普遍,還要所有日常生活用品尿片牙刷毛巾每項收費,但通常改不了賺盡的習性,因為薪金永遠是最大支出,人手通常非常緊絀,由一個員工看顧十多位老人,在個半小時要完成所有餵飯工序。老人稍為使脾氣的,或根本吞嚥困難的,好容易想像會得到怎樣的看待。
眼見過的,是職員連幫忙把睡床的老人坐起來進食都懶,因為時間關係就把飯菜直接送進平躺著的病患老者口中。當然滿身滿頸都是飯粒菜渣,雖然事後也會稍為清潔替換的。你要投訴嗎!你想換院舍嗎!沒相干,根本私人院舍老早把床位賣了給政府,不愁生意的,這個走了下個會補上,供求異常失衡。聽說過,月付三五萬的高級私院,聽說服務會比較殷勤比較人性化,有錢可以比較容易解決問題。
時間最能磨蝕和洗刷所有恩情和人性。癱瘓三年又沒有億萬身家分配,床前再無孝子近乎理所當然。沒有埋怨親人的冷漠,只能說各自修行。事實我也逐漸失去耐性和自以為豐滿的善良。老人脾氣本來大,三年來半邊身不能動彈,對於一位本來壯碩如牛的人來說,總會積累難以想像的憤慨。對於任何走近身的人,他說得出口的,表情可表達的,完全不能以常理推斷,會相當不合情理也不由自住挑釁別人。Anthony Hopkins在《The Father》出神入化的演出,我經常親身領教。只能說,好容易讓照顧者也變得神經錯亂,甚至會惹起照顧者動粗的例子屢見不鮮,衝動到按著老人嘴巴叫他收口,跟近年流行用枕頭幫忙了結殘生的原意相近。
我曾經想教訓動粗的人,誰知道自己面對老人時,也被激心得好厲害,就像Anthony Hopkins的女婿般,對失智或橫蠻老人厲聲叱喝是經常的,想拍打他的衝動是有的,要好努力才可以堅守不可以對癱瘓病人動手這底線。感覺就像《西遊記月光寶盒》的觀世音,親自領教過唐三藏的長氣煩厭,也想親自動手握斷唐三藏頸項,只是孫悟空比自己早動了手。在情在理應該教訓孫悟空,心底裡又隱隱然體諒行兇者的燥動。
六項奧斯卡提名《爸爸可否不要老》(The Father),安東尼鶴健士(Anthony Hopkins)演患有認知障礙症的八十歲獨居老人,女兒(奧莉花高雯Olivia Colman飾)為他聘請看護,卻一一被他趕走,步入中年的奧莉花難得遇上有情郎,可是固執又倚賴的父親教她進退兩難。安東尼的狀況是走動沒問題,失智情況卻日漸嚴重,甚至會認不清楚女兒和看護,會經常弄不清時序,會經常懷疑自己的腕表被偷竊,會忘記了另一位女兒早因意外死亡。不只於日常剛吃了早餐又肚餓起來,更會記不起是自己搬進女兒家裡,而誣告女兒企圖侵吞自己樓房。Anthony Hopkins的演出實在精釆絕倫,既冥頑不靈又內疚自責,有照顧經驗的人會明白那種夾雜憤慨絕望又憐惜的複雜心情。
有如幻似真一幕,奧莉花捏著躺在床上父親的頸項,欲叫他氣絕。老父親愈來愈不清現實和幻象,除了記憶力褪減,更逐漸無法辨認親人,他自己固然會抑鬱和焦慮,也令照顧他的人充滿困惑和懊惱,有血緣的人想逃離現場,沒有血緣的人想大把摑他耳光。導演似乎想努力讓觀眾明白認知障礙患者切膚之痛,映像大部分從Anthony Hopkins角度出發,在一所面積相當大的樓房,老父的現實和幻覺片段來回夾雜出現,再真誠的對話交談轉眼灰飛煙滅,彼此心靈愈來愈儲藏不住真實的愛,只會日積月累培植更多的猜忌和思疑,以往的情誼一點一滴消耗殆盡。像在看一齣迷離可怖的驚慄片。又的確,關於失智病患老人,他本人或對於有關照顧者來說,根本就是齣漫長而未到最後不知結局的驚慄片。結局沒有意外,爸爸一定會老,或下半身癱瘓或左半身癱瘓或腦袋癱瘓,總要選一項。
告東尼身家 在 巴黎不打烊 Facebook 的最佳貼文
| 巴黎一千零一夜 - M媽(跋)|
在巴黎這樣的國際大都市,什麼樣的人都有,他們可能說著一口流利的法語讓你誤以為是法國人,但其實跟你我一樣都是遊客、移民,或是移民後代。大家各自有著自己背後的文化和價值觀,因而造就了各種不同面向的巴黎。
在這裡我們遇到形形色色的人,發生著千奇百怪的事,慢慢道來,是另一個一千零一夜。
今天,要跟大家說一個真實的故事,故事有點長,因為我總是需要點時間咀嚼這些發生在我身上的事,最後時間拖長了,故事也跟著變長了。
—————————————————————————
上面是我這次在「巴黎一千零一夜 - M媽」的開頭短文,其實M媽的故事早在二個月前,又要訂明年滑雪小木屋的時候,就啟發我寫巴黎一千零一夜的靈感,當時一口氣花了二個晚上的時間,就把她的故事寫完了。只是後來遇到朋友在理想與現實掙扎,就又寫了R的故事,先上了R的故事。所以M媽的故事,其實是巴黎一千零一夜的第一篇,是她成了我的靈感繆思,讓我寫下這些形形色色的人事物。
*交友
故事的一開始,很多朋友就好奇,我怎麼會跟不熟的人出遊?或怎麼會和這些人交往?其實在法國念書的時候,我就常常在學校的組織下,和學校裡不熟識的同學們一起幾天幾夜出遊看展。後來我也常和外子的朋友或姻親家人一起出遊度假,剛開始和大家也是很不熟,生活習慣也不同,但我總是能處之泰然,久了就和大家成為好朋友或家人。
而M媽在一起去滑雪之前,在巴黎就像是一個教養修養良好的人,談吐優雅氣質出眾,看起來也很在乎女兒的教育,和我聊的都是孩子的學習、才藝,她女兒也是和我女兒一樣在音樂舞蹈學院,而且她女兒除了鋼琴和芭蕾之外,還比我女兒多了一個合唱團。
另外管理員身份的P媽,或許有人會覺得「妳怎麼跟管理員出遊?」的確我和P媽能聊的話題不多,很多時候我只能靜靜的聽她說,大樓裡的那一戶人家怎麼樣,什麼先生什麼太太的事。她就是小說「優雅的刺蝟」裡的葡萄牙門房,所以我給了她代號P。
一直以來我交友的原則都不是貧富貴賤或教育高低,我有股票上市公司大老闆、CEO朋友,也有市井小民上班族、家庭主婦或各行各業的朋友。在我和人相處的過程中,看的不是對方的職業,而是對方的個人品德。我對他們一視同仁,不會因為大老闆而特別奉承,也不會因為年薪收入低而大小眼。就像P媽雖然是位收入不高、學歷也不高的門房,但她不願意和M媽合夥一起詐騙我,而且她也和我一樣是一位很愛孩子的母親,由此看出貧富並不能代表一個人的道德品性。
*態度
讀到M媽對我狂吼,而我只是冷回應的這個部分,很多朋友都覺得我修養很好,沒有一個拳頭回擊或言語反擊。關於母親的修養,是我近年來才有的深刻體悟。
我在算帳時已經對M媽的態度忍無可忍,以為自己會用暴走方式跟M媽一搏。但事實上,當我身邊有女兒在,我的一切行為就成了女兒的典範,是她日後遇事的第一反應。為了不想女兒日後遇事成為狂吼怒罵三字經的潑婦,我必需讓自己保有斷頭王后的冷靜與優雅,用這樣的方式面對眼前狂吠的瘋狗。
而有這個體悟,來自前幾年台灣家中發生的那場鬧劇。
巴黎不打烊的老讀者都知道,二年多前的這個時候,這裡突然湧進了上千人的謾罵。這些謾罵我都沒有刪除,留著也是一個紀錄,現在再去看那些謾罵的留言,或許可以發現不少帳號消失的網軍。
和我們幾個性格直爽衝動的女兒相較,我母親就是一個非常溫和有禮的人。就算遇到任何事情,我從未看過她大聲說話,就別說罵人了。所以家裡發生事情時,遠在國外的女兒得知母親要出門就醫,家門口卻擠滿了新聞記者時,我只能做一個選擇,轉移媒體的焦點。
我個人臉書上的媒體朋友非常多,但都是時尚媒體或藝文媒體朋友。在媒體圈的各種交集,我非常清楚自己個人臉書文章一出,就可能被某個不熟的朋友出賣,將我的個人貼文報給八卦媒體。果然,媒體和輿論砲口全指向我,肉搜加莫名其妙的名嘴造謠,讓無聊的鬧劇佔據各大新聞版面。
我的工作和生活都在歐洲,這場鬧劇對我現實的生活並沒有多大的影響。法國的家人朋友們得知一個離婚鬧劇可以讓我們一家人的照片都上台灣早中晚的電視新聞,覺得相當可笑。
對於名嘴什麼買通媒體正黃旗這些穿越劇情,我曾經聯繫台灣的律師,希望透過法律途徑解決。我還記得那是台灣週一的早晨,律師說他研究一下再跟我說。之後他的研究報告是,週一當天早晨台灣的電視新聞有將近二十個電台出現我的照片(是不是也太沒新聞?)。但是依照台灣的法律,我打毀謗的官司勝算不大,就算官司打贏了,也只是要對方在報紙上登文道歉。而我當時提出訴訟,也只是讓這位名嘴還有話題可炒,然後再繼續跑通告。為了讓她無法繼續靠造謠跑通告,我選擇不提告。
那個週一的早上,新聞鬧得沸沸揚揚之際,一位朋友打電話來問我要不要回台上通告。他知道我也很能言善道又愛各種數據分析佐證,如果有法國李敖毒菇大戰名嘴,肯定收視率爆表!我笑著說:「可以呀,直飛商務艙機票一張,通告費20萬。」沒想到電話那頭朋友哀嚎的說:「拜託,現在蔻蔻姊都沒這個行情了,一集有個幾千塊車馬費就不錯了。」聽完,我原諒那位名嘴,對她來說,錢真難賺!
好吧,我暴走的性格當然無法把這些曾經想要的回擊都壓制下來,那個將我暴走性格壓制下來的人,是我那位溫良恭儉讓的母親。人在醫院,還不停的要我們噤聲、不許回應。對她來說,這樣的鬧劇只要我們不再說話,如果至少有一人能從中受惠,那也比大家都受傷好。
瑪麗安東尼王后的優雅,我母親做得最到位。M媽的事件過後,我才發現自己受到母親潛移默化的影響,面對風雨的時候,維持自己的態度和風度還是最重要的。
*M媽
這次M媽的故事,我從一開始就藉由外子的一句話,營造她不好的形象。事實上她的確是這樣的一個人,敏感一點的朋友就會像我先生一樣,一開始從她要我代墊就可以嗅出一些不對勁。像我這樣遲鈍的人,要等到她想要再跟我算第二次帳,才發現這個人原來要行騙。
我在編寫時,一開始就把這些細節清楚描述,因為我想世界上像我一樣對人際關係愚鈍的人不多,應該大多數的人一開始就會有感覺。
但是這個故事的重點,其實是在隔年她又回到山上滑雪這件事情。她每天屹立不搖的出現在雪場,五十多歲高齡還練習的比我還勤勞,讓她的特殊人格更加充滿了戲劇性。
如同後記中提到,M媽年輕時絕對是為美人胚子。而前面也提到過她曾經和我說過,她年輕時和老闆去滑雪,滑雪非常簡單。出發前她對我的緊張和鍛鍊身體感到嗤之以鼻,滑雪不就是膝蓋彎這麼回事?
這或許就是M媽後來堅持回到山上、堅持練滑雪的原因。在我們第一天團體課過後,我被分到好班,後來被拉到更高的山上上課,這件事讓她曾經跟P媽抱怨:「她不是說她不會滑雪嗎?」
人的嫉妒之心,常常是最可怕的萬惡之源。她對我的嫉妒,也是讓她計畫這一切的原因。因為我們辦公室那一整區的房子都是跟同一個房東租賃的,我們有自己的住家,還有相當於樓上三戶人家大小的一樓辦公室,對她來說,我憑什麼?
所以那年滑雪假期的前幾天,M媽少不了跟P媽說了許多嫉妒又惡毒的閒話。而今年M媽在雪場上不顧女兒,主顧自己獨自練習的勵志劇,P媽一句:「她真的是要跟妳拼了!」讓我知道一個嫉妒女人的鬥志真是不容小覷。
不管她是不是像P媽說的要跟我比較,我這輩子都沒有打算成為冬奧選手,還是別那麼無聊吧!
*女兒
很多人讀了這個故事之後,覺得M媽的女兒很可憐。其實這世界上形形色色的人有好有壞,不就是這樣不同的家庭背景出來的嗎?
在我們看來,M媽真的對她女兒很壞,不給她錢吃飯,不給她買文具,不幫她拿滑雪板還要女兒幫她⋯這些。但如果如M媽所說,這是他們摩洛哥最好的教育,她不正在給她女兒最好的教育?所以我們總是看到她女兒非常獨立,形單影隻的上下學,滑雪也自己上下課搬滑雪板,好像沒有家長的小孩。
此外,M媽對女兒的學習和儀態要求也是非常高,小四給她買小五的練習題、補東補西、出入頭髮都要跟媽媽一樣精心整理。所以M媽的女兒除了一些偷竊、說髒話或學叫床的行為,在班上的成績非常優秀。M媽後來也非常努力奔走,讓女兒上了巴黎18區最好的公立國中,排名僅次於我女兒學校三四名。
所以我們很難說M媽的女兒很可憐,事實上在通往成功的道路上,這些小奸小惡都不算什麼。M媽的女兒日後或許因為媽媽嚴格的調教,而成為非常出色的科學家、學者⋯等,這都是我們現在不知道的事。
*錢
這個故事,說到錢的部分,就是它最可悲的地方了,因為M媽試圖騙我們的,都不是大錢。
她最後想要在交屋時拿到的支票,不過150歐,台幣四千五不到。她想跟我算的糊塗賬,也不過二三百塊歐元,這些都是很小的數字,是有時候一家人去吃個餐廳就可能吃掉的數字。
還記得M媽在網路上買名牌滑雪衣物?也差不多是這樣的價格,但是有些人,他們覺得錢是用在買這些東西,而不願意付日常應該的開銷。我曾經認識一位長得很漂亮的模特兒朋友,她可能習慣每次出門由男人買單,跟女性友人出門時,也覺得該由我們買單,最後大家都不太理她了。這些覺得該由別人為她們買單的女人,我很羨慕她們有姣好的外表,但是到了M媽的年紀,就不再管用了。
如果M媽是為了詐我的身家或珠寶什麼的,我可能不會覺得這個故事很可悲,可能還會變成另一種精彩的匪盜故事。P媽管理員薪水一個月800歐,她還要去外面兼差打掃才能有法國最低薪資的月薪。但連P媽都願意在最後花個四百多歐再買一張高速火車的車票和我們回巴黎,就可以知道整件事情讓她感到多無法忍受。
M媽的故事就到此結束,很抱歉今天較晚發文,昨夜在二伯家吃飯到凌晨二三點,今天很晚才開始打這篇後序,沒想到我廢話又這麼多,寫著寫著就超過時間了。
告東尼身家 在 鄭龜煮碗麵 Facebook 的最佳解答
我們該如何規範人工智慧 (全文)?
#COMPUTEX,這個跟我一樣歲數的電腦資訊展會,我竟然直到今年才首次踏入。
這次受主辦單位之一的 #外貿協會 ( #TAITRA)邀請,在上週三(5/29)來到位於南港展覽館 2 館4樓的「 #SmarTEX」展區參觀,與多家參展公司交流。我雖然自己經營過科技媒體網站,但我不是擅長採訪會展的記者,也不是好的 3C 部落客,因此我抱著「幫自己正在思考的問題取材」的目標,前往這場大型科技會展。
(先說:因此這篇文章不會有太多展覽展位上產品的細節跟照片,請大家見諒。)
而我最近在想的問題,也就是本篇文章的主題是:進入人工智慧時代,我們該如何規範人工智慧?
或者,我們也可以反過來問:人工智慧該如何規範我們?
自認偏樂觀派的我,其實不希望讓大家覺得「人工智慧的未來真糟糕」,我的個人偏見是:大致來說,我喜歡科技,儘管科技的確會帶來衝擊,但只要我們更願意去思考,就更有機會讓未來往比較好的方向演進。所以談這個議題,目的是要避免要是這樣的狀況真的發生了,我們才懊悔地說「這真糟糕,為何我們沒有早點想到。」
--------------------
關於人工智慧的規範問題,首先,我們來看看 MIT 媒體實驗室做的一個調查「道德機器」(網址:http://moralmachine.mit.edu/hl/zh)。
在這個網頁裡頭,有許多類似「#電車難題」的情境,需要你來回答。每一個參與者,需要回答 13 個題目,每個題目只有兩個選項。在每一個題目的情況中,都有一輛突然煞車失靈的自動駕駛汽車,而你必須做出選擇,要繼續前進,或是轉彎離開。
例如在某個二選一的情況中,你認為這台自動駕駛車該繼續直衝,撞死一個成人男性,還是轉動方向盤,讓車子撞上另一側的護欄,殺死車上四個人,包括兩名兒童?
在另一個二選一的情況中,這台自動駕駛車上只有一隻貓,若繼續直衝,會撞上護欄,讓貓死於非命,但若自駕車往左彎,貓的性命可保,卻會撞死一位正在違規闖紅燈過馬路的遊民。
類似這樣的二元選擇有很多種變化,例如過馬路的可能是動物、可能是罪犯、可能是醫生,嬰兒,或是這些人的綜合隊伍,他們或許是違規過馬路,或許是遵守交通規則但運氣不好。而車子直衝或轉彎,也隱含了道德選擇。推薦各位都上道德機器的網頁去回答看看,看你會不會跟我一樣覺得實在是逼人太甚,到最後根本就放棄思考(XD)。
這個網頁告訴我們一件事:我們不可能對各種狀況產生共識、或得出任何堪稱正確的答案,事實上這個調查也不是要用多數人的意見來決定未來的自駕車要是真的煞車失靈的時候,該做出什麼行動。然而這個調查提醒我們,當越來越多的「人工智慧代理」進入我們的生活,就會產生更多類似的道德難題。
--------------------
舉例來說,若一個 #人工智慧股票交易系統,因為對政治領袖發在社群媒體上的文章產生錯誤的解讀,而決定拋售某一檔股票,造成連鎖反應,讓投資者大賠一筆,這樣的損失該由誰來負責呢?
延伸閱讀:〈AI 機器人害我投資賠錢,我能告他嗎?〉
https://www.techbang.com/posts/70447-ai-robot-made-me-invest-money-can-i-sue-him
舉例來說,若一個 #人工智慧戀愛配對系統,推薦了一位居心不良的對象給另一個使用者,最後使用者被騙財騙色了,誰會受到最多的指責呢?誰「#與惡的距離」最近呢?
再舉一例來說,如果用於門禁或 ATM 的臉部辨識 AI 系統出問題,太過嚴格以至於讓使用者開不了門、領不到錢,或是太過寬鬆使歹徒得以利用,那該怎麼定義問題的範圍,用理性的方式來解決呢?
臉部辨識作為服務升級的關鍵,從智慧零售到智慧家居到智慧服務,都少不了這項技術的身影,也是人工智慧使預測平價化的代表。只要你拿著這一兩年出的新手機,想必也不會陌生。例如我這次參訪的 #訊連科技(CyberLink)展場主打「FaceMe」AI 臉部辨識引擎,他們提供 SDK 與多家科技廠商合作,包括 #宏碁雲端、#奇景光電、#微程式、#凌群、#達碩 等。我也拜訪了同在 SmarTEX 展出的達碩智慧科技,了解他們使用這套臉部辨識引擎,針對銀髮照護、社區管理、企業差勤管理等不同情境設計的解決方案。即使在我與訊連跟達碩的主管談話時,他們自謙還不是目前領先的廠商,但他們的服務也已經非常成熟,可見這樣的軟硬體整合套裝將持續普及到各地,而台灣中堅企業將成為關鍵推手。
美中貿易戰,加上美國可能逐步針對有侵犯人權之虞的監控科技施加圍堵禁令(如 #海康威視、#浙江大華、#商湯科技 等),突顯出台灣提供類似服務的企業所能提供的安全價值,但即使如此,這項科技本身還是帶給社會其他挑戰。訊連科技的連啟民協理跟我說,臉部辨識的準確性不是 0與1 的取捨,他們的 SDK 能夠針對不同情境,讓配合的廠商自行調整精度,掌控風險,例如從一般社區門禁的萬分之一調到 ATM 的十萬分之一,同時使用邊緣運算技術(Edge Computing),讓資料不用都到雲端,降低反應時間及資安疑慮。
我在展場也與 #康訊科技 及 #訊舟科技 兩家公司進行交流。康訊從圖資起家,以地理定位技術切入車載系統設備,扎根台灣30多年來,已經成為全球領先的車隊管理服務商,不管是共享汽機車、物流公司、校園巴士、救護車、消防車都是他們服務的客戶。他們提供的設備就像車上的黑盒子,可以完全掌握車輛的狀況,如透過監測引擎啟動狀態,可以知道司機是否過勞;透過監測燃料消耗情況,可以知道是否有偷油的情形發生。而全球客戶累積的數據也成為重要的資產,可以協助物流業者優化路線。
訊舟作為老牌網通公司,這次展出許多產品,我認為最亮眼的就是他們與中研院陳伶志博士合作推出的「空氣盒子」,我雖然早就知道空氣盒子,卻是第一次看到並且從訊舟的角度聽這個已經是公民科技典範的故事,目前在全台已經有 4,000 多台設備上線,密集監測空氣品質,累積的數據也已經可以做到空品預測。
另外,這次在 SmarTEX,科技部推動的 #GLORIA 國際產學聯盟現場展出 67 項前瞻技術,我也與聯盟中的幾所大學交流,例如 #中國醫藥大學 推出能夠判讀骨齡、癌症等資訊的 AI,節省醫師判讀時間,加速診斷。#國立交通大學 伍紹勳博士則與 #新光醫療團隊 合作,用像是貼在東尼史塔克胸口的智慧貼片,只用3導程就能正確模擬專業醫療設施12導程的ECG心電圖信號,大幅改善病患的行動自由,也顯著降低成本。而具有超過 2,000 例達文西手術經歷的 #臺北醫學大學劉偉民醫師團隊,則在擁有大量醫師第一視角錄影的基礎上,推出手術教學平台,包括 VR 手術直播拍攝,與虛擬手術教學模擬系統。
從訊連、達碩、康訊、訊舟到這三個來自學界的醫療技術案例,可見都與數據分析、人工智慧辨識判讀、虛擬模型建置有關,儘管我相信在台灣醫療與科技、工程多重優勢下,他們都前景可期,但該問的仍然要問:要是出了差錯,怎麼辦?誰負責?各團隊對此問題顯然也都深思熟慮過。而我將他們給我的回答整理,加入我對「人工智慧如何規範」這個問題的答案。
--------------------
#以自駕車為例思考
著名的科幻小說家艾希莫夫,在1942 年的短篇小說 Runaround 以及後來的機器人系列裡頭,提出了機器人三原則(Three Laws of Robotics),很多人可能都會背了,這三原則分別是:第一,機器人不得傷害人類,或坐視人類受到傷害;第二,除非違背第一法則,否則機器人必須服從人類命令;以及第三,除非違背第一或第二法則,否則機器人必須保護自己。
參考:Three Laws of Robotics
https://en.wikipedia.org/wiki/Three_Laws_of_Robotics
這三原則聽起來很周密,但其實並非如此,而且也不太現實。以自動駕駛汽車作為案例吧,自動駕駛汽車是這一波人工智慧發展最受關注的領域,而且因為許多國家政府正在積極制訂法規,自駕車的自動化程度,跟依據自動化程度而制定的責任歸屬,也比較清楚,值得用來舉一反三,幫助我們思考,人工智慧要是進入到每一個領域,會帶來多少該仔細考量的變化。
那麼,到底什麼是自動駕駛汽車呢?你可能聽過什麼 Level 3,Level 5 的,那指的是自動駕駛的自動化程度分級,我們可以用這張表來簡單呈現:
這個分級定義,是由國際汽車工程協會(Society of Automotive Engineers, SAE)所提出的,已經獲得廣泛的共識。從第零級到第五級,共有六個層級。第零級的自動駕駛就是毫無自動化,一直到第二級,都還是以駕駛員為主,機器提供輔助。
但從第三級開始,負責開車的就是機器了。人類駕駛頂多在緊急狀態作為備用選項。第四級之後,就連緊急狀態也是由機器來應對,人類就從駕駛這件事基本退場了。到第五級的情況,就像是有一個超級人工智慧在負責開車,相信到時候,超級人工智慧也不會只用在車上。
目前已經有幾家汽車公司宣稱自己的自駕車達到了第三級,例如 #奧迪、#特斯拉、#現代汽車 等,大部分車廠也都表示在 2020 年就會推出第三級的自駕車。Google 旗下的 Waymo 以及台灣的財團法人車輛研究測試中心 ARTC 則表示都已經有第四級自駕車的技術能力。
日本政府非常積極地花工夫在自動駕駛的規範上,日本的「投資未來委員會」在 2018 年底,便提出了已經研擬多年的自動駕駛汽車指導原則。根據報導,日本首相安倍晉三希望透過採取具體步驟,建立法律框架,讓日本成為率先制定國家級規範的國家。首要處理的就是第三級自動化情況下的監督跟法律方向。我們就來看看,在自駕車的規則上,日本是怎麼想的?
日本的規則是,通常來說車主需要對車輛自主運行時發生的事故負責,並且由政府規定的汽車保險公司承保。如果車輛系統有明顯的缺陷,該負責的就是汽車製造商。強制性保險這一步確定了之後,保險公司也就能夠制定方案,讓車主選擇,要保哪一種。
另外,為了釐清事故的原因,自動駕駛汽車需要完整記錄位置、轉向、人工智慧系統操作狀態的信息,也就是說,得要有像是飛機黑盒子這樣的裝置。
那如果遇到新型態科技犯罪者或駭客呢?只要車主有採取適當的安全措施,例如更新車輛系統或維護保養,那麼若是因為駭客攻擊或入侵造成損害,就視同汽車被偷走了。
除了這幾個大方向以外,還有不少問題待解決。因為剛剛說的都只是民事責任,財產相關的規範,但還沒有碰觸到刑事責任,如果真的因為自駕車的缺陷而造成傷亡,除了車主以外,程式開發者,汽車製造商該負起哪些連帶的責任呢?若不能盡快釐清,程式開發者跟汽車製造商就難以決定是否該正式推出產品。
另外,自動駕駛的操作條件、例如速度限制,運作的時間長短,天氣狀況也都得考量,就像各種已經存在的汽車安全規範一樣,人工智慧控制系統的標準、對網路攻擊抵禦的強度,也都得一一制定。
--------------------
而以自動駕駛為案例,可以幫助我們思考該怎樣規範其他人工智慧的應用情境。歸納我這次到 SmarTEX 參訪交流的心得,我想比起艾希莫夫的機器人三原則,我們該建立的思考原則其實是這四個:
#面對此時此刻的人工智慧該有的思考原則
第一,#釐清主控權。整項任務中,是人類還是機器掌握主控權?能否以清楚的層級概念來劃分人類或機器的掌控程度?就像自駕車這樣呢?另外,在關鍵決策點,人類有沒有介入,是否被要求介入?這些都必須根據不同的應用環境來一個一個釐清。
第二,#損害管理與風險溝通。在發生意外的時候,擁有者、使用者、設計者、販售者、維修者等角色,是否已經明白可能要負的對應責任?這些責任的政府主管機關與相關的法律有哪些?其實每一樣新的科技進入我們的生活,都會有一段學習曲線,我們不太可能在了解所有問題、解開所有疑慮之後才採用新技術,而是必須妥善跟每一個角色溝通風險。
第三,#數據紀錄透明化。為了忠實檢討意外發生的原因,人工智慧系統需要持續紀錄運作狀況,以及感測器所收集到的各種資訊。並且要確保訓練人工智慧的資料也是可受檢驗的,避免造成系統化的偏見。另外也同等重要的是,收集數據的單位,像是企業、保險公司或政府,有義務證明,收集這些資訊,是必要且適當的。例如飛機上機長跟駕駛員的通話可以收集,但車內的通話該不該收集呢?商店內的顧客對話該不該收集呢?
第四,#系統思維。任何意外發生,都要了解,系統總是存在一定的風險,告知風險機率跟可能的狀況類型。以「不責難」的出發點,來面對後續的檢討,才能讓各角色更願意把系統中的臭蟲或不當行為揪出來,最終的目標是讓這個能夠便利更多人、拯救更多人的系統,越來越好。就像醫療一樣,如果每次只要有病人在手術中過世了,醫生都要被告到賠上身家,那還會有醫生願意繼續替病人動手術嗎?當醫療行為中有越來越多具有人工智慧的機器介入,診斷疾病、決定麻醉份量、甚至用機械手動手術,我們就不得不分配信任給更多的角色。
從 COMPUTEX 的 SmarTEX 展區上琳瑯滿目結合了人工智慧的技術,可以肯定人工智慧已經,也即將進入每一個我們可以想像得到的層面,過去的規範將無法適用,而且即使訂出新規範,也會很快過時。我們不可能完全理解我們部署的人工智慧系統的風險。當前的機器學習運行得如此之快,以至於沒有人真正知道機器是如何做出決策,通常連開發人員也不知道。這些系統還會持續從環境中學習並更新他們的函式,這使研究人員更難控制和理解決策過程,在這樣缺乏透明度,也就是常說的黑盒子問題籠罩下,要建立道德準則跟規範,當然就極為困難。
然而若不要大驚小怪,將人工智慧與人肉智慧對等來看,人類花了幾千年建立起的道德準則,同樣漏洞百出,我們卻也習慣了。人類專家有的偏見跟偏誤更是問題層出不窮,而我們也是一直倚賴這樣有缺陷的專家系統在運作。此刻的人工智慧浪潮,正給了我們機會跟動力,檢視我們習以為常的那些想法,我認為以上的四原則,更有助於我們迎向已經到來的未來世界,而開發出這些技術,推出產品與服務的企業,若都能夠率先思考這些問題,也是我們所期待的。就如同我在這次 COMPUTEX SmarTEX 展區上看見的一樣。
--------------------
最後,我雖然只逛了整個 COMPUTEX 的一部份,但很感謝外貿協會,讓我能不只是走馬看花,而是深入與廠商對話跟採訪,非常有收穫。幾乎每一家我逛的展位,都跟數據、AI(起碼是機器學習)有關,並將其結合硬體,整合出具有市場競爭力的方案,雖然我沒有資格替他們的產品背書,但我覺得深入談過之後,他們都對自己的產品與服務非常有自信,或許並非市場的領先者,也已經看見該切入的定位與成長的路徑。
今年的 COMPUTEX 展會已經結束,不過以後若有機會前往類似會展活動,很推薦大家跟我一樣帶著問題意識去逛逛,跟這些未來世界的打造者聊聊,畢竟我們得住在裡面。
--------------------
Medium 版:http://bit.ly/2HLuT8p