好書推薦《#造局者》部落格文末抽獎贈書 2 本
這是我今年讀過最喜歡的書之一,作者探討在這個 AI 崛起和時局飄渺動盪的年代,人類已經無法跟演算法和電腦的計算速度競爭。但是,身為人類的我們仍然擁有一項電腦無法取代的優勢:「懂得建立、想像、創造各種思考框架的能力」,掌握這項能力的人在未來會愈來愈有優勢。
部落格文章 https://readingoutpost.com/framers/
Podcast 用聽的 https://readingoutpost.soci.vip/
.
【這本書在說什麼?】
《造局者》這本書的作者是三位學者共筆,他們都是在 AI 和 大數據領域有卓越的成就,分別是《經濟學人》雜誌資深編輯庫基耶(Kenneth Cukier)、英國牛津大學網路研究所教授麥爾.荀伯格(Viktor Mayer-Schönberger)、歐洲管理科技學院教授,決策、模型暨數據中心主任德菲爾利科德(Francis de Véricourt)。
他們發現在 AI 崛起和世局動盪的現在,人類最無可取代的能力之一就是「決策能力」,而要擁有好的決策能力就必須掌握許多不同的「思考框架」。因為當一個人能提出正確的思考框架,就能找出更多的選項,做出更好的決策,創造更好的局勢。深諳此道的人就被稱之為「造局者」。
這本書從人類如何做出好的決策出發,談到建立思考框架的重要性,也提供我們三種最重要的建立思考框架的方式。在書本中段,則說明了遇到瓶頸的時候,如何重啟另一個思考框架。在後半段則說明了我們該如何學習更多的思考框架,以及讓自己擁抱更加多元性的策略,並且培養敏銳的心智。
如同這本書的介紹影片裡談到的:生活中一切都需要抉擇,而做出更好抉擇的秘訣,就在於思考框架。駕馭這種思考方式可以讓你更瞭解世界、改善工作表現和人際關係、促進社會進步。這也是人類之所以能夠勝過機器和 AI 的因素。成為「造局者」正是未來人才必不可缺的關鍵技能。
.
【什麼是造局者?】
以標準的定義來說,「造局者」(Framer)指的就是起草美國憲法的那一群人,他們建立了聯邦政府的框架。因為美國憲法就像是一個思考框架,用來定義和界定聯邦政府的職權及程序。而在這本書中,造局者指的就是那些「懂得建立和運用思考框架的能手」。
這本書要講的重點之一,就是無論人們的地位高低,每個人都可以成為造局者:「能夠發揮和建立思考框架,或是重啟思考框架的能力,讓自己的生活乃至於整個世界有所不同。」作者也不斷強調建立思考框架所需要的技巧,可以靠著訓練與經驗不斷進步。這本書就像是一本操作指南。
.
【什麼是思考框架?】
在1970年代,「心智模型」(Mental Model)的概念開始流行,人類的推理並非以邏輯形式在運作,反而更像是在模擬現實:人們評估各種選項的方式,是去想像可能發生的種種情況。我們對於世界萬物的思考方式,會受到你「相信」這個世界如何運作而影響。因此,面對同樣一件事情,用不同心智模型在思考的人會有不同的觀點。
而在這本書中所謂的「思考框架」(Frame)就是我們選擇和應用的心智模型,這會決定我們如何理解世界、決定我們如何行動。面對一個新的情境,我們也可以用思考框架去歸納和歸類,並且想出一個抽象的概念,在應用到這個全新的情境裡面。
舉例來說,當我們要畫地圖的時候,經常會採取「笛卡爾直角坐標」的思考框架,這上面有X軸和Y軸的維度可以幫我們用2D的觀念畫出相對的距離和位置。可是當你要在台北市搭捷運從A地到B地的時候,反而採用「捷運地圖」的思考框架比較有效,雖然捷運地圖的站點之間,距離和位置都不是真實的呈現,可是卻能幫助乘客直覺地理解:下一站要去哪裡。這時的重點就不是距離和位置,而是清楚地辨認出目的地的站點該搭乘哪一條線。
所以當我們問:「哪一種地圖最好?」這個問題本身並沒有意義,而是會因為使用的情境和目的的不同,而產生不同的答案。所以,也沒有什麼叫做最正確的思考框架,都是要看情況和目的而定。讓自己成為建立思考框架的能手——也就是造局者,就能懂得如何選擇並且應用思考框架,這會是各種決定與行動的基礎。
.
【思考框架的轉變】
在聊主動建立思考框架之前,讓我們先看一個被動轉換思考框架的真實故事,這是書中提到一段關於朗讀到默讀的閱讀框架轉變。在西元11世紀之前,歐洲大部分都是在教堂才會有閱讀的行為,而且都是以「集體朗誦」的方式在進行,主要的目的是讓大家參與一個讚頌神的集體活動。但是到了11世紀之後,開始出現另外一種閱讀的框架,也就是「默讀」。
默讀讓閱讀這件事情不再是集體的體驗,而是一種個人的經歷。每個讀者都可以控制自己要讀快一點或慢一點,你也可以重複閱讀某一些篇章,自己可以慢慢思考書裡面的內容,產生新的點子,促進獨立思考。到底,是什麼東西造成了人們從朗讀的閱讀框架,轉移到默讀的閱讀框架呢?
在早期的書籍和文章裡面,常常沒有標點符號,字跟字之間也沒有空格,就像是一連串的字母之間不斷地延續。這種情況下光是要閱讀就非常困難了,想要默讀更是不可能的任務。這個時候集體朗讀就有它的功能,因為在一群人裡面,總會有人過去曾經讀過這篇本文,還記得某些字跟段落該怎麼念,就可以帶領大家一起朗讀下去。
在後來才出現了一項創新,書籍的字裡行間,開始有了「空格」和簡單的「標點符號」,這個時候就不再需要有人帶領,許多讀者可以自己進行斷句,獨自閱讀一本書了。於是,在這個時候人們就可以切換到另外一種閱讀框架。這件事情的影響非常的深遠,因為這一整個新世代的讀者都可以自行默讀,有助於人們自己的獨立思考,進而激發出更多元的思考框架。
.
【建立思考框架的三個方式】
建立思考框架的方式有三個:想清楚因果關係,想像出平行現實,運用物理學定律制定適合的限制條件。這三個特色正是應用思考框架的時候最重要的因素。值得注意的是,思考框架本身並不是解決方案,而且是尋找解決方案的工具。以下分別介紹這三個方式:
.
1.#因果關係
人類運用因果思維來看待這個世界,可以更容易理解世界,也有助於預測未來可能發生的事情,可以說人類是天生「因果推理」的機器。相較起來,AI 科技就無法擁有自己的因果思維,而是需要人類幫忙設定。舉經典的 Dota 電腦遊戲來說,這是一個兩隊人馬 5 vs. 5 互相廝殺,力求破壞對方大本營的遊戲。
科學家找來遊戲高手擔任 AI 策略的開發人員,設計了一些獎勵因素,讓 AI 跟自己進行的數百萬次的對戰,反覆嘗試錯誤,找出最好的操作手法。但是當 AI 跟人類正式交鋒的時候,人類還是取得了上風,尤其在團隊合作上面 AI 顯得像一團散沙。
後來,開發人員發現說,一般玩家會分成三個階段來安排戰鬥,所以開發人員就依照這樣的順序安排程式,在不同的階段給予不同的策略,調整獎勵的優先次序。然後開發人員就發現說一開始機器人通常只會照顧自己,所以還得幫他們建立「團隊合作」精神的框架。他們建立起了一些跨越個人遊戲角色的「超參數」,調整成一隻要達成共同獎勵的團隊。經過這一些修改之後,AI 反過來把人類打得落花流水。
值得注意的是,電腦不是自己學會這些事情的,而是因為人類先輸入了一些「因果框架」的獎勵因素,才可以讓這些運算發揮它的功效。同樣的現象發生在其他像是圍棋和西洋棋遊戲的對決,真正的突破並不在於機器高速的數字運算,而在於人類調整了 AI 對於因果關係(獎勵)的思考框架。
.
2.#平行現實
書中的說法是「反事實思考」,但我認為有點難懂,用「想像出另一個平行現實」比較好理解。這個方法可以讓我們跳脫當下對世界的認知,想像出一個全新的情境,問自己:「如果……會怎樣?」就像是小孩子在玩扮家家酒,或者是科學家透過抽象理論設計出全新的實驗。透過想像出一個平行現實,我們可以將因果關係轉換成實際行動,測試看看可能有什麼影響,帶來什麼後果。
心理學家高普尼克(Gopnik)認為這種能力其實在人類孩童時期就已經具備了,他還把嬰兒稱為「搖籃裡的科學家」,她設計過一個很有趣的實驗名叫「贊多測試」的假裝遊戲(贊多指的是顏色鮮豔、形狀可愛的物體)。
實驗的第一階段,高普尼克和孩童待在同一個房間,孩童會學到一個因果關係:把贊多放到一個機器上面,機器就會播放生日快樂歌,幫一隻猴子玩偶慶生。然後,在實驗的第二階段,會有實驗人員走進來把機器和贊多拿走,高普尼克和孩童一起露出失望的表情。
這時候高普尼克會拿出一個「盒子」、兩個不同顏色的「積木」,並對孩童說:「我們假裝這個盒子是機器,這塊積木是贊多,另一塊積木不是贊多。」接著她鼓勵孩童繼續幫猴子玩偶慶生。此時,孩童挑選了正確的積木,放到盒子上。即使她把兩塊積木的定義互相對調,孩童都能夠選到正確的積木。
這個假裝遊戲的實驗,證實了人類自幼就擁有了反事實思考的能力,也就是有能力可以想像出另一個平行現實。高普尼克發現,更會玩假裝遊戲的孩子,就能對平行現實做出更好的推論。她說:「嬰兒和幼兒就像人類社會的研發部門,至於成人這是那些單調無聊的製造與行銷部門。」許多人在成年之後,反而容易落入單一現實的思考方式,而忘記了我們天生就有想像平行現實的能力。
.
3.#限制條件
作者提到,所謂的建立思考框架,並不是任由想像力無邊無際地飛翔,也不是像斷了線的氣球到處亂飄,而是要有一定程度的「條件限制」,有助於約束我們的想像力,讓平行現實的想像維持在可以執行的程度,這才能讓思考光架真正發揮效用。
書中舉了一個很像電影裡才會發生的真實故事「恩德培行動」,這是一個以色列精銳部隊在恩德培機場的行動中,從恐怖分子手裡救出人質的戰鬥情節。1976年,恐怖分子綁架了飛機上106名人質,關押在烏干達的恩德培機場航廈中。當時烏干達獨裁者跟以色列當局並不友好,出動軍隊肯定不是好的選項。另一個方案是讓突擊隊員假裝成獲釋的巴基斯坦犯人,但太容易被看穿了。還有人提議讓突擊隊員降落在機場旁的湖裡,但是湖裡有許多鱷魚,而且任務結束之後這麼多人該怎麼全身而退?
評估了各種可能選項後,在種種條件限制之下,以色列想出了一個奇招:讓突擊隊搭乘運輸機在夜間降落到機場,搭乘機場內常見的車輛前往航廈,消滅恐怖份子、救出人質之後搭乘運輸機直接回國。他們在空軍基地搭建了航廈的等比例模型,透過少數獲釋的人質口中知道人質的大約位置,並且一次又一次地排練所有行動,講究到每一秒、每一步該怎麼進行。
在一個沒有烏雲的午夜,29位突擊隊員搭乘運輸機降落機場,他們身穿烏干達軍隊的服裝開著機場車輛前往航廈。突擊隊以迅雷不及掩耳的速度突擊航廈,只花了十分鐘就解決所有的恐怖分子,然後就帶著人質直接搭乘運輸機返回以色列。整場行動中只有三位人質喪生,而且連烏干達政府都還來不及反應。這個故事從天馬行空的平行現實裡,限縮了各種條件,找出了最可行的方案,最後成功執行了這次任務。
.
【重啟另一種思考框架】
當你想要解決一個全新問題的時候,尤其是還沒有人曾經解決過的問題,你可能會感到不知所措。這個時候,先透過兩個步驟來思考:(1) 先從自己腦袋裡的框架庫找找看,有沒有其他適用和類似的框架、(2) 檢查其他不同領域的框架庫,看看有沒有能夠直接借用,小幅度調整就可以使用的框架。
如果這兩個步驟都找不到適合的框架庫,那麼才嘗試最困難、也是最後的殺手鐧:「發明新的思考框架」。作者提醒道:「切換到不同的思考框架,能讓你對世界有不同的觀點,但這也有風險。」一旦你重新找到一個新的思考框架,帶來的報酬可以是相當可觀的。
書中有一個重啟框架的例子很值得我們參考,美國紐澤西南邊的小城市康登市為了改善當地的犯罪率,直接解散整個警察隊伍並且重整執勤策略。當時城市的治安非常糟糕,市容也很破舊,到處都會發生大小程度不同的犯罪。這還不是最慘的,警方栽贓、造假、暴力執法的情況更是屢見不鮮。民眾除了害怕黑道,也非常害怕警察。
當地首長找來社區領袖和居民共同商討,最後決定放棄頭痛醫頭、腳痛醫腳的貼膏藥方式,採取全新的執法策略。解散警隊之後,他們精挑細選和新聘任的警察,改變了巡邏的方式。他們逐家登門拜訪、自我介紹、談談可以幫忙居民什麼。警察在街頭舉辦派對,和民眾聚餐,和小孩打籃球。
過去的思考框架是「警方將人民視為罪犯」,但是新的思考框架則是「警民一家親」的社區群體,警察從原本打擊犯罪的戰士,搖身一變成了社區當中親切的守護者。最後,康登市的犯罪率下少了一半,謀殺率少了六成,警方過度使用武力的案件少了九成五。重啟思考框架的方式,獲得了前所未有的成功。
.
【創造多元性的四種策略】
作者指出,很多人可能會認為,想要擁有多元性就代表要接觸大量的想法和觀點,其實那是抓錯了重點。多元性的優勢不是來自於數量,而是來自於差異。找出七百個類似的想法,不如找出七個不同的想法來得有價值。如果一個工具箱可以有七種不同的工具,絕對會比擁有七百把錘子的工具箱更加實用。
如果我們想要擁有多元的思考框架,就是要刻意的去營造,以及一起維護,這並不是一次的成功就可以高枕無憂。如同貝佐斯在《創造與漫想》書中提到的:「這個世界要你與眾無異,千方百計把你拉向跟大家一樣,別讓它得逞。」人類本能的從眾傾向,以及社會自然而然的同質化趨勢,都需要我們自己刻意地、有意識地選擇,才能夠擺脫與眾趨同的自然發展,擁抱更加多元化的觀點和想法。
如果你想為自己的生活、家庭、工作環境創造出多元性的樣貌,可以採取以下四種策略:擁抱變化,運用教育,鼓勵遷徙,容許摩擦。
.
1.#擁抱變化
如果一個思考框架一直以來都行不通,最好的做法就是擁抱改變,試試看別種思考框架。書中舉例同性戀婚姻的推動者,把美國從1995年支持同婚的人從25%提高到2020年將近70%。以前的同志運動一直把婚姻當成是核心議題,也一直把爭取這種「法律權利」當作是重點。但是進展並不顯著。
當時那種法律思考的框架,講究的是「法律權利」,但就是沒有效果。那種框架太缺乏想像力、太唯物主義,沒有說服力。到了2000年,他們研究很多民意調查還有焦點團體的意見,想弄清楚大家到底還有什麼疑慮。他們去思考說要怎麼樣用大眾的思考模式來談。最後他們選定了一個價值觀的思考框架,鎖定大部分的人結婚的原因:「愛、奉獻、家庭」。
他們把同性戀婚姻不再當成一種自由或者是權利,而是對於愛的表達與承諾。他們漸漸的讓大家知道,世界上有許許多多不同的框架,而且都同樣正當。到了2011年,第一次出現的黃金交叉,支持的人數正式超過了反對的人數。根據調查,只有14%的人會說這是一種「自由」,而有32%的人會說這是一種「愛」,是一種人類的情感。最後在2015年聯邦最高法院正式裁定的用憲法來保障同性伴侶的結婚權利。這並不是強迫民眾接受某種特定的思考框架,而是讓各種不同的思考方式能夠共存。
.
2.#運用教育
要建立起多元的思考框架,從教育著手是非常有效的模式。美國有一個很有趣的研究,就是去看美國的白人父母和黑人父母怎麼跟孩子談論種族。發自內心一片好意的白人父母,通常不會去刻意談到種族議題,因為他們相信「種族色盲」這種做法比較能夠讓孩子避免成為種族主義者。
另一方面,黑人父母卻常常和孩子討論種族議題,在他們看來,這種種族色盲的做法就是在故意忽視各種明顯的歧視現象。例如逛超市的黑人被懷疑是小偷,開著車子卻無緣無故被警察攔下來,黑人孩子的家庭教育就是要強調看到「種族的各種顏色」在日常生活的各種影響。
最後,這些社會學家發現,種族色盲的框架正好是種族歧視的主要來源,白人父母雖然出自於好意不想強調種族之間的差異,但也在無意之間,否認了有色人種遭受到歧視的真實狀況。這種教育方式忽略了差異,抹去了多元性。要培養多元的思考,就必須認識到差異的存在,承認仍然存在的落差。
.
3.#鼓勵遷徙
如果我們能夠鼓勵遷徙及流動,人們會把自己的文化和思考方式帶到別的地方,促進融合和變化。曾經有學者研究各個區域和城市的經濟成敗因素,發現了這些地區成功背後的原因有三個主要的因素:「科技、人才、寬容」。作者認為,「寬容」是其中最關鍵的一項,那些現在最開放的地方,經濟表現就最好。因為這些地方有更大的思考地圖,會讓人能夠放手冒險,這也是思考框架多元化所造成的經濟紅利。
像是美國被譽為一個民族「熔爐」,但是最近比較像一個「燉湯」,也就是讓裡面的好料都還維持各自的形狀。像是韓國人會住在洛杉磯的韓國城,華人會住在舊金山的唐人街,拉丁美洲的族群住在德州南方,古巴人住在佛羅里達州,巴西人就住在波士頓。雖然這種文化融合的速度不像我們想像中的快速,但是不同的文化激盪之下,也為美國社會注入了很多元的觀點和看法。
.
4.#容許摩擦
把社會上的摩擦,看成是這個社會的優勢、而非缺點。作者說到:「如果在社會裡面維持思考框架的多元化,確實會讓人們彼此之間感覺到不安很衝突,就是因為大家要看到彼此的不同,而且還要可以彼此互動。但畢竟,大家觀點不同、意見相對,本來就是正常生活該有的模樣。」
哈佛法律學院的昂格(Unger)教授認為,如果要讓政治進一步的去中心化,就必須要用一些反事實的模型來做思考。他說:「當社會很果斷地沿著一條路前進的時候,應該要多方下注,以避免損失,也就是要允許在特定的地點或部門,跳脫一般的解決方案,實驗看看不同的國家走向會怎樣。」
昂格鼓勵讓社會充滿摩擦,也鼓勵教育上面要用辯證式的討論方式,不要讓社會被束縛在單一的版本,而是可以嘗試其他的社會組織方式。運用和擁抱多元的思考框架,才能擁有多樣化的各種策略,再從中選取適合的方案。
.
【對思考框架保持警覺】
這本書告訴我們,幾乎沒有錯誤的思考框架,只有不適合某種情況的思考框架。而且各種框架應該要有共同存在的權利。但是作者們提醒我們要保持一個警覺,他們說:「唯一要注意的是,這種慷慨的態度要有一個前提,也就是說:『唯一』的一種錯誤的思考框架,就是拒絕其他的思考框架。」
要讓框架多元性的目的,就是為了讓各種框架可以彼此競爭、互補、對抗、共存。然而,如果有某一套思考框架的目的在於完全抹煞其他框架的存在,這就是不可被接受的。所以作者們才說:「如果你聽到有任何人或團體,說只有自己的思考框架放諸四海皆準,只有自己說的是真理的時候,千萬別相信。」
.
【後記:拓展想像的邊界】
如果說另一本我很喜歡的《超級思維》那本書是心智模型的「百科全書」,那麼《造局者》就像是心智模型的「使用指南」。書中有清楚的概念和步驟,讓我們了解為什麼要學習更多的心智模型,以及該怎麼樣活用各種心智模型,並且在必要的時刻推翻自己的假設,重新啟動一個新的心智模型。
這本書是今年我讀過的書裡面感到非常印象深刻,也讓我的思考方式深受啟發的。作者們把故事和理論的比例搭配得恰到好處,從一則又一則的故事和研究案例當中,會自然而然地理解作者們要帶給我們的觀點,也讓我感受到什麼叫做多元性,以及為何要擁抱差異。
從書中也可以發現,AI 並不會削弱心智模型的重要性,反而是增強了心智模型的重要性。因為 AI 無法自己建立思考框架,仍然只能依靠人類。人類最重要的特色就是可以處理「假設之外」的新問題,能夠把心智模型的空間拓展到可以親身體驗的範圍之外,也就是能夠做到抽象與推理。人類只靠著極少數的資料,甚至是完全沒有新的資料,就能夠適應全新的、過去從來沒有體驗過的情境。
作者最後提醒到:「這是一個救贖也是一個警訊:一個人如果擁有建立思考框架的能力,就會保有價值。但要是放棄了努力,沒有辦法做好這件事情,就會失去現在人類的特權地位。」我們能夠想像的邊界,就是我們世界的邊界。
.
Kobo 購書連結:https://bit.ly/3rRI8Kg
Kobo 電子書7折代碼:WAKIFRAMER
使用期限:8/15~8/21
.
感謝 天下文化 提供贈獎抽書
「開發人員選項模擬位置」的推薦目錄:
- 關於開發人員選項模擬位置 在 Facebook 的精選貼文
- 關於開發人員選項模擬位置 在 鄭龜煮碗麵 Facebook 的精選貼文
- 關於開發人員選項模擬位置 在 如何開啟「開發人員選項」? Android手機設定 - YouTube 的評價
- 關於開發人員選項模擬位置 在 mdm解鎖開放人員選項#應用程式 - 3C板 | Dcard 的評價
- 關於開發人員選項模擬位置 在 這是pokemon的Bug嗎??? - Mobile01 的評價
- 關於開發人員選項模擬位置 在 CR-V 5/5.5 原廠導航更新- 車機如何開啟#開發人員選項 的評價
- 關於開發人員選項模擬位置 在 三星開發人員選項的蘋果、安卓和微軟相關APP,MOBILE01 的評價
開發人員選項模擬位置 在 鄭龜煮碗麵 Facebook 的精選貼文
我們該如何規範人工智慧 (全文)?
#COMPUTEX,這個跟我一樣歲數的電腦資訊展會,我竟然直到今年才首次踏入。
這次受主辦單位之一的 #外貿協會 ( #TAITRA)邀請,在上週三(5/29)來到位於南港展覽館 2 館4樓的「 #SmarTEX」展區參觀,與多家參展公司交流。我雖然自己經營過科技媒體網站,但我不是擅長採訪會展的記者,也不是好的 3C 部落客,因此我抱著「幫自己正在思考的問題取材」的目標,前往這場大型科技會展。
(先說:因此這篇文章不會有太多展覽展位上產品的細節跟照片,請大家見諒。)
而我最近在想的問題,也就是本篇文章的主題是:進入人工智慧時代,我們該如何規範人工智慧?
或者,我們也可以反過來問:人工智慧該如何規範我們?
自認偏樂觀派的我,其實不希望讓大家覺得「人工智慧的未來真糟糕」,我的個人偏見是:大致來說,我喜歡科技,儘管科技的確會帶來衝擊,但只要我們更願意去思考,就更有機會讓未來往比較好的方向演進。所以談這個議題,目的是要避免要是這樣的狀況真的發生了,我們才懊悔地說「這真糟糕,為何我們沒有早點想到。」
--------------------
關於人工智慧的規範問題,首先,我們來看看 MIT 媒體實驗室做的一個調查「道德機器」(網址:http://moralmachine.mit.edu/hl/zh)。
在這個網頁裡頭,有許多類似「#電車難題」的情境,需要你來回答。每一個參與者,需要回答 13 個題目,每個題目只有兩個選項。在每一個題目的情況中,都有一輛突然煞車失靈的自動駕駛汽車,而你必須做出選擇,要繼續前進,或是轉彎離開。
例如在某個二選一的情況中,你認為這台自動駕駛車該繼續直衝,撞死一個成人男性,還是轉動方向盤,讓車子撞上另一側的護欄,殺死車上四個人,包括兩名兒童?
在另一個二選一的情況中,這台自動駕駛車上只有一隻貓,若繼續直衝,會撞上護欄,讓貓死於非命,但若自駕車往左彎,貓的性命可保,卻會撞死一位正在違規闖紅燈過馬路的遊民。
類似這樣的二元選擇有很多種變化,例如過馬路的可能是動物、可能是罪犯、可能是醫生,嬰兒,或是這些人的綜合隊伍,他們或許是違規過馬路,或許是遵守交通規則但運氣不好。而車子直衝或轉彎,也隱含了道德選擇。推薦各位都上道德機器的網頁去回答看看,看你會不會跟我一樣覺得實在是逼人太甚,到最後根本就放棄思考(XD)。
這個網頁告訴我們一件事:我們不可能對各種狀況產生共識、或得出任何堪稱正確的答案,事實上這個調查也不是要用多數人的意見來決定未來的自駕車要是真的煞車失靈的時候,該做出什麼行動。然而這個調查提醒我們,當越來越多的「人工智慧代理」進入我們的生活,就會產生更多類似的道德難題。
--------------------
舉例來說,若一個 #人工智慧股票交易系統,因為對政治領袖發在社群媒體上的文章產生錯誤的解讀,而決定拋售某一檔股票,造成連鎖反應,讓投資者大賠一筆,這樣的損失該由誰來負責呢?
延伸閱讀:〈AI 機器人害我投資賠錢,我能告他嗎?〉
https://www.techbang.com/posts/70447-ai-robot-made-me-invest-money-can-i-sue-him
舉例來說,若一個 #人工智慧戀愛配對系統,推薦了一位居心不良的對象給另一個使用者,最後使用者被騙財騙色了,誰會受到最多的指責呢?誰「#與惡的距離」最近呢?
再舉一例來說,如果用於門禁或 ATM 的臉部辨識 AI 系統出問題,太過嚴格以至於讓使用者開不了門、領不到錢,或是太過寬鬆使歹徒得以利用,那該怎麼定義問題的範圍,用理性的方式來解決呢?
臉部辨識作為服務升級的關鍵,從智慧零售到智慧家居到智慧服務,都少不了這項技術的身影,也是人工智慧使預測平價化的代表。只要你拿著這一兩年出的新手機,想必也不會陌生。例如我這次參訪的 #訊連科技(CyberLink)展場主打「FaceMe」AI 臉部辨識引擎,他們提供 SDK 與多家科技廠商合作,包括 #宏碁雲端、#奇景光電、#微程式、#凌群、#達碩 等。我也拜訪了同在 SmarTEX 展出的達碩智慧科技,了解他們使用這套臉部辨識引擎,針對銀髮照護、社區管理、企業差勤管理等不同情境設計的解決方案。即使在我與訊連跟達碩的主管談話時,他們自謙還不是目前領先的廠商,但他們的服務也已經非常成熟,可見這樣的軟硬體整合套裝將持續普及到各地,而台灣中堅企業將成為關鍵推手。
美中貿易戰,加上美國可能逐步針對有侵犯人權之虞的監控科技施加圍堵禁令(如 #海康威視、#浙江大華、#商湯科技 等),突顯出台灣提供類似服務的企業所能提供的安全價值,但即使如此,這項科技本身還是帶給社會其他挑戰。訊連科技的連啟民協理跟我說,臉部辨識的準確性不是 0與1 的取捨,他們的 SDK 能夠針對不同情境,讓配合的廠商自行調整精度,掌控風險,例如從一般社區門禁的萬分之一調到 ATM 的十萬分之一,同時使用邊緣運算技術(Edge Computing),讓資料不用都到雲端,降低反應時間及資安疑慮。
我在展場也與 #康訊科技 及 #訊舟科技 兩家公司進行交流。康訊從圖資起家,以地理定位技術切入車載系統設備,扎根台灣30多年來,已經成為全球領先的車隊管理服務商,不管是共享汽機車、物流公司、校園巴士、救護車、消防車都是他們服務的客戶。他們提供的設備就像車上的黑盒子,可以完全掌握車輛的狀況,如透過監測引擎啟動狀態,可以知道司機是否過勞;透過監測燃料消耗情況,可以知道是否有偷油的情形發生。而全球客戶累積的數據也成為重要的資產,可以協助物流業者優化路線。
訊舟作為老牌網通公司,這次展出許多產品,我認為最亮眼的就是他們與中研院陳伶志博士合作推出的「空氣盒子」,我雖然早就知道空氣盒子,卻是第一次看到並且從訊舟的角度聽這個已經是公民科技典範的故事,目前在全台已經有 4,000 多台設備上線,密集監測空氣品質,累積的數據也已經可以做到空品預測。
另外,這次在 SmarTEX,科技部推動的 #GLORIA 國際產學聯盟現場展出 67 項前瞻技術,我也與聯盟中的幾所大學交流,例如 #中國醫藥大學 推出能夠判讀骨齡、癌症等資訊的 AI,節省醫師判讀時間,加速診斷。#國立交通大學 伍紹勳博士則與 #新光醫療團隊 合作,用像是貼在東尼史塔克胸口的智慧貼片,只用3導程就能正確模擬專業醫療設施12導程的ECG心電圖信號,大幅改善病患的行動自由,也顯著降低成本。而具有超過 2,000 例達文西手術經歷的 #臺北醫學大學劉偉民醫師團隊,則在擁有大量醫師第一視角錄影的基礎上,推出手術教學平台,包括 VR 手術直播拍攝,與虛擬手術教學模擬系統。
從訊連、達碩、康訊、訊舟到這三個來自學界的醫療技術案例,可見都與數據分析、人工智慧辨識判讀、虛擬模型建置有關,儘管我相信在台灣醫療與科技、工程多重優勢下,他們都前景可期,但該問的仍然要問:要是出了差錯,怎麼辦?誰負責?各團隊對此問題顯然也都深思熟慮過。而我將他們給我的回答整理,加入我對「人工智慧如何規範」這個問題的答案。
--------------------
#以自駕車為例思考
著名的科幻小說家艾希莫夫,在1942 年的短篇小說 Runaround 以及後來的機器人系列裡頭,提出了機器人三原則(Three Laws of Robotics),很多人可能都會背了,這三原則分別是:第一,機器人不得傷害人類,或坐視人類受到傷害;第二,除非違背第一法則,否則機器人必須服從人類命令;以及第三,除非違背第一或第二法則,否則機器人必須保護自己。
參考:Three Laws of Robotics
https://en.wikipedia.org/wiki/Three_Laws_of_Robotics
這三原則聽起來很周密,但其實並非如此,而且也不太現實。以自動駕駛汽車作為案例吧,自動駕駛汽車是這一波人工智慧發展最受關注的領域,而且因為許多國家政府正在積極制訂法規,自駕車的自動化程度,跟依據自動化程度而制定的責任歸屬,也比較清楚,值得用來舉一反三,幫助我們思考,人工智慧要是進入到每一個領域,會帶來多少該仔細考量的變化。
那麼,到底什麼是自動駕駛汽車呢?你可能聽過什麼 Level 3,Level 5 的,那指的是自動駕駛的自動化程度分級,我們可以用這張表來簡單呈現:
這個分級定義,是由國際汽車工程協會(Society of Automotive Engineers, SAE)所提出的,已經獲得廣泛的共識。從第零級到第五級,共有六個層級。第零級的自動駕駛就是毫無自動化,一直到第二級,都還是以駕駛員為主,機器提供輔助。
但從第三級開始,負責開車的就是機器了。人類駕駛頂多在緊急狀態作為備用選項。第四級之後,就連緊急狀態也是由機器來應對,人類就從駕駛這件事基本退場了。到第五級的情況,就像是有一個超級人工智慧在負責開車,相信到時候,超級人工智慧也不會只用在車上。
目前已經有幾家汽車公司宣稱自己的自駕車達到了第三級,例如 #奧迪、#特斯拉、#現代汽車 等,大部分車廠也都表示在 2020 年就會推出第三級的自駕車。Google 旗下的 Waymo 以及台灣的財團法人車輛研究測試中心 ARTC 則表示都已經有第四級自駕車的技術能力。
日本政府非常積極地花工夫在自動駕駛的規範上,日本的「投資未來委員會」在 2018 年底,便提出了已經研擬多年的自動駕駛汽車指導原則。根據報導,日本首相安倍晉三希望透過採取具體步驟,建立法律框架,讓日本成為率先制定國家級規範的國家。首要處理的就是第三級自動化情況下的監督跟法律方向。我們就來看看,在自駕車的規則上,日本是怎麼想的?
日本的規則是,通常來說車主需要對車輛自主運行時發生的事故負責,並且由政府規定的汽車保險公司承保。如果車輛系統有明顯的缺陷,該負責的就是汽車製造商。強制性保險這一步確定了之後,保險公司也就能夠制定方案,讓車主選擇,要保哪一種。
另外,為了釐清事故的原因,自動駕駛汽車需要完整記錄位置、轉向、人工智慧系統操作狀態的信息,也就是說,得要有像是飛機黑盒子這樣的裝置。
那如果遇到新型態科技犯罪者或駭客呢?只要車主有採取適當的安全措施,例如更新車輛系統或維護保養,那麼若是因為駭客攻擊或入侵造成損害,就視同汽車被偷走了。
除了這幾個大方向以外,還有不少問題待解決。因為剛剛說的都只是民事責任,財產相關的規範,但還沒有碰觸到刑事責任,如果真的因為自駕車的缺陷而造成傷亡,除了車主以外,程式開發者,汽車製造商該負起哪些連帶的責任呢?若不能盡快釐清,程式開發者跟汽車製造商就難以決定是否該正式推出產品。
另外,自動駕駛的操作條件、例如速度限制,運作的時間長短,天氣狀況也都得考量,就像各種已經存在的汽車安全規範一樣,人工智慧控制系統的標準、對網路攻擊抵禦的強度,也都得一一制定。
--------------------
而以自動駕駛為案例,可以幫助我們思考該怎樣規範其他人工智慧的應用情境。歸納我這次到 SmarTEX 參訪交流的心得,我想比起艾希莫夫的機器人三原則,我們該建立的思考原則其實是這四個:
#面對此時此刻的人工智慧該有的思考原則
第一,#釐清主控權。整項任務中,是人類還是機器掌握主控權?能否以清楚的層級概念來劃分人類或機器的掌控程度?就像自駕車這樣呢?另外,在關鍵決策點,人類有沒有介入,是否被要求介入?這些都必須根據不同的應用環境來一個一個釐清。
第二,#損害管理與風險溝通。在發生意外的時候,擁有者、使用者、設計者、販售者、維修者等角色,是否已經明白可能要負的對應責任?這些責任的政府主管機關與相關的法律有哪些?其實每一樣新的科技進入我們的生活,都會有一段學習曲線,我們不太可能在了解所有問題、解開所有疑慮之後才採用新技術,而是必須妥善跟每一個角色溝通風險。
第三,#數據紀錄透明化。為了忠實檢討意外發生的原因,人工智慧系統需要持續紀錄運作狀況,以及感測器所收集到的各種資訊。並且要確保訓練人工智慧的資料也是可受檢驗的,避免造成系統化的偏見。另外也同等重要的是,收集數據的單位,像是企業、保險公司或政府,有義務證明,收集這些資訊,是必要且適當的。例如飛機上機長跟駕駛員的通話可以收集,但車內的通話該不該收集呢?商店內的顧客對話該不該收集呢?
第四,#系統思維。任何意外發生,都要了解,系統總是存在一定的風險,告知風險機率跟可能的狀況類型。以「不責難」的出發點,來面對後續的檢討,才能讓各角色更願意把系統中的臭蟲或不當行為揪出來,最終的目標是讓這個能夠便利更多人、拯救更多人的系統,越來越好。就像醫療一樣,如果每次只要有病人在手術中過世了,醫生都要被告到賠上身家,那還會有醫生願意繼續替病人動手術嗎?當醫療行為中有越來越多具有人工智慧的機器介入,診斷疾病、決定麻醉份量、甚至用機械手動手術,我們就不得不分配信任給更多的角色。
從 COMPUTEX 的 SmarTEX 展區上琳瑯滿目結合了人工智慧的技術,可以肯定人工智慧已經,也即將進入每一個我們可以想像得到的層面,過去的規範將無法適用,而且即使訂出新規範,也會很快過時。我們不可能完全理解我們部署的人工智慧系統的風險。當前的機器學習運行得如此之快,以至於沒有人真正知道機器是如何做出決策,通常連開發人員也不知道。這些系統還會持續從環境中學習並更新他們的函式,這使研究人員更難控制和理解決策過程,在這樣缺乏透明度,也就是常說的黑盒子問題籠罩下,要建立道德準則跟規範,當然就極為困難。
然而若不要大驚小怪,將人工智慧與人肉智慧對等來看,人類花了幾千年建立起的道德準則,同樣漏洞百出,我們卻也習慣了。人類專家有的偏見跟偏誤更是問題層出不窮,而我們也是一直倚賴這樣有缺陷的專家系統在運作。此刻的人工智慧浪潮,正給了我們機會跟動力,檢視我們習以為常的那些想法,我認為以上的四原則,更有助於我們迎向已經到來的未來世界,而開發出這些技術,推出產品與服務的企業,若都能夠率先思考這些問題,也是我們所期待的。就如同我在這次 COMPUTEX SmarTEX 展區上看見的一樣。
--------------------
最後,我雖然只逛了整個 COMPUTEX 的一部份,但很感謝外貿協會,讓我能不只是走馬看花,而是深入與廠商對話跟採訪,非常有收穫。幾乎每一家我逛的展位,都跟數據、AI(起碼是機器學習)有關,並將其結合硬體,整合出具有市場競爭力的方案,雖然我沒有資格替他們的產品背書,但我覺得深入談過之後,他們都對自己的產品與服務非常有自信,或許並非市場的領先者,也已經看見該切入的定位與成長的路徑。
今年的 COMPUTEX 展會已經結束,不過以後若有機會前往類似會展活動,很推薦大家跟我一樣帶著問題意識去逛逛,跟這些未來世界的打造者聊聊,畢竟我們得住在裡面。
--------------------
Medium 版:http://bit.ly/2HLuT8p
開發人員選項模擬位置 在 mdm解鎖開放人員選項#應用程式 - 3C板 | Dcard 的推薦與評價
因為小弟最近被抓去當兵了在外面又有拍照的需求但是自從手機被灌了mdm 相機就不見了要解鎖就跳出這個畫面,接著我要去開放選項人員設定但是接下來就 ... ... <看更多>
開發人員選項模擬位置 在 這是pokemon的Bug嗎??? - Mobile01 的推薦與評價
sony z5的開發人員選項裡並沒有您所說的允許模擬位置選項.... 倒是有一個選取模擬位置應用程式, 但是這選項並為設定模擬位置應用程式。 ... <看更多>
開發人員選項模擬位置 在 如何開啟「開發人員選項」? Android手機設定 - YouTube 的推薦與評價
... <看更多>