關於 分級運作量定義 ，我們在網路上蒐集到這些相關的討論、資訊與評價

Tesla FSD號稱全自動駕駛系統，究竟是革命還是吹牛？- 方展策

「水能載舟，亦能覆舟。」新技術雖有助改善人類生活，但如果技術本身還未準備好，人們卻高估技術所能做的事情，或許會造成人命傷亡。伊隆·馬斯克（Elon Musk）今年10月突然宣布推出全新的「Full Self-Driving」（FSD）測試版軟件，可讓特斯拉（Tesla）電動車從「Autopilot」自動輔助駕駛模式，升級至全自動駕駛系統，讓原本遙不可及的無人駕駛一下子提早實現！但隨後卻遭美國國家公路交通安全管理局（NHTSA）打臉，局方直言市面上沒有任何一款車輛具備完全自駕的能力。到底箇中實情如何？

FSD初試啼聲表現勝預期

2020年10月21日，馬斯克在Twitter上宣布，全新的「FSD」全自動駕駛Beta版軟件已向部分車主推送。相比起當年發布「Autopilot」時的高調姿態，今次特斯拉對「FSD」的態度已略顯低調。據悉，首批獲邀參與測試的車主為數不多，只屬小規模的封閉測試。不過，當愈來愈多測試參與者上傳試車短片，顯示出「FSD Beta」的行車表現更勝預期，讓這款新版自駕系統火速成為社交網絡上的熱門話題。

參照馬斯克先前的說法，「FSD」將會分作3個階段推出：首階段是小規模封測，次階段是較大範圍的公測；如前兩個階段均能順利完成，預計可在2020年12月底前向美國所有Tesla車主推送「FSD」。馬斯克已宣布，「FSD」軟件售價會由8,000美元（約6.24萬港元）調高至10,000美元（約7.8萬港元）。

「FSD」在功能上究竟有何獨到之處呢？啟動「FSD」後，車輛在高速公路上便會懂得自行轉線；駛到十字路口，車輛也能按照導航路線，自動轉彎進入正確的道路；遇到前方有汽車擋住車道，車輛先會自動減速停車，然後轉向繞過前車。不少車主在試用「FSD Beta」後都表示，其自駕表現貼近現實中真人駕駛會做出的反應，非常實用。

司機高估Autopilot能力

不過，「FSD Beta」的升級說明中提醒，這只是早期測試版本，用戶必須謹慎使用，並強調司機在行駛過程中始終要把手放在方向盤上，隨時關注路面情況。今次Tesla特別強調安全性，或許跟「Autopilot」歷年來涉及多宗致命車禍有關。

2015年10月，特斯拉正式發表「Autopilot」，容許車輛在特定情況下進行自動駕駛，讓全球Tesla車迷興奮不已。2016年1月，搭載「Autopilot 7.1」的Model S被視為首款L2級別的車型。根據國際汽車工程師學會（SAE International）對自動駕駛分級的定義，L2 級別屬於部分自動駕駛，司機負責周邊監控，並要預備隨時接管車輛，自駕功能包括主動式定速巡航、自動跟車、自動泊車等。

最初Tesla沒有明確說明，L2級別需要司機處於駕駛狀態，行車期間不但要全神貫注監控路面，雙手也不能離開方向盤；有關要求僅在產品說明書上寫了便算，但試問有多少人在開車前會翻閱說明書呢？可能因為這種隱晦的表達方式，再加上駕駛者高估了「Autopilot」的自駕能力，於是自2016年起間接或直接釀成至少5宗致死交通事故。

致死車禍地點分布中美日

2016年1月，在中國河北邯鄲的高速公路上，一名Model S車主啟動了「Autopilot」，車輛進入定速巡航狀態，惟自駕系統未能準確識別前方的道路清潔車而直撞上去，23歲車主重傷身亡。同年5月，美國佛羅里達州一輛正開著「Autopilot」的Model S，因系統無法在晴朗天色下辨識貨櫃車的白色車身，結果直接撞向貨櫃車，40歲司機死亡。

2018年3月，一輛已開啟「Autopilot」的Model X駛至加州山景城附近，失控撞上公路石壆，再與兩車相撞，司機送院不治。同年4月，日本神奈川高速公路發生一宗碰撞事故，涉事貨車與電單車司機下車商討；一輛Model X從後駛來，因司機啟動「Autopilot」後不小心睡著，以致未能閃避貨車，撞向路旁人群，造成一死兩傷。

2019年3月，佛羅里達州一輛「Autopilot」在運作中的Model 3，失控撞入橫越路口的貨車車底，司機喪生。經歷多宗事故後，特斯拉終於在官網上寫明：「目前的 Autopilot 自動輔助駕駛導航功能需要駕駛員主動監督，無法使車輛實現自動駕駛。」

FSD越級挑戰L5級別

馬斯克早於2020年7月的世界人工智能大會上宣稱，Tesla的自動駕駛技術已非常接近L5級別，預計年底前將完成L5的基本功能開發。換言之，「FSD」已在「Autopilot」基礎上跳過L3和L4級別，越級挑戰L5級別。

SAE把L5級別定義為自動駕駛的最高境界，屬於完全的無人駕駛，在任何場景下均可由車輛完成所有駕駛操作，人類在車上毋須保持注意力集中。至於中間隔著的L3和L4，前者是AUDI與本田等大車廠正在積極實現的技術目標，後者則是Waymo與Cruise等無人車初創努力追求的研發境界。由此視之，Tesla或許已一下子超越所有競爭對手了！

美國監管機構密切關注

在「FSD Beta」釋出後不久，交通安全監管機構NHTSA隨即表示，正密切關注這款新版自駕系統的狀況，當公眾面臨不合理的安全風險時，就會立即採取應對行動；同時，又直接打臉Tesla，強調現時市面上並未有任何一款車擁有全自動駕駛的能力。事實上，參照「FSD Beta」的升級說明，要求車主時刻盯著路面，並把雙手放在方向盤上，這樣的描述只能符合SAE分級定義下的L2級別，即是部分自動駕駛。

兩大無人車初創Waymo與Cruise均坦承，現有技術水平離L5級別還有一大段距離。以Waymo為例，自2020年10月起提供不設安全駕駛員的無人的士服務，服務區域局限於亞利桑那州鳳凰城地區50平方里，因有限定操作場景，按照SAE分級定義亦只會視作L4級別。研調機構Forrester曾於2019年分析無人車工程師提供的數據，結果認為全自動駕駛車輛可能要10多年後才能出現。

對自動駕駛持觀望態度

由是觀之，馬斯克宣稱「FSD」是全自動駕駛系統，似乎是有點誇大了。可是，隨著「FSD Beta」步入公測階段，參與測試的車主數量將會大幅增加，意味著Tesla能蒐集更多行車數據，供人工智能神經網絡反覆學習，加快改進自駕演算法。馬斯克曾透露，擬每5至10天就更新一次「FSD Beta」，務求逐步完善系統，或許終有一天可進化到L5級別……儘管暫時未知那一天何時到來。

因此，現階段大家對自動駕駛應抱持觀望態度，千萬不要被一些令人驚艷的新功能搞得興奮過頭，以致高估了自駕技術所能做的事情。否則的話，日後馬路上可能會經常出現類似以下的不可思議事件：2020年7月，加拿大亞伯達省公路上有一輛車以時速140公里超速行駛，警方接報到場，竟發現這輛行駛中的Model S內裡空無一人，原來兩張前排座椅均被完全放平，司機與乘客都趟著睡覺！亞伯達省皇家騎警交通服務局局長在一份公開聲明中指出，新一代汽車的駕駛輔助系統並不等同於全自動駕駛系統，駕駛者仍須承擔駕駛的責任。

原文：經濟通

#科技 #汽車 #生活

#葉郎每日讀報 #一週大事版
────────────────
「對一部電影成功與否的既有指標、
分析和評斷方式都必須全部推倒重來」
——好萊塢票房分析師
────────────────

明天是九月第一個星期一，也就是美國的勞動節，使現在這個週末成為好萊塢定義上的暑假檔最後一週。過去很少有重量級大片會選在這個週末上映，因為畢竟暑假眼看就要結束，這時候上映的電影將沒有足夠的空間/時間開展身手、收成票房。

然而2020年完全不是這麼回事......


決定命運的勞動節檔
￣￣￣￣￣￣￣￣￣
這個週末在美國上映的電影不僅是今年最重要的電影，更是足以左右美國電影產業長期發展的關鍵時刻。

Disney 電影《Mulan 花木蘭》和一週前已經在其他國家上映的 Warner電影《Tenet 天能》分別在9月3日後的24小時內與美國觀眾見面，只是前者則是在 Disney+ 上架做 VOD 零售，後者則是在電影院上映。整個好萊塢都在密切觀察這兩部電影的市場反應，因為兩者的表現將決定疫情後整個好萊塢要如何改變他們的商業運作模式。

在世界最大電影市場——美國之中，存在量體大小還難以預估的兩群人： 一群人願意放心回到電影院，另一群人則覺得電影院再也不夠安全兒而寧願留在家裡看串流。這些美國人將在未來幾天用「行動」驗證和自己想法相同的人到底有多少，而好萊塢將依據這個人數決定美國電影產業的下一步。

票房分析師 Jeff Bock 說：「如果《天能》表現超過預期，好萊塢將傾巢而出發行所有的電影。但如果《天能》票房未如 Warner 原先預期的話，你們很可能將看見集體轉向PVOD的風潮」。另外一種樂觀的劇本是《天能》和《花木蘭》都大獲成功，那麼好萊塢或許可以鬆一口氣，因為有兩條路可走總好過一條路。

不過麻煩的是這種史無前例的疫情狀態，讓大家都很難精確地計算這兩部電影的成績好壞。「對一部電影成功與否的既有指標、分析和評斷方式都必須全部推倒重來」另一位票房分析師 Paul Dergarabedian說。

到週六為止的《天能》總票房票房已經突破1億美元（其中有2000萬來自才剛剛上映的中國市場），但其中還不含美國市場的數據。預計最快要到美國時間星期天上午才會有美國票房的資料發佈。

資料發佈是一回事，解讀又是另一個頭痛的議題：我們很難把《天能》跟過去任何電影的數據作比較，一方面是因為上映的電影院數量遠不及疫情前（紐約和洛杉磯兩大票倉城市電影院都沒有恢復營業），可是另一方面過去也很難有好萊塢電影一人獨佔電影院檔期這麼長的時間區段。

不過最難的還是《花木蘭》的數據解讀。因為最終可能根本沒有數據。


VOD從此替爺征？
￣￣￣￣￣￣￣￣

2019年幾乎獨攬全美電影票房近半數的 Disney 絕對沒有預料到2020年會用造價2億美元的《花木蘭》進行一次發行策略的豪賭：

9月4日在部分國家的電影院上映的花木蘭，同時也會在串流服務 Disney+ 已經開通的國家直接上架。不過 Disney+ 的訂戶此時此刻並非可以直接點選而免費收看，而是必須額外支付 29.99美元的費用購買。這種發行方式基本上就是過去好萊塢最大的禁忌：「day-and-date release 同步發行」。

之所選擇這個大膽而特殊的發行的發行方法，除了不看好電影院的影業恢復情況之外，該片的PG-13（輔導級）分級也是向來主打普通級電影的Disney覺得票房可能受限的因素之一。

Forbes 認為 Disney 這種銷售方式也有助於留住 Dieny+訂戶，使他們在購買特定零售電影之後不會隨意退訂。

有趣的是 Disney+ 上的《花木蘭》在12月4日就會轉為免費觀看（但仍必須是每月支付6.99美元的 Disney+ 月租），也就是說那些在 PVOD 階段花了29.99美元的觀眾實際上買到的是一個在為期三個月的空窗期搶先觀看的特權。這使本來比較傾向細水長流的 VOD 商業模式突然變得更像傳統電影院的事件型發行模式：用各種漫天鋪地的話題耳語來製造時間的急迫性，讓觀眾覺得必須花錢買時間以便第一時間看完電影，而非等幾個月後在錄影帶市場或是電視頻道上觀看。

《花木蘭》此次採用的多重門檻觀看機制同時也提高了非法下載的風險。

好萊塢的老敵人非法下載這幾年已經因為為串流興起而顯著式微，因為這些使用者真正在乎的是內容的容易取得性，而充滿廣告陷阱的盜版網站已經比合法串流變得更不方便。早幾天發行的《天能》和《The New Mutants 新變種人》已傳出有品質低劣的盜版現身網路上。

Disney 很快就會知道他們的大膽實驗結果是成功開創了新商業模式，還是重新掀起了非法下載的熱潮。但麻煩的是只有他們會知道，我們很可能會被蒙在鼓裡好一陣子。

按照市場先行者 Netflix 立下的「偉大」串流傳統：沒有一家串流平台會乖乖地分享他們的數據。如果這個 PVOD 的新模式大有斬獲，Disney 或許有機會會像 Netflix 一樣公佈某一些對刺激股價有好處的特定數據。但如果《花木蘭》的 PVOD 表現不如預期，我們幾乎可以百分之百肯定Disney 絕對不會主動告訴我們。

我們唯一的線索可能是《花木蘭》後 Disney 是否改變漫威電影《Black Widow 黑寡婦》的發行計畫（譬如比照辦理 PVOD 同步發行模式），來藉此回推花將軍出征的表現是否讓天朝皇帝滿意。


蝙蝠俠本人確診
￣￣￣￣￣￣￣
正當全世界的製片產業正在努力創造更安全的工作環境、說服每個人回來上班的緊要時刻，高譚市的黑暗騎士就出事了：

上週重磅消息是3月停拍後好不容易才剛剛在英國復工的《The Batman 蝙蝠俠》劇組，突然又宣佈緊急停拍。Warner Bros. 的發言人表示「某位《蝙蝠俠》劇組成員確診 Covid-19，並依據防疫規定隔離治療當中。劇組因此暫時喊停。」但隨後沒多久 Vanity Fair 和 Hollywood Reporter 等兩家美國娛樂媒體隨即掌握內線消息指出確診的「某位」劇組成員正是才復工三天的男主角 Robert Pattinson。

Warner Bros. 執行長 Ann Sarnoff 在新聞爆發當天正好安排了媒體訪問要談《天能》，但她完全無法逃避幾個小時前才爆出的 Robert Pattinson 確診議題。Sarnoff 堅持維護劇組個人隱私，不肯確認確診的是否為男主角 Pattinson。對於劇組重啟，她說 Warner 從來沒有期待可以一路順利毫無阻礙，只能隨時準備好應變任何變化。

英國媒體 The Daily Mail 原本報導說 Warner Bros. 為了避免在英國片廠的開支不斷膨脹，已經準備用替身演員繼續拍下去。但稍後美國娛樂產業媒體 Variety 隨即刊出完全相反的說法——內線消息指出，雖然該劇的場景搭設和道具製作會繼續進行，但拍攝的工作兩週內都不會恢復。

熟悉製作業務的 Variety 消息來源評論道：「這很可能是你所能想像最壞的情況」。英國劇組規定確診後至少必須隔離10天，然後篩檢過關並且完全沒有症狀之後才能復工。有些劇組採用更嚴格的標準要求必須至少兩次篩檢過關，並且持續72小時沒有症狀。此外，任何和確診者在6呎距離內共處超過15分鐘的人也必須進行隔離。更何況這次確診者是絕對不可能戴口罩工作的演員。

少數幾個已經復工的好萊塢劇組都面臨了過去從來沒有處理過的種種困難：同樣在英國拍攝的《Jurassic World 3 侏羅紀世界3》據說包下了一整棟旅館來集中管理所有劇組人員，而且所有人員（包含旅館員工）都必須接受一週三次的篩檢。正在挪威拍攝的《Mission Impossible 7 不可能的任務7》則大手筆地以70萬美元價格向挪威航運公司 Hurtigruten 租下兩艘郵輪當成海上旅館，以符合挪威政府防疫要求——劇組不得跟外人接觸的防疫規定（但遭挪威當地的工會近日向警方檢舉沒有提供合法待遇給船上的菲律賓移工）。

Variety 認為蝙蝠俠確診事件 Warner Bros.真正的損失並不大。因為他們的電影是在疫情之前就開拍，所以保險早在疫情來之前就買了，所有的延誤成本都還有保險公司幫忙分攤。

但對於其他劇組來說，這起事件的衝擊將會更大、更深遠：

保險公司在疫情後的保守態度將會因為蝙蝠俠確診事件而更加惡化。保險公司盡可能迴避理賠風險的結果是，許多劇組（尤其是獨立製作）將因此再也保不了險，拿不到完工保證，因而永遠難以開拍。

MPAA 美國電影協會已經在華盛頓運作多時，希望國會可以比照911當年透過立法成立一筆保證基金給保險公司，藉以分攤保險公司風險，讓所有必須仰賴保險才有辦法繼續運作的產業可以繼續運轉下去。

這些政治遊說還沒有讓國會採取任何實質行動。好萊塢暫時只能靠自己讓地球繼續轉動。


｜新聞出處｜

How ‘Tenet’ and ‘Mulan’ Could Shape the Future of Blockbuster Movies During Coronavirus（https://bit.ly/31Za1ow）

As ‘Tenet’ and ‘Mulan’ Finally Open, Studios Make It Difficult to Judge Their Box-Office Success（https://bit.ly/327UXFf）

Tenet Takes In $100 Million At The Box Office Worldwide（https://bit.ly/3bDp9uP）

Robert Pattinson Tests Positive for Coronavirus, Halting ‘Batman’ Production（https://nyti.ms/2DzeiW9）

How Robert Pattinson’s COVID-19 Test Could Affect ‘The Batman’ — and the Industry（https://bit.ly/2F7DH9S）

Disney Takes A Gamble On Price Elasticity With Mulan（https://bit.ly/3bgouiD）

Warner Bros. CEO Talks 'Batman' Filming Halt, 'Tenet' Release Amid COVID-19（https://bit.ly/2F1CLUG）

Tom Cruise’s ‘Mission: Impossible 7’ Sets Sail in Norway（https://bit.ly/2EGgdsJ）

Pirated Versions of ‘Tenet,’ ‘New Mutants’ Appear Online（https://bit.ly/3jzWx8B）

UPDATE: 'The Batman' resumes production without Robert Pattinson following positive COVID-19 test（https://yhoo.it/2R10LK0）

我們該如何規範人工智慧 (全文)？

#COMPUTEX，這個跟我一樣歲數的電腦資訊展會，我竟然直到今年才首次踏入。

這次受主辦單位之一的 #外貿協會 （ #TAITRA）邀請，在上週三（5/29）來到位於南港展覽館 2 館4樓的「 #SmarTEX」展區參觀，與多家參展公司交流。我雖然自己經營過科技媒體網站，但我不是擅長採訪會展的記者，也不是好的 3C 部落客，因此我抱著「幫自己正在思考的問題取材」的目標，前往這場大型科技會展。

（先說：因此這篇文章不會有太多展覽展位上產品的細節跟照片，請大家見諒。）

而我最近在想的問題，也就是本篇文章的主題是：進入人工智慧時代，我們該如何規範人工智慧？

或者，我們也可以反過來問：人工智慧該如何規範我們？

自認偏樂觀派的我，其實不希望讓大家覺得「人工智慧的未來真糟糕」，我的個人偏見是：大致來說，我喜歡科技，儘管科技的確會帶來衝擊，但只要我們更願意去思考，就更有機會讓未來往比較好的方向演進。所以談這個議題，目的是要避免要是這樣的狀況真的發生了，我們才懊悔地說「這真糟糕，為何我們沒有早點想到。」

--------------------

關於人工智慧的規範問題，首先，我們來看看 MIT 媒體實驗室做的一個調查「道德機器」（網址：http://moralmachine.mit.edu/hl/zh）。

在這個網頁裡頭，有許多類似「#電車難題」的情境，需要你來回答。每一個參與者，需要回答 13 個題目，每個題目只有兩個選項。在每一個題目的情況中，都有一輛突然煞車失靈的自動駕駛汽車，而你必須做出選擇，要繼續前進，或是轉彎離開。

例如在某個二選一的情況中，你認為這台自動駕駛車該繼續直衝，撞死一個成人男性，還是轉動方向盤，讓車子撞上另一側的護欄，殺死車上四個人，包括兩名兒童？

在另一個二選一的情況中，這台自動駕駛車上只有一隻貓，若繼續直衝，會撞上護欄，讓貓死於非命，但若自駕車往左彎，貓的性命可保，卻會撞死一位正在違規闖紅燈過馬路的遊民。

類似這樣的二元選擇有很多種變化，例如過馬路的可能是動物、可能是罪犯、可能是醫生，嬰兒，或是這些人的綜合隊伍，他們或許是違規過馬路，或許是遵守交通規則但運氣不好。而車子直衝或轉彎，也隱含了道德選擇。推薦各位都上道德機器的網頁去回答看看，看你會不會跟我一樣覺得實在是逼人太甚，到最後根本就放棄思考（XD）。

這個網頁告訴我們一件事：我們不可能對各種狀況產生共識、或得出任何堪稱正確的答案，事實上這個調查也不是要用多數人的意見來決定未來的自駕車要是真的煞車失靈的時候，該做出什麼行動。然而這個調查提醒我們，當越來越多的「人工智慧代理」進入我們的生活，就會產生更多類似的道德難題。

--------------------

舉例來說，若一個 #人工智慧股票交易系統，因為對政治領袖發在社群媒體上的文章產生錯誤的解讀，而決定拋售某一檔股票，造成連鎖反應，讓投資者大賠一筆，這樣的損失該由誰來負責呢？

延伸閱讀：〈AI 機器人害我投資賠錢，我能告他嗎？〉
https://www.techbang.com/posts/70447-ai-robot-made-me-invest-money-can-i-sue-him

舉例來說，若一個 #人工智慧戀愛配對系統，推薦了一位居心不良的對象給另一個使用者，最後使用者被騙財騙色了，誰會受到最多的指責呢？誰「#與惡的距離」最近呢？

再舉一例來說，如果用於門禁或 ATM 的臉部辨識 AI 系統出問題，太過嚴格以至於讓使用者開不了門、領不到錢，或是太過寬鬆使歹徒得以利用，那該怎麼定義問題的範圍，用理性的方式來解決呢？

臉部辨識作為服務升級的關鍵，從智慧零售到智慧家居到智慧服務，都少不了這項技術的身影，也是人工智慧使預測平價化的代表。只要你拿著這一兩年出的新手機，想必也不會陌生。例如我這次參訪的 #訊連科技（CyberLink）展場主打「FaceMe」AI 臉部辨識引擎，他們提供 SDK 與多家科技廠商合作，包括 #宏碁雲端、#奇景光電、#微程式、#凌群、#達碩 等。我也拜訪了同在 SmarTEX 展出的達碩智慧科技，了解他們使用這套臉部辨識引擎，針對銀髮照護、社區管理、企業差勤管理等不同情境設計的解決方案。即使在我與訊連跟達碩的主管談話時，他們自謙還不是目前領先的廠商，但他們的服務也已經非常成熟，可見這樣的軟硬體整合套裝將持續普及到各地，而台灣中堅企業將成為關鍵推手。

美中貿易戰，加上美國可能逐步針對有侵犯人權之虞的監控科技施加圍堵禁令（如 #海康威視、#浙江大華、#商湯科技 等），突顯出台灣提供類似服務的企業所能提供的安全價值，但即使如此，這項科技本身還是帶給社會其他挑戰。訊連科技的連啟民協理跟我說，臉部辨識的準確性不是 0與1 的取捨，他們的 SDK 能夠針對不同情境，讓配合的廠商自行調整精度，掌控風險，例如從一般社區門禁的萬分之一調到 ATM 的十萬分之一，同時使用邊緣運算技術（Edge Computing），讓資料不用都到雲端，降低反應時間及資安疑慮。

我在展場也與 #康訊科技 及 #訊舟科技 兩家公司進行交流。康訊從圖資起家，以地理定位技術切入車載系統設備，扎根台灣30多年來，已經成為全球領先的車隊管理服務商，不管是共享汽機車、物流公司、校園巴士、救護車、消防車都是他們服務的客戶。他們提供的設備就像車上的黑盒子，可以完全掌握車輛的狀況，如透過監測引擎啟動狀態，可以知道司機是否過勞；透過監測燃料消耗情況，可以知道是否有偷油的情形發生。而全球客戶累積的數據也成為重要的資產，可以協助物流業者優化路線。

訊舟作為老牌網通公司，這次展出許多產品，我認為最亮眼的就是他們與中研院陳伶志博士合作推出的「空氣盒子」，我雖然早就知道空氣盒子，卻是第一次看到並且從訊舟的角度聽這個已經是公民科技典範的故事，目前在全台已經有 4,000 多台設備上線，密集監測空氣品質，累積的數據也已經可以做到空品預測。

另外，這次在 SmarTEX，科技部推動的 #GLORIA 國際產學聯盟現場展出 67 項前瞻技術，我也與聯盟中的幾所大學交流，例如 #中國醫藥大學 推出能夠判讀骨齡、癌症等資訊的 AI，節省醫師判讀時間，加速診斷。#國立交通大學 伍紹勳博士則與 #新光醫療團隊 合作，用像是貼在東尼史塔克胸口的智慧貼片，只用3導程就能正確模擬專業醫療設施12導程的ECG心電圖信號，大幅改善病患的行動自由，也顯著降低成本。而具有超過 2,000 例達文西手術經歷的 #臺北醫學大學劉偉民醫師團隊，則在擁有大量醫師第一視角錄影的基礎上，推出手術教學平台，包括 VR 手術直播拍攝，與虛擬手術教學模擬系統。

從訊連、達碩、康訊、訊舟到這三個來自學界的醫療技術案例，可見都與數據分析、人工智慧辨識判讀、虛擬模型建置有關，儘管我相信在台灣醫療與科技、工程多重優勢下，他們都前景可期，但該問的仍然要問：要是出了差錯，怎麼辦？誰負責？各團隊對此問題顯然也都深思熟慮過。而我將他們給我的回答整理，加入我對「人工智慧如何規範」這個問題的答案。

--------------------

#以自駕車為例思考

著名的科幻小說家艾希莫夫，在1942 年的短篇小說 Runaround 以及後來的機器人系列裡頭，提出了機器人三原則（Three Laws of Robotics），很多人可能都會背了，這三原則分別是：第一，機器人不得傷害人類，或坐視人類受到傷害；第二，除非違背第一法則，否則機器人必須服從人類命令；以及第三，除非違背第一或第二法則，否則機器人必須保護自己。

參考：Three Laws of Robotics
https://en.wikipedia.org/wiki/Three_Laws_of_Robotics

這三原則聽起來很周密，但其實並非如此，而且也不太現實。以自動駕駛汽車作為案例吧，自動駕駛汽車是這一波人工智慧發展最受關注的領域，而且因為許多國家政府正在積極制訂法規，自駕車的自動化程度，跟依據自動化程度而制定的責任歸屬，也比較清楚，值得用來舉一反三，幫助我們思考，人工智慧要是進入到每一個領域，會帶來多少該仔細考量的變化。

那麼，到底什麼是自動駕駛汽車呢？你可能聽過什麼 Level 3，Level 5 的，那指的是自動駕駛的自動化程度分級，我們可以用這張表來簡單呈現：

這個分級定義，是由國際汽車工程協會（Society of Automotive Engineers, SAE）所提出的，已經獲得廣泛的共識。從第零級到第五級，共有六個層級。第零級的自動駕駛就是毫無自動化，一直到第二級，都還是以駕駛員為主，機器提供輔助。

但從第三級開始，負責開車的就是機器了。人類駕駛頂多在緊急狀態作為備用選項。第四級之後，就連緊急狀態也是由機器來應對，人類就從駕駛這件事基本退場了。到第五級的情況，就像是有一個超級人工智慧在負責開車，相信到時候，超級人工智慧也不會只用在車上。

目前已經有幾家汽車公司宣稱自己的自駕車達到了第三級，例如 #奧迪、#特斯拉、#現代汽車 等，大部分車廠也都表示在 2020 年就會推出第三級的自駕車。Google 旗下的 Waymo 以及台灣的財團法人車輛研究測試中心 ARTC 則表示都已經有第四級自駕車的技術能力。

日本政府非常積極地花工夫在自動駕駛的規範上，日本的「投資未來委員會」在 2018 年底，便提出了已經研擬多年的自動駕駛汽車指導原則。根據報導，日本首相安倍晉三希望透過採取具體步驟，建立法律框架，讓日本成為率先制定國家級規範的國家。首要處理的就是第三級自動化情況下的監督跟法律方向。我們就來看看，在自駕車的規則上，日本是怎麼想的？

日本的規則是，通常來說車主需要對車輛自主運行時發生的事故負責，並且由政府規定的汽車保險公司承保。如果車輛系統有明顯的缺陷，該負責的就是汽車製造商。強制性保險這一步確定了之後，保險公司也就能夠制定方案，讓車主選擇，要保哪一種。

另外，為了釐清事故的原因，自動駕駛汽車需要完整記錄位置、轉向、人工智慧系統操作狀態的信息，也就是說，得要有像是飛機黑盒子這樣的裝置。

那如果遇到新型態科技犯罪者或駭客呢？只要車主有採取適當的安全措施，例如更新車輛系統或維護保養，那麼若是因為駭客攻擊或入侵造成損害，就視同汽車被偷走了。

除了這幾個大方向以外，還有不少問題待解決。因為剛剛說的都只是民事責任，財產相關的規範，但還沒有碰觸到刑事責任，如果真的因為自駕車的缺陷而造成傷亡，除了車主以外，程式開發者，汽車製造商該負起哪些連帶的責任呢？若不能盡快釐清，程式開發者跟汽車製造商就難以決定是否該正式推出產品。

另外，自動駕駛的操作條件、例如速度限制，運作的時間長短，天氣狀況也都得考量，就像各種已經存在的汽車安全規範一樣，人工智慧控制系統的標準、對網路攻擊抵禦的強度，也都得一一制定。

--------------------

而以自動駕駛為案例，可以幫助我們思考該怎樣規範其他人工智慧的應用情境。歸納我這次到 SmarTEX 參訪交流的心得，我想比起艾希莫夫的機器人三原則，我們該建立的思考原則其實是這四個：

#面對此時此刻的人工智慧該有的思考原則

第一，#釐清主控權。整項任務中，是人類還是機器掌握主控權？能否以清楚的層級概念來劃分人類或機器的掌控程度？就像自駕車這樣呢？另外，在關鍵決策點，人類有沒有介入，是否被要求介入？這些都必須根據不同的應用環境來一個一個釐清。

第二，#損害管理與風險溝通。在發生意外的時候，擁有者、使用者、設計者、販售者、維修者等角色，是否已經明白可能要負的對應責任？這些責任的政府主管機關與相關的法律有哪些？其實每一樣新的科技進入我們的生活，都會有一段學習曲線，我們不太可能在了解所有問題、解開所有疑慮之後才採用新技術，而是必須妥善跟每一個角色溝通風險。

第三，#數據紀錄透明化。為了忠實檢討意外發生的原因，人工智慧系統需要持續紀錄運作狀況，以及感測器所收集到的各種資訊。並且要確保訓練人工智慧的資料也是可受檢驗的，避免造成系統化的偏見。另外也同等重要的是，收集數據的單位，像是企業、保險公司或政府，有義務證明，收集這些資訊，是必要且適當的。例如飛機上機長跟駕駛員的通話可以收集，但車內的通話該不該收集呢？商店內的顧客對話該不該收集呢？

第四，#系統思維。任何意外發生，都要了解，系統總是存在一定的風險，告知風險機率跟可能的狀況類型。以「不責難」的出發點，來面對後續的檢討，才能讓各角色更願意把系統中的臭蟲或不當行為揪出來，最終的目標是讓這個能夠便利更多人、拯救更多人的系統，越來越好。就像醫療一樣，如果每次只要有病人在手術中過世了，醫生都要被告到賠上身家，那還會有醫生願意繼續替病人動手術嗎？當醫療行為中有越來越多具有人工智慧的機器介入，診斷疾病、決定麻醉份量、甚至用機械手動手術，我們就不得不分配信任給更多的角色。

從 COMPUTEX 的 SmarTEX 展區上琳瑯滿目結合了人工智慧的技術，可以肯定人工智慧已經，也即將進入每一個我們可以想像得到的層面，過去的規範將無法適用，而且即使訂出新規範，也會很快過時。我們不可能完全理解我們部署的人工智慧系統的風險。當前的機器學習運行得如此之快，以至於沒有人真正知道機器是如何做出決策，通常連開發人員也不知道。這些系統還會持續從環境中學習並更新他們的函式，這使研究人員更難控制和理解決策過程，在這樣缺乏透明度，也就是常說的黑盒子問題籠罩下，要建立道德準則跟規範，當然就極為困難。

然而若不要大驚小怪，將人工智慧與人肉智慧對等來看，人類花了幾千年建立起的道德準則，同樣漏洞百出，我們卻也習慣了。人類專家有的偏見跟偏誤更是問題層出不窮，而我們也是一直倚賴這樣有缺陷的專家系統在運作。此刻的人工智慧浪潮，正給了我們機會跟動力，檢視我們習以為常的那些想法，我認為以上的四原則，更有助於我們迎向已經到來的未來世界，而開發出這些技術，推出產品與服務的企業，若都能夠率先思考這些問題，也是我們所期待的。就如同我在這次 COMPUTEX SmarTEX 展區上看見的一樣。

--------------------

最後，我雖然只逛了整個 COMPUTEX 的一部份，但很感謝外貿協會，讓我能不只是走馬看花，而是深入與廠商對話跟採訪，非常有收穫。幾乎每一家我逛的展位，都跟數據、AI（起碼是機器學習）有關，並將其結合硬體，整合出具有市場競爭力的方案，雖然我沒有資格替他們的產品背書，但我覺得深入談過之後，他們都對自己的產品與服務非常有自信，或許並非市場的領先者，也已經看見該切入的定位與成長的路徑。

今年的 COMPUTEX 展會已經結束，不過以後若有機會前往類似會展活動，很推薦大家跟我一樣帶著問題意識去逛逛，跟這些未來世界的打造者聊聊，畢竟我們得住在裡面。

--------------------
Medium 版：http://bit.ly/2HLuT8p