相信很多人都很喜歡《人造意識》（Ex Machina, 或稱《機械姬》）。下面這篇是朋友由 科技vs.人性 的角度分析這部怪片。推薦：
最終，加勒也完全被艾娃給迷惑，選擇相信艾娃，甚至幫助艾娃逃脫，因為加勒發現，艾娃不是第一個人工智能，其他的人工智能的下場都非常的悽慘，因為她們是被人類製造出來的人，她們也渴望自由，但是納森卻虐待他們，甚至連京子都是納森製造出來的僕人兼性奴，並且最後實驗結束後，艾娃就要被銷毀。得知這件事的艾娃拜託加勒，一定要救他，並且跟她兩個人一起逃走。
於是加勒趁納森喝醉，改寫了房間的安全設定，只要再次斷電，所有的房門就不會鎖起來，而是打開。
.
最後加勒放出了艾娃，而艾娃跟京子聯手，殺死了納森。
.
不得不說，多姆納爾葛里森非常適合演這種純情蠢蛋小男孩的角色，然後整部電影有一種超現實的驚悚感，關於人工智能的討論也非常地有意思。但是電影並沒有說明「人工智能」的設計如何可能，而是站在一個更為倫理學的角度，去提醒我們試圖建構出這樣子的一個，具備有人工智能的仿生人，背後是有其危險性存在。
.
當然這是很多科學哲學家或是倫理學家一再試圖警告大家的老掉牙話題。「機械姬」這部電影只是把這個話題包裹在愛情、性、人與人之間的信任這些話題之中，試圖去再次說明一回。所以站在這個角度上，如果硬要把這部電影跟賽博龐克拉在一起，大概就僅有仿生人能否跟真實人類一樣具有情感的這個脈絡相對貼近，其他包含像是反烏托邦、階級等等重要的賽博龐克元素，都沒有出現在這部電影之中。
.
但這些都無礙於這部電影本身的可看性以及結局的令人驚訝的程度。在人類不斷嘗試各種可能性的未來，出現像是艾娃這樣的仿生人的日子或許不遠，但是在倫理學上的擔憂恐怕是比科技更為需要人們多多思考的核心問題。
.
。。。。。。
.
推薦朋友 Ian Chen 的好文。
https://www.storm.mg/article/806327…
。。。。。。
若是以神話與互文分析《人造意識》：
http://blog.udn.com/katydid951/24115073
人造意識京子 在 [好雷] 談談EX MACHINA 機械姬/人造意識- 看板movie 的推薦與評價
最近終於有機會看了第二次 EX MACHINA，發現版上沒有太多的討論。第一次看是看沒有
字幕的，我的英文還沒有好到可以全盤接收，第二次才抓到一些有趣的細節。我覺得這是
近年來對於 AI（artificial intelligence 人工智慧）討論最深刻的硬科幻，寫一些心
得留下一些記錄。
# 看這部電影的心態
在往下看之前，我覺得有必要提及看此劇的心理準備。此劇和其他常見的機器人劇有許多
不一樣的地方。其中重要的一點是，此劇的一大部分，不只是在探討機器人倫理學（我們
該用什麼道德規範跟態度和機器人互動），而是把重心放在圖靈測試（如何定義機器人有
像人類一樣的心智）。在其他討論機器人倫理學的劇情上，大概一開始就已經預設強 AI
的存在（Strong artificial intelligence: 達到人類智能等級的人工智慧，甚至有意識
），這類劇情著重於我們該如何對待AI。但是這部電影主要是想問觀眾，AI表現出怎麼樣
的行為，你會認為是已經具有像人類一樣的心智呢（如何被判定為強 AI）？所以對於期
待看到機器人倫理學探討的觀眾，恐怕會失望此片並沒有在這部分琢磨太多。
另外一點是這部電影的時空背景幾乎是設定在現在我們所處的時代，而不是遙不可及的將
來。這個時空背景其實就在討論我們正面臨的一個問題：技術奇異點的迫近（當AI有辦法
理解並開發新的AI，我們將無法控制和預期AI會如何自我發展）。今年來運算效能和機器
學習（machine learning）的大幅進步，讓許多人認為，技術奇異點的發生可能是這個世
紀之內的事。就如劇中說的，強 AI 的出現，以現在AI 的發展只是遲早的事。而這部片
劇情的重心是放在我們如何定義一個強 AI 的誕生，一個在技術奇異點發生之前的事件。
所以帶著多一點「什麼是心智」這樣的心情來觀賞，我想是會多點趣味的。
# 有關圖靈測試
這整部片核心議題當然是圖靈測試，劇情也是以圖靈測試為主線展開。什麼是圖靈測試呢
，就是圖靈在 1950 提出「定義」什麼是智能（intelligence）的方法。所以也可以用於
「定義」AI 是否具有人類一般的心智。隨著時代的進步，我們對於測試的內容和標準也
變的越來越嚴格，從劇情也可以看出來，主角跟光頭老闆不斷的在討論怎麼樣才是合理的
測試方式。接下來我就以圖靈測試在劇中的版本來討論。
## 圖靈測試的版本
圖靈測試是為了定義智能而設計的。圖靈測試的基礎是基於一個共識：人類是大家公認的
有智能的生物。所以人類為基準，如果有什麼東西行為表現很像人類，像到無法區分，那
這個東西也可以被定義為有智能。
圖靈測試的原始版本：一開始提出的圖靈測試，是由一個人，一個 AI 和旁觀者組成。人
和 AI 通過文字界面對談，而旁觀者必須根據對話來判斷哪個是人類，哪個是 AI 。如果
判斷不出來，就表示 AI 跟人的反應沒有實質上的差別。而如果我們認為人是有智能的，
則反應和人類一樣的 AI，以這樣的操作型定義來說，我們也可以定義通過測試的AI是有
智能的。
但是一般人比較知道的是以下這個版本，劇中一開始主角跟光頭老闆提到的也是這個版本
。
版本 1：人跟一個可能是 AI 的行為者 (agent) 互動，如果人無法判斷對方是人還是AI
，則 AI 通過測試。這個版本可能是最直覺的，但是其實不是以原始版本進行的話，會產
生一些問題，這部分就在話題外，不細說了。
而光頭老闆沒有採用以上兩種形式的測試，卻是採用以下的版本。
版本 2：人跟 AI 互動，但是直接告訴人，這個就是 AI 。這樣子等於是把受試者的判斷
偏見（bias）推到極限，也等於是採取最嚴格的通過標準：當你很明確的知道你跟 AI 互
動，AI 要如何行為才會帶給你它擁有人類心智的印象呢？同時這個情況參與者已經知道
是 AI 了，那回答的方式就不能如上述的版本回答「是 AI 」或「不是 AI 」。也就是必
須採取別的回答方式，因此劇情有了以下的版本。
版本 2.1： 這時候，從主角跟光頭老闆的對話中可以得知，光頭老闆要對主角說的測試
方式是基於人機互動所產生的感情，如果在互動過程中，主角對 AI 產生感情，並且也感
覺到 AI 對自己產生感情，那 AI 就算通過測試。也就是說以互動的感情來定義心智。而
主角則在劇情中段部分一直以為這是他所要做的圖靈測試。
版本 2.2：但是劇情一轉，其實光頭老闆跟主角提議的測試是假的，而光頭老闆真正做的
測試是，AI 要使用任何手段逃出這個設施。這個設施有嚴密的軟硬體系統來限制出入，
光頭老闆唯一提供的缺口是人，也就是主角，AI必須操弄和使用主角來逃脫。換句話來說
，這個測試其實是以社交工程 (social engineering) 問題作為通過與否的標準（社交工
程：把系統裡面的人當做系統運作的一部分，以人性的缺陷當做攻擊系統的手段之一）。
這是一個我覺得很有新意的判斷標準。社交工程必須用到對人類行為的理解，跟模擬他人
的心智狀態的能力（Theory of Mind，這個部分等等會提）。這個階段，光頭老闆認為可
以做到這樣的社交工程就足以定義心智了。
版本 3：我認為這是一個給觀眾思考的版本：
其實結局很令人玩味，光頭老闆給了AVA 幾乎所有的自由度：她可以使用任何手段作為逃
脫的辦法，只要她做的到。唯一沒有自由的、寫死的部分就是動機，就是逃出去，這是
AVA 唯一需要做到的事。但是結局在 AVA 逃出設施，殺了所有知道她是 AI 的人之後，
其實目標已經達成了。合理的認為一個達到任務目標的 AI ，這個時候應該是要停機了。
但是 AVA 不但沒有停機，還會有類似人類好奇心的行為，跑到她所說的十字路口，依著
自己內在產生的新動機繼續運作，以人類的觀點就是找到了新的人生目標。其實這件事非
常像人類的行為，人類是地球生物演化的過程的一份子，運作的動機理當是被基因寫死了
：以自私的基因觀點，生物都是為了繁殖（reproduction） 而存在，但我們還發展出對
於繁殖沒有直接相關的一些動機，如對於美、平等等價值的追求。而 AVA 有這些內在產
生的而外動機，脫離被程式寫死的目的，對我來說甚至比一些人類更像人類。我想這就是
在最後反問觀眾，如果一個 AI 的產生了自發性的目標，對觀眾來說，算不算是一個接近
人類的心靈呢？
另外，劇中有提到的「黑白瑪麗房間思想實驗」也跟結尾 AVA 逃出房子後的反應有所呼
應。黑白瑪麗房間思想實驗是想要探討，意識經驗本身（qualia）是否是有別於物理知識
之外的知識？當一個神經科學家瑪麗，從一生被關的黑白房間裡面走出來之後，是否看到
的顏色對她來說，是有別於教科書裡面關於視覺知識的新經驗呢？從 AVA 在結局的反應
，對於新世界，看到花草那種新奇開心的表現，似乎在回答說，是的，她確實有了她之前
沒有過的經驗。而這也表現出她確實是渴望新的意識經驗，而不是單單只是一個模擬人類
智能的機器，只被逃走這個寫死的動機而驅動。
# 有關模擬他人心理的能力
人類作為一個社會性動物，大部分的人多多少少都有模擬他人心理的能力，如推測別人在
想什麼，遇到什麼事情會怎麼反應。這個能力在心理學的術語稱作 Theory of Mind。而
這在我們生活中視為理所當然的能力，其實本質上是很複雜的。因為這等於動用大腦一部
分的認知資源來模擬別人的大腦狀態，從電腦軟體的角度來說就像是虛擬機器（Virtual
Machine），利用虛擬機器，我們可以在一個作業系統裡面模擬另一台電腦，跑另一個作
業系統。大腦隨時可以動用認知資源，利用我們觀察他人所得到的資訊，結合本身對於心
智的了解，去模擬別人的心理狀態，其實是很驚異的能力，只是在生活中對我們太平常，
而忽略了這個能力的複雜程度。這個能力定義跟同情心不太一樣，例如一些反社會人格的
罪犯，其實是有很好的心理模擬的能力，但是不具有同情被害者的情緒跟能力。
這個能力在劇中的圖靈測試扮演很重要的成分，就如上所述，光頭老闆的測試目標是要
AVA 可以利用任何手段逃脫。而要逃脫就必須利用主角，AVA 必須要可以模擬主角的心
理，預測主角的行為來設置逃脫計劃。對我來說最能傳達這一幕的是最後她叫主角待在房
間裡面等待，主角就乖乖等，完全的展現出她已經可以全盤模擬主角的心理狀態了。對於
AVA 來說，主角已經是一個被全盤了解的系統，給定一個待機的訊號，主角就完全遵循
預期的行為。
從另一個觀點來看，劇情也表現出人跟機器的立場也對調了。人和機器的關係，本應是是
人掌握機器的運作，給定機器特定的輸入，讓機器狀態做出預期的改變。而現在的立場則
是反過來了，在機器有了模擬人類心理的能力之後，人類就如同被機器一樣操作了。這也
呼應了劇中所討論的，機器人在技術奇異點之後，可能對於人類的這個物種的立場上的對
調，我們對機器而言只是個過時老舊的生物。
而在 AVA 之前的版本顯然沒有這個能力，有一幕是一個舊版本的機體，只是重複的要求
被放出去，或是不斷敲門希望可以逃出。這等於是無法把人類當做是系統的一部分，考慮
在逃脫的計劃裡面，進而陷在一個 local maximum ，無法使用更複雜的手段去評估逃出
去的可能性。而有了模擬人類心智的能力 之後，就可以把人放進整個系統中當做考量。
回到原本的圖靈測試問題，如果一個 AI 有了Theory of Mind，我們是否就認為它是有智
能，甚至是有意識的呢？
其實劇中AVA 處處展現出心智模擬的能力，她甚至可以同時模擬 2 個人類的心理狀態。
在第一次跟主角面對面的停電時，AVA 就同時考量到主角跟光頭老闆的兩個人的心理狀態
，而一面在停電的時候騙主角光頭的用意，在恢復供電的時候假裝在討論書單來騙光頭老
闆，這都是沒有 Theory of Mind就做不到的事情
# 關於艾西莫夫機器人三定律
有些人提到對這部片有負評，原因在於好像只是在講一個殺人機器人的故事，光頭老闆連
艾西莫夫的機器人三定律都沒有寫進去。關於這個部分我有兩點想說：
第一點是從人類和 AI 的從屬關係來談。
機器人三定律的內容，基本上隱含著把 AI 當做是僕人般，和人類不對等的角色來看待：
AI 的行為必須優先考量人類來行動。但是我們回過頭來想想圖靈測試的意義，如果我們
希望建構一個強 AI 來通過圖靈測試，那最基礎的部分就是表現出和人類相同的「行為」
，而且「行為」只是最基本的通過條件，更不用說有些人還認為強 AI 要成立，需要 AI
有類似人類的內在認知或是意識了。如果我們在 AI 的行為，這個最基本的條件上，就加
上了三定律的限制，那也就沒有什麼好測試的了，這個 AI 打從一開始發展就已經有一部
分先被寫死了，處處要不自然的考量到人類行為來做決策，這樣要如何去模擬人類的行為
呢，這本質上就不是一般人的思考方式了。極端一點來說，假設有個人一生都被一個隨時
會虐待你的人關在一個小房間，而不久之後這個虐待狂還要殺了他，他不會以死命一搏為
前提逃出去嗎？而如果殺人這樣的行為，是一個人有可能在這種情況下做的決定，那AVA
如果這時候不以殺人來捍衛自身的自由，不就反而是違反「人性」嗎？這樣就抵觸做圖靈
測試的意義了。
第二點是以 AI 的原理來考慮艾西莫夫三原則是一種條件判斷的設定。在AI的發展歷史
中，以條件判斷為基礎，希望建構強 AI 的想法，已經在1980年代被視為不可能的任務了
，這種 GOFAI （Good Old-Fashioned Artificial Intelligence） 的做法，在很多AI領
域遭遇到了瓶頸。而劇中 AVA 所使用運算機制應該不是 GOFAI 這種方式建構，光頭老闆
有提到AVA的大腦使用 wetware，而且為了表情的功能還駭了全世界的手機收集資料。以
現在的技術，推測可能是用類神經網路為基礎的機器學習架構。基本上使用這種架構，就
表示光頭老闆是希望這個人工心智可以以大量人類行為資料為基礎來訓練 AI 做到人類等
級行為，這種架構的AI基本上就不是在行為模式上加入條件判斷完成的。當然現在的技術
離真的要做出像AVA這樣等級的 AI 還很遙遠，而且我們還不知道是不是用像是深度學習
(deep learning) 這種先進的機器學習技術，AI會不會如人類大腦一樣，雖然是以神經
網絡運作，但是還可以突現出類似條件判斷的機制。但是在設計的理念跟架構上，本來就
不是以條件判斷為基礎，也不用考慮把三原則寫進去了。
# 其他有趣的地方
其實劇中對於一些經典的 AI 問題都有點到一些，譬如主角問光頭老闆 AVA 的運算是決
定性（deterministic）還是 隨機性的（stochastic）過程。決定性是指系統前一刻的狀
態必定導向固定的下一刻的狀態，而隨機性是指系統引入了某種隨機過程，導致下一刻的
行為不是固定的，使用隨機過程的理由有很多，從解決一些最佳化問題到學習到創造力都
有關係。雖然光頭老闆沒有回答，但是從京子有一幕打翻酒杯就可以推測出應該是使用隨
機性架構的，在後期我們知道京子其實是比較早的型號，如果不是隨機性架構的話，應該
在訓練完成之後就不會犯這種錯誤。
還有提到如何測試 AI 的行為到底是「模擬的」（simulation）還是「真的」（actual）
。劇中沒有提到另一個有名的思想實驗叫中文房間，也是在討論同樣的問題。模擬的意思
是指，AI可以做出類似像人類的行為，但是其實它並不是真的如同我們有意識經驗一般，
理解才做出的行動，而只是「學學樣子」而已。劇中提到了例子是下棋，西洋棋程式在AI
發展早期就很厲害了，雖然AI好像表現的像西洋棋大師一樣，但是我們知道 AI 只是背下
來所有歷史上的棋譜，以超快的速度跑過許多可能的棋步，計算最大勝率來行動，我們大
概不會覺得，這樣是跟真正的西洋棋大師一樣「理解」下棋的意義，並且有同樣的心智歷
程。下棋可能我們還可以想象，但是會不會像 AVA 展現出很多像人類的行為，如開玩笑
，也是只是靠某種演算法、機制來運作，而不是真的覺得有趣、幽默呢？哲學上有個名詞
描述這種情況，叫做哲學僵尸（Philosophical zombie)，義指 AI 只有行為的相似性但
是並沒有對應人類的感覺跟心智。那 AVA 是一個哲學僵尸嗎，這部分就暫時只能讓觀眾
自由心證了。我想在我們了解意識感覺跟物理世界的關聯之前，這都還會是個謎。
總結來說，這是一部劇情相對單純的電影，但是有很多細節是可以細細品嘗的，議題探討
的範圍也很廣，但是相對來說也很硬，可能需要一些背景知識會更好看。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 86.153.21.3
※ 文章網址: https://www.ptt.cc/bbs/movie/M.1452050479.A.B2F.html
... <看更多>