AI 如何為公司創造更多價值？專家：2 個缺陷，要先由人類來修補
2021/05/13
採訪‧撰文
盧廷羲
張凱崴
美國人工智慧國家安全委員會（NSCAI）今年 4 月建議，國防部每年應至少分配 3.4% 的預算投入科技領域，並提撥 80 億美元研發 AI。企業方面，微軟（Microsoft）4 月宣布，將以 197 億美元收購語音辨識開發商紐安斯通訊（Nuance Communications）；後者是雲端與 AI 軟體的先驅。
從企業到國家，都愈來愈重視人工智慧，知道要想辦法運用 AI 創造更好的生活。不過，目前 AI 發展到底處於什麼階段？我們又該如何應用？
美國加州大學洛杉磯分校（UCLA）電腦科學系助理教授張凱崴形容，目前人工智慧技術已經可以幫助人類完成很多事，像是疫情來襲，電腦可以從大數據中篩選條件，自動搜尋、判讀潛在病例，幫助醫生大幅減少檢查時間，但 AI 也並非萬能，要先認知它的局限。他研究如何讓 AI 更符合人性，獲得 2021 年的史隆研究獎（Sloan Research Fellowships）。
AI 局限1. 資料寬廣度不足時，就會複製人類偏見
張凱崴認為，電腦在學習的時候，是依賴「彙整數據資料」來判斷，並沒有真正思考，如果資料來源太狹隘、不夠多元，資料寬廣度不足，電腦判斷就會出現偏差，「你跟電腦講清楚 input（輸入）、output（輸出），提供足夠的數據資料，它可以對應、學得很好，但還有很多面向 AI 做不到。」
舉例來說，亞馬遜（Amazon）2014 年推出智慧音箱（Amazon Echo），使用者口頭下指令給語音助理 Alexa 就能放音樂、查資訊。然而，有些人口音較罕見，或是用字較特殊，智慧音箱的資料庫沒有「不同口音」「不同用詞」的檔案，就可能失靈，這是當前 AI 的其中一大問題。
張凱崴進一步解釋，AI 另一項挑戰是，它無法清楚分辨「不曾出現」與「不能出現」（無法出現）之間的區別，只是從資料統計出要學的東西，無法像人類一樣進行邏輯思辨。
AI 的運作方式，第一步是輸入資料，第二步是分析，但這過程容易出現偏見。例如電腦在理解「總統」這個字，會去看四周有什麼字詞，來學習總統這個詞，由於許多總統都是男性，電腦就會「覺得」總統是男性。
這也是為什麼，如果讓 AI 學習，在它的認知裡，女性「不可能」當美國總統（因為沒有資料紀錄）。「你可以跟人類說，任何職業、性別都是平等的，但對電腦來講，這很困難，」張凱崴說明，一旦資料的寬廣度受限，電腦就容易產生偏見。
就像在自然語言處理（Natural Language Processing，讓電腦把輸入的語言變成有意義的符號）領域，張凱崴說明，AI需要知道代名詞指的是「哪個名詞」，才能運算下去。但如果資料受限，使用男性的「他」，電腦可能判斷這個代名詞是指總統、總理、執行長；但換成女性的「她」，由於數據不足，電腦就會混亂，出現系統性誤差。
他再舉一例，美國人工智慧研究組織 OpenAI 提出「生成式預先訓練」系統（GPT，Generative Pre-training），推出到 GPT3 版本，屬於書寫類 AI，電腦能夠揣測人們說完上一句話，下一句可能會講的句子，自動完成後半段。
好比有人上一句寫下「我正在和教授聊天」，系統可能推導出「我們在研究室討論學術問題」，因為電腦藉由蒐集來的語料資料中判讀出「教授」和「學術」具高度相關。但研究也顯示，GPT2（前一代版本）系統也從資料中學習到許多偏見，像是如果句子前半談論白人男性，系統傾向產生正面評價；如果句子前半是黑人女性，系統竟會產生負面句子。對企業來說，許多組織接觸 AI，想讓它們取代部分工作，首先需要留意資料的廣度、多元性，才能減少電腦犯錯的機會。
AI 局限2. 即便條件相同，也無法每次都做出正確判斷
「其實，現在的 AI 就像一台原型飛機，還缺乏穩定性。」張凱崴說，現行的 AI 就好比萊特兄弟（Wright brothers）剛發明飛機，看似可以做很多有趣的事，但「可以飛」跟「飛得很好」，有一大段落差。
紐西蘭的簽證系統曾鬧出笑話。人們上傳簽證照片，AI 掃描後，確認是不是本人，但當時系統沒有估算到某些亞洲人眼睛比較小，一名亞裔男子被判定「沒有張開眼睛」，因此照片無效。
張凱崴說，在這個例子中，凸顯出 AI 的穩定性不足，「系統沒有考慮到不同人種的差異，很死板地認為你眼睛沒張開。」所謂的缺乏穩定性，指的是 AI 沒辦法在相同條件下，每次都做出正確決策，這也是使用 AI 時，須留意的第二個挑戰。
他再舉例，許多模型可以準確分析，一則影評對電影的評價是正面或負面。然而研究顯示，有時只要將影評中一些字換成同義詞，例如把電影（movie）換成影片（film），或改寫句子，即使意思並未改變，系統卻把原本判斷為正面的影評標註成負面。這顯示AI系統還未真正了解語言的含義。
在設計這些程式時，人們必須注意到 AI 可能有局限，設定的資料範圍要更完整，考慮這些因素，就能減少偏見、落差，進而加強穩定性。
餵指令給 AI 要多元化，嘗試「換句話說」、刻意混淆
經理人雖然不一定具備 AI 方面的專業知識，但只要掌握觀念，再透過 AI 領域專才協助，也能優化系統。張凱崴指出，最直接的方法是，設計 AI 模型時，要把來源群組不同的資料分門別類測試，在測試階段讓群體多元化，並確保不同特色的使用者，用起來都沒有問題。
舉例來說，一套 A 系統擁有來自各地的使用者，如果設計者是台北人，設計系統的思維容易以台北生活為主，很可能因為當地習慣不同，導致花蓮使用者操作不順。
另一個方法，則是用不同的「語意」，去測試 AI 有沒有徹底學會一個概念。例如，有一套餐廳評鑑的 AI 系統，只要蒐集、整理使用者意見，就能判斷每個顧客對於餐廳的評比是高分或低分。那麼要如何確認這套系統的穩定性？張凱崴建議，可以利用「抽換詞面」的方法。
比如，把詞彙換成同義字，再看 AI 是否能運算出相同結果，「你可能會發現，原本評比結果是食物很美味，但如果美味換成比較困難的詞，AI 就會分不出這則評比是好是壞。」因此在訓練模型時，可以將詞彙隨機抽換成同義詞，增加 AI 的詞彙量。
第三種方式更進階：改變句型、重寫句子。張凱崴指出，同樣一句話，如果換成不同說法，電腦可能判讀錯誤，將「因為發生 A 事件，所以導致 B 事件」，改寫成「B 事件發生了，是因為 A 事件的緣故」，明明兩句話意思一樣，但 AI 很可能因為穩定性不足，搞混兩者的差別。如果要鞏固 AI 的穩定性，可以使用自動改寫的方式，增加資料的多樣性。
張凱崴表示，經過這些測試，讓 AI 接受更多元化的訓練，得到更廣的學習範圍，往後碰到同義詞、相似資訊，才能有效判讀。
張凱崴總結，AI 還在快速發展，或許可以創造更多工作機會、新的職位，但現行階段，它只是輔助角色。AI 並非魔術盒子，使用它就一定有更好結果，人們還是要保持高度耐心，先認識它的缺陷，才能在技術更迭下，發揮出最好的結果。
張凱崴
台灣大學資訊工程系碩士、美國伊利諾大學（UIUC）電腦科學博士。美國加州大學洛杉磯分校（UCLA）電腦科學系助理教授，研究領域包括人工智慧、機器學習、自然語言處理。2021 年獲得史隆研究獎（Sloan Research Fellowship），研究團隊開發的運算方法，使人類語言處理的程序更有效率、更多元，同時兼具公平性。
附圖：優化AI系統的3方法
資料來源：https://www.managertoday.com.tw/articles/view/62902?fbclid=IwAR2jI1bhg1anqct0AZZR_3LKKJqIsvG0wz2whSN8iniROZApHt-_qpD7dis
腦死判定是在測試什麼 在 Re: [問題] 請問MRI多久可以拿到報告- 看板Doctor-Info 的推薦與評價
※ 引述《ericka (捨不得搬家)》之銘言：
: 家人現在昏迷住院
: 禮拜二時照了MRI
: 一直到現在都沒有報告出來
: 醫生就憑無法自主呼吸宣布腦死
: 請問報告需要等那麼久嗎
第一、基本上所有醫生都應該要會看MRI，只是因為保險起見
需要等待影像科專業的判斷結果
如果情況緊急可以直接與影像科醫師連絡討論病情
所以我不覺得有沒有報告是甚麼大問題
第二、這是腦死的判定方法
一、判定前之先決條件：
1.深度昏迷，呼吸依賴人工呼吸器。 2.導致昏迷的原因已經確定。 3.病人係遭受無法復
原之腦部結構損壞。
二、排除可逆性之昏迷：
1.排除新陳代謝障礙、藥物中毒與低體溫導致之昏迷。 2.如罹病之原因不明，即應排除
而不列入考慮。
三、在使用人工呼吸器狀況下，至少觀察12 hr。觀察期間，病人應呈持續之深度昏迷，
不能自行呼吸且與無自發性運動或抽慉。罹病
原因如為情況明顯之原發性腦部損壞，則經12 hr 之觀察即可。罹病原因如為腦部受損而
又有藥物中毒之可能性時，須等藥物之半衰
期過去之後，再觀察12 hr。若藥物種類不明時，至少須觀察72 hr。
四、腦幹功能測試：須完全符合上列一、二、三之條件後，才能進行下列具有「判定性」
之測試。
l.第一次測試：
Ⅰ.腦幹反射之測試 Ⅱ.能自行呼吸之測試(必須完全符合下列4 過程)：
(須完全符合下列6 條件)：
(1) doll’s eye response: absent
(2) light reflex: absent
(3) corneal reflex: absent
(4) Calori test: no response
(5) pain stimulation: no response
(6) cough reflex 氣管抽痰: no response
(1) 由人工呼吸器供應100％氧氣10 分鐘，再給予95％氧氣加5％二氧化碳5 分
鐘(惟在特殊情況下，可以調慢人工呼吸器換氣頻率方式為之)，使動脈血中Paco2
達到4OmnHg 以上。
(2) 取除人工呼吸器並由氣管內管供應100％氧氣分鐘供應6 公升。
(3) 觀察10 分鐘，以檢視是否能自行呼吸 (必須符合完全不能自行呼吸之條件)。
(4) 確定病人不能自行呼吸後，即應再把人工呼吸器接回個體身上。
2. 第二次測試：第2 次腦幹功能測試應在第1 次測試完畢接回人工呼吸器至少4 小時後
為之，並應完全依第1 次測試之規定程序進行。
五、 腦死判定：經上述四-2 腦幹功能第2 次測試，如病人仍完全符合無腦幹反射與不能
自行呼吸之條件，即可判定腦死。
很長，但是你可以用/搜尋MRI看看，裡面完全沒有提到關於MRI，甚至任何影像學的證據
一切都只是經由臨床情況判定
病人仍完全符合無腦幹反射與不能
自行呼吸之條件，即可判定腦死
: 還有想請問若發燒是否不能照MRI
: 住在加護病房六天
: 醫生以發燒情況不穩定為由說不能照
發燒並不是絕對的禁忌症
主要還是在於病人狀況的不穩定
不知道你有沒有看過MRI的設備
病人必須要待在一個大圓桶裡面
持續大約20分鐘左右保持不能動的情況
另外因為是利用磁力，所以身上有任何金屬物(呼吸器、心律調節器)
都不能照MRI
此外因為需要20~30分鐘病患一個人待在密閉的空間裡面
如果病人情況不穩定 要急救是一件非常困難的事情
更何況不穩定的病人要脫離呼吸器去照MRI
有沒有必要冒這樣的風險更是值得考慮的問題
: 禮拜二才照完
: 禮拜三就讓我們移出加護病房進了呼吸治療中心並勸說氣切
基本上加護病房只能住急性期的病患
我沒記錯規定就是2個星期
而加護病房提供的只是急性期的支持照顧
所以最需要的病人是：情況危急，但如果提供支持性照護病患有希望恢復原本健康狀態
如此才是加護病房的優先病患
而氣切，很遺憾的必須說這通常代表病人需要長時間使用氣管插管以及呼吸器
為了避免許多併發症或者為了將來有希望訓練脫離呼吸器
才會建議氣切的處置
: 禮拜四宣布腦死
: 期間沒有做過任何檢查和治療
這裡還是一樣關於剛剛的腦死判定
並不需要的MRI或者許許多多你所謂的檢查
醫師到床邊做的許多理學檢查就已經提供充分的證據了
: 是醫生一開始就放棄
: 還是是標準作業程序
: 主治也沒看過幾次
: 因為連昏迷原因都不曉得真的很不甘心
: 麻煩大家幫我解答謝謝
最後再說一下
昏迷的原因太多太多了
我在這邊完全沒辦法有頭緒
只能跟你說非MRI不可才能診斷出來的問題其實不多
通常MRI只是提供一個更強的證據
做出來如果對於治療方針與病人預後沒有任何改變
到底需不需要冒著許多風險去做檢查呢?
如果真的非知道原因不可的話
就做病理解剖吧~ 只是有沒有需要為了找個原因又去再一次的傷害家人呢?
最後 還是為您家人發生的不幸感到遺憾
希望您能得到想要的答案
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 114.37.239.252
... <看更多>