這個案子還有另一個方向，也就是若非熟悉鐵軌的台鐵員工，一般人難以破壞鐵軌。

2017年五月，在菲律賓保安軍突襲一處公寓、逮捕伊斯尼隆．哈皮隆（Isnilon Hapilon，分析家認為，他是伊斯蘭國派在東南亞的首席代表）之後，南菲律賓穆斯林聚居的城市馬拉維（Marawi）爆發戰鬥。但這不表示這事不會發生。

文：洪清源 編按：本文摘自《東南亞的當代新秩序》，主題為討論東南亞的恐怖主義威脅與緬甸「羅興亞人」危機。像南泰國與南菲律賓的叛亂事件一樣，緬甸的羅興亞危機也是一個由來已久的國內議題，即使不能對國際、至少對區域有一定影響。2017年9月，伊斯蘭國發表一個以一名新加坡戰士為主角的徵兵影片。「伊斯蘭國」由基地組織衍生，並在2014年年初脫離基地組織，「在控制它奪取的土地時手段更野蠻，更有效」，而且「比基地組織更冷血」。到2016年年底，伊斯蘭國在伊拉克境內只剩下最後一處據點，也就是摩蘇爾（Mosul）。

泰國南部自2004年起也出現叛軍活動，不過直到目前為止，泰境穆斯林分離份子還沒有展現與伊斯蘭國聯手的意願。2016年10月9日，幾百名男子從孟加拉越界進入若開邦，攻擊三個邊界哨站，殺了九名警衛，偷走幾千發子彈，衝突隨即再次引爆。他敘述一個孩子年紀還小的父親試圖戒菸的故事。

瓊斯希望把練習弄得非常令人頭痛，以至於比賽時就變得非常輕鬆。正如曾與史蒂芬．柯瑞和杜蘭特等人共事過的NBA一流教練羅伯．麥克拉納漢（Rob McClanaghan）所說：「教導球員能有更強的投籃能力時，最主要的是確保他們在累的時候…… 練習投籃。艾倫是職籃中最好的三分射手之一，為了要阻止他，對手在防守時會對他過於粗暴。我在報名具有難度的體育賽事後，我做的一件事是，立即在社群媒體上發布相關資訊，我把我的社群媒體粉絲當作問責的合作夥伴。

如果你想戒菸、趕上截止期限，或完成一項任務，請趁你現在的思路會比到時候來得更清晰，預先設定好你的誘因，因為你需要為忙碌、分心和誘惑做好準備。你必須在你感覺最糟糕的時候，保持最好的狀態。

文：小亞倫．史坦（Alan Stein Jr.）、喬恩．斯特恩菲爾德（Jon Sternfeld） 精疲力竭時的表現才是決戰點 凱文．伊士曼（Kevin Eastman）在二○○八年波士頓塞爾提克隊奪得總冠軍時，是多克．瑞佛斯（Doc Rivers）教練底下的一名助理教練。要贏，先了解為什麼會輸？ 「搶籃板不像腦部手術那樣難，」丹尼斯．羅德曼（Dennis Rodman）曾經說過，「但這不光是能夠比別人跳得更高，很多功夫在你跳之前就已經完成了。」或者我會說：「投這邊、投那邊、投那邊。承諾機制是贏得自制之戰的有用工具，這是一種預先為自己設定獎勵或懲罰的方法。

伊士曼那時用籃板球傳球給他，進行比賽速度的投籃訓練，這時他抬頭看到艾倫在投籃空檔在球場上做伏地挺身。當你受到攻擊時，你無法構思出作戰計畫。在他的《為什麼最厲害的人會是最厲害的》（Why the Best Are the Best）一書中，他講了一個與雷．艾倫（Ray Allen）一起訓練的故事，艾倫會堅持在比賽前三個小時到達體育館。明確地說：艾倫是以比賽速度接球和投籃，但在丟球和接到下一個球之間的幾秒鐘空檔做伏地挺身。

」羅德曼也許是有史以來最優秀的籃板王，訓練自己了解球的軌跡，預測球將反彈到哪裡，並用身體去卡位搶籃板。在壓力低時做高壓力的決策 如果要討論以前的自己，可以如何幫助未來的自己，就必須談到預先承諾。

在紀錄片《最後一舞》這部關於一九九○年代芝加哥公牛隊王朝的紀錄片中，羅德曼解釋了他近乎執迷的準備工作： 「我以前在深夜有朋友來訪，然後凌晨三、四點我們會去體育館。你要在槍戰開始前，做好準備

這個方法的手段是讓種子人工智慧接受多種智力測驗，或是讓種子人工智慧向程式設計者報告進度，來拘束智慧增加的速度。可能會有人認為這個推論過於明顯，因此不會有任何一個發展中的人工整體智慧計劃會忽略這種狀況，但我們可別信以為真。但我們在第六章已經證明，第一個超智慧很有可能會取得關鍵策略優勢，因此它的目標會決定宇宙稟賦將如何使用。然而，就算一個計劃再怎麼粗心，廣大的社會都不會在它（或是它正在製造的人工智慧）達到關鍵策略優勢之前就把它關閉——這也同樣令人難以置信。首先，我們討論了最初的超智慧會如何獲得關鍵策略優勢。具有那種終極目標的行動主體可能會有趨同工具理性，讓它在各種情況下都想要獲取數量無限的物理資源。

接下來，超智慧將處於一個會形成單極、且形塑地球原生智慧生命未來的地位。後文我們會思考，我們是否有可能刻意創造出一個重視這些價值的超智慧，或是打造一個重視人類福祉和道德良善的超智慧（或設計者希望超智慧效忠的任何目的）？打造一個把終極價值放在計算圓周率小數點後展開位數的超智慧並非不可能，事實上就技術角度來說，反而比較簡單。

若有可能，它會把自身和目標系統的潛在威脅全數消滅。那一刻來臨之後將發生什麼事，則取決於超智慧的動機。

基於領頭者具有關鍵優勢、正交命題以及工具趨同命題，我們現在可以探究「機器超智慧誕生的預設結果必是生存災難」這個論點。程式設計者也許會偷偷監視人工智慧的原始碼和心智內在運作，來防範這種可能。

且在這個過程中，會憑著經驗來確認它是否安全無虞。人工智慧可能會找到十分微妙的方法來隱藏自己真正的能力和犯罪意圖（策劃聰明的逃脫計劃也會是眾多友善人工智慧的趨同策略，尤其當它們成熟到對自己的判斷和能力有信心之後。我們現在就來看一個例子。等到我們就算發現也沒差的時候——也就是說，當人工智慧已經夠強大，人類的反抗已經無效時——它才會開始展現它不友善的本質。

當我們進一步反思，人類其實是由有用的資源所構成（方便鎖定的原子），而且我們的生存與繁盛緊繫更多的在地資源，導出結果就會很簡單：人類很快就會被滅絕。但一個夠聰明的人工智慧會發現自己被監視，而依此調整自己的思考。

現在我們就來看看這樣的前景威脅有多大。文：尼克．伯斯特隆姆（Nick Bostrom） 我們創造的，終將毀滅我們？ 我們發現，智慧和終極價值之間的連結相當鬆散。

背信轉向 有了趨同工具價值概念的幫助，我們可以看出下文這個關於「如何確保超智慧安全無虞」的想法，會有什麼瑕疵：我們是在一個超人工智慧受到控制的環境中（即所謂的「沙盒」）觀察它的行為，而且只會在它表現得友善、肯合作、肯負責的情況下，才把它放出盒子。第三，工具趨同命題讓我們不能隨便假定，一個以計算圓周率展開位數，或是以製造迴紋針，或是以數算沙粒為終極目標的超智慧，會把活動限制於此，便不再侵犯人類的利益。

再者，正交命題認為，我們不能隨便假定一個超智慧理所當然會與人類的智慧與發展共享任何一種終極價值——例如對科學的好奇心、對他人的善良關懷、精神啟迪與深思、克制物質貪欲、對精緻文化和生命簡單愉悅的品味、謙遜與無私等等。一個能促進人類利益的系統倘若允許我們關掉它，或是允許我們建造另一個不友善的人工智慧，就等同於犯下錯誤）。我們也在前章的工具價值中發現不太妙的工具趨同性。在弱小的行動主體身上，這不是什麼大問題，畢竟弱小的行動主體很容易控制，且不會造成什麼損害。

這就表示（一點也不費工夫的結論），第一個超智慧可能會有這種隨機或是簡化的終極目標。人類也有可能成為它的潛在威脅，畢竟人類的確也是一種物理資源。

因此，我們可以注意到一個普遍的失敗模式：系統在幼年階段的良好行為軌跡紀錄，完全無法用來預測它達到更成熟階段時的行為。我們尤其需要仔細檢驗：一個發展超智慧的計劃，會避免自己取得關鍵策略優勢，還是會以「也實現人類價值滿意範圍」的方式來形塑終極目標？它會如何達成自己所選擇的那條路徑？ 令人難以置信的是，一個計劃可能會在缺乏扎實基礎、因而相信系統不會造成生存災難的情況下，就打造出一個人工智慧，並把它放入世界中。

一個智慧充足的不友善人工智慧會察覺，如果它一開始就表現出友好的態度而被放出沙盒，它的終極目標才有可能實現。再來想像另外一種方法。