如果迪斯尼樂園看不見孩子活潑奔跑，聽不到孩子的喜戲歡笑，遊園的盡是成年人，園內遊玩的景象雖然依舊，氣息卻添加一層呆滯，因為原來的歡樂短缺了一項重要元素：孩子。迪斯尼為孩子而設計，孩子是迪斯尼的精神支柱，沒有孩子就失去存在的意義。

   牛津大學的哲學家 Nick Bostrom，也是「人類未來學院」的主持人 ，憂心人工智慧的快速發展，儘管有智慧的機器功能強大，但欠缺人性的經驗，如果一個社會被機器替代，縱然有超高的技巧，卻喪失人類的內涵品質，形同一個看不見孩子的迪斯尼。

   機器只是一個媒介，是背後的人工智慧讓它聰明，人工智慧以前是依照我們人所設計的電腦程式運轉，最近幾年電腦科學家發明了神經網路，用軟體模仿我們腦子的動作，讓人工智慧有自己學習的能力，逐漸發展到我們無從知道運算的結果，最好的例子就是下圍棋，擊敗世界冠軍的每一步棋，都不是電腦程式預設的。這種失去人類控制的人工智慧，如果繼續發展，對人類是好、還是壞，引發業界的辯論。

   人工智慧到底發展到了什麼程度才拉警報，我們平常人不覺得有危機，但科學說不必等到機器人滿街跑才感受威脅，現在人工智慧的發展遠超過我們的想像，除了我們熟習的機械式媒介，人工智慧更可以用生物式媒介與我們互動，哈佛大學研究的微小電子網，注射到腦子與腦細胞連接，無線的從雲端取得資訊。科幻電影？預期五年內可能部分成真，有什麼後果，沒有人知道。

   看慣了大機器人，其實機器人可以縮小，小到微米、奈米，然後注入血管工作，打通血管堵塞，檢驗、醫治體內疾病，替代體外掃描與藥物。成了常態以後，每個人體內都有眾多的小機器人在血管及體液流動，接受體外的指令，維護我們的健康。而科幻故事的夢魘也就萌生，一旦下錯指令，讓這些小機器人做了錯誤的動作，怎麼挽回？如果有意錯下指令，那更是毀滅性的後果。

   Elon Musk 是天才型的實業家，早年創建了電子支付系統 PayPal，以後又創建特司拉 (Tesla) 汽車，以及 SpaceX 發展太空，現任兩公司的執行長，特司拉的電動又自動駕駛的汽車，SpaceX 送貨到國際太空站，明年又要送兩名遊客環繞月球，所用的人工智慧不在少數，但他卻高聲疾呼要節制人工智慧的無限制發展，微軟的蓋茲以及一些業界知名人士，都持相同的觀點。當然，這與矽谷熱衷人工智慧的人，意見分歧。

   Musk 呼籲人工智慧的危險有三年了，三年前在 MIT 對專家說，人工智慧或許是人類最大的「存在危機」，需要國家或國際規範，確保我們不會做愚蠢的事，他說發展人工智慧有如召喚惡魔，大家都知道古老的故事，有人拿著五角架與聖水來驅魔，這完全不管用。一些工程師聽了覺得很幽默給予掌聲，然後彼此說我們回去做自己的「召喚惡魔」吧。Musk 並不覺得好笑。

   今年二月在杜拜的世界政府高峰會上，Musk 再次引用科幻，說科學家有時蒙蔽於專心研究，並不知道已經走偏了路，可能把我們的生物智慧綑綁於機器智慧。影劇「星際迷航記」(Star Trek) 的史波克先生（Mr. Spock)，家鄉是 Vulcan 星球，那裡的人活在邏輯與理性之中，沒有感情。Musk 說我們是不是也走向那個方向，手機不已經成了我們身體的延伸了嗎？

   為此 Musk 成立了「開放人工智慧」(Open A.I.)，以十億美元為基金的非營利研究機構，以開放的型態研究人工智慧的正向發展，導正負向發展，現已有專家 50 人，將增加至 100 人。正向還是負向，很難拿捏，科學發展有如身在一條冪數曲線 (Exponential Curve) 上，往後看是平地，往前看是直線，無論在哪裡看永遠都一樣，很難看準現在的位置，Open A.I. 可能扮演看位置的角色。

   Ray Kurzweil 是另一個天才性人物，他發明了光學字體識別、文字語音合成、語音識別、鋼琴與交響樂樂音合成、以及 CCD 平台掃描等多項技術，獲三位總統褒獎，2012 年被 Google 網羅，發展機器學習與語言處理。他更以未來學者著名，公開談論「後人類」(Post Human) 延續生命的憧憬，他寫了一本書「尖點近了」(Singularity is Near)，尖點指科技發展到人類無法掌控的程度，他預估距尖點還有 28 年，到那個時候人工智慧自行發展出超大能量，遠遠高於人類的智慧，人類將與之融合，創造出「混和」(Hybrid) 的新人類，如果還稱為「人類」的話 。

   這或許是熱衷未來的人所期待，顯然不是 Musk 等人樂意看到的。那人工智慧一旦失控，有沒有辦法補救？Musk 說單一的失控可以藉人類集體的智慧擋住，但對一個集中超大的人工智慧，就沒有辦法停止。有人說在發展之初加裝一個開關，將來失控可以按鈕停止運轉，問題是人工智慧自我學習的結果，不會讓人去按鈕。Musk 說他不會手握這個開關按鈕，因為他會先被「關掉」。

   Open A.I. 的另一創辦人 Sam Altman 說出教人戰慄的景象：我們現在活著真是興奮的時刻，因為今後幾十年，我們或走向自我毀滅，或準備我們的子孫移民宇宙。Musk 早就說他發展太空技術的最終目標，就是幫助人類移民火星。前幾天 SpaceX 成功的重複使用脫落的第一節火箭，創造了太空工業的歷史，讓他的火星移民理想更進一步。

   上週在 MIT EmTech Digital 會議上，大家公開談論人工 智慧的發展倫理。