人工智慧的應用越來越廣，功能也越來越強，紐約 Mount Sinai 醫院有龐大資料，研究人員發展一個稱為「深切病人」(Deep Patient) 的人工智慧電腦程式，用病人的就醫次數、檢驗結果的數值等幾百種參數，以 70 萬病人的資料「訓練」這個「病人」，然後用新病人測試，結果「診斷」的非常準確。更教人難以置信的，是在沒有專家的指令之下（比如從血糖的檢驗值判斷有沒有糖尿病），電腦完全自行發現，或說是自我學習，隱藏在龐大資料中導致疾病的模型。

   深切病人的診斷既然這麼精準，原本對醫師應該有很大的幫助，但也正因為過於精確，教人疑慮、甚至焦慮。這個電腦程式不但精確診斷生理疾病，連醫師都很難診斷的心理疾病，像精神分裂症，也能預測，只是這些精確的結果是怎麼產生的，用什麼方法、規則、邏輯、過程得到的結果，沒有人知道，連設計電腦程式的人都無法合理解釋。最直接的問題是，醫師對診斷的過程豪不知情，怎麼處方用藥？

   加州矽谷的電玩影像晶片公司 Ndivia，與德國汽車技術公司 Bosch 合作，發展自動行駛汽車技術，供全球汽車製造廠使用，Bosch 無疑的提供技術與零件，Ndivia 則提供自動駕駛的心臟：人工智慧。實驗雛形的汽車已在新澤西州鄉下上路，表面上與 Google 等同類的自動行駛汽車沒有什麼不同，遵循交通規則安靜行駛，只是並不是遵從工程師與電腦程式師的指令行駛的，而是跟人一樣「擅自」駕駛的。

   人工智慧的開車技術跟人一樣，顯然是跟人學的，Ndivia 做的正是如此，工程師發展一套學開車的電腦程式，連接到一輛訓練汽車，讓這個電腦程式「現場學習」，汽車開動，駕駛人各種動作、經歷各種路況，電腦都記錄下來，反覆訓練到一定的程度，電腦駕駛智慧成孰，就可以自動上路。但與深切病人同樣的令人不安，因為沒有人會知道這輛車怎麼決定轉方向盤、煞車、等紅燈，一旦發生問題，沒有人能找出原因。

   上面兩個實例的智慧，是靠學習獲得的，從醫院的病人資料、從真人駕駛汽車的經驗，依工程師設計的邏輯累積學習來的，設計的工程師不是醫學專家，也不是汽車技術專家，僅提供學習的方法，讓機器自己學習，就是俗稱的「機器學習」(Machine Lerning)，這裡說的「機器」是通稱，可能是一個電腦軟體，也可能是一個軟硬體結合的一個盒子，而人工智慧有這樣的進展，關鍵的技術在模仿我們腦子結構的「神經網路」(Neural Network)。

腦神經網路（左）與人工神經網路（右）處理資料示意圖。取自網路

   上圖是人的生物腦子與人工腦子處理資料的比較，左圖那一大塊叫「神經元」(Neuron)，也稱為腦神經細胞，接受神經（圖中細枝）傳來的信號，處理之後，再把處理過的信號由神經傳給下一個神經元，圖中箭頭是傳送的路徑，神經元可以接受多個信號，但僅送出一個信號，這個信號又分別傳給多個神經元，形成一個複雜的網路，人腦的十分之一是這種結構，所以能處理複雜的事物，但也讓我們最難瞭解自己。

   上右圖是仿造的人工神經網路，圓圈代表神經元、或稱為「節點」，箭頭代表資訊的傳送方向，每一節點接收資訊，處理後傳到下一層的每一節點，下層每一節點接收資訊處理後，再傳給更下一層每一節點，這樣層層傳下去直到最後一層，以模擬腦神經網路處理信號的方式，處理我們的數位資訊。這個網路的複雜程度，依層次的多少與每一層節點的數量而定，越複雜的問題越需要複雜網路來解決，以圖像辨識為例，需 10-30 層節點。

   人工神經網路的運作，是從簡單的處理開始，然後每進一層產生更有意義的結果。第一層可能僅是數位影像的像素，下一層可能辨識影像的輪廓，層次加深辨識出色彩、毛髮，逐漸露出鼻眼，最後認出是一隻狗。人工智慧就是從這種方式的多次循環操作，「自我學習」取得的「經驗」，但是因為流程過於錯綜複雜，我們無法清楚的解釋，也正因為這種不透明的特質，人工智慧演變成一個「黑箱」(Black Box)。

   很多人都玩過 Google 的 Deep Dream，把一張數位圖片重複運算，變成一幅有趣的夢幻的圖像，就是利用神經網路的層次轉換。Google 研究人員曾用這個軟體試圖瞭解神經網路的運作，發覺在圖像的認知上，機器與人有很多的不同，也就是經過訓練的人工智慧，在運作上仍教人難知原委。

   人工智慧逐漸進入哲學的範疇，有人認為是「信仰」(Faith)，享受超人類智慧的果實，欣然生活在「後人類」(Posthuman) 的新世界。當然有更多的人擔憂超人類智慧可能帶來的後果，除了人類喪失主導能力，讓大家屈就於邏輯化的生活，更恐懼於墨菲定律 (Murphy's Law)：「凡能出錯的事，必會出錯」。高度人工智慧的社會，一旦出錯，可能無法補救，更可能演變成災難。