AI 的進展已經從科技、商業、製造業、進入了我們的生活，許多事情都是 AI 替我們決定的，我們並不知情。申請學校、求職、人事考核升遷、貸款、購房、醫療、警力治安，甚至法官對罪犯量刑，原都是需要人的判斷又耗費時間的工作，運用或參考 AI 運算的結果，提升效率，又可避免人為介入之嫌，促使 AI 的運用範圍越來越廣。

   我們相信 AI，因為有科學的依據，AI 是用龐大的資料，藉用一個模擬我們腦子的神經網路訓練的結果，這一程序製作無數的 AI 實例，告訴我們可以信賴。技術有了，資料更要可靠，所製作出來的 AI 才可以信賴。但應用在生活上的 AI，多是從統計資料中找出相關的模式，而「相關」並不一定等於「因果」，這就會導致 AI 的偏差，有人可能因此受到不公平的對待。

   康乃爾大學的 Rediet Abebe 教授，日前在 MIT EmTech Digital 的會議上說，AI 研究人員必須面對「錯過了的機會」來增進社會福祉，AI 務必深層的與社會科學以及弱勢社區合作，來確保 AI 工具不會製造的問題多過解決的問題。Abebe 教授專精 AI 演算法，以及 AI 應用的社會福祉。所謂「錯過了的機會」，就是指 AI 應用的偏差。

   美國是全球監禁人數最多的國家，據 2016 年的資料，有 220 萬人監禁在看守所與監獄，另外有 450 萬人在懲教機構接受教化，每 38 個美國人就有一個人的行動被限制或被監督。為了減少囚禁人數，同時又不冒增加犯罪的危險，開始採用自動化工具，希望盡可能的做到迅速又安全，例如用臉孔識別辨認嫌犯。

   人臉辨識，是近年 AI 的一大進展，全球各地都相繼採用，作為身份的認證。那人臉辨識可靠嗎？用來辨認嫌疑犯不會認錯人嗎？當然會，雅馬遜的人臉識別系統不是把 28 位國會議員認成嫌犯嗎？據 MIT 媒體實驗室的研究，今年比去年改善不少，深膚色男性、深膚色女性、淺膚色男性、淺膚色女性，四大類別辨識率都有提升，唯有深膚色女性的辨識率，各個系統有很大差異。

   2018 年 IBM 系統的辨識率，淺男 99.7%、深女 65.3%，相差高達 34.4%。Face++ 系統的辨識率， 淺男 99.2%、深女 65.5%，相差 33.8%。微軟的辨識率，淺男 100%、深女 79.2%，相差 20.8%。其餘深男與淺女都在 88%-99% 之間，唯有深膚色女性的辨識率偏低。

   2019 年新加了兩家系統，雅馬遜、以及 Kairos，雅馬遜的淺男與深女的比較為 100% 比 68.6%，相差 31.4%，Kaios 的淺男與深女的比較為 100% 比 77.5%，相差 22.5%。而 IBM、Face++、微軟三家的淺男與深女差異，分別下降為 16.7%、3.6%、1.5%。至於深膚色女性的臉部辨識為什麼困難，有專家認為所取用的照片樣本太少，或者是照片的角度太少。

   認臉可能讓警察抓錯人，隨著技術的改善，機會也會越來越小，但抓到人以後所用的「風險評估」，就比認錯臉嚴重多了。「風險評估」是一個評估再次犯罪的 AI 工具，評估結果給予「分數」。會不會成為屢犯，是法官對一個人犯量刑的考量，如果法官為了省事，用風險評估的分數做為量刑的標準，一旦這個分數出了偏差，就可能影響人的一生命運。

   現代化的犯罪風險，是以歷史資料為基礎，如前所述，歷史資料是統計，從中找出相關的模式，並不代表因果關連。舉例來說，統計資料找出屢犯與低收入相關，如果以這個結果訓練「風險評估」，那低收入的人屢犯的風險分數必高，量刑也因此加重。但問題是，低收入與屢次犯罪並非有確定的因果關係，更嚴重的是，偏差的 AI 會繼續自我訓練，循環的結果，偏差的程度越加放大。

   以上僅是兩個 AI 偏差的例子，近年有越來越多的學者指出 AI 用在生活上的偏差，特別在弱勢族群，製造有失公允的結果。Abebe 教授呼籲大家要面對事實，結合科技與社會科學，共同來增進 AI 對社會的福祉，使得不再是「錯過了的機會」。為此 Abebe 教授發起一個跨領域的研究團體，「社會福祉機制設計」(Mechanism Design for Social Good)，寄望成為一個大家合作與參與的典範。

   記得一位專家說過，有了常識之後才是真正的 AI。AI 越來越打入我們的生活，生活又離不開常識，這一斷層，讓我們對 AI 疑慮、又得接受。在有常識的 AI 出現之前，這一窘境，也只能希望設計 AI 的人能加入一點常識來抒解。