你參加過作文比賽嗎?。Photo by Startup Stock Photos from Pexels
「經濟學人」(The Economist) 的 Open Future 網站舉辦了一場青年作文比賽,限 16-25 歲的人參加,題目是「需用哪些經濟與政治的改變來有效的因應氣候的改變?」文限 1000 字,全球有來自 110 個國家的 2,400 篇文章參加競賽,結果由 25 歲的加拿大 McGill 大學法律系學生 Larissa Parker 獲勝,她的論點是藉立法的保護,給我們還未出生的後代,一個與我們同樣舒適的生活環境。
比賽的初審,由評審員給 NO、Maybe、YES 評分,並簡單評語,作為複審的依據。主辦單位拿了另一篇文章請評審員審核,六位評審員以標準的方式評審,大意如下:
1. NO。沒有可行的答案,僅是假設與摘要。
2. NO。沒有很快說到重點,重點不夠新穎,過於模糊,過多的問題。
3. NO。文筆很好但沒有很快的進入重點,唯一的建議也沒有定義清楚。
4. Maybe。所提的另類經濟不明確,過多的贅述與問題,少有解答。
5. Maybe。用強烈的字眼與支持的證據,卻不是原始的概念。
6. NO。沒有強力的辯駁,沒有充分瞭解 IPCC 的氣候政策與科學文獻。
(ICPP 為政府間氣候變化專門委員會)
這篇文章顯然不夠複審資格,但這篇文章卻有不同的意義,因為不是人寫的,是 AI 的演算法製作出來的,也是主辦單位的一項嘗試,看看 AI 對氣候的變化能提出什麼樣的方案。把作文題目與 58 個字的提示,輸入一個稱為 GPT-2 的 AI 電腦程式,製作出 6 段 400 字的文稿,為了維持比賽 1,000 字以內,選擇了三段,未經任何修改交付評審,評審員事先並不知情這不是人的作品。
不知道評審員知道了以後有什麼感想,這篇文章確實如評審的評語,提出很多問題,卻沒有提出具體的解決方法,文筆雖然還算通順,卻沒有論述的嚴謹結構,但如果與另外 2,400 篇文章來比,至少得了兩個 Maybe,又知道引用 ICPP 的文獻,應可排在中段,不至於排名最後。用 58 個字提示得到這樣的結果,如果用 100 個字提示,或許得到較有建設性的結果也未可知。
GPT-2 是研究機構 OpenAI 所發展的語言模型,有 15 億個參數,用 800 萬個網站的資料訓練而成,卻只有一個簡單的目的,就是根據前一段話裡的出現的字,來預測下一個字,或者是「接著說」一段相關的話。用氣候變化的作文題目,再加上 58 個字的提示,就能「預測」出一篇相關的文章。800 萬個網站的資料包羅萬象,以致能自然的跨越不同領域,所以這不是一個專業的 AI,換一個題目就會作出另一個領域的文章,而且不加任何人工處理。
訓練資料的取得,重在不同領域的分散,而且要維持一定的品質,所以經過人工整理或篩選過的互聯網資料為主,而特別的是 Reddit 獲 3 個以上 Karma 的資料,也就是在網上有人回應稱讚的發文,回應稱讚表示引起別人的興趣,致少可以認做較高的品質。
OpenAI 位於舊金山,致力於不設限通用 AGI 的研究,GPT-2 就是其一,GPT 是 Generative Pretrained Transformer 的縮寫,先後發佈三種不同參數版本,小(1.24 億參數)、中(3.55 億參數)、大(7.74 億參數),完整的 15 億個參數版本僅供研究伙伴實驗,並未公開。在機器學習中,參數越多,準確率越高,OpenAI 先階段性的發佈縮減版本,讓大家試用。
GPT-2 的發發佈原有些爭議,因為深怕濫用製造假新聞、假文件、虛構事故,所以保留完整版本先不發佈,但也有業界認為反而阻礙了發展,因為只有用最高檔的版本才能偵測出是否濫用。目前的版本還不能對特定的議題辯駁,提出觀點,僅能平實的敘述,但這正好與一些新聞報導的語法類似,「外交事務」(Foreign Affairs) 的一篇文章就例舉 GPT-2 製造的一段北韓假新聞,讀起來與真新聞無異,說這是一個危險的技術。
危險的技術?也許是,一旦 15 億參數的完整版發佈,可能製造出比真新聞還真的假新聞,但也可能對氣候變化提出具體的解決方案。
下面是氣候變化作文 GTP-2 版本其中的兩段,取自「經濟學人」Open Future 網站,讀者評評有沒有破綻,全文可在這裡找到。
"For the first time in history, the world can be energy independent, allowing all people within our global communities to work together to create the economic opportunity we have all sought for decades now.
With this paradigm shift in mind, it’s perhaps time we take a moment to reflect on what we could do differently."
"The rapid increase in the value of the world’s wealth will reduce the amount of energy available for conservation and economic development, and will therefore increase the amount of carbon dioxide (CO2) in the atmosphere.
This will cause more extreme weather, more violent and often violent conflict, and more frequent and severe droughts."
|