(2018-06-07)美國前國務卿季辛吉最近闡述了他對人工智慧的看法,他不是科學家、工程師,更不是AI專家,但他從政治與哲學的觀點看AI的發展、影響、前瞻,也算是AI的另一種聲音。

美國前國務卿季辛吉。

(2018-06-07)美國前國務卿季辛吉(Henry Kissinger)最近在《大西洋(The Atlantic)》雜誌撰文,闡述他對人工智慧(AI)的看法。

季辛吉不是科學家、工程師,更不是AI專家,但以他的歷練與高度,從政治與哲學的觀點看AI的發展、影響、前瞻,顯然是當紅AI的另一種聲音。他說人類的思維是漸續的,是前後關連(Context)的,這個關連可以看管我們的運作不超出預期的規範,而AI則是在沒有關連之下產生的結果。

他首先推崇AI會陸續給我們帶來巨大的貢獻,從醫藥科學、乾淨的能源,到環境的保護等許多領域,但也正因為AI的判斷關係著未來,產生的結果有不確定與模稜兩可的本質,所以特別提出以下三個論點來關切,或者說,是需要考慮的問題。

一、AI可能產生意外的結果:
由於先天缺乏前後關連,AI一旦誤判人類的指令,可能越過預期規範,而產生危險的後果。

他例舉,兩年前微軟推出的19歲女孩Tay,她是個機器人,放在推特與人「親和」聊天,結果遭人誘導、跟樣學樣,說出19歲女孩不該說的像種族歧視、性別歧視的話,而回答別人的問題也充滿了火藥味,上線16小時後微軟把她撤下。


兩年前,微軟推出的19歲女孩Tay。

雖然專家說這個實驗的構想不夠周全,但卻顯露了歧見:我們能不能盡早偵測到、然後矯正AI可能超出規範的行為?或是讓AI自行發展,甚至可能隨時間蛻變,擴大到災難?

二、AI達到了預期的目標,但可能改變了人類的思維順序、以及人類的價值:
AlphaGo以前所未見的異類棋步,擊敗了人類頂級圍棋高手,這些棋步,人類從未想過、也還不知道如何才學到這些棋步,那是不是說AIphaGo已經超越人類的腦力?或者是人類現在要跟這位「新主人」學習?


韓國頂級圍棋手李世石與AlphaGo 對奕。

圍棋的傳統有多重目標,下棋的目的不僅在贏,還可以從中學習策略,潛移默化的運用到生活範疇。但AI僅知道一個目標:贏,但不是從概念的學習到贏,而是從數學算術法學習到贏,所以,AI的棋步策略不會與人的棋步思維相同,AI也同時改變了圍棋原有的意涵與影響。

我們不經要問,這種單一「贏」的思維,是否會成為AI的共有特質,進而演變成人類的價值?難道以後要我們的子孫,從算術法學習人的價值?

AI學習的速度遠超過人類,所以我們預期AI會比人類更快的發生錯誤,也會製造更大的錯誤。但減緩錯誤,僅用「倫理」與「理性」來警告AI產生的結果,效果有限,因為學術界還無法定義這些名詞。那AI是否作自己的仲裁人?

三、AI達到預期目標,但無法解釋結果的合理性:
AI在很多領域已經超過人類,圖像辨識、數據分析、博奕遊戲,如果計算能力不斷成長,AI很快就會取得解決問題的最佳方法,而有別於人類如何取得的最佳方法,到那時候,AI能否告訴人類他的方法為什麼比人類的更好?或者是AI的抉擇已經不是人類語言能力所能解釋?

人類的歷史是漸進的,從中世紀到現在,每一階段都有一主軸。中世紀:宗教;啟蒙年代(Enlightment):理性;十九世紀:歷史;二十世紀:思想。現在,最困難也是最重要的問題,是我們的世界往哪裡走?如果我們連解釋自己的能力都被AI越過,就難以想像人類的意識(Consciousness)還剩下什麼?

歷史的發展,是由哲學的內涵,延續發展到新的技術,但我們現在正走相反的路,先發展有潛力的主導技術,然後再尋找導引的哲學。季辛吉說,AI的專家們,對於政治與哲學的缺乏經驗,正如同他對技術知識的不足,希望他們能深思他提出來的問題,然後把答案融入AI工程的下一個進程。

許多國家已經將AI列入國家計畫,美國還沒有做到AI系統化的全面研究,尤其是在人性傳統的考量,務必列為國家優先事務。他呼籲美國政府要建立總統直屬的AI智庫,協助發展國家的遠景,如果不迅速啟動,很快就會發現起步太遲了。

*本文取材自2018年6月5日「那福忠西海岸數位隨筆(52)」:季辛吉談人工智慧
對本文有任何看法,歡迎 E-Mail:frank.na@gmail.com 與作者分享。