人工智能與「大君主時代」

昨天談及物理學家鐵馬克的著作《生命3.0》,他前瞻了眾多未來世界的新倫理規範,其中一個主軸,就是未來人類會很習慣獨裁社會,而且享受生活在其中。

昔日人類普遍討厭獨裁制度,一來是因為制度侵犯個人自由,二來是獨裁制度往往掌握了國家機器、然後出現嚴重誤判或人為失誤,造成貪污腐化,甚或飢荒、戰爭等悲劇。然而在可見將來,無論是民主社會還是威權社會,利用人工智能監控全國人民的趨勢已經不可逆轉,無論是Facebook還是微信、微軟還是華為,在「國家安全」面前,都不可能不與政權合作,這些機構本身也會逐漸成為管治制度的一部份。新一代早已假定了一舉一動都被監控,在網上網下的行為都不可能逃離天眼,也懶得再談騙人的「私隱」概念。

與此同時,有了大數據、機械學習輔助的人工智能政體,很容易可以作出基於數目字管理的社會規劃,而且不容易有誤判,產生類似昔日大躍進悲劇的可能性低了很多,卻更容易繞過種種人類劣根性,有效平均分配經濟資源於廣大人民。哪個地方的人民需要更多娛樂、休憩設施,哪裏需要更多圖書館與咖啡店,同樣可以通過人工智能政府輕易落實,這種「成功爭取」,遠比依靠中介人的代議政治來得有效率,也符合全球裁汰中介人的「uberization」大趨勢。

當人類習慣了這樣的社會模式,日常生活需要操心的,會變得十分有限,因為大選擇都已用不著人力操勞,剩下的選擇不過是到沖繩還是首爾、食魚蛋還是壽司。再到了人工智能發展為「超人工智能」,完全掌控社會,管理者就會成為「仁慈的獨裁者」,徹底控制一切人類福祉,甚或把一般人類當作寵物飼養,成為動物園管理員。到了極致,也不能排除超人工智能得出人類只會浪費資源的結論,請願淘汰人類,而自居為「傳承」人類文明的接班人。

鐵馬克的《生命3.0》自然受到不少論者批評,例如在《科克斯書評》 (Kirkus Review)有一篇評論,認為這位物理學家的書更多是先知式預言,多於嚴謹的科學探究;和鐵馬克一起在生命未來研究所共事的羅素 (Stuart Russell)指出,鐵馬克仍無法解答為何現在就要研究「超人工智能」;網絡文化學者羅斯 (Frank Rose)亦認為,鐵馬克對人工智能發展的正面肯定是「高貴但幼稚」的。然而鐵馬克對人工智能的發展,始終持正面態度,起碼在短期內,要達至一個消除貧窮、疾病和不正義的社會,唯有人工智能才能實現。至於長遠的未來,誰能知?

小詞典:Uberization

通過資訊科技落實「點對點」直接溝通,繞過傳統中介,以提高效率、減省成本、直接得知市場規律的新經濟模式,以共享車輛App Uber為典型,但其實在各行各業都已出現,例如點對點的教學模式裁汰傳統學校、點對點網購取代傳統商場等,業已顛覆世界經濟體系。

信報財經新聞2019年1月3日

延伸閱讀:恐怖谷理論的國際關係:為何我們恐懼擬真機械人?

發表迴響

Up ↑

%d 位部落客按了讚: