☰

資中筠：良知、理性是人類存續必要條件丨AI時代的人類意見

因爲ChatGPT的出現，2023年註定會是一個值得被記住的年份。《經濟觀察報》年終特刊就此鎖定了人工智能。我們邀請了來自中國社會各界的代表人物，以書信的方式，暢談他們心目中的AI世界和他們的所思所願。他們是企業家、投資人、哲學家、社會學家、音樂家、詩人、作家、醫生、中學校長、公益人、編劇、導演、演員、博物館館長……這些表達匯成了《AI時代的人類意見》。

他們或悲觀或樂觀，或滿懷期待或心有疑問。不過我們相信，在悲觀者和樂觀者之間並不存在較量，足夠多元和豐富的聲音才能夠幫助我們理解正在發生的所有。更何況，正是那些優秀的思考者和行動者對於未來的想象，在很大程度上決定着我們的方向。

現在，讓我們打開信箱，開啓思想的未來之旅。

——編者

致讀者：

歲末奉《經濟觀察報》約以書信形式寫對人工智能的感想。憶起2010年應約寫“歲末致友人書”，宛如昨日。而我故友凋零，不知心目中該寫給誰。只能信筆遐想，致一切有耐心讀的讀者。

如扣除全球大疫三年，2010年至今，有效年份也就短短的十年。翻看當時各界人士60餘篇文字，內容都很現實，充滿憂國憂民，批判時弊，提出希望，涉及領域林林總總，而是非標準驚人地一致，目光投向同一方向，共同的強烈願望就是興利除弊，改革不要倒退。在各界作者中，有一個鮮明的特點，就是企業家都比較樂觀，充滿信心。今昔對比，爲之唏噓。另一特點是科技創新較少涉及，有一人提到智能手機，是作爲“新鮮事物”的。

曾幾何時，高深莫測的“人工智能”已經成爲時代的象徵。AI進入尋常百姓詞庫。幾年前圍棋高手敗於電腦軟件，震驚世界，現在已成舊聞。忽然出現似乎無所不知的“ChatGPT”可以陪人聊天、解答各種問題。每天都會出現令人驚恐的關於AI新技能的新消息，最主要是其“智”力將取代或超過人類而失控之遠景，可能顛覆一切人倫秩序，人將不人。身爲萬物之靈的人類，自己創造的高科技將把自己帶向何處？一般談到變局的習慣用語是“百年未遇”，而現在卻是“十年未遇”，變化的幅度是幾何級數的加速度。而引領這變化的是幾位科學怪才。

另一方面，似乎從野蠻社會以來的傳統思維還在主導某些人。忽見硝煙四起，一場熱戰繼以另一場熱戰，或以強欺弱，或以極原始的野蠻挑戰現代文明，導致生靈塗炭，血肉橫飛。自從有核武器以來，高科技殺人工具日益“先進”，足以毀滅人類幾次。端賴持有者的理性剋制，“核戰爭無贏家”成爲共識，一直備而不用。如今卻不時聽到可能使用的威脅聲，竟使人懷念當年“冷戰”之“冷”，竟能保持這麼久。現在是否終於升溫至熱戰？理性、良知能否跑勝野蠻、瘋狂？人類是否在劫難逃？

對科技與人類禍福問題的反思，非自今日始。更早的姑且不論，這個問題首先由科學家自己提出已有百年。至少在第一次世界大戰之後，就有明智之士意識到這一點，以後每當出現先進武器時，這個問題都凸顯出來。經常被引用的一句科學家的名言是：“人類在還沒有能夠掌控自己之前就先掌控了自然，先具備了掌控自然的能力。此事將要引起不可預測的後患”。印度聖雄甘地曾把“沒有人性的科學” 列爲可以毀滅我們的事物之一。不過他走向另一極端：奉行遠離工業化社會的生活方式，被認爲是反科學、反現代化而不足爲訓。原子彈的發明和運用所引起的觸及靈魂的反思衆所周知，自不待奧本海默傳記和電影的出現。

人類真是很奇怪的物種。號稱“萬物之靈”也不是浪得虛名：能夠駕馭萬物爲我所用；爲不斷改善自己的生活質量發明各種神奇的物件；遠古已不可考，至少在不太長的幾千年中創造瞭如此輝煌的物質和精神文明。而與此同時，沒有哪個物種像人類那樣互相仇恨，自相殘殺，爲此耗盡心力發明出日新月異的高效、殘忍的殺人工具；同時肆無忌憚地禍害自己的生存環境。古往今來在“人”的芸芸衆生中出現了多少惡魔，也出現了不少天使般的典型。不知道其他動物有沒有靈魂和倫理道德，人類確實創造了整套的倫理道德律令和善惡標準，還有複雜的哲學理論。根據此標準，作惡和行善從未停止過，誰戰勝誰的問題也從來沒有最終答案。

一個永恆的問題是：高科技成爲作惡的手段時，科學家有沒有責任？《奧本海默》電影中當主角自責手上沾有鮮血時，杜魯門總統說：“要說雙手沾血，也是我，而不是你”。就是說，掌握生殺予奪之權的政治統治者才能決定如何使用這一手段。到目前爲止，世界還是以國家爲單位，即使民主國家，也是委託少數人掌握這一權力。儘管設計了種種制度限制這一權力，而科技創新與軍備競賽相輔相成始終無法停止。

然而，科學家真的完全沒有責任，完全無能爲力嗎？以前的姑且不論，如今已無可否認地飛躍進入AI時代，有人稱之爲第四次工業革命，實際並不恰當。因爲整個舞臺已經超越地球，與宇宙太空打交道了。馬斯克及其儕輩橫空出世，每天都有驚人的新花樣，使人感到似乎他們的意念和成敗決定人類的命運。所以我特別關注馬斯克的言行和他表現的價值觀。迄今爲止，似乎他還不是科幻大片中那種科學怪人，而是保持理性、心存善念、愛好和平的常人。前一陣傳言他有反猶言論，果真如此，比其他任何人同樣的表現更令人擔心。好在他自己已經以言論和行動加以澄清。我還注意到，他說過如果要使人長生不老，也能做到，但他不贊成，所以不做此努力。不論他是否真能做到，我十分贊成這一觀點，併爲此鬆了一口氣。試想，以目前醫療的水平，資源的分配如此不平等，如果真有古代帝王夢寐以求的長生不老藥，首先享受的一定是有權有錢的特殊人羣，連“終有一死”的結局都不平等了，那將是多麼可怕、惡劣的社會！退一萬步講，如果此法竟然普及了，地球上都是百千歲的老人，那又該是怎樣的情景！馬斯克也許是在吹牛，實際辦不到，但是至少他有所爲有所不爲，保留了良知和理性。

最近又傳出OpenAI內部CEO人事之爭。我對此沒有資格評論，但是從所能見到的信息看，以我淺薄的認識，似乎關係到對科學發展的不同理念之爭。是爲發展而發展，一路高歌猛進，不計後果，還是顧及對人類現實的影響，也就是我理解的，有所爲有所不爲，我本能地同情後者。

當然所有這些考慮，都還是以人類爲中心。跳出來看，人類之於浩瀚無垠的宇宙和億萬斯年的時間不過是寄蜉蝣於天地，渺滄海之一粟。也許整個物種與每個個體一樣，就該有一定的壽命，或者到一定的時候發生變異，成爲另一物種。這種變異的裝置也許就藏在人自己身上。還有一種可能，由於世界各種人羣並非齊頭並進，最先進的高科技手段掌握在觀念還處於前現代、甚至前文明時代的人手中，其結果不一定全部毀滅人類，卻可能使整個人類的創造毀於一旦，倒退到原始社會。野蠻征服文明的先例在歷史上是屢見不鮮的，前人幸運的是還沒有掌握當代人的高科技手段。所以無論從哪個角度講，良知和理性都是人類存續的必要條件，自古如此，於今尤甚。

信馬由繮想去，扯遠了。所有這些遐想——瞎想，我在剩下不多的殘年中大概都看不到。實際上，凡夫俗子如我，有關AI每天映入眼簾的信息，吸引我眼球、最感興趣的是全方位照顧老人的機器人，可以代替日益稀缺的優質家政服務員，好像這是指日可待之事。人類命運、地球，乃至宇宙，非所能計。把目光收回到眼前切身需要，自私而短視，諸君見笑了。

資中筠

2023年12月

（作者系著名學者）

資中筠經濟觀察報特約撰稿人

資中筠：良知、理性是人類存續必要條件丨AI時代的人類意見

相關資訊