美國經濟史學家哈羅德·詹姆斯警告：“人工智能讓人變笨”

參考消息網6月5日報道 德國《明鏡》週刊網站5月5日發表專訪美國普林斯頓大學教授、經濟史學家哈羅德·詹姆斯的文章《“人工智能讓人變笨”》，內容如下：

泡沫與繁榮相伴而生

《明鏡》週刊記者問：詹姆斯先生，芯片製造商英偉達的市值一年內漲了幾倍；軟件及人工智能企業微軟是當今全球最有價值的公司。這是一種健康的繁榮嗎？還是說已經成了投機泡沫？

哈羅德·詹姆斯答：兩者都有。在我看來，這是繁榮和泡沫的混合體。人工智能將徹底改變我們的商業和生活方式。因此，大量投資和高股市估值是合理的。但許多期望不會成真，特別是當許多人和公司都想從中獲益時，這就是典型的泡沫。

問：17世紀荷蘭的鬱金香狂熱，上世紀20年代美國和歐洲的股市繁榮，還有本世紀初的德國創業板市場。人類沒有從過去的泡沫中吸取教訓嗎？

答：泡沫的經典定義是，參與其中的每個人基本上都知道某些東西一文不值。儘管如此，他們仍然進行投資和投機，因爲他們希望能在市場崩潰前及時抽身。我認爲，19世紀的大型鐵路公司和鐵路大亨的情況就是當前形勢的最好寫照。當時無論是在柏林、維也納、俄羅斯，還是在北美洲，鐵路都是革命性的。人們突然有能力向西歐大規模出口糧食。到處都在建火車站和鐵軌。然而，人們很快就意識到，根本不需要這麼多路段和鐵路公司。最後，北美洲只剩下一條重要的鐵路線。

問：您是否預計人工智能領域也會出現類似現象：當下的狂熱之後是幻滅？

答：人工智能確實是革命性的。我們已經意識到這場變革有多麼深刻。放在5年前，我們很難想象發展會如此加速。這鼓勵了市場。從芯片行業就能看出這一點：適用了幾十年的規律——例如所謂的摩爾定律(集成電路上可容納的晶體管數量，大約每隔兩年便會增加一倍)——幾乎失效。如今，計算能力的發展速度要快得多。

問：開放人工智能研究中心(OpenAI)首席執行官薩姆·奧爾特曼預測，5年後，我們將看到智能水平與人類相當的通用人工智能。

答：5年、10年還是20年後？人們對此衆說紛紜。但我們應該做好準備。事實上，人工智能的發展速度快得令人難以置信，而對這項技術的投資同樣也在快速增長，尤其是在美國。去年，有670億美元的私人資本流入美國的人工智能領域，歐洲在這方面則完全落後。

發展迅速或無法控制

問：最終會不會是少數美國公司利用人工智能來決定人類命運？

答：在開發大型模型方面，也許會。但這項技術的真正威力在於應用，這纔是我感興趣的。我們每個人都能在某個時刻使用、控制人工智能。機器不只回答我的問題，它還幫我發現新的聯繫。在醫學領域，醫生不必再爲以下問題過分煩惱：這是不是癌症？醫生可以利用人工智能找到最佳療法。

問：如果發展如此迅速，是否需要更多的國家監管？

答：這個過程基本上是無法控制的。這不是你能限制或阻止的，進步的力量太強大了。

問：這麼說的話，歐盟最近通過的《人工智能法案》就是絕望之舉，因爲這場革命歸根到底是不可控的？

答：如果要讓它可控，就必須在全球範圍內建立監管機制。如果只有歐洲實行激進的監管措施，那麼毫不意外的是，它將來就只能依賴其他國家的研發。歐洲公民理應要求參與技術進步過程。上世紀90年代，爲了不依賴微軟，國際貨幣基金組織選擇用諾韋爾公司的文字處理軟件WordPerfect來代替Word。結果是，使用微軟Word的世界銀行打不開國際貨幣基金組織的文件。

問：開發者本人也要求制定規則，例如薩姆·奧爾特曼和科技富豪埃隆·馬斯克。有的人甚至呼籲暫停研發，這是爲什麼？

答：呼籲實施監管是合乎邏輯的。如果你處於領先地位，那麼你自然希望市場的大門被關閉。在人工智能領域，我不認爲有這個必要。這裡主要涉及的是倫理或道德問題。

很多人工智能將被用於實現軍事目的。許多現代武器系統已經包含人工智能元素，而這僅僅是個開始。我們可能會看到類似於20世紀中葉以核武器爲重點的軍備競賽的場景。當時，人們試圖利用國際條約來遏制軍備競賽。今天，我們可以看到這套規則有多麼支離破碎。我們不可能以這種方式來實施有效的人工智能禁令。

人與人之間互動減少

問：國際特赦組織等團體呼籲禁止使用“殺手機器人”。另一些組織則呼籲人類至少要留在決策鏈中，以便在有疑問時能按下停止鍵。這種想法不對嗎？

答：誰應該在國際範圍內執行這一規定？當然，你可以建立一個類似於聯合國的新機構。但看看聯合國：它四處受阻，幾乎沒有能力真正按下停止鍵。而且，人工智能帶來的更大危險難道不是它對人性的威脅嗎？如果我們很快就不再是地球上最聰明的生物，我們將如何自處？

問：在您看來，我們該如何面對這種屈辱？

答：19世紀，鐵路和鋼鐵廠用化石能源取代了人類和動物的體力勞動。後來發生了什麼？人們變得更健康、更長壽，但他們的肌肉變弱了，體力下降了。人工智能也可能造成同樣的情況。我們過去用大腦進行的許多活動將被剝奪。人工智能會讓人們變得更笨，因爲他們不會再如此高強度地使用和訓練大腦。或者再舉個例子，人際關係也將因人工智能而改變。在亞洲，已經有數百萬男性用聊天機器人來代替女朋友，在日常生活中陪伴自己。我認爲，由此帶來的挑戰至少與人工智能引發的安全和軍事問題同樣重大。

問：人工智能讓人類變得不那麼人性化？

答：當然，因爲人與人的互動減少，而人與機器的互動增多。這是因爲，我們不再需要學習語言，人工智能可以立即爲我們翻譯一切。這就是我認爲這項技術真正危險的地方。

問：您爲什麼這麼悲觀？

答：我對這些變化的感受很矛盾。如果你得了重病，你會盡力尋找世界上最好的醫生。未來，人工智能可以提供幫助，但它永遠無法取代與真人交談的感覺。或者以青少年爲例：他們在條件糟糕的學校裡受苦——但由於人工智能的存在，他們未來可以接受更好、更個性化的教導。唯一要做的是激發他們的積極性，而這正是未來教師的任務。

問：這一代學生都知道，自己的競爭對手是一項無論如何都能做得更好的技術，他們怎麼還會有積極性呢？

答：以19世紀中葉的德國爲例：整整一代作家肯定都很沮喪，因爲他們知道自己永遠也寫不出歌德那樣的作品。16世紀末，米開朗基羅之後的意大利也是如此。對後來的藝術創作者而言，這位偉大的藝術家是一場噩夢。如何激勵年輕人真正去努力工作和練習？是人性促使他們至少作出嘗試。（編譯/鍾思睿）