專訪|黃鐵軍：人工智能或可與工業革命、電力革命相提並論
“人工智能不斷髮展進步，也許會挫傷人類萬物之靈長的驕傲。”9月份，在北京大學新聞與傳播學院報告廳開啓了一場“人工智能最新進展與未來展望”的大課堂，主講人正是北京智源人工智能研究院（簡稱“智源研究院”）院長、北京大學計算機學院教授黃鐵軍。
今年以來，隨着ChatGPT（OpenAI研發的一款聊天機器人程序）火熱，隱藏在背後的“大模型”正走進人們的視野。實際上，早在2018年，北京智源研究院就已成立，是人工智能領域新型研發機構，也是國內最早從事大模型研究的機構之一。
黃鐵軍研究人工智能超過30年，擅長視覺信息處理與類腦智能，2021年智源研究院就已經提出大模型時代即將要到來。近日，黃鐵軍在接受新京報貝殼財經記者專訪時表示，大模型是一個時代方向，目前處於人工智能發展里程碑式的節點。
數據安全、隱私保護是人工智能時代不能避談的問題。黃鐵軍認爲，沒有數據就沒有智能，數據是源頭，用好數據、管好數據，人工智能才能健康發展。
大模型的智能水平主要取決於數據規模、豐富程度。黃鐵軍表示，人工智能或可以與工業革命、電力革命相提並論，工業革命替代人的體力，這次是替代人的智力，“要把大模型產業看成社會經濟發展的新階段”。
北京智源人工智能研究院院長、北京大學計算機學院教授黃鐵軍。圖/受訪者供圖
談“智源”
大模型纔剛剛開始，將來智力服務就像電力服務一樣隨處可得
貝殼財經：當時是基於哪些因素及判斷成立了智源研究院？
黃鐵軍：2018年，北京市支持建設世界一流新型研發機構實施辦法，人工智能是北京市關注的最重要方向之一，智源研究院定位爲人工智能領域新型研發機構，是北京最早一批新型研發機構。我們密切關注人工智能技術發展，基於對未來產業的判斷，2019年決定集中主要精力資源做大模型方向，當時還沒有“大模型”這個詞。
貝殼財經：智源研究院在2021年3月和6月分別發佈了大模型悟道1.0、悟道2.0，爲何到2023年6月才發佈悟道3.0？
黃鐵軍：這是從“大煉模型”向“煉大模型”的轉換階段，隨着模型規模擴大，智能能力會越來越強。我們繼續往前演進，在研究策略上也有一些變化，大模型訓練需要大量算力和海量數據，需要大額投入。對於科研機構來說，不可能無限制擴大資源投入，需要回歸科研機構的研發定位，在算法創新方面深耕；而在算力和數據方面擴大規模，是產業所擅長。
我們調整建立一套大模型技術開源體系，以促進大模型研究與產業協同創新，這是我們的工作重點。所以，2021年6月，我們正式向“新一代人工智能”重大項目提出組織一個大模型項目體系。這就是2023年正式啓動的“1+X+Y”旗艦項目羣，其中智源研究院牽頭平臺項目。
貝殼財經：悟道3.0發佈後反饋如何？
黃鐵軍：我們完全開源，毫無保留，和產學研一起創新迭代版本，發佈後引發了很大反響。現在大模型熱，發展也很快，大家感覺是白熱化競爭狀態，其實我們的心態要冷靜或者穩定得多，大模型纔剛剛開始。
將來的智力服務就像電力服務一樣，隨處可得、價廉物美，每個人、每個家庭、每個企業都是這樣的獲取方式，人工智能大模型是背後的一個技術而已。雖然電力發展一個多世紀，已經很普及，但發電、配電、輸電技術研究工作一直在迭代發展，至今還在進行。
貝殼財經：2021年智源研究院就已經提出大模型時代即將要到來，直到2023年初通用大模型才從國外火到國內，進入公衆視野。如果悟道3.0搶先發，是不是影響更大？
黃鐵軍：要說沒有遺憾也不符合實際情況，但總體來說，我們認爲這是一個時代方向，不是一年兩年就蓋棺定論的事，而是需要十年二十年的技術迭代和演進發展。此外，也有一個很實際的原因，要訓練更大的模型，就得投入更大的算力和數據，這也不是一個機構的體量所能承受的。
貝殼財經：目前對公衆開放的大模型產品，哪些有超出悟道3.0？
黃鐵軍：大模型需要通過用戶迭代，也是海量用戶不斷提升改進產品和服務的必要過程。比如，第一代搜索引擎並不夠好，隨着用戶量上升，搜索準確度會越來越高。大模型可以產生無窮無盡的回答，哪些回答是用戶最喜歡的，同樣與大量用戶迭代有關。
不同於產品類模型，悟道是技術示範模型，目的是驗證模型訓練技術水平，推進技術開源迭代發展。大模型產品和服務是企業的事，誰能做的更好、最好我們都很高興。
談現狀
大模型產品向公衆開放是人工智能發展里程碑式的節點
貝殼財經：8月31日北京首批5家大模型產品已經面向公衆開放，開啓了大模型產品應用的熱潮。對此，如何評價國內大模型產品的發展現狀？
黃鐵軍：這是人工智能發展里程碑式的節點，一系列大模型上線後，也進入廣泛應用推廣的發展新階段，更好地服務於廣大用戶。
貝殼財經：你曾提到全世界只需要三個大模型生態，需要具備哪些特質，目前哪些大模型具備基礎？
黃鐵軍：大模型生態具有兩個層面的含義，一是大模型技術體系，二是大模型運營商。生態超過三個可能性很小。比如，移動互聯網主要倆生態，iOS和安卓。通過大模型給大量用戶提供智力服務的運營商屈指可數，類似國家電網或電信運營商，中國市場可能兩三個。
大模型提供智能智力服務，智力服務有高低。高就意味着訓練數據需要足夠多，爭取全量數據，需要實時獲取數據，全球產生新數據要即時吸收到模型中，7×24小時訓練和服務，這需要巨大投入和運營能力才能做到，目前還沒有哪傢俱備大模型運營商能力，這比國家電網還要複雜。因此不僅僅是一個簡單的產品競爭問題，需要整體規劃設計。
貝殼財經：業內認爲大模型讓人們看到了通用人工智能（AGI）的曙光，如何理解大模型和通用人工智能（AGI）的關係，通用人工智能真的有望實現嗎？
黃鐵軍：現在是從專用人工智能向通用人工智能發展，大模型是實現通用性人工智能最主要的技術路線，還有其他技術也在發展，目前來看效果展現出來了。人工智能正在往通用方向發展。
但是通用人工智能（AGI）是一個要命的事，AGI的嚴格定義是完全超越人類的智能。我們要不要去實現？應不應該把它當成一個目標去做？都值得討論。全社會要從重大風險的角度去考慮問題，不能僅僅把它當成更先進技術去追求。
4月28日，中共中央政治局會議明確指出，“要重視通用人工智能發展，營造創新生態，重視防範風險。”AGI風險是全人類從未遇到的巨大風險挑戰，意味着人類要把世界的控制權交出去，人類根本沒做好準備，現在卻成了個人和企業競相追逐的夢想，必須高度警惕。
談爭議
大模型達到人腦級別的涌現2045年左右是臨界點
貝殼財經：數據安全和隱私保護也是面對人工智能大潮非常值得關注的問題，在建立健全關鍵信息基礎設施安全、算法安全、數據安全、個人信息保護等方面，有哪些建議？
黃鐵軍：應該說沒有數據就沒有智能，所以數據是源頭，用好數據、管好數據，人工智能才能健康發展。這個過程中，隱私當然是最重要的問題之一，必須高度重視。兩者之間如何管控？目前大家基本做法都是儘可能把隱私數據脫敏訓練大模型，但即便如此，也可能存在漏網之魚。如果出現這種問題，對於企業發展就是致命的，所以應該說再怎麼重視都是應該的。
貝殼財經：生成式人工智能、大模型等最近也引發了一些版權爭議，尤其在圖片領域，針對生成式人工智能、大模型等的版權保護，有哪些看法？
黃鐵軍：繪畫工作確實有一部分被替換了，但真正有創意不能被完全替代，原畫師還有存在價值。傳統版權法主要關注對作品的複製分發行爲。把不同要素組合創作出一個新作品，並不違反傳統版權法。
我是偏向應該鼓勵AIGC（生成式人工智能）發展。形成了一定的產業和氣候後，探索創新模式上去回饋原創者，就像現在網絡小說作者也得到了不錯的回報，生態就形成了。鼓勵AIGC發展，同時支持更多原創，兩者不是簡單的對立關係，可以協同發展。
貝殼財經：人類還有哪些不能被替代？
黃鐵軍：目前大模型智力和人類智力有差別，它在某些方面強，但在一些方面不強。譬如人類通常說的靈感，做出原創的科學技術突破能力，以及人腦和神經系統信號的表達和處理機制還是獨特的。
大模型背後是人工神經網絡系統，靠海量數據得到一定的智力，優勢在於處理數據的規模和速度，畢竟人能獲取的數據量有限，大模型憑藉獨特優勢可以超出人的能力，有超越人類的可能。
貝殼財經：你曾提到，未來智能載體有望像生物大腦一樣涌現更強智能，需要多少年實現？對人類將有什麼影響？
黃鐵軍：大模型已經有涌現能力了，涌現是自然界一個普遍現象。當一個系統單元數量達到一定規模，相互作用，就會產生涌現的現象。人腦是這樣，大模型現在也類似，我十年前預測，人工智能系統逼近到人腦並實現類似的智力涌現，需要30年左右的時間，也就2045年左右，能夠達到臨界點。
談展望
目前對人工智能風險的重視和投入還是不足
貝殼財經：有觀點認爲，AIGC的大模型產品是在海量的數據中“思考”並生成內容，能夠起到基礎的輔助作用，並不能給予突破性的創新服務。若AI提供讓靈長類動物感到有壓力的、一些更聰明的服務，需要多久？
黃鐵軍：大模型的智能水平主要取決於數據規模、豐富程度。大模型背後技術體系會不斷改進，相比之下更高質量、更大規模的數據，能夠發揮更大作用。目前大模型企業需要先活下來，滿足用戶服務，有一定收入，才能迭代往前發展，智力水平肯定會逐漸提高。
大家一定要把大模型看成社會經濟發展新階段的標誌，是全局性的大事，而不只是幾大大模型企業。就像電力時代，需要電器企業、發電機企業等各種不同角色共建。我想傳達最重要的信息就是智力時代來了，大模型會像19世紀的電力革命一樣，後邊會有很多機會。
貝殼財經：你腦海中的人工智能大模型時代的“生活圖景”是何種景象？需要多少年可以落地應用？大模型創業還有可能出現哪些形態？
黃鐵軍：今天社會經濟的運行，人的智力是最核心的要素。未來一些人的智力逐步被人工智能所取代。隨着替代比例越來越高，社會經濟運行效率就會越來越高。大家可能失業，但失業的人可能又會在新循環中找到新崗位，這是整個社會發展的一次大提升。效率提高之後，原來很多問題可能就解決了。
人工智能或可以與工業革命、電力革命相提並論，如果只說第四次革命還是低估了它的影響。工業革命替代人的體力，這次是替代人的智力。往好的方面看，經濟社會會有一個重大紅利期，生活更便捷，物質、精神層面都得到了更好滿足。
與此同時，風險或者挑戰也更大了。簡單地說，越來越多的智力任務交給人工智能系統運行，而且是交給爲數不多的幾個智能系統，智力替代級別越來越高，人類主導權也越來越低，某種意義上人的智力在不斷退後，最終是交出控制權的風險越來越大。
貝殼財經：對大模型的未來世界有什麼展望？人類與AI的關係會走向何方？
黃鐵軍：大模型的社會關注度這麼高，投入這麼多，肯定會高速發展，發展速度會超出很多人的預期。經濟社會效益也會快速增長，這是樂觀的一面。與此同時，人工智能與人類社會關係越來越密切，人越來越多的智力活動被AI所替代，這是要保持警醒的另一面。
我們當然希望人類長期更好地發展下去，不被AI所顛覆，探索出人機智能結合良性發展的道路。不過，人工智能發展水平提高的越來越快，潛在風險越來越大，目前對風險的重視和投入還是不足。
新京報貝殼財經記者 陳維城
編輯 張冰 校對 付春愔