中國科學院院士張鈸：人工智能精彩大戲還缺乏完備的基礎理論

來源：高校人工智能與大數據創新聯盟

作爲引領第四次科技革命的戰略性技術，人工智能（AI）給社會建設和經濟發展帶來了重大而深遠的影響。但數據隱私、算法偏見、技術濫用等安全問題正給社會公共治理與產業智能化轉型帶來嚴峻挑戰。

AI帶來的問題，首先是科技發展的共性問題。科技是發展的利器，也可能成爲風險的源頭，AI也不例外。

AI的發展將引發新一輪產業革命。一方面是傳統產業的智能化，比如網絡搜索中採取推薦算法、用戶畫像等，可以提高服務效率和質量。另一方面是智能技術的產業化，催生了新的產業，如智能交通、智慧醫療、智慧城市、自動駕駛等。與此同時，AI的發展也帶來了新的風險和安全隱患。因此，我們既要抓AI的創新發展，又要抓AI的治理，兩手都要抓。

其次是AI發展與治理中的特殊性問題，具體表現在算法層面、數據層面與應用層面。

從算法層面看，現有的AI算法較脆弱，泛化能力較差，這意味着如果將算法運用到與訓練場景區別很大的實際場景中，就會存在安全問題。以無人駕駛爲例，AI訓練的時候不可能窮盡所有情景，所以當遇到新的突發事件便無法處理，就會造成AI技術的誤用，這有可能是無意識的誤用。同時，這種脆弱性還使得AI系統容易被攻擊、被欺騙，給AI技術的濫用以可乘之機。

從數據層面看，現在AI應用效果很大程度上依賴數據質量，但由此會帶來隱私泄露、數據確權等問題。如果解決不好數據安全的問題，AI產業也不可能健康發展。

從應用層面看，AI技術已經逐漸對人們的生活造成衝擊，比如爲保隱私戴頭盔去售樓處的看房人、困在算法裡的外賣騎手等，還有深度僞造之類可能對社會造成重大影響的技術，因此AI技術必須保證安全可控。

AI的創新發展是大道理。縱觀信息科技的發展歷史，儘管信息科技發展異常迅猛，但基本上安全可控。而AI發展卻緩慢曲折，安全問題層出不窮。

二者的差別在於，從信息革命開始，信息的三大理論就已經建立，即圖靈機理論（1936）、香農的通信理論（1948）、維納的控制論（1948）。正因爲有了堅實的理論基礎，才引導信息技術健康發展。然而，AI的發展則相反，其基礎理論至今沒有建立。儘管經歷了第一代AI的符號主義模型（知識驅動）和第二代AI的亞符號（連接）主義模型（數據驅動），但它們均有很大的侷限性，不能構成AI的理論基礎。由於缺乏理論指導，AI的發展處於難以控制的局面。

當前，必須解決“卡脖子”的基礎理論問題。因此，建立AI的理論基礎是我們提出“第三代人工智能”的初衷。所謂的“第三代人工智能”，其發展路徑是融合第一代的知識驅動和第二代的數據驅動的AI，在前兩代理論的基礎上發展“第三代人工智能”基礎理論，建立一個完備的AI基礎理論。

具體的思路上，“第三代人工智能”利用知識、數據、算法和算力4個要素，建立新的可解釋和魯棒的AI理論及方法，從而發展安全、可信、可靠和可擴展的AI技術。這樣，發展“第三代人工智能”和AI治理一起進行，以達到相輔相成、共同發展的目的。

AI剛剛拉開序幕，更精彩的大戲正要上演。全世界應共同來發展安全可控的“第三代人工智能”，讓AI真正造福於人類。

（來源：中國科學報；作者系中國科學院院士，記者沈春蕾根據其在2021北京智源大會上的講話整理）

全國高校人工智能與大數據創新聯盟

全國高校人工智能與大數據創新聯盟（簡稱高校聯盟）是由清華大學、浙江大學、中南大學、東北大學、上海工程技術大學、重慶郵電大學、東北林業大學、佛山科學技術學院、曲阜師範大學、太原科技大學、黑龍江大學、哈爾濱理工大學、海豚大數據等全國54家高校、企業共同發起，於2018年5月26日在北京中國科技會堂正式成立。迄今爲止，聯盟發展會員300多家, 覆蓋全國20多個省市。聯盟由一批積極投身於“人工智能、大數據、區塊鏈”教育事業的高校、科研機構、企事業單位和個人自願組成的公益性、全國性學術團體和服務平臺。中國工程院原常務副院長、中國工程院院士潘雲鶴、中國科學院院士陳國良擔任聯盟名譽理事長，中國工程院院士譚建榮擔任聯盟理事長。聯盟工作接受工信部、國家網信辦等政府部門行政管理和業務指導。聯盟主要工作是推進產教融合、校企合作、協同育人。(加盟微信13651193492)

高校區塊鏈專委會

全國高校人工智能與大數據創新聯盟區塊鏈專委會（簡稱:高校區塊鏈專委會），是由北京大學、浙江大學、武漢大學、西南財經大學、北京交通大學、鄭州大學、貴州大學、桂林電子科技大學、山西農業大學、佛山科學技術學院、陝西師範大學、中國網安、新道科技、衆享比特、海豚大數據等全國40多家高校、企業和機構共同發起，於2019年12月7日在廣東省佛山市正式成立。目前發展高校及企業會員70多家。中國工程院院士、浙江大學教授陳純擔任高校區塊鏈專委會名譽顧問；北京航空航天大學數字社會與區塊鏈實驗室主任蔡維德教授、中國計算機學會區塊鏈專委會主任斯雪明教授、中國人民銀行數字貨幣研究所副所長狄剛擔任高校區塊鏈專委會名譽主任；北京大學信息科學技術學院區塊鏈中心主任陳鍾教授擔任高校區塊鏈專委會主任。高校區塊鏈專委會主要工作是促進高校區塊鏈教育，爲高校區塊鏈專業建設及學科發展提供專家諮詢服務。

高校新商科專委會

全國高校人工智能與大數據創新聯盟新商科專委會（簡稱:高校新商科專委會），是由中央財經大學、中國人民大學、中國石油大學、北京師範大學、北京化工大學、北京石油化工學院、北京工商大學、北京語言大學、華北水利水電大學、廣西科技大學、河北金融學院、天津財經大學、北京物資學院、西藏民族大學、北京信息職業技術學院、北京聯合大學、北京經貿職業學院、北京財貿職業學院、海豚大數據、北京中雲國創等全國20多家高校、企業和機構共同發起，於2019年6月28日在北京中國科技會堂正式成立。目前發展高校及企業會員100多家。高校新商科專委會主要工作是促進高校新商科教育、推動高校新商科專業建設及學科發展，爲新商科教育提供專家諮詢服務。

版權聲明：轉載文章和圖片均來自公開網絡，推送文章除非無法確認，我們都會註明作者和來源。如果出處有誤或侵犯到原作者權益，請與我們聯繫刪除或授權事宜

《彙編》Assembly

《彙編》（2021版）大16開本精裝，共七個篇章，1150頁，130萬字。首次收錄全國162家高校人工智能、大數據、區塊鏈學院(專業)基本信息、辦學特色、師資力量、培養方案、課程體系、實驗室建設等多項內容。71位專家麻辣點評，直面問題。《彙編》極具收藏價值。

《彙編》Assembly

《彙編》（2020版）大16開本精裝，共七個篇章，1111頁，125萬字。首次收錄全國156家高校人工智能、大數據、區塊鏈學院(專業)基本信息、辦學特色、師資力量、培養方案、課程體系、實驗室建設等多項內容。58位專家麻辣點評，直面問題。《彙編》極具收藏價值。

《賦能實驗室》

Enabling Laboratory

《賦能實驗室》彙編出爐！首批推介18家企業解決方案助力高校，33位專家麻辣點評。歡迎諮詢（微信liyuemeng2014）

《賦能人工智能教育》

Enabling AI Education

《賦能人工智能教育》全書約40萬字，第一次集中反映了我國215所高校校長的人工智能專業人才培養理念及學科建設方案。歡迎諮詢（微信liyuemeng2014)

全國高校人工智能與大數據創新聯盟積極組織材料、牽頭編制了《全國重點高校發展規劃與信息化建設報告》（2016～2020）（簡稱：報告，150萬字，75所重點高校）

全國高校新增本科專業名單大全，615頁，是業界第一本全面彙總普通高等學校新增本科專業備案和審批結果的“黃頁”，全面反映2010年～2019年，我國普通高校新增專業名稱及專業調整方向。

賦能高校人工智能教育120位校長，第一本關注校長推進人工智能教育的時代讀物。