戴瓊海院士：規避技術安全隱憂 促進人工智能持續發展

本文轉自：人民網

2024“國是論壇”——

戴瓊海院士：規避技術安全隱憂 促進人工智能持續發展

人民網記者 宋子節

11月5日至6日，2024“國是論壇”在京舉辦。國務院參事、中國工程院院士、中國人工智能學會理事長戴瓊海在接受人民網記者採訪時表示，人工智能技術在開放通用場景中仍存在一些安全風險。規避技術安全隱憂，才能促進人工智能持續發展。

“人工智能技術發展至今仍有多重安全風險值得注意，例如黑箱數據訓練安全風險，黑箱依靠數據訓練來支撐大模型對未來的推算，如果有人偷換數據，而後訓練出來的人工智能模型可能成爲敵人。”戴瓊海舉例說，“又如醫療數據安全風險，如果病例數據標註過程中存在錯誤，即便大部分數據判斷正確，但涉及標註錯誤的區域時，人工智能的判斷依然會給人類帶來災難。”

此外，開放場景中的人工智能仍存在問題。“好比模式固化的自動駕駛無法規避所有事故，分析數據的系統無法結合自我認知生成結果。”戴瓊海表示，“因此，進行顛覆性創新，從技術上要做到具有可解釋性的人工智能模型或算法；要規避安全技術隱憂，保證數據的安全是人工智能最主要的安全；儘量開放場景，切忌降低維度，可以先將人工智能放到封閉場景，逐漸擴圈，最後使場景變爲完全開放式。”（實習生王一惟對本文亦有貢獻）