第四範式戴文淵：“三俗”非AI所願，而是因人爲設定導致

第四範式公司創始人、CEO戴文淵做客格隆匯高端訪談《格隆博士會客廳》。戴文淵表示，即便數據量或算力再增加幾個數量級，AI的行爲目標仍然是人設定的。所以我覺得，相比於所謂“硅基和碳基的替代關係”，我們可能更需要關注“人設定的這個目標”。從理論上看，硅基生命其實並不知道什麼叫貪婪，什麼叫慾望——他如果做出在我們看來叫做貪婪的選擇，那是因爲選擇貪婪可以讓預測的準確率提升。所以歸到源頭，其實是我們人設定了一個什麼樣的目標。如果AI被設定錯誤目標，它一定會產生負面的影響。就好像現在推薦引擎會產生很多“三俗”內容，這些三俗內容並不是AI覺得你喜歡三俗，而是因爲AI被設定目標，這個目標叫做讓網民看APP的時長儘可能地長，然後AI給你推三俗的內容。