OpenAI宮鬥戲再起:安全團隊被卡算力,Sam Altman準備髮長文
OpenAI“離職潮”的體面還是被打破了。
這次帶頭打破這種“默契”的不是更居核心地位的前首席科學家Ilya Sutskever,而是OpenAI超級對齊小組另一位聯合負責人Jan Leike。
事實上,直到昨天爲止,這種表面和平都還維持得很好,但只發表一句“我辭職了”的Jan Leike顯然有些欲言又止。沒過多久,他在一條新的更加正式的告別推文下,連續回覆了12條評論,揭開了他與Ilya Sutskever離職幕後隱情的冰山一角。
這些內容投射出的核心邏輯是,Jan Leike認爲OpenAI擁有非常多極爲聰明、善良和高效的人才,其團隊過去三年也做出了衆多令人興奮的成果。但是過去一段時間以來,Jan Leike已經越發無法認同領導層對於OpenAI核心優先事項的決策,直到他們達到一個臨界點。
比如說,Jan Leike認爲應該把更多算力用於爲下一代模型做好準備,包括安全性、監測、超級對齊、保密性、社會影響等方面。但過去幾個月,其團隊一直在逆勢而行。Jan Leike暗示自己團隊在算力上遭遇阻礙,“有時我們在計算上很吃力,完成這項重要研究變得越來越困難。”他寫道。
其餘的內容更像是Jan Leike對OpenAI的勸告。“建造比人類更聰明的機器本身就是一項危險的嘗試。OpenAI正肩負一個代表着全人類的巨大責任。OpenAI必須成爲一家安全第一的人工智能公司。”
最後他喊話OpenAI(或許是仍在任的前同事們):“學會感受AGI,採取與你正在構建的事物相匹配的莊重態度。我相信你可以‘實現’所需的文化變革。我指望你了。全世界都指望着你。”
Sam Altman當然不是沒有迴應。他轉發了Jan Leike包含以上所有回覆的推文,並在轉發語中例行感謝了對方的傑出貢獻,更重要的是,他表示“我將在接下來的幾天發佈一篇更長的帖子。”
這意味着Jan Leike拋出的話題引起了OpenAI領導層的足夠重視。因爲前者的說法如果是事實,OpenAI必然要面臨一場難以停息的輿論審判:你們對AGI的安全是否不夠重視?不僅如此,你們甚至壓迫了力求保證AGI安全的技術團隊?
這一定是領導層和董事會都不願意看到的輿論危機,畢竟公司從上一波宮鬥戲結束到趨近平穩,纔過去不到半年。
給這場風波蒙上另一層噱頭的是傳聞中的一份離職協議。
據Vox報道,OpenAI員工們在離職時要簽署一份條件非常嚴苛的協議,其中非常重要的一條就是,離職員工必須遵守不能泄密且不能貶低OpenAI。這項協議幾乎禁止這些離職員工在往後所有時間中談論OpenAI,甚至承認這份保密協議的存在也是對它的一種違反。
離職員工拒絕簽署這份協議的代價可能是巨大的,因爲這似乎會影響他們在職期間獲得的股權價值。前述報道稱,離職保密協議在硅谷很常見,但與股權掛鉤的情況很少。
不過,OpenAI相關發言人隨後對以上核心信息作出迴應稱,“我們從未取消過任何現任或前任員工的既得股權,如果員工在離職時不簽署免責協議或禁止貶低協議,我們也不會取消。”Vox援引線人消息稱,這一聲明與他們所理解的政策之間有了變化。而OpenAI堅持表示該聲明反映了現實。
OpenAI在過去一年以來的確已經不再像當初那樣開源,網友也開始戲謔其爲“CloseAI”。在公司表達的立場上,閉源是出於安全考慮。但如今,肩負安全責任的Jan Leike都開始對OpenAI公開批判,並與Ilya Sutskever雙雙離職。
這意味着,OpenAI再用“安全”因素爲閉源做解釋,已經有些難以維繫局面了。此外,兩位重磅人物退出,以及數位安全團隊成員紛紛離開,Sam Altman大概確實需要一封長信了。
此刻,市場、行業和資本,都在等他。