幾小時(shí)前，OpenAI 官網(wǎng)發(fā)布新的文章公告宣布：

　　奧特曼（ Sam Altman）將正式重返 OpenAI 擔(dān)任 CEO，Mira 將回歸 OpenAI 擔(dān)任 CTO，新的董事會(huì)將由 Bret Taylor( 可能是支持奧特曼的激進(jìn)派 )、Larry Summers ( 可能是激進(jìn)派 )和 Adam D'Angelo ( D'Angelo 是*留任的老董事，他曾支持讓奧特曼下臺(tái)，是保守派 )組成，至于之前發(fā)起 “ 政變 ” 把奧特曼推下臺(tái)的 Ilya（ 保守派 ），奧特曼表示 Ilya 將不再擔(dān)任董事會(huì)成員，并且公司正在討論他將如何留在 OpenAI 繼續(xù)工作。

　　根據(jù)此前奧特曼發(fā)布的推文，本次回歸，他除了獲得了新董事會(huì)的支持，還得益于 satya ，也就是微軟 CEO 的支持。

　　隨著這則公告的發(fā)布，OpenAI 宮斗大戲似乎塵埃落定，而這場(chǎng)宮斗的結(jié)束，或許意味著 OpenAI 的使命將被改寫，它有可能像一只蝴蝶煽動(dòng)了一下翅膀，最終影響整個(gè)人類。

　　為什么這么說呢?

　　此前，OpenAI 正走上一個(gè)十字路口，宮斗本質(zhì)意義上是 OpenAI 的兩種截然不同的發(fā)展方向：加速主義與安全主義的路線之爭(zhēng)。

　　事情發(fā)生的前一天，奧特曼還在亞太經(jīng)合組織峰會(huì)上侃侃而談公司最近取得的一項(xiàng)技術(shù)進(jìn)步。

　　“ 在 OpenAI 的歷史上，現(xiàn)在已經(jīng)有四次了，最近一次是在過去的幾周里。當(dāng)我們把無知的面紗推回去，把發(fā)現(xiàn)的前沿向前推進(jìn)時(shí)，這是一生的職業(yè)榮譽(yù)。”

　　奧特曼所說的這項(xiàng)技術(shù)，大概是指 Q*( 發(fā)音為 “ Q-Star ” )模型。

　　根據(jù) The Information 的報(bào)道，OpenAI 兩位*研究人員 Jakub Pachocki 和 Szymon Sidor 開發(fā)出了名為 Q* 的模型。

　　它能用前所未有的能力來解決數(shù)學(xué)問題，是 AGI( 通用人工智能 )的重要技術(shù)里程碑。

　　而這個(gè)突破是基于 Ilya 啟動(dòng)于 2021 年的一項(xiàng)重要工作：GPT-Zero。該項(xiàng)目研究如何使用計(jì)算機(jī)生成的數(shù)據(jù)，而不是互聯(lián)網(wǎng)上提取的文本或圖像來訓(xùn)練新模型。

　　簡(jiǎn)單來說，就是 AI 在自己生成的數(shù)據(jù)上提升能力，打開自我進(jìn)化的路線。

　　Ilya 的技術(shù)突破此前從未被報(bào)道過，在取得突破后的幾個(gè)月里，Ilya 都對(duì)這項(xiàng)技術(shù)持保留態(tài)度。

　　直到奧特曼被罷免的四天前，公司幾名研究員向董事會(huì)發(fā)出了一封信，警告稱這項(xiàng)新發(fā)現(xiàn)可能威脅人類。這封信就成了 OpenA 此次 “ 宮斗 ” 大戲的導(dǎo)火索。

　　Ilya 高調(diào)參與了對(duì)奧特曼的罷免，甚至外界還認(rèn)為他是串聯(lián)董事會(huì)另外三人的人物。

　　在消息剛宣布的時(shí)候，以 Ilya 為代表的 OpenAI 董事會(huì)受到了全球輿論的口誅筆伐，剛回過神的微軟和第二大股東 Thrive Capital 也對(duì) OpenAI 董事會(huì)施加壓力。

　　那時(shí)候，就只有馬斯克在暗暗支持政變，他發(fā)帖稱：

　　Ilya 有著良好的道德準(zhǔn)則，并且不熱衷權(quán)力。除非他覺得*有必要，否則他是不會(huì)采取這種極端行動(dòng)的。

　　奧特曼正式回歸后，關(guān)于道德與追求更快的未來，似乎 OpenAI 選擇了后者。

　　01 OpenAI的使命

　　在宣布罷免奧特曼的全體會(huì)議上，有員工問道，“ 這是一場(chǎng)政變嗎？”

　　“ 你可以這么說，我能理解你為什么選擇這個(gè)詞。”Ilya 回應(yīng)道，隨后又解釋了一句，“ 但我不同意這個(gè)詞，因?yàn)榱T免對(duì)于維持 OpenAI 的使命是必要的。”

　　所以，OpenAI 的使命是什么?

　　時(shí)間回到 2012 年，彼時(shí)馬斯克認(rèn)識(shí)了戴密斯·哈薩比斯，哈薩比斯創(chuàng)辦了一家名為 “ DeepMind ” 的公司，試圖打造一種能像人類一樣學(xué)習(xí)、思考的機(jī)器。

　　兩人一見如故，馬斯克約哈薩比斯去往他的火箭工廠參觀。在那里，馬斯克跟哈薩比斯解釋，他之所以要打造可以飛往火星的火箭，是因?yàn)樵诎l(fā)生世界大戰(zhàn)、小行星撞擊或人類文明崩潰時(shí)，這是一種可能保存人類意識(shí)的方式。

　　哈薩比斯則補(bǔ)充了另一種人類可能面臨的危險(xiǎn) —— 人工智能。

　　他認(rèn)為機(jī)器如果進(jìn)化成了超級(jí)智能，在未知邏輯下可能做出把人類消滅的決定。

　　馬斯克聽完沉思了將近一分鐘，他認(rèn)為哈薩比斯對(duì)人工智能風(fēng)險(xiǎn)的認(rèn)識(shí)可能是對(duì)的，于是他向哈薩比斯創(chuàng)立的 DeepMind 投資了 500 萬(wàn)美元，這樣他就能實(shí)時(shí)了解人工智能領(lǐng)域的進(jìn)展。

　　隨后幾周里，馬斯克向谷歌創(chuàng)始人拉里佩奇介紹了他對(duì)人工智能潛在風(fēng)險(xiǎn)的看法，但佩奇對(duì)此不屑一顧。

　　2013 年，馬斯克的生日派對(duì)上，兩人還對(duì)這個(gè)事展開了一場(chǎng)激烈的辯論。

　　馬斯克認(rèn)為，“ 除非我們建立防火墻，否則人工智能可能會(huì)取代人類，讓我們這個(gè)物種走向滅絕。”

　　佩奇反駁說，“ 如果有一天機(jī)器的智力，甚至機(jī)器的意識(shí)，都超過了人類，那又有什么關(guān)系呢?這只不過是進(jìn)化的下一階段罷了。”

　　佩奇指責(zé)馬斯克是 “ 物種主義者 ”，只偏袒自己這個(gè)物種的生存。“ 嗯，沒錯(cuò)，我是支持人類優(yōu)先的。”馬斯克回應(yīng)道，“ 我就是熱愛人類啊。”

　　那年年底，谷歌計(jì)劃收購(gòu) DeepMind ，馬斯克嘗試過籌錢給 DeepMind 融資，以此來阻止這筆交易。他還對(duì)哈薩比斯說：“ 人工智能的未來不應(yīng)該讓拉里說了算。”

　　但馬斯克還是失敗了，于是他轉(zhuǎn)頭就找到了奧特曼。

　　在帕洛阿爾托的一場(chǎng)小型晚宴上，奧特曼和馬斯克決定創(chuàng)辦一個(gè)非營(yíng)利性的人工智能研究實(shí)驗(yàn)室，他們將其命名為 “ OpenAI ”。

　　實(shí)驗(yàn)室的軟件是開源的，將努力對(duì)抗谷歌在人工智能領(lǐng)域日漸強(qiáng)大的主導(dǎo)地位。

　　馬斯克說，“ 我們的目標(biāo)是提升人工智能安全發(fā)展的概率，人類將從中受益。”

　　當(dāng)時(shí)馬斯克和奧特曼還詳細(xì)討論了一個(gè)目標(biāo)，叫做 “ 人工智能對(duì)齊 ”—— 這個(gè)詞也是這次 “ 宮斗 ” 的關(guān)鍵 —— 它的目的是讓人工智能系統(tǒng)與人類的目標(biāo)和價(jià)值觀保持一致，就像艾薩克·阿西莫夫的機(jī)器人三定律一樣。

　　在確定好這個(gè)目標(biāo)之后，他們找到了 Ilya，打算用 190 萬(wàn)美元的工資和保底獎(jiǎng)金把他從谷歌挖過來，讓他擔(dān)任 OpenAI 的首席科學(xué)家。

　　這個(gè)薪資和他在谷歌時(shí)差不多，而為了留住 Ilya，谷歌先給 Ilya 的薪資翻了一番，Ilya 沒有答應(yīng)。隨后，谷歌選擇加更多的錢。

　　眼看著 Ilya 就要被老東家留住了，OpenAI 急了，但拼財(cái)力，肯定是比不過谷歌的，于是他們選擇換一種策略：講理想。

　　他們告訴 Ilya，OpenAI 是一家非盈利導(dǎo)向的 AI 實(shí)驗(yàn)室，他們的目標(biāo)是 “ 讓人類以更接近于安全的方式構(gòu)建真正的 AI ”。

　　Ilya 認(rèn)可了這一理念，放棄谷歌的天價(jià)薪資選擇加入 OpenAI 。

　　對(duì)于馬斯克挖走自己*科學(xué)家的事，佩奇一直耿耿于懷，一度在公開場(chǎng)合拒絕跟他對(duì)話。馬斯克還調(diào)侃對(duì)方，“ 當(dāng)時(shí)你但凡對(duì)人工智能的安全問題上點(diǎn)兒心，我們都沒必要搭個(gè)臺(tái)子跟你唱對(duì)臺(tái)戲。”

　　Ilya 加入 OpenAI 后確立了 OpenAI 的使命：“ 確保 AI 造福全人類 ”。

　　那年 OpenAI 還發(fā)表了一篇名為 “ 介紹 OpenAI ” 的博文，里面這樣寫道：

　　“ 我們希望將 OpenAI 發(fā)展成為這樣一個(gè)機(jī)構(gòu)。作為一個(gè)非營(yíng)利組織，我們的目標(biāo)是為每個(gè)人類而不是股東創(chuàng)造價(jià)值。我們將大力鼓勵(lì)研究人員發(fā)表他們的工作，無論是論文、博客文章還是代碼，我們的專利( 如果有 )將與全世界共享。我們將與許多機(jī)構(gòu)的其他人自由合作，并期望與公司合作研究和部署新技術(shù)。”

　　這篇文章的作者是：Greg Brockman、Ilya Sutskever 以及 OpenAI，奧特曼的名字并不在其中。

　　可能分歧在這時(shí)就已經(jīng)埋下了伏筆。

　　02 裂縫叢生

　　關(guān)于 OpenAI，奧特曼設(shè)計(jì)了一個(gè)特殊盈利架構(gòu)，在這里就不贅述了。

　　簡(jiǎn)單來說就是成立了一個(gè)子公司來承接 OpenAI 的商業(yè)行為與股權(quán)分配。

　　在奧特曼宣布這個(gè)架構(gòu)實(shí)施前不久，馬斯克就與奧特曼決裂，離開了 OpenAI 董事會(huì)。

　　也正是這個(gè)架構(gòu)，讓 OpenAI 從一個(gè)開放式非盈利的機(jī)構(gòu)逐漸轉(zhuǎn)向封閉式可盈利的組織。

　　2020 年，OpenAI 發(fā)生過一次高層之間對(duì)于 AI 路線的爭(zhēng)議。當(dāng)年年底，OpenAI 的前研究副總裁 Dario Amodei 帶著 10 名心腹離開 OpenAI，創(chuàng)辦了如今 OpenAI *的競(jìng)爭(zhēng)對(duì)手 Anthropic 。

　　而 Dario 出走的最根本原因就是人工智能安全問題。

　　生成式 AI 是一個(gè)黑匣子，人們并不知道其中是如何運(yùn)作的，只知道堆參數(shù)堆算力的 “ 大力出奇跡 ” 的方式，而 Dario 擔(dān)心，“ 知其然不知其所以然 ” 的人工智能發(fā)展過快會(huì)帶來未知的風(fēng)險(xiǎn)。

　　今年十月份，OpenAI 原董事會(huì)成員 Helen Toner 發(fā)表過一篇論文，里面贊揚(yáng)了 Anthropic 采取的安全做法。

　　論文里寫道：“ Anthropic 推遲了 Claude 的發(fā)布時(shí)間，直到另一家公司推出了功能類似的產(chǎn)品，這表明 Anthropic 不愿在產(chǎn)品上偷工減料走捷徑，而 ChatGPT 的發(fā)布催生了很多瘋狂行為。”

　　因?yàn)檫@篇論文，奧特曼譴責(zé)了 Helen Toner，說她損害了 OpenAI 的利益，還考慮過是否將她撤職。

　　事實(shí)上，對(duì) OpenAI 做法怨念很深的，還有 OpenAI 創(chuàng)始人馬斯克。

　　2023 年 2 月，馬斯克在社交媒體上喊話奧特曼去見他，還要求奧特曼帶著 OpenAI 的創(chuàng)始文件。

　　馬斯克質(zhì)問他，憑什么能夠合法地把一個(gè)由捐款資助的非營(yíng)利組織轉(zhuǎn)變成一個(gè)可以賺取數(shù)百萬(wàn)美元的營(yíng)利組織。

　　奧特曼則一口咬定，這是合法行為，他不是股東也沒有套現(xiàn)，甚至還可以向馬斯克提供新公司的股份，不過，馬斯克沒要。

　　馬斯克說：“ OpenAI 是作為一家開源的( 這也是我將其命名為 ‘ Open ’ AI 的原因 )、非營(yíng)利性的公司創(chuàng)建的，其目的就是與谷歌抗衡，現(xiàn)在它卻成了一家封閉源代碼、追求利潤(rùn)*化的公司，實(shí)際上處于微軟的控制之下。我到現(xiàn)在都不明白，我捐贈(zèng)了 1 億美元?jiǎng)?chuàng)辦的非營(yíng)利性組織是怎么變成市值 300 億美元的營(yíng)利性公司的。如果這是合法的，為什么大家不都這么做呢?”

　　很明顯，圍繞 OpenAI 的發(fā)展方向已經(jīng)產(chǎn)生了兩種截然不同的發(fā)展方向：加速主義與安全主義的路線之爭(zhēng)。

　　前者充滿資本主義精神，認(rèn)為人類應(yīng)該無條件地加速技術(shù)創(chuàng)新，并快速推出它們，來顛覆社會(huì)結(jié)構(gòu)。這種顛覆本質(zhì)上對(duì)人類有利，因?yàn)闀?huì)迫使人類適應(yīng)，從而幫助我們更快達(dá)到更高的意識(shí)水平。代表人物自然是這次宮斗被短暫推翻的奧特曼。

　　后者對(duì)通用人工智能充滿警惕，認(rèn)為 AI 應(yīng)該要對(duì)齊人類價(jià)值觀，尤其是“ 無條件對(duì)人類的愛 ”，就像父母對(duì)待孩子，只有擁有了這個(gè) AI 才真的不會(huì)毀滅人類，而在這之前都應(yīng)該用謹(jǐn)慎的態(tài)度來發(fā)展 AI。代表人物是這次宮斗的發(fā)起者 Ilya 和早已退出 OpenAI 的馬斯克。

　　而兩者之間能不能調(diào)和呢?

　　Ilya 認(rèn)為不能，他認(rèn)為技術(shù)的本質(zhì)類似于人類的生物進(jìn)化，進(jìn)化的起點(diǎn)很重要。如果進(jìn)化的開始，是一個(gè)沒有 “ 無條件對(duì)人類的愛 ” 的 AI，那最終也一定會(huì)把人類帶到溝里去。

　　正是這種不可調(diào)和的矛盾，導(dǎo)致 OpenAI 爆發(fā)了這場(chǎng)全球矚目的政變。

　　03 AI時(shí)代的奧本海默

　　去年12 月，在舊金山加州科學(xué)館舉辦的 OpenAI 節(jié)日派對(duì)上，Ilya 向數(shù)百名員工和嘉賓發(fā)表了講話。

　　“ 我們的目標(biāo)是制造一個(gè)熱愛人類的 AGI。” Ilya 停頓了一下，隨后說，“ 感受 AGI，跟我念 —— 感受 AGI。”

　　這位當(dāng)初從谷歌 Deep Mind 跳槽到 OpenAI 的天才科學(xué)家并不想把自己當(dāng)成奧特曼的 “ 沃茲尼亞克 ”( 與喬布斯共同創(chuàng)立蘋果 )，而更像是 AI 時(shí)代的 “ 奧本海默 ”。

　　奧特曼顯然是加速主義派的代表，他主導(dǎo)了 GPT 商業(yè)化的進(jìn)度并且想要加快運(yùn)用其研究成果。但 Ilya 卻越來越擔(dān)心 OpenAI 是否堅(jiān)持了管理非營(yíng)利組織創(chuàng)造有益的 AGI 的使命。

　　他在幾個(gè)月前牽頭成立一個(gè) “ 超級(jí)對(duì)齊 ” 的項(xiàng)目，計(jì)劃在未來四年將把公司五分之一的計(jì)算資源投入到這個(gè)項(xiàng)目，幫助引導(dǎo)超級(jí)人工智能走向人類價(jià)值觀和目標(biāo)，開發(fā)更多人工智能安全技術(shù)，為十年內(nèi)實(shí)現(xiàn) AGI 的可能性做好準(zhǔn)備。

　　奧特曼顯然不愿意等這么久。

　　本月初，OpenAI 舉行了*次 “ 開發(fā)者大會(huì) ”，在會(huì)上奧特曼推出了 GPTs， ChatGPT 的自定義版本，增加了 GPT Store 并允許通過收益分成來豐富開發(fā)生態(tài)。

　　于是，無數(shù)開發(fā)者像潮水一樣涌來，復(fù)制蘋果 AppStore 的路徑已經(jīng)躍然紙上。

　　之后奧特曼和 Greg Brockman 開始全力融資，11 月 9 日與法國(guó)總統(tǒng)馬克龍會(huì)面，隨后在巴黎舉行了投資者會(huì)議。13 日在倫敦接受《 金融時(shí)報(bào) 》的采訪時(shí)，奧特曼首次確認(rèn)他們已經(jīng)開始開發(fā) GPT-5，并正在為此籌集資金。16 日在 APEC 峰會(huì)上，奧特曼確認(rèn)了技術(shù)突破，稱幾周前他們?cè)俣却蜷_了 “ 無知之幕 ”。

　　據(jù)傳聞，17 日董事會(huì)會(huì)議上，Ilya 帶著兩名資深工程師向董事會(huì)報(bào)告了項(xiàng)目的進(jìn)展和潛在風(fēng)險(xiǎn)。并表示公司不應(yīng)該再融資，不應(yīng)該擴(kuò)張，以及奧特曼不應(yīng)該擅自進(jìn)行巡演時(shí)。

　　在大吵一番后，Ilya 最終決定推動(dòng)董事會(huì)罷免奧特曼。

　　但事后，Ilya 也并沒有那么堅(jiān)決。

　　在董事會(huì)決定將奧特曼解職，把 Greg Brockman 從董事會(huì)除名后，Greg Brockman 的妻子在公司大廳哭著懇求 Ilya 重新考慮這件事。

　　她就是在這個(gè)這地方和布羅克曼舉行了婚禮，婚禮是 Ilya 主持的。

　　之后，Ilya 有些后悔，發(fā)帖說：“ 我對(duì)參與董事會(huì)的行動(dòng)深表遺憾。我從未想過要傷害 OpenAI。我熱愛我們共同建立的一切，我會(huì)盡我所能讓公司重新團(tuán)結(jié)起來。”

　　隨后在 OpenAI 員工聯(lián)名辭職信里，Ilya Sutskever 的名字赫然出現(xiàn)其中。

　　隨著關(guān)鍵人物的繳械，這場(chǎng)政變?cè)谀且豢桃呀?jīng)基本宣告了結(jié)束。

　　04 走向何方？

　　OpenAI 之后會(huì)走向何方呢?

　　可能重回 CEO 位置的奧特曼依然還會(huì)過著順風(fēng)順?biāo)�的生活吧，在世界各地穿��，與多國(guó)總統(tǒng)和總理們會(huì)面，確定著全球 AI 政策議程，并且把 OpenAI 的估值繼續(xù)推向新高。

　　而退出董事會(huì)的 Ilya 應(yīng)該也會(huì)繼續(xù)著他的 “ 超級(jí)對(duì)齊 ” 項(xiàng)目，去探索如何 “ 制造一個(gè)真正愛人類的 AG I”。

　　無論怎樣，生成式 AI 這個(gè)精靈是不可能再被關(guān)回瓶子里的。

　　這次鬧劇只是在告訴全人類，某種可自我進(jìn)化的 AGI 已經(jīng)被創(chuàng)造出來了，并且正在以一種恐怖的速度更新迭代。

　　至于，如何平衡安全與發(fā)展之間，誰(shuí)知道呢?

　　人工智能的浪潮有多洶涌，其背后的安全問題就有多深邃。

　　在電影《 奧本海默 》中，有這樣一個(gè)場(chǎng)面，地平線上，一道巨大的白光閃過，漸漸地，白光變成了耀眼的黃橙色的火球，夾雜著火焰和黑色塵埃，不斷向上翻滾。奧本海默心中閃現(xiàn)出了印度經(jīng)典作品《 薄伽梵歌 》中一句話：“ 現(xiàn)在我成了死神，世界的毀滅者。”

　　不知道 Ilya 在決定罷免奧特曼的那一刻，腦海里又想起的是什么呢？

　　引用：

　　1.有效利他主義是什么?它如何引發(fā)了硅谷分裂和OpenAI鬧劇?——華爾街日?qǐng)?bào)

　　2.OpenAI“宮斗”的幕后究竟發(fā)生了什么?——華爾街日?qǐng)?bào)

　　3.OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say——reuters

　　4.OpenAI Made an AI Breakthrough Before Altman Firing, Stoking Excitement and Concern——The Information

　　5.《 馬斯克傳 》