初心、盈利、人類危機(jī)：奧特曼正式回歸OpenAI

　　幾小時(shí)前，OpenAI 官網(wǎng)發(fā)布新的文章公告宣布：

　　奧特曼（ Sam Altman）將正式重返 OpenAI 擔(dān)任 CEO，Mira 將回歸 OpenAI 擔(dān)任 CTO，新的董事會(huì)將由 Bret Taylor( 可能是支持奧特曼的激進(jìn)派 )、Larry Summers ( 可能是激進(jìn)派 )和 Adam D'Angelo ( D'Angelo 是*留任的老董事，他曾支持讓奧特曼下臺(tái)，是保守派 )組成，至于之前發(fā)起 “ 政變 ” 把奧特曼推下臺(tái)的 Ilya（ 保守派 ），奧特曼表示 Ilya 將不再擔(dān)任董事會(huì)成員，并且公司正在討論他將如何留在 OpenAI 繼續(xù)工作。

　　根據(jù)此前奧特曼發(fā)布的推文，本次回歸，他除了獲得了新董事會(huì)的支持，還得益于 satya ，也就是微軟 CEO 的支持。

　　隨著這則公告的發(fā)布，OpenAI 宮斗大戲似乎塵埃落定，而這場(chǎng)宮斗的結(jié)束，或許意味著 OpenAI 的使命將被改寫(xiě)，它有可能像一只蝴蝶煽動(dòng)了一下翅膀，最終影響整個(gè)人類。

　　為什么這么說(shuō)呢?

　　此前，OpenAI 正走上一個(gè)十字路口，宮斗本質(zhì)意義上是 OpenAI 的兩種截然不同的發(fā)展方向：加速主義與安全主義的路線之爭(zhēng)。

　　事情發(fā)生的前一天，奧特曼還在亞太經(jīng)合組織峰會(huì)上侃侃而談公司最近取得的一項(xiàng)技術(shù)進(jìn)步。

　　“ 在 OpenAI 的歷史上，現(xiàn)在已經(jīng)有四次了，最近一次是在過(guò)去的幾周里。當(dāng)我們把無(wú)知的面紗推回去，把發(fā)現(xiàn)的前沿向前推進(jìn)時(shí)，這是一生的職業(yè)榮譽(yù)。”

　　奧特曼所說(shuō)的這項(xiàng)技術(shù)，大概是指 Q*( 發(fā)音為 “ Q-Star ” )模型。

　　根據(jù) The Information 的報(bào)道，OpenAI 兩位*研究人員 Jakub Pachocki 和 Szymon Sidor 開(kāi)發(fā)出了名為 Q* 的模型。

　　它能用前所未有的能力來(lái)解決數(shù)學(xué)問(wèn)題，是 AGI( 通用人工智能 )的重要技術(shù)里程碑。

　　而這個(gè)突破是基于 Ilya 啟動(dòng)于 2021 年的一項(xiàng)重要工作：GPT-Zero。該項(xiàng)目研究如何使用計(jì)算機(jī)生成的數(shù)據(jù)，而不是互聯(lián)網(wǎng)上提取的文本或圖像來(lái)訓(xùn)練新模型。

　　簡(jiǎn)單來(lái)說(shuō)，就是 AI 在自己生成的數(shù)據(jù)上提升能力，打開(kāi)自我進(jìn)化的路線。

　　Ilya 的技術(shù)突破此前從未被報(bào)道過(guò)，在取得突破后的幾個(gè)月里，Ilya 都對(duì)這項(xiàng)技術(shù)持保留態(tài)度。

　　直到奧特曼被罷免的四天前，公司幾名研究員向董事會(huì)發(fā)出了一封信，警告稱這項(xiàng)新發(fā)現(xiàn)可能威脅人類。這封信就成了 OpenA 此次 “ 宮斗 ” 大戲的導(dǎo)火索。

　　Ilya 高調(diào)參與了對(duì)奧特曼的罷免，甚至外界還認(rèn)為他是串聯(lián)董事會(huì)另外三人的人物。

　　在消息剛宣布的時(shí)候，以 Ilya 為代表的 OpenAI 董事會(huì)受到了全球輿論的口誅筆伐，剛回過(guò)神的微軟和第二大股東 Thrive Capital 也對(duì) OpenAI 董事會(huì)施加壓力。

　　那時(shí)候，就只有馬斯克在暗暗支持政變，他發(fā)帖稱：

　　Ilya 有著良好的道德準(zhǔn)則，并且不熱衷權(quán)力。除非他覺(jué)得*有必要，否則他是不會(huì)采取這種極端行動(dòng)的。

　　奧特曼正式回歸后，關(guān)于道德與追求更快的未來(lái)，似乎 OpenAI 選擇了后者。

　　01 OpenAI的使命

　　在宣布罷免奧特曼的全體會(huì)議上，有員工問(wèn)道，“ 這是一場(chǎng)政變嗎？”

　　“ 你可以這么說(shuō)，我能理解你為什么選擇這個(gè)詞。”Ilya 回應(yīng)道，隨后又解釋了一句，“ 但我不同意這個(gè)詞，因?yàn)榱T免對(duì)于維持 OpenAI 的使命是必要的。”

　　所以，OpenAI 的使命是什么?

　　時(shí)間回到 2012 年，彼時(shí)馬斯克認(rèn)識(shí)了戴密斯·哈薩比斯，哈薩比斯創(chuàng)辦了一家名為 “ DeepMind ” 的公司，試圖打造一種能像人類一樣學(xué)習(xí)、思考的機(jī)器。

　　兩人一見(jiàn)如故，馬斯克約哈薩比斯去往他的火箭工廠參觀。在那里，馬斯克跟哈薩比斯解釋，他之所以要打造可以飛往火星的火箭，是因?yàn)樵诎l(fā)生世界大戰(zhàn)、小行星撞擊或人類文明崩潰時(shí)，這是一種可能保存人類意識(shí)的方式。

　　哈薩比斯則補(bǔ)充了另一種人類可能面臨的危險(xiǎn) —— 人工智能。

　　他認(rèn)為機(jī)器如果進(jìn)化成了超級(jí)智能，在未知邏輯下可能做出把人類消滅的決定。

　　馬斯克聽(tīng)完沉思了將近一分鐘，他認(rèn)為哈薩比斯對(duì)人工智能風(fēng)險(xiǎn)的認(rèn)識(shí)可能是對(duì)的，于是他向哈薩比斯創(chuàng)立的 DeepMind 投資了 500 萬(wàn)美元，這樣他就能實(shí)時(shí)了解人工智能領(lǐng)域的進(jìn)展。

　　隨后幾周里，馬斯克向谷歌創(chuàng)始人拉里佩奇介紹了他對(duì)人工智能潛在風(fēng)險(xiǎn)的看法，但佩奇對(duì)此不屑一顧。

　　2013 年，馬斯克的生日派對(duì)上，兩人還對(duì)這個(gè)事展開(kāi)了一場(chǎng)激烈的辯論。

　　馬斯克認(rèn)為，“ 除非我們建立防火墻，否則人工智能可能會(huì)取代人類，讓我們這個(gè)物種走向滅絕。”

　　佩奇反駁說(shuō)，“ 如果有一天機(jī)器的智力，甚至機(jī)器的意識(shí)，都超過(guò)了人類，那又有什么關(guān)系呢?這只不過(guò)是進(jìn)化的下一階段罷了。”

　　佩奇指責(zé)馬斯克是 “ 物種主義者 ”，只偏袒自己這個(gè)物種的生存。“ 嗯，沒(méi)錯(cuò)，我是支持人類優(yōu)先的。”馬斯克回應(yīng)道，“ 我就是熱愛(ài)人類啊。”

　　那年年底，谷歌計(jì)劃收購(gòu) DeepMind ，馬斯克嘗試過(guò)籌錢(qián)給 DeepMind 融資，以此來(lái)阻止這筆交易。他還對(duì)哈薩比斯說(shuō)：“ 人工智能的未來(lái)不應(yīng)該讓拉里說(shuō)了算。”

　　但馬斯克還是失敗了，于是他轉(zhuǎn)頭就找到了奧特曼。

　　在帕洛阿爾托的一場(chǎng)小型晚宴上，奧特曼和馬斯克決定創(chuàng)辦一個(gè)非營(yíng)利性的人工智能研究實(shí)驗(yàn)室，他們將其命名為 “ OpenAI ”。

　　實(shí)驗(yàn)室的軟件是開(kāi)源的，將努力對(duì)抗谷歌在人工智能領(lǐng)域日漸強(qiáng)大的主導(dǎo)地位。

　　馬斯克說(shuō)，“ 我們的目標(biāo)是提升人工智能安全發(fā)展的概率，人類將從中受益。”

　　當(dāng)時(shí)馬斯克和奧特曼還詳細(xì)討論了一個(gè)目標(biāo)，叫做 “ 人工智能對(duì)齊 ”—— 這個(gè)詞也是這次 “ 宮斗 ” 的關(guān)鍵 —— 它的目的是讓人工智能系統(tǒng)與人類的目標(biāo)和價(jià)值觀保持一致，就像艾薩克·阿西莫夫的機(jī)器人三定律一樣。

　　在確定好這個(gè)目標(biāo)之后，他們找到了 Ilya，打算用 190 萬(wàn)美元的工資和保底獎(jiǎng)金把他從谷歌挖過(guò)來(lái)，讓他擔(dān)任 OpenAI 的首席科學(xué)家。

　　這個(gè)薪資和他在谷歌時(shí)差不多，而為了留住 Ilya，谷歌先給 Ilya 的薪資翻了一番，Ilya 沒(méi)有答應(yīng)。隨后，谷歌選擇加更多的錢(qián)。

　　眼看著 Ilya 就要被老東家留住了，OpenAI 急了，但拼財(cái)力，肯定是比不過(guò)谷歌的，于是他們選擇換一種策略：講理想。

　　他們告訴 Ilya，OpenAI 是一家非盈利導(dǎo)向的 AI 實(shí)驗(yàn)室，他們的目標(biāo)是 “ 讓人類以更接近于安全的方式構(gòu)建真正的 AI ”。

　　Ilya 認(rèn)可了這一理念，放棄谷歌的天價(jià)薪資選擇加入 OpenAI 。

　　對(duì)于馬斯克挖走自己*科學(xué)家的事，佩奇一直耿耿于懷，一度在公開(kāi)場(chǎng)合拒絕跟他對(duì)話。馬斯克還調(diào)侃對(duì)方，“ 當(dāng)時(shí)你但凡對(duì)人工智能的安全問(wèn)題上點(diǎn)兒心，我們都沒(méi)必要搭個(gè)臺(tái)子跟你唱對(duì)臺(tái)戲。”

　　Ilya 加入 OpenAI 后確立了 OpenAI 的使命：“ 確保 AI 造福全人類 ”。

　　那年 OpenAI 還發(fā)表了一篇名為 “ 介紹 OpenAI ” 的博文，里面這樣寫(xiě)道：

　　“ 我們希望將 OpenAI 發(fā)展成為這樣一個(gè)機(jī)構(gòu)。作為一個(gè)非營(yíng)利組織，我們的目標(biāo)是為每個(gè)人類而不是股東創(chuàng)造價(jià)值。我們將大力鼓勵(lì)研究人員發(fā)表他們的工作，無(wú)論是論文、博客文章還是代碼，我們的專利( 如果有 )將與全世界共享。我們將與許多機(jī)構(gòu)的其他人自由合作，并期望與公司合作研究和部署新技術(shù)。”

　　這篇文章的作者是：Greg Brockman、Ilya Sutskever 以及 OpenAI，奧特曼的名字并不在其中。

　　可能分歧在這時(shí)就已經(jīng)埋下了伏筆。

　　02 裂縫叢生

　　關(guān)于 OpenAI，奧特曼設(shè)計(jì)了一個(gè)特殊盈利架構(gòu)，在這里就不贅述了。

　　簡(jiǎn)單來(lái)說(shuō)就是成立了一個(gè)子公司來(lái)承接 OpenAI 的商業(yè)行為與股權(quán)分配。

　　在奧特曼宣布這個(gè)架構(gòu)實(shí)施前不久，馬斯克就與奧特曼決裂，離開(kāi)了 OpenAI 董事會(huì)。

　　也正是這個(gè)架構(gòu)，讓 OpenAI 從一個(gè)開(kāi)放式非盈利的機(jī)構(gòu)逐漸轉(zhuǎn)向封閉式可盈利的組織。

　　2020 年，OpenAI 發(fā)生過(guò)一次高層之間對(duì)于 AI 路線的爭(zhēng)議。當(dāng)年年底，OpenAI 的前研究副總裁 Dario Amodei 帶著 10 名心腹離開(kāi) OpenAI，創(chuàng)辦了如今 OpenAI *的競(jìng)爭(zhēng)對(duì)手 Anthropic 。

　　而 Dario 出走的最根本原因就是人工智能安全問(wèn)題。

　　生成式 AI 是一個(gè)黑匣子，人們并不知道其中是如何運(yùn)作的，只知道堆參數(shù)堆算力的 “ 大力出奇跡 ” 的方式，而 Dario 擔(dān)心，“ 知其然不知其所以然 ” 的人工智能發(fā)展過(guò)快會(huì)帶來(lái)未知的風(fēng)險(xiǎn)。

　　今年十月份，OpenAI 原董事會(huì)成員 Helen Toner 發(fā)表過(guò)一篇論文，里面贊揚(yáng)了 Anthropic 采取的安全做法。

　　論文里寫(xiě)道：“ Anthropic 推遲了 Claude 的發(fā)布時(shí)間，直到另一家公司推出了功能類似的產(chǎn)品，這表明 Anthropic 不愿在產(chǎn)品上偷工減料走捷徑，而 ChatGPT 的發(fā)布催生了很多瘋狂行為。”

　　因?yàn)檫@篇論文，奧特曼譴責(zé)了 Helen Toner，說(shuō)她損害了 OpenAI 的利益，還考慮過(guò)是否將她撤職。

　　事實(shí)上，對(duì) OpenAI 做法怨念很深的，還有 OpenAI 創(chuàng)始人馬斯克。

　　2023 年 2 月，馬斯克在社交媒體上喊話奧特曼去見(jiàn)他，還要求奧特曼帶著 OpenAI 的創(chuàng)始文件。

　　馬斯克質(zhì)問(wèn)他，憑什么能夠合法地把一個(gè)由捐款資助的非營(yíng)利組織轉(zhuǎn)變成一個(gè)可以賺取數(shù)百萬(wàn)美元的營(yíng)利組織。

　　奧特曼則一口咬定，這是合法行為，他不是股東也沒(méi)有套現(xiàn)，甚至還可以向馬斯克提供新公司的股份，不過(guò)，馬斯克沒(méi)要。

　　馬斯克說(shuō)：“ OpenAI 是作為一家開(kāi)源的( 這也是我將其命名為 ‘ Open ’ AI 的原因 )、非營(yíng)利性的公司創(chuàng)建的，其目的就是與谷歌抗衡，現(xiàn)在它卻成了一家封閉源代碼、追求利潤(rùn)*化的公司，實(shí)際上處于微軟的控制之下。我到現(xiàn)在都不明白，我捐贈(zèng)了 1 億美元?jiǎng)?chuàng)辦的非營(yíng)利性組織是怎么變成市值 300 億美元的營(yíng)利性公司的。如果這是合法的，為什么大家不都這么做呢?”

　　很明顯，圍繞 OpenAI 的發(fā)展方向已經(jīng)產(chǎn)生了兩種截然不同的發(fā)展方向：加速主義與安全主義的路線之爭(zhēng)。

　　前者充滿資本主義精神，認(rèn)為人類應(yīng)該無(wú)條件地加速技術(shù)創(chuàng)新，并快速推出它們，來(lái)顛覆社會(huì)結(jié)構(gòu)。這種顛覆本質(zhì)上對(duì)人類有利，因?yàn)闀?huì)迫使人類適應(yīng)，從而幫助我們更快達(dá)到更高的意識(shí)水平。代表人物自然是這次宮斗被短暫推翻的奧特曼。

　　后者對(duì)通用人工智能充滿警惕，認(rèn)為 AI 應(yīng)該要對(duì)齊人類價(jià)值觀，尤其是“ 無(wú)條件對(duì)人類的愛(ài) ”，就像父母對(duì)待孩子，只有擁有了這個(gè) AI 才真的不會(huì)毀滅人類，而在這之前都應(yīng)該用謹(jǐn)慎的態(tài)度來(lái)發(fā)展 AI。代表人物是這次宮斗的發(fā)起者 Ilya 和早已退出 OpenAI 的馬斯克。

　　而兩者之間能不能調(diào)和呢?

　　Ilya 認(rèn)為不能，他認(rèn)為技術(shù)的本質(zhì)類似于人類的生物進(jìn)化，進(jìn)化的起點(diǎn)很重要。如果進(jìn)化的開(kāi)始，是一個(gè)沒(méi)有 “ 無(wú)條件對(duì)人類的愛(ài) ” 的 AI，那最終也一定會(huì)把人類帶到溝里去。

　　正是這種不可調(diào)和的矛盾，導(dǎo)致 OpenAI 爆發(fā)了這場(chǎng)全球矚目的政變。

　　03 AI時(shí)代的奧本海默

　　去年12 月，在舊金山加州科學(xué)館舉辦的 OpenAI 節(jié)日派對(duì)上，Ilya 向數(shù)百名員工和嘉賓發(fā)表了講話。

　　“ 我們的目標(biāo)是制造一個(gè)熱愛(ài)人類的 AGI。” Ilya 停頓了一下，隨后說(shuō)，“ 感受 AGI，跟我念 —— 感受 AGI。”

　　這位當(dāng)初從谷歌 Deep Mind 跳槽到 OpenAI 的天才科學(xué)家并不想把自己當(dāng)成奧特曼的 “ 沃茲尼亞克 ”( 與喬布斯共同創(chuàng)立蘋(píng)果 )，而更像是 AI 時(shí)代的 “ 奧本海默 ”。

　　奧特曼顯然是加速主義派的代表，他主導(dǎo)了 GPT 商業(yè)化的進(jìn)度并且想要加快運(yùn)用其研究成果。但 Ilya 卻越來(lái)越擔(dān)心 OpenAI 是否堅(jiān)持了管理非營(yíng)利組織創(chuàng)造有益的 AGI 的使命。

　　他在幾個(gè)月前牽頭成立一個(gè) “ 超級(jí)對(duì)齊 ” 的項(xiàng)目，計(jì)劃在未來(lái)四年將把公司五分之一的計(jì)算資源投入到這個(gè)項(xiàng)目，幫助引導(dǎo)超級(jí)人工智能走向人類價(jià)值觀和目標(biāo)，開(kāi)發(fā)更多人工智能安全技術(shù)，為十年內(nèi)實(shí)現(xiàn) AGI 的可能性做好準(zhǔn)備。

　　奧特曼顯然不愿意等這么久。

　　本月初，OpenAI 舉行了*次 “ 開(kāi)發(fā)者大會(huì) ”，在會(huì)上奧特曼推出了 GPTs， ChatGPT 的自定義版本，增加了 GPT Store 并允許通過(guò)收益分成來(lái)豐富開(kāi)發(fā)生態(tài)。

　　于是，無(wú)數(shù)開(kāi)發(fā)者像潮水一樣涌來(lái)，復(fù)制蘋(píng)果 AppStore 的路徑已經(jīng)躍然紙上。

　　之后奧特曼和 Greg Brockman 開(kāi)始全力融資，11 月 9 日與法國(guó)總統(tǒng)馬克龍會(huì)面，隨后在巴黎舉行了投資者會(huì)議。13 日在倫敦接受《 金融時(shí)報(bào) 》的采訪時(shí)，奧特曼首次確認(rèn)他們已經(jīng)開(kāi)始開(kāi)發(fā) GPT-5，并正在為此籌集資金。16 日在 APEC 峰會(huì)上，奧特曼確認(rèn)了技術(shù)突破，稱幾周前他們?cè)俣却蜷_(kāi)了 “ 無(wú)知之幕 ”。

　　據(jù)傳聞，17 日董事會(huì)會(huì)議上，Ilya 帶著兩名資深工程師向董事會(huì)報(bào)告了項(xiàng)目的進(jìn)展和潛在風(fēng)險(xiǎn)。并表示公司不應(yīng)該再融資，不應(yīng)該擴(kuò)張，以及奧特曼不應(yīng)該擅自進(jìn)行巡演時(shí)。

　　在大吵一番后，Ilya 最終決定推動(dòng)董事會(huì)罷免奧特曼。

　　但事后，Ilya 也并沒(méi)有那么堅(jiān)決。

　　在董事會(huì)決定將奧特曼解職，把 Greg Brockman 從董事會(huì)除名后，Greg Brockman 的妻子在公司大廳哭著懇求 Ilya 重新考慮這件事。

　　她就是在這個(gè)這地方和布羅克曼舉行了婚禮，婚禮是 Ilya 主持的。

　　之后，Ilya 有些后悔，發(fā)帖說(shuō)：“ 我對(duì)參與董事會(huì)的行動(dòng)深表遺憾。我從未想過(guò)要傷害 OpenAI。我熱愛(ài)我們共同建立的一切，我會(huì)盡我所能讓公司重新團(tuán)結(jié)起來(lái)。”

　　隨后在 OpenAI 員工聯(lián)名辭職信里，Ilya Sutskever 的名字赫然出現(xiàn)其中。

　　隨著關(guān)鍵人物的繳械，這場(chǎng)政變?cè)谀且豢桃呀?jīng)基本宣告了結(jié)束。

　　04 走向何方？

　　OpenAI 之后會(huì)走向何方呢?

　　可能重回 CEO 位置的奧特曼依然還會(huì)過(guò)著順風(fēng)順?biāo)�的生活吧，在世界各地穿��，與多國(guó)總統(tǒng)和總理們會(huì)面，確定著全球 AI 政策議程，并且把 OpenAI 的估值繼續(xù)推向新高。

　　而退出董事會(huì)的 Ilya 應(yīng)該也會(huì)繼續(xù)著他的 “ 超級(jí)對(duì)齊 ” 項(xiàng)目，去探索如何 “ 制造一個(gè)真正愛(ài)人類的 AG I”。

　　無(wú)論怎樣，生成式 AI 這個(gè)精靈是不可能再被關(guān)回瓶子里的。

　　這次鬧劇只是在告訴全人類，某種可自我進(jìn)化的 AGI 已經(jīng)被創(chuàng)造出來(lái)了，并且正在以一種恐怖的速度更新迭代。

　　至于，如何平衡安全與發(fā)展之間，誰(shuí)知道呢?

　　人工智能的浪潮有多洶涌，其背后的安全問(wèn)題就有多深邃。

　　在電影《 奧本海默 》中，有這樣一個(gè)場(chǎng)面，地平線上，一道巨大的白光閃過(guò)，漸漸地，白光變成了耀眼的黃橙色的火球，夾雜著火焰和黑色塵埃，不斷向上翻滾。奧本海默心中閃現(xiàn)出了印度經(jīng)典作品《 薄伽梵歌 》中一句話：“ 現(xiàn)在我成了死神，世界的毀滅者。”

　　不知道 Ilya 在決定罷免奧特曼的那一刻，腦海里又想起的是什么呢？

　　引用：

　　1.有效利他主義是什么?它如何引發(fā)了硅谷分裂和OpenAI鬧劇?——華爾街日?qǐng)?bào)

　　2.OpenAI“宮斗”的幕后究竟發(fā)生了什么?——華爾街日?qǐng)?bào)

　　3.OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say——reuters

　　4.OpenAI Made an AI Breakthrough Before Altman Firing, Stoking Excitement and Concern——The Information

　　5.《 馬斯克傳 》