美譽(yù)度品牌管理

北京時間11月23日，是“OpenAI政變”連續(xù)劇開播以來的第六天。積極追劇的伙伴們都知道，這個由科技頂流班底聯(lián)袂出演的年度懸疑商戰(zhàn)權(quán)謀大戲終于在第五天迎來了“暫時”的圓滿結(jié)局。

CEO薩姆·阿爾特曼凱旋復(fù)職，總裁格雷格·布羅克曼更是把開心寫到了臉上，在社交平臺X上曬出了一張大團(tuán)圓合照，笑得像個兩百斤的孩子。

布羅克曼興奮到迫不及待要連夜敲代碼。被任命為OpenAI第二任臨時CEO的埃米特·希爾稱“對這個結(jié)果深感滿意”，被踢出OpenAI獨(dú)立董事的海倫·托納發(fā)文說“現(xiàn)在我們都可以睡一覺了”。

從北京時間11月18日4點(diǎn)28分到11月22日14點(diǎn)01分，這場曠日持久的世紀(jì)商戰(zhàn)，由OpenAI全員主創(chuàng)加主演，以馬斯克的社交平臺X為主戰(zhàn)場，向全世界連續(xù)直播了105小時33分鐘，終于完成了載入史冊的魔幻現(xiàn)實(shí)主義大作——《硅谷甄嬛傳之ChatGPT之父下崗再就業(yè)》。

由于前期劇情節(jié)奏緊張、走向離譜、百轉(zhuǎn)千回、環(huán)環(huán)相扣，宛如《甄嬛傳》的硅谷Plus加速版，開場就驚掉整個科技圈的下巴，歐·亨利看了都得甘拜下風(fēng)。再上演個“昨天全員復(fù)工 今天全員辭職”的究極大反轉(zhuǎn)，也不是沒有可能的事。

好在主演們不想折騰了，北京周四早上六七點(diǎn)，舊金山周三下午四五點(diǎn)，OpenAI的兩位聯(lián)合創(chuàng)始人總裁布羅克曼和首席科學(xué)家伊利亞·蘇特斯科夫在社交平臺相繼宣告快樂復(fù)工。

但吃瓜群眾代表馬斯克，還在戀戀不舍地執(zhí)著填坑，追問廣大劇友共同關(guān)心的問題：路透社提到神秘Q*模型的報道，是不是跟指控阿爾特曼的員工匿名信說的一回事？

是的，正劇放映完了，但還留下很多沒填的坑，隨著前傳更新，更多內(nèi)幕信息正陸續(xù)浮出水面。

一個神秘的Q*模型（發(fā)音為“Q-Star”）被曝光，據(jù)傳是OpenAI新取得的重要技術(shù)里程碑，能解決以前從未見過的數(shù)學(xué)問題，其發(fā)展速度令內(nèi)部AI安全研究人員感到震驚。

各種傳言指向：這個重大技術(shù)突破，可能是董事會決定開除阿爾特曼的關(guān)鍵原因之一。

早在OpenAI奪權(quán)事件爆發(fā)之初，網(wǎng)友們就大開腦洞，設(shè)想未來發(fā)生AI失控毀滅人類的事件，有人穿越回來，組織這次會議，開除阿爾特曼，阻止了ChatGPT的關(guān)鍵進(jìn)化，給人類爭取了扭轉(zhuǎn)歷史、扼制AI的寶貴時間。沒想到更多內(nèi)幕被曝出后，網(wǎng)友開的腦洞竟越來越像在跳預(yù)言家。

這場由OpenAI引爆的軒然大波，表面上是一家企業(yè)的內(nèi)斗，內(nèi)里卻折射出硅谷兩種理念矛盾的日益激化。過去幾年，名為“有效利他主義”的社會運(yùn)動在硅谷各家AI公司中野蠻生長，而AI安全問題正是其重點(diǎn)擔(dān)憂的議題。

被全體員工眾望所歸強(qiáng)行抬回的阿爾特曼，究竟是帶領(lǐng)OpenAI改變世界的英雄，還是從潘多拉魔盒中放出失控AI的魔鬼使者？

時間先撥回阿爾特曼被開除的3天之前，當(dāng)?shù)貢r間11月14日，幾名研究人員致信董事會，告知OpenAI有項重大AI發(fā)現(xiàn)可能會威脅到人類。

緊接著在當(dāng)?shù)貢r間11月16日，在亞太經(jīng)合組織首席執(zhí)行官峰會上，阿爾特曼不僅發(fā)表了行業(yè)“不需要嚴(yán)格的監(jiān)管”的輕松言論，還暗示了OpenAI最近取得的技術(shù)進(jìn)步，稱有幸目睹知識邊界四次被推進(jìn)，最近一次發(fā)生在幾周前，并開玩笑說相信通用人工智能就在眼前。

誰也沒料到，此刻還在臺上談笑風(fēng)生、對AI監(jiān)管問題顯得游刃有余的阿爾特曼，即將卷入一場以自己為主角的浩劫。

隨著第二天OpenAI陷入動蕩，阿爾特曼透露的神秘進(jìn)展被忽視。但今天釋放的一系列信息，似乎指向真相就藏在他“劇透”的研究成果背后——一些OpenAI員工認(rèn)為阿爾特曼提到的是OpenAI今年早些時候的一項創(chuàng)新，這項創(chuàng)新有助于開發(fā)出更強(qiáng)大的AI模型。

這個由首席科學(xué)家蘇特斯科夫牽頭的技術(shù)突破引起了一些員工的擔(dān)憂：OpenAI有沒有適當(dāng)?shù)谋Ｕ洗胧瑏韺⑦@類先進(jìn)AI模型商業(yè)化？

之后幾個月，OpenAI研究主管雅庫布·帕喬基和OpenAI高級研究人員西蒙·西多爾利用這項創(chuàng)新構(gòu)建了一個新模型Q*（發(fā)音為“Q-Star”），它能夠解決以前從未見過的數(shù)學(xué)問題。

對于現(xiàn)有AI模型來說，這是一項相當(dāng)艱巨的任務(wù)?，F(xiàn)在的生成式AI回答主要靠概率，在回答文字類問題時還可以多發(fā)散些不同的答案，但數(shù)學(xué)運(yùn)算很多時候只有一個標(biāo)準(zhǔn)答案，要給出唯一的正確回答，還需進(jìn)一步優(yōu)化大模型的能力。

根據(jù)一些外媒報道，在OpenAI擔(dān)任CTO并在權(quán)斗混亂之初被推上臨時CEO位置的米拉·穆拉蒂，在發(fā)給員工的內(nèi)部信息中承認(rèn)了Q*是導(dǎo)致阿爾特曼被開除的關(guān)鍵因素之一。

最近幾周，Q*模型的演示在OpenAI內(nèi)部流傳，發(fā)展速度讓一些AI安全研究人員感到震驚。

據(jù)說，蘇特斯科夫的突破使OpenAI克服了獲得足夠高質(zhì)量數(shù)據(jù)來訓(xùn)練新模型的限制。該研究涉及使用計算機(jī)生成的數(shù)據(jù)，而不是從互聯(lián)網(wǎng)中提取的文本或圖像等數(shù)據(jù)來訓(xùn)練新模型。

多年來，蘇特斯科夫一直在研究如何讓GPT-4等語言模型解決涉及推理的任務(wù)，如數(shù)學(xué)或科學(xué)問題。2021年，他啟動了一個GPT-Zero項目，可以用于下圍棋和將棋。其團(tuán)隊假設(shè)，給語言模型更多的時間和計算能力來回答問題，可以使他們能夠?qū)崿F(xiàn)新的學(xué)術(shù)突破。

透露這一消息的人士說，開創(chuàng)性的Transformer研究論文的合著者之一盧卡斯·凱撒描述了一項為更復(fù)雜的AI模型鋪平道路的發(fā)明，這在GPT-Zero項目中發(fā)揮了關(guān)鍵作用。今年早些時候，蘇特斯科夫和他的團(tuán)隊發(fā)現(xiàn)了這種方法的變體，促使他們在訓(xùn)練更復(fù)雜模型時取得了更大的成果。

盡管是取得AI突破的技術(shù)領(lǐng)袖，蘇特斯科夫的態(tài)度一如既往地謹(jǐn)慎。在取得技術(shù)突破后的幾個月里，他似乎都對該技術(shù)持有保留意見。

不同于總是激情四射對外發(fā)聲的阿爾特曼，蘇特斯科夫很少公開講話或接受采訪。在OpenAI奪權(quán)事件爆發(fā)前，他在X上的最后一次發(fā)文是在10月7日，當(dāng)時他分享的內(nèi)容便聚焦在安全議題上：“如果你把智力看得比人類所有其他品質(zhì)都重要，你會過得很糟糕。”

今年7月，他與賈恩·雷克聯(lián)合成立了一個超級對齊團(tuán)隊，致力于限制比人類更智能的AI系統(tǒng)所帶來的威脅，宣布未來四年將把20%的計算資源用于解決超級智能對齊問題。

根據(jù)他們發(fā)在OpenAI官網(wǎng)的文章：“超級智能將是人類有史以來發(fā)明的最具影響力的技術(shù)，能幫助我們解決世界上許多最重要的問題。但巨大的超級智能力量也可能非常危險，并可能導(dǎo)致人類被剝奪權(quán)力甚至人類滅絕。超級智能現(xiàn)在似乎還很遙遠(yuǎn)，但我們相信它可能會在這十年到來。”

所謂“超級智能”，不是大家通常所說的通用人工智能（AGI），是為了凸顯更高的能力水平。蘇特斯科夫和雷克坦言，目前“沒有指導(dǎo)或控制超級智能AI并防止其變壞的解決方案”。

大約在同一時間，OpenAI聘請了麻省理工學(xué)院教授亞歷山大·馬德里制定一項關(guān)于可信訓(xùn)練模式的規(guī)章。據(jù)知情人士透露，新員工向CTO米拉·穆拉蒂報告，而不是蘇特斯科夫，讓兩個團(tuán)隊從事類似的研究路線。

上周在阿爾特曼被董事會開除后，帕喬基、西多爾、馬德里都是第一批辭職的OpenAI高級研發(fā)人員。阿爾特曼復(fù)職后，他們又回到了公司。

原本擔(dān)任董事長和總裁的OpenAI聯(lián)合創(chuàng)始人布羅克曼一直在努力將該技術(shù)集成到新產(chǎn)品中。上周六，他被踢出董事會，保留了高管職務(wù)。但他得知阿爾特曼被開除后，當(dāng)即宣布自己不干了。

在蘇特斯科夫眼里，“如何阻止超級智能”的緊迫性已經(jīng)放在了“構(gòu)建下一個GPT”的前面。

當(dāng)?shù)貢r間上周四的下午，阿爾特曼在舊金山的APEC首席執(zhí)行官峰會上參與談?wù)摿薃I未來。

活動主持人是勞倫·鮑威爾·喬布斯，她已故的丈夫蘋果聯(lián)合創(chuàng)始人史蒂夫·喬布斯曾被董事會驅(qū)逐，后來又回歸蘋果，并帶領(lǐng)蘋果締造傳奇。

這為即將發(fā)生的戲劇性事件，埋下了一個不可思議的伏筆。

在活動結(jié)束幾小時后的當(dāng)晚，阿爾特曼收到蘇特斯科夫的短信，約他在周五中午進(jìn)行Google Meet遠(yuǎn)程視頻會議。

當(dāng)?shù)貢r間11月17日周五，阿爾特曼一如既往地在早上打電話，與芯片高管討論關(guān)于早期設(shè)計新芯片的努力。其中一個電話是打給英國半導(dǎo)體IP巨頭Arm的CEO瑞內(nèi)·哈斯。幾周之前，阿爾特曼曾前往中東為一家計劃創(chuàng)立的AI芯片公司籌集數(shù)十億美元資金。

那天阿爾特曼的原計劃是在拉斯維加斯享受生活——在酒店房間觀看L1一級方程式錦標(biāo)賽。沒想到中午打開的Google Meet鏈接把他即將到來的周末攪和得翻天覆地。

沒有給出任何解釋，他親密的8年創(chuàng)業(yè)伙伴、才華橫溢的蘇特斯科夫突然通知他將被解雇，然后就把視頻會議結(jié)束了。

混亂就此拉開序幕，在周五中午宣布阿爾特曼被免職后，下午14點(diǎn)，臨時CEO穆拉蒂和蘇特斯科夫召開了一場試圖安撫員工的全員會議，OpenAI員工向他們連珠炮般拋出幾十個問題，很多都類似于“薩姆到底做了什么”。

但蘇特斯科夫告訴他們，他們不會得到答案。

▲從左至右依次是蘇特斯科夫、阿爾特曼、穆拉蒂、布羅克曼（圖源：Jessica Chou）

會議結(jié)束后，OpenAI管理團(tuán)隊在會議室再次集合，他們不接受這種“缺乏細(xì)節(jié)”的理由，并要求董事會其他成員加入視頻通話進(jìn)行解釋。在大約40分鐘的電話會議中，管理團(tuán)隊向董事會施壓，要求解釋指控阿爾特曼不坦誠的具體例子，但董事會以法律原因?yàn)橛删芙^告知。

一位知情人士透露說，蘇特斯科夫?qū)τ谘芯咳藛T質(zhì)疑董事會的決定感到驚訝。隨后多位高級研究人員宣布從公司辭職。

據(jù)說在開除阿爾特曼后，OpenAI董事會就開始悄悄尋覓替代者，與OpenAI在大語言模型賽道的競爭對手Anthropic的聯(lián)合創(chuàng)始人CEO達(dá)里奧·阿莫迪進(jìn)行接觸，提出將OpenAI與Anthropic合并的可能性，以說服阿莫迪接替阿爾特曼成為下一任CEO。但阿莫迪很快就拒絕了邀請。

后來董事會又先后邀請微軟旗下GitHub前CEO奈特·弗里德曼、95后華裔天才Scale AI聯(lián)合創(chuàng)始人兼CEO亞歷山大·王擔(dān)任臨時CEO，但都遭到拒絕。

再看阿爾特曼這邊，工作做得好好的突然被開，誰碰到這事能不懵？但他很快鎮(zhèn)定下來，并開始與他的追隨者們推進(jìn)后備計劃。

當(dāng)晚，阿爾特曼就立即飛回舊金山。

周六夜幕降臨，大雨淹沒了舊金山的街道，阿爾特曼位于Russian Hill的2700萬美元現(xiàn)代豪宅變成了一個臨時作戰(zhàn)指揮中心，擠滿了OpenAI員工，包括被推上臨時CEO位置的穆拉蒂和其他高管，一起商定奪權(quán)歸位大計。

他們很快就討論出作戰(zhàn)策略，并火速開展行動，包括：獲取臨時CEO及OpenAI員工支持、聯(lián)合投資者向董事會施壓、沖回OpenAI總部大樓與董事會談判、商定好投奔微軟的Plan B、勸服蘇特斯科夫倒戈、全體員工聯(lián)名“逼宮”、投資者發(fā)起訴訟威脅……

這天晚上，首席戰(zhàn)略官杰森·權(quán)負(fù)責(zé)提振士氣，告訴員工們“公司內(nèi)部情緒在短短24小時發(fā)生了巨變”、阿爾特曼重新歸位預(yù)計樂觀。當(dāng)晚20點(diǎn)左右，多數(shù)員工走出阿爾特曼的家，跳上了在外等待的網(wǎng)約車。20點(diǎn)47分，阿爾特曼發(fā)文寫道：“我非常愛OpenAI的員工?！本o接著數(shù)十名OpenAI員工接連轉(zhuǎn)發(fā)這句話，并評論了?。

周日早上，穆拉蒂給員工們發(fā)了張紙條，說阿爾特曼將重返辦公室。上午，阿爾特曼沖回總部，還曬出自己佩戴的訪客證，發(fā)誓這是“第一次也是最后一次佩戴這個”。微軟CEO納德拉親自協(xié)助穆拉蒂進(jìn)行談判，爭取讓阿爾特曼重返董事會。

大約在午餐時間，員工們陸續(xù)來到OpenAI辦公室。隨后，阿爾特曼、布羅克曼、穆拉蒂、杰森·權(quán)、首席運(yùn)營官布拉德·萊特卡普和其他領(lǐng)導(dǎo)團(tuán)隊與董事會進(jìn)行談判，要求讓阿爾特曼復(fù)職，并提出新的董事會成員建議。

談判一直持續(xù)到深夜，好幾輪外賣送到了辦公室，所有OpenAI員工以及密切關(guān)注此事進(jìn)程的媒體和大眾都在屏息凝神，等待最后的結(jié)果。然而答案卻粉碎了許多員工的希望，取得談判勝利的并不是阿爾特曼，一直主張放慢AI發(fā)展速度的亞馬遜旗下游戲流媒體平臺Twitch的聯(lián)合創(chuàng)始人埃米特·希爾被任命為新的臨時CEO。

董事會隨后向OpenAI團(tuán)隊發(fā)布備忘錄，稱其堅持原來的決定，認(rèn)為阿爾特曼的“行為缺乏透明度”、“削弱了董事會按授權(quán)方式有效監(jiān)督公司的能力”，并說明“這一決定與產(chǎn)品安全、開發(fā)速度或OpenAI的財務(wù)狀況無關(guān)”，歸根結(jié)底是一個“治理問題”，“是這個結(jié)構(gòu)獨(dú)特的組織的董事會如何執(zhí)行其職責(zé)和推進(jìn)其使命的核心問題”。

當(dāng)天員工們抵制了召開的介紹新臨時CEO希爾的緊急全體會議，只有不到十來個人來了，一些員工還用“??”表情符號回復(fù)Slack上有關(guān)希爾任職的消息。在大廳中，布羅克曼的妻子安娜含淚懇求蘇特斯科夫改變主意。蘇特斯科夫是布羅克曼夫婦2019年婚禮的司儀。這場充滿感情的談話令蘇特斯科夫產(chǎn)生了動搖。

當(dāng)晚21點(diǎn)左右，多數(shù)OpenAI員工神情沮喪地離開了公司總部。一個小時后，精疲力竭的蘇特斯科夫也離開了大樓。

原本周一是OpenAI全體員工一周帶薪假期的開始，一些員工已經(jīng)登上了感恩節(jié)假期的航班，但緊接著他們發(fā)現(xiàn)，新一輪混亂接踵而至。深夜，納德拉宣布阿爾特曼加入微軟。凌晨2點(diǎn)左右，數(shù)十名員工開始發(fā)同一句話：“沒有員工，OpenAI就一無是處?！绷璩?點(diǎn)15分，蘇特斯科夫首度公開發(fā)文，為自己所制造的混亂致歉，說自己“從未打算傷害OpenAI”、“會盡我所能讓公司團(tuán)結(jié)起來”。阿爾特曼轉(zhuǎn)發(fā)評論了???。

午夜過后，一封措辭激烈的公開信在OpenAI員工中間流傳，說董事會要是不卸任并讓阿爾特曼復(fù)職，他們就集體跳槽去微軟。從凌晨開始，770名員工中，超過740人通宵接力簽署這封辭職聯(lián)名信，其中包括蘇特斯科夫。

周二有傳言稱投資者要對OpenAI董事會提起訴訟，希爾要求董事會說明阿爾特曼被開除的原因，董事會和阿爾特曼終于坐在同一個談判桌上，并由前Salesforce聯(lián)席CEO布雷特·泰勒介入，擔(dān)任中立調(diào)解人?；靵y之中，OpenAI團(tuán)隊下午宣布：為所有免費(fèi)用戶提供ChatGPT語音功能。

正當(dāng)所有人焦灼等待結(jié)果時，馬斯克火上澆油——曬出一張OpenAI匿名前員工發(fā)給董事會的信件，這封信對阿爾特曼的不當(dāng)行為進(jìn)行了一些具體指控，呼吁希爾擴(kuò)大調(diào)查范圍。

晚上21點(diǎn)左右，領(lǐng)導(dǎo)層給員工們發(fā)送了一封電子郵件，讓他們可以洗洗睡了。結(jié)果22點(diǎn)關(guān)鍵轉(zhuǎn)折時刻出現(xiàn)——OpenAI董事會與阿爾特曼達(dá)成協(xié)議，阿爾特曼王者歸來，董事會重組。

隨后大量員工涌入公司的Mission District辦公室，擁抱、喝酒、慶祝。布羅克曼發(fā)表演講，為過山車般的一周的宣泄結(jié)束而干杯。派對一度熱鬧到觸發(fā)煙霧報警器，導(dǎo)致大樓火警警報響起，兩輛消防車呼嘯而來，確認(rèn)沒有起火后，警報解除，慶?；顒永^續(xù)進(jìn)行。

雖然取得階段性勝利，但阿爾特曼仍為沒能更好管理董事會而感到自責(zé)，他覺得董事會被“過度關(guān)注安全、受有效利他主義影響”的人接管了。

過去幾個月，“有效利他主義”的陰云一直籠罩在阿爾特曼掌舵OpenAI的周圍。今年春天阿爾特曼環(huán)游世界時，在警告AI可能造成嚴(yán)重危害之余，談到有效利他主義是一種“極其有缺陷的運(yùn)動”，表現(xiàn)出“非常奇怪的突發(fā)行為”。

OpenAI約770名員工中，只有極少數(shù)人不愿意在辭職聯(lián)名信上簽名，其中就包括一些支持有效利他主義的員工。

OpenAI成立于2015年年底，致力于實(shí)現(xiàn)能造福人類的安全AI。最初定位是非營利性組織，后來改變策略，設(shè)立了一家營利性的子公司，讓這個子公司由非營利組織管理。也就是說，OpenAI董事會掌握著“生殺大權(quán)”。

盡管超過740名員工一起簽署辭職聯(lián)名信脅迫董事會讓阿爾特曼回歸，但董事會成員仍堅持對抗了相當(dāng)一段時間。如果“突破性技術(shù)進(jìn)展”真的是沖突爆發(fā)的關(guān)鍵因素之一，那么可能說明在董事眼中，這暴露出的風(fēng)險已經(jīng)嚴(yán)重到不容忽略。

與蘇特斯科夫一起發(fā)動“OpenAI政變”的三位董事會成員，分別是“美版知乎”Quora CEO亞當(dāng)·德安吉洛、政策非營利機(jī)構(gòu)蘭德公司的兼職高級管理科學(xué)家塔莎·麥考利、喬治城大學(xué)安全與新興技術(shù)中心戰(zhàn)略總監(jiān)海倫·托納。

▲投票解雇阿爾特曼的4位前OpenAI董事會成員，從左到右依次是蘇特斯科夫、麥考利、托納、德安吉洛（圖源：《華爾街日報》）

據(jù)說與董事會僵持的談判取得突破的關(guān)鍵是阿爾特曼退讓了一步，同意在讓德安吉洛留下的期間不重返董事會，并允許對董事會指控他的“不坦誠”進(jìn)行內(nèi)部調(diào)查。

德安吉洛是阿爾特曼奪權(quán)歸來后唯一一位留任的董事會成員，曾被阿爾特曼稱作“最聰明的CEO之一”。他似乎對科技增長與安全之間的平衡持硅谷傳統(tǒng)的樂觀態(tài)度，對AI商業(yè)化進(jìn)程并不過分謹(jǐn)慎，沒想要減緩AI的發(fā)展速度。

塔莎·麥考利、海倫·托納則都致力于有效利他主義事業(yè)的慈善事業(yè)。

在阿爾特曼被趕下臺數(shù)小時后，OpenAI高管在一場視頻通話中與董事會成員進(jìn)行了對峙。但托納不同意妥協(xié)，她認(rèn)為董事會的使命是確保公司創(chuàng)造“造福全人類”的AI。在董事會看來，如果沒有阿爾特曼，OpenAI會更強(qiáng)大。

而就在阿爾特曼被開除的幾周前，他跟托納剛產(chǎn)生過沖突。矛盾出在托納與人合著的一篇學(xué)術(shù)論文。托納在這篇論文中似乎批評了OpenAI為確保其AI技術(shù)安全所做的努力，同時贊揚(yáng)了OpenAI競爭對手Anthropic采取的安全實(shí)踐。

這令阿爾特曼感到不滿，他認(rèn)為來自董事會成員的任何批評都影響很大，會給OpenAI惹麻煩，為此當(dāng)面質(zhì)問托納。托納辯護(hù)說自己是為學(xué)術(shù)讀者而寫作，不會有廣泛受眾。但阿爾特曼無法認(rèn)同這種說法。

這并不是OpenAI內(nèi)部頭一回因?yàn)锳I安全理念的分歧發(fā)生爭執(zhí)。

去年秋天，組成OpenAI徽標(biāo)形狀的數(shù)千個回形針抵達(dá)OpenAI舊金山辦公室。人人都知道這個東西的深意。回形針?已成為AI界厄運(yùn)的象征。瑞典哲學(xué)家尼克·博斯特羅姆的《超級智能》一書將回形針推廣為AI危險的象征——一個被告知要制造盡可能多的回形針的AI系統(tǒng)，可能會不顧一切地收集最多資源去把目標(biāo)最大化，在此過程中毀滅人類。

▲被寄到OpenAI的回形針徽標(biāo)（圖源：《華爾街日報》）

這個惡作劇是從OpenAI競爭對手Anthropic的一名員工干的。2020年年底，OpenAI研發(fā)副總裁達(dá)里奧·阿莫迪、安全政策副總裁丹妮拉·阿莫迪兄妹倆因?yàn)锳I安全問題的分歧離開了OpenAI，并在2021年初創(chuàng)辦了Anthropic，要打造一家優(yōu)先考慮AI安全與監(jiān)管的AI公司。

▲左為達(dá)里奧·阿莫迪，右為丹妮拉·阿莫迪（圖源：TWIML）

有效利他主義運(yùn)動可以追溯到大約20年前。支持者相信他們應(yīng)該用自己的時間做最多的好事。他們可以賺盡可能多的錢，然后把其中的大部分捐給政府和傳統(tǒng)非營利組織所忽視或尚未解決的問題。他們專注于那些能產(chǎn)生最大影響的想法，或者每花一美元能幫助最多的人。

上個月因金融欺詐罪成為“階下囚”的30歲億萬富翁、FTX聯(lián)合創(chuàng)始人薩姆·班克曼·弗里德是有效利他主義的知名支持者，他說自己積累財富只是為了把大部分財富捐出去。他也是Anthropic的最大投資者之一。

自2015年以來，支持有效利他主義事業(yè)的非營利組織開放慈善組織Open Philanthropy的網(wǎng)站顯示，該組織已向AI相關(guān)事業(yè)捐贈了3.27億美元，包括向OpenAI捐贈3000萬美元。OpenAI剛被踢出的前獨(dú)立董事麥考利、托納都與這個組織關(guān)系緊密。

而OpenAI的主要競爭對手Anthropic的老板之一丹妮拉·阿莫迪，是Open Philanthropy的CEO霍爾頓·卡諾夫斯基的老婆。

卡諾夫斯基與阿莫迪在2017年8月舉辦了一場以有效利他主義為主題的婚禮。婚禮賓客被鼓勵向卡諾夫斯基的有效利他主義慈善機(jī)構(gòu)GiveWell推薦的事業(yè)捐款，并在婚禮前閱讀德國哲學(xué)家尤爾根·哈貝馬斯的457頁大書。這對夫婦稱“這是理解我們婚禮的必要背景”。

從2014年左右開始，有效利他主義者意識到人類被先進(jìn)AI系統(tǒng)滅絕的風(fēng)險與氣候變化的風(fēng)險相當(dāng)。自此有效利他主義者形成了網(wǎng)絡(luò)社區(qū)，交換工作建議，爭論哲學(xué)并提供預(yù)測，組織聚會和會議，重點(diǎn)是利用理性、經(jīng)濟(jì)學(xué)和數(shù)學(xué)來解決世界上最大的問題。這些活動通常不對外人開放，但進(jìn)入的門檻很高。

該社區(qū)花費(fèi)了大量資金來宣傳AI帶來生存風(fēng)險的觀點(diǎn)，擔(dān)憂一味進(jìn)軍AI可能會毀滅人類。這項運(yùn)動正在硅谷及更多地區(qū)的科技產(chǎn)業(yè)和學(xué)術(shù)界蔓延開來，支持者包括Facebook聯(lián)合創(chuàng)始人達(dá)斯汀·莫斯科維茨、Skype創(chuàng)始人詹恩·塔林等等，他們承諾投入數(shù)十億美元用于相關(guān)研究。馬斯克說有效利他主義運(yùn)動聯(lián)合創(chuàng)始人威廉·麥克阿斯基爾的著作“與我的哲學(xué)非常吻合”。

但ChatGPT引爆的全民應(yīng)用AI熱潮，正與其努力推動的方向背道而馳。今年以來，全球大量的科技公司參與到大模型與生成式AI應(yīng)用的競爭中，競相研發(fā)出更加智能的AI系統(tǒng)。

OpenAI的動蕩暴露了硅谷的幕后競爭，雙方是相信技術(shù)前進(jìn)與市場的人和相信道德、理性、數(shù)學(xué)、精密機(jī)器應(yīng)該引領(lǐng)未來的有效利他主義者。

在谷歌，今年兩個AI部門DeepMind和谷歌大腦的合并同樣引發(fā)了關(guān)于如何應(yīng)用有效利他主義原則的分歧。DeepMind聯(lián)合創(chuàng)始人戴米斯·哈薩比斯將負(fù)責(zé)合并后的部門，據(jù)說他一直比較支持有效利他主義運(yùn)動，但谷歌大腦的員工相對忽略這一理念，將重心放在探索AI的實(shí)際用途上。

“硅谷預(yù)言家”、風(fēng)投機(jī)構(gòu)Andreessen Horowitz聯(lián)合創(chuàng)始人馬克·安德森和硅谷創(chuàng)業(yè)孵化器Y Combinator首席執(zhí)行官陳嘉興都批評了這一運(yùn)動。陳嘉興稱其為一種虛無縹緲的“美德信號哲學(xué)”，應(yīng)該被拋棄，以“解決創(chuàng)造人類富足的實(shí)際問題”。

領(lǐng)導(dǎo)普林斯頓大學(xué)研究該運(yùn)動的團(tuán)隊的研究員沙澤達(dá)·艾哈邁德認(rèn)為，有效利他主義者對AI將毀滅人類的迫切恐懼“使他們無法接受來自文化之外的批評”，“這對于任何試圖解決尖銳問題的社區(qū)來說都沒有好處”。

無論哪種理念占上風(fēng)，開弓沒有回頭箭，生成式AI已經(jīng)將更強(qiáng)大的智能從潘多拉魔盒中放出，AI圍繞如何平衡技術(shù)進(jìn)步與安全治理的話題，將成為接下來AI創(chuàng)新與發(fā)展的長期焦點(diǎn)。

五天之間，OpenAI上演的激烈奪權(quán)紛爭給科技史和商業(yè)史留下了一段堪稱傳奇的瘋狂故事，讓關(guān)注事態(tài)進(jìn)展的人們跟著命運(yùn)懸而未決的近800名OpenAI員工一起提心吊膽。

在此期間，OpenAI數(shù)百名員工，一邊堅守在工作崗位上，確保其所有系統(tǒng)正常運(yùn)轉(zhuǎn)，努力不被這場持久的“硅谷肥皂劇”打亂節(jié)奏；另一邊熬夜不眠地接力簽署辭職聯(lián)名信，向其CEO阿爾特曼與總裁布雷克曼提供了最堅定的支持。

奪權(quán)大戲以Happy Ending收場，但OpenAI的故事顯然未完待續(xù)。

阿爾特曼已同意對涉嫌導(dǎo)致他被罷免的原因進(jìn)行內(nèi)部調(diào)查，據(jù)The Information報道，OpenAI計劃以860億美元估值出售員工股票的工作已經(jīng)重啟，預(yù)計將在下個月完成。此前的權(quán)斗風(fēng)波暫未讓風(fēng)投對人工智能（AI）行業(yè)失去信心。

混亂結(jié)束后，OpenAI內(nèi)部對于模型發(fā)展速度的分歧仍在繼續(xù)。阿爾特曼如何修復(fù)這些天混亂所制造的裂痕？重回正軌的OpenAI緊接著下一步行動是什么？微軟將如何加大在OpenAI決策方面的話語權(quán)？ChatGPT研發(fā)是否會放慢腳步？

特別是貫穿全劇始終的靈魂問題：到底是因?yàn)槭裁础安惶拐\”原因，讓董事會不顧公司崩盤的風(fēng)險做出開除CEO的瘋狂決定？董事會的調(diào)查結(jié)果究竟如何？

還有很多的疑問等待一個答案。