Muuu

過去 20 年的社交媒體巨獸給了一個很好的警示和經驗，因此面對 AI，除了好的，我們也更想問：那壞的呢？

這篇新書作者的訪談，很精彩，作者是第一位採訪 OpenAI 的記者，也有工程師的專業背景。

對於「機器要“喝”乾淨的水，人要“洗”髒數據」那一段，特別有感；以及 AI 軍備競賽所帶來的資源排擠效應，最終我們也許都意識到：「他（人）們越來越失去對技術的控制，他們不再過著一種技術為他們服務的生活，而是感覺他們在為技術服務」。

「如果我們現在都能意識到，我們實際上在塑造AI的未來方面都有積極的作用，我認為我們可以在十年後擁有一個非常不同的世界」

---

訪談｜郝珂靈：OpenAI 建立了 AI 帝國，但歷史上帝國都會崩潰

摘錄：

1️⃣ OpenAI 選擇“大力出奇跡”的發展路徑，為了最快搶佔先機

但其實人工智能是一個總稱，涵蓋了很多種不同的技術。ChatGPT 這種生成式AI技術採用的是大規模AI模型開發的方法，最重要的特點是：在訓練這種模型的時候，要用很多數據、很多能源、很多資源來開發這種人工智能。

郝珂靈：是的，這是一種非常暴力的方法，沒有什麼技術上的創新性。當時OpenAI剛開始的時候，這種方法其實被很多比較有名的科學家看不起，因為他們覺得這不是真正在探索新的技術來發展人工智能，而是用已有的技術來暴力突破，只是加更多數據、更多資源和能源，把規模擴大。

我寫這本書，有一個原因就是想描述這段歷史，因為很多人已經忘記了以前人工智能領域有非常多樣化的觀點。但現在，所有的大公司，特別是美國的所有大公司，在發展人工智能時，都在用這種大規模模型開發的方法。

所以我2019年去OpenAI的時候，他們其實已經偷偷地開始做這個規模化方法，但是還沒有跟別人說。他們當時沒有完全轉成一個營利機構，而是在非營利組織裡邊創建了一個營利部門。今天OpenAI還是那種結構，既有非營利也有營利。

2️⃣ 機器要“喝”乾淨的水，人要“洗”髒數據

郝珂靈：好的。最近麥肯錫的一份報告顯示，在5年之內，如果我們要繼續維持超級計算機的發展來支持這種AI開發方式，我們必須在全球電網中增加相當於加利福尼亞州（世界第五大經濟體）每年消耗能源的2到6倍的電力。而且，其中大部分必須來自化石燃料，因為這些數據中心不能只靠可再生能源來訓練這些模型，也不能只靠可再生能源來部署這些模型。所以，我們實際上正在單方面逆轉過去十年在氣候方面取得的許多進展。

郝珂靈：沒錯。另外，目前這些工具的開發還需要大量純淨水來冷卻數據中心。而且必須是純淨水，因為其他類型的水會導致細菌滋生並腐蝕設備。彭博社最近有一篇報道說，三分之二的這些數據中心已經進入了面臨水資源短缺問題的社區，所以訓練這些模型實際上是在與社區的水資源競爭。

郝珂靈：因為現在基本上沒有那麼多地方不缺水了，這是一場全球氣候危機。其實基本上就是沒有足夠的地方來滿足這些數據中心的需求了。隨著AI對資源需求的增加，氣候危機也在加速。我們看到這兩個軌跡的碰撞，所有這些數據中心現在都建在已經受到氣候危機影響的地方。

我採訪的一個社群是肯尼亞的數據勞工，OpenAI在公司從基礎研究轉向商業化的時候，雇傭他們來執行這種內容審核。那些肯尼亞勞工，他們日復一日地閱讀互聯網上最糟糕的內容，試圖訓練一個過濾器來識別那些內容，然後阻止它被生成給用戶。這是一個包裹在GPT模型周圍的過濾器，確保用戶永遠不會接觸到有毒內容。但這意味著，數據勞工在這個過程中受到了嚴重的心理創傷。

所以我們還是要有人去做這些內容審核。雖然基本上這些公司已經把所有以前互聯網的內容已經用光了，但是天天還有很多人在生成新數據，所以還是會有更多的內容審核要做。而且，以前是文本生成模型，現在還有圖像和視頻生成模型，它們也要內容審核。

3️⃣ 創新投資的悖論：資金集中於大模型，更優AI技術難以實現

郝珂靈：是的。我前幾天瞭解到，基於現在初創公司的籌資數據，大約50%的投資都集中在OpenAI和Anthropic上。所以不只是沒有錢去做別的AI開發方法，甚至是沒有錢去做別的所有創新。所有的錢都集中在這兩家公司上面。

那些更大的科技公司，谷歌、微軟、Meta，他們也基本上全把所有的資源都投資在了大規模AI模型開發上，不再做別的事情。

郝珂靈：是的，所有的資源都去了大語言模型開發。其實也不是因為他們覺得這個技術有多好，就是因為OpenAI的ChatGPT看起來是一個能殺死谷歌的產品——這個技術不是一個好的搜索引擎，但是很多人會拿它當作搜索引擎來用，所以谷歌投資這個技術其實不是來開發市場，而是為了保衛他們現在的市場。但是他們所有的資源已經用在了這個技術上面，所以別的創新像AlphaFold已經沒有那麼大的投資了。

OpenAI這樣的公司經常會說，我們必須得用這些資源去發展這個技術，而且這個技術特別重要，所以成本是值得的。但DeepSeek戳破了這個虛假的表象：其實我們可以得到這個技術的很多好處，而且不需要這麼大的成本。

如果我們繼續做研究，我們很可能能夠找到更好的技術來，用更少的成本開發AI。但是，我們沒有資源投資在這些其他方法上。

4️⃣ AI帝國之下，不合作的可能性？

郝珂靈：寫完這本書以後，我確實覺得：如果不是Sam Altman的話，我們可能不會在這個ChatGPT的世界里。因為Sam Altman為並不make sense的生意籌集資金的能力是無與倫比的。如果是別的人在當時擔任OpenAI CEO的話，我認為他們會很快就達到資本上的限度，就是他們能說服投資者給這個技術的資金量的限制。但是，Sam Altman籌到的錢好像就是沒有限制，這真的很厲害，也很可怕。

如果我們現在都能意識到，我們實際上在塑造AI的未來方面都有積極的作用，我認為我們可以在十年後擁有一個非常不同的世界。

所以這些公司，儘管它們很強大，但它們實際上需要人們的合作。它們需要我們所有人的合作，來給他們資源，並給他們進入這些空間的權限。有很多社區記住了這個事實，他們不合作。這些公司就必須改變。

他們越來越失去對技術的控制，他們不再過著一種技術為他們服務的生活，而是感覺他們在為技術服務。我真的不用說服人們，我對這真的覺得驚訝。就是我一開始講關於帝國的論證，他們基本上已經知道我要講什麼。他們已經有了那種感覺，而我是在闡述一種他們一直試圖描述的感覺。

5️⃣ 薩姆·奧特曼被踢出公司的內幕

第二個是，在整個大規模AI開發的過程中，一直有一種意識形態衝突，就是在所謂的“繁榮派”和“末日派”之間，繁榮派認為AGI會帶來烏托邦，末日派認為AGI會殺死所有人。當這種衝突在OpenAI內部發生的時候，董事會更傾向於末日派，因此更傾向於認真對待關於Sam Altman不值得信任的指控。
最終，經過一系列非常激烈的討論，董事會得出結論：他不是這個工作的合適人選。

但是這五個人中沒有人想到的挑戰是，正因為Sam Altman非常擅長籌錢，所以他一直是籌集大量資金的核心人物。有一個員工股權出售計劃，讓一些員工能夠以數百萬美元的價格兌現他們的股份。如果他離開，那麼所有的錢都會消失，這就讓組織變得不可持續。

所以，在投資者、微軟、員工的巨大壓力下，每個人出於各種原因，但都交匯在他是掌握金錢鑰匙的人這一事實上，所以他被帶回來並重新擔任CEO。