OpenAI發布營運結構,AI經營有新準則

OpenAI發布營運結構,AI經營有新準則

OpenAI 在一開始就以非營利組織運行,也跟媒體說明許多有關非營利如何與營利部分合作並拆分利潤的方式,這次選擇在網頁上自主公開所有資料,代表著 OpenAI 在 AI 經營角度呈現出完全不同的思考方式。像是許多人覺得好奇裡面的經營結構如何,怎麼運用人工智能賺取所需要的資源,尤其是人工智能如此影響重大,如果不清楚背景可能就會對未來方向展生質疑。

這次 OpenAI 從善如流公布所有結構性文件與說明,除了解釋現今 AI 經營狀況之外,也讓我們了解人工智能相關新創或是企業經營必須要注意甚麼樣的風險控管方式,未來可能每間有 AI 功能的企業都必須要有類似像公開說明書格式,清楚交代人工智能使用範圍與風險在哪,並且夥伴關係如何維持。

OpenAI 全文如下:

我們的結構

我們設計了OpenAI的結構–我們最初的非營利組織和新封頂利潤部門之間的合作關係,這作為 OpenAI 使命的基礎:打造安全互惠的人工通用智能(AGI)。

我們在2019年宣布了我們的「封頂利潤」結構,這時間點大約是在成立最初 OpenAI 非營利組織的三年後。

從一開始,我們就相信,強大的人工智能,最終形成 AGI — 意思是一個高度自主的系統,在最有經濟價值的工作中勝過人類–這有可能重塑社會,帶來巨大的利益,同時也有必備安全解決的風險。如今系統能力越來越強,代表 OpenAI 和其他人工智能公司比以往任何時候都更需要分享原則、經濟機制與治理模式,這是我們各自任務和運營的核心。

概述

我們在2015年底成立了OpenAI非營利組織,目標是為人類的利益建立安全和有益的人工通用智能。過去這類型的組織可能是由一個或多個政府負責的–一個追求人類廣泛利益的人類規模的努力。

由於公部門沒有明確的途徑,且考慮到私人企業中其他雄心勃勃的項目(例如SpaceX、Cruise和其他項目)的成功,我們決定通過私人途徑追求這個項目,並對公共利益作出強有力的承諾。我們最初認為501(c)(3)將是指導安全和廣泛有益的AGI發展的最有效工具,同時不受利潤激勵的原則約束。我們承諾在認為安全的情況下公布我們的研究和數據,並使公眾受益。

我們一直懷疑我們的項目將是資本密集型的,這就是為什麽剛推出的目標是 10 億美元的捐贈承諾。然而,多年來,OpenAI的非營利組織收到了大約 1.305 億美元的捐款總額,這為非營利組織的運作和其在深度學習、安全和調整方面的最初探索性工作提供資金援助。

越來越清楚的是,僅靠捐款是無法滿足推動核心研究所需的計算能力和人才成本,過度追求營利會危及我們的使命。因此,我們設計了一個結構,以保持我們非營利組織的核心使命、治理和監督,同時使我們能夠為我們的使命籌集資金:

  • OpenAI 非營利組織將保持不變,其董事會將繼續作為所有OpenAI活動的總體管理機構。
  • 一個新的營利性子公司將被成立,能夠發行股票以籌集資金並雇用世界級的人才,但仍由非營利組織領導。從事營利性活動的員工將過渡到新的子公司。
  • 營利性公司在法律上有義務追求非營利性公司的使命,並通過從事研究、開發、商業化和其他核心業務來履行這一使命。在整個過程中,OpenAI安全和廣泛利益的指導原則將是其方法核心。
  • 營利性公司的股權結構將限制投資者和員工的最大財務回報,以激勵他們以平衡商業性、安全性和可持續性的方式研究、開發和部署AGI,而不是專注於純利潤最大化。
  • 非營利組織除了自身的運作外,還將通過其董事會管理和監督所有這些活動。它還將繼續開展廣泛的慈善活動,如贊助一項全面的基本收入研究、支持經濟影響研究、並嘗試開展以教育為中心的專案,如 OpenAI Scholar。多年來,非營利組織還支持其他一些關注技術、經濟影響和正義的公共慈善機構,包括 Stanford 大學人工智能指數基金、黑人女孩代碼和美國公民自由聯盟基金會。

這樣一來,非營利組織仍將是我們結構的核心,並控制AGI的發展,而營利組織將負責調動資源來實現這一目標,同時仍有責任追求OpenAI的核心使命。使命高於一切的原則在營利性組織的運營協議中得到了體現,每個投資者和員工都必須遵守該協議:

OpenAI投資者免責聲明

更詳細的結構

雖然投資者通常尋求財務回報,但我們看到了一條使他們的動機與我們的使命相一致的道路。我們通過一些關鍵的經濟和管理規定實現了這一創新:

  • 首先,營利性的子公司完全由OpenAI的非營利組織控制。我們通過讓非營利組織完全擁有和控制一個管理實體(OpenAI GP LLC)來實現這一點,該實體有權控制和管理營利性子公司。
  • 其次,因為董事會仍然是一個非營利組織的董事會,每個董事必須履行他們的履托責任,以促進其使命–安全的 AGI,這是廣泛受益的。雖然營利性子公司被允許賺取和分配利潤,但它必須服從這一使命。非營利組織的主要受益者是人類,而不是OpenAI的投資者。
  • 第三,董事會保持大多數人的獨立性。獨立董事不持有 OpenAI 的股權。甚至OpenAI的首席執行官 Sam Altman 也不直接持有股權。他唯一的權益是通過 Y Combinator 投資基金間接持有的,該基金在他全職之前對OpenAI進行了少量投資。
  • 第四,分配給投資者和員工(包括微軟)的利潤是有上限的。所有創造超過上限的價值都將歸還給非營利組織,以造福人類。
  • 第五,董事會決定我們何時達到 AGI。同樣,我們所說的 AGI 是指一個高度自主的系統,在大多數有經濟價值的工作上勝過人類。這樣的系統被排除在微軟的知識產權許可和其他商業條款之外,這些條款只適用於實現 AGI 之前的技術。

在探索加速我們工作的機會時,我們努力保留我們結構中的這些核心治理和經濟組成部分。事實上,鑒於通往AGI的道路是不確定的,我們的結構被設計為可適應與調整的-我們相信這是一個功能,而不是一個問題(bug)。

微軟

在 2019 年宣布 OpenAI 的利潤上限結構(以及我們的首輪融資)後不久,我們與微軟建立了戰略合作夥伴關系。我們隨後擴展了我們的夥伴關係,既擴大了微軟總投資,也擴大了我們的商業和超級計算合作的規模和廣度。

雖然我們與微軟的合作包括數十億美元的投資,但 OpenAI 仍然是一個完全獨立的公司,由 OpenAI 非營利組織管理。微軟沒有董事會席位,也沒有控制權。而且,如上所述,AGI 被明確地從所有商業和知識產權許可協議中剝離出來。

這些安排體現了我們為什麽選擇微軟作為我們的計算和商業合作夥伴。從一開始,他們就接受了我們有上限的股權報價,以及我們將 AGI 技術和管理留給非營利組織和人類其他人的要求。他們還與我們合作,創造並完善我們的聯合安全委員會,在我們的系統被部署之前對其進行審查。回到我們的起源,他們明白這是一個獨特和雄心勃勃的專案,需要公共部門規模的資源,以及與所有人分享最終結果的自覺性。

Our structure

如果你喜歡這篇文章,或許可以請我喝杯咖啡