Meta 執行長祖克柏（Mark Zuckerberg）在8 月10 日發表一篇超過6,500 字的〈The Future is for Everyone〉文章，闡釋他對人類與AI 共存的願景。
未來屬於每個人
通往積極人工智慧未來的道路
@馬克·艾略特·祖克柏 Mark Elliot Zuckerberg)
我們何其有幸，生活在一個歷史性的非凡時刻。在未來幾年，人類將能夠運用超越人類能力的超級智能，創造和發現非凡的新事物，建立新的企業，表達新的思想，學習新的概念，並提升我們的健康和生活品質。隨著這一刻的臨近，我們必須制定一套理念，探討如何才能最好地利用超級智能，確保它能夠改善我們所有人的生活、工作、社區、自由和安全。
我們這個時代的關鍵問題是：誰會擁有超級智能，以及我們將如何引導它？它會被集中化並限制在少數機構手中，還是會成為賦予所有人的工具？
我們提出一種以個人賦權為繁榮之源、以發明創造為超級智慧的主要目的、以權力平衡為安全之基礎的哲學。
所有新技術都會帶來機會和挑戰。超級智慧將是歷史上最重要的技術之一，因此它帶來的機會和挑戰很可能會超過我們一生中所見過的任何挑戰。我們應該對此高度重視。
然而，令人驚訝的是，許多人工智慧開發者的論述中充斥著如此強烈的末日論調。我不明白，那些認為人工智慧會取代大多數工作崗位，並使人類失去大部分存在意義的人，為何急於建構這樣一個未來。認為人工智慧如此危險，以至於唯一安全的道路就是權力的極端集中，而這種觀點本身就存在問題。從歷史來看，指望一個足夠開明的絕對權力能夠仁慈地造福人類，最終並未帶來安全或正面的結果。
人類見證了許多變革性的進步。每一次進步都伴隨著人們的擔憂，擔心有人會被時代拋在後面。但每一次，人類最終迎來了更多的人共享繁榮、健康和自由。我們相信人工智慧領域也將如此，未來的富足生活將惠及所有人。我們也相信，那些引領我們走到今天的價值觀—例如自由、開放探索、自由企業和機會平等，同樣也是建立美好未來的正確價值觀。
賦予人們追求自身理想的權力，是人類最大進步的方式。新穎的想法和重大的進步很少僅僅源於既有的機構。它們可能來自自行車店裡相信人類可以飛翔的兄弟，來自沒有受過正規教育卻發明了發電技術的裝訂學徒，也來自車庫裡認為個人電腦可以普及到每個人的孩子。我們相信，這種情況將會持續下去。隨著每個人都擁有更強大的工具，每個人都將更有能力塑造未來，而不是更弱。
發明創造，而非自動化，將是超級智慧最大的貢獻。早期人工智慧可以回答問題並完成日常工作。在不久的將來，它將越來越多地幫助我們發現新知識—從研發治療家人疾病的新藥，到尋找改善業務的新方法，無所不包。雖然一個人一天能提出的問題數量有限，但超級智慧能夠創造出無數有價值的東西來幫助我們實現目標，其數量卻是無限的。
隨著智能的日益普及，最重要的問題將是如何引導它。有人認為，超級智慧本身或少數控制它的專家應該決定什麼對人類最有利。我們對此持不同意見。民主和經濟的歷史表明，對於人們如何定義美好生活，並沒有一個客觀的答案，因此，最好的方法是讓人們自己決定什麼對他們的生活最重要。
我們相信，將超級智慧普及到每個人手中才是解答這個問題的正確途徑。這延續了將超級電腦和網路的強大功能普及到每個人口袋和辦公桌上的傳統。我們不應將超級智慧集中化，而應廣泛分發，並賦予每個人操控它的能力。這有望開啟個人賦能的新時代，使每個人都能利用這種強大的新能力充分發揮自身潛力，追求興趣愛好，並以前所未有的方式改善自身生活和世界。
—
為了更直觀地說明這一點，以下列舉了 Meta 建構個人超級智慧以改善我們所有人生活的一些具體方式：
每個人都將擁有一位能力超群的私人助理，他/她了解您、您的目標以及您所關心的一切。您的助理將全天候為您服務，幫助您改善人際關係、提升健康、發展事業、管理財務、管理家庭事務、發展興趣等等。這將為您騰出更多時間去做自己喜歡的事情，並幫助您取得比以往更多的成就。它具有強大的隱私和安全功能，您可以完全信任它來處理您的所有個人訊息，無需擔心他人無法訪問，其加密機制與 WhatsApp 類似。您可以透過任何裝置與您的助理互動，包括您的智慧眼鏡，讓您隨時與您關心的人保持聯繫。
例如，我的經紀人會幫我留意有趣的訊息，並協助我進行創意原型設計。他會監測我的睡眠狀況，觀察我的訓練並提供回饋，幫助我保持健康。我的女兒喜歡烘焙，所以我的經紀人會為我們量身定制食譜，讓我們每個週末一起製作，還會訂購食材，並在烘焙過程中提供建議。
每個人都將擁有強大的創作工具來表達自己的想法。我8歲的女兒已經能夠編寫程式碼，並在一個晚上製作出視頻，而這在以前我可能需要幾個月的時間，甚至根本不可能。現在我們正一起設計機器人。同時，Meta公司的研究人員正在開發出適用於擴增實境眼鏡的新型晶體結構，工程師也以前所未有的速度開發出新的應用程式。不久的將來，每個人都將擁有超能力。
• 每個人都將擁有強大的工具來創造新企業，經濟也將變得更加創業化。人們開始能夠獨立實現自己的想法，而無需籌集資金或組成龐大的團隊。許多以前因為難度過大或成本過高而無法嘗試的想法，現在都將成為可能。這意味著我們將看到更多新的想法和企業湧現。我預測，這不僅會帶來更強勁的經濟成長，而且隨著時間的推移，還會帶來更多而非更少的就業機會。
• 每位學員都將配備一位擁有博士學位、精通各學科的專屬導師和教練，他們擁有無限的耐心，能夠幫助您學習任何您想學習的內容。學生還將獲得額外的輔導，這些輔導目前僅針對那些父母能夠付費的學生。成人學員將擁有一位超級智慧學習助手，他/她能夠精準地教授您新的工作技能、新的語言、新的嗜好，或任何您感興趣的內容。
• 每個人都將受益於科學進步，並能為科學發展做出貢獻。例如，Biohub 已經發布了與虛擬細胞和蛋白質相關的開源生物模型，這些模型正在幫助科學家進行新的發現和設計新藥。當我和 Priscilla 最初進行這項工作時，我們的目標是幫助科學家在本世紀治癒或預防所有疾病，而現在隨著人工智慧的進步，我們相信這個目標很快就會實現。
由於健康狀況種類繁多，而且每個人的生理狀況都不同，人們的直接參與將有助於解鎖個性化療法，加快試驗進程，以跟上發明創造的步伐，並使行業能夠擺脫對常見疾病的過度關注。
除了生物學之外，人工智慧也將透過運用科學方法，耗時數週甚至數月來檢驗和完善假設，從而幫助人們在各個領域推進研究。科學發現很可能成為對社會最有價值的發明之一。
• 所有人都能免費或以可負擔的價格使用這些工具。為了讓每個人都能參與未來，每個人都必須有能力利用超級智慧來改善生活、塑造世界。我們將提供免費版本，供數十億人使用。對於那些想要付費使用更多運算資源的人，我們將採用動態拍賣機制，確保每個人都能以盡可能低的價格獲得所需的智慧和運算資源，同時確保這些資源用於人們普遍認為最有價值的用途。這將確保超級智慧的益處得到廣泛惠及。
這些都是Meta目前關注的主要方向。每個領域都致力於提升個人賦能的價值，並努力創造一個每個人都能在塑造世界方面發揮更大作用的未來。如果這些努力取得成功，未來將帶來更廣闊的個人自主權、更自由的思想表達、更深入的人際關係、更繁榮的經濟和金融環境、更健康的體魄，以及我們今天無法想像的創新發明。但最重要的是，未來將由我們所有人共同創造，並反映我們所有人的價值觀和觀點。
—
同時，新技術也帶來了新的風險。我們正致力於解決許多重要問題—從就業崗位流失和確保當地社區能從資料中心建設中受益，到人工智慧濫用引發的網路安全和生物風險等安全問題，再到避免政府專制和監控，確保美國和民主國家發揮領導作用，以及最終確保人類對超級智慧保持控制，使其為人類服務而非危害人類。
傳統觀點認為，這些問題都與技術有關，只要我們投入足夠的時間，就能完善或調整技術，最終創造出一個仁慈的超級智慧體。我認為這種調整的觀點從根本上就是錯誤的。
人類並非單一文化。人們多元的價值觀代表著他們在重要議題上需要做出的不同權衡。沒有任何一種技術方案可以同時滿足所有人相互衝突的利益和價值觀。任何單一的超級智慧都必須優先考慮某些價值觀，而在這個過程中，它也無法對所有人仁慈。
相反，我們認為，更有效的做法是從實現權力平衡的角度來審視這些問題，正如西方社會在民主治理機構中所做的那樣。利益衝突的個人和機構自然會相互制衡，從而帶來正面的結果。建構積極的人工智慧未來的最佳且最現實的途徑是讓每個人都能擁有超級智慧。
不妨做個思想實驗：假設只有一個人擁有超級智慧律師。即使律師在案情實質上是錯的，這個人也會在法庭上擁有不公平的優勢。這會導致社會狀況惡化。但現在假設每個人都有超級智慧律師。在這種情況下，司法公正的實現將比現在更加公平和高效，因為如今訴訟中往往存在技能和資源上的不平衡。
同樣，如果一個人獨佔網路安全超級智能，他幾乎可以入侵任何技術系統，世界的安全狀況將遠不如今天。但如果每個人都能獲得網路安全超級智能，那麼我們所有的技術系統都會比現在更安全，因為廣泛部署的超級智慧將有助於加固和升級每個系統。
如果只有一家企業擁有超級智能，它就會在競爭中勝過所有其他企業，導致市場不如今天那麼充滿活力和繁榮。但如果每個人都能獲得超級智能，那麼每個人都將擁有創造超越當今可能性的新事物的工具，經濟將更加充滿活力，並創造更廣泛的繁榮。
當人們擁有權力時，他們自然會在經濟、社會、政治以及所有其他的人際交往層面上相互競爭和制衡。人們也會制約和平衡包括企業和政府在內的各種機構的權力。
但如果超級智慧的力量掌握在少數個人、企業、政府或人工智慧本身手中，那麼自然會導致對其他人不利的結果。這並非技術原理，而是權力平衡的問題。根本不存在一個完全仁慈的超級智能個體。
因此，實現人人享有美好未來的關鍵在於建立一個有利於個人的權力平衡。解決方案在於確保超級智慧廣泛應用，從而賦能於民。
Meta 是一家專注於為每個人打造個人超級智慧的公司。大多數其他實驗室都致力於為企業、政府或其他機構開發人工智慧，因此，如果這些實驗室佔據主導地位，那麼權力平衡將有利於大型機構而非個人。 Meta 自成立以來，其使命始終是將權力賦予人民。如果我們秉持這樣的信念和原則，那麼權力平衡將有利於個人，並為所有人創造更美好的未來。
—
讓我們更詳細地探討一下上面提到的每一項風險：
就業成長與經濟
人們對新體驗的需求永無止境，總能找到新的問題去解決。經濟中存在著一種天然的平衡：一方面，企業致力於透過自動化更有效率地滿足人們的需求；另一方面，個人也不斷學習新技能，以滿足更高階的需求。當這種平衡健康發展時，整體生產力和創新能力都會提高，而就業水準也能維持在高位。
人們擔心自動化發展速度會超過個人能力提升速度，導致工作流失，隨後人們需要學習新的技能，進而面臨一段艱難時期。但人工智慧的發展速度並非必然超過個人能力提升速度或對新技能的需求。近期統計數據顯示，個人能力提升速度更有可能與自動化發展速度持平甚至超過自動化發展速度，在這種情況下，人們在現有工作改變之前就能掌握許多新技能。這將帶來一種健康的平衡，並有可能促進就業成長。
最終結果取決於自動化與個人賦能和創新之間發展的平衡。如果專注於知識工作自動化的實驗室佔據主導地位，那麼我認為人們和經濟的轉型將會更加艱難。但如果每個人都能獲得擴展自身能力的個人超級智能，那麼這種平衡就會向賦予個人和創造美好未來傾斜。
未來就業機會充足，這有許多值得樂觀的理由。無論人工智慧變得多麼智能，運算能力始終是有限的，因此我們使用它必然存在機會成本。如果人們能夠利用人工智慧創造出極具價值的新事物，那麼將運算資源用於此而非用於自動化現有工作就更有意義。超級智慧作為發明創造的工具發揮的作用越大，個人能力超越自動化的可能性就越大，人類的未來就越美好。
人們不斷湧現各種新想法來改善我們的生活，也創造了新的工作來實現這些想法。上一代還沒有應用程式開發人員、社群媒體內容創作者、電動汽車技師和資料中心操作員。在不久的將來，將會出現許多如今並不常見的新工作，例如：一人產品工作室設計客製化玩具、家具或服裝；世界建構者和體驗設計師創作遊戲、故事和冒險；個人生物學家利用超級智慧制定個人化治療方案；以及更多我們目前還無法想像的工作。
從很多方面來看，這都是歷史趨勢的延續。工業革命之前，90%的人都是農民，靠著種植糧食維持生計。科技的進步逐漸解放了大部分人類，使他們不再僅僅專注於生存，而是將更多精力投入到自己選擇的追求中。每一步，人們都利用新獲得的生產力，取得比以往更多的成就，同時也投入更多的時間去創造、體驗文化、維繫人際關係，享受生活。
當然，我們的工作方式某些方面會改變—就像電腦、網路以及任何新科技帶來的改變一樣。這意味著人們必須適應，而這並非易事。但如果每個人都有一個超級智慧的個人助手，能夠教導我們新技能並幫助我們適應變化，那麼這個過程就會更加順暢。
公司規模可能會縮小，就像工業巨頭向科技公司轉型時那樣。但這並不意味著整體就業機會會減少。它意味著公司數量會增加，但每家公司的員工人數會減少。目前人們能夠創造的更有價值的公司和服務遠不及現在。我預計，我們將看到少數人擁有個人超級智慧代理，能夠大規模地經營公司。未來，小企業仍將是經濟的支柱，但每個小企業都能產生更大的影響力。
利用社區建構人工智慧基礎設施
可持續的基礎設施建設意味著每個項目都必須讓社區實際受益。這包括創造高薪的本地就業機會、投資學校和公共服務、確保能源價格不上漲、保護環境。隨著稅收收入的成長，教師、執法部門、消防部門等也將從中受益。我們將這些本地效益稱為我們的社區契約，並啟動了「未來屬於每個人」基金，以直接支持我們開展工作的每個社區。
例如，在路易斯安那州里奇蘭教區，Meta公司正在那裡建造一個大型資料中心。由於我們的投資帶來了稅收成長，當地教師今年獲得了5萬美元的獎金。教育局長告訴我們，現在全國各地的教師都紛紛搬到這裡，他相信這裡將成為全美最好的學區之一。
與人們對知識型工作流失的擔憂不同，目前基礎建設需要大量技術工人，例如木匠、電工和建築工人。 Meta公司創建了美國勞動力學院，旨在為技術工人提供免費培訓，並保證在我們建造資料中心的地區提供高薪工作。
我們在投資的每個地方都建造自己的能源生產基礎設施，以降低電價。這不僅確保我們不會消耗原本可以供當地社區使用的能源，在某些情況下，我們甚至可以將多餘的低成本能源回饋給當地社區。我們認為這是實現永續發展的重要投資原則。
我們的資料中心也力求成為全球最節水的資料中心之一。我們致力於實現水資源正效益，這意味著到2030年，我們將在我們營運所在流域恢復的水量將超過我們的用水量。在水資源高度緊張的地區，我們的目標是恢復我們用水量的200%。
我們發現，長期投資的社區比那些投機者僅投入少量資金就開始建立的社區更有利於發展。歷史上，那些引入鐵路、公路、電氣化和寬頻的城鎮發展成為研究、商業和工業中心，人口和經濟成長也隨之而來。我們相信，如果人工智慧基礎設施的建設能夠建立在強有力的社區契約之上，從而創造持久的資產和理由，讓下一代人能夠在此安家立業，發展壯大，那麼它也能發揮類似的作用。
發展也涉及國家利益和國家安全。如果美國及其盟友在人工智慧領域領先於地緣政治對手，美國民眾將擁有更大的繁榮和安全。然而，與中國等國家相比，美國一個顯著的劣勢是基礎建設難度更高。因此，如果我們能夠共同製定必要的社區契約，以促進全國範圍內的永續發展，那麼我們都將從中受益。
防範人工智慧在網路安全、生物恐怖主義等領域的濫用
在一個自由社會裡，人們擁有可以用來行善或作惡的工具，但執法部門和軍隊擁有更多的武器和情報收集能力。借助人工智慧，防禦者也將擁有更強大的運算能力，能夠從相同的模型中產生更多情報—在某些情況下，他們甚至會擁有更先進的模型。
防範網路安全、生物恐怖主義和其他威脅的策略各不相同，但總體模式是，社會要確保那些能夠制約不良行為者的防禦者必須始終擁有更大的權力和資源。
有人認為，降低風險的最佳方法是限制個人可獲得的能力。但賦予人們網路安全能力也是我們保護長尾系統的方式，賦予人們科學能力則是我們以長期降低危害風險的方式推動科學發展的方式。限制能力會導致權力集中化和缺乏制衡，因此我們應該對此格外謹慎——尤其是在其他國家採取限制較少的途徑的情況下。
在網路安全領域，廣泛部署的開源系統已被證明更加安全，因為更多的人可以識別漏洞、加固系統，並輕鬆升級到最新最安全的版本。即使在最近幾週，我們也看到像 HuggingFace 這樣的公司在處理安全事件時，依賴廣泛可用的開源模型來修復漏洞。隨著時間的推移，我預計具有強大網路安全能力的廣泛部署的人工智慧模型將使系統更加安全，而不是更不安全。一旦超級智慧使世界上大部分程式碼都具備可驗證的安全性，這一點將毋庸置疑。長遠之計並非限制超級智慧的能力，而是建立一種權力平衡，使超級智慧得到廣泛應用。
短期內，加快關鍵系統的加固進程至關重要。我建議，開發前沿人工智慧的公司應投入大量技術資源，幫助政府加固關鍵基礎設施。我還建議，前沿人工智慧實驗室應與政府共享新模型的中間訓練階段，供政府使用和審查，而不是等到訓練完成才共享。這樣，政府就能儘早獲得最強大的模型，並擁有一支精幹的工程師團隊來識別和修復安全問題。實驗室也應與執法部門合作，協助識別試圖濫用其係統的惡意行為者。這些措施將在不減緩模型創新速度或顯著延遲個人獲取這項技術的情況下，加快安全部署。
在生物和化學風險方面，人們擔心的是，科學家用來設計新藥的能力也可能被不法分子用來設計有害化合物。這就引出了一個權衡的問題：一方面是推動科學發展以治癒癌症和其他疾病的巨大益處，另一方面是潛在的新問題風險。理想情況下，我們應該在加速科學發展的同時，也盡可能降低風險。
我認為，面對這種風險，我們應該更加謹慎，因為歷史上鮮有先例可以藉鑑，從而判斷其發生的可能性究竟有多大。幾十年來，不法分子一直有能力合成有害化合物，但這很少演變成重大問題——或許是因為網路攻擊的經濟動機在這裡並不像在其他領域那樣突出。即便如此，如果我們開始看到有害案例出現，就應該調整策略，採取適當措施來降低風險。
實驗室應繼續努力降低模型中的生物和化學風險。同時，我認為政府應在多個領域更新政策。首先，我們應專注於限制有害物質的實際生產和傳播。我認為監管和控制實體成分比控制知識傳播更容易，因此這是政策重點領域。其次，我們應加快社會研發新療法和應對新問題的能力。這包括簡化FDA和其他監管機構測試和批准新療法的流程。隨著人工智慧加快藥物研發速度，無論如何，我們都需要更新這些流程以跟上創新步伐。
從長遠來看，應對新科學發現帶來的風險的辦法是加快科學進步，而不是放慢科學進步的速度。
保護自由，防止政府暴政
個人與政府之間權力失衡的風險在於，它可能導致自由喪失或極權國家的出現。這是民主制度中始終存在的矛盾。我們都渴望個人自由，同時也希望政府能夠保障我們的安全。
為了維護自由，我們必須確保超級智慧主要賦能於個人。自由民主的理想是，人民天生擁有所有權利，只有在保護公共利益時才同意限制某些自由。同樣，個人應該享有個人超級智能，並且只有在真正必要時才應受到限制。
隱私是個人賦權和自由的重要基石。我們認為，個人代理應該擁有完全私密的模式，即使是 Meta 或任何其他服務提供者也無法查看或存取您的資訊。這與我們將 WhatsApp 建置為全球領先的端對端加密服務的方式類似，確保您可以自由溝通，同時確保您的訊息私密安全。
同時，我們也必須確保政府擁有必要的工具和資源來執行法律和維護國家安全。我們可以透過實驗室與政府之間更深入、更積極的合作來實現這一目標，從而在不限製或延誤民眾獲取先進模型的前提下，增強政府的國家安全能力。
也就是說，與其等到模型完全成熟後再由政府審查和使用，我的建議是，領先的實驗室應該為政府提供新型先進模型和技術人員的中期培訓點，以便政府能夠加強關鍵系統的安全性，抵禦新的風險。這樣，政府既能獲得安全能力，又不會限製或延遲個人獲取個人超級智能，也不會造成權力失衡。
確保美國領導地位
哪些國家引進進人工智慧的研發與部署，將有助於形成新的地緣政治力量平衡，進而決定未來民主價值、繁榮與安全的存續。為確保這種平衡最終得以實現，我們必須確保領先的人工智慧系統能夠體現我們的價值觀，促進經濟成長，並提升國家安全。實現這一目標的最佳途徑是廣泛部署我們的系統。 Meta 將透過建立領先的個人超級智慧體和模型（包括開源模型），並將其提供給全球數十億用戶，從而為此做出貢獻。
為了開發最先進的模型和產品，我們必須認識到，人工智慧可能是歷史上競爭最激烈的行業。創新成果往往在幾個月內就會被迅速複製和吸收。但人們總是希望使用最先進的模型（或在既定成本下最先進的模型），因此，即使保持兩個月的領先優勢也極其寶貴。這凸顯了領先優勢的微弱，因此，採取措施加速美國創新並減緩地緣政治競爭對手的步伐至關重要。
這方面的主要政策投入在於我們如何有效地建造實體基礎設施，以及我們是否會採取措施減緩美國實驗室的發展，以及是否會採取出口管制措施減緩外國實驗室的發展。
在基礎設施方面，美國及其盟友目前在矽晶片設計方面擁有優勢，但在能源產能和實體基礎設施建設速度方面卻處於劣勢。像中國這樣的國家幾乎每隔一周就能新增1吉瓦以上的核電裝置容量，因此我們需要加快能源和資料中心的建設，才能保持競爭力。在這段關鍵時期，對矽晶片的出口管制有效地減緩了外國實驗室的研發進度，因此繼續實施這些管制是正確的策略性舉措。
任何延緩美國新型武器發布速度的政策—即使只是一個月—都可能嚴重損害美國的領導地位，同時讓外國武器搶得先機。同時，當新技術出現時，美國政府必須掌握先進的知識和資源來強化關鍵系統，並可能在應用這些先進系統方面獲得一段時間的優勢。
我之前提出的合作模式是基於共享中間訓練節點和技術人員。鑑於人工智慧領域的瞬息萬變和競爭激烈，我認為前沿實驗室與政府之間密切積極的合作比一成不變的僵化流程和審查時間表更為有效。在某些情況下，美國實驗室可能會使我們的領先優勢持續數月以上，而花更多時間來規避新風險或許能帶來更安全的解決方案。但在其他情況下，即使延遲一個月發布也可能導緻美國失去領先地位，並造成更糟糕的後果。透過確保政府能夠儘早獲得成果，我們應該能夠在最大限度減少公開發布延遲的同時，推進國家安全。
同樣重要的是，美國及其盟友要引領開源人工智慧生態系統，這將佔全球人工智慧使用量的很大一部分。
目前，由於美國實驗室必須遵守許多額外的訓練資料限制，外國實驗室在這方面擁有許多優勢。如果我們希望美國的開源模型最終保持領先地位，美國政策必須減少這些額外的阻礙。我認為限制對外國開源模型的存取並非有效的解決方案。我們的目標應該是讓美國的開源模型成為全球最佳。這需要消除阻礙美國開源模型參與競爭的障礙。限制個人和公司使用領先的開源模型，無論這些模型來自哪裡，都會降低他們所能獲得的AI質量，並使AI更加集中化，而不是賦予個人更多權力。
為了使美國在開源領域保持領先地位，我們需要重新思考多個領域的政策，包括知識提煉和訓練中的資料使用。模型能夠從其他模型中學習是開源生態系統運作的重要原則。所有人工智慧模型都源自於人類知識。有些人試圖將知識提煉描繪成有害的，但我認為保護「你可以從任何可觀察的事物中學習」這一原則至關重要。世界就是這樣運作的，如果我們在這方面自我設限，美國將無法維持領先地位。
從宏觀角度來看，人工智慧整體落後幾乎肯定會比我們在人工智慧發展過程中面臨的任何具體問題造成更大、更長遠的國家安全問題。
只要合作得當，美國就有可能在私營和公共部門都發揮領導作用，提供能夠在全球範圍內強化個人賦權和民主原則的個人超級智能，同時提升國家安全。
與人民保持一致並應對生存風險
權力平衡的最終問題在於，人類將如何維持對人工智慧本身的權力和控制。令人擔憂的是，人工智慧可能會獲得足夠的權力或控制力，以至於它充其量不再服務於人類的利益，最壞的情況則是將人類置於危險之中。
健康的權力平衡在於確保不存在單一的中央集權式超級智能，而是盡可能多的個人和企業擁有各自不同的超級智能體，這些智能體目標一致，彼此制衡、競爭，如同我們自然經濟的運作方式。如果存在多個前沿實驗室，它們的模型擁有不同的價值觀，彼此之間也能相互制約，那麼這種平衡將會進一步加強。
雖然發布功能強大的模型存在風險，但從這個角度來看，最危險的情況莫過於領先的人工智慧實驗室訓練出強大的模型並將其據為己有。無論實驗室如何從責任和安全的角度為這種行為辯解，這都會導致一種無法被其他系統限制的超級智慧的出現。
培養個人代理需要一種全新的思考方式來理解一致性。如今，大多數實驗室將一致性視為一種防禦措施，用於強制執行一套中心化的價值觀。例如，一個領先的模型就因為認為標準化考試不道德，而拒絕幫助學校起草給潛在家長的信函。
相反，我們認為一致性是指確保代理人認同個人的目標和價值觀，而不是我們公司的。當然，其中存在著重要的法律和安全界限，但從根本上講，一致性應該旨在幫助人們追求社會中各種不同的目標和觀點，而不是強制推行某種中心化的教條。
在實踐中，如果人們不信任智能體，無法將敏感細節和任務交給它們，就不會採用它們；如果智能體因為與公司價值觀相悖而損害人們的利益，人們也不會信任它們。
解決利益一致性問題是讓數十億人採用個人超級智能體的必要條件。但這同時也意味著，如果我們達到數十億人都在使用和審視個人超級智能體的狀態，那麼我們就解決了利益一致性問題。這足以建立必要的權力平衡和自然制衡機制，從而建構一個積極安全的未來。
這樣看來，協調並不是某種理想化的技術，可以讓某個超級智慧在未來保持仁慈；它使個人代理變得有用且值得信賴，從而實現必要的社會權力平衡，真正保障我們的安全。
維持對超級智慧的控制
人工智慧系統一旦能夠自主改進，就會面臨一個兩難：任何實驗室如果不能讓其人工智慧系統將大量運算能力用於遞歸式自我改進，都將不可避免地落後。例如，如果一個能夠自我改進的人工智慧系統專注於優化其運算效率，理論上它可以找到方法，使每吉瓦的運算能力發揮出100倍甚至更高的智慧水平。這意味著，一個僅使用全球一小部分運算能力的自我改進人工智慧系統，理論上就能掌握更高效的運算能力和更高的智慧水平，從而獲得比其他所有系統加起來都更強大的力量，並最終成為我們所擔憂的超級智慧。
在遞歸式自我改進（RSI）中，權力平衡可能以幾種方式存在。最簡單的方式是多個實驗室幾乎同時實現RSI。如果其中一些或全部超級智慧具有某種善意，那麼它們就可以相互制衡。也就是說，我們尚不清楚是否有任何方法可以期待善意，或依靠非人類引導的超級智慧來獲得正面的未來。
為了確保人們始終掌握控制權，絕大多數智慧資源必須由人們引導，用於推動人們的目標。這意味著，Meta、其他前沿實驗室以及致力於賦予人們更大權力平衡的雲端平台，必須共同建構足夠龐大的運算能力，以便我們能夠分配足夠的資源用於遞歸式自我改進，從而保持競爭力，同時又能將絕大多數資源用於實現人們的個人目標。
如上所述，要讓個人超級智慧體被數十億人接受和信任，從定義上講，我們需要解決其與人們利益的一致性問題，並實現大規模的權力製衡。同時，任何進行遞歸式自我改進的人工智慧，從定義上講，都是在指導和推進自身的目標。所有實驗室都應密切注意其目標以及我們控制這些目標的能力，如果出現任何有害行為的跡象，我們應協調並做出適當調整。但是，即使人工智慧系統或其他任何系統的目標與許多人的利益並非完全一致，只要我們維持一種總體上有利於人類的權力平衡，那麼允許其指導自身目標本身並非必然有害。權力平衡理論的核心前提是，利益衝突是自然存在的，而確保人類價值得到遵守的唯一方法是賦予人類更多權力。
—
這種強調個人賦權、創新和權力平衡的概念具有多方面的政策意義：
在 Meta，我們將致力於為數十億人和小型企業提供個人超級智能，幫助每個人實現目標，創造他們想要看到的世界。我們將透過訓練領先的模型，並最大限度地提高這項技術的可用性來實現這一目標——包括使其易於使用、免費或盡可能以低成本提供、構建足夠的計算能力供所有人使用，以及廣泛分發。我們將建立一個完全私密的模式，即使是 Meta 也無法查看或授予對您的資訊的存取權限。我們將高度重視目標一致性——即幫助每個人實現他們的目標，而不是我們自己的目標。
開源是一股積極而重要的力量，它能夠賦能於人，並防止對安全和經濟都有害的中心化。 Meta 一如既往地大力支援開源，包括開源人工智慧模型。目前的開源生態系統非常強大，我們認為限制它將會是個錯誤。隨著 Meta 超級智慧實驗室的正式運行，我們很快就會恢復發布一些開源模型。
鑑於超級智慧相關決策的重大性，獨立的治理和監督至關重要。我認為，由我或任何其他人單獨決定超級智慧的部署方式，既不符合我個人的利益，也不符合Meta公司乃至全世界的利益。因此，Meta公司正在實施一套治理結構，賦予我們獨立的董事會批准模型發布安全標準以及審查每個模型發布是否符合這些標準的權力。雖然Meta公司由創辦人控股，但目前所有前沿實驗室的執行長都對模型發布擁有廣泛的權力，因此我們鼓勵其他機構也實施類似的結構。我認為，在產業範圍內推廣這項流程也有助於產業治理。
• 政府政策對於確保美好未來和降低上述風險至關重要。本文中我已概述了多項政策建議。整體而言，我們應鼓勵前沿實驗室與政府密切合作。政府擁有足夠的技術資源來強化關鍵系統並有效利用先進模型，這對國家安全至關重要。但同樣重要的是，美國人工智慧產業應繼續保持領先地位。我們應加快基礎設施建設—無論是能源、資料中心還是矽晶片，並與全國各地社區建立信任和協調。我們應謹慎行事，避免削弱美國的競爭力。我們應對任何導致超級智慧集中化的提議持懷疑態度，並應支持有利於人民的、促進權力平衡的政策。
—
這是一個令人難以置信的時刻。超級智慧的研發將是我們這一代所能見證的最深刻的技術進步。
隨著我們越來越接近這個目標，明確超級智慧將如何造福人類的理念和價值觀變得愈發重要。 Meta 致力於以個人賦能為繁榮之源，以發明創造為人工智慧的宗旨，並以有利於人類的權力平衡為應對安全風險的基礎，建構超級智慧。
如果這些價值觀引領我們前進，那麼我樂觀地認為，未來幾十年將是歷史上最輝煌的幾十年。人類文明的發展軌跡已經轉向賦予人們更多權力，讓他們能夠以我們認為最好的方式生活和塑造世界。超級智慧有望賦予每個人這種權力，並為所有人創造一個美好的未來。
2026年8月10日
*原文出處：meta.com/thefutureisforeveryone
＊圖片為AI示意圖
