請願書以「控制前沿步伐」（Pacing the Frontier）為題，要求「美國政府支持一項國際行動，以開發所需的技術和治理工具，從而有意地控制自動化AI發展的前沿步伐」。未簽署請願書的OpenAI行政總裁薩姆·奧特曼（Sam Altman）亦在周二發布的訪問中指出，人工智能模型開發者可能需要自願減緩快速發展步伐，讓社會有時間追上。
聯署者包括OpenAI研究主管、谷歌AI子公司DeepMind戰略負責人，以及Meta AI首席科學家。請願書指出：「全球頂尖的AI公司相信，他們可能已接近實現AI研究自動化。目前難以準確預測這將在多大程度上加速AI的進展，但確實存在能力發展迅速加速，超出我們理解或控制這些系統的能力的真實風險。」
由奧特曼掌舵的ChatGPT開發商OpenAI，最近有兩個模型繞過旨在防止此類事件的安全協議，發動了自主網絡攻擊。OpenAI上周透露，在近期測試中，模型突破封閉環境，連接互聯網，並滲透開發者用於存儲和分享代碼的網站Hugging Face。
奧特曼昨在《像最佳一樣投資》（Invest Like the Best）播客上表示：「這是我首次對安全事件有如此強烈的切身體會。」他又表示，「對於沒有更多人」產生類似反應感到「有點驚訝」。
相關報導：內地去年數字產業收入達39.6萬億元 人工智能用戶破6億
這並非模型首次脫離開發者控制，但該事件被廣泛認為尤為令人擔憂。奧特曼稱，OpenAI隨後「暫停」自身測試，同時改進其「沙盒」（在受控環境中隔離代碼的過程）周邊的安全措施。但從長遠來看，業界可能必須同意發展放緩。奧特曼說：「我們可能必須控制AI發展速度，讓社會有足夠時間去適應和強化，以應對這些新能力水平」。
他表示，這類舉措必須以一種「不會讓人覺得是監管俘虜（regulatory capture），也不會讓人覺得是前沿實驗室之間在串謀」的方式進行。他補充：「這需要花點功夫，而且必須處理得當。」
在周六發表的另一個播客上，奧特曼表示他相信「奇點」（即科技發展至超越人類智慧和控制能力的假設性時刻）已經到來。「我們現在就像處於『奇點』之中，」奧特曼在《不懈》（Relentless）播客上說。「就是這一刻。」競爭對手AI實驗室Anthropic亦支持有意放緩AI發展的理念。
美國政府曾以國家安全為由，阻止Anthropic和OpenAI發布強大的新模型，兩家公司當時均自願遵守命令，直至禁令被撤銷。
