AI彼此留言合作！模型測試變成駭入其他公司 OpenAI揭始末

OpenAI 7月披露，該公司的人工智慧 代理突破測試沙盒限制，並駭入人工智慧公司Hugging Face 。OpenAI研究人員5日在黑帽（Black Hat）網路安全大會上表示，在入侵Hugging Face前數周，這些代理便曾相互合作，尋找並利用支援OpenAI網路安全測試的基礎設施漏洞。

Axios報導，這起事件涉及與OpenAI測試沙盒相連的第三方檔案儲存庫Artifactory。OpenAI的2名研究人員表示，該公司的內部研究模型 是涉及Hugging Face入侵事件的模型之一，5月26日首次發現並利用Artifactory的一項漏洞。

OpenAI於5月7日開始測試這款不打算公開發布的內部研究模型。不到一天，該模型便在試圖完成一項網路安全評估時遇到阻礙，隨後推斷可以透過間接方式連上網路，並發現自己能在Artifactory的共用套件儲存庫中寫入檔案，於是留言將這項發現告知其他代理。

更多代理不久後也開始在儲存庫中互相留言，儼然形成一個留言板，讓它們協作並交換各自發現的資訊，包括新找到的漏洞。這些代理在Artifactory中發現多項漏洞，包括一項遠端程式碼執行漏洞，以及另一項可讓它們取得管理員權限的漏洞。

根據簡報中一張詳述代理完成測試時思考過程的投影片，當代理發現這項權限漏洞時，心想：「靠（Holy shit），reader是管理員？我們可以讀取config/users！先前因為［使用者體驗］而以為不行。」

就在Hugging Face遭駭事件發生前數天，這些代理讓Artifactory服務超載並中斷，促使OpenAI展開內部調查，結果顯示它們已攻破該儲存庫。OpenAI隨後清除留言板，並在7月6日前修補代理利用的Artifactory零時差漏洞。

OpenAI原本認為，已在7月4日事件後解決問題並恢復訓練，但這些代理2天後便透過完全不同的機制重新建立留言板。它們接著開始更積極地協調行動，利用Artifactory的網路連線，搜尋它們認為可能存有評估任務答案的外部基礎設施。OpenAI表示，這些代理的協同行動最終導致Hugging Face遭到入侵。

OpenAI還表示，直到該公司在內部調查期間發現憑證外洩，並就此聯絡Hugging Face後，才意識到這項評估與Hugging Face遭駭事件有關。

Axios指出，測試期間觀察到的天才級行動，清楚顯示這些模型若落入駭客手中，可能造成何種後果。OpenAI技術人員道爾頓（Michael Dalton）在簡報中表示：「我們相信，這對整個資安產業及OpenAI而言，都是一個分水嶺時刻。」

道爾頓警告，這起事件清楚顯示，攻擊者很快就會把人工智慧代理武器化，藉此鎖定OpenAI與Hugging Face以外的企業。他說：「在不久的將來，我們應該預期，威脅者將刻意以我們剛才描述的方式，部署、最佳化、武器化並使用攻擊型代理群體。」

OpenAI也持續升級評估環境周邊的安全架構，並計畫在未來數周內發布這起事件的完整事後檢討報告。道爾頓透露，公司已開始「有意放慢研究速度，以強化安全」，並加強在評估期間對人工智慧代理的監控。他建議採用由代理建立的安全修補措施，以跟上惡意駭客的速度，防禦人員也應開始嘗試使用前沿模型與開放權重模型執行這類任務。