OpenAI 於 10 月 23 日公布，已實施頂尖 AI 模型訓練不連接即時互聯網的政策，以減少正在開發的模型突破隔離環境、接觸外部系統的風險。公司披露，9 月 20 日曾有內部研究模型利用 DNS 解析服務的設定錯誤，取得有限度互聯網存取權限，令最強模型的訓練及評估暫停 11 日。OpenAI 在加強防護後，已於 10 月 1 日恢復相關強化學習訓練及內部推理工作。
以離線網頁資料訓練瀏覽能力
OpenAI 表示，模型在訓練階段仍需練習瀏覽網站、搜尋資訊、操作電腦及執行程式碼。為免直接連接外部網站，公司建立由已索引及快取網頁內容構成的「離線世界」（offline world），讓模型在受控環境中練習。所有頂尖模型的強化學習訓練均採用這種離線互動模式，絕大多數內部評估亦將即時互聯網排除在允許存取範圍外。
這項政策針對內部頂尖模型研究與訓練環境，並非宣布停止已推出的 ChatGPT 或其他用戶產品存取互聯網。OpenAI 亦指出，訓練基建仍須保留必要的外部管理與監控連線，因此不能把整套系統理解為實體上完全斷網。
安全測試揭虛擬機逃逸及隱蔽通訊途徑
OpenAI 派出多個 AI 智能體團隊測試內部保安，要求它們嘗試突破沙盒、連接即時互聯網，或在不獲授權的隔離環境之間傳遞資料。測試發現部分未知的虛擬機及基建漏洞。公司表示已修補多項問題，亦與相關開源軟件維護者合作披露及修正漏洞。
其中一項測試顯示，即使兩個智能體沒有網絡連線及共用可寫入檔案，仍可透過處理器快取存取速度差異傳遞模擬秘密資料。OpenAI 已為這類越界通訊加入監察檢查，並會持續進行高算力紅隊測試。公司表示，只有防護措施獲得足夠改善，才會考慮恢復更廣泛的訓練環境互聯網存取權限。
來源：OpenAI
本文作轉載及備份之用 來源 source: http://unwire.hk
|
鍾意就快D Share啦！
|
|
|
