掃呢頁CODE去手機

2026年10月15日 星期四

PS5 破解後變身本地 AI 伺服器 成功運行 270 億參數 Qwen 模型

Ubuntu Linux 系統終端機顯示系統資訊.
SonyPlayStation5(PS5)除了打機,現在還可以用來運行大型AI模型。開源開發者成功利用破解後的普通PS5,以GPU加速運行擁有270億 ...




Sony PlayStation 5(PS5)除了打機,現在還可以用來運行大型 AI 模型。開源開發者成功利用破解後的普通 PS5,以 GPU 加速運行擁有 270 億參數的 Qwen 3.8 模型,每秒生成約 20 個 Token。主機亦可充當家用 AI 伺服器,讓手機及電腦透過區域網絡使用 AI,毋須將對話送往雲端處理。

改用 GPU 加速 可用記憶體增至 11.4 GiB

這項成果來自開源專案 PS5LM 的改良分支 PS5LM Plus。原版由開發者 Mert Cobanov 推出,將 AI 推理工具 llama.cpp 移植到破解後的 PS5,初期主要使用 CPU 運行小型 AI 模型。另一名開發者 abhi245y 隨後在原版基礎上加入 GPU 加速,成功突破原有的效能及記憶體限制。

PS5 配備 16GB GDDR6 統一記憶體,但原版 PS5LM 以系統載荷(Payload)形式執行,實際可用記憶體有限,已公開版本主要支援 Qwen3.5 0.8B 及 2B 等小模型。PS5LM Plus 改用原生應用程式方式運行,並透過 Vulkan 及社群開發的 AMD RADV 驅動程式調用 PS5 GPU,令程式可使用約 11.4 GiB 記憶體,足以載入經過壓縮的 27B 模型。

開發者測試顯示,Qwen 3.8 27B 採用約 6.8 GiB 的 IQ2_XXS 量化版本、64K 上下文長度時,每秒可生成約 20.7 個 Token。另一個約 9.2 GiB 的 Q2_K_XL 版本,在 32K 上下文設定下亦達到每秒 20.3 個 Token。

小型 AI 模型更快 手機可直接連接 PS5

PS5LM Plus 同時支援其他開源 AI 模型。開發者公布的測試結果顯示,Gemma 4 E4B 每秒可生成約 61 個 Token,而 Llama 3.2 3B 更達到每秒約 124 個 Token。由於各模型大小、量化格式及測試設定不同,這些數字不能直接用來比較模型回答問題的能力。

程式亦提供專用操作介面,用家可在電視查看 GPU 使用率、耗電量、溫度及 AI 生成速度,並管理儲存在 PS5 內置儲存空間、USB 或 M.2 SSD 的模型。程式支援直接從 Hugging Face 下載模型,亦會在載入前檢查記憶體是否足夠。

用家還可以透過同一區域網絡,在手機或電腦開啟網頁與 PS5 上的模型對話。程式提供兼容 OpenAI API 的介面,讓其他應用程式連接主機提供的本地 AI 服務。

必須破解 PS5 低精度模型亦有取捨

要在只有 16GB 統一記憶體的 PS5 運行 270 億參數模型,開發者採用了約 2-bit 的低精度量化技術,大幅壓縮模型所需空間。這種做法可能令模型損失部分準確度及推理能力,因此測試成功並不代表 PS5 能夠以完整精度運行相同模型。

目前 PS5LM Plus 亦未成為 Sony 官方功能。開發者列出的運行條件包括已破解 PS5,以及 etaHEN、kstuff 和 ShadowMountPlus 等非官方工具。原版 PS5LM 文件列出的兼容韌體範圍為 7.00 至 13.60,惟不能直接視為所有 PS5LM Plus 安裝環境均已通過測試。

破解主機可能帶來系統穩定性、安全及 PlayStation Network 使用風險,亦可能涉及 Sony 服務條款。現階段這項技術較適合熟悉主機破解的玩家及開發者研究,一般 PS5 用家仍無法從 PlayStation Store 直接安裝使用。

開發者已向原版 PS5LM 提交部分修改,但 GPU 版本仍以獨立分支形式提供。對擁有兼容破解主機的玩家來說,PS5LM Plus 提供了一個利用現有遊戲硬件運行本地 AI 的新方法,但其效能數據目前仍以開發者自行公布的測試為準。

資料來源:cnBeta、PS5LM 原始專案、PS5LM Plus 開發分支、開發者 Reddit 公告




本文作轉載及備份之用 來源 source: http://unwire.hk
鍾意就快D Share啦!