开发者将破解后的索尼PS5当作本地AI服务器:利用GPU加速运行27B参数Qwen3.8-27B模型

发布时间:2026-10-17 19:36

  PS5LM 的早期版本主要依靠 CPU 运行模型,执行 27B 参数模型时,平均每分钟只能生成约 1 个 token。为提升性能,开发者 abhi245y 移植了 Mesa 开源项目中的 AMD RADV 驱动,并通过 Vulkan 计算接口让 llama.cpp 能够作为原生应用在 PS5 上运行。这项改动将可用内存从约 6GB 提升至 11.4GB,使主机能够运行经过高度量化的 Qwen3.8-27B 模型。

  除了利用 PS5 的 GPU 加速模型推理,PS5LM Plus 还内置网页聊天界面,并可通过局域网 8081 端口提供 API 服务,用户可通过同一网络中的其他设备访问页面,与本地运行的模型对话。该项目还兼容 OpenAI 和 Anthropic API,方便 opencode、Codex、Claude Code 等工具调用 PS5 上运行的模型。

  对于一台主要面向游戏设计的主机而言,PS5 能够充当本地 AI 服务器,为大模型推理提供 GPU 加速,展示了其硬件在游戏之外的应用潜力。不过,该机配备的 16GB RAM 统一内存仍然限制了模型的选择和运行质量。此外,运行原生版 llama.cpp 需要先对 PS5 进行越狱,可能会导致游戏机及 PSN 账号被封禁等风险。

  特别

  4跟贴4破解后的PS5变身本地AI服务器 成功运行270亿参数大模型 每秒生成约20个Token

  美国承认了,很多人以为美国不介入台海是还在犹豫。错了!真相是,他们早就做好了算术题:打不赢,也赔不起

  东风 - 26 紧急拉动!解放军 6 大海域同步亮剑,美日等 9 国近 6 万人军演压境,具备围台封锁潜力?

  在上海,工龄将近37年,个人账户存了66万多,退休金能拿到多少?堪称退休人员中的“天花板”级别!

  知情人士:乌克兰已耗尽美国提供的“爱国者”拦截弹库存,普京:俄方将回应乌克兰袭击俄罗斯炼油厂,“他们本应该好好想想后果”

  发现中国一个奇怪的现象:只要有公婆帮扶的家庭,儿媳都忙着回公婆家;而公婆不帮的家庭,儿媳早已断联!

排行

精选