Garlic LLM 项目越狱 PS4 离线跑通 90 亿参数本地大模型

开发者 Leonardo Alegria 推出开源项目 Garlic LLM,已经在越狱后的 PS4 主机上成功离线运行 Qwen3.5-9B 也就是 90 亿参数的本地大模型,不用联网就能完成 AI 对话、代码生成、语音交互,这也是一个很有看点的怀旧主机改造案例。PS4 本身硬件规格比较老,只有 8GB 统一 GDDR5 内存,原生系统没有开放 AI 计算接口,想要跑大模型难度很高,开发者没有走常规调用通用计算库的路子,而是绕过索尼自带的图形驱动,直接给 AMD GCN 架构 GPU 下发底层指令。同时模型做了 3 位、4 位量化压缩,把模型体积压到大约 4.5GB,搭配推测解码技术提速,普通文本输出速度在每秒 31 至 39 个 token,写代码的时候最高能跑到每秒 43 个 token,上下文窗口支持 16000token。这个项目需要主机刷到 11.52 版本固件、装好 GoldHEN 破解工具,普通未越狱的正版 PS4 是无法安装运行这个大模型的,项目本身只是技术折腾,不代表 PS4 可以当成主力 AI 主机使用。

项目基础信息清单

  • 项目名称:Garlic LLM
  • 开发者:Leonardo Alegria
  • 基座模型:Qwen3.5-9B(90 亿参数)
  • 运行设备:越狱原版 PS4 / PS4 Slim,固件 11.52、GoldHEN
  • 运行方式:本地离线推理,全程不上传数据到云端
  • 模型压缩方案:3bit/4bit 混合量化,占用约 4.5GB 内存
  • 性能表现:常规文本 31–39 token/s,代码生成最高 43 token/s
  • 配套能力:语音识别、语音合成、代码执行、思考模式

核心技术实现要点

  1. 底层 GPU 调用:绕过 PS4 官方驱动,自研 GCN 底层计算内核,直接提交 PM4 指令包
  2. 量化压缩:降低模型精度,适配 PS4 有限的 8GB 内存,留出系统和推理缓存空间
  3. 推测解码 MTP:多词元预测并行生成,提升输出速度
  4. 语音链路:Parakeet 负责语音转文字,Chatterbox 负责语音朗读

硬件与使用门槛

✅ 硬性条件:PS4 主机、11.52 可破解固件、GoldHEN 自制系统

✅ 存储要求:安装包 5.66GB,硬盘预留至少 6GB 空间,拷贝到内置盘建议预留 12GB

❌ 限制:正版未破解 PS4 不能运行;PS4 Pro 暂未公开测试;开启语音功能后推理速度会下降

外界评价

✅ 技术向好评:老主机底层开发难度高,证明 GCN GPU 依然具备基础 AI 推理潜力

⚠️ 理性看法:性能远不如 PC 显卡,只适合极客玩技术实验,不适合日常稳定 AI 工作

【相关 FAQ】

问题 1:越狱 PS4 运行 90 亿参数本地大模型,靠的是什么项目?

回答 1:越狱 PS4 运行 90 亿参数本地大模型依靠开源 Garlic LLM 项目,基座是 Qwen3.5-9B,绕过 PS4 原生驱动直接操控 GPU,量化压缩后才能在 PS4 有限内存里离线推理。

问题 2:普通正版 PS4 能不能直接跑这个 90 亿参数本地大模型?

回答 2:正版 PS4 没有越狱、没有 GoldHEN 自制系统,无法运行 Garlic LLM,只有 11.52 固件版本、完成越狱的 PS4 主机才可以尝试部署这个 90 亿参数本地大模型。

问题 3:在越狱 PS4 上跑这个 90 亿参数本地大模型速度怎么样?

回答 3:越狱 PS4 运行这个 90 亿参数本地大模型,普通文本输出每秒 31–39 个 token,代码生成场景最高可达每秒 43 个 token,开启语音交互之后速度会下降。

【参考资料】

[2026-11-17](越狱 PS4 成功运行 90 亿参数本地大模型)DoNews

[2026-11-17](最高每秒 43 词元:Garlic LLM 可让越狱 PS4 运行 90 亿参数本地 AI 模型)IT 之家

[2026-11-17](脱狱した PlayStation 4 で 90 億パラメーターの AI モデルを毎秒最大 43 トークンで動作させる)GIGAZINE

[2026-11-16](Jailbroken PS4 runs 9-billion-parameter AI model at up to 43 tokens per second)Tom's Hardware

【免责声明】

本文仅为极客开源项目技术资讯整理,PS4 越狱破解会违反索尼用户协议,存在主机变砖、失去保修、账号封禁风险;该项目仅用于技术实验,性能有限,不适合作为正式 AI 算力设备,请勿私自破解游戏主机。

本文来自作者[蓝元探针]投稿,不代表新投网立场,如若转载,请注明出处:https://www.eastpo.net/kuaixun/202611/1591.html

赞 (0)

今日大家都在搜的词:

发表回复

本站作者后才能评论

评论列表(4条)

  • 蓝元探针
    蓝元探针 2026年11月17日

    我是新投网的签约作者“蓝元探针”!

  • 蓝元探针
    蓝元探针 2026年11月17日

    希望本篇文章《Garlic LLM 项目越狱 PS4 离线跑通 90 亿参数本地大模型》能对你有所帮助!

  • 蓝元探针
    蓝元探针 2026年11月17日

    本站[新投网]内容主要涵盖:互联网行业的追踪与探索

  • 蓝元探针
    蓝元探针 2026年11月17日

    本文概览:开发者 Leonardo Alegria 推出开源项目 Garlic LLM,已经在越狱后的 PS4 主机上成功离线运行 Qwen3.5-9B 也就是 90 亿参数的本地大模型,不用联网就能完成 AI 对话、代码生成、语音交互,这也是一个很有看点的怀旧主机改造案例。PS4 本身硬件规格比较老,只有 8GB 统一 GDDR5 内存,原生系统没有开放 AI 计算接口,想要跑大模型难度很高,开发者没有走常规调用通用计算库的路子,而是绕过索尼自带的图形驱动,直接给 AMD GCN 架构 GPU 下发底层指令。同时模型做了 3 位、4 位量化压缩,把模型体积压到大约 4.5GB,搭配推测解码技术提速,普通文本输出速度在每秒 31 至 39 个 token,写代码的时候最高能跑到每秒 43 个 token,上下文窗口支持 16000token。这个项目需要主机刷到 11.52 版本固件、装好 GoldHEN 破解工具,普通未越狱的正版 PS4 是无法安装运行这个大模型的,项目本身只是技术折腾,不代表 PS4 可以当成主力 AI 主机使用。

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们