🔥 HN 热议

PS5变成家里的AI服务器:PS5LM(让PS5运行AI的开源项目)

约2分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
llama.cpp

在设备上运行语言模型的软件。

GGUF

保存AI模型的文件格式。

决策模型

直接返回选择或分数的模型。

发生了什么

PS5LM(让 PS5 运行 AI 的开源项目)公开了一套方案:在经过解锁的 PlayStation 5 上运行语言模型。它使用 llama.cpp(运行语言模型的软件)的 Vulkan 后端,让 PS5 的 RDNA 2 GPU 处理模型。模型以 GGUF(保存模型的文件格式)文件放进主机。同一网络的笔记本、手机和编程工具,都可以向这台 PS5 提问。项目说,运行期间不需要另一台电脑、云服务或账号。

背景

PS5LM把主机变成家用模型服务器。主机运行模型,其他设备发送问题并接收回答。项目支持 OpenAI(ChatGPT的公司)的聊天接口、Anthropic(Claude的公司)的消息接口,也提供浏览器页面。

项目说,PS5 Slim的RDNA 2 GPU通过Vulkan后端使用11.4GB共享内存。内存要同时容纳模型和上下文,所以模型大小会影响能否装下。项目还列出能看图片的模型,以及能直接返回选择或分数的决策模型。

为什么重要

重要的不只是“游戏机运行AI”,而是AI计算可以放在家里。手机、笔记本和编程工具能够共享同一台主机。项目把它描述为私人模型服务器,并说运行时不需要云服务或账号。这让使用者多了一种不依赖远程服务的方式。

但它不是所有PS5都能使用的普通功能。公开说明要求固件7.00到13.60,主机也必须已经解锁。它更像面向动手者的实验,不是面向所有玩家的新系统功能。

已确认的事实

PS5LM的README列出了PS5 Slim上的速度。Qwen 3.5 0.8B占用0.5GB,每秒207个token;Qwen 3.5 9B占用5.3GB,每秒55个token;Qwen 3.8 27B占用9.2GB,每秒约20个token,并标注64k上下文。token是模型输出时使用的小单位,不一定等于一个完整单词。

d1 Omni 600M决策模型的示例是:三个问题用时0.3秒,一张720p图片加七个问题用时2.9秒。这些数字来自项目自己的表格,不是第三方实验室的结果。

Hacker News(技术新闻讨论网站)上的投稿有295个积分和74条评论。这说明它受到关注,却不能证明性能一定正确。技术细节来自PS5LM仓库,热度来自Hacker News。

还不知道什么

README不能证明外部人员能在相同条件下复现速度。长时间运行时的温度、耗电、稳定性、延迟和回答质量,也没有独立比较。能运行GGUF模型,不代表所有模型都一样快、一样好。

未来的PS5更新可能改变兼容性,项目也能否长期维护仍未确定。仓库说明它与索尼互动娱乐公司(Sony Interactive Entertainment)无关,也不包含Sony的SDK、密钥、固件或模型权重;这和性能是否可靠是两件事。

接下来关注什么

应继续看版本记录、问题列表、独立的速度和耗电测试,以及更多模型的长期结果。还要看多个设备同时使用时是否稳定。

现在能确认的是一个公开项目的设计和自测结果,还不是整个行业都能复制的结论。

来源:PS5LM公开仓库和Hacker News投稿。

💬 PS5能运行大模型,但实用性取决于条件

评论区认为,把破解后的 PS5 变成本地大模型设备很有意思,但对它到底有多实用意见不一。主要争议在于 2 bit 量化、推理等待时间,以及硬件价格和替代方案。

  • 这个项目的吸引力在于把破解后的 PS5 变成运行本地 GGUF 模型的设备。一位评论者自报有 11.4 GB 共享内存,所以对没有 GPU 的人可能很有意思。
  • 评论中把示例模型说成 Qwen 3.8 27B 的 2 bit 量化版。一个有力的反驳是:2 bit 的质量明显低于 4 bit 或完整精度;拿它和 Claude/Opus 或 GPT-4 比较的说法,多是个人印象或记忆,不是基准测试。
  • 按评论者自报,较难的任务可能在推理阶段消耗数万 token,速度只有每秒几十 token,因此要等很久。这使它难以替代高端云端模型,尽管有评论者认为它大致接近 GPT-4 级别。
  • 是否实用存在争议。一位评论者认为受显存限制的项目说明把能力说得过头;另一位认为,即使模型会犯一些错,它仍可用于查看代码库或持续监控。
  • 另一位用户自报约 20 token/秒,并估算每天电费约 0.70 美元、每天约 200 万输出 token;这些数字以及把 2 bit 质量估为完整量化版本约 80% 的说法,都没有独立验证。有人设想把它用于服务器监控、安防录像、植物浇水和 AI NPC。
  • 硬件比较也有分歧。一些评论者根据自己的比较认为 PS5 GPU 远强于 N150 小主机;另一些人认为,小主机、自组 PC、RTX 3060 或使用 PS5 系 APU 的 BC-250,可能因当地价格、改装难度和供货情况而更划算。
  • 有人担心 GitHub 会遭索尼下架或 DMCA 删除;也有人提出镜像、torrent 和 Radicle 这类分布式托管。大家没有形成一致方案。
  • 评论还联想到 PS3 集群和更聪明的游戏 NPC,但没有说明 PS5 是否能在运行模型的同时正常玩游戏。

这是评论数为74时的初期(修订1)。获取74条,并从整体抽取74条总结。内容属于HN用户自述,并非编辑部核实的事实。

🔥 HN 热议

PS5LM:让部分PS5运行AI的公开项目

📰 完整报道: PS5变成家里的AI服务器:PS5LM(让PS5运行AI的开源项目)

一个公开项目让部分PS5在本地运行语言模型。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
GPU

负责大量计算的部分。

GGUF

保存AI模型的文件格式。

token

AI生成文字时使用的小单位。

💡 一句话总结

  • PS5LM让部分PS5在本地运行AI。
  • 手机和电脑可以向家里的PS5提问。
  • Hacker News很关注,但热度不等于证明。

PS5LM是一个公开项目。它把语言模型放进PS5。语言模型就是能读文字、做回答的AI。

它需要已经解锁的PS5。项目使用llama.cpp。这个软件负责运行模型。模型文件使用GGUF格式。PS5里的GPU负责大量计算。家里的手机、笔记本和编程工具,都可以通过同一个网络连接它。

为什么这件事有意思?项目说,PS5运行时不需要云服务或账号。这样,用户可以少依赖远处的服务器。多个设备也可以共用同一个模型。不过,这不是普通PS5的新功能。项目列出的条件是固件7.00到13.60,并且主机已经解锁。

项目在PS5 Slim上列出了一些数字。小一点的Qwen 3.5模型,每秒约输出207个token。大一点的Qwen 3.8模型,每秒约输出20个token。token是AI输出时使用的小单位。它不一定等于一个完整的词。这些数字来自项目自己的说明,不是第三方测试。

Hacker News是一家讨论技术新闻的网站。这条投稿有295个积分和74条评论。它们表示很多人注意到了这件事。它们不能证明项目一定正确。接下来要看别人的测试、长时间运行结果,以及新版本是否仍支持这些PS5。

来源:PS5LM公开仓库和Hacker News投稿。

💬 PS5能跑AI,但不是万能替代品

评论大致认为:能在 PS5 上运行本地模型很有趣,但速度和答案质量要作出让步。

  • 破解后的 PS5 可以运行本地 GGUF 模型。一位评论者自报有 11.4 GB 共享内存。
  • 示例是 Qwen 3.8 27B 的 2 bit 版本。它更省空间,但有人认为答案质量会低于 4 bit 或完整精度;和 Claude/Opus、GPT-4 的比较只是个人看法。
  • 评论者自报,难题可能要想很久,速度只有每秒几十个 token;另一位自报约 20 token/秒、每天约 0.70 美元电费和 200 万输出 token,但这些数字没有独立验证。
  • 所以它不像万能替代品,更适合代码查看、服务器监控、录像、植物浇水或游戏 NPC 等有限用途;也有人认为项目说明把实用性说得太高。
  • 它和 N150 小主机、自组电脑、RTX 3060、BC-250 谁更划算,要看当地价格和麻烦程度。评论还争论代码该放 GitHub 还是分散保存,也没有回答能不能同时玩游戏。

这是评论数为74时的初期(修订1)。获取74条,并从整体抽取74条总结。内容属于HN用户自述,并非编辑部核实的事实。

🔥 HN 热议

PS5LM:让PS5运行AI的项目

📰 完整报道: PS5变成家里的AI服务器:PS5LM(让PS5运行AI的开源项目)

游戏机也可以帮家里的手机回答问题。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
PS5LM

让PS5运行AI的项目。

GPU

里面负责算数的部分。

Hacker News

大家讨论技术新闻的网站。

PS5LM是一个让PS5运行AI的项目。 它需要一台做过特别准备的PS5。 PS5里的GPU,是很会算数的部分。 它可以把AI模型放进去。 家里的手机可以向PS5提问。 PS5再做出回答。 项目说,运行时不用云端和账号。 云端就是远处的电脑。 Hacker News(讨论技术新闻的网站)上,有这条消息。 它有295个积分和74条评论。 积分和评论说明很多人看到了。 它们不能证明消息一定正确。 还要等更多人来测试。 不是每一台PS5都能这样做。 项目的说明在PS5LM公开仓库。

💬 PS5可以跑AI,但可能很慢

这是一个聪明的小把戏,但 PS5 还不是完美的 AI 电脑。

  • 破解后的 PS5 可以运行 Qwen 3.8 27B。一位评论者自报有 11.4 GB 共享内存。
  • 2 bit 版本比较省空间,但答案可能变差。有人自报每秒约说 20 小段文字,电费约每天 0.70 美元;难题仍要等很久。这些速度和费用数字没有独立验证。
  • 它也许能帮忙看守东西,或让游戏角色更会聊天。但别的电脑或板子可能更合适,大家还没说清楚代码放哪里,或能不能一边运行 AI 一边玩游戏。

这是评论数为74时的初期(修订1)。获取74条,并从整体抽取74条总结。内容属于HN用户自述,并非编辑部核实的事实。

来源