CanIRun.ai 最近在 Hacker News 社区引发讨论。这个网页工具瞄准一个很直接的问题:用户的电脑到底能运行哪些本地 LLM。打开浏览器后,网站会借助 WebGPU API 自动识别 GPU 型号和内存规格,再结合模型参数量、量化等级和内存带宽,估算模型能否运行,以及大致推理速度。
它给出的结果不是单纯的“能”或“不能”,而是以 S 到 F 的等级展示可执行性,并列出 token/s 这类推理速度信息。覆盖的模型范围也很广,从 0.8B 参数的小模型到 1T 参数的 MoE(混合专家)模型都在列表中,所参考的数据来自 llama.cpp、Ollama 和 LM Studio 等本地推理工具。
浏览器自动检测硬件,但结果并非总是准确
社区对这类工具的需求很明确,新手尤其需要一个低门槛入口。问题也很快暴露出来。讨论最集中的两点,一是硬件清单不完整,二是估算结果和实测之间存在偏差。
目前一些 GPU 并未出现在 CanIRun.ai 的清单中,包括 RTX Pro 6000、RTX 5060 Ti 16GB,以及多家厂商的笔记本 GPU。Apple 芯片虽然被纳入,但最高只列到 192GB 内存配置,而文中提到 M3 Ultra 实际可支持到 512GB。对准备本地部署模型的用户来说,这类缺口会直接影响判断。
另一个争议来自估算误差。有用户反馈,自己机器实际可以运行的模型,却被网站判定为不可用。这类“实测能跑��网页却说不行”的情况在讨论串中反复出现,也让部分用户降低了对结果的参考度。
命令行工具 llmfit 被视为替代方案
在相关讨论里,社区还提到另一个替代工具 llmfit。它是命令行程序,可以直接调用系统工具获取更精确的 GPU 信息,包括 nvidia-smi,因此不少人认为它比网页版本更实用,也更接近真实硬件状态。
不过,这也带出新的争议。有人对工具在不请求明确权限的情况下识别 GPU 型号感到意外,讨论随即延伸到浏览器指纹识别和硬件隐私。如果网页能通过 WebGPU API 检测显卡信息,这些数据会如何被使用,成了不少用户在意的问题。
社区想看的不只是“能不能跑”
从反馈来看,CanIRun.ai 当前的局限不只在精度。用户真正关心的是,在自己的硬件条件下,哪一个模型质量最好,速度也还能接受。现阶段工具主要回答“跑不跑得起来”,却还没有把“跑起来效果如何”纳入决策。
社区提出的改进方向很具体,包括加入模型能力基准评分、支持 CPU 与内存共享策略、纳入 KV cache 卸载技巧,以及修正 MoE 模型的计算逻辑。也有人建议,这类能力如果能直接整合进 Ollama,用户就能在命令行环境中根据本机硬件自动筛选模型,少走很多查询和试错流程。
对刚接触本地 AI 的用户而言,CanIRun.ai 仍然是一个上手很快的检查工具。它抓住了“本地跑模型前先看机器吃不吃得消”这个痛点,只是距离成为可靠的硬件决策助手,还有不少细节要补齐。

