 |
跑本地大模型 电费要多少？ mingtdlb • 14h 39m ago • Lastly replied by coefu | 19 |
 |
今天发现一个神奇的问题，环境版本不同会导致模型输出从 5-15 个字符开始乱码 hrdom • 1 day ago |
 |
本地无.监.督模型推荐 kingdom8 • 2 days ago • Lastly replied by kingdom8 | 2 |
 |
多机异构显卡组合推理 NorthGod • 7 days ago • Lastly replied by Soulxe2v | 18 |
 |
本地部署 GLM-5.2 的门槛太高了，根本玩不起！ beginor • Jun 29 • Lastly replied by xiawudexue123 | 44 |
 |
大模型小白推荐一下本地模型 jiezou • Jun 25 • Lastly replied by ChrisBlack | 30 |
 |
开源了一个 LLM 推理服务监控面板 invdan • Jun 22 |
 |
有支持 6000 Ada 使用 deepseek v4 flash 推理 的框架吗 frankyzf • 6 days ago • Lastly replied by frankyzf | 9 |
 |
GLM5.2 个人感觉有点被吹大了 hihihihihi • Jun 22 • Lastly replied by zxjxzj9 | 21 |
 |
买 macbook pro 笔记本，跑本地模型，怎么配置性价比比较高？ sjmcefc2 • 3 days ago • Lastly replied by micao | 42 |
 |
分享个自己在用的玩具 mountainl • Jun 23 • Lastly replied by zzutmebwd | 8 |
 |
配置 kiro 的问题 davidyin • Jun 16 • Lastly replied by davidyin | 21 |
|
现在大模型主流都用哪些 nVidia GPU？ mingtdlb • Jun 15 • Lastly replied by zzutmebwd | 30 |
 |
需要购买国产显卡本地部署大模型，哪家的比较好 Flagship9945 • Jun 27 • Lastly replied by google2023 | 116 |
 |
lama.cpp 目前有重大性能 bug： checkpoint 的巡回逻辑对于混合模型（比如 qwen3.6-27B）无效，从而导致大概率每次对话都要 prefill 全文，严重拖慢速度 sentinelK • Jun 12 • Lastly replied by coefu | 15 |
|
GPU 跑 LLM 也会超频吗？ mingtdlb • Jun 12 • Lastly replied by mingtdlb | 4 |
 |
DiffusionGemma
Livid PRO |
31 |
 |
Gemma4 12b 居然比 Qwen3.5 9b 还快，意料不到 yuping913 • Jun 11 • Lastly replied by lifechan | 3 |
 |
什么？ Apple Watch 也能本地跑 Qwen 了？ ericterminal • Jun 9 • Lastly replied by ericterminal | 7 |
 |
关于低算力 gpu 推理时 prefill 在总时长中的占比问题 zzutmebwd • Jun 9 • Lastly replied by coefu | 8 |
Select Language