开源模型的节奏已经从「一年一换代」变成「一季度一洗牌」。挑出下半年真正值得本地部署的几类,按用途分。
通用对话:中尺寸模型是主力
20B 到 40B 档位的开源模型在 4bit 量化下已经能覆盖日常对话、写作和轻度代码任务,配合好的系统提示词,很多场景与云端旗舰的差距缩小到体感层面。16G 显存起步,24G 舒服。
代码:小而专的模型性价比更高
代码方向的趋势是「专用小模型 + 编辑器集成」,十几 B 的代码模型在补全和单文件重构上已经够用,响应速度还快。本地代码助手的隐私优势无可替代。
多模态:视觉理解开始实用
开源视觉语言模型今年最大的变化是「能看懂中文截图和文档了」,表格、票据、手写体的识别质量可以进入生产环节。这是文档自动化玩家的好消息。
图像与视频
- 图像生成:FLUX 系与后继者继续主导社区生态,LoRA 资源最丰富。
- 图生视频:开源视频模型单段时长稳定在 5 到 10 秒,24G 显存能跑主流分辨率。
- 语音:本地语音识别已经接近即插即用,中文场景表现进步明显。
选型建议
别追新,先定场景:对话选中尺寸通用模型,代码选专用小模型,图像看社区生态而不是跑分。开源模型的跑分榜和实际体验之间的差距,往往就在生态和工具链上。
(本文由智宅客原创,转载请注明出处。)
订阅智宅客
AI / 技术 / 数字生活方式,新文章第一时间送到邮箱。








