不想把数据交给别人？把大模型装回自己电脑
本地部署，就是把 AI 模型下载到自己电脑或服务器上跑，不经过任何厂商的云。好处是数据不出门、可无限次免费用；代价是要自己搞定显卡、环境和显存。对个人隐私党和企业保密党，这是绕不开的路。
为什么有人非本地不可
三类场景：① 数据敏感——医疗、法律、公司内部资料，不能上传；② 高频使用——每天成百上千次调用，走 API 烧钱；③ 要改模型——想微调、加插件、完全可控。这三类，本地部署的价值就出来了——数据攥自己手里才踏实，调用不按次计费，想怎么改怎么改。
硬件门槛
看显存。7B 级别的小模型 8GB 显存勉强能跑；想跑 30B、70B 这种能用的主力模型，24GB–48GB 显存才舒服。内存和硬盘也别抠，模型文件动辄几十 GB，量化版能省显存但会掉一点质量。没显卡也能跑"CPU 模式"，但慢到没法日常用，只适合验跑通。新手先确认自己显卡型号再选模型，别拿 6GB 显存硬刚 70B。
新手怎么入门
别从零配环境。直接用 Ollama、LM Studio 这类一键工具，点一下就能下模型开聊；想玩图像/视频，ComfyUI 的整合包解压即用。先把"能跑起来"作为第一个目标，再慢慢研究参数（温度、上下文长度、量化等级）。也可以从云端 GPU 租一天练手，比买卡试错便宜。
本地 vs 云端，怎么权衡
本地胜在隐私和长期使用成本，败在前期投入和运维；云端胜在开箱即用、随用随停，败在按量付费和数据出境。日常尝鲜用云端，固定高频 + 敏感数据走本地，是多数人的务实组合。
常见部署方案怎么挑
按"折腾程度"从低到高排：Ollama 一条命令下模型开聊，最适合纯新手；LM Studio 图形界面、能调参数、支持 GPU，体验更完整；llama.cpp 跨平台、能在手机和老机器上跑，极客首选；想玩图像视频就上 ComfyUI 整合包。量化等级（Q4/Q5/Q8）越高越占显存但越清晰，新手先 Q4 跑通再说。
别一上来挑战"从源码编译"，社区整合包解压即用，能把你从环境地狱里捞出来。等跑顺了、真有定制需求，再回头研究量化、上下文长度这些参数，顺序反了就是自找罪受。
