工具简介
LM Studio 是一款 Windows/Mac/Linux 桌面应用,让普通用户无需任何命令行操作即可下载、管理并运行开源大语言模型。内置模型市场,支持 Llama 3、Mistral、Phi、Gemma 等主流开源模型。
核心功能
- 图形界面模型管理:浏览、下载、切换模型,操作直观
- 本地对话界面:内置 Chat UI,直接与本地模型对话
- OpenAI 兼容 API:启动本地服务器,其他工具可无缝接入
- 量化模型支持:自动选择适合显存的量化版本
访问说明
官网可直连,软件下载和模型下载均可直连(部分模型来自 Hugging Face,速度受网络影响)。完全本地运行,数据不出设备。
适合人群
希望在本地私密运行大模型的开发者、研究者,以及企业内部需要离线 AI 能力的团队。
Related