本地大模型

本地部署大模型工具哪个好用？

本页共收录18个本地部署大模型工具。比较常用的有：MLX（Apple 开源的机器学习数组框架）；SGLang（高性能的大模型与多模态模型推理服务框架）；Xinference（Xorbits 开源的模型推理平台）。建议按自己的任务、预算和网络环境先试用两三款再决定。

有免费的本地部署大模型工具吗？

有。已标注提供免费版或免费增值方案的包括：MLX、SGLang、Xinference、llamafile、LocalAI、TextGen（原 text-generation-webui）。免费额度和功能限制会调整，以官网说明为准。

国内能直接访问的本地部署大模型工具有哪些？

本类工具的国内访问情况正在逐个检测，可参考卡片上的「可用 / 较慢 / 异常」标记。

51发现导航如何整理这些本地部署大模型工具？

每个网站都链接官方入口，并由服务器每天检测可用性；分类按实际用途（要完成的任务）划分，同一网站可能出现在多个相关任务分类中。