LM Studio-简化安装和使用开源大模型 | OpenAI API 文字转语音本地运行程序分享

已于 2024-02-01 11:03:57 修改
阅读量1.1w 收藏 42
点赞数 27
CC 4.0 BY-SA版权
分类专栏： aigc 大模型 自然语言 文章标签： AIGC 人工智能 chatgpt
于 2024-02-01 11:01:38 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/javastart/article/details/135969261

原文：LM Studio-简化安装和使用开源大模型 | OpenAI API 文字转语音本地运行程序分享 - 知乎

实测在Mac上使用Ollama与AI对话的过程 - 模型选择、安装、集成使用记，从Mixtral8x7b到Yi-34B-Chat

官网：https://lmstudio.ai/

最近用上了LM Studio，对比Ollama，LM Studio还支持Win端，支持的模型更多，客户端本身就可以多轮对话，而且还支持启动类似OpenAI的API的本地HTTP服务器。

https://lmstudio.ai/

动图封面

我推荐dolphin-2.6-mistral 7B和dolphin-2.7-mixtral-8x7b模型。

下载后选择模型，设置参数，再重新加载模型。

实测，dolphin-2.6-mistral 7B模型在我Mac M1 Max 32G的电脑上运行速度很快，生成质量不错，而且dolphin是可以生成NSFW内容的。

LM Studio的特色功能

我最喜欢LM Studio的功能是支持启动类似OpenAI API的本地HTTP

最低0.47元/天 解锁文章

200万优质内容无限畅学
【人工智能】Open WebUI 支持完全离线操作，并兼容多种LLM运行器，如Ollama和OpenAI API，旨在使用它来管理和使用大型语言模型，确保数据隐私的同时提供灵活多样的交互方式。
本本本添哥
01-23 873
要在 PyCharm 中下载和使用 Open-WebUI，您需要按照以下步骤进行操作。Open-WebUI 是一个用于管理和使用大型语言模型（LLM）的 Web 界面，通常与 Ollama 等工具配合使用。通过以上步骤，您可以在 PyCharm 中下载和配置 Open-WebUI，并使用它来管理和使用大型语言模型。如果有任何问题或需要进一步的帮助，请随时提问。
开源AI大模型LLM低代码智能体框架选型最佳实践——MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,RAG+AI 工作流+Agent+deepseek
Ai大模型，odoo，idempiere,metasfresh,低代码，ecshop数据采集发布接口，zencart，lightinthebox，shopex 数据采集接口
02-20 2486
开箱即用：支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化、RAG（检索增强生成），智能问答交互体验好；无缝嵌入：支持零编码快速嵌入到第三方业务系统，让已有系统快速拥有智能问答能力，提高用户满意度；灵活编排：内置强大的工作流引擎，支持编排 AI 工作流程，满足复杂业务场景下的需求；模型中立。
本地运行大模型的工具：LM Studio一文全解析
2301_81888214的博客
03-25 2065
本地运行大模型的工具：LM Studio一文全解析
【AI工具】LM Studio 部署本地llama3以及python调用openai的API与llama3本地服务器进行问答...
cxyhjl的博客
04-23 1万+
1. 下载LM Studiohttps://lmstudio.ai/2. 安装后打开主界面3. 下载自己感兴趣的大模型由于网络原因，通过IDM手动下载后拷贝到相应文件夹下点击下载后，左下角点击“ 1 downloading”可以查看详情从详情中提取出模型下载地址然后手动下载，比如“https://huggingface.co/TheBloke/phi-2-GGUF/resolve/main/phi...
LM Studio本地部署Qwen3
最新发布
weixin_36520544的博客
06-12 133
LM Studio 是一款桌面应用程序，用于在您的计算机本地开发和实验 LLM。
用LM Studio工具部署本地AI大模型，真的太省事了！（普通人也能用）
pythonhy的博客
11-26 8955
今天我想给大家推荐一个比 Ollama 更加清爽的工具：LM Studio（如果你还不熟悉 Ollama，它其实是一个用于安装和管理大模型的工具）， LM Studio 不仅对普通用户友好，技术人员也友好，方便地安装大模型。它提供了开发模式，让技术人员能深入了解相关参数。在用户界面方面，LM Studio 相比 Ollama 也更为出色。
大模型实操与API调用 | 四十三、使用LM Studio部署模型
Androiddddd的博客
08-13 3336
AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频，免费分享！
LM Studio：一个桌面应用程序，旨在本地计算机上运行大型语言模型（LLM），它允许用户发现、下载并运行本地LLMs
汽车软件开发
04-19 4574
LM Studio是一个桌面应用程序，旨在本地计算机上运行大型语言模型（LLM）。它允许用户发现、下载并运行本地LLMs，支持在Windows、Linux和Mac等PC端部署2510。LM Studio的安装过程涉及访问其官网并选择相应操作系统的版本进行下载安装。安装成功后，用户可以通过该软件选择并运行心仪的模型，这些模型一般在huggingface上找到，重要因素包括模型的大小或参数量910。
【亲测免费】 开源项目lmstudio-ai/lms安装与使用指南
gitblog_00359的博客
08-15 2842
开源项目lmstudio-ai/lms安装与使用指南 目录结构及介绍 根目录说明 src: 包含应用的主要代码。 main: 主要逻辑和功能实现所在的地方。 java: Java源码存放目录。 com.example.lms: 应用的核心Java包，包括服务、实体类等。 resources: 资源文件如配置文件、SQL脚本等。 test: 测试相关代码。 bin: 编译后的...
【LLM大模型】2024开源项目汇总_dify chat2sql
2401_85773359的博客
08-08 2658
当大模型成本逐渐降低，可靠性提升后，这意味着越来越多的业务应用将会与 LLM 结合，为了让这种结合更加顺畅，需要有与现有来支撑 LLM 应用开发的快速开发对比说明可参考：开源的 LLM 应用开发平台。其直观的界面结合了 AI 工作流、RAG 、Agent、模型管理、可观测性功能等，让您可以快速从原型到生产。2.2 FastGPT：一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。
LMstudio 部署模型后如何联网使用API
热门推荐
悟能的师兄的专栏
03-13 1万+
当利我们用 LMStudio 完成了 DeepSeek 或者其他模型的部署之后，如果希望该服务能够被远程客户端所调用当前服务的API。注意：当前演示环境为Windows系统，其他桌面系统的操作方式类似。
最强开源大模型炸场！全网独一份AI大模型学习实践资源...（待会删）
Y525698136的博客
08-07 1441
最强开源大模型炸场！全网独一份AI大模型学习实践资源...（待会删）
LM Studio：引领本地LLM应用革命，打造安全高效的AI新体验
寻道AI，探索AI无限可能！
12-01 4451
在当今人工智能的蓬勃发展中，大型语言模型（LLMs）以其卓越的能力和广泛的应用，已经在商业和日常生活中扮演了不可或缺的角色。它们在自然语言处理、内容创作、智能助手等多个领域展现出巨大的潜力和价值。然而，这些模型的传统应用往往依赖于云端服务，这不仅带来了数据隐私泄露的风险，还受限于网络连接的稳定性和速度，影响了用户体验。正是在这样的背景下，LM Studio应运而生，它为在本地设备上运行大型语言模型提供了一个创新且高效的解决方案。
LM Studio 介绍
t951984189的博客
05-10 2732
LM Studio是一个可以运行多种模型的工具，如：llama、qwen、mistral 等，除了聊天模型，还支持向量化模型，可以将文本转换为向量，具体可以到官网查看：https://lmstudio.ai/
好用且简单的本地大模型聊天工具LM Studio
崎山小鹿的专栏
03-02 4171
使用LM Studio 我们就可以很方便的加载各种模型使用了，LM Studio是我目前见到最好用，也是最简单的本地测试AI模型的工具，不需要安装python环境以及众多的组件，加载模型、启用GPU、聊天都非常简单。而且可以切换很多不同类型的大语言模型，同时支持在Windows和MAC上的PC端部署。
【LLMs】用LM Studio本地部署离线大语言模型
2301_76435948的博客
12-05 6273
有时候需要使用离线大语言模型，然后看到了一个非常好用的客户端LM Studio，所以来分享一下。它可以提供图形化界面来运行本地大语言模型，非常方便。接下来，我将分享如何通过LM Studio来快速搭建自己的离线大语言模型。
LMStudio AI Learning Management System (LMS) 开源项目教程
gitblog_00977的博客
08-15 1415
LMStudio AI Learning Management System (LMS) 开源项目教程 项目介绍 LMStudio-AI 的 Learning Management System 是一个基于开源技术构建的教育软件平台，旨在提供课程管理、学习材料分发、学生进度追踪以及自动化评估等功能。该系统特别适合教育机构和企业培训，支持自定义内容创建、互动式学习体验和无缝的学习资料更新。通过采用现...
LM Studio简介
地球空间
02-10 650
LM Studio是一款。
LM studio api
02-18
### LM Studio API 文档与使用案例 LM Studio 提供了一套全面的应用程序接口(API)，旨在简化大型语言模型(LLM)的开发、训练以及部署过程。API 功能覆盖广泛，从基础的数据管理到高级的模型优化都有涉及[^1]。 #### 数据处理功能 通过调用特定函数可以实现数据集上传、预处理等功能。例如，在准备用于训练的语言数据时，开发者可以通过API指定参数来清洗和标注原始语料库，确保输入质量满足需求。 #### 模型构建与训练支持 对于希望快速搭建并测试新架构的研究人员来说，LM Studio 的API提供了便捷的方法来进行超参调整实验。这不仅限于设置学习率这样的常规选项；还包括更复杂的配置如网络层数的选择等。 #### 推理服务集成指南 当完成模型训练之后，下一步通常是将其转化为可实际应用的服务形式。为此，平台给出了一系列指导方针帮助用户将已有的LLMs转换成RESTful Web Service或是其他适合生产环境的形式。 ```python from lm_studio import deploy_model deploy_model( model_path="path/to/trained/model", service_type="rest_api", # or 'grpc', etc. endpoint="/predict" ) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值