LM Studio 部署本地大语言模型

news/2025/2/9 1:24:44 标签: ai
aidu_pl">

一、下载安装

1.搜索:lm studio

 LM Studio - Discover, download, and run local LLMs

2.下载

 3.安装

 4.更改成中文

 

二、下载模型(软件内下载)

1.选择使用代理,否则无法下载 

2.更改模型下载目录

 默认下载位置 

C:\Users\用户名\.lmstudio\models

3.搜索、下载

以  deepseek r1 1.5b  为例;如果下载速度慢,暂停后,再恢复下载

三、下载模型(Hugging Face下载)

 1.搜索、下载

 2.放入指定路径

注意:两层文件夹,名称无所谓,最好是 仓库名/文件名/文件

四、使用模型 

1.加载模型 调整参数 

 2.测试后可以再次调整(跳过)

3.其他设置

五、打开本地服务

1.开启服务

 

 注意打开局域网访问模式

2.下载客户端 

①搜索chatbox

Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

 ②下载

③下一步、下一步安装就行

 3.配置客户端

方法一(推荐):

 设置好IP、端口后保存

方法二:

 4.测试

自行输入框提问测试


http://www.niftyadmin.cn/n/5845424.html

相关文章

算法日记13:SC41树状数组(区间修改)

一、题目: 二、题解: 在单点修改中,我们用t[i]来维护原数组2.1:在区间修改中,我们将维护原数组的差分数组 接下来,让我们来回顾一些差分的性质 此时,假设我们需要求 a 1 a 2 a 3 a 4 a1a2a3a4 a1a2a3a…

LeetCode:59. 螺旋矩阵 II(模拟 Java)

目录 59. 螺旋矩阵 II 题目描述: 实现代码与解析: 模拟 原理思路: 59. 螺旋矩阵 II 题目描述: 给你一个正整数 n ,生成一个包含 1 到 n2 所有元素,且元素按顺时针顺序螺旋排列的 n x n 正方形矩阵 ma…

s1:简单测试-时间规模化

25年1月来自斯坦福、西雅图 UW、AI2 和 Contextual AI 的论文“s1: Simple test-time scaling”。 测试-时间规模化是一种很有前途的语言建模新方法,它使用额外的测试-时间计算来提高性能。最近,OpenAI 的 o1 模型展示这种能力,但并未公开分…

apisix的real-ip插件使用说明

k8s集群入口一般都需要过负载均衡,然后再到apisix。 这时候如果后台业务需要获取客户端ip,可能拿到的是lb或者网关的内网ip。 这里一般要获取真实ip需要做几个处理。 1. 负载均衡上,一般支持配置获取真实ip参数,需要配置上。然…

Cloudflare 2024 网络流量回顾:洞悉网络发展趋势与安全挑战

Cloudflare 近日发布了 2024 年网络流量回顾报告,为我们提供了宝贵的全球互联网流量数据。这份报告涵盖了 IPv4/IPv6 比例、HTTP 协议版本占比、API 客户端语言分布、浏览器市场份额以及机器人流量分析等多个方面,为我们理解当前网络发展趋势和安全挑战提…

profinet转ModbusTCP网关,助机器人“掀起”工业智能的惊涛骇浪

在现代汽车制造过程中,生产设备的精确控制与实时监测是确保产品质量和生产效率的关键。某汽车制造厂在其生产线上应用了可编程逻辑控制器(PLC)和压力传感器,这两种设备分别使用稳联技术Profinet和ModbusTCP协议( WL-A…

linux——网络计算机{序列化及反序列化(JSON)(ifdef的用法)}

linux——网络(服务器的永久不挂——守护进程)-CSDN博客 目录 一、序列化与反序列化 1. 推荐 JSON 库 2. 使用 nlohmann/json 示例 安装方法 基础用法 输出结果 3. 常见操作 4. 其他库对比 5. 选择建议 二、ifdef宏的用法 基本语法 核心用途…

RabbitMQ 从入门到精通:从工作模式到集群部署实战(五)

#作者:闫乾苓 系列前几篇: 《RabbitMQ 从入门到精通:从工作模式到集群部署实战(一)》:link 《RabbitMQ 从入门到精通:从工作模式到集群部署实战(二)》: lin…