大象技术博客

大象 1月前人工智能

大模型如何进行微调？

前言本次我将使用Qwen2.5-3B模型配合LlamaFactory+llama.cpp+ollama等相关技术实现大模型微调以及部署到本地环境准备全部环境需要算力云，本地电脑环境需要python，cmake，docker desktop，ollama，llama.cpp等。我们先安装部分环境，之后在微调部署过程中再安装剩余环境。算力云训练大模型用到的硬件配置很高，所以我推荐使用云服务器，例如AutoDL，阿里云。这里我白嫖阿里云免费的算力，阿里云-人工智能平台 PAI，有个免费试用，选择交互式建模DSW，开通，选择...

181 0 0

本地部署deepseek（四）：使用Chatbox与本地模型对话

大象 1月前人工智能

本地部署deepseek（四）：使用Chatbox与本地模型对话

打开Chatbox，打开左下角设置模型提供方，找到OLLAMA API点击“保存”然后开启对话。在对话框发送键旁边可以选择不同的模型。

219 0 0

ollama下载模型到指定位置

大象 1月前人工智能

ollama下载模型到指定位置

由于ollama默认安装位置以及模型下载位置在c盘，对于我这种有软件安装洁癖的人很不爽，于是参考大佬的文章，记录一下1.更改ollama安装位置ollama默认装位置在：C:\Users\XX\AppData\Local\Programs\Ollama模型下载位置：C:\Users\XX.ollama我们可以在F盘创建Ollama文件夹，创建models子文件夹存放模型，再将上述两个文件夹移动到该文件夹下2.更改环境变量先修改系统变量的PATH变量，win11在高级系统设置里，点击环境变量，找到系统变量的path，双击打开新建path变量填入 D:\ollama\自定义模型下载位置，在系...

488 0 1

免费开源的页面访问统计程序（Matomo）

大象 1月前 php源码源码分享

免费开源的页面访问统计程序（Matomo）

免费开源的页面访问统计程序：Matomo基础功能是免费的，有些高阶功能需要收费（一般人用不到高阶功能）。界面如下：可自定义展示规则。下载链接：点击下载

184 0 0

本地部署deepseek（三）：下载deepseek模型

大象 1月前人工智能

本地部署deepseek（三）：下载deepseek模型

1. 选择DeepSeek模型Ollama官网DeepSeek模型库网址：https://ollama.com/search?q=DeepSeek在Ollama官网模型库中，有以下DeepSeek模型和版本型号可以选择：DeepSeek R1：推理模型，版本1.5b、7b到671b共七个。DeepSeek Coder：代码模型，版本1.3b、6.7b、33b。DeepSeek V2.5、DeepSeek V3：通用模型，版本分别有236b、671b。各模型的版本，参数量越大，模型功能也越强大，但也需要更多的计算资源。本次在笔记本电脑上部署测试，电脑配置：处理器：11th Gen Inte...

166 0 0

deepseek

大象技术博客

大模型如何进行微调？

本地部署deepseek（四）：使用Chatbox与本地模型对话

ollama下载模型到指定位置

免费开源的页面访问统计程序（Matomo）

本地部署deepseek（三）：下载deepseek模型

最近评论

博客文章RSS订阅

博客评论RSS订阅

大象技术博客

登录

大模型如何进行微调？

本地部署deepseek（四）：使用Chatbox与本地模型对话

ollama下载模型到指定位置

免费开源的页面访问统计程序（Matomo）

本地部署deepseek（三）：下载deepseek模型

最近评论

博客文章RSS订阅

博客评论RSS订阅