标签：llama

在昇腾服务器上使用llama-factory对baichuan2-13b模型进行lora微调

文章浏览阅读2.7k次，点赞22次，收藏26次。LoRA 提出在预训练模型的参数矩阵上添加低秩分解矩阵来近似每层的参数更新，从而减少适配下游任务所需要训练的参数...

2025-04-19阅读(4)

文章浏览阅读964次，点赞16次，收藏20次。本地服务器部署开源大模型有一个前提，就是得有 GPU 显卡资源，在我下面的例子中我租用了 autodl 中的算力资...

2025-04-19阅读(5)

文章浏览阅读1.9k次，点赞22次，收藏25次。LLaMA-Factory 是一个强大的大型语言模型微调框架：支持多种模型：涵盖 LLaMA、LLaVA、Mis...

2025-04-19阅读(5)

文章浏览阅读2.9k次，点赞74次，收藏35次。本章详细介绍：【新手微调大模型】【全网最详细】在AutoDL租赁4090服务器，通过LLaMA-Factory框...

2025-04-19阅读(3)

文章浏览阅读732次，点赞6次，收藏7次。本篇文章主要讲述如何在本地电脑安装部署国产大模型deepseek-r1，通过ollama方式轻松部署deepseek-...

2025-04-19阅读(4)

文章浏览阅读878次，点赞7次，收藏29次。最近DeepSeek大火，很多人都想用DeepSeek，但是无奈经常提示服务器繁忙，那就试试将DeepSeek部署到...

2025-04-19阅读(2)

文章浏览阅读1.2k次，点赞19次，收藏24次。对于家养服务器购买建议是, 不要直接买准系统, 只买原装的主板和电源就够了, 机箱和风扇自己DIV, 因为原装考...

2025-04-18阅读(5)

文章浏览阅读797次。构建服务器镜像-t：命名镜像为。：仅构建服务器版本。-f：指定修改后的。：使用当前目录作为构建上下文。构建时间：10-20 分钟，取决于网...

2025-04-18阅读(4)

文章浏览阅读1.1w次，点赞31次，收藏70次。服务器Ubuntu22.04系统下 ollama的详细部署安装和搭配open_webui使用_ubuntu安装o...

2025-04-18阅读(4)

文章浏览阅读4.4k次，点赞51次，收藏36次。本文详细介绍了ollama的下载安装，如何在命令行下载，如何在本地下载上传服务器。以及环境变量的部署，以及如何拉...

2025-04-18阅读(5)