
服务器上通过ollama部署deepseek
文章浏览阅读756次,点赞13次,收藏6次。执行ollama run deepseek-r1:32b就可以下载模型,下载完成出现下图这个命令行发送信息的提示就算...
文章浏览阅读756次,点赞13次,收藏6次。执行ollama run deepseek-r1:32b就可以下载模型,下载完成出现下图这个命令行发送信息的提示就算...
文章浏览阅读1k次,点赞20次,收藏18次。你是否曾为下载大文件时漫长的等待而感到抓狂?或者好奇一个 Web 服务器是如何从零开始响应你的浏览器请求的?网络编程...
文章浏览阅读6.7k次,点赞100次,收藏87次。在 Linux 系统中,进程和环境变量是操作系统的核心组成部分。进程优先级决定了资源分配的先后顺序,直接影响系...
文章浏览阅读825次,点赞10次,收藏28次。根据行业数据,AI推理服务器的性能差异可以达到10倍以上。比如,用普通服务器跑一个700亿参数的大模型,可能需要3...
文章浏览阅读658次,点赞14次,收藏21次。光有优化还不够,部署落地才是价值变现的关键一步。本篇将从工程实践角度,带你完整走一遍 TensorRT 在三大平台...
文章浏览阅读3.4k次,点赞36次,收藏14次。AI服务器是一种专门为人工智能应用设计的服务器,它采用异构形式的硬件架构,通常搭载GPU、FPGA、ASIC等加...
文章浏览阅读1.1k次,点赞9次,收藏2次。5 分钟搭建本地满血 DeepSeek-R1 模型_nextchat deepseek
文章浏览阅读3.3k次,点赞8次,收藏11次。通过实施这些综合措施,DeepSeek不仅能有效缓解服务器繁忙问题还能进一步提升平台的稳定性、安全性和用户体验,相...
文章浏览阅读4.9k次,点赞52次,收藏42次。随着人工智能技术的飞速发展,DeepSeek作为一款备受瞩目的AI模型,因其卓越的性能和开放的特性,迅速吸引了大...
文章浏览阅读993次,点赞16次,收藏12次。—Unsloth:我们探索了如何让更多的本地用户运行它,并设法将DeepSeek的R1 671B参数模型量化为13...