让大模型给服务器打工：我用LangChain+GLM4搞了个AI运维工具

最近公司实在是太忙，项目复杂度也不断提升。然而，在我们的团队中，越来越多的时间和精力被分散到了繁琐的运维工作中。无论是服务器配置、环境部署，还是日常监控和问题排查，这些任务往往占据了开发人员大量宝贵的时间。

这种现象让我们不得不思考：如何才能让开发人员专注于创新和编码，而不是被运维琐事束缚？

灵感：AI能否成为开发者的得力助手？

随着人工智能技术的飞速发展，我们看到了一个全新的可能性——利用AI来辅助甚至接管部分运维工作。事实上，市面上已经有许多优秀的AI工具，如Cursor、Cline、windsurf等，它们不仅能够帮助开发者生成代码，还能提供智能化的解决方案，提升工作效率。然而，要让他们理解我们相对复杂的项目结构，需要不断的调整cursorrules，或者通过输入很长的提示词来交代项目背景，这其实并不那么智能。

于是，我开始探索如何将AI融入到我们的开发流程中，特别是在处理复杂的运维任务时，把我们复杂项目的结构内化到我自己开发的应用中，让AI成为我们自己专属的“虚拟运维工程师”。

实践：基于LangChain与ZhipuAI的智能运维方案

为了验证这一想法，我尝试结合LangChain框架和智谱旗下的GLM-4模型，打造了一个智能运维系统。今天是我的第一步，一个用于LangChain的智能ssh工具，LangChain可以通过tool_call来调用该工具，为以后系统化的智能体团队奠定基础。

以下是具体实现思路和代码示例：

1. 环境准备

首先，我们需要加载必要的环境变量，包括API密钥、SSH连接信息等。这部分通过Python的dotenv库完成，确保敏感信息的安全性。

load_dotenv()
print("\\n=== 环境变量 ===")
print(f"ZHIPUAI_API_KEY: {'*' * 8}{os.getenv('ZHIPUAI_API_KEY')[-4:] if os.getenv('ZHIPUAI_API_KEY') else 'Not Set'}")

2. 初始化LLM模型

接下来，我们初始化ZhipuAI模型，设置参数如模型名称、温度值（temperature）、Top P等，以满足不同场景下的需求。

llm = ChatZhipuAI(
model_name="glm-4",
temperature=0.5,
top_p=0.7,
api_key=os.getenv("ZHIPUAI_API_KEY"),
verbose=True
)

3. 配置Agent工具

为了实现自动化运维，我们引入了SSHTool作为工具之一，并通过LangChain的initialize_agent方法创建了一个智能代理（Agent）。这个Agent能够根据用户输入自动生成并执行相应的命令。

tools = [SSHTool()]
agent = initialize_agent(
tools,
llm,
agent=AgentType.STRUCTURED_CHAT_ZERO_SHOT_REACT_DESCRIPTION,
handle_parsing_errors=True,
verbose=True
)

具体的工具实现，是实现了一个 SSHTool 工具类，基于 LangChain 框架和 Paramiko 库，用于在远程服务器上执行 SSH 命令。它通过定义输入参数模型 SSHCommandInput 来支持灵活的命令配置，并从环境变量中加载默认连接信息（如主机、用户名、密码等）。核心逻辑由_run方法实现，负责建立 SSH 连接、执行命令并返回结果或错误信息。该工具可轻松集成到自动化运维流程中，显著提升效率。

image.png

4. 用户交互与命令执行

最后，我们设计了一个简单的循环界面，让用户可以实时输入需要执行的操作。Agent会解析用户的请求，并调用SSH工具完成具体的任务。

while True:
user_input = input("\\n请输入要在服务器上执行的操作（输入 'quit' 退出）: ")
if user_input.lower() == 'quit':
break

result = agent.invoke({"input": user_input})
# 根据结果进一步处理…

成果：从繁琐运维到高效开发

最终的效果如下，只要提前把主机地址、用户名、密码等信息写入环境变量，它就可以根据用户输入的内容自动生成要执行的命令，并执行，把结果返回给用户。

你可以看到它是有思考过程的，是不是有点deepseek的那个味儿了？因为LangChain自动集成了REACT框架，所以，它是有思考的。

image.png

目前的这个还只是一个demo，仅仅能智能生成命令，并控制远程主机执行命令，但这只是第一步，有了这一步基础，后面就有可能将许多重复性、低价值的运维工作交给了AI来完成。例如：

• 自动化服务器配置和环境部署；
• 实时监控和告警处理；
• 快速定位并修复常见问题。

如果完善成功，这不仅可以大幅降低了运维成本，还让开发人员有更多时间专注于核心业务逻辑的开发，从而提升了整体效率。

我是加加，十年编程老兵，全栈技术领航者，现专注大模型与AI独立开发。

我不仅是技术的探索者，更是梦想的引路人。

加入我的AI独立开发社群，让我们一起驾驭AI，解锁独立开发的无限潜力，共创技术新纪元。

我在前行的路上，等你一起飞跃。

如何零基础入门 / 学习AI大模型？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

想正式转到一些新兴的 AI 行业，不仅需要系统的学习AI大模型。同时也要跟已有的技能结合，辅助编程提效，或上手实操应用，增加自己的职场竞争力。

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高

那么我作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，希望可以帮助到更多学习大模型的人！至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

👉 福利来袭CSDN大礼包：《2025最全AI大模型学习资源包》免费分享，安全可点 👈

全套AGI大模型学习大纲+路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

👉学会后的收获：👈 • 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉 福利来袭CSDN大礼包：《2025最全AI大模型学习资源包》免费分享，安全可点 👈

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】 作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。