政安晨的个人主页:政安晨
欢迎 👍点赞✍评论⭐收藏
希望政安晨的博客能够对您有所裨益,如有不足之处,欢迎在评论区提出指正!
我们开发嵌入式人工智能产品,如果有趁手的本地后端服务框架配合确实会事半功倍,我们这就开始部署我们自己本地的嵌入式终端硬件的AI服务后端。
目录
项目介绍
项目地址
开始部署
下载源码
建立虚拟环境
下载模型文件
配置项目文件
启动服务
配置嵌入式终端
完成
项目介绍
本项目为开源智能硬件项目 xiaozhi-esp32提供后端服务。
开源不仅是一种态度,在现在人工智能崛起的时代里,也成为了一种制衡,笔者二十年来一直热爱着开源、探索着开源,也是开源给了笔者持续做项目的力量,而笔者也是在尽自己力量助力开源世界。
相信,时代的力量。
该项目已经实现的功能:
具体功能详见项目里的说明。
项目地址
https://github.com/xinnan-tech/xiaozhi-esp32-server
开始部署
我这里使用源码方式部署:
下载源码
git clone git@github.com:xinnan-tech/xiaozhi-esp32-server.git
建立虚拟环境
conda create -n xiaozhi-esp32-server python=3.10.16 -y
建议预留10G左右的空间。
激活环境:
进入项目源码目录:
进入依赖文件所在目录:
cd main/xiaozhi-server
接下来安装依赖库。
先执行:
conda install libopus -y
conda install ffmpeg -y
安装传输与解码库之后,再执行其它库的依赖安装:
pip install -r requirements.txt
为了安装快一点,在执行依赖安装前,先执行:
pip config set global.index-url https://mirrors.aliyun.com/pypi/simple/
设置一下阿里云的镜像。
下载模型文件
本项目语音识别模型,默认使用`SenseVoiceSmall`模型,进行语音转文字。因为模型较大,需要独立下载,下载后把`model.pt`
文件放在`models/SenseVoiceSmall`
阿里魔塔下载[SenseVoiceSmall](https://modelscope.cn/models/iic/SenseVoiceSmall/resolve/master/model.pt)
配置项目文件
进入项目源码中xiaozhi-server的data目录。
如果你的`xiaozhi-server`目录没有`data`,你需要创建`data`目录。
如果你的`data`下面没有`.config.yaml`文件,你可以把`xiaozhi-server`目录下的`config.yaml`文件复制到`data`,并重命名为`.config.yaml`
你应该做成这样的:
打开这个配置文件:
vim .config.yaml
类似这样的:
找到这些位置,修改为你要用到的模型:
这里会稍微繁琐一点,你可能还需要去已申请一些密钥。
配置好之后,就可以启动服务了。
启动服务
在xiaozhi-server目录下执行:
python app.py
待服务完全启动:
记住这个地址,我们接下来在嵌入式终端的配置中使用。
如果经常更新一下服务器的库:
sudo apt update
有时连接 apt库会失败,那么修改成阿里云的代理:
sed -i 's|cn.archive.ubuntu.com|mirrors.aliyun.com|g' /etc/apt/sources.list
(将apt更新库修改为阿里云的代理)
配置嵌入式终端
idf.py menuconfig
完成
这部分不知道怎么干的小伙伴去看我前几篇的文章。
现在,重新编译嵌入式端:
idf.py build
你就可以享受完整的AI实体对话服务啦。
祝你成功!
评论前必须登录!
注册