本地部署Dify并运行,私有化AI

1、首先要下载源码Dify

2、下载docker

3、在dify源码文件中找到docker文件,cmd之后输入启动docker-compose up -d ,关闭是down

4、浏览器输入http://localhost/apps 就成功了
在这里插入图片描述
设置好账号密码就可以登录了,
下面是我做了一个AI客服

配置一下工作流
在这里插入图片描述
5、当你想改启动的端口号的时候,需要在docker文件夹下找到docker-compose.yaml和.env.example文件找到80,全局替换,然后重新运行就可以了

6、本地下载大模型的话,可以使用ollama ,下载完成之后在cmd中运行,这样就成功安装了

在这里插入图片描述

7、在ollma官网找到然后相应的大模型在cmd执行复制的,后面下载速度变慢,可以退出,然后再进行下载,速度又快了
在这里插入图片描述
在ollama中配置好你下载的大模型名称
在这里插入图片描述
如果你想用通义大模型的话,得去阿里云上配置最后把API Key放到这就可以了
在这里插入图片描述
到这就算配置好了,然后这就能运行了,做个搜索啥的没啥问题

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值