Dify 知识库本地部署:如何接入兼容 OpenAI 格式的外部 API?
自建 Dify 后,在「模型供应商」中添加 OpenAI-API-compatible,对接国内中转网关,让知识库与 Agent 稳定调用大模型。
架构说明
用户 → Dify (Docker) → OpenAI Compatible API → 上游模型 (Claude/GPT/DeepSeek)
Dify 不关心上游是谁,只要兼容 /v1/chat/completions。
第二步:部署 Dify(Docker Compose)
git clone https://github.com/langgenius/dify.git
cd dify/docker
cp .env.example .env
docker compose up -d
浏览器访问 http://localhost/install 完成初始化管理员。
第三步:添加模型供应商
- 进入 设置 → 模型供应商
- 选择 OpenAI-API-compatible(或 OpenAI 兼容)
- 填写:
| 字段 | 值 |
|---|---|
| API endpoint | https://api.jiesou.ai/v1 |
| API Key | 你的 Key |
| 模型名称 | 如 deepseek-chat |
- 点击 保存 → 测试连接
第四步:在应用中使用
- 知识库:嵌入模型若也需外接,选同一供应商的
text-embedding-*模型(若面板支持) - Chatflow / Agent:在节点里选择刚添加的模型
- 建议:生产环境为 RAG 与对话使用不同模型(嵌入用小模型,对话用 DeepSeek/Claude)
排错清单
| 现象 | 处理 |
|---|---|
| 401 | Key 错误或过期 |
| 404 model | 模型 ID 与面板不一致 |
| 超时 | 调大 Dify 环境变量中的 HTTP 超时;检查服务器出网 |