特性与技术规格

对于已经熟悉 LLM 应用技术栈的技术人士来说,这份文档将是您了解 Dify 独特优势的捷径。让您能够明智地比较和选择,甚至向同事和朋友推荐。

特性与技术规格 - 图1 在 Dify,我们采用透明化的产品特性和技术规格政策,确保您在全面了解我们产品的基础上做出决策。这种透明度不仅有利于您的技术选型,也促进了社区成员对产品的深入理解和积极贡献。

项目基础信息

项目设立 2023 年 3 月
开源协议 基于 Apache License 2.0 有限商业许可
官方研发团队 超过 10 名全职员工
社区贡献者 超过 60 人
后端技术 Python/Flask/PostgreSQL
前端技术 Next.js
代码行数 超过 13 万行
发版周期 平均每周一次

技术特性

LLM 推理引擎 Dify Runtime ( 自 v0.4 起移除了 LangChain)
商业模型支持 10 家,包括 OpenAI 与 Anthropic 新的主流模型通常在 48 小时内完成接入
MaaS 供应商支持 2 家,Hugging Face 与 Replicate
本地模型推理 Runtime 支持 4 家,Xoribits(推荐),OpenLLM,LocalAI,ChatGLM
多模态技术 ASR 模型 GPT-4V 规格的富文本模型
预置应用类型 文本生成型 对话型
Prompt 即服务编排 广受好评的可视化的 Prompt 编排界面,在同一个界面中修改 Prompt 并预览效果 编排模式 - 简易编排 - 高级编排 - Assistant 模式编排(2024一月推出) - Flow 模式编排(2024Q1 推出) Prompt 变量类型 - 字符串 - 单选枚举 - 外部 API - 文件(2024一月推出)
RAG 特性 首创的可视化的知识库管理界面,支持分段预览和召回效果测试。 索引方式 - 关键词 - 文本向量 - 由 LLM 辅助的问题-分段模式 检索方式 - 关键词 - 文本相似度匹配 - N 选 1 模式 - 多路召回 召回优化技术 - 使用 ReRank 模型
ETL 技术 支持对 TXT、Markdown、PDF、HTML、DOC、CSV 等格式文件进行自动清洗,内置的 Unstructured 服务开启后可获得最大化支持。 支持同步来自 Notion 的文档为知识库。
向量数据库支持 Qdrant(推荐),Weaviate,Zilliz
Agent 技术 ReAct,Function Call 工具支持 - 可调用 OpenAI Plugin 标准的工具(2023Q4 推出) - 可直接加载 OpenAPI Specification 的 API 作为工具 内置工具 - 3 款
日志 支持,可基于日志进行标注
标注回复 基于经人类标注的 Q&A 对,可用于相似度对比回复 可导出为供模型微调环节使用的数据格式
内容审查机制 OpenAI Moderation 或外部 API
团队协同 工作空间与多成员管理支持
API 规格 RESTful,已覆盖大部分功能
部署方式 Docker,Helm