特性与技术规格
对于已经熟悉 LLM 应用技术栈的技术人士来说,这份文档将是您了解 Dify 独特优势的捷径。让您能够明智地比较和选择,甚至向同事和朋友推荐。
在 Dify,我们采用透明化的产品特性和技术规格政策,确保您在全面了解我们产品的基础上做出决策。这种透明度不仅有利于您的技术选型,也促进了社区成员对产品的深入理解和积极贡献。
项目基础信息
技术特性
LLM 推理引擎
|
Dify Runtime ( 自 v0.4 起移除了 LangChain)
|
商业模型支持
|
10 家,包括 OpenAI 与 Anthropic
新的主流模型通常在 48 小时内完成接入
|
MaaS 供应商支持
|
2 家,Hugging Face 与 Replicate
|
本地模型推理 Runtime 支持
|
4 家,Xoribits(推荐),OpenLLM,LocalAI,ChatGLM
|
多模态技术
|
ASR 模型
GPT-4V 规格的富文本模型
|
预置应用类型
|
文本生成型 对话型
|
Prompt 即服务编排
|
广受好评的可视化的 Prompt 编排界面,在同一个界面中修改 Prompt 并预览效果
编排模式
-
简易编排
-
高级编排
-
Assistant 模式编排(2024一月推出)
-
Flow 模式编排(2024Q1 推出)
Prompt 变量类型
-
字符串
-
单选枚举
-
外部 API
-
文件(2024一月推出)
|
RAG 特性
|
首创的可视化的知识库管理界面,支持分段预览和召回效果测试。 索引方式
-
关键词
-
文本向量
-
由 LLM 辅助的问题-分段模式
检索方式
-
关键词
-
文本相似度匹配
-
N 选 1 模式
-
多路召回
召回优化技术
-
使用 ReRank 模型
|
ETL 技术
|
支持对 TXT、Markdown、PDF、HTML、DOC、CSV 等格式文件进行自动清洗,内置的 Unstructured 服务开启后可获得最大化支持。
支持同步来自 Notion 的文档为知识库。
|
向量数据库支持
|
Qdrant(推荐),Weaviate,Zilliz
|
Agent 技术
|
ReAct,Function Call
工具支持
-
可调用 OpenAI Plugin 标准的工具(2023Q4 推出)
-
可直接加载 OpenAPI Specification 的 API 作为工具
内置工具
-
3 款
|
日志
|
支持,可基于日志进行标注
|
标注回复
|
基于经人类标注的 Q&A 对,可用于相似度对比回复 可导出为供模型微调环节使用的数据格式
|
内容审查机制
|
OpenAI Moderation 或外部 API
|
团队协同
|
工作空间与多成员管理支持
|
API 规格
|
RESTful,已覆盖大部分功能
|
部署方式
|
Docker,Helm
|