香港三级片 Dify:完善生态、营救Ollama与土产货学问库、拖放式UI 构建Agent!

发布日期:2024-10-23 11:07    点击次数:175

香港三级片 Dify:完善生态、营救Ollama与土产货学问库、拖放式UI 构建Agent!

汤唯车震

图片香港三级片

原文连系(更好排版、视频播放、社群疏浚):https://mp.weixin.qq.com/s/zwSIyquN2P4IhKEQTa8RBQ

28.6k Star!Dify:完善生态、营救Ollama与土产货学问库、企业级拖放式UI构建AI Agent、API集成进业务!

原创 Aitrainee AI练习生

Dify 是一款开源的大谈话模子(LLM) 应用拓荒平台, 它和会了后端即办事和 LLMOps 的理念,使拓荒者不错快速搭建分娩级的生成式 AI 应用。

即使你长散工夫东谈主员,也能参与到 AI 应用的界说和数据运营过程中, 使用拖放式 UI 构 建 AI 应用尺度和 RAG 责任经过!

体验地址:https://cloud.dify.ai/apps为什么使用 Dify?

你概况不错把 LangChain 这类的拓荒库(Library)念念象为有着锤子、钉子的器用箱。与之比较,Dify 提供了更接近分娩需要的完竣决策,Dify 好比是一套脚手架,何况经过了精湛的工程筹谋和软件测试。

在可视化画布上构建和测试庞大的 AI 责任经过,哄骗以下通盘功能过头他功能。

咱们的社区用户对 Dify 的产物评价不错归结为不详、克制、迭代速即。——路宇,Dify.AI CEO

Dify 能作念什么?

Dify 一词源自 Define + Modify,意指界说何况不息的修订你的 AI 应用,它是为你而作念的(Do it for you)。

创业,快速的将你的 AI 应用创意变成现实,无论得胜和失败都需要加快。在真确天下,仍是有几十个团队通过 Dify 构建 MVP(最小可用产物)赢得投资,或通过 POC(倡导考证)赢得了客户的订单。

将 LLM 集成至已有业务,通过引入 LLM 增强现存应用的能力,接入 Dify 的 RESTful API 从而竣事 Prompt 与业务代码的解耦,在 Dify 的照顾界面是追踪数据、本钱和用量,不息修订应用恶果。

算作企业级 LLM 基础设施,一些银行和大型互联网公司正在将 Dify 部署为企业内的 LLM 网关,加快 GenAI 工夫在企业内的实行,并竣事中心化的监管。

探索 LLM 的能力鸿沟,即使你是一个工夫喜爱者,通过 Dify 也不错轻便的实践 Prompt 工程和 Agent 工夫,在 GPTs 推出当年就仍是有卓著 60,000 拓荒者在 Dify 上创建了我方的第一个应用。

学问库从 Notion 导入数据

Dify 数据集营救从 Notion 导入,并诞生 同步 使得数据在 Notion 更新后便自动同步到 Dify。

图片

通过 API 真贵数据集

Dify中存在学问库数据集的单独API,这与他的办事api不同,你不错单独的使用数据集的API:

图片

责任流

责任运动过将复杂的任务判辨成较小的才调,提高了 LLM 应用面向复杂任务的性能。

Dify 责任流按应用气象永诀为两种类型:

· Chatflow:面向多步逻辑的对话式应用尺度。

· Workflow:面向自动化和批处理气象,符合高质地翻译、数据分析、试验生成、电子邮件自动化等应用尺度。

· 常见案例 :

图片

官方文档中扎眼的先容了多样使用的节点,以及最终变成的责任流是营救导出的,浅近咱们团队互助。

图片

接入繁密LLM模子建立

Dify 现在已营救主流的模子供应商,举例 OpenAI 的 GPT 系列、Anthropic 的 Claude 系列等。

图片

模子建立教程:https://docs.dify.ai/v/zh-hans/guides/model-configuration

请检讨公众号往期著作(相关于免费OpenAI API调用的先容、部署容貌标时候如何进行API建立)

在 Dify 的 诞生 > 模子供应商 中诞生要接入的模子。

图片

建立完模子后,就不错在应用中使用这些模子了:

图片

除此之外,Dify关于多样基础LLM,进行庞大的兼容营救,五月桃色网营救多样土产货如ollama以选取三方的模子,致使营救你自界说的模子(需要我方重写类,和编写建立yaml)

图片

发布你的应用发布为公开 Web 站点

Dify还挺过劲,用它创建AI应用,几分钟就能弄出一个Web应用,用户径直用,多浅近。

发布AI站点 :

· 不管你是我方部署照旧用云办事,比如Udify.app,都能快速上线。· 在应用概览页里,找到阿谁AI站点(WebApp)的卡片,开启访谒,就有连系不错共享了。

共享应用 :

· 无论是文本生成照旧对话型应用,Dify都提供了颜面的WebApp界面。就像是应用的脸,看起来得漂亮。

诞生你的AI站点 :

· 点击WebApp卡片上的诞生,不错弄一些东西,比如图标、称号、应用神志、界面谈话、版权信息,还有诡秘战术连系。这些都是最终用户会看到的。

镶嵌你的AI站点 :

· Dify营救把你的AI应用镶嵌到你的买卖网站里。比如念念作念个AI客服或者问答系统,独一丝击WebApp的镶嵌按钮,复制阿谁镶嵌代码,然后粘贴到你网站的合适位置。· 用 iframe 标签,把代码放到网站的 <div> 、 <section> 这么的所在。· 或者用 script 标签,复制代码到网站的 <head> 或 <body> 中。

比如说,你把script代码粘贴到官网的 <body> 里,这么就能有个官网AI机器东谈主了。

图片

基于 APIs 拓荒

Dify API基于“后端即办事”的理念,它让通盘应用拓荒者都能轻便把大型谈话模子的能力塞到前端应用里。念念象一下,无谓搞复杂的后端架构,径直在前端惩办一切。

这Dify API的平正多着呢:

· 径直在前端安全调用LLM,免去一堆后端拓荒远程。· 筹谋应用时候,你看到的可视化界面,改啥都能及时反应到通盘客户端。· 照顾LLM供应商和密钥?都帮你封装得妥妥的,念念换就换。· 还有器用、插件、数据集不息更新,保证你的应用老是跟得上门径。

怎样用呢?不详得很:

1. 在应用的左侧导航找到“API Access”。2. 望望Dify提供的API文档,照顾下你的API左证。

念念具体操作望望吗?比如你是拓荒部的,要用公司的数据库给结尾用户提供AI能力,但你又不念念外东谈主摸清你的数据和AI逻辑。这时候,API密钥得后端调用,保证安全,驻守被亏损。

搞文本生成型应用?调用 completion-messages 接口,输入点什么,文本收尾就出来了。底下是个调用示例:

curl --location --request POST 'https://api.dify.ai/v1/completion-messages' --header 'Authorization: Bearer ENTER-YOUR-SECRET-KEY' --header 'Content-Type: application/json' --data-raw '{ 'inputs': {}, 'response_mode': 'streaming', 'user': 'abc-123' }'

或者是对话型应用,弃取一问一答模式,不息对话的那种。启动对话的API调用看这里:

curl --location --request POST 'https://api.dify.ai/v1/chat-messages' --header 'Authorization: Bearer ENTER-YOUR-SECRET-KEY' --header 'Content-Type: application/json' --data-raw '{
    'inputs': {},
    'query': 'eh',
    'response_mode': 'streaming',
    'conversation_id': '1c7e55fb-1ba2-4e10-81b5-30addcea2276'
    'user': 'abc-123'
}'

底下提供Dify官方的 文档先容、干系资源、部署教程 等,进一步营救你的活动,以擢升本文的匡助力。

快速入手

Dify 是一个开源的 LLM 应用拓荒平台。其直不雅的界面聚首了 AI 责任流、RAG 管谈、Agent、模子照顾、可不雅测性功能等,让您不错快速从原型到分娩。以下是其中枢功能列表:

1. 责任流 : 在画布上构建和测试功能庞大的 AI 责任经过,哄骗以下通盘功能以及更多功能。

https://github.com/langgenius/dify/assets/13230914/356df23e-1604-483d-80a6-9517ece318aa

2. 全面的模子营救 : 与数百种私有/开源 LLMs 以及数十种推理提供商和自托管解决决策无缝集成,涵盖 GPT、Mistral、Llama3 以及任何与 OpenAI API 兼容的模子。完竣的营救模子提供商列表可在 此处 找到。

图片

3. Prompt IDE : 用于制作教导、比较模子性能以及向基于聊天的应用尺度添加其他功能(如文本转语音)的直不雅界面。

4. RAG Pipeline : 平凡的 RAG 功能,涵盖从文档摄入到检索的通盘试验,营救从 PDF、PPT 和其他常见文档步地中索要文本的开箱即用的营救。

5. Agent 智能体 : 您不错基于 LLM 函数调用或 ReAct 界说 Agent,并为 Agent 添加预构建或自界说器用。Dify 为 AI Agent 提供了50多种内置器用,如谷歌搜索、DELL·E、Stable Diffusion 和 WolframAlpha 等。

6. LLMOps : 随期间监视和分析应用尺度日记和性能。您不错根据分娩数据和标注不息修订教导、数据集和模子。

7. 后端即办事 : 通盘 Dify 的功能都带有相应的 API,因此您不错轻便地将 Dify 集成到我方的业务逻辑中。

使用 Dify· 云咱们提供[ Dify 云办事]:(https://dify.ai),任何东谈主都不错零诞生尝试。它提供了自部署版块的通盘功能,并在沙盒规划中包含 200 次免费的 GPT-4 调用。· 自托管 Dify 社区版使用这个 初学指南 快速在您的环境中运行 Dify。使用咱们的[文档]:(https://docs.dify.ai)进行进一步的参考和更深切的讲明。· 面向企业/组织的 Dify咱们提供出奇的面向企业的功能。 与咱们安排会议 或 给咱们发送电子邮件 征询企业需求。

关于使用 AWS 的初创公司和中袖珍企业,请检讨 AWS Marketplace 上的 Dify 高档版 ,并使用一键部署到您我方的 AWS VPC。它是一个价钱实惠的 AMI 产物,提供了使用自界说徽标和品牌创建应用尺度的选项。

装配社区版系统条件

在装配 Dify 之前,请确保您的机器满足以下最低系统条件:

· CPU >= 2 Core· RAM >= 4GB快速启动

启动 Dify 办事器的最不详方法是运行咱们的 docker-compose.yml 文献。在运行装配号令之前,请确保您的机器上装配了 Docker 和 Docker Compose :

cd docker docker compose up -d

运行后,不错在浏览器上访谒 http://localhost/install 投入 Dify 礼貌台并入手运行化装配操作。

图片

使用 Helm Chart 部署

使用 Helm Chart 版块,不错在 Kubernetes 上部署 Dify。

· Helm Chart by @LeoQuote· Helm Chart by @BorisPolonsky建立

淌若您需要自界说建立,请参考咱们的 docker-compose.yml 文献中的凝视,并手动诞生环境建立。革新后,请再次运行 docker-compose up -d 。您不错在咱们的 文档 中检讨通盘环境变量的完竣列表。

参考连系:

[1] https://gi thub.com/langgenius/ dify/[2] h ttps://cloud.dify.ai/apps[3] https://docs.dify.ai/v/zh-hans/getting-started/

老友难求,自我修皆亦艰

收拢前沿工夫的机遇,与咱们通盘成为立异的超等个体

(把执AIGC时间的个东谈主力量)

— 完 —

点这里 原宥我,紧记标星哦~

一键三连「共享」、「点赞」和「在看」

科技前沿推崇日日相遇 ~香港三级片

本站仅提供存储办事,通盘试验均由用户发布,如发现存害或侵权试验,请点击举报。