开源模型提供类似openai的用户界面工具opengpts-人生就是博尊龙凯时

这是一项开源工作,旨在创造与 openai 的 gpt 类似的体验。它建立在 langchain、langserve 和 langsmith 之上。这使您可以更好地控制您使用的 llm(在 langchain 提供的 60 多个选项之间进行选择)、您使用的提示(使用 langsmith 来调试这些)以及您提供的工具(从langchain 的 100 多个工具,或者轻松编写自己的工具)。

在这里查看简单的托管版本

快速开始

1.启动后台

安装要求

cd backendpip install -r requirements.txt

默认情况下,它使用 openai,但也有 azure openai 和 anthropic 的选项。如果您使用这些,您可能需要设置不同的环境变量。

export openai_api_key="sk-..."

设置langsimth。这是可选的,但它将有助于调试、日志记录、监控。通过上面的链接注册,然后设置相关的环境变量

export langchain_tracing_v2="true"export langchain_api_key=...

启动后端服务器

langchain serve --port=8100

2.启动前端

cd frontendyarnyarn dev

导航到 http://localhost:5173/ 并享受吧!

特征

我们正在尽可能努力实现与 openai 的功能对等。

  • 沙箱 – 提供导入、测试和修改现有聊天机器人的环境。
    • 使用的聊天机器人都是代码,因此可以轻松编辑
  • 自定义操作 – 使用 openapi 规范为您的聊天机器人定义附加功能
    • 通过添加工具支持
  • 知识文件 – 附加聊天机器人可以参考的其他文件
    • 即将推出
  • 工具 – 提供网页浏览、图像创建等基本工具。
    • 默认启用基本 duckduckgo 和 pythonrepl 工具
    • 图像创建即将推出
  • 分析 – 查看和分析聊天机器人使用数据
    • 为此使用 langsmith
  •  drafts – 保存并共享您正在创建的聊天机器人的草稿
    • 支持保存配置
  • 发布 – 公开分发您完成的聊天机器人
    • 可以通过 langserve 进行部署
  • 共享 – 设置和管理聊天机器人共享
    • 可以通过 langserve 进行部署
  • 市场 – 搜索和部署其他用户创建的聊天机器人
    •  即将推出

代码结构

  • frontend :前端代码
  • backend :后端代码
    • agent-executor :代理的运行时
    • gizmo-agent :代理的配置
    • app :langserve 代码(用于公开 api)
    • packages :核心逻辑

定制化

与直接使用 openai 相比,opengpt 的最大吸引力在于它更具可定制性。具体来说,您可以选择要使用的语言模型以及更轻松地添加自定义工具。您还可以直接使用底层 api,并根据需要自行构建自定义 ui。

llms

您可以选择使用不同的llms。这利用了langchain的许多集成功能。值得注意的是,根据您使用的llms,您可能需要更改提示方式。

我们默认公开四种代理类型:

  • “gpt 3.5 turbo”
  • “gpt 4” “gpt 4”
  • “azure openai”
  • “claude 2”

当我们有信心它们能够很好地工作时,我们将努力添加更多。

如果您想添加自己的llm或代理配置,或者想编辑现有的llm或代理配置,您可以在 backend/packages/gizmo-agent/gizmo_agent/agent_types 中找到它们

claude 2

如果使用 claude 2,您将需要设置以下环境变量:

export anthropic_api_key=sk-...

azure openai

如果使用 azure openai,您将需要设置以下环境变量:

export openai_api_base=...export openai_api_version=...export openai_api_key=...export openai_deployment_name=...

工具

开源的一大好处是您可以更轻松地添加工具(直接在 python 中)。我们默认启用了两个工具:

  • duckduckgo search
  • python repl(注意:这会直接在您的环境中执行 python 代码,可能不安全)

在实践中,我们看到的大多数团队都定义了自己的工具。这在 langchain 中很容易做到。有关如何最好地执行此操作的详细信息,请参阅本指南。

项目链接

https://github.com/langchain-ai/opengpts

原创文章,作者:校长,如若转载,请注明出处:https://www.yundongfang.com/yun267409.html

(0)
打赏 微信扫一扫不于多少! 微信扫一扫不于多少! 支付宝扫一扫礼轻情意重 支付宝扫一扫礼轻情意重
上一篇 2023年11月23日
下一篇 2023年11月23日

相关推荐

网站地图