IT博客汇
  • 首页
  • 精华
  • 技术
  • 设计
  • 资讯
  • 扯淡
  • 权利声明
  • 登录 注册

    ChatGPT企业内服务化落地

    admin发表于 2023-04-15 02:00:59
    love 0

    作者: 小波、苇哥

    一、简介

    ChatGPT是一款基于GPT-3.5的人工智能聊天机器人,可以通过聊天对话的形式,为用户提供各种信息、答案、建议和娱乐等服务。用户可以随时与ChatGPT进行聊天,并获取实时的回复。ChatGPT的智能程度非常高,能够理解语义、语境和用户情感,从而更好地为用户提供服务。

    对于企业内来说,如何快速接入ChatGPT让企业内全员使用是个难题,本文旨在提供2种不同思路给企业内提供服务

    二、企业服务如何接入chatGPT

    ChatGPT通过上述能力瞬间风靡全网,这让人不禁有一个大胆的想法,将ChatGPT整合到我们工作常用的沟通工具上来提高我们的工作效率。

    2.1 飞书聊天机器人接入

    🔄上下文保留:私聊对话中自动继续同一话题讨论

    📝富文本卡片:支持富文本卡片回复,信息更丰富多彩

    💬多人群聊对话:群聊@机器人快速回复,高效连贯

    🌐 多token负载均衡:优化生产级别的高调用场景
    后端统一化配置了多个openAI key,轮询使用,确保可用性
  • key可用性检查,及时移除已经失效的key
  • 2.2 通过飞书网页应用接入

    机器人接入虽然大家使用方便,接入成本较低,但是因为机器人的一些限制,体验在和原版比较起来会有一些瑕疵。因此我们也实现了另一种服务方式,就是web版接入。web版可以提供接近官方原生交互方式的体验,同时对比机器人不支持流式传输,流式传输会使使用更加流畅。

    web版通过前端模仿了原版的web,后端则是对接了openAI的官方chatGPT接口,力求给使用者更接近官方的使用,同时接入了比较稳定的接口,省去了很多同事自行申请带来的麻烦和不便。做了统一接入后,可以让公司内同事开箱即用,免注册免登录,以最快的方式直接体验ChatGPT。

    ChatGPT在飞书网页应用上能做什么?

    在嵌入飞书工作台,快速点击进入

    主页面和官方原版尽量还原

    保留了官方的流式输出,输出的渲染尽可能还原官方

    保存对话记录&以及对话上下文识别

    三、技术实现

    1. 注册token&调用api

    以上功能实现的前提都是需要调用openAI官方的api,在调用 API 之前需要先在你的 Open AI 账户中生成一个 API Key https://platform.openai.com/account/api-keys

    之前官方给到的免费额度是 18 刀(目前是5刀),超过的部分就需要自己付费了。计费是根据 Token 来算的,至于什么是 Token,可以参考 https://platform.openai.com/docs/introduction/key-concepts

    官方的api调用手册 https://platform.openai.com/docs/api-reference

    2. 前后端实现

    对于机器人和web版网页应用,我们都是需要编写后端代码来实现我们的功能,本质上,无论是机器人和web版应用,都是统一把请求调用到我们后端,后端再去真正调openAI的接口进行请求。

    对于web版页面应用,我们还需要一个和官网效果类似的前端实现…

    PS: 最后这里分别提供一些飞书机器人和web版网页的后端开源实现,希望可以给读者阅读本文后达到一定的启发

    开源飞书机器人后端:

    • feishu-OpenAI:基于飞书的chatGPT 机器人后端 https://github.com/ConnectAI-E/feishu-OpenAI

    开源chatGPT后端:

    • node-chatgpt-api:使用nodejs编写的chatGPT后端。支持多种chatGPT调用实现 https://github.com/waylaidwanderer/node-chatgpt-api

    开源类chatGPT前端实现:

    • PandoraAI: 使用vue + Nuxt3 框架模仿chatGPT 样式搭建的前端实现,能直接配置后端 node-chatgpt-api 使用 https://github.com/waylaidwanderer/PandoraAI(前后端同一个作者)

    3. 目前我们仍在计划开发的功能:

    1. 语音翻译

    通过飞书发送语音,ChatGPT实现语音翻译功能

    2. 自由切换模式

    通过飞书消息卡片交互切换,进入不同的模式。例如可以切换图片生成模式。

    四、关于 ChatGPT 的思考

    ChatGPT 作为一款大型语言模型也还在不断的优化和迭代当中,相信未来会有更多的惊喜,能提供更好的服务和响应

    诚然,在未来的发展,更加趋向于智能化,很多机械的,简单重复的工作,自然而然是会被逐步替代的,这些都是必须得直面的,无法逃避

    我们更多的应该是以开放的心态,拥抱变化,向阳而生,不断的提升自己的核心竞争力,将自己作为一个产品来进行迭代和优化,将自己打造成一个伟大的产品岂不是很酷吗?



沪ICP备19023445号-2号
友情链接