真正的 ChatGPT 机器人,来了!

大家好!我是韩老师。


前段时间,我给大家分享了如何打造一个“ChatGPT 机器人”:从零开始,打造属于你的 ChatGPT 机器人!
但是,当时 OpenAI API 所提供的 text-davinci-003 model,是基于 GPT-3 的 model,不是 ChatGPT 所使用的  GPT-3.5 model,而且不支持聊天的上下文。

所以,这不能算是真正意义上的的“ChatGPT 机器人”。

不过这周,OpenAI 终于发布了 ChatGPT API 了:OpenAI逆天发布ChatGPT API!100万个单词才18元,价格打骨折

我也是第一时间基于真正的 ChatGPT API 撸了 真正的 ChatGPT Teams Bot:

与 ChatGPT 一样,他们都是基于最新的 gpt-3.5-turbo model,专门为聊天优化,能理解对话的上下文。

像上面的例子中,在我告诉 ChatGPT Teams Bot 我的名字之后,都就能记住我叫韩老师啦~


我这个机器人的代码完全开源,而且 clone 下来之后,可以很方便地根据 README 的步骤直接 F5 玩起来。大家有兴趣的,可以围观下:
https://github.com/formulahendry/chatgpt-teams-bot

 

 

不过呢,目前的 ChatGPT Teams Bot 是个很初步的版本,有一些 limitations,比如官方提供的 openai Node.js SDK 需要开发者自己拼接聊天记录。我就选择了第三方的 chatgpt Node.js SDK,不过他也只是把聊天记录存在内存中。


如此一来,我们会发现目前版本的一些问题:

1. chat history 是存储在内存中的,如果 Bot 重启了,chat history 会丢失,怎么解决?

2. 如果为了支持高并发,Bot 是部署在多个不同的 server 上的,如何保证 chat history 的一致性?

3. gpt-3.5-turbo model 有 4000 token 的限制,而且 input 也是算进去的,如何处理 chat history 超过限制的问题?

4. 如果 Bot 会被添加到多个 Teams 的聊天对话中,如何保证聊天 context 不相互干扰?


其实,对于以上的问题,我都有了很好的解决方案,但是由于我肚子太饿了,希望能筹集资金让我在下个星期四能疯狂一下!

 

大家可以先留言说说你的想法,然后再来看看我的答案,顺便 v我50。

我的答案:真正的 ChatGPT 机器人,来了!

 
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章