真正的 ChatGPT 機器人,來了!

大家好!我是韓老師。


前段時間,我給大家分享瞭如何打造一個“ChatGPT 機器人”:從零開始,打造屬於你的 ChatGPT 機器人!
但是,當時 OpenAI API 所提供的 text-davinci-003 model,是基於 GPT-3 的 model,不是 ChatGPT 所使用的  GPT-3.5 model,而且不支持聊天的上下文。

所以,這不能算是真正意義上的的“ChatGPT 機器人”。

不過這周,OpenAI 終於發佈了 ChatGPT API 了:OpenAI逆天發佈ChatGPT API!100萬個單詞才18元,價格打骨折

我也是第一時間基於真正的 ChatGPT API 擼了 真正的 ChatGPT Teams Bot:

與 ChatGPT 一樣,他們都是基於最新的 gpt-3.5-turbo model,專門爲聊天優化,能理解對話的上下文。

像上面的例子中,在我告訴 ChatGPT Teams Bot 我的名字之後,都就能記住我叫韓老師啦~


我這個機器人的代碼完全開源,而且 clone 下來之後,可以很方便地根據 README 的步驟直接 F5 玩起來。大家有興趣的,可以圍觀下:
https://github.com/formulahendry/chatgpt-teams-bot

 

 

不過呢,目前的 ChatGPT Teams Bot 是個很初步的版本,有一些 limitations,比如官方提供的 openai Node.js SDK 需要開發者自己拼接聊天記錄。我就選擇了第三方的 chatgpt Node.js SDK,不過他也只是把聊天記錄存在內存中。


如此一來,我們會發現目前版本的一些問題:

1. chat history 是存儲在內存中的,如果 Bot 重啓了,chat history 會丟失,怎麼解決?

2. 如果爲了支持高併發,Bot 是部署在多個不同的 server 上的,如何保證 chat history 的一致性?

3. gpt-3.5-turbo model 有 4000 token 的限制,而且 input 也是算進去的,如何處理 chat history 超過限制的問題?

4. 如果 Bot 會被添加到多個 Teams 的聊天對話中,如何保證聊天 context 不相互干擾?


其實,對於以上的問題,我都有了很好的解決方案,但是由於我肚子太餓了,希望能籌集資金讓我在下個星期四能瘋狂一下!

 

大家可以先留言說說你的想法,然後再來看看我的答案,順便 v我50。

我的答案:真正的 ChatGPT 機器人,來了!

 
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章