自從最近微軟開源Semantic-kernel (SK) 來幫助開發人員在其應用程序中使用AI大型語言模型(LLM)以來,Microsoft一直在忙於改進它,發佈了有關如何使用它的新指南併發布了5篇文章介紹他的功能。
開發人員可以使用Semantic-kernel (SK) 創建自然語言提示、生成響應、提取信息、調用其他提示或執行可以用文本表示的其他任務。微軟在3月17日開源Semantic-kernel (SK)時,提示是項目描述的關鍵部分:“Semantic-kernel (SK)是一個輕量級SDK,可讓您將C#和Python等傳統編程語言與最新的大型語言模型(LLM)AI'提示'混合在一起,具有提示模板,鏈接和規劃功能。
微軟將更好的提示列爲SK的四個關鍵優勢之一:
- 快速集成:SK旨在嵌入任何類型的應用程序中,使您可以輕鬆測試和運行LLM AI。
- 擴展:藉助 SK,您可以連接外部數據源和服務,使其應用程序能夠將自然語言處理與實時信息結合使用。
- 更好的提示:SK的模板化提示可讓您使用有用的抽象和機制快速設計語義函數,以釋放LLM AI的潛力。
- 新奇但熟悉:傳統編程語言代碼始終可供您作爲一流的合作伙伴,幫助您快速完成工程設計,可以兩全其美。
微軟(3月30日)發佈了一篇題爲“Semantic-kernel 規劃器:嵌入和語義記憶的改進”[1]文章,詳細介紹了該項目規劃器技能的[2]改進,允許用戶根據語義查詢創建和執行計劃。這篇文章解釋了最近的調整,使規劃器技能更加通用。
調整涉及將嵌入集成到 Planner 技能中,以增強其可用性和功能。嵌入[3]是數字向量或數組,表示模型處理的令牌的含義和上下文。嵌入用於編碼和解碼輸入和輸出文本,可以幫助LLM理解令牌之間的關係並生成相關且連貫的文本。它們用於文本分類、摘要、翻譯和生成,包括圖像和代碼生成。
微軟在文章中說到:“隨着Semantic-kernel 在Alpha階段的發展,我們將優先考慮使用嵌入進行規劃創建的其他方法,這些方法將更加強大,” ,3月22日還有一篇文章“Semantic-kernel 嵌入和記憶:使用聊天UI探索GitHub Repos”[4] ,文章中進行了展示了嵌入,該文章解釋了他們如何幫助開發人員提出有關GitHub存儲庫的問題或使用自然語言查詢探索GitHub存儲庫。與嵌入一起,這是在SK存儲器[5](嵌入集合)的幫助下完成的,這有助於爲提示(或SK世界中的ASK)提供更廣泛的上下文。
這篇文章重點介紹了一個示例應用程序GitHub Repo Q&A Bot[5],它展示了開發人員如何使用SK函數下載任何GitHub存儲庫,將其存儲在內存(嵌入集合)中,並使用聊天UI進行查詢。
微軟表示,該示例可用作存儲和查詢項目的指南,例如:
- 大型內部程序手冊
- 學生教育材料
- 公司合同
- 產品文檔
微軟在週一還有一篇題爲“如何在幾分鐘內將Semantic-kernel 部署到Azure” [6]的文章,這是通過Azure Function完成的,Azure Function是微軟的Serverless 計算服務,允許用戶在不管理服務器或基礎設施的情況下運行代碼。該演示使用的是 Visual Studio Code,需要安裝 Azure Tools [7]擴展。
如果你一直在關注Semantic-kernel 的GitHub倉庫 :https://github.com/microsoft/semantic-kernel/ [8],可以看到自從開源以來,star的增長非常快,目前已經有3717個star,並且各項功能的開發也在緊鑼密鼓的進行之中,正在添加對其他LLM 模型支持,例如例子 https://github.com/microsoft/semantic-kernel/tree/main/samples/apps/hugging-face-http-server[9],這也是第一個Python語言的例子 ,還有更多的語言支持在進行當中。
相關鏈接:
- [1] Semantic-kernel 規劃器:嵌入和語義記憶的改進: https://devblogs.microsoft.com/semantic-kernel/semantic-kernel-planner-improvements-with-embeddings-and-semantic-memory/
- [2]規劃器技能 :https://learn.microsoft.com/en-us/semantic-kernel/concepts-sk/planner
- [3]嵌入:https://learn.microsoft.com/en-us/semantic-kernel/concepts-ai/embeddings
- [4]Semantic-kernel 嵌入和記憶:使用聊天UI探索GitHub Repos: https://devblogs.microsoft.com/semantic-kernel/semantic-kernel-embeddings-and-memories-explore-github-repos-with-chat-ui/
- [5]GitHub Repo Q&A Bot:https://aka.ms/sk/repo/samples/github-repo-qa-bot
- [6]如何在幾分鐘內將Semantic-kernel 部署到Azure: https://devblogs.microsoft.com/semantic-kernel/how-to-deploy-semantic-kernel-to-azure-in-minutes/
- [7] Azure Tools: https://marketplace.visualstudio.com/items?itemName=ms-vscode.vscode-node-azure-pack
- [8]Semantic-kernel 的GitHub倉庫 :https://github.com/microsoft/semantic-kernel/
- [9]LLM模型 huggine-face: https://github.com/microsoft/semantic-kernel/tree/main/samples/apps/hugging-face-http-server