微軟博客上幾篇 Semantic-kernel (SK)文章

自從最近微軟開源Semantic-kernel (SK) 來幫助開發人員在其應用程序中使用AI大型語言模型(LLM)以來,Microsoft一直在忙於改進它,發佈了有關如何使用它的新指南併發布了5篇文章介紹他的功能。

開發人員可以使用Semantic-kernel (SK) 創建自然語言提示、生成響應、提取信息、調用其他提示或執行可以用文本表示的其他任務。微軟在3月17日開源Semantic-kernel (SK)時,提示是項目描述的關鍵部分:“Semantic-kernel  (SK)是一個輕量級SDK,可讓您將C#和Python等傳統編程語言與最新的大型語言模型(LLM)AI'提示'混合在一起,具有提示模板,鏈接和規劃功能。

微軟將更好的提示列爲SK的四個關鍵優勢之一:

  • 快速集成:SK旨在嵌入任何類型的應用程序中,使您可以輕鬆測試和運行LLM AI。
  • 擴展:藉助 SK,您可以連接外部數據源和服務,使其應用程序能夠將自然語言處理與實時信息結合使用。
  • 更好的提示:SK的模板化提示可讓您使用有用的抽象和機制快速設計語義函數,以釋放LLM AI的潛力。
  • 新奇但熟悉:傳統編程語言代碼始終可供您作爲一流的合作伙伴,幫助您快速完成工程設計,可以兩全其美。

微軟(3月30日)發佈了一篇題爲“Semantic-kernel  規劃器:嵌入和語義記憶的改進”[1]文章,詳細介紹了該項目規劃器技能的[2]改進,允許用戶根據語義查詢創建和執行計劃。這篇文章解釋了最近的調整,使規劃器技能更加通用。

image

調整涉及將嵌入集成到 Planner 技能中,以增強其可用性和功能。嵌入[3]是數字向量或數組,表示模型處理的令牌的含義和上下文。嵌入用於編碼和解碼輸入和輸出文本,可以幫助LLM理解令牌之間的關係並生成相關且連貫的文本。它們用於文本分類、摘要、翻譯和生成,包括圖像和代碼生成。

微軟在文章中說到:“隨着Semantic-kernel 在Alpha階段的發展,我們將優先考慮使用嵌入進行規劃創建的其他方法,這些方法將更加強大,” ,3月22日還有一篇文章“Semantic-kernel 嵌入和記憶:使用聊天UI探索GitHub Repos”[4] ,文章中進行了展示了嵌入,該文章解釋了他們如何幫助開發人員提出有關GitHub存儲庫的問題或使用自然語言查詢探索GitHub存儲庫。與嵌入一起,這是在SK存儲器[5](嵌入集合)的幫助下完成的,這有助於爲提示(或SK世界中的ASK)提供更廣泛的上下文。

image

這篇文章重點介紹了一個示例應用程序GitHub Repo Q&A Bot[5],它展示了開發人員如何使用SK函數下載任何GitHub存儲庫,將其存儲在內存(嵌入集合)中,並使用聊天UI進行查詢。

微軟表示,該示例可用作存儲和查詢項目的指南,例如:

  • 大型內部程序手冊
  • 學生教育材料
  • 公司合同
  • 產品文檔

微軟在週一還有一篇題爲“如何在幾分鐘內將Semantic-kernel 部署到Azure” [6]的文章,這是通過Azure Function完成的,Azure Function是微軟的Serverless 計算服務,允許用戶在不管理服務器或基礎設施的情況下運行代碼。該演示使用的是 Visual Studio Code,需要安裝 Azure Tools [7]擴展。

如果你一直在關注Semantic-kernel  的GitHub倉庫 :https://github.com/microsoft/semantic-kernel/ [8],可以看到自從開源以來,star的增長非常快,目前已經有3717個star,並且各項功能的開發也在緊鑼密鼓的進行之中,正在添加對其他LLM 模型支持,例如例子 https://github.com/microsoft/semantic-kernel/tree/main/samples/apps/hugging-face-http-server[9],這也是第一個Python語言的例子 ,還有更多的語言支持在進行當中。

image

相關鏈接:

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章