原创 使用純c#在本地部署多模態模型，讓本地模型也可以理解圖像
之前曾經分享過純c#運行開源本地大模型Mixtral-8x7B 當時使用的是llamasharp這個庫和Mixtral的模型在本地部署和推理，前段時間我看到llamasharp更新到了0.11.1版本，可以支持今年2月份開源的 llava-
2024-04-20 14:06:31
原创 純c#運行開源本地大模型Mixtral-8x7B
先看效果圖，這是一個比較典型的邏輯推理問題，以下是本地運行的模型和openai gpt3.5的推理對比 本地運行Mixtral-8x7B大模型： chatgpt3.5的回答： 關於Mixtral 8x7B這個就不多介紹了，但凡在關注
2024-01-27 14:07:28
1
原创 基於ChatGPT函數調用來實現C#本地函數邏輯鏈式調用助力大模型落地
6 月 13 日 OpenAI 官網突然發佈了重磅的 ChatGPT 更新，我相信大家都看到了 ，除了調用降本和增加更長的上下文版本外，開發者們最關心的應該還是新的函數調用能力。通過這項能力模型在需要的時候可以調用函數並生成對應的 JS
2023-06-20 14:06:14
1
原创 C#使用詞嵌入向量與向量數據庫爲大語言模型(LLM)賦能長期記憶實現私域問答機器人落地之openai接口平替
------------恢復內容開始------------ 在上一篇文章中我們大致講述了一下如何通過詞嵌入向量的方式爲大語言模型增加長期記憶，用於落地在私域場景的問題。其中涉及到使用openai的接口進行詞嵌入向量的生成以及chat模型的
2023-05-25 14:05:12
原创 C#使用詞嵌入向量與向量數據庫爲大語言模型(LLM)賦能長期記憶實現私域問答機器人落地
本文將探討如何使用c#開發基於大語言模型的私域聊天機器人落地。大語言模型（Large Language Model，LLM 這裏主要以chatgpt爲代表的的文本生成式人工智能）是一種利用深度學習方法訓練的能夠生成人類語言的模型。這種模
2023-05-10 14:05:19
原创 Stable Diffusion WebUI Model 加載個人筆記
參考1：https://www.bilibili.com/read/cv20039815 參考2：https://blog.cmyr.ltd/archives/e740aac.html 服務器：阿里雲AI機器學習V100計算卡 OS：win
2023-02-01 14:06:21
1
原创 【c#】分享一個簡易的基於時間輪調度的延遲任務實現
在很多.net開發體系中開發者在面對調度作業需求的時候一般會選擇三方開源成熟的作業調度框架來滿足業務需求，比如Hangfire、Quartz.NET這樣的框架。但是有些時候可能我們只是需要一個簡易的延遲任務，這個時候引入這些
2022-12-31 14:05:19
原创 c#通過表達式樹優雅的實現分組取TopN筆記
需要引入nuget包來實現ef.functions調用row_number Thinktecture.EntityFrameworkCore.SqlServer 調用方式： //順排 context.Table.GroupBySort
2022-08-26 14:12:02
原创 通過Dapr實現一個簡單的基於.net的微服務電商系統(二十)——Saga框架實現思路分享
今天這篇博文的主要目的是分享一下我設計Saga的實現思路來拋磚引玉，其實Saga本身非常的類似於一個簡單的工作流體系，相比工作流不一樣的部分在於它沒有工作流的複雜邏輯處理機制(比如會籤)，沒有條件分支機制，相對工作流不同的部分在於工作流
2022-02-26 14:08:01
原创 通過Dapr實現一個簡單的基於.net的微服務電商系統(十九)——分佈式事務之Saga模式
在之前的系列文章中聊過分佈式事務的一種實現方案，即通過在集羣中暴露actor服務來實現分佈式事務的本地原子化。但是actor服務本身有其特殊性，場景上並不通用。所以今天來講講分佈式事務實現方案之saga模式，並在文後附上代碼供各位讀者參考，
2022-02-19 14:06:12
原创 淺談.net core如何使用EFCore爲一個上下文注類型注入多個實例用於連接主從數據庫
在很多一主多從數據庫的場景下，很多開發同學爲了複用DbContext往往採用創建一個包含所有DbSet<Model>父類通過繼承派生出Write和ReadOnly類型來實現，其實可以通過命名注入來實現一個類型註冊多個實例來實現。下面來用代碼
2022-02-14 14:06:43
2
原创 通過Dapr實現一個簡單的基於.net的微服務電商系統(十八)——服務保護之多級緩存
很久沒有更新dapr系列了。今天帶來的是一個小的組件集成，通過多級緩存框架來實現對服務的緩存保護，依舊是一個簡易的演示以及對其設計原理思路的講解，歡迎大家轉發留言和star 目錄：一、通過Dapr實現一個簡單的基於.net的微服務電商系
2022-01-26 14:05:28
原创 通過dotnet-dump分析生產環境docker容器部署的應用問題
首先找到對應的docker id並exec進去，然後執行命令並更新apt包+下載procps和wget用於等下拉取dotnet-dump和查看線程 sed -i -e "[email protected]@mirrors.163.com@g
2022-01-14 14:05:28
原创 使用.net6 WebApplication打造最小API
.net6在preview4時給我們帶來了一個新的API：WebApplication，通過這個API我們可以打造更小的輕量級API服務。今天我們來嘗試一下如何使用WebApplication設計一個小型API服務系統。 環境準備
2021-07-09 12:51:25
原创 k8s筆記——NodePort暴露nginx-controller實現https自動跳轉自定義nodePort端口
安裝nginx-controller並暴露nodePort helm repo add ingress-nginx https://kubernetes.github.io/ingress-nginx/ helm repo update
2021-06-24 12:51:22