原创 OpenBuddy-LLaMA2-70B的三種部署方式
根據實際測試，加載模型需要130G顯存，最低需要4張A100*40G顯卡。 1.基於Transformers庫推理： 首先安裝最新版本的transformers： git clone https://github.com/huggingfa
2023-09-15 13:23:25
原创 Llama2模型預訓練，推理與微調測試
官方環境要求（推理、微調）： 本次部署使用單卡A100-40G顯卡。 部署 虛擬環境創建： conda create -n test python=3.10.9 conda activate test #啓動虛擬環境 拉取 Llama2-
2023-09-15 13:23:25
原创 GLM-130B 部署 - 8*3090-24G
官方文檔 鏡像要求A100-40G-8卡 硬件配置： 軟件配置： 1.準備 由於恆源雲暫時缺少硬件資源，此次部署使用8*3090-24G配置（需要量化int8）： 注意鏡像選擇，pytorch版本選擇1.13，不要選擇2.0，2.0
2023-09-15 13:23:25
原创 強化學習及過程監督學習筆記
寫在前面 筆者將在這篇文章中，寫下有關過程監督，反饋對齊，獎勵模型，和數據構造相關的論文的筆記。 論文主要來自Openai的論文。 問題坑 獎勵模型是如何輸出精確的標記的？在解決方案的每個標記後做出標量預測（具體細節？）。 論文挖坑列表
2023-06-12 13:23:22
2
原创 基於80C51單片機的出租車計費器設計
寫在前面 本文將詳細講解如何在Proteus中，使用80C51單片機，編寫彙編程序，實現出租車計費器，實現實時速度顯示，行使里程統計及費用統計，以及自動的清零。 該題包含兩個輸入和三個輸出，其中一個輸入是車輪轉動的更新信號，每更新一次代表車
2023-06-11 13:23:15
原创 80C51單片機機器碼的簡單總結
寫在前面 本文將記錄一些常見（也有不常見）的80C51單片機機器碼的簡單使用，不定期更新。 奇怪的寄存器 P1和P2是單片機對外連接的接口，可以輸出 TMOD是定時器模式設置的存儲器 TL0/TH0是定時器定時時間的設置存儲器 DPTR
2023-05-29 13:23:59
原创 chatglm-6b法律名詞數據訓練
整體流程於上一份微調文件基本一致，此份是詳細備份及關鍵說明： 1.處理文件 處理好法律名詞解釋爲json文件的格式，其中prompt column爲 content，response column 爲summary，如下： （如果KEY不是
2023-05-06 13:23:23
原创 chatglm-6b雲端微調
下載依賴 pip install rouge_chinese nltk jieba datasets 下載訓練數據集(示例) ADGEN 數據集任務爲根據輸入（content）生成一段廣告詞（summary）。 { "conten
2023-05-06 13:23:23
原创 ChatGLM-6B雲服務器部署（以恆源云爲例）
寫在前面： ChatGLM-6B 是一個開源的、支持中英雙語的對話語言模型，基於 General Language Model (GLM) 架構，具有 62 億參數，使用了和 ChatGPT 相似的技術，針對中文問答和對話進行了優化。由於其
2023-04-10 13:23:33
原创 如何使用OpenAI Fine-tuning API微調GPT-3模型
https://platform.openai.com/docs/guides/fine-tuning（官方文檔） 當我們使用語言模型時候，往往需要給多個例子供ai參考，才能給出更爲準確的回答，這種方法費時費力。而通過微調（Fin
2023-04-05 13:23:20
3
原创 算法設計與分析 Assignment 1(第一章)
什麼是算法？它有什麼特點? 算法是一組規則或過程，用於解決特定問題或完成特定任務。算法通常包括一系列的步驟和操作，可以將輸入數據轉換爲輸出數據。算法可以應用於各種領域，如計算機科學、數學、工程等，用於解決計算、優化、搜索、排序、加密等問題。
2023-03-31 13:23:32
原创 一些關於OpenAI的API的感想
寫在前面 經過半天的折騰，我終於實現了通過調用ChatGPT的API 下面是一些坑底的地方 1，Python必須是3.7.1以上的版本 2，安裝Openai的庫，得是0.27開頭的，如果是Python 3.6.3則可能只能安裝0.10以下的
2023-03-28 13:24:55
原创 解決Git Push至GitHub還是很慢或報錯的問題
問題描述 從本地提交代碼到 GitHub 遠程倉庫，由於 DNS 污染的問題，國內提交速度很慢，有時候還報錯。筆者自己花錢買了一個梯子，但開啓梯子的代理後仍然沒有解決問題，不過 Google 等倒是可以訪問了。 原因分析 雖然開啓了代理，但
2023-02-25 13:23:24
原创 doccano搭建小記
寫在前面 doccano是一個給文本進行一系列標記的數據標記平臺 下文將簡單描述如何搭建doccano，以及遇到的一些坑爹情況 基本環境信息 系統：windows 10 Python版本：3.6.3 （因爲是3.6的所以需要打補丁） 數據庫
2023-01-31 13:24:39
原创 一些POST的小總結
寫在前面 近期要寫一些後端相關的代碼，前端採用POST調用後端服務。 在此之前，本人並不知道POST是一個什麼東西，本文將簡單對POST進行介紹，並提供一個簡短的POST樣例 感謝ChatGPT，我是被ChatGPT教會的（這不比Googl
2023-01-21 13:23:29