原创 如何實現圖像搜索,文搜圖,圖搜圖,CLIP+faiss向量數據庫實現圖像高效搜索

  如何實現圖像搜索,文搜圖,圖搜圖,CLIP+faiss向量數據庫實現圖像高效搜索 這是AIGC的時代,各種GPT大模型生成文本,還有多模態圖文並茂大模型, 以及stable diffusion和stable video diffusio

原创 使用單卡qlora混合精度訓練大模型chatGLM2-6b,解決qlora loss變成nan的問題!

  最近新換了工作,以後的工作內容會和大模型相關,所以先抽空跑了一下chatGLM2-6b的demo,使用Qlora或lora微調模型 今天簡單寫個文檔記錄一下,順便也是一個簡單的教程,並且踩了qlora loss變成nan訓練不穩定的問題

原创 我用numpy實現了VIT,手寫vision transformer, 可在樹莓派上運行,在hugging face上訓練模型保存參數成numpy格式,純numpy實現

先複製一點知乎上的內容   按照上面的流程圖,一個ViT block可以分爲以下幾個步驟 (1) patch embedding:例如輸入圖片大小爲224x224,將圖片分爲固定大小的patch,patch大小爲16x16,則每張圖像會生

原创 我用numpy實現了GPT-2,GPT-2源碼,GPT-2模型加速推理,並且可以在樹莓派上運行,讀了不少hungging face源碼,手動實現了numpy的GPT2模型

  之前分別用numpy實現了mlp,cnn,lstm和bert模型,這周順帶搞一下GPT-2,純numpy實現,最重要的是可在樹莓派上或其他不能安裝pytorch的板子上運行,生成數據 gpt-2的mask-multi-headed-se

原创 我在樹莓派上跑通了bert模型,使用numpy實現bert模型,使用hugging face 或pytorch訓練模型,保存參數爲numpy格式,然後使用numpy加載模型推理

  之前分別用numpy實現了mlp,cnn,lstm,這次搞一個大一點的模型bert,純numpy實現,最重要的是可在樹莓派上或其他不能安裝pytorch的板子上運行,推理數據 本次模型是隨便在hugging face上找的一個新聞評論的

原创 樹莓派和esp8266之間使用tcp協議通信

  樹莓派代碼: from flask import Flask, render_template import socket import threading app = Flask(__name__) adc_value = 0

原创 樹莓派和esp8266在局域網下使用UDP通信,esp8266採集adc數據傳遞給樹莓派,樹莓派在web上顯示結果

樹莓派和esp8266需要在同一局域網下 esp8266使用arduino開發: 接入一個電容土壤溼度傳感器,採集溼度需要使用adc #include <ESP8266WiFi.h> #include <WiFiUdp.h> const

原创 在樹莓派上實現numpy的LSTM長短期記憶神經網絡做圖像分類,加載pytorch的模型參數,推理mnist手寫數字識別

這幾天又在玩樹莓派,先是搞了個物聯網,又在嘗試在樹莓派上搞一些簡單的神經網絡,這次搞得是LSTM識別mnist手寫數字識別 訓練代碼在電腦上,cpu就能訓練,很快的: import torch import torch.nn as nn

原创 在樹莓派上使用numpy實現簡單的MLP神經網絡推理,pytorch在服務器或PC上訓練好模型保存成numpy格式的數據,推理在樹莓派上加載模型

這幾天又在玩樹莓派,先是搞了個物聯網,又在嘗試在樹莓派上搞一些簡單的神經網絡,這次搞得是mlp識別mnist手寫數字識別 訓練代碼在電腦上,cpu就能訓練,很快的: 1 import torch 2 import torch.nn a

原创 在樹莓派上實現numpy的conv2d卷積神經網絡做圖像分類,加載pytorch的模型參數,推理mnist手寫數字識別,並使用多進程加速

這幾天又在玩樹莓派,先是搞了個物聯網,又在嘗試在樹莓派上搞一些簡單的神經網絡,這次搞得是卷積識別mnist手寫數字識別 訓練代碼在電腦上,cpu就能訓練,很快的: import torch import torch.nn as nn im

原创 使用樹莓派遠程控制燈繼電器開關,dht11溫溼度網頁顯示,樹莓派物聯網

前段時間使用esp8266搞了個智能家居,通過網頁控制,但是沒有辦法實現遠程控制,只能局域網控制,因爲我沒有平臺,使用機制雲等平臺還需要開發app 使用chatgpt生成的main.py程序 from flask import Flask

原创 huggingface vit訓練CIFAR10數據集代碼 ,可以改dataset訓練自己的數據

  vit 訓練CIFAR10數據集,凍結所有層,只保留全連接層 from transformers import ViTImageProcessor, ViTForImageClassification from PIL import

原创 macbook蘋果m1芯片訓練機器學習、深度學習模型,resnet101在mnist手寫數字識別上做加速,torch.device("mps")

apple的m1芯片比以往cpu芯片在機器學習加速上聽說有15倍的提升,也就是可以使用apple mac訓練深度學習pytorch模型!!!驚呆了   安裝apple m1芯片版本的pytorch   然後使用chatGPT生成一個res

原创 esp8266,arduino,網頁顯示dht11溫溼度,控制繼電器開關,局域網智能家居

不說了,上代碼,用arduino實現esp8266代碼 #include <ESP8266WiFi.h> #include <WiFiClient.h> #include <ESP8266WebServer.h> #include <Si

原创 pandas 數據處理 一些常用操作

  讀取csv文件,打印列名稱: import pandas as pd # data = pd.read_csv("guba_fc_result_20230413.csv") data = pd.read_csv("guba_all