原创 AI時代:大模型開發framework之langchain和huggingface

langchain: 提供了大模型相關應用開發的所有便利。 https://python.langchain.com/docs/get_started/introduction Build your LLM application with

原创 AI時代:開源大模型選擇

https://docs.llamaindex.ai/en/stable/module_guides/models/llms.html 可以按參數和評分來選擇模型: https://huggingface.co/spaces/Hugging

原创 AI時代:本地運行大模型vllm

https://docs.vllm.ai/en/latest/index.html 高吞吐量、高內存效率的 LLMs 推理和服務引擎(快速搭建本地大模型,且openAI API 兼容) vLLM is a fast and easy-to-

原创 AI時代:本地運行大模型ollama

https://ollama.com/ 使用 Llama 2、Mistral、Gemma 和其他大型語言模型啓動和運行。 支持windows,Linux,Mac。 支持的開源模型列表: Ollama supports a list of m

原创 2021年擴展DevOps的6種方法

2021年擴展DevOps的6種方法 加強devops流程的自動化 爲了滿足快速、高質量應用程序交付的需求,現代軟件團隊需要一種超越常規性能測試的方法。在這裏,以devops爲中心的方法可以提供更快、更有效的開發,並幫助確保交付高質量的軟件

原创 nodejs的http請求axios

http相關modules HTTP – the Standard Library Request Axios SuperAgent 推薦使用axios 或者super agent 使用axios和superagent的get cons

原创 nodejs隊列

nodejs隊列 創建具有指定併發性的隊列對象。添加到隊列的任務以並行方式處理(直到併發性限制)。如果所有的worker都在進行中,任務就會排隊,直到有一個worker可用。worker完成任務後,將調用該任務的回調。 priorityQu

原创 nodejs讀寫redis和mongo

nodejs讀寫redis https://redis.io/commands https://www.npmjs.com/package/redis var redis = require('redis'); var client = r

原创 nodejs中使用websockets

websockets介紹 websockets這個新協議爲客戶端提供了一個更快、更有效的通信線路。像HTTP一樣,websockets運行在TCP連接之上,但是它們更快,因爲我們不必每次都打開一個新的連接來發送消息,因爲只要服務器或客戶端想

原创 nodejs讀寫yaml

nodejs讀寫yaml npm install -g js-yaml // read.js const fs = require('fs'); const yaml = require('js-yaml'); try { le

原创 nodejs調用shell

shelljs https://github.com/shelljs/shelljs 實例 var shell = require('shelljs'); if (!shell.which('git')) { shell.echo('

原创 nodejs新進程子進程

獲取進程相關的基本信息 #!/bin/env node console.log (process.execPath) console.log (process.cwd()) console.log (process.pid) let use

原创 nodejs目錄與文件遍歷

路徑相關函數 path.basename('/foo/bar/baz/asdf/quux.html'); // Returns: 'quux.html' path.basename('/foo/bar/baz/asdf/quux.html'

原创 nodejs文本文件的讀寫

文本文件的換行符 方法一: var EOL = fileContents.indexOf("\r\n") >= 0 ? "\r\n" : "\n"; 方法二: var EOL = (process.platform === 'win32'

原创 nodejs參數的處理與用戶的交互

解析腳本參數 作爲腳本或者命令行工具,一般都需要支持不同的用戶參數。默認參數被保存在process.argv的數組中,如下: [ nodeBinary, script, arg0, arg1, ... ] 模塊commander 但是爲了更