Redis
Redis 簡介
Redis是簡介
Redis 是完全開源免費的,遵守BSD協議,是一個高性能(NOSQL)的key-value數據庫,Redis是一個開源的使用ANSI C語言編寫、支持網絡、可基於內存亦可持久化的日誌型、Key-Value數據庫,並提供多種語言的API。從2010年3月15日起,Redis的開發工作由VMware主持。從2013年5月開始,Redis的開發由Pivotal贊助。(Vmware在資助着redis項目的開發和維護)
BSD是"Berkeley Software Distribution"的縮寫,意思是"伯克利軟件發行版"。
BSD開源協議是一個給於使用者很大自由的協議。可以自由的使用,修改源代碼,也可以將修改後的代碼作爲開源或者專有軟件再發布。BSD代碼鼓勵代碼共享,但需要尊重代碼作者的著作權。BSD由於允許使用者修改和重新發布代碼,也允許使用或在BSD代碼上開發商業軟件發佈和銷售,因此是對商業集成很友好的協議。
Redis作者
redis的作者,他叫Salvatore Sanfilippo,來自意大利的西西里島,現在居住在卡塔尼亞。目前供職於Pivotal公司。
地址是antirez.com,當然也可以去follow他的github,地址是http://github.com/antirez。
NoSQL介紹
NoSQL,泛指非關係型的數據庫。隨着互聯網web2.0網站的興起,傳統的關係數據庫在應付web2.0網站,特別是超大規模和高併發的SNS類型的web2.0純動態網站已經顯得力不從心,暴露了很多難以克服的問題,而非關係型的數據庫則由於其本身的特點得到了非常迅速的發展。NoSQL數據庫的產生就是爲了解決大規模數據集合多重數據種類帶來的挑戰,尤其是大數據應用難題。
NoSQL數據庫的四大分類
鍵值(Key-Value)存儲數據庫 這一類數據庫主要會使用到一個哈希表,這個表中有一個特定的鍵和一個指針指向特定的數據。Key/value模型對於IT系統來說的優勢在於簡單、易部署。但是如果DBA只對部分值進行查詢或更新的時候,Key/value就顯得效率低下了。[3] 舉例如:Tokyo Cabinet/Tyrant, Redis, Voldemort, Oracle BDB. 列存儲數據庫 這部分數據庫通常是用來應對分佈式存儲的海量數據。鍵仍然存在,但是它們的特點是指向了多個列。這些列是由列家族來安排的。如:Cassandra, HBase, Riak. 文檔型數據庫 文檔型數據庫的靈感是來自於Lotus Notes辦公軟件的,而且它同第一種鍵值存儲相類似。該類型的數據模型是版本化的文檔,半結構化的文檔以特定的格式存儲,比如JSON。文檔型數據庫可 以看作是鍵值數據庫的升級版,允許之間嵌套鍵值。而且文檔型數據庫比鍵值數據庫的查詢效率更高。如:CouchDB, MongoDb. 國內也有文檔型數據庫SequoiaDB,已經開源。 圖形(Graph)數據庫 圖形結構的數據庫同其他行列以及剛性結構的SQL數據庫不同,它是使用靈活的圖形模型,並且能夠擴展到多個服務器上。NoSQL數據庫沒有標準的查詢語言(SQL),因此進行數據庫查詢需要制定數據模型。許多NoSQL數據庫都有REST式的數據接口或者查詢API。[2] 如:Neo4J, InfoGrid, Infinite Graph. 因此,我們總結NoSQL數據庫在以下的這幾種情況下比較適用:1、數據模型比較簡單;2、需要靈活性更強的IT系統;3、對數據庫性能要求較高;4、不需要高度的數據一致性;5、對於給定key,比較容易映射覆雜值的環境。
Redis 與其他 key - value 緩存產品有以下三個特點:
- Redis支持數據的持久化,可以將內存中的數據保存在磁盤中,重啓的時候可以再次加載進行使用。
- Redis不僅僅支持簡單的key-value類型的數據,同時還提供list,set,zset,hash等數據結構的存儲。
- Redis支持數據的備份,集羣等高可用功能。
特點:
- 性能極高 – Redis能讀的速度是110000次/s,寫的速度是81000次/s 。
- 豐富的數據類型 – Redis支持的類型 String, List, Hash, Set 及 Ordered Set 數據類型操作。
- 原子 – Redis的所有操作都是原子性的,意思就是要麼成功執行要麼失敗完全不執行。單個操作是原子性的。多個操作也支持事務,即原子性,通過MULTI和EXEC指令包起來。
- 豐富的特性 – Redis還支持 publish/subscribe, 通知, key 過期等等特性。
Redis是一個簡單的,高效的,分佈式的,基於內存的緩存工具。 架設好服務器後,通過網絡連接(類似數據庫),提供Key-Value式緩存服務。
簡單,是Redis突出的特色。 簡單可以保證核心功能的穩定和優異。
Redis總結
redis單個key 存入512M大小
redis支持多種類型的數據結構(string,list,hash.set.zset)
redis 是單線程 原子性
redis可以持久化 因爲使用了 RDB和AOF機制
redis支持集羣 而且redis 支持庫(0-15) 16個庫
redis 還可以做消息隊列 比如聊天室 IM
企業級開發中:可以用作數據庫、緩存(熱點數據(經常會被查詢,但是不經常被修改或者刪除的數據)和消息中間件等大部分功能。
優點: 1. 豐富的數據結構
2.高速讀寫,redis使用自己實現的分離器,代碼量很短,沒有使用lock(MySQL),因此效率非常高。
缺點: 1. 持久化。Redis直接將數據存儲到內存中,要將數據保存到磁盤上,Redis可以使用兩種方式實現持久化過程。定時快照(snapshot):每隔一段時間將整個數據庫寫到磁盤上,每次均是寫全部數據,代價非常高。第二種方式基於語句追加(aof):只追蹤變化的數據,但是追加的log可能過大,同時所有的操作均重新執行一遍,回覆速度慢。 2. 耗內存,佔用內存過高。
Redis安裝
Windows安裝
https://jingyan.baidu.com/article/0f5fb099045b056d8334ea97.html
Linux安裝
安裝Redis
官方網站:http://redis.io/
官方下載:http://redis.io/download 可以根據需要下載不同版本
(域名後綴io屬於國家域名,是british Indian Ocean territory,即英屬印度洋領地)
Redis安裝
Redis是C語言開發,安裝Redis需要先將官網下載的源碼進行編譯,編譯依賴gcc環境,如果沒有gcc環境,需要安裝gcc
安裝gcc
gcc的安裝很簡單,首先要確保root登錄,其次就是Linux要能連外網
yum -y install gcc automake autoconf libtool make |
注意:運行yum時出現/var/run/yum.pid已被鎖定,PID爲xxxx的另一個程序正在運行的問題解決
rm -f /var/run/yum.pid |
安裝Redis
命令1: wget http://download.redis.io/releases/redis-4.0.1.tar.gz
命令2:tar zxvf redis-4.0.1.tar.gz
命令3: cd redis-4.0.1
命令4(編譯): make 或 make MALLOC=libc 如下圖代表成功:
命令5:make PREFIX=/usr/local/redis install
(安裝編譯後的文件) 安裝到指目錄:
注意:PREFIX必須大寫、同時會自動爲我們創建redis目錄,並將結果安裝此目錄
命令6: cd /usr/local/redis 查看
命令7:查看bin目錄下,如圖:
Redis啓動
啓動Redis服務
進入對應的安裝目錄 /usr/local/redis
執行命令: ./bin/redis-server
啓動Redis客戶端
進入Redis客服端(Clone Session克隆一個窗口):
進入對應的安裝目錄 cd /usr/local/redis
執行命令: ./bin/redis-cli
啓動Redis 客戶端命令:
redis-cli –h IP地址 –p 端口
退出客戶端命令:Ctrl+C
檢測是否服務端啓動
啓動 redis 客戶端,打開終端並輸入命令 redis-cli。該命令會連接本地的 redis 服務。
$redis-cli
redis 127.0.0.1:6379>
redis 127.0.0.1:6379> PING
PONG
在以上實例中我們連接到本地的 redis 服務並執行 PING 命令,該命令用於檢測 redis 服務是否啓動。
Linux配置Redis
Redis 的配置文件位於 Redis 安裝目錄下,文件名爲 redis.conf(Windows 名爲 redis.windows.conf)。
配置Redis
Redis端口號或啓動有默認配置。但一般我們都會通過手動配置完成
回到根目錄找到解壓文件中的reids.conf
命令:cp redis.conf /usr/local/redis 將配置文件複製到安裝文件的目錄下
Redis配置至此全部完成
redis.conf 配置文件詳解
redis.conf 配置項說明如下:
1. Redis默認不是以守護進程的方式運行,可以通過該配置項修改,使用yes啓用守護進程
daemonize no
2. 當Redis以守護進程方式運行時,Redis默認會把pid寫入/var/run/redis.pid文件,可以通過pidfile指定
pidfile /var/run/redis.pid
3. 指定Redis監聽端口,默認端口爲6379,爲什麼選用6379作爲默認端口,因爲6379在手機按鍵上MERZ對應的號碼,而MERZ取自意大利歌女Alessia Merz的名字
port 6379
4. 綁定的主機地址
bind 127.0.0.1
5.當 客戶端閒置多長時間後關閉連接,如果指定爲0,表示關閉該功能
timeout 300
6. 指定日誌記錄級別,Redis總共支持四個級別:debug、verbose、notice、warning,默認爲verbose
loglevel verbose
7. 日誌記錄方式,默認爲標準輸出,如果配置Redis爲守護進程方式運行,而這裏又配置爲日誌記錄方式爲標準輸出,則日誌將會發送給/dev/null
logfile stdout
8. 設置數據庫的數量,默認數據庫爲0,可以使用SELECT <dbid>命令在連接上指定數據庫id
databases 16
9. 指定在多長時間內,有多少次更新操作,就將數據同步到數據文件,可以多個條件配合
save <seconds> <changes>
Redis默認配置文件中提供了三個條件:
save 900 1
save 300 10
save 60 10000
分別表示900秒(15分鐘)內有1個更改,300秒(5分鐘)內有10個更改以及60秒內有10000個更改。
10. 指定存儲至本地數據庫時是否壓縮數據,默認爲yes,Redis採用LZF壓縮,如果爲了節省CPU時間,可以關閉該選項,但會導致數據庫文件變的巨大
rdbcompression yes
11. 指定本地數據庫文件名,默認值爲dump.rdb
dbfilename dump.rdb
12. 指定本地數據庫存放目錄
dir ./
13. 設置當本機爲slav服務時,設置master服務的IP地址及端口,在Redis啓動時,它會自動從master進行數據同步
slaveof <masterip> <masterport>
14. 當master服務設置了密碼保護時,slav服務連接master的密碼
masterauth <master-password>
15. 設置Redis連接密碼,如果配置了連接密碼,客戶端在連接Redis時需要通過AUTH <password>命令提供密碼,默認關閉
requirepass foobared
16. 設置同一時間最大客戶端連接數,默認無限制,Redis可以同時打開的客戶端連接數爲Redis進程可以打開的最大文件描述符數,如果設置 maxclients 0,表示不作限制。當客戶端連接數到達限制時,Redis會關閉新的連接並向客戶端返回max number of clients reached錯誤信息
maxclients 128
17. 指定Redis最大內存限制,Redis在啓動時會把數據加載到內存中,達到最大內存後,Redis會先嚐試清除已到期或即將到期的Key,當此方法處理 後,仍然到達最大內存設置,將無法再進行寫入操作,但仍然可以進行讀取操作。Redis新的vm機制,會把Key存放內存,Value會存放在swap區
maxmemory <bytes>
18. 指定是否在每次更新操作後進行日誌記錄,Redis在默認情況下是異步的把數據寫入磁盤,如果不開啓,可能會在斷電時導致一段時間內的數據丟失。因爲 redis本身同步數據文件是按上面save條件來同步的,所以有的數據會在一段時間內只存在於內存中。默認爲no
appendonly no
19. 指定更新日誌文件名,默認爲appendonly.aof
appendfilename appendonly.aof
20. 指定更新日誌條件,共有3個可選值: no:表示等操作系統進行數據緩存同步到磁盤(快) always:表示每次更新操作後手動調用fsync()將數據寫到磁盤(慢,安全) everysec:表示每秒同步一次(折中,默認值)
appendfsync everysec
21. 指定是否啓用虛擬內存機制,默認值爲no,簡單的介紹一下,VM機制將數據分頁存放,由Redis將訪問量較少的頁即冷數據swap到磁盤上,訪問多的頁面由磁盤自動換出到內存中(在後面的文章我會仔細分析Redis的VM機制)
vm-enabled no
22. 虛擬內存文件路徑,默認值爲/tmp/redis.swap,不可多個Redis實例共享
vm-swap-file /tmp/redis.swap
23. 將所有大於vm-max-memory的數據存入虛擬內存,無論vm-max-memory設置多小,所有索引數據都是內存存儲的(Redis的索引數據 就是keys),也就是說,當vm-max-memory設置爲0的時候,其實是所有value都存在於磁盤。默認值爲0
vm-max-memory 0
24. Redis swap文件分成了很多的page,一個對象可以保存在多個page上面,但一個page上不能被多個對象共享,vm-page-size是要根據存儲的 數據大小來設定的,作者建議如果存儲很多小對象,page大小最好設置爲32或者64bytes;如果存儲很大大對象,則可以使用更大的page,如果不 確定,就使用默認值
vm-page-size 32
25. 設置swap文件中的page數量,由於頁表(一種表示頁面空閒或使用的bitmap)是在放在內存中的,,在磁盤上每8個pages將消耗1byte的內存。
vm-pages 134217728
26. 設置訪問swap文件的線程數,最好不要超過機器的核數,如果設置爲0,那麼所有對swap文件的操作都是串行的,可能會造成比較長時間的延遲。默認值爲4
vm-max-threads 4
27. 設置在向客戶端應答時,是否把較小的包合併爲一個包發送,默認爲開啓
glueoutputbuf yes
28. 指定在超過一定的數量或者最大的元素超過某一臨界值時,採用一種特殊的哈希算法
hash-max-zipmap-entries 64
hash-max-zipmap-value 512
29. 指定是否激活重置哈希,默認爲開啓(後面在介紹Redis的哈希算法時具體介紹)
activerehashing yes
30. 指定包含其它的配置文件,可以在同一主機上多個Redis實例之間使用同一份配置文件,而同時各個實例又擁有自己的特定配置文件
include /path/to/local.conf
Redis中的內存維護策略
redis作爲優秀的中間緩存件,時常會存儲大量的數據,即使採取了集羣部署來動態擴容,也應該即使的整理內存,維持系統性能。
在redis中有兩種解決方案,
一是爲數據設置超時時間,
二是採用LRU算法動態將不用的數據刪除。內存管理的一種頁面置換算法,對於在內存中但又不用的數據塊(內存塊)叫做LRU,操作系統會根據哪些數據屬於LRU而將其移出內存而騰出空間來加載另外的數據。
1.volatile-lru:設定超時時間的數據中,刪除最不常使用的數據.
2.allkeys-lru:查詢所有的key中最近最不常使用的數據進行刪除,這是應用最廣泛的策略.
3.volatile-random:在已經設定了超時的數據中隨機刪除.
4.allkeys-random:查詢所有的key,之後隨機刪除.
5.volatile-ttl:查詢全部設定超時時間的數據,之後排序,將馬上將要過期的數據進行刪除操作.
6.noeviction:如果設置爲該屬性,則不會進行刪除操作,如果內存溢出則報錯返回.
- volatile-lfu:從所有配置了過期時間的鍵中驅逐使用頻率最少的鍵
- allkeys-lfu:從所有鍵中驅逐使用頻率最少的鍵
https://www.jianshu.com/p/c8aeb3eee6bc
自定義配置Redis
1、進入對應的安裝目錄 /usr/local/redis
修改 redis.conf 配置文件 vim redis.conf (進入命令模式 通過/內容 查找相應字符串)
2、Redis配置默認必須修改:
daemonize no 修改爲 daemonize yes
bind 127.0.01 註釋掉
requirepass 設置密碼
Redis採用的是單進程多線程的模式。當redis.conf中選項daemonize設置成yes時,代表開啓守護進程模式。在該模式下,redis會在後臺運行,並將進程pid號寫入至redis.conf選項pidfile設置的文件中,此時redis將一直運行,除非手動kill該進程。但當daemonize選項設置成no時,當前界面將進入redis的命令行界面,exit強制退出或者關閉連接工具(putty,xshell等)都會導致redis進程退出。 服務端開發的大部分應用都是採用後臺運行的模式
Redis啓動:
服務端啓動:
./bin/redis-server ./redis.conf
客戶端啓動:
本地客戶端登錄
用redis-cli 密碼登陸(redis-cli -a password)
遠程服務上執行命令
如果需要在遠程 redis 服務上執行命令,同樣我們使用的也是 redis-cli 命令。
語法:
redis-cli -h host -p port -a password
redis-cli –h IP地址 –p 端口 –a 密碼
Redis關閉
第一種關閉方式:(斷電、非正常關閉。容易數據丟失)
查詢PID ps -ef | grep -i redis
kill -9 PID
第二種關閉方式(正常關閉、數據保存)
./bin/redis-cli shutdown 關閉redis服務,通過客戶端進行shutdown
如果redis設置了密碼,需要先在客戶端通過密碼登錄,再進行shutdown即可關閉服務端
通過 ps –ef | grep –i redis 查看當前進程: