Redis

目錄：

　　Redis簡介

　　普通連接

　　連接池

　　數據庫操作

　　　　String操作

　　　　hash操作　　

　　　　list操作

　　　　Set操作

　　　　其他操作

　　管道

　　Django使用Redis

Redis爲什麼是單線程，高併發，速度快？

1.redis是基於內存的，內存的讀寫速度非常快；

2.redis是單線程的，省去了很多上下文切換線程的時間；

3.redis使用多路複用技術，可以處理併發的連接。非阻塞IO 內部實現採用epoll，採用了epoll+自己實現的簡單的事件框架。
epoll中的讀、寫、關閉、連接都轉化成了事件，然後利用epoll的多路複用特性，絕不在io上浪費一點時間。

爲什麼是單線程？

1）不需要各種鎖的性能消耗
      在單線程的情況下，就不用去考慮各種鎖的問題，不存在加鎖釋放鎖操作，沒有因爲可能出現死鎖而導致的性能消耗。
2）單線程多進程集羣方案
      單線程的威力實際上非常強大，每核心效率也非常高，多線程自然是可以比單線程有更高的性能上限，但是在今天的計算環境中，即使是單機多線程的上限也往往不能滿足需要了，需要進一步摸索的是多服務器集羣化的方案，這些方案中多線程的技術照樣是用不上的。
3）CPU消耗
      採用單線程，避免了不必要的上下文切換和競爭條件，也不存在多進程或者多線程導致的切換而消耗 CPU。

爲什麼高併發，速度快？

1. Redis是純內存數據庫，一般都是簡單的存取操作，線程佔用的時間很多，時間的花費主要集中在IO上，所以讀取速度快。

2. 再說一下IO，Redis使用的是非阻塞IO，IO多路複用，使用了單線程來輪詢描述符，將數據庫的開、關、讀、寫都轉換成了事件，減少了線程切換時上下文的切換和競爭。

3. Redis採用了單線程的模型，保證了每個操作的原子性，也減少了線程的上下文切換和競爭。

4. 另外，數據結構也幫了不少忙，Redis全程使用hash結構，讀取速度快，還有一些特殊的數據結構，對數據存儲進行了優化，如壓縮表，對短數據進行壓縮存儲，再如，跳錶，使用有序的數據結構加快讀取的速度。

5. 還有一點，Redis採用自己實現的事件分離器，效率比較高，內部採用非阻塞的執行方式，吞吐能力比較大。

Python操作Redis之普通連接

import redis
conn= redis.Redis(host='127.0.0.1',port =6379)
conn.set('name','chuck')
print(conn.get('name'))

Python操作redis之連接池

通過使用connection pool 來管理對一個redis serve的所有連接，避免每次建立，釋放連接的開銷

可以通過引入文件的形式引入連接池，實現單例的模式，避免每次都創建連接池

import redis
pool = redis.connectionPool(host='127.0.0.1',port = 6379)
conn= redis.Redis(connection_pool = pool)
conn.set('name','chuck')
print(conn.get('name'))

Redis之String操作

string操作在數據庫中以name，value形式存儲；

set（name,value,ex = None,px = None,nx = False,xx = False）

在Redis中設置值，默認：不存在則創建，存在則修改
參數：
     ex，過期時間（秒）
     px，過期時間（毫秒）
     nx，如果設置爲True，則只有name不存在時，當前set操作才執行,值存在，就修改不了，執行沒效果
     xx，如果設置爲True，則只有name存在時，當前set操作才執行，值存在才能修改，值不存在，不會設置新值

eg：conn.set('name', 'chuck', nx=True)

setnx(name, value)

設置值，只有name不存在時，執行設置操作（添加）,如果存在，不會修改

setex(name, value, time)

# 設置值
# 參數：
    # time，過期時間（數字秒 或 timedelta對象）

psetex(name, time_ms, value)

# 設置值
# 參數：
    # time_ms，過期時間（數字毫秒 或 timedelta對象

mset(*args, **kwargs)

批量設置值
如：
    mset(k1='v1', k2='v2')
    或
    mget({'k1': 'v1', 'k2': 'v2'})

get(name)

獲取值

mget(keys, *args)

批量獲取
如：
    mget('k1', 'k2')
    或
    r.mget(['k3', 'k4'])

getset(name, value)

設置新值並獲取原來的值

getrange(key, start, end)

# 獲取子序列（根據字節獲取，非字符）
# 參數：
    # name，Redis 的 name
    # start，起始位置（字節）
    # end，結束位置（字節）
# 如： "劉清政" ，0-3表示 "劉"

setrange(name, offset, value)

# 修改字符串內容，從指定字符串索引開始向後替換（新值太長時，則向後添加）
# 參數：
    # offset，字符串的索引，字節（一個漢字三個字節）
    # value，要設置的值

setbit(name, offset, value)

# 對name對應值的二進制表示的位進行操作
 
# 參數：
    # name，redis的name
    # offset，位的索引（將值變換成二進制後再進行索引）
    # value，值只能是 1 或 0
 
# 注：如果在Redis中有一個對應： n1 = "foo"，
        那麼字符串foo的二進制表示爲：01100110 01101111 01101111
    所以，如果執行 setbit('n1', 7, 1)，則就會將第7位設置爲1，
        那麼最終二進制則變成 01100111 01101111 01101111，即："goo"

getbit(name, offset)

# 獲取name對應的值的二進制表示中的某位的值 （0或1）

bitcount(key, start=None, end=None)

# 獲取name對應的值的二進制表示中 1 的個數
# 參數：
    # key，Redis的name
    # start，位起始位置
    # end，位結束位置

bitop(operation, dest, *keys)

# 獲取多個值，並將值做位運算，將最後的結果保存至新的name對應的值
 
# 參數：
    # operation,AND（並） 、 OR（或） 、 NOT（非） 、 XOR（異或）
    # dest, 新的Redis的name
    # *keys,要查找的Redis的name
 
# 如：
    bitop("AND", 'new_name', 'n1', 'n2', 'n3')
    # 獲取Redis中n1,n2,n3對應的值，然後講所有的值做位運算（求並集），然後將結果保存 new_name 對應的值中

strlen(name)

# 返回name對應值的字節長度（一個漢字3個字節）

incr(self, name, amount=1)

使用場景：閱讀數或點贊數的增加，速度快，不用進行數據庫操作，扛併發高
# 自增 name對應的值，當name不存在時，則創建name＝amount，否則，則自增。

# 參數：
    # name,Redis的name
    # amount,自增數（必須是整數）
 
# 注：同incrby

incrbyfloat(self, name, amount=1.0)

# 自增 name對應的值，當name不存在時，則創建name＝amount，否則，則自增。
 
# 參數：
    # name,Redis的name
    # amount,自增數（浮點型）

decr(self, name, amount=1)

# 自減 name對應的值，當name不存在時，則創建name＝amount，否則，則自減。
 
# 參數：
    # name,Redis的name
    # amount,自減數（整數）

append(key, value)

eg:append('name','12345')
# 在redis name對應的值後面追加內容
 
# 參數：
    key, redis的name
    value, 要追加的字符串

Redis之Hash操作(字典：只支持單層)

hash在內存中存儲格式：

hset(name, key, value)

# name對應的hash中設置一個鍵值對（不存在，則創建；否則，修改）
 
# 參數：
    # name，redis的name
    # key，name對應的hash中的key
    # value，name對應的hash中的value
 
# 注：
    # hsetnx(name, key, value),當name對應的hash中不存在當前key時則創建（相當於添加）
　　 eg:hset('student','name','chuck')

hmset(name, mapping)

# 在name對應的hash中批量設置鍵值對
 
# 參數：
    # name，redis的name
    # mapping，字典，如：{'k1':'v1', 'k2': 'v2'}
 
# 如：
    # r.hmset('xx', {'k1':'v1', 'k2': 'v2'})

hget(name,key)

# 在name對應的hash中獲取根據key獲取value

hmget(name, keys, *args)

# 在name對應的hash中獲取多個key的值
 
# 參數：
    # name，reids對應的name
    # keys，要獲取key集合，如：['k1', 'k2', 'k3']
    # *args，要獲取的key，如：k1,k2,k3
 
# 如：
    # r.mget('xx', ['k1', 'k2'])
    # 或
    # print r.hmget('xx', 'k1', 'k2')

hgetall(name)---避免使用，數據量過大會撐爆內存

# 獲取name對應hash的所有鍵值
print(re.hgetall('xxx').get(b'name'))

hlen(name)

# 獲取name對應的hash中鍵值對的個數

hkeys(name)

# 獲取name對應的hash中所有的key的值

hvals(name)

# 獲取name對應的hash中所有的value的值

hexists(name, key)

# 檢查name對應的hash是否存在當前傳入的key

hdel(name,*keys)

# 將name對應的hash中指定key的鍵值對刪除

print(re.hdel('xxx','sex','name'))

hincrby(name, key, amount=1)

# 自增name對應的hash中的指定key的值，不存在則創建key=amount
# 參數：
    # name，redis中的name
    # key， hash對應的key
    # amount，自增數（整數）

hincrbyfloat(name, key, amount=1.0)

# 自增name對應的hash中的指定key的值，不存在則創建key=amount
 
# 參數：
    # name，redis中的name
    # key， hash對應的key
    # amount，自增數（浮點數）
 
# 自增name對應的hash中的指定key的值，不存在則創建key=amount

hscan(name, cursor=0, match=None, count=None)

# 增量式迭代獲取，對於數據大的數據非常有用，hscan可以實現分片的獲取數據，並非一次性將數據全部獲取完，從而放置內存被撐爆
 
# 參數：
    # name，redis的name
    # cursor，遊標（基於遊標分批取獲取數據）
    # match，匹配指定key，默認None 表示所有的key
    # count，每次分片最少獲取個數，默認None表示採用Redis的默認分片個數
 
# 如：
    # 第一次：cursor1, data1 = r.hscan('xx', cursor=0, match=None, count=100)
    # 第二次：cursor2, data1 = r.hscan('xx', cursor=cursor1, match=None, count=100)
    # ...
    # 直到返回值cursor-n 的值爲0時，表示數據已經通過分片獲取完畢

cour2 = 0
count = 1
while True:
    cour2, data2 = conn.hscan('person2', cursor=cour2, match=None, count=3000)
    count += len(data2)
    if cour2 == 0:
        break

print(count)

hscan_iter(name, match=None, count=None)

內部實現自定義增量迭代 

利用yield封裝hscan創建生成器，實現分批去redis中獲取數據
 
 參數：
     match，匹配指定key，默認None 表示所有的key
     count，每次分片最少獲取個數，默認None表示採用Redis的默認分片個數
 
 如：
    for item in r.hscan_iter('student'):
        print item

Redis之List操作

在內存中按照一個name，對應一個list進行存儲；

lpush(name,values)

# 在name對應的list中添加元素，每個新的元素都添加到列表的最左邊
 
# 如：
    # r.lpush('oo', 11,22,33)
    # 保存順序爲: 33,22,11
 
# 擴展：
    # rpush(name, values) 表示從右向左操作

lpushx(name,value)

# 在name對應的list中添加元素，只有name已經存在時，值添加到列表的最左邊

# 更多：
    # rpushx(name, value) 表示從右向左操作

llen(name)

# name對應的list元素的個數

linsert(name, where, refvalue, value))

# 在name對應的列表的某一個值前或後插入一個新值
 
# 參數：
    # name，redis的name
    # where，BEFORE或AFTER(小寫也可以)
    # refvalue，標杆值，即：在它前後插入數據（如果存在多個標杆值，以找到的第一個爲準）
    # value，要插入的數據

lset(name, index, value)

# 對name對應的list中的某一個索引位置重新賦值
 
# 參數：
    # name，redis的name
    # index，list的索引位置
    # value，要設置的值

lrem(name, value, num)

# 在name對應的list中刪除指定的值
 
# 參數：
    # name，redis的name
    # value，要刪除的值
    # num，  num=0，刪除列表中所有的指定值；
           # num=2,從前到後，刪除2個；
           # num=-2,從後向前，刪除2個

lpop(name)

# 在name對應的列表的左側獲取第一個元素並在列表中移除，返回值則是第一個元素
 
# 更多：
    # rpop(name) 表示從右向左操作

lindex(name, index)

在name對應的列表中根據索引獲取列表元素

lrange(name, start, end)

# 在name對應的列表分片獲取數據
# 參數：
    # name，redis的name
    # start，索引的起始位置
    # end，索引結束位置  print(re.lrange('aa',0,re.llen('aa')))

ltrim(name, start, end)

# 在name對應的列表中移除沒有在start-end索引之間的值
# 參數：
    # name，redis的name
    # start，索引的起始位置
    # end，索引結束位置（大於列表長度，則代表不移除任何）

rpoplpush(src, dst)

# 從一個列表取出最右邊的元素，同時將其添加至另一個列表的最左邊
# 參數：
    # src，要取數據的列表的name
    # dst，要添加數據的列表的name

blpop(keys, timeout)

# 將多個列表排列，按照從左到右去pop對應列表的元素
 
# 參數：
    # keys，redis的name的集合
    # timeout，超時時間，當元素所有列表的元素獲取完之後，阻塞等待列表內有數據的時間（秒）, 0 表示永遠阻塞
 
# 更多：
    # r.brpop(keys, timeout)，從右向左獲取數據
生產者消費者模型：
爬蟲實現簡單分佈式：多個url放到列表裏，往裏不停放URL，程序循環取值，但是隻能一臺機器運行取值，可以把url放到redis中，多臺機器從redis中取值，爬取數據，實現簡單分佈式

brpoplpush(src, dst, timeout=0)

# 從一個列表的右側移除一個元素並將其添加到另一個列表的左側
 
# 參數：
    # src，取出並要移除元素的列表對應的name
    # dst，要插入元素的列表對應的name
    # timeout，當src對應的列表中沒有數據時，阻塞等待其有數據的超時時間（秒），0 表示永遠阻塞

自定義增量迭代

# 由於redis類庫中沒有提供對列表元素的增量迭代，如果想要循環name對應的列表的所有元素，那麼就需要：
    # 1、獲取name對應的所有列表
    # 2、循環列表
# 但是，如果列表非常大，那麼就有可能在第一步時就將程序的內容撐爆，所有有必要自定義一個增量迭代的功能：

import redis
conn=redis.Redis(host='127.0.0.1',port=6379)
# conn.lpush('test',*[1,2,3,4,45,5,6,7,7,8,43,5,6,768,89,9,65,4,23,54,6757,8,68])
# conn.flushall()
def scan_list(name,count=2):
    index=0
    while True:
　　　　　#lrange(name,start,end)
        data_list=conn.lrange(name,index,count+index-1)
        if not data_list:
            return
        index+=count
        for item in data_list:
            yield item
print(conn.lrange('test',0,100))
for item in scan_list('test',5):
    print('---')
    print(item)

Redis之Set操作

Set操作，Set集合就是不允許重複的列表

sadd(name,values)

# name對應的集合中添加元素

scard(name)

獲取name對應的集合中元素個數

sdiff(keys, *args)

在第一個name對應的集合中且不在其他name對應的集合的元素集合

sdiffstore(dest, keys, *args)

# 獲取第一個name對應的集合中且不在其他name對應的集合，再將其新加入到dest對應的集合中

sinter(keys, *args)

# 獲取多一個name對應集合的並集

sinterstore(dest, keys, *args)

# 獲取多一個name對應集合的並集，再講其加入到dest對應的集合中

sismember(name, value)

# 檢查value是否是name對應的集合的成員

smembers(name)

# 獲取name對應的集合的所有成員

smove(src, dst, value)

# 將某個成員從一個集合中移動到另外一個集合

spop(name)

# 從集合的右側（尾部）移除一個成員，並將其返回

srandmember(name, numbers)

# 從name對應的集合中隨機獲取 numbers 個元素

srem(name, values)

# 在name對應的集合中刪除某些值

srem(name, values)

# 在name對應的集合中刪除某些值

sunion(keys, *args)

# 獲取多一個name對應的集合的並集

sunionstore(dest,keys, *args)

# 獲取多一個name對應的集合的並集，並將結果保存到dest對應的集合中

sscan(name, cursor=0, match=None, count=None)
sscan_iter(name, match=None, count=None)

# 同字符串的操作，用於增量迭代分批獲取元素，避免內存消耗太大

有序集合，在集合的基礎上，爲每元素排序；元素的排序需要根據另外一個值來進行比較，所以，對於有序集合，每一個元素有兩個值，即：值和分數，分數專門用來做排序。

zadd(name, *args, **kwargs)

# 在name對應的有序集合中添加元素
# 如：
     # zadd('zz', 'n1', 1, 'n2', 2)
     # 或
     # zadd('zz', n1=11, n2=22)

zcard(name)

# 獲取name對應的有序集合元素的數量

zcount(name, min, max)

# 獲取name對應的有序集合中分數 在 [min,max] 之間的個數

zincrby(name, value, amount)

# 自增name對應的有序集合的 name 對應的分數

r.zrange( name, start, end, desc=False, withscores=False, score_cast_func=float)

# 按照索引範圍獲取name對應的有序集合的元素
 
# 參數：
    # name，redis的name
    # start，有序集合索引起始位置（非分數）
    # end，有序集合索引結束位置（非分數）
    # desc，排序規則，默認按照分數從小到大排序
    # withscores，是否獲取元素的分數，默認只獲取元素的值
    # score_cast_func，對分數進行數據轉換的函數
 
# 更多：
    # 從大到小排序
    # zrevrange(name, start, end, withscores=False, score_cast_func=float)
 
    # 按照分數範圍獲取name對應的有序集合的元素
    # zrangebyscore(name, min, max, start=None, num=None, withscores=False, score_cast_func=float)
    # 從大到小排序
    # zrevrangebyscore(name, max, min, start=None, num=None, withscores=False, score_cast_func=float)

zrank(name, value)

# 獲取某個值在 name對應的有序集合中的排行（從 0 開始）
 
# 更多：
    # zrevrank(name, value)，從大到小排序

zrangebylex(name, min, max, start=None, num=None)

# 當有序集合的所有成員都具有相同的分值時，有序集合的元素會根據成員的 值 （lexicographical ordering）來進行排序，而這個命令則可以返回給定的有序集合鍵 key 中， 元素的值介於 min 和 max 之間的成員
# 對集合中的每個成員進行逐個字節的對比（byte-by-byte compare）， 並按照從低到高的順序， 返回排序後的集合成員。 如果兩個字符串有一部分內容是相同的話， 那麼命令會認爲較長的字符串比較短的字符串要大
 
# 參數：
    # name，redis的name
    # min，左區間（值）。 + 表示正無限； - 表示負無限； ( 表示開區間； [ 則表示閉區間
    # min，右區間（值）
    # start，對結果進行分片處理，索引位置
    # num，對結果進行分片處理，索引後面的num個元素
 
# 如：
    # ZADD myzset 0 aa 0 ba 0 ca 0 da 0 ea 0 fa 0 ga
    # r.zrangebylex('myzset', "-", "[ca") 結果爲：['aa', 'ba', 'ca']
 
# 更多：
    # 從大到小排序
    # zrevrangebylex(name, max, min, start=None, num=None)

zrem(name, values)

# 刪除name對應的有序集合中值是values的成員
 
# 如：zrem('zz', ['s1', 's2'])

zremrangebyrank(name, min, max)

# 根據排行範圍刪除

zremrangebyscore(name, min, max)

# 根據分數範圍刪除

zremrangebylex(name, min, max)

# 根據值返回刪除

zscore(name, value)

# 獲取name對應有序集合中 value 對應的分數

zinterstore(dest, keys, aggregate=None)

# 獲取兩個有序集合的交集，如果遇到相同值不同分數，則按照aggregate進行操作
# aggregate的值爲:  SUM  MIN  MAX

zunionstore(dest, keys, aggregate=None)

# 獲取兩個有序集合的並集，如果遇到相同值不同分數，則按照aggregate進行操作
# aggregate的值爲:  SUM  MIN  MAX

zscan(name, cursor=0, match=None, count=None, score_cast_func=float)
zscan_iter(name, match=None, count=None,score_cast_func=float)

# 同字符串相似，相較於字符串新增score_cast_func，用來對分數進行操作

其他操作

delete(*names)

# 根據刪除redis中的任意數據類型

exists(name)

# 檢測redis的name是否存在

keys(pattern='*')

模糊查詢
# 根據模型獲取redis的name
 
# 更多：
    # KEYS * 匹配數據庫中所有 key 。
    # KEYS h?llo 匹配 hello ， hallo 和 hxllo 等。
    # KEYS h*llo 匹配 hllo 和 heeeeello 等。
    # KEYS h[ae]llo 匹配 hello 和 hallo ，但不匹配 hillo

expire(name ,time)

# 爲某個redis的某個name設置超時時間
應用：爲緩存設置超時時間

rename(src, dst)

# 對redis的name重命名爲

move(name, db))

# 將redis的某個值移動到指定的db下

randomkey()

# 隨機獲取一個redis的name（不刪除）

type(name)

# 獲取name對應值的類型

scan(cursor=0, match=None, count=None)
scan_iter(match=None, count=None)

# 同字符串操作，用於增量迭代獲取key

管道

redis沒有事務，但是可以通過管道模仿事務；

import redis
conn = redis.Redis(host='127.0.0.1',port=6379)

pi = conn.pipeline(transaction=True)
#說明是批量命令，保持原子性
pi.multi()
#還未開始執行
conn.set('gender','男')
conn.set('school','上海')
#全部執行
pi.execute()

Django使用redis

方式一：

utils文件夾下，建立redis_pool.py

import redis
POOL = redis.ConnectionPool(host='127.0.0.1', port=6379,password='1234',max_connections=1000)

視圖函數中使用：

import redis
from django.shortcuts import render,HttpResponse
from utils.redis_pool import POOL

def index(request):
    conn = redis.Redis(connection_pool=POOL)
    conn.hset('kkk','age',18)

    return HttpResponse('設置成功')
def order(request):
    conn = redis.Redis(connection_pool=POOL)
    conn.hget('kkk','age')

    return HttpResponse('獲取成功')

方式二：

安裝django-redis模塊

pip3 install django-redis

setting裏配置：

# redis配置
CACHES = {
    "default": {
        "BACKEND": "django_redis.cache.RedisCache",
        "LOCATION": "redis://127.0.0.1:6379",
        "OPTIONS": {
            "CLIENT_CLASS": "django_redis.client.DefaultClient",
            "CONNECTION_POOL_KWARGS": {"max_connections": 100}
            # "PASSWORD": "123",
        }
    }
}

視圖函數：

from django_redis import get_redis_connection
conn = get_redis_connection('default')
print(conn.hgetall('xxx'))

posted @ 2019-02-28 10:32 ChuckXue 閱讀(...) 評論(...) 編輯收藏

Redis

Redis

Redis爲什麼是單線程，高併發，速度快？

爲什麼是單線程？

爲什麼高併發，速度快？

Python操作Redis之普通連接

Python操作redis之連接池

Redis之String操作

Redis之Hash操作(字典：只支持單層)

Redis之List操作

Redis之Set操作

其他操作

管道

Django使用redis

模擬手機設備：使用 Playwright 實現移動端自動化測試

Mellanox網卡開啓SR-IOV

全面系統的AI學習路徑，幫助普通人也能玩轉AI

uni-app實現上拉加載

vue3編譯優化之“靜態提升”

又是一個月-20240513

flask 如何保證返回json有序

linux服務器設置ssh免密

HTML 00 Tutorial

cmakelist的一個例子

支付寶支付與微信推送

源碼流程分析

JSON

Vue項目搭建

激活碼

https://yachay.unat.edu.pe/blog/index.php?comment_area=format_blog&comment_component=blog&comment_co

linux以太網驅動總結