Redis最為常用的數(shù)據(jù)類型主要有以下五種：
在具體描述這幾種數(shù)據(jù)類型之前，我們先通過一張圖了解下Redis內(nèi)部?jī)?nèi)存管理中是如何描述這些不同數(shù)據(jù)類型的：
首先Redis內(nèi)部使用一個(gè)redisObject對(duì)象來(lái)表示所有的key和value,redisObject最主要的信息如上圖所示：type代表一個(gè)value對(duì)象具體是何種數(shù)據(jù)類型，encoding是不同數(shù)據(jù)類型在redis內(nèi)部的存儲(chǔ)方式，比如：type=string代表value存儲(chǔ)的是一個(gè)普通字符串，那么對(duì)應(yīng)的encoding可以是raw或者是int,如果是int則代表實(shí)際redis內(nèi)部是按數(shù)值型類存儲(chǔ)和表示這個(gè)字符串的，當(dāng)然前提是這個(gè)字符串本身可以用數(shù)值表示，比如:"123" "456"這樣的字符串。
這里需要特殊說(shuō)明一下vm字段，只有打開了Redis的虛擬內(nèi)存功能，此字段才會(huì)真正的分配內(nèi)存，該功能默認(rèn)是關(guān)閉狀態(tài)的，該功能會(huì)在后面具體描述。通過上圖我們可以發(fā)現(xiàn)Redis使用redisObject來(lái)表示所有的key/value數(shù)據(jù)是比較浪費(fèi)內(nèi)存的，當(dāng)然這些內(nèi)存管理成本的付出主要也是為了給Redis不同數(shù)據(jù)類型提供一個(gè)統(tǒng)一的管理接口，實(shí)際作者也提供了多種方法幫助我們盡量節(jié)省內(nèi)存使用，我們隨后會(huì)具體討論。
下面我們先來(lái)逐一的分析下這五種數(shù)據(jù)類型的使用和內(nèi)部實(shí)現(xiàn)方式：
常用命令：
set,get,decr,incr,mget 等。
應(yīng)用場(chǎng)景：
String是最常用的一種數(shù)據(jù)類型，普通的key/value存儲(chǔ)都可以歸為此類，這里就不所做解釋了。
實(shí)現(xiàn)方式：
String在redis內(nèi)部存儲(chǔ)默認(rèn)就是一個(gè)字符串，被redisObject所引用，當(dāng)遇到incr,decr等操作時(shí)會(huì)轉(zhuǎn)成數(shù)值型進(jìn)行計(jì)算，此時(shí)redisObject的encoding字段為int。
常用命令：
hget,hset,hgetall 等。
應(yīng)用場(chǎng)景：
我們簡(jiǎn)單舉個(gè)實(shí)例來(lái)描述下Hash的應(yīng)用場(chǎng)景，比如我們要存儲(chǔ)一個(gè)用戶信息對(duì)象數(shù)據(jù)，包含以下信息：
用戶ID為查找的key，存儲(chǔ)的value用戶對(duì)象包含姓名，年齡，生日等信息，如果用普通的key/value結(jié)構(gòu)來(lái)存儲(chǔ)，主要有以下2種存儲(chǔ)方式：
第一種方式將用戶ID作為查找key,把其他信息封裝成一個(gè)對(duì)象以序列化的方式存儲(chǔ)，這種方式的缺點(diǎn)是，增加了序列化/反序列化的開銷，并且在需要修改其中一項(xiàng)信息時(shí)，需要把整個(gè)對(duì)象取回，并且修改操作需要對(duì)并發(fā)進(jìn)行保護(hù)，引入CAS等復(fù)雜問題。
第二種方法是這個(gè)用戶信息對(duì)象有多少成員就存成多少個(gè)key-value對(duì)兒，用用戶ID+對(duì)應(yīng)屬性的名稱作為唯一標(biāo)識(shí)來(lái)取得對(duì)應(yīng)屬性的值，雖然省去了序列化開銷和并發(fā)問題，但是用戶ID為重復(fù)存儲(chǔ)，如果存在大量這樣的數(shù)據(jù)，內(nèi)存浪費(fèi)還是非?？捎^的。
那么Redis提供的Hash很好的解決了這個(gè)問題，Redis的Hash實(shí)際是內(nèi)部存儲(chǔ)的Value為一個(gè)HashMap，并提供了直接存取這個(gè)Map成員的接口，如下圖：
也就是說(shuō)，Key仍然是用戶ID, value是一個(gè)Map，這個(gè)Map的key是成員的屬性名，value是屬性值，這樣對(duì)數(shù)據(jù)的修改和存取都可以直接通過其內(nèi)部Map的Key(Redis里稱內(nèi)部Map的key為field), 也就是通過 key(用戶ID) + field(屬性標(biāo)簽) 就可以操作對(duì)應(yīng)屬性數(shù)據(jù)了，既不需要重復(fù)存儲(chǔ)數(shù)據(jù)，也不會(huì)帶來(lái)序列化和并發(fā)修改控制的問題。很好的解決了問題。
這里同時(shí)需要注意，Redis提供了接口(hgetall)可以直接取到全部的屬性數(shù)據(jù),但是如果內(nèi)部Map的成員很多，那么涉及到遍歷整個(gè)內(nèi)部Map的操作，由于Redis單線程模型的緣故，這個(gè)遍歷操作可能會(huì)比較耗時(shí)，而另其它客戶端的請(qǐng)求完全不響應(yīng)，這點(diǎn)需要格外注意。
實(shí)現(xiàn)方式：
上面已經(jīng)說(shuō)到Redis Hash對(duì)應(yīng)Value內(nèi)部實(shí)際就是一個(gè)HashMap，實(shí)際這里會(huì)有2種不同實(shí)現(xiàn)，這個(gè)Hash的成員比較少時(shí)Redis為了節(jié)省內(nèi)存會(huì)采用類似一維數(shù)組的方式來(lái)緊湊存儲(chǔ)，而不會(huì)采用真正的HashMap結(jié)構(gòu)，對(duì)應(yīng)的value redisObject的encoding為zipmap,當(dāng)成員數(shù)量增大時(shí)會(huì)自動(dòng)轉(zhuǎn)成真正的HashMap,此時(shí)encoding為ht。
常用命令：
lpush,rpush,lpop,rpop,lrange等。
應(yīng)用場(chǎng)景：
Redis list的應(yīng)用場(chǎng)景非常多，也是Redis最重要的數(shù)據(jù)結(jié)構(gòu)之一，比如twitter的關(guān)注列表，粉絲列表等都可以用Redis的list結(jié)構(gòu)來(lái)實(shí)現(xiàn)，比較好理解，這里不再重復(fù)。
實(shí)現(xiàn)方式：
Redis list的實(shí)現(xiàn)為一個(gè)雙向鏈表，即可以支持反向查找和遍歷，更方便操作，不過帶來(lái)了部分額外的內(nèi)存開銷，Redis內(nèi)部的很多實(shí)現(xiàn)，包括發(fā)送緩沖隊(duì)列等也都是用的這個(gè)數(shù)據(jù)結(jié)構(gòu)。
常用命令：
sadd,spop,smembers,sunion 等。
應(yīng)用場(chǎng)景：
Redis set對(duì)外提供的功能與list類似是一個(gè)列表的功能，特殊之處在于set是可以自動(dòng)排重的，當(dāng)你需要存儲(chǔ)一個(gè)列表數(shù)據(jù)，又不希望出現(xiàn)重復(fù)數(shù)據(jù)時(shí)，set是一個(gè)很好的選擇，并且set提供了判斷某個(gè)成員是否在一個(gè)set集合內(nèi)的重要接口，這個(gè)也是list所不能提供的。
實(shí)現(xiàn)方式：
set 的內(nèi)部實(shí)現(xiàn)是一個(gè) value永遠(yuǎn)為null的HashMap，實(shí)際就是通過計(jì)算hash的方式來(lái)快速排重的，這也是set能提供判斷一個(gè)成員是否在集合內(nèi)的原因。
常用命令：
zadd,zrange,zrem,zcard等
使用場(chǎng)景：
Redis sorted set的使用場(chǎng)景與set類似，區(qū)別是set不是自動(dòng)有序的，而sorted set可以通過用戶額外提供一個(gè)優(yōu)先級(jí)(score)的參數(shù)來(lái)為成員排序，并且是插入有序的，即自動(dòng)排序。當(dāng)你需要一個(gè)有序的并且不重復(fù)的集合列表，那么可以選擇sorted set數(shù)據(jù)結(jié)構(gòu)，比如twitter 的public timeline可以以發(fā)表時(shí)間作為score來(lái)存儲(chǔ)，這樣獲取時(shí)就是自動(dòng)按時(shí)間排好序的。
實(shí)現(xiàn)方式：
Redis sorted set的內(nèi)部使用HashMap和跳躍表(SkipList)來(lái)保證數(shù)據(jù)的存儲(chǔ)和有序，HashMap里放的是成員到score的映射，而跳躍表里存放的是所有的成員，排序依據(jù)是HashMap里存的score,使用跳躍表的結(jié)構(gòu)可以獲得比較高的查找效率，并且在實(shí)現(xiàn)上比較簡(jiǎn)單。
通過我們上面的一些實(shí)現(xiàn)上的分析可以看出redis實(shí)際上的內(nèi)存管理成本非常高，即占用了過多的內(nèi)存，作者對(duì)這點(diǎn)也非常清楚，所以提供了一系列的參數(shù)和手段來(lái)控制和節(jié)省內(nèi)存，我們分別來(lái)討論下。
首先最重要的一點(diǎn)是不要開啟Redis的VM選項(xiàng)，即虛擬內(nèi)存功能，這個(gè)本來(lái)是作為Redis存儲(chǔ)超出物理內(nèi)存數(shù)據(jù)的一種數(shù)據(jù)在內(nèi)存與磁盤換入換出的一個(gè)持久化策略，但是其內(nèi)存管理成本也非常的高，并且我們后續(xù)會(huì)分析此種持久化策略并不成熟，所以要關(guān)閉VM功能，請(qǐng)檢查你的redis.conf文件中 vm-enabled 為 no。
其次最好設(shè)置下redis.conf中的maxmemory選項(xiàng)，該選項(xiàng)是告訴Redis當(dāng)使用了多少物理內(nèi)存后就開始拒絕后續(xù)的寫入請(qǐng)求，該參數(shù)能很好的保護(hù)好你的Redis不會(huì)因?yàn)槭褂昧诉^多的物理內(nèi)存而導(dǎo)致swap,最終嚴(yán)重影響性能甚至崩潰。
另外Redis為不同數(shù)據(jù)類型分別提供了一組參數(shù)來(lái)控制內(nèi)存使用，我們?cè)谇懊嬖敿?xì)分析過Redis Hash是value內(nèi)部為一個(gè)HashMap，如果該Map的成員數(shù)比較少，則會(huì)采用類似一維線性的緊湊格式來(lái)存儲(chǔ)該Map, 即省去了大量指針的內(nèi)存開銷，這個(gè)參數(shù)控制對(duì)應(yīng)在redis.conf配置文件中下面2項(xiàng)：
hash-max-zipmap-entries 64 hash-max-zipmap-value 512 hash-max-zipmap-entries
含義是當(dāng)value這個(gè)Map內(nèi)部不超過多少個(gè)成員時(shí)會(huì)采用線性緊湊格式存儲(chǔ)，默認(rèn)是64,即value內(nèi)部有64個(gè)以下的成員就是使用線性緊湊存儲(chǔ)，超過該值自動(dòng)轉(zhuǎn)成真正的HashMap。
hash-max-zipmap-value 含義是當(dāng) value這個(gè)Map內(nèi)部的每個(gè)成員值長(zhǎng)度不超過多少字節(jié)就會(huì)采用線性緊湊存儲(chǔ)來(lái)節(jié)省空間。
以上2個(gè)條件任意一個(gè)條件超過設(shè)置值都會(huì)轉(zhuǎn)換成真正的HashMap，也就不會(huì)再節(jié)省內(nèi)存了，那么這個(gè)值是不是設(shè)置的越大越好呢，答案當(dāng)然是否定的，HashMap的優(yōu)勢(shì)就是查找和操作的時(shí)間復(fù)雜度都是O(1)的，而放棄Hash采用一維存儲(chǔ)則是O(n)的時(shí)間復(fù)雜度，如果
成員數(shù)量很少，則影響不大，否則會(huì)嚴(yán)重影響性能，所以要權(quán)衡好這個(gè)值的設(shè)置，總體上還是最根本的時(shí)間成本和空間成本上的權(quán)衡。
同樣類似的參數(shù)還有：
list-max-ziplist-entries 512
說(shuō)明：list數(shù)據(jù)類型多少節(jié)點(diǎn)以下會(huì)采用去指針的緊湊存儲(chǔ)格式。
list-max-ziplist-value 64
說(shuō)明：list數(shù)據(jù)類型節(jié)點(diǎn)值大小小于多少字節(jié)會(huì)采用緊湊存儲(chǔ)格式。
set-max-intset-entries 512
說(shuō)明：set數(shù)據(jù)類型內(nèi)部數(shù)據(jù)如果全部是數(shù)值型，且包含多少節(jié)點(diǎn)以下會(huì)采用緊湊格式存儲(chǔ)。
最后想說(shuō)的是Redis內(nèi)部實(shí)現(xiàn)沒有對(duì)內(nèi)存分配方面做過多的優(yōu)化，在一定程度上會(huì)存在內(nèi)存碎片，不過大多數(shù)情況下這個(gè)不會(huì)成為Redis的性能瓶頸，不過如果在Redis內(nèi)部存儲(chǔ)的大部分?jǐn)?shù)據(jù)是數(shù)值型的話，Redis內(nèi)部采用了一個(gè)shared integer的方式來(lái)省去分配內(nèi)存的開銷，即在系統(tǒng)啟動(dòng)時(shí)先分配一個(gè)從1~n 那么多個(gè)數(shù)值對(duì)象放在一個(gè)池子中，如果存儲(chǔ)的數(shù)據(jù)恰好是這個(gè)數(shù)值范圍內(nèi)的數(shù)據(jù)，則直接從池子里取出該對(duì)象，并且通過引用計(jì)數(shù)的方式來(lái)共享，這樣在系統(tǒng)存儲(chǔ)了大量數(shù)值下，也能一定程度上節(jié)省內(nèi)存并且提高性能，這個(gè)參數(shù)值n的設(shè)置需要修改源代碼中的一行宏定義REDIS_SHARED_INTEGERS，該值默認(rèn)是10000，可以根據(jù)自己的需要進(jìn)行修改，修改后重新編譯就可以了。
Redis由于支持非常豐富的內(nèi)存數(shù)據(jù)結(jié)構(gòu)類型，如何把這些復(fù)雜的內(nèi)存組織方式持久化到磁盤上是一個(gè)難題，所以Redis的持久化方式與傳統(tǒng)數(shù)據(jù)庫(kù)的方式有比較多的差別，Redis一共支持四種持久化方式，分別是：
在設(shè)計(jì)思路上，前兩種是基于全部數(shù)據(jù)都在內(nèi)存中，即小數(shù)據(jù)量下提供磁盤落地功能，而后兩種方式則是作者在嘗試存儲(chǔ)數(shù)據(jù)超過物理內(nèi)存時(shí)，即大數(shù)據(jù)量的數(shù)據(jù)存儲(chǔ)，截止到本文，后兩種持久化方式仍然是在實(shí)驗(yàn)階段，并且vm方式基本已經(jīng)被作者放棄，所以實(shí)際能在生產(chǎn)環(huán)境用的只有前兩種，換句話說(shuō)Redis目前還只能作為小數(shù)據(jù)量存儲(chǔ)（全部數(shù)據(jù)能夠加載在內(nèi)存中），海量數(shù)據(jù)存儲(chǔ)方面并不是Redis所擅長(zhǎng)的領(lǐng)域。下面分別介紹下這幾種持久化方式：
定時(shí)快照方式(snapshot)：
該持久化方式實(shí)際是在Redis內(nèi)部一個(gè)定時(shí)器事件，每隔固定時(shí)間去檢查當(dāng)前數(shù)據(jù)發(fā)生的改變次數(shù)與時(shí)間是否滿足配置的持久化觸發(fā)的條件，如果滿足則通過操作系統(tǒng)fork調(diào)用來(lái)創(chuàng)建出一個(gè)子進(jìn)程，這個(gè)子進(jìn)程默認(rèn)會(huì)與父進(jìn)程共享相同的地址空間，這時(shí)就可以通過子進(jìn)程來(lái)遍歷整個(gè)內(nèi)存來(lái)進(jìn)行存儲(chǔ)操作，而主進(jìn)程則仍然可以提供服務(wù)，當(dāng)有寫入時(shí)由操作系統(tǒng)按照內(nèi)存頁(yè)(page)為單位來(lái)進(jìn)行copy-on-write保證父子進(jìn)程之間不會(huì)互相影響。
該持久化的主要缺點(diǎn)是定時(shí)快照只是代表一段時(shí)間內(nèi)的內(nèi)存映像，所以系統(tǒng)重啟會(huì)丟失上次快照與重啟之間所有的數(shù)據(jù)。
基于語(yǔ)句追加方式(aof)：
aof方式實(shí)際類似mysql的基于語(yǔ)句的binlog方式，即每條會(huì)使Redis內(nèi)存數(shù)據(jù)發(fā)生改變的命令都會(huì)追加到一個(gè)log文件中，也就是說(shuō)這個(gè)log文件就是Redis的持久化數(shù)據(jù)。
aof的方式的主要缺點(diǎn)是追加log文件可能導(dǎo)致體積過大，當(dāng)系統(tǒng)重啟恢復(fù)數(shù)據(jù)時(shí)如果是aof的方式則加載數(shù)據(jù)會(huì)非常慢，幾十G的數(shù)據(jù)可能需要幾小時(shí)才能加載完，當(dāng)然這個(gè)耗時(shí)并不是因?yàn)榇疟P文件讀取速度慢，而是由于讀取的所有命令都要在內(nèi)存中執(zhí)行一遍。另外由于每條命令都要寫log,所以使用aof的方式，Redis的讀寫性能也會(huì)有所下降。
虛擬內(nèi)存方式：
虛擬內(nèi)存方式是Redis來(lái)進(jìn)行用戶空間的數(shù)據(jù)換入換出的一個(gè)策略，此種方式在實(shí)現(xiàn)的效果上比較差，主要問題是代碼復(fù)雜，重啟慢，復(fù)制慢等等，目前已經(jīng)被作者放棄。
diskstore方式：
diskstore方式是作者放棄了虛擬內(nèi)存方式后選擇的一種新的實(shí)現(xiàn)方式，也就是傳統(tǒng)的B-tree的方式，目前仍在實(shí)驗(yàn)階段，后續(xù)是否可用我們可以拭目以待。
有Redis線上運(yùn)維經(jīng)驗(yàn)的人會(huì)發(fā)現(xiàn)Redis在物理內(nèi)存使用比較多，但還沒有超過實(shí)際物理內(nèi)存總?cè)萘繒r(shí)就會(huì)發(fā)生不穩(wěn)定甚至崩潰的問題，有人認(rèn)為是基于快照方式持久化的fork系統(tǒng)調(diào)用造成內(nèi)存占用加倍而導(dǎo)致的，這種觀點(diǎn)是不準(zhǔn)確的，因?yàn)閒ork 調(diào)用的copy-on-write機(jī)制是基于操作系統(tǒng)頁(yè)這個(gè)單位的，也就是只有有寫入的臟頁(yè)會(huì)被復(fù)制，但是一般你的系統(tǒng)不會(huì)在短時(shí)間內(nèi)所有的頁(yè)都發(fā)生了寫入而導(dǎo)致復(fù)制，那么是什么原因?qū)е翿edis崩潰的呢？
答案是Redis的持久化使用了Buffer IO造成的，所謂Buffer IO是指Redis對(duì)持久化文件的寫入和讀取操作都會(huì)使用物理內(nèi)存的Page Cache,而大多數(shù)數(shù)據(jù)庫(kù)系統(tǒng)會(huì)使用Direct IO來(lái)繞過這層Page Cache并自行維護(hù)一個(gè)數(shù)據(jù)的Cache，而當(dāng)Redis的持久化文件過大(尤其是快照文件)，并對(duì)其進(jìn)行讀寫時(shí)，磁盤文件中的數(shù)據(jù)都會(huì)被加載到物理內(nèi)存中作為操作系統(tǒng)對(duì)該文件的一層Cache,而這層Cache的數(shù)據(jù)與Redis內(nèi)存中管理的數(shù)據(jù)實(shí)際是重復(fù)存儲(chǔ)的，雖然內(nèi)核在物理內(nèi)存緊張時(shí)會(huì)做Page Cache的剔除工作，但內(nèi)核很可能認(rèn)為某塊Page Cache更重要，而讓你的進(jìn)程開始Swap ,這時(shí)你的系統(tǒng)就會(huì)開始出現(xiàn)不穩(wěn)定或者崩潰了。我們的經(jīng)驗(yàn)是當(dāng)你的Redis物理內(nèi)存使用超過內(nèi)存總?cè)萘康?/5時(shí)就會(huì)開始比較危險(xiǎn)了。
下圖是Redis在讀取或者寫入快照文件dump.rdb后的內(nèi)存數(shù)據(jù)圖：
下一篇Redis的文章會(huì)討論下Redis的復(fù)制與可靠集群搭建與在線擴(kuò)容的問題。
聯(lián)系客服
