我們設(shè)計(jì)關(guān)系數(shù)據(jù)庫Schema的都有一套完整的方案，而NoSQL卻沒有這些。半年前筆者讀了本《SQL反模式》的書，覺得非常好。就開始留意，對于NoSQL是否也有反模式？好的反模式可以在我們設(shè)計(jì)Schema告訴哪里是陷阱和懸崖。NoSQL宣傳的時(shí)候往往宣稱是SchemaLess的，這會讓人誤解其不需要設(shè)計(jì)Schema。但如果不意識到設(shè)計(jì)Schema的必要，陷阱就在一直在黑暗中等著我們。這篇文章就總結(jié)一些別人的，也有自己犯過的深痛的設(shè)計(jì)Schema錯(cuò)誤。

NoSQL數(shù)據(jù)庫最主流的有文檔數(shù)據(jù)庫，列存數(shù)據(jù)庫，鍵值數(shù)據(jù)庫。三者分別有代表作MongoDB，HBase和Redis。如果將NoSQL比作兵器的話，可以這樣(MySQL是典型的關(guān)系型數(shù)據(jù)庫，一樣參與比較)：

MySQL產(chǎn)生年代較早，而且隨著LAMP大潮得以成熟。盡管其沒有什么大的改進(jìn)，但是新興的互聯(lián)網(wǎng)使用的最多的數(shù)據(jù)庫。就像傳統(tǒng)的菜刀，結(jié)構(gòu)簡單，幾百年沒有改進(jìn)。但是不妨礙產(chǎn)生各式各樣的刀法，只要有一把，就能勝任廚房里的大部分事務(wù)。MySQL也是一樣，核心已經(jīng)穩(wěn)定。但是切庫，分表，備份，監(jiān)控，等等手段一應(yīng)俱全。MongoDB是個(gè)新生事物，提供更靈活的Schema，Capped Collection，異步提交，地理位置索引等五花十色的功能。就像瑞士軍刀，不但可以當(dāng)?shù)队茫€可以開瓶蓋，剪指甲。但是他也不比MySQL強(qiáng)，因?yàn)檫€缺乏時(shí)間的磨礪。一是系統(tǒng)本身的穩(wěn)定性，二是開發(fā)，運(yùn)維需要更多經(jīng)驗(yàn)才能流行。HBase是個(gè)仗勢欺人的大象兵。依仗著Hadoop的生態(tài)環(huán)境，可以有很好的擴(kuò)展性。但是就像象兵一樣，使用者需要養(yǎng)一頭大象(Hadoop),才能驅(qū)使他。Redis是鍵值存儲的代表，功能最簡單。提供隨機(jī)數(shù)據(jù)存儲。就像一根棒子一樣，沒有多余的構(gòu)造。但是也正是因此，他的伸縮性特別好。就像悟空手里的金箍棒，大可捅破天，小能成縮成針。文檔數(shù)據(jù)庫的得失

關(guān)系模型試圖將數(shù)據(jù)庫模型和數(shù)據(jù)庫實(shí)現(xiàn)分開，讓開發(fā)者可以脫離底層很好的操作數(shù)據(jù)。但筆者以為關(guān)系模型在一些應(yīng)用場景下有弱點(diǎn)，現(xiàn)在已經(jīng)不得不面對。

SQL弱點(diǎn)一：必須支持Join。因?yàn)閿?shù)據(jù)不能夠有重復(fù)。所以使用范式的關(guān)系模型會不可避免的大量Join。如果參與Join的是一張比內(nèi)存小的表還好。但是如果大表Join或者表分布在多臺機(jī)器上的話，Join就是性能的噩夢。SQL弱點(diǎn)二：計(jì)算和存儲耦合。關(guān)系模型作為統(tǒng)一的數(shù)據(jù)模型既可以用于數(shù)據(jù)分析，也可以用于在線業(yè)務(wù)。但這兩者一個(gè)強(qiáng)調(diào)高吞吐，一個(gè)強(qiáng)調(diào)低延時(shí)，已經(jīng)演化出完全不同的架構(gòu)。用同一套模型來抽象顯然是不合適的。Hadoop針對的就是計(jì)算的部分。MongoDB,Redis等針對在線業(yè)務(wù)。兩者都拋棄了關(guān)系模型。

針對這兩個(gè)夢魘。文檔數(shù)據(jù)庫如MongoDB的的主要目的是 提供更豐富的數(shù)據(jù)結(jié)構(gòu)來拋棄Join來適應(yīng)在線業(yè)務(wù)。當(dāng)然也不是MongoDB完全不能用Join，不能拿來做數(shù)據(jù)分析，討論這個(gè)只是見仁見智的問題。所以文檔數(shù)據(jù)庫并不比關(guān)系數(shù)據(jù)庫強(qiáng)大，由于對Join的弱支持，功能會弱許多。設(shè)計(jì)關(guān)系模型的時(shí)候，通常只需要考慮好數(shù)據(jù)直接的關(guān)系，定義數(shù)據(jù)模型。而設(shè)計(jì)文檔數(shù)據(jù)庫模型的時(shí)候，還需要考慮應(yīng)用如何使用。因此設(shè)計(jì)好一個(gè)的文檔數(shù)據(jù)庫Schema比設(shè)計(jì)關(guān)系模型更加的困難。除此之外，由于文檔數(shù)據(jù)庫事務(wù)的支持也是比較弱，一般NoSQL只會提供一個(gè)行鎖。這也給設(shè)計(jì)Schema更加增加了難度。對于文檔數(shù)據(jù)庫的使用有很多需要注意的地方，本文只關(guān)注模型設(shè)計(jì)的部分。

反模式一：慣性思維/沿用關(guān)系模型

關(guān)系模型是數(shù)據(jù)存儲的經(jīng)典模型，使用數(shù)據(jù)模型范式的好處非常的明顯。但是由于文檔數(shù)據(jù)庫不支持Join(包括和外鍵息息相關(guān)的外鍵約束)等特性，習(xí)慣性的沿用關(guān)系模型有的時(shí)候會出現(xiàn)問題。需要利用起文檔數(shù)據(jù)庫提供的豐富的數(shù)據(jù)模型來應(yīng)對。

值得一提的是文檔數(shù)據(jù)庫的設(shè)計(jì)和關(guān)系模型不同，是靈活多樣的。對于同一個(gè)情形，可以設(shè)計(jì)出有多種能夠工作的模型，沒有絕對意義上最好的模型。

下圖是關(guān)系模型和文檔模型的對比。

關(guān)系模型 VS 文檔模型

這個(gè)一個(gè)博客的數(shù)據(jù)模型，有Blog,User等表。左側(cè)是關(guān)系模型，右側(cè)是文檔模型。這個(gè)文檔模型并不是完全合理，可以作為“正反兩面教材”在下文不斷闡述。

問題一：存在描述多對多的關(guān)系表癥狀：文檔數(shù)據(jù)庫中存儲在有純粹的關(guān)系表，例如：

這樣的表就算在關(guān)系模型中也是不妥的，因?yàn)檫@個(gè)ID非常的多余，可以用聯(lián)合主鍵來解決。但是在文檔數(shù)據(jù)庫中，由于必須強(qiáng)制單主鍵，不得不采取這樣的設(shè)計(jì)。

壞處：

破壞數(shù)據(jù)完備性。由于ID是主鍵，在數(shù)據(jù)模型上沒有約束來保證不出現(xiàn)重復(fù)的user_id,blog_id對。一旦數(shù)據(jù)出現(xiàn)重復(fù)，更新刪除都是問題。索引過多。由于是關(guān)系表，必須在user_id和blog_id上面分別建一個(gè)索引。影響性能。

解決方案：使用文檔數(shù)據(jù)庫典型的處理多對多的辦法。不是建立一張關(guān)系表，而是在其中一個(gè)文檔(如User)中，加入一個(gè)List字段。

問題二:沒有區(qū)分"一對多關(guān)系"和“多對一關(guān)系”癥狀：關(guān)系模型不區(qū)分“一對多”和“多對一”，對于文檔數(shù)據(jù)庫來講，關(guān)系模型只有“多對一”。就像這張Comment表：

如果整個(gè)模型都是這樣的“多對一”關(guān)系就需要反思了。

壞處：

額外索引。如果客戶端已知user_id,需要獲得User信息和Comment信息，需要執(zhí)行兩次查詢。其中一次查詢需要使用索引。并且要在客戶端自己Join。這樣可能有潛在性能問題。

解決方案：問題的核心在于是已知user_id查詢兩張表，還是已知comment_id查詢兩張表。如果是已知comment_id這樣的設(shè)計(jì)就是合理的，但是如果是已知user_id來查詢，把關(guān)系放在user表里的設(shè)計(jì)更合理一些。

這樣的設(shè)計(jì)，就可以避免一個(gè)索引。同理，對于多對多也是一樣的，通過合理的安排字段的位置可以避免索引。

正確使用的場合：

關(guān)系型模型是非常成功的數(shù)據(jù)模型，合理的沿用是非常好的。但是由于文檔數(shù)據(jù)庫的特點(diǎn)，需要適當(dāng)?shù)恼{(diào)整，這樣得出的數(shù)據(jù)模型，盡管性能不是最優(yōu)，但是有最好的靈活性。并且也有利于和關(guān)系數(shù)據(jù)庫轉(zhuǎn)換。

反模式二：處處引用客戶端Join

癥狀：數(shù)據(jù)庫設(shè)計(jì)中充滿了xx_id的字端，在查詢的時(shí)候需要大量的手動(dòng)Join操作。就涉及到了這個(gè)反模式。正如上面提到的博客的關(guān)系模型，如果已知blog_id查詢comments，需要至少執(zhí)行3次查詢，并且手動(dòng)Join。

壞處：

手動(dòng)Join，麻煩且易出錯(cuò)。文檔數(shù)據(jù)庫不支持Join且沒有外鍵保證。因此需要在客戶端Join，這樣的操作對于軟件開發(fā)來講是比較繁瑣的。由于沒有外鍵保證，因此不能保證取得的ID在數(shù)據(jù)庫里面是有數(shù)據(jù)的。在處理的時(shí)候需要不斷判斷，容易出錯(cuò)。多次查詢。如果引用過多，查詢的時(shí)候需要多次查詢才能查到足夠的數(shù)據(jù)。本來文檔數(shù)據(jù)庫是很快的，但是由于多次查詢，給數(shù)據(jù)庫增加了壓力，獲取全部數(shù)據(jù)的時(shí)間也會增加。事務(wù)處理繁瑣。文檔數(shù)據(jù)庫一般不支持一般意義上事務(wù)，只支持行鎖。如果文檔數(shù)據(jù)庫有給多個(gè)連接。在插入的時(shí)候，事務(wù)的處理就是噩夢。在文檔數(shù)據(jù)庫中使用事務(wù)，需要使用行鎖，在進(jìn)行大量的處理。太過繁瑣，感興趣的讀者可以搜一下。

解決方案：適當(dāng)使用內(nèi)聯(lián)數(shù)據(jù)結(jié)構(gòu)。由于文檔數(shù)據(jù)庫支持更復(fù)雜的數(shù)據(jù)結(jié)構(gòu)可以將引用轉(zhuǎn)換為內(nèi)聯(lián)的數(shù)據(jù)，而不用新建一張表。這樣做可以解決上面的一些問題，是一個(gè)推薦的方案。就像上面博客的例子一樣。將五張表簡化成了兩張表。那什么時(shí)候使用內(nèi)聯(lián)呢？一般認(rèn)為

使用內(nèi)聯(lián)可以解決讀性能問題，明顯減少Q(mào)uery的次數(shù)的時(shí)候。可以簡化數(shù)據(jù)模型，化簡表之間的關(guān)系，而同時(shí)不會影響靈活性的時(shí)候。事務(wù)可以得到簡化為單行事務(wù)的時(shí)候正確使用的場合：

范式化的使用場景，文檔數(shù)據(jù)庫會被多個(gè)應(yīng)用使用。由于數(shù)據(jù)庫設(shè)計(jì)無法估計(jì)多個(gè)應(yīng)用現(xiàn)在及將來的查詢情況，需要極大的靈活性。在這個(gè)時(shí)候，使用引用比內(nèi)聯(lián)靠譜。

反模式三 濫用內(nèi)聯(lián)后患無窮

問題一 妨礙到查詢的內(nèi)聯(lián)癥狀：頻繁查詢一些內(nèi)聯(lián)字段，丟棄其他字段。

壞處：

無ID約束：使用內(nèi)聯(lián)字段和引用不同，是沒有ID約束的。因此不能通過ID(主鍵)來管理，如果經(jīng)常需要單獨(dú)操作內(nèi)聯(lián)對象會非常不便。索引泛濫：如果以內(nèi)聯(lián)字段為條件進(jìn)行查詢，需要建立索引。有可能造成索引泛濫。性能浪費(fèi)：大部分文檔數(shù)據(jù)庫的實(shí)現(xiàn)是按行存儲的，也就意味著，盡管只查詢一個(gè)字段，但是DB需要將整行從磁盤中取出。如果字段夠小，文檔夠大，是很不合算的。

解決方案：如果出現(xiàn)以上的癥結(jié)，就可以考慮使用引用代替內(nèi)聯(lián)了。內(nèi)聯(lián)特性主要的用途在于提高性能，如果出現(xiàn)性能不升反降，那就沒有意義了。如果對性能有很強(qiáng)烈的要求，可以考慮使用重復(fù)數(shù)據(jù)，同樣的數(shù)據(jù)即在內(nèi)聯(lián)字段中也在引用的表里面。這樣可以結(jié)合內(nèi)聯(lián)和引用的性能優(yōu)勢。缺點(diǎn)是數(shù)據(jù)出現(xiàn)重復(fù)，維護(hù)會比較麻煩。

問題二 無限膨脹的內(nèi)聯(lián)癥狀：List,Map類型的內(nèi)聯(lián)字段不斷膨脹，而且沒有限制。就像前面提到的Blog的內(nèi)聯(lián)字段Comment。如果對每一篇Blog的Comment數(shù)量沒有限制的話，Comment會無限膨脹。輕則影響性能，重則插入失敗。

壞處：

插入失敗。文檔數(shù)據(jù)庫的每條記錄都有最大大小，并且也有推薦最佳的大小。一般不會超過4M。就像剛剛提到的例子，如果是篇熱門的博文的話，評論的大小很容易就超過4M。屆時(shí)文檔將無法更新，新的評論無法插入。性能拖油瓶。由于內(nèi)聯(lián)字段膨脹，其大小將遠(yuǎn)遠(yuǎn)超過其他部分，影響其他部分的性能表現(xiàn)。并且因此導(dǎo)致該記錄大小頻繁變化，對檔數(shù)據(jù)庫的數(shù)據(jù)文件內(nèi)部可能因此產(chǎn)生很多碎片。

解決方案：設(shè)定最大數(shù)目或者使用引用。還是Blog和Comment的例子，可以將Comment從Blog中剝離出成一張表。如果考慮到性能，可以在Blog表中新建一個(gè)字段如最近的評論。這樣既保證了性能，又能夠預(yù)防膨脹。

問題三 無法維護(hù)的內(nèi)聯(lián)癥狀：DBA想單獨(dú)維護(hù)內(nèi)聯(lián)字段，但無法做到。

壞處：

權(quán)限管理難。數(shù)據(jù)庫的權(quán)限管理的最小粒度是表。如果使用內(nèi)聯(lián)技術(shù)，就意味著內(nèi)聯(lián)部分必須和其他字段用同一個(gè)權(quán)限來管理。沒有辦法在DB級別隱藏。切表難。如果發(fā)現(xiàn)一張表的龐大需要切表。這個(gè)時(shí)候就比較糾結(jié)了。如果一刀切，partion Key的選擇；索引的失效都會成為問題。如果覺得拆為兩張表，就會很好操作的話，就是內(nèi)聯(lián)的過度使用了 。備份難。關(guān)系數(shù)據(jù)庫中每張表可以有不同的備份策略。但是如果內(nèi)聯(lián)起來，這樣的備份就做不到了。解決辦法：設(shè)計(jì)數(shù)據(jù)庫模型的時(shí)候需要考量之后的維護(hù)操作，尤其是內(nèi)聯(lián)的字段需不需要單獨(dú)的維護(hù)。需要和運(yùn)維商量。如果對內(nèi)聯(lián)的字段有單獨(dú)維護(hù)的要求，可以拆分出來作為引用。

問題四 盯死應(yīng)用的內(nèi)聯(lián)癥狀：應(yīng)用可以非常好的運(yùn)行在數(shù)據(jù)庫上。但是當(dāng)新的應(yīng)用接入的時(shí)候會很麻煩。因?yàn)樵O(shè)計(jì)數(shù)據(jù)模型的時(shí)候考慮到了查詢。所以當(dāng)有新應(yīng)用，新查詢接入的時(shí)候，就會難于使用原有的模型。

壞處：

新應(yīng)用接入難。當(dāng)新的應(yīng)用試圖使用同一個(gè)數(shù)據(jù)庫的時(shí)候，接入比較困難。因?yàn)椴樵儠r(shí)不同的，需要調(diào)整數(shù)據(jù)模型才能適應(yīng)。但是調(diào)整模型又會影響原有應(yīng)用。集成難。不同的關(guān)系型數(shù)據(jù)庫可以集成在一起，共同使用。但是對于文檔數(shù)據(jù)庫，雖然功能上可以互補(bǔ)，但是由于內(nèi)聯(lián)數(shù)據(jù)結(jié)構(gòu)的差異，也比較難于集成。ETL難。現(xiàn)在大部分的數(shù)據(jù)分析系統(tǒng)使用的是關(guān)系模型，就連Hadoop雖然不用關(guān)系模型，但是其上的Hive的常用工具也是按關(guān)系模型設(shè)計(jì)的。

解決方案：

使用范式設(shè)計(jì)數(shù)據(jù)庫，即用引用代替內(nèi)聯(lián)。或者在使用內(nèi)聯(lián)的時(shí)候，給每個(gè)內(nèi)聯(lián)對象一個(gè)全局唯一的Key，保證其和關(guān)系模型直接可以存在映射關(guān)系，這樣可以提高數(shù)據(jù)模型的靈活性。如Blog表：

這樣的設(shè)計(jì)既可以利用到內(nèi)聯(lián)的好處，又能將其和關(guān)系模型映射起來。確定是需要手動(dòng)維護(hù)comment_id，保證其全局唯一性。

反模式四：在線計(jì)算

癥狀：有一些運(yùn)行時(shí)間很長的Query,由于有聚合計(jì)算，索引也不能解決。隨著數(shù)據(jù)量的增長，逐漸成為性能瓶頸。

壞處：

影響用戶體驗(yàn)。在線業(yè)務(wù)中，如果一個(gè)查詢大于4s，用戶體驗(yàn)會急劇下降。按主鍵和按索引的查詢都能滿足要求。但是聚合操作往往需要掃描全表或者大量的數(shù)據(jù)，隨著數(shù)據(jù)量的增加，查詢時(shí)間會變長，用戶不可容忍。影響數(shù)據(jù)庫性能。長查詢的壞處數(shù)不清。在線上應(yīng)用中，如果出現(xiàn)長查詢，可能會霸占數(shù)據(jù)的大部分資源，包括IO，連接，CPU等等。導(dǎo)致其他很好的查詢，輕則性能也下降，重者無法使用數(shù)據(jù)庫。長查詢可以稱之為DB殺手。

解決方案：首先要權(quán)衡，這個(gè)聚合操作是不是必要的，必須實(shí)時(shí)完成。如果沒有必要實(shí)時(shí)完成的話，可以采取離線操作的方案。在夜深人靜的時(shí)候，跑一個(gè)長查詢，將結(jié)果緩存起來，給第二天使用。如果必須實(shí)時(shí)完成，則可以新建一個(gè)字段，用“incr”這樣的操作，在運(yùn)行的時(shí)候，實(shí)時(shí)聚合結(jié)果。而不是查詢的時(shí)候執(zhí)行一次長查詢。如果邏輯比較復(fù)雜，或者覺得大量“incr”操作給數(shù)據(jù)庫系統(tǒng)帶來了壓力，可以使用Storm之類的實(shí)時(shí)數(shù)據(jù)處理框架。總之，要慎用長查詢。

反模式五：把內(nèi)聯(lián)Map對象的Key當(dāng)作ID用

癥狀：文檔數(shù)據(jù)庫支持內(nèi)聯(lián)Map類型。將其中Map的Key當(dāng)作數(shù)據(jù)庫的主鍵來用。

這個(gè)反模式很容易犯，因?yàn)樵诰幊陶Z言中Map數(shù)據(jù)結(jié)構(gòu)就是這么用的。但是對于數(shù)據(jù)庫模型來說，這是不折不扣的反模式。

壞處：

無法通過數(shù)據(jù)庫做各種(><=)查詢。對于關(guān)系型數(shù)據(jù)庫來說，雖然數(shù)據(jù)結(jié)構(gòu)可以很靈活，但查詢的時(shí)候都是按層次的。比如comment.id，comment.content。也就是說其Map類型中的Key可以理解為屬性名的，而不是用作ID。因此一旦這樣使用，就脫離的數(shù)據(jù)庫管制，無法使用各種查詢功能。無法通過索引查詢。文檔數(shù)據(jù)可建立索引是需要列名的。比如comment.id。而這樣的數(shù)據(jù)結(jié)構(gòu)沒有固定的列名，因此無法建立索引。

解決方案：使用數(shù)組+Map來解決。如：

這樣，就可以使用comment.id作為索引，也可以使用數(shù)據(jù)庫的查詢功能。簡單有效。Map類型中的Key是屬性名，Value是屬性值。這樣的用法是文檔數(shù)據(jù)庫數(shù)據(jù)模型的本意，因此其提供的各種功能才能利用上。否則就無法使用。

反模式六：不合理的ID

癥狀：使用String甚至更復(fù)雜數(shù)據(jù)結(jié)構(gòu)作為的ID，或者全部使用數(shù)據(jù)庫提供的自生成ID。如：

壞處:

ID混亂。如果使用數(shù)據(jù)庫提供的自生成ID，同時(shí)表中還有一個(gè)類似有主鍵含義的Blog_id，這樣很不好，容易造成邏輯混亂。由于文檔數(shù)據(jù)庫不支持ID的重命名，習(xí)慣關(guān)系數(shù)據(jù)庫做法的人可能會再建立一個(gè)自己的邏輯ID字段。這是沒有必要的。索引龐大，性能低下。ID是數(shù)據(jù)庫的非常重要的部分。ID的長度將決定索引(包括主鍵的索引)的大小，直接影響到數(shù)據(jù)庫性能。如果索引比內(nèi)存小，性能會很好。但一旦索引大小超過內(nèi)存，出現(xiàn)數(shù)據(jù)交換，性能會急劇下降。一個(gè)Long占8字節(jié)，一個(gè)20個(gè)字符的UTF8 String占用約60個(gè)字節(jié)。相差10倍之巨，不能不考慮。

解決方案：盡量使用有一定意義的字段做ID，并且不在其他字段中重復(fù)出現(xiàn)。不使用復(fù)雜的數(shù)據(jù)類型做ID，只使用int,long或者系統(tǒng)提供的主鍵類型做ID。

文檔數(shù)據(jù)庫的反模式總結(jié)

闡述了這么多的反模式，下面有個(gè)一覽表，涵蓋了上面所有的反模式。這個(gè)一覽表，是按照文檔數(shù)據(jù)庫模型建立的。是個(gè)文檔數(shù)據(jù)庫模型的例子。

本文試圖總結(jié)了筆者知道的重要的文檔數(shù)據(jù)庫的反模式。現(xiàn)在關(guān)于NoSQL數(shù)據(jù)模型設(shè)計(jì)模式的討論才剛剛起步，將來也許會逐漸自成體系。對于列數(shù)據(jù)庫和Key-Value的反模式，筆者等到有了足夠積累的時(shí)候，再和大家分享。