App下載

Java知識點(diǎn)詳解——緩存

猿友 2021-07-14 10:08:28 瀏覽數(shù) (7395)
反饋

如果沒有緩存,當(dāng)打開一個有大量內(nèi)容的頁面的時候,將會變得十分的卡頓,因?yàn)闆]有緩存,每次打開頁面的時候都進(jìn)行全部加載,而導(dǎo)致頁面打開速度變得很慢,給用戶的體驗(yàn)也就十分的不愉快了。有了緩存,則會讓原本打開很慢的頁面變得“秒開”。那么緩存除了能夠加速數(shù)據(jù)的訪問外,還有什么作用?本文將為您詳細(xì)介紹 java 緩存的運(yùn)放方式、緩存的類別以及緩存會出現(xiàn)的問題。

一、緩存能用來做什么?

大多數(shù)人對于緩存的理解就是,當(dāng)我們打開一個頁面或是一個APP,當(dāng)它們打開的速度很慢的時候,都會想到引入緩存,這樣打開就會更快。

從技術(shù)這一方面來說,緩存之所以能夠提高訪問速度,是因?yàn)榫彺媸腔趦?nèi)存去建立的。而內(nèi)存的讀寫速度相對于硬盤是快很多的,所以用內(nèi)存代替硬盤作為讀寫的介質(zhì),自然就會大大提升了訪問數(shù)據(jù)的速度。

使用緩存的過程大致如下:

圖片13

二、運(yùn)用方式:預(yù)讀取和延遲寫

除了上述的過程之外,緩存另外兩個重要的運(yùn)用方式:預(yù)讀取和延遲寫。

2.1 預(yù)讀取

從字面意思來看就是預(yù)先讀取,實(shí)際意義也確實(shí)如此。預(yù)讀取就是提前把將要讀取的數(shù)據(jù)載入,也就是在系統(tǒng)中把硬盤中的一部分?jǐn)?shù)據(jù)提前加載到內(nèi)存中,然后對外提供服務(wù)。

圖片12

那么這么做的意義是什么?

因?yàn)橛行┫到y(tǒng)一旦啟動就會有數(shù)以萬計(jì)的請求涌進(jìn)來,假設(shè)讓這些請求直接打到數(shù)據(jù)庫上,非常大的可能就是會讓數(shù)據(jù)庫的壓力劇增,數(shù)據(jù)庫就會被掛掉,而導(dǎo)致無法正常響應(yīng)。

預(yù)讀取就是為了解決這樣的問題。

2.2 延遲寫

如果說預(yù)讀取就是在數(shù)據(jù)出口加一道緩沖區(qū),那么延遲寫則是在數(shù)據(jù)入口加一道緩沖區(qū)。

由于數(shù)據(jù)庫的寫入速度要比讀取速度慢,因此在寫入的時候就需要一系列的保證數(shù)據(jù)正確性的機(jī)制。所以,要想提升寫入速度,或是分庫分表,或是通過緩存加一道緩沖,再一次性批量寫入磁盤。引入分庫分表的復(fù)雜度遠(yuǎn)大于引入緩存,一般都是優(yōu)先考慮引入緩存的方案。

這種緩存方案就是延遲寫,它是預(yù)先將準(zhǔn)備寫入磁盤或數(shù)據(jù)庫的數(shù)據(jù),暫時寫入到內(nèi)存,然后返回成功,再定時分批將內(nèi)存中的數(shù)據(jù)寫入到磁盤。

圖片11

三、哪些可以加緩存?

在緩存之前需要考慮我們要緩存的是什么?符合什么樣特點(diǎn)的數(shù)據(jù)才需要加緩存?因?yàn)榫彺嫠闶且粋€額外的成本投入,所以加了緩存要體現(xiàn)它的價值。

先引入衡量數(shù)據(jù)的兩個標(biāo)準(zhǔn):

熱點(diǎn)數(shù)據(jù):被高頻訪問,如每秒幾十次以上。

靜態(tài)數(shù)據(jù):很少變動,讀取要大于寫入。

以終端用戶為起點(diǎn),系統(tǒng)所使用的數(shù)據(jù)庫為終點(diǎn),這其中可以作為緩存設(shè)立點(diǎn)大致如下:

圖片10

每個設(shè)立點(diǎn)都會擋掉一些流量,最終會形成以下的漏斗形效果,以此可以保護(hù)后面的系統(tǒng)以及最后的數(shù)據(jù)庫。

圖片9

這些設(shè)立點(diǎn)就像是紅綠燈,如果沒有紅綠燈就容易發(fā)生事故,或是造成交通癱瘓等等。緩存設(shè)立點(diǎn)就是防止請求大量涌入,導(dǎo)致無法正常訪問。

四、緩存類別

上文已經(jīng)羅列了緩存的幾種類別,接下我們將會對這些緩存類別進(jìn)行介紹。

4.1 瀏覽器緩存

瀏覽器是離用戶最近的,可以用來作為緩存的地方,而且借助的是用戶的資源,性價比是幾種里面最好的,可以讓用戶分擔(dān)一些壓力。

進(jìn)入瀏覽器的開發(fā)者工具,有 ?from cache? 、?from memory cache? 和? from disk cache? 的時候,說明數(shù)據(jù)已經(jīng)被緩存在用戶的終端設(shè)備上,在沒網(wǎng)的時候也可能訪問到一部分的內(nèi)容就是這個原因。

瀏覽器會幫助我們完成這個過程,一般適用于圖片、 js 和 css等這些資源的緩存。

瀏覽器緩存的劣勢就是我們對它的掌控力比較差,沒有發(fā)起新的請求的情況下,是無法主動去更新數(shù)據(jù)。

4.2 CDN緩存

提供CDN服務(wù)的服務(wù)商,在全國乃至全世界部署了大量的服務(wù)節(jié)點(diǎn)。我們就可以將數(shù)據(jù)分發(fā)到遍布各地服務(wù)器上作為緩存,當(dāng)用戶訪問時可以讀取就近的服務(wù)器上的緩存數(shù)據(jù)。這樣就可以分?jǐn)倝毫吞嵘思铀傩Ч?/p>

要注意的是,由于節(jié)點(diǎn)眾多,更新緩存數(shù)據(jù)會比較慢,一般至少是分鐘級別,所以該緩存適用于不經(jīng)常變動的靜態(tài)數(shù)據(jù)。

4.3 網(wǎng)關(guān)(代理)緩存

我們經(jīng)常會在源站前面加上一層網(wǎng)管,目的是為了做一些安全機(jī)制或者作為同一分流策略的入口。

圖片8

在這里設(shè)立一個緩存,能夠攔下來請求,其背后的源站也是收益很大的,減少了大量的 CPU 運(yùn)算。常用的網(wǎng)關(guān)緩存有 ?Varnish?、?Squid?、?Nginx?。

4.4 進(jìn)程內(nèi)緩存

一個請求能夠到這里來,說明是“業(yè)務(wù)相關(guān)”,需要經(jīng)過業(yè)務(wù)邏輯的運(yùn)算。從這里開始,對緩存的引入成本相對于前三者而言,要大大的增加了,這是因?yàn)閷彺媾c數(shù)據(jù)庫之間的‘?dāng)?shù)據(jù)一致性’要求更高了。

4.5 進(jìn)程外緩存

這里是大多數(shù)程序員所熟悉的地方,就是 ?Redis? 和? Memcached? 之類,或者也可以自己單獨(dú)寫一個程序來轉(zhuǎn)存放緩存數(shù)據(jù),提供給其他程序遠(yuǎn)程調(diào)用。

4.6 數(shù)據(jù)庫緩存

數(shù)據(jù)庫緩存是數(shù)據(jù)庫的內(nèi)部機(jī)制,一般都會給出設(shè)置緩存空間大小的配置來讓你進(jìn)行干預(yù)。

最后,磁盤本身也是有緩存的,所以能夠讓數(shù)據(jù)平穩(wěn)地寫入到磁盤,可謂是經(jīng)歷了一波三折。

五、緩存可能出現(xiàn)的問題

既然緩存作用如此大,那是不是就越多越好呢?只要速度慢就加緩存來解決?其實(shí)不然,緩存既有好的一面,也會有負(fù)面的一面。

5.1 緩存雪崩

問題:大量請求并發(fā)進(jìn)入緩存時,可能由于某些原因緩沖效果未能正常執(zhí)行,即便是在很短的時間內(nèi),就會導(dǎo)致請求全部轉(zhuǎn)入數(shù)據(jù)庫,從而造成數(shù)據(jù)庫壓力過重。

解決:可以通過“加鎖排隊(duì)”或者“緩存時間增加隨機(jī)值”來解決此類問題。

5.2 緩存穿透

和緩存雪崩很相似,區(qū)別在于穿透會持續(xù)更長的時間。這是因?yàn)槊看蔚? cache miss? 后依然無法從數(shù)據(jù)源把數(shù)據(jù)加載到緩存,導(dǎo)致持續(xù)產(chǎn)生cache miss?。

可以通過“布隆過濾器”或者“緩存空對象”來解決此類問題。

5.3 緩存并發(fā)

一個緩存 ?key ?下的數(shù)據(jù)被同時 ?set?,怎么保證業(yè)務(wù)的準(zhǔn)確性?如果進(jìn)程內(nèi)、進(jìn)程外、數(shù)據(jù)庫三者的緩存一起用的情況下?

使用“先DB再緩存”的方式,并且緩存操作用 delete 而不是 set。

5.4 緩存無底洞

雖然分布式緩存是可以無線橫向擴(kuò)展的,但是,集群下的節(jié)點(diǎn)也不是越多越好。緩存也是符合“邊際效用遞減”規(guī)律的。

5.5 緩存淘汰

內(nèi)存的容量是有限的,如果請求的數(shù)據(jù)量是大量的,那么根據(jù)具體情況進(jìn)行一定的淘汰策略是必不可少的。例如:?LRU?、?LFU?和?FIFO?等等。

六、總結(jié)

本文主要介紹了Java緩存的運(yùn)用方式的三種思路,Java緩存的類別,在系統(tǒng)中可以設(shè)立緩存的幾個位置,以及最后總結(jié)了 Java 緩存中會遇到的問題。如果想對文章中的具體細(xì)節(jié)有更多的了解,請關(guān)注 w3cschool 或 編程獅APP。


0 人點(diǎn)贊