快取概觀

快取可協助應用程式顯著提高執行速度並大幅降低成本

什麼是快取?

快取是運算中用來存放資料子集的高速資料儲存層,通常是暫時性的,因此未來請求該資料時會比存取資料的主要儲存位置速度更快。快取可讓您有效率地重複使用之前擷取或運算的資料。

快取如何運作?

快取中的資料通常存放在快速存取硬體,例如 RAM (隨機存取記憶體),也可用於與軟體元件相互關聯。快取的主要目的是透過減少存取速度較慢的基礎儲存層的需要,提高資料擷取效能。

快取以容量換取速度,通常會短暫地存放資料子集,而資料庫的資料則通常是完整且耐用的。

ElastiCache Deep Dive: Best Practices and Usage Patterns

快取概觀

RAM 和記憶體內引擎:由於 RAM 和記憶體內引擎支援高請求率或 IOPS (每秒的輸入/輸出操作),快取可大規模提升資料擷取效能和降低成本。若使用傳統資料庫和以磁碟為基礎的硬體支援相同的規模,則需要額外的資源。這些額外的資源不但會提高成本,而且仍無法達到記憶體內快取提供的低延遲效能。

應用程式:快取可以應用在各種技術層並發揮其效益,包括作業系統,聯網層包括內容交付網路 (CDN) 和 DNS、Web 應用程式及資料庫。您可以使用快取來顯著降低延遲,並改善眾多讀取繁重型應用程式工作負載的 IOPS,例如 Q&A 入口網站、遊戲、媒體共享和社交網路。快取資訊可以包含資料庫查詢、運算密集型計算、API 請求/回應和 Web 成品 (例如 HTML、JavaScript 和影像檔案) 的結果。操控資料集的運算密集型工作負載 (例如推薦引擎和高效能運算模擬) 也可受益於做為快取的記憶體內資料層。在這些應用程式中,必須在跨數百個節點的電腦叢集中即時存取非常大型的資料集。由於基礎硬體的速度,在磁盤型存放區中處理該資料是這些應用程式的重大瓶頸。

設計模式:在分散式運算環境中,專用快取層可讓系統和應用程式依自己的生命週期與快取分開執行,使其不會對快取造成任何影響。高速快取充當中央層,可從具有其自身生命週期和架構拓撲的不同系統中進行存取。這在其中應用程式節點可以動態向內擴展和向外擴展的系統中尤為重要。如果快取與利用其的應用程式或系統位於同一節點,則擴展可能會影響快取的完整性。此外,使用本機快取時,只會讓取用資料的本機應用程式獲益。在分散式快取環境中,資料可以跨越多個快取伺服器並存放在中央位置,以讓該資料的所有取用者獲益。

快取最佳實務:實作快取層時,請務必了解快取資料的有效性。成功的快取會產生高命中率,這表示擷取時資料是存在的。當擷取的資料不在快取時,就會發生快取未命中。您可以套用 TTL (存留時間) 等控制以設定資料過期時間。另一個要考慮的項目是快取環境是否需要高可用性,您可以使用 Redis記憶體內引擎來滿足這個條件。在某些情況下,可以使用記憶體內層做為獨立資料儲存層,而不是從主要位置快取資料。在這個案例中,請務必針對記憶體內引擎中的資料定義適當的 RTO (復原時間目標 – 從故障復原所花的時間) 和 RPO (復原點目標 – 復原時擷取的最後一個時間點或交易),以判斷是否合適。您可以應用不同記憶體內引擎的設計策略和特點滿足大部分的 RTO 和 RPO 要求。

diagram_cachingmicrosite
用戶端側 DNS Web 應用程式 資料庫
使用案例

加速從網站 (瀏覽器或裝置) 擷取 Web 內容

網域至 IP 解析 加速從 Web/應用程式伺服器擷取 Web 內容。管理 Web 工作階段 (伺服器側) 加快應用程式效能和資料存取 降低與資料庫查詢請求相關的延遲
技術 HTTP 快取標頭、瀏覽器 DNS 伺服器 HTTP 快取標頭、CDN、反向代理、Web 加速器、鍵/值存放區 鍵/值資料存放區、本機快取 資料庫緩衝區、鍵/值資料存放區
解決方案 特定瀏覽器 Amazon Route 53 Amazon CloudFrontElastiCache for RedisElastiCache for Memcached合作夥伴解決方案 應用程式架構、ElastiCache for RedisElastiCache for Memcached合作夥伴解決方案  ElastiCache for RedisElastiCache for Memcached

Amazon ElastiCache 快取

Amazon ElastiCache 是一種 Web 服務,可在雲端輕鬆部署、操作和擴展記憶體內資料存放區或快取。這項服務能讓您從快速且受管的記憶體內資料存放區擷取資訊,而不是完全倚賴速度較慢的磁碟型資料庫,從而提高 Web 應用程式的效能。要了解如何實作有效的快取策略,請參閱這份關於記憶體內快取的技術白皮書。

快取優勢

提升應用程式效能

由於記憶體比磁碟 (磁性或 SSD) 快幾個數量級,因此,從記憶體內快取中讀取資料的速度非常快 (亞毫秒級)。這個超快速的資料存取功能可提升應用程式的整體效能。

降低資料庫成本

單一快取執行個體可提供數十萬次 IOPS (每秒輸入/輸出操作),可能取代大量資料庫執行個體,從而降低總成本。如果主要資料庫按輸送量收費,這一點尤為重要。在這些情況下,價格節省可能會達到數十個百分點。

減少後端負載

透過將讀取負載的重要部分從後端資料庫重新定向至記憶體內層,快取可減少資料庫上的負載,並保護其免受負載下的效能下降,甚至尖峰時崩潰的影響。

可預測的效能

現代化應用程式中的一個常見挑戰是,處理應用程式用量尖峰。例如,超級杯或選舉日期間的社交應用程式、黑色星期五期間的電子商務網站等。資料庫負載的增加導致獲取資料的延遲更高,從而使整個應用程式的效能無法預測。透過利用高輸送量的記憶體內快取,可以緩解此問題。

消除資料庫熱點

在眾多應用程式中,小部分資料集 (如名人檔案或流行產品) 可能會比其他資料存取頻率更高。這可能會導致資料庫中出現熱點,並且可能需要根據最常用資料的輸送量需求來超額佈建資料庫資源。將通用金鑰存放在記憶體內快取可以減輕對超額佈建的需求,同時為最常存取的資料提供快速且可預測的效能。

增加讀取輸送量 (IOPS)

除了較低的延遲,相對於類似的磁碟區資料庫,記憶體內系統還可提供更高的請求速率 (IOPS)。用作分散側快取的單一執行個體每秒可處理數十萬個請求。

使用案例和產業

  • 使用案例
  • 產業
  • 使用案例
  • 了解各種快取使用案例

    資料庫快取

    資料庫在速度與輸送量方面提供的效能,可能是應用程式整體效能中影響最大的因素。雖然事實上,當今許多資料庫都提供相對較好的效能,但在許多使用案例中,您的應用程式可能需要更高的效能。憑藉資料庫快取,您可以顯著提高輸送量並降低與後端資料庫關聯的資料擷取延遲,從而改善應用程式的整體效能。快取充當資料庫的相鄰資料存取層,您的應用程式可以利用其來改善效能。資料庫快取層可以套用於任何類型的資料庫,包括關聯式資料庫和 NoSQL 資料庫。用於將資料載入快取的常用技術包括,延遲載入和通寫方法。如需詳細資訊,請按一下這裡

    內容交付網路 (CDN)

    若您的 Web 流量分散在各地,在全球範圍內複寫整個基礎架構並非總是可行,並且肯定不具成本效益。CDN 讓您能夠利用其節點的全域網路,將 Web 內容 (如影片、網頁、影像等) 的快取複本交付給客戶。為了減少回應時間,CDN 利用離客戶最近的節點或始發請求位置來減少回應時間。鑑於 Web 資產從快取交付,因此輸送量會顯著提高。針對動態資料,可以將許多 CDN 設定為從原始伺服器擷取資料。

    Amazon CloudFront 是全域 CDN 服務,可加速交付您的網站、API、影片內容或其他 Web 資產。這項服務與其他 Amazon Web Services 產品整合,提供開發人員和企業一個簡單的方式加速將內容傳遞給最終使用者,而且沒有最低使用量限制。若要進一步了解有關 CDN 的資訊,請按一下這裡

    網域名稱系統 (DNS) 快取

    在網際網路上進行的每項網域請求,實質上都是在查詢 DNS 快取伺服器,以便解析與該網域名稱關聯的 IP 地址。DNS 快取可以透過 ISP 和 DNS 伺服器在許多層級上進行,包括作業系統。

    Amazon Route 53 是一種可用性高、可擴展性強的雲端網域名稱系統 (DNS) Web 服務。

    工作階段管理

    HTTP 工作階段包含您的站台使用者和 Web 應用程式之間交換的使用者資料,例如登入資訊、購物車清單、之前檢視的項目等。若要在網站上提供出色的使用者體驗,關鍵在於記住使用者的偏好並提供豐富的使用者內容,從而有效地管理 HTTP 工作階段。在現代化應用程式架構中,出於多方面的原因,使得利用集中式工作階段管理資料存放區成為理想的解決方案,其中包括︰在所有 Web 伺服器上提供一致的使用者體驗;Web 伺服器機群富有彈性時,具有更出色的工作階段耐久性;以及在快取伺服器中複寫工作階段資料時,具有更高的可用性。

    如需詳細資訊,請按一下這裡

    應用程式的程式設計界面 (API)

    如今,大多數 Web 應用程式都基於 API 建置。API 通常是一種可透過 HTTP 存取的 RESTful Web 服務,以及公開允許使用者與應用程式互動的資源。在設計 API 時,務必要考慮 API 的預期負載、對其的授權、版本變更對 API 使用者的影響,以及最重要的是 API 的易用性,以及其他考量。API 並非總是需要具現化商業邏輯,及/或在每次請求時向資料庫發出後端請求。有時,提供 API 的快取結果將提供最佳化、最具成本效益的回應。在您能夠快取 API 回應以符合基礎資料的變化率時,尤其如此。舉例來說,您向使用者公開產品清單 API,並且您的產品類別每天僅變更一次。假設每次呼叫您的 API 時,對產品類別請求的回應在一天中都是相同的,那麼在一天中快取您的 API 回應就已足夠。透過快取 API 回應,可以消除基礎架構的壓力,包括應用程式伺服器和資料庫。此外,您還可從加速的回應時間獲益,並提供效能更高的 API。

    Amazon API Gateway 是一項全受管服務,可讓開發人員輕鬆地建立、發佈、維護、監控和保護任何規模的 API。

    混合式環境快取

    在混合式雲端環境中,您可能擁有駐留在雲端並且需要頻繁存取內部部署資料庫的應用程式。許多網路拓撲均可用於在您的雲端和內部部署 (包括 VPN 和 Direct Connect) 之間建立連線。雖然從 VPC 到內部部署資料中心的延遲可能很短,但最好將內部部署資料快取在雲端環境,以加快整體資料擷取效能。

    Web 快取

    在向檢視者提供 Web 內容時,透過快取這些成品並消除磁碟讀取和伺服器負載,可以顯著減少擷取 Web 資產 (如影像、html 文件、影片等) 涉及的許多延遲。伺服器和用戶端均可採用各種 Web 快取技術。伺服器端 Web 快取通常涉及利用 Web 代理,該代理會保留位於其前面的 Web 伺服器做出的 Web 回應,從而有效地減少其負載和延遲。用戶端 Web 快取可以包含瀏覽器型快取,其保留之前存取的 Web 內容的快取版本。如需有關 Web 快取的詳細資訊,請按一下這裡

    一般快取

    從記憶體存取資料比從磁碟或 SSD 存取資料快幾個數量級,因此,在快取中利用資料具有諸多優勢。針對不需要交易資料支援或磁碟耐久性的眾多使用案例,使用記憶體內的機碼值存放區作為獨立資料庫,這是建置高效能應用程式的絕佳方法。除速度外,應用程式還從具成本效益價格點的輸送量中獲益。產品分組、類別清單、描述檔資訊等參考資料是一般快取的絕佳使用案例。如需一般快取的詳細資訊,請按一下這裡

    整合式快取

    整合式快取是一個記憶體內層,可從原始資料庫自動快取經常存取的資料。最常見的是,假設資料駐留在高速快取中,則基礎資料庫將利用高速快取,來提供對傳入資料庫請求的回應。透過降低請求延遲並減少資料庫引擎上的 CPU 和記憶體使用率,這可顯著提升資料庫的效能。整合式快取的一個重要特徵是,快取的資料與資料庫引擎存放在磁碟上的資料一致。

  • 產業
  • 了解不同產業和各種快取使用案例

    行動應用程式

    鑑於消費類裝置的迅速採用以及傳統電腦設備的使用下降,行動應用程式成為令人難以置信的快速增長的市場區隔。無論是用於遊戲、商業應用程式、健康應用程式,還是其他,當今幾乎每個市場區隔都具有行動友好型應用程式。從應用程式開發的角度來看,建置行動應用程式與建置任何其他形式的應用程式非常相似。您具有相同的關注領域,即展示層、業務層和資料層。雖然您的螢幕資源和開發工具有所不同,但在所有應用程式中實現共同的目標是提供出色的使用者體驗。透過高效的快取策略,您的行動應用程式可以提供使用者期望的效能,進行大規模擴展,以及降低總體成本。

    The AWS Mobile Hub 是一個主控台,可提供探索、設定和存取 AWS 雲端服務的整合體驗,以建置、測試和監控行動應用程式的使用情況。

    物聯網 (IoT)

    物聯網是一個概念,其透過裝置感應器從裝置和實體世界收集資訊,然後傳遞至網際網路或使用資料的應用程式。IoT 的價值在於能夠以近乎即時的間隔時間了解擷取的資料,這最終讓取用系統和應用程式能夠快速回應該資料。例如,傳輸其 GPS 坐標的裝置。您的 IoT 應用程式可以透過建議與這些坐標鄰近度有關的興趣點來做出回應。此外,如果您存放了與裝置使用者相關的偏好設定,則可以微調針對該使用者的建議。在此特定範例中,應用程式回應坐標的速度對於實現出色的使用者體驗至關重要。快取在此可以發揮重要作用,例如,興趣點和地理坐標可以存放在鍵/值存放區 (如 Redis) 中,以實現快速擷取。從應用程式開發的角度來看,只要採用程式設計方式來執行操作,您即可對 IoT 應用程式進行編碼以回應任何事件。建置 IoT 架構時要考慮的重要考量包括:分析攝取的資料所需的回應時間、設計可擴展 N 個裝置數量的解決方案,以及提供經濟高效的架構。

    AWS IoT 是一個受管的雲端平台,可讓連線裝置輕鬆安全地與雲端應用程式及其他裝置進行互動。

    進一步閱讀:Managing IoT and Time Series Data with Amazon ElastiCache for Redis

    廣告技術

    現代廣告技術應用程式對效能的要求尤其苛刻。舉例來說,AdTech 的一個重要增長領域是即時出價 (RTB),這是一種競拍式方法,可以在最細微的印象級別即時處理數位顯示廣告。即時出價是 2015 年的主要交易方式,佔以程式設計方式購買廣告的 74.0%,在美國佔 110 億 USD (根據 eMarketer 分析)。建置即時出價應用程式時,在準時提交競價以及競價變得無關緊要之間,哪怕一毫秒的差異也會帶來重大影響。這意味著從資料庫中獲取出價資訊必須非常迅速。資料庫快取可以在亞毫秒級存取出價詳細資訊,堪稱實現這一高效能的絕佳解決方案。

    遊戲

    互動性是幾乎任何現代遊戲的基本要求。沒有什麼比緩慢或無回應的遊戲更讓玩家感到沮喪的了,那些遊戲很少能成功。行動多人遊戲對效能的要求甚至更高,在這種情況下,任何一個玩家所採取的動作都需要與他人即時共享。透過為頻繁存取的資料提供亞毫秒級查詢回應,快取在保持遊戲流暢性方面發揮著至關重要的作用。多次查詢相同資料時,例如「得分排名前 10 的人是誰?」,這有助於緩解熱鍵問題。

    若要進一步了解在 AWS 上開發遊戲的詳細資訊,請按一下這裡

    媒體

    媒體公司經常需要透過不斷變化的閱讀器/檢視器,來向客戶傳輸大量靜態內容。例如 Netflix 或 Amazon Video 等影片串流服務,這些服務需要將大量影片內容串流給檢視者。內容交付網路與之非常契合,其資料存放在全域分佈的快取伺服器集上。媒體應用程式的另一方面是,負載趨於尖峰且不可預測。想像一下,某個名人剛剛推送了網站上的某篇部落格,或者超級杯期間足球隊的網站。對小部分內容的需求激增,這對於大多數資料庫極具挑戰性,因為其每鍵的輸送量有限。因為記憶體比磁碟具有更高的輸送量,因此資料庫快取可藉由將讀取重導至記憶體內快取來解決問題。

    電子商務

    現代電子商務應用程式正在變得日益複雜,能夠提供個人化的購物體驗,包括根據使用者資料和購物歷史提供的即時推薦。這些通常還包括查看使用者的社交網路,並根據其朋友喜好或購買的商品提供推薦。雖然處理所需的資料量不斷增加,但客戶的耐心卻沒有增加。因此,保持應用程式即時執行並非是奢求,而是勢在必行;執行良好的快取策略是應用程式效能的關鍵因素,並且可能造成應用程式成敗、完成銷售或失去客戶之間的差異。

    社群媒體

    社群媒體應用程式席捲全球。諸如 Facebook、Twitter、Instagram 和 Snapchat 之類的社交網路擁有龐大的使用者,其取用的內容亦與日俱增。當使用者打開其摘要時,她希望能夠即時查看其最新的個人化內容。這並非靜態內容,因為每個使用者都有不同的好友、影像、興趣愛好等,從而加劇了基礎平台的工程複雜性需求。社群媒體應用程式也很容易在主要娛樂、體育和政治活動周圍出現用量尖峰。如此的尖峰彈性和即時效能可透過多層快取來提供,包括用於靜態內容 (例如背景圖片) 的內容交付網路、用於持續追蹤使用者目前工作階段資料的 工作階段快取,以及用於保存經常存取資料 (例如親近好友的最新消息和最近使用的圖片) 的資料庫快取

    醫療保健

    醫療保健產業正在經歷一場數位變革,讓世界各地越來越多的患者都可以使用和獲得照護。某些應用程式可讓患者透過影片諮詢就醫,大多數服務提供者均提供各種應用程式,讓患者能夠看到其檢驗結果並與醫護人員互動。在健康方面,許多應用程式可追蹤使用者的特定感應器活動,例如 FitBit 和 Jawbone,甚至全面的健康指導和資料。鑑於這些應用程式的互動性,必須解決快速執行的應用程式、產業和資料層方面的需求。透過有效的快取策略,您將能夠提供快速的效能,降低總體基礎架構成本,並隨著用量增長而擴展。

    若要進一步了解有關在 AWS 上建置醫療保健應用程式的詳細資訊,請按一下這裡

    財務與金融技術

    近年來,我們使用金融服務的方式已經發生了翻天覆地的變化。應用程式包括存取銀行和保險服務、詐騙偵測、投資服務、透過即時演算法最佳化資本市場等。提供客戶金融資料的即時存取,讓其能夠進行轉賬或付款等交易極具挑戰性。首先,具有類似其他應用程式的限制,在這些應用程式中,使用者希望近乎即時地與該應用程式互動。另外,金融應用程式可能具有其他要求,例如增強安全性和詐騙偵測。高效的架構 (包括多層快取策略) 對於實現使用者所期望的效能至關重要。根據應用程式的需求,快取層可包含用於存放使用者工作階段資料的工作階段快取、用於提供靜態內容的 內容交付網路,以及用於經常存取資料的資料庫快取,例如客戶最近購買的 10 個商品。

    若要進一步了解 AWS 上的金融服務應用程式,請按一下這裡

開始使用 Amazon ElastiCache

Step 1 - Sign up for an AWS account

註冊 AWS 帳戶

立即存取 AWS 免費方案
icon2

透過簡單教學了解

探索如何建立 Redis 叢集

icon3

開始建立

透過使用者指南的協助開始建立。