Second Spectrum 使用 AWS 負載平衡器控制器和 Amazon EKS 將 Kubernetes 託管成本降低 90%

Second Spectrum 由南加州大學的一個研究小組發展而來，於 2013 年在洛杉磯成立。國家籃球協會、美國職業足球大聯盟或英超聯賽或比賽的電視觀眾已經看到了 Second Spectrum 技術的應用，例如，使用計算機視覺來追蹤球員的動作。作為一家初創公司，Second Spectrum 試圖快速試驗新的工具產品，並將最可行的工具推入生產。要做到這一點，公司需要有效的路由，以便能夠以可複製的方式佈建其架構的某些部分。

在應用程式部署方面，Second Spectrum 自 2014 年以來一直使用容器化。Second Spectrum 基礎設施資深總監 Sheldon Kwok 說：「Kubernetes 就像是一頭難以馴服的野獸。因為活動部件太多，因此在內部了解和管理 Kubernetes 內部元件非常耗時。

」Second Spectrum 自應用程式負載平衡器在 2016 年發行以來，一直在這個容器化環境中使用該工具。應用程式負載平衡器會在要求層級 (第 7 層) 運作，將流量路由到容器或網際網路通訊協定位址等目標。但是，團隊仍然面臨效率低下的挑戰。Kwok 表示：「還有一個額外的網路步驟：您必須在 NodePort 上透過 Kubernetes 代理伺服器路由，而該代理不一定會與您的最終服務位於相同的可用區域中。」Second Spectrum 團隊致力於消除這一額外步驟以提高效能。

AWS 在 2020 年推出 AWS 負載平衡器控制器時，Second Spectrum 的工程師們對此很感興趣，這些控制器支援 Pod，即可以協同部署和管理的一小組應用程式容器。Kwok 表示：「AWS 負載平衡器控制器提供的直接 Pod 網際網路通訊協定目標註冊，讓我們能夠將組態清理並整合到簡單易用的 Kubernetes 輸入中。

Second Spectrum 獲得了來自 Amazon EKS 的進一步支援，後者處理公司的 Kubernetes API 伺服器，並作為自我管理 Kubernetes 叢集的更高效替代方案。「使用 Amazon EKS 可以消除管理 Kubernetes 帶來的所有難題。」「它可以讓我們開發更多與產品相關的功能。」 在提高生產效率的同時，Amazon EKS 簡化的受管環境也能讓公司節省成本，Kwok 表示：「我們之前每月花費約 1,000 美元，只是為 API 伺服器執行一個 Kubernetes 叢集。而 Amazon EKS 每月只花費我們大約 100 美元。」

AWS 負載平衡器控制器和 Amazon EKS 可讓 Second Spectrum 直接監控 Kubernetes Pod，並略過先執行執行個體的額外步驟。透過這項全新設定，團隊注意到每個請求的效能改善約為 5 毫秒，在提供近乎即時的追蹤和視覺效果以增強觀看體驗方面，這可以說是一個微小但又重要的勝利。這個 AWS 自動化程式也會大幅降低組態鏈中人為錯誤的可能性。Second Spectrum 工程營運副總裁 Eric Lui 表示：「我們在負載平衡和可用性方面遇到問題的比例應該會下降約 75%。」

Second Spectrum 團隊估計，較簡單的組態每年至少可節省 2 週的員工時間，因為工程師擁有更好的自助服務能力，而不用等待基礎架構團隊。使用 Amazon EKS 的考量因素 – 可減少訓練新員工操作自我管理 Kubernetes 叢集所花費的時間，預計每年可節省約 3 個全職當量月份的時間。該公司的整個命名空間只能使用一個 Application Load Balancer，而 AWS 負載平衡器控制器可以動態擴展以處理大量的傳入請求，並自動停止路由到當機的代理伺服器。

Second Spectrum 團隊認為這種新的組態是邁向 DevOps 軟體工程方法的重要步驟。Lui 表示：「我們希望將這些工具交給開發人員，以便他們可以負責自己的負載平衡組態：部署、測試並設定健康狀態檢查。」「這使人們能夠更加自主化並提高生產效率。在對組織的影響方面，這是一個關鍵部分。」

現在，Second Spectrum 工程師不會花太多時間管理 Kubernetes 叢集，他們有更多時間探索其他機會。未來，團隊計劃將這些工作負載遷移到 AWS Fargate，以節省彈性工作負載的價格。AWS Fargate 是用於與 Amazon EKS 一起運作的容器的無伺服器運算引擎。此外，新的路由組態具有可擴展性和可複製性，因此該公司可以在歐洲建置類似的組態。

隨著 Second Spectrum 持續推進體育分析，它預計 AWS 產品將發揮關鍵作用。「AWS 對客戶的請求秉持十分開放的態度。我們經常要求提供新功能，而我們的技術客戶經理提到其他客戶也要求提供類似的功能。」「我們盡量掌握 AWS 提供的所有新功能，以盡可能地使用 AWS。」 

Second Spectrum 於 2013 年在洛杉磯成立。作為全國籃球協會、美國足球大聯盟和英超聯賽的官方追蹤提供商，Second Spectrum 提供了對遊戲的先進機器理解，從而釋放快速技術驅動的見解。

• Kubernetes 託管成本降低 90%
• 預計錯誤率降低 75%
• 預計每年可節省 3 個全職當量月份的工程和新員工培訓時間
• 每個請求的應用程式回應時間縮短了 5 毫秒