Second Spectrum reduziert die Hosting-Kosten für Kubernetes mithilfe von AWS Load Balancer Controller und Amazon EKS um 90 %

2021

Second Spectrum bietet eine KI-gestützte Tracking-Technologie für Sportübertragungen, um die Art und Weise zu modernisieren, wie Menschen mit Sportinhalten interagieren. Fernsehsender und Kommentatoren nutzen die Tools des Unternehmens, um schnelle Einblicke zu gewähren, die von hilfreichem Bildmaterial begleitet werden. Um diese Tools zu verbessern und schnell neue Tools zu entwickeln, setzt Second Spectrum auf die effiziente Nutzung der Entwicklerressourcen von Amazon Web Services (AWS).

Zunächst nutzte Second Spectrum Application Load Balancer für containerisierte Workloads, die ursprünglich auf selbstverwalteten Kubernetes-Clustern ausgeführt wurden. Das Unternehmen erkannte schnell, dass es seine Kubernetes-Cluster effizienter ausführen konnte, indem es auf Amazon Elastic Kubernetes Service (Amazon EKS) migrierte. Dieser verwaltete Kubernetes-Service bietet Unternehmen die Flexibilität, Kubernetes-Anwendungen in AWS oder On-Premises zu starten, auszuführen und zu skalieren. Außerdem sah Second Spectrum die Möglichkeit, das Workload-Routing mithilfe von AWS Load Balancer Controller zu optimieren, was dem Unternehmen ermöglichen würde, den Betrieb zu vereinfachen. Dazu würde ein Application Load Balancer von mehreren Anwendungen, die in einem von Amazon EKS verwalteten Kubernetes-Cluster bereitgestellt wurden, gemeinsam genutzt werden. Diese integrierte AWS-Lösung half Second Spectrum, die Hosting-Kosten für Kubernetes um 90 Prozent zu senken, Fehler um bis zu 75 Prozent zu reduzieren, die Reaktionszeit von Anwendungen um 5 ms pro Anforderung zu erhöhen, die Mitarbeiterproduktivität zu steigern und ein skalierbares, replizierbares Mittel zur Optimierung der Workload-Bereitstellung zu schaffen.

Running soccer player on grass
kr_quotemark

Die IP-basierte Direct-Pod-Zielregistrierung von AWS Load Balancer Controller hat uns ermöglicht, unsere Konfiguration zu bereinigen und in einer einfach zu nutzenden Kubernetes-Eingabe zu konsolidieren.“ 

Sheldon Kwok
Senior Director of Infrastructure, Second Spectrum

Auf der Suche nach einer effizienten Load-Balancer-Lösung für Kubernetes

Second Spectrum ist aus einer Forschungsgruppe an der University of Southern California hervorgegangen und wurde 2013 in Los Angeles gegründet. Fernsehzuschauer von Spielen der National Basketball Association, der Major League Soccer oder der Premier League haben die Technologie von Second Spectrum bereits in Aktion gesehen – zum Beispiel den Einsatz von Computer Vision, um die Bewegungen der Spieler zu erfassen. Als Startup versuchte Second Spectrum, schnell neue Tool-Angebote auszuprobieren und die praktikabelsten Lösungen in die Produktion zu bringen. Dazu benötigte das Unternehmen effizientes Routing, damit es bestimmte Teile seiner Architektur replizierbar bereitstellen konnte.

Für die Anwendungsbereitstellung setzt Second Spectrum seit 2014 auf Containerisierung. „Mit Kubernetes hat man alle Hände voll zu tun“, sagt Sheldon Kwok, Senior Director of Infrastructure bei Second Spectrum. „Da es so viele bewegliche Teile gibt, ist es extrem zeitaufwendig, die integrierten Funktionen von Kubernetes intern zu verstehen und zu verwalten.

„In dieser containerisierten Umgebung verlässt sich Second Spectrum auf Application Load Balancer, seit das Tool 2016 veröffentlicht wurde. Application Load Balancer wird auf Anforderungsebene (Schicht 7) ausgeführt und leitet den Datenverkehr an Ziele wie Container oder IP-Adressen weiter. Mangelnde Effizienz war für das Team jedoch weiterhin eine Herausforderung. „Ein zusätzlicher Netzwerkschritt war erforderlich: Zur Weiterleitung über den Kubernetes-Proxy mussten wir einen NodePort verwenden, der sich nicht zwingend in derselben Availability Zone wie der endgültige Service befand“, berichtet Kwok. Das Team von Second Spectrum war sehr daran interessiert, diesen zusätzlichen Schritt zu beseitigen, um die Leistung zu verbessern. 

Effiziente Ressourcennutzung mit AWS Load Balancer Controller und Amazon EKS

Das Interesse der Entwickler von Second Spectrum war groß, als AWS im Jahr 2020 AWS Load Balancer Controller herausbrachte, der Unterstützung für Pods oder kleine Gruppen von Anwendungscontainern bietet, die gemeinsam bereitgestellt und verwaltet werden können. „Die IP-basierte Direct-Pod-Zielregistrierung von AWS Load Balancer Controller hat uns ermöglicht, unsere Konfiguration zu bereinigen und in einer einfach zu nutzenden Kubernetes-Eingabe zu konsolidieren“, so Kwok.

Second Spectrum erhielt weitere Unterstützung in Form von Amazon EKS, das den Kubernetes-API-Server für das Unternehmen verwaltete und als effizientere Alternative zum selbstverwalteten Kubernetes-Cluster diente. „Amazon EKS beseitigt sämtliche Probleme, die mit der Verwaltung von Kubernetes einhergehen“, sagt Kwok. „Dadurch können wir uns mehr produktbezogenen Features widmen.“ Die optimierte verwaltete Umgebung von Amazon EKS verbessert nicht nur die Produktivität, sondern ermöglicht dem Unternehmen auch, Kosten zu sparen: „Früher haben wir jeden Monat etwa 1 000 USD für den Betrieb eines einzigen Kubernetes-Clusters für die API-Server ausgegeben“, sagt Kwok. „Amazon EKS kostet uns rund 100 USD pro Monat.“

AWS Load Balancer Controller und Amazon EKS haben Second Spectrum ermöglicht, die Kubernetes-Pods direkt zu überwachen und den Extraschritt, erst die Instances zu durchlaufen, zu überspringen. Mit dieser neuen Konfiguration verzeichnete das Team eine Leistungssteigerung von rund 5 ms pro Anforderung – ein kleiner, aber wichtiger Gewinn, wenn man Tracking-Funktionen und Visualisierungen nahezu in Echtzeit bereitstellen möchte, um das Zuschauererlebnis zu verbessern. Außerdem reduziert dieser von AWS automatisierte Prozess das Risiko menschlicher Fehler in der Konfigurationskette erheblich. „Die Häufigkeit der Probleme, die mit dem Lastausgleich und der Verfügbarkeit auftreten, sollte um etwa 75 Prozent sinken“, sagt Eric Lui, Vice President of Engineering Operations bei Second Spectrum.

Das Team von Second Spectrum schätzt, dass die einfachere Konfiguration ihnen mindestens 2 Wochen Arbeitszeit pro Jahr einspart, da Entwickler sich oft selbst helfen können, anstatt auf das Infrastrukturteam warten zu müssen. Berücksichtigt man den Einsatz von Amazon EKS, wodurch der Zeitaufwand für die Schulung neuer Mitarbeiter im Betrieb selbstverwalteter Kubernetes-Cluster entfällt, summiert sich die voraussichtliche Zeitersparnis auf etwa 3 Monate Vollzeitäquivalent pro Jahr. Das Unternehmen kann nur einen Application Load Balancer für seinen gesamten Namespace verwenden, und AWS Load Balancer Controller kann dynamisch skaliert werden, um einen Zustrom eingehender Anforderungen zu verarbeiten und das Routing an ausfallende Proxyserver automatisch zu beenden.

Wertsteigerung durch die Nutzung der neuesten AWS-Angebote

Das Team von Second Spectrum betrachtet diese neue Konfiguration als einen wichtigen Schritt auf dem Weg zu einem DevOps-Ansatz für die Softwareentwicklung. „Wir möchten diese Tools Entwicklern zur Verfügung stellen, damit sie die Verantwortung für ihre eigene Lastausgleichskonfiguration übernehmen können: Bereitstellung, Tests und Zustandsprüfung“, so Lui. „Das eröffnet den Menschen die Möglichkeit, autonomer und produktiver zu sein. In puncto Auswirkungen auf die Organisation ist das ein Schlüsselelement.“

Jetzt, da die Entwickler von Second Spectrum nicht mehr so viel Zeit mit der Verwaltung von Kubernetes-Clustern verbringen, können sie sich stärker damit befassen, andere Möglichkeiten zu erkunden. In Zukunft plant das Team, Preiseinsparungen für elastische Workloads zu nutzen. Dazu sollen diese Workloads in AWS Fargate migriert werden, eine Serverless-Compute-Engine für Container, die mit Amazon EKS zusammen ausgeführt wird. Außerdem ist die neue Routing-Konfiguration skalierbar und replizierbar, sodass das Unternehmen eine ähnliche Konfiguration in Europa einrichten kann.

Second Spectrum entwickelt die Analysefunktionen im Sport kontinuierlich weiter und geht davon aus, dass AWS-Angebote eine wichtige Rolle spielen werden. „AWS ist sehr offen für Kundenanfragen. Wir fragen oft nach neuen Features und unser Technical Account Manager hat erwähnt, dass andere Kunden ähnliche Anfragen gestellt haben“, sagt Kwok. „Wir versuchen, den Überblick über all die neuen Funktionen zu behalten, die AWS bietet, damit wir AWS so viel wie möglich nutzen können.“ 

Referenzarchitektur von Second Spectrum

Ursprüngliche Architektur mit Application Load Balancer und selbstverwaltetem Kubernetes.

Neue Architektur mit Amazon EKS und AWS Load Balancer Controller.


Über Second Spectrum

Second Spectrum wurde 2013 in Los Angeles gegründet. Als offizieller Tracking-Anbieter für die National Basketball Association, die Major League Soccer und die Premier League bietet Second Spectrum ein fortschrittliches maschinelles Verständnis von Spielen, das schnelle technologiegestützte Einblicke ermöglicht.

Vorteile von AWS

  • Senkung der Hosting-Kosten für Kubernetes um 90 %
  • Voraussichtliche Reduzierung der Fehlerquote um 75 %
  • Voraussichtliche Zeiteinsparungen von 3 Monaten Vollzeitäquivalent pro Jahr für Entwickler und Schulung neuer Mitarbeiter
  • Verbesserte Reaktionszeit von Anwendungen (5 ms pro Anforderung)

Genutzte AWS-Angebote

Amazon EKS

Amazon Elastic Kubernetes Service (Amazon EKS) bietet Ihnen die nötige Flexibilität, um Kubernetes-Anwendungen in der AWS Cloud oder On-Premises zu starten, auszuführen und zu skalieren. Amazon EKS unterstützt Sie bei der Bereitstellung hochverfügbarer und sicherer Cluster und automatisiert wichtige Aufgaben, z. B. Patching, Knotenbereitstellung und Aktualisierungen. 

Weitere Informationen >>

Application Load Balancer

Application Load Balancer eignet sich perfekt für den Lastausgleich von HTTP- und HTTPS-Datenverkehr und bietet eine erweiterte Anforderungsweiterleitung, die auf die Bereitstellung moderner Anwendungsarchitekturen abzielt, einschließlich microservice- und containerbasierter Anwendungen.

Weitere Informationen >>

AWS Load Balancer Controller

AWS Load Balancer Controller verwaltet AWS Elastic Load Balancers für einen Kubernetes-Cluster. 

Weitere Informationen >>

AWS Fargate

AWS Fargate ist eine Serverless-Compute-Engine für Container, die mit Amazon Elastic Container Service (ECS) und mit Amazon Elastic Kubernetes Service (EKS) ausgeführt werden kann. Fargate macht die Bereitstellung und Verwaltung von Servern überflüssig, ermöglicht Ihnen, Ressourcen pro Anwendung festzulegen und zu bezahlen, und verbessert die Sicherheit durch eingebaute Anwendungsisolation.

Weitere Informationen >>

Erste Schritte

Unternehmen jeder Größe und aus jeder Branche transformieren ihr Geschäft mit AWS. Kontaktieren Sie unsere Experten und beginnen Sie noch heute Ihren Weg in die AWS Cloud.