Was ist ein Datenmigrations-Framework?
Was ist ein Datenmigrations-Framework?
Bei der Datenmigration werden Daten von einem Speichersystem oder einer Computing-Umgebung in eine andere verschoben. Jede Datenmigrationsinitiative zielt darauf ab, Daten effizient zu übertragen und dabei Faktoren wie Netzwerkressourcen, Datensicherheit, Zeit und Übertragungsmethoden zu berücksichtigen. Die Cloud-Datenmigration konzentriert sich ausdrücklich auf die Migration von Daten in die Cloud.
Bei diesem Prozess geht es nicht nur um die Verlagerung von Daten, sondern auch um deren genaue Zuordnung zwischen verschiedenen Speicherumgebungen. Dies kann auf verschiedene Arten geschehen. Beispielsweise müssen Sie möglicherweise regelmäßig Datendateien stapelweise hochladen, Daten von Sensoren streamen oder eine einmalige Migration eines bestehenden Archivs von On-Premises-Datenspeichersystemen durchführen.
Ziele
Jedes Cloud-Datenmigrationsprojekt erfordert einen klaren Business Case, um die besten Ergebnisse zu erzielen. Es gibt jedoch einige Ziele, die die meisten Datenmigrationen gemeinsam haben:
- Erhöhte Effizienz, beispielsweise durch die Steigerung der Betriebszeit, eine Remote-First-Infrastruktur oder die Systemkonsolidierung.
- Geringerer Ressourcenaufwand für Hardware-Wartung, Serverraumbetrieb und rund um die Uhr verfügbare Systemadministratoren vor Ort.
- Grundlegende Datenplattform für die Durchführung von Analytik, künstlicher Intelligenz und die Entwicklung von Unternehmensanwendungen.
Weitere Ziele können darin bestehen, die Verfügbarkeit der Systeme bis zum Ende ihrer natürlichen Lebensdauer sicherzustellen, die gesamte Infrastruktur zu virtualisieren und Daten in bestehende Cloud-Systeme zu integrieren.
Herausforderungen
Eine erfolgreiche Cloud-Migration beinhaltet mehr als nur die Übertragung von Dateien. Sie erfordert Folgendes:
- Berechtigungen, Zugriffskontrollen und andere Metadaten bleiben erhalten.
- Benutzer haben während des Uploads ununterbrochenen Zugriff auf wichtige Daten.
- Die Datenkonsistenz bleibt trotz Netzwerkausfällen erhalten
Die Übertragung großer Datenmengen ist zeitaufwändig und erfordert oft erhebliche manuelle Eingriffe. Investitionen in spezielle Tools für die Migration können zu sinkenden Kosten führen, sobald die Umstellung abgeschlossen ist.
Daher erfordert die Cloud-Migration Planung, Terminierung und die richtigen Tools, um die Betriebskosten zu begrenzen und die Kosten zu senken. Andernfalls könnte sich der Datenmigrationsprozess verzögern oder sogar einen Neustart von Grund auf erfordern.
Was sind die wichtigsten Überlegungen bei der Planung der Datenmigration?
Die für die Datenmigration verantwortlichen Führungskräfte und Teams müssen folgende Punkte berücksichtigen:
- Zeitaufwand für die Datenmigration
- Alle bestehenden Inkompatibilitäten zwischen Quelle und Ziel
- Sicherheitsüberlegungen bei der Migration
- Kosten der Migrationstools oder -prozesse
- Überlegungen zur Planung
- Migrationstyp – Batch, Streaming, alles auf einmal
- Auswirkungen auf Netzwerkressourcen.
Die Planungsschritte umfassen:
Datenquellen bewerten
Bevor Sie Daten verschieben, müssen Sie Ihre aktuellen Datenkonfigurationen bewerten. Die aktuellen Daten-, Speicher- und Zugriffsmethoden bestimmen Ihre Migrationsoptionen.
Beispielsweise können relationale Datenbanken, die auf einem lokalen MySQL-Server gespeichert sind, mit einem relativ einfachen Verfahren und einem Eins-zu-Eins-Datenbankmanagementsystem zu Amazon Relational Database Service (RDS) migriert werden. Allerdings könnten sich On-Premises-Legacy-Systeme für ERP als schwieriger erweisen, insbesondere wenn eine digitale Transformation einen Softwarewechsel erforderlich macht.
Identifizieren und notieren Sie die Details all Ihrer Datenquellen für die Cloud-Migration, wie beispielsweise:
- Datenbanken
- Anwendungsdaten
- Speicher
- Datenmodelle
- Von Cloud zu Cloud
Migration gestalten
Dies umfasst die Organisation und Konfiguration von Migrationstools, die den bestehenden Sicherheitsstandards entsprechen. Sie müssen außerdem die Reihenfolge der Datenmigrationsvorgänge festlegen und diese im Voraus planen. Sie können beispielsweise aus folgenden Optionen wählen:
- Live-Replikation für automatisches, asynchrones Kopieren von Objekten, bis die Daten zwischen beiden Systemen synchronisiert sind.
- Snapshot-Migration für die komplette Übertragung eines vollständigen Systemzustands, der anschließend durch kleinere Übertragungen aktualisiert wird, um den aktuellen Zustand zu erreichen und anzupassen.
- Schrittweise Migration für die Migration kleinerer Datensätze, jeweils einzeln.
Planen Sie außerdem, wie Sie am Ende die Genauigkeit und Qualität der Migration bewerten wollen.
Kurzinformation für die wichtigsten Interessengruppen
Die Migration kann für Mitarbeitende, Kundschaft und Partner des Unternehmens störend sein. Stellen Sie sicher, dass die wichtigsten Interessengruppen über den Datenmigrationsprozess, die Pläne, Zeitpläne und über Störungen der Zugänglichkeit während der Migrationsphase informiert sind. Möglicherweise sind auch Schulungen erforderlich, um sicherzustellen, dass Administratoren wissen, wie sie die Daten und Cloud-Services nach der Migration konfigurieren müssen, und dass Benutzer wissen, wie sie darauf zugreifen können.
Planen Sie während des gesamten Migrationsprozesses regelmäßige Updates ein, um eine positive Stimmung aufrechtzuerhalten.
Lösung entwickeln und testen
Jede Datenmigration erfordert eine andere Strategie. Einige Arten der Datenmigration erfordern eine schnelle, vollständige Übertragung einer kleinen Datenmenge, während bei anderen Arten im Laufe der Zeit große Datenmengen nach und nach übertragen werden. Wie Sie Ihre Migration aufbauen und testen, hängt von der Strategie und den verwendeten Tools ab. In der Regel werden Sie Ihre alten Systeme so lange weiterverwenden, bis Sie die neuen Systeme vollständig getestet haben, um sicherzustellen, dass der Migrationsprozess abgeschlossen und korrekt ist.
Welche Datenmigrationsstrategien gibt es?
Es gibt verschiedene Strategien und Methoden zum Hochladen von Daten in die AWS Cloud mithilfe der AWS Cloud Data Migration Services.
Direkte Netzwerkverbindungen
Eine direkte Netzwerkverbindung ist eine private Kabelverbindung zwischen Ihrem Router und einem Cloud-basierten Router. Der Cloud-basierte Router befindet sich am Edge des privaten Netzwerks des Cloud-Anbieters und eröffnet Ihnen direkten Zugang zu dessen Dienstleistungsangebot.
Mit AWS Direct Connect können Sie ein Ethernet-Glasfaserkabel für eine Layer-3-Netzwerkverbindung zwischen Ihrem Unternehmen und AWS verwenden, um Daten sicher von Ihren Netzwerken zu AWS-Services zu übertragen. AWS Direct Connect verfügt über Standorte weltweit, an denen Sie Geräte für die Datenmigration einrichten können.
Erste Schritte:
Schritt 1 – Ihre Direct-Connect-Standorte auswählen
Wählen Sie einen AWS-Direct-Connect-Standort aus, legen Sie die erforderlichen Verbindungen fest und wählen Sie eine Portgröße aus. Für eine höhere Bandbreite oder Redundanz können mehrere Ports verwendet werden.
Schritt 2 – Verbindungstyp auswählen
Entscheiden Sie sich zwischen einer dedizierten oder einer gehosteten Verbindung. Eine dedizierte Verbindung bietet exklusiven Zugriff mit mehreren virtuellen Schnittstellen, während eine gehostete Verbindung den Cross Connect gemeinsam nutzt und eine einzige virtuelle Schnittstelle bereitstellt.
Schritt 3 – Virtuelle Schnittstellen einrichten
Konfigurieren Sie eine oder mehrere logische virtuelle Schnittstellen (VIF) über Ihre Verbindung. Transit-VIFs verbinden sich mit AWS Transit Gateways, öffentliche VIFs greifen über öffentliche IPs auf öffentliche AWS-Services zu und private VIFs verbinden sich über private IPs mit Amazon VPC.
Gerätebasierte Datenübertragung
Groß angelegte Datenmigrationen können effizienter sein, wenn Daten auf ein Gerät übertragen und physisch in ein Rechenzentrum transportiert werden. AWS Snowball ist ein Service, der sichere, robuste Geräte bereitstellt, mit denen Sie Daten sicher in die Cloud hochladen können. Die Schritte sind wie folgt:
1. AWS liefert Ihnen auf Anfrage ein Snowball-Gerät an Ihren Standort.
2. Verbinden Sie das Gerät mit Ihrem Netzwerk und verwenden Sie den AWS Snowball Client oder AWS OpsHub, um das Gerät zu entsperren und zu konfigurieren.
3. Kopieren Sie Daten auf das Gerät – die integrierte Verschlüsselung gewährleistet Sicherheit während der Übertragung.
4. Senden Sie das Gerät mit dem vorfrankierten Versandetikett an AWS zurück.
5. Bei der Ankunft überträgt AWS die Daten automatisch in den angegebenen S3-Bucket und löscht das Snowball-Gerät sicher.
6. Sobald der Vorgang abgeschlossen ist, erhalten Sie eine Benachrichtigung.
Hochladen von Sensordatenströmen
Streaming-Daten, die von IoT- oder Industriegeräten und Sensornetzwerken erfasst werden, können in Echtzeit in die Cloud übertragen werden, anstatt vor Ort erfasst und stapelweise verarbeitet zu werden. Mit Amazon Data Firehose können Sie einen Stream mit Ihrer Datenquelle einrichten, die Daten bei Bedarf transformieren und sie dann in einer Reihe von Zielspeicher-Services in AWS speichern.
Die Schritte sind wie folgt
Schritt 1 – Firehose-Stream erstellen
Ein Firehose-Stream ist die Kernkomponente von Amazon Data Firehose. Sie können ihn über die AWS-Konsole erstellen und so konfigurieren, dass er Daten direkt oder aus einem bestehenden Amazon-Kinesis-Datenstrom empfängt.
Schritt 2 – Daten an den Firehose-Stream senden
Datensätze mit einer Größe von bis zu 1 000 KB werden von Datenstromproduzenten an den Firehose-Stream gesendet. Datenproduzenten können Anwendungen, Server oder andere AWS-Services sein.
Schritt 3 – Pufferung und Datenverarbeitung konfigurieren
Amazon Data Firehose puffert eingehende Daten, bevor diese an die Ziele geliefert werden. Sie können die Puffergröße (in MB) und das Pufferintervall (in Sekunden) konfigurieren.
Schritt 4 – Ziel auswählen und Datenfluss verstehen
Amazon Data Firehose liefert Streaming-Daten an verschiedene Ziele
- Amazon-S3-Daten werden in einem S3-Bucket gespeichert, wobei optional eine Sicherung der transformierten Daten möglich ist.
- Amazon Redshift wird zuerst an einen S3-Bucket geliefert und dann mit dem COPY-Befehl in Redshift geladen.
- Amazon OpenSearch Service mit optionaler Sicherung in S3.
Datenbank-Migration
Datenbankmigration bezieht sich auf die Migration relationaler Datenbanken, Data Warehouses, NoSQL-Datenbanken und anderer Arten von Datenspeichern in Datenbankform. Migrations-Services erkennen die Datenbanktypen und -schemata und kopieren sie direkt in dieselbe Infrastruktur oder konvertieren sie in eine neue Ziel-Engine.
Der AWS Database Migration Service erkennt, bewertet, konvertiert und migriert Datenbank- und Analytik-Workloads mithilfe eines automatisierten Datenmigrationsprozesses zu AWS. Er ist hochverfügbar und hat minimale Ausfallzeiten.
Wenn Ihr Datenmigrationsfall oben nicht aufgeführt ist, können Sie auch Folgendes versuchen:
- AWS Transfer Family ist eine Suite sicherer Dateiübertragungs-Services wie SFTP
- AWS Storage Gateway ist eine Suite von hybriden Speicherlösungen vor Ort und in der Cloud
- AWS Glue ist eine Suite von Services zum Auffinden, Aufbereiten, Verschieben und Integrieren von Daten aus verschiedenen Quellen
Welche bewährten Methoden gibt es für die Datenmigration?
Im Folgenden werden einige bewährte Methoden für die Cloud-Datenmigration aufgeführt.
Immer Datensicherungen bereithalten
Halten Sie immer Datensicherungen bereit, unabhängig davon, ob Sie Daten verschieben oder lediglich Ihre täglichen Aufgaben ausführen möchten. Löschen Sie Ihre Originaldaten nicht, bevor Sie sicher sind, dass die Cloud-Konfiguration gründlich getestet wurde und wie erwartet funktioniert – mit eigenen Backups.
Sicherstellen, dass alle Abhängigkeiten zugeordnet und migriert werden
Daten sind oft mit verschiedenen anderen Abhängigkeiten verbunden und funktionieren ohne diese nicht richtig. Um einen reibungslosen Übergang zu gewährleisten, stellen Sie sicher, dass alle Abhängigkeiten zusammen mit den Originaldaten zugeordnet und migriert werden. Benutzerberechtigungen und Zugriffskontrollen sollten auf denselben Stand wie vor der Migration gesetzt und nach Möglichkeit im Hinblick auf erhöhte Sicherheit neu bewertet werden.
Sicherheits- und Compliance-Verpflichtungen und -Konfigurationen doppelt überprüfen
Vor, während und nach der Migration müssen Sie die Sicherheits- und Compliance-Richtlinien und -Verfahren überprüfen, um die richtigen Prozesse und Kontrollen für Migrationsaktivitäten zu ermitteln.
Planung für die Außerbetriebnahme alter Geräte berücksichtigen
Alte Hardware kann noch wiederherstellbare Daten enthalten, selbst wenn Dateien und Festplattenspeicher gelöscht wurden. Um die vollständige Löschung aller Daten zu gewährleisten, sollten Sie die Außerbetriebnahme alter Geräte sicherstellen, beispielsweise durch Befolgen der NIST 800-88-Richtlinien für die Medienbereinigung.
Wie kann AWS Sie bei Ihren Anforderungen an die Datenmigration unterstützen?
Bei AWS haben wir eine umfassende Suite von Tools und Services für die Datenmigration entwickelt, um den Import und Export von Daten einfach, sicher und kostengünstig zu gestalten. In jeder Phase des gesamten Datenmigrationsprozesses steht Ihnen Hilfe zur Verfügung. Besuchen Sie AWS Cloud Migration, um mit AWS zu migrieren und zu modernisieren, oder fordern Sie noch heute eine kostenlose AWS-Optimierungs- und Lizenzierungsbewertung an.