Amazon SageMaker bietet eine große Auswahl an Instance-Typen, die für Anwendungsfälle im Bereich maschinelles Lernen (ML) optimiert sind. Instance-Typen unterstützen verschiedene Kombinationen von CPU, GPU, Arbeitsspeicher und Netzwerkkapazität. Dadurch können Sie den geeigneten Ressourcenmix für die Generierung und Bereitstellung Ihrer ML-Modelle sowie für diesbezügliche Schulungen flexibel gestalten. Jeden Instance-Typ gibt es in einer oder mehreren Größen, sodass Sie Ihre Ressourcen an die entsprechenden Zielvorgaben anpassen können.
HINWEIS: Details zum Support für jeden Instance-Typ in einer bestimmten AWS-Region und für eine bestimmte SageMaker-Funktion wie Erstellung, Verarbeitung, Schulung und Bereitstellung von ML-Modellen finden Sie auf der eigentlichen Preisseite. Nicht alle Instances werden in allen AWS-Regionen und/oder für alle SageMaker-Funktionen unterstützt.
Instance-Typ |
vCPU | GPU | Arbeitsspeicher (GiB) | GPU-Speicher (GiB) | Netzwerkleistung |
|---|---|---|---|---|---|
Standard – Aktuelle Generation |
|||||
ml.t2.medium |
2 | - | 4 | - | Gering bis mittel |
| ml.t2.large | 2 | 8 | Gering bis mittel | ||
| ml.t2.xlarge | 4 | 16 | Mittel | ||
| ml.t2.2xlarge | 8 | 32 | Mittel | ||
| ml.t3.medium | 2 | 4 | Gering bis mittel |
||
| ml.t3.large | 2 | 8 |
Gering bis mittel | ||
| ml.t3.xlarge | 4 | 16 | Gering bis mittel | ||
| ml.t3.2xlarge | 8 | 32 | Gering bis mittel |
||
| ml.m5.large | 2 | 8 | Hoch | ||
| ml.m5.xlarge | 4 | 16 | Hoch | ||
| ml.m5.2xlarge | 8 | 32 | Hoch | ||
| ml.m5.4xlarge | 16 | 64 |
Hoch | ||
| ml.m5.12xlarge | 48 | 192 | 10 Gigabit | ||
| ml.m5.24xlarge | 96 | 384 | 25 Gigabit |
||
ml.m4.xlarge |
4 | - | 16 | - | Hoch |
| ml.m4.4xlarge | 16 | - | 64 | - |
Hoch |
| ml.m4.10xlarge | 40 | - | 160 | - |
10 Gigabit |
| ml.m4.16xlarge | 64 | 256 | 25 Gigabit | ||
| ml.m5d.large | 2 | - | 8 | Bis zu 10 GBit/s | |
| ml.m5d.xlarge | 4 | - | 16 | - | Bis zu 10 GBit/s |
| ml.m5d.2xlarge | 8 | - | 32 | - | Bis zu 10 GBit/s |
| ml.m5d.4xlarge | 16 | - | 64 | - | Bis zu 10 GBit/s |
| ml.m5d.8xlarge |
32 | - |
128 | - | 10 GBit/s |
| ml.m5d.12xlarge | 48 | - | 192 | - | 10 GBit/s |
| ml.m5d.24xlarge | 96 | - | 384 | - | 25 GBit/s |
| RAM-optimiert – Aktuelle Generation |
|||||
| ml.r5.large | 2 | - | 16 | - | Bis zu 10 GBit/s |
| ml.r5.xlarge | 4 | - | 32 | - | Bis zu 10 GBit/s |
| ml.r5.2xlarge | 8 | - | 64 |
- | Bis zu 10 GBit/s |
| ml.r5.4xlarge | 16 | - | 128 | - | Bis zu 10 GBit/s |
| ml.r5.12xlarge | 48 | - | 384 | - | 10 GBit/s |
| ml.r5.24xlarge | 96 | - | 768 | - | 25 GBit/s |
| ml.r5d.large | 2 | - | 16 | Bis zu 10 GBit/s | |
| ml.r5d.xlarge | 4 | - | 32 | - | Bis zu 10 GBit/s |
| ml.r5d.2xlarge | 8 | - | 64 | - | Bis zu 10 GBit/s |
| ml.r5d.4xlarge | 16 | - | 128 | - | Bis zu 10 GBit/s |
| ml.r5d.8xlarge | 32 | - | 256 | - |
10 Gigabit |
| ml.r5d.12xlarge | 48 | - | 384 | - | 10 Gigabit |
| ml.r5d.16xlarge | 64 | - | 512 | - | 20 Gigabit |
| ml.r5d.24xlarge | 96 | - | 768 | - |
25 Gigabit |
| Für Datenverarbeitung optimiert – Aktuelle Generation | |||||
| ml.c5.large | 2 | 4 | Bis zu 10 GBit/s | ||
| ml.c5.xlarge | 4 | - | 8 | - | Bis zu 10 GBit/s |
| ml.c5.2xlarge | 8 | - | 16 | - | Bis zu 10 GBit/s |
| ml.c5.4xlarge | 16 | - | 32 | - | Bis zu 10 GBit/s |
| ml.c5.9xlarge | 36 | - | 72 | - | 10 Gigabit |
| ml.c5.18xlarge | 72 | - | 144 | - | 25 Gigabit |
| ml.c5d.xlarge | 4 | 8 | Bis zu 10 GBit/s | ||
| ml.c5d.2xlarge | 8 | 16 | Bis zu 10 GBit/s |
||
| ml.c5d.4xlarge | 16 | 32 | Bis zu 10 GBit/s |
||
| ml.c5d.9xlarge | 36 | 72 | 10 GBit/s |
||
| ml.c5d.18xlarge | 72 | 144 | 25 GBit/s |
||
| ml.c4.large | 2 | 3,75 | Mittel | ||
| ml.c4.xlarge | 4 | - | 7,5 | - | Hoch |
| ml.c4.2xlarge | 8 | - | 15 | - | Hoch |
| ml.c4.4xlarge | 16 | 30 | Hoch | ||
| ml.c4.8xlarge | 36 | - | 60 | - | 10 Gigabit |
| - | - | ||||
| Accelerated Computing – aktuelle Generation | |||||
| ml.p3.2xlarge | 8 | 1xV100 | 61 | 16 | Bis zu 10 GBit/s |
| ml.p3.8xlarge | 32 | 4xV100 | 244 | 64 | 10 Gigabit |
| ml.p3.16xlarge | 64 | 8xV100 | 488 | 128 | 25 Gigabit |
| ml.p3dn.24xlarge | 96 | 8xV100 | 768 | 256 | 100 Gigabit |
| ml.p2.xlarge | 4 | 1xK80 | 61 | 12 | Hoch |
| ml.p2.8xlarge | 32 | 8xK80 | 488 |
96 | 10 Gigabit |
| ml.p2.16xlarge | 64 | 16xK80 | 732 | 192 | 25 Gigabit |
| ml.g4dn.xlarge | 4 | 1xT4 | 16 | 16 | Bis zu 25 GBit/s |
| ml.g4dn.2xlarge | 8 | 1xT4 | 32 | 16 | Bis zu 25 GBit/s |
| ml.g4dn.4xlarge | 16 | 1xT4 | 64 | 16 | Bis zu 25 GBit/s |
| ml.g4dn.8xlarge | 32 | 1xT4 | 128 | 16 | 50 GBit/s |
| ml.g4dn.12xlarge | 48 | 4xT4 | 192 | 64 | 50 GBit/s |
| ml.g4dn.16xlarge | 64 | 1xT4 | 256 | 16 | 50 GBit/s |
| ml.inf1.xlarge | 4 | 8 | Bis zu 25 GBit/s | ||
| ml.inf1.2xlarge | 8 | 16 | Bis zu 25 GBit/s | ||
| ml.inf1.6xlarge | 24 | 48 | 25 GBit/s | ||
| ml.inf1.24xlarge | 96 | 192 | 100 GBit/s |
| Accelerator | Durchsatz in FP-32 TFLOPS* |
Durchsatz in FP-16 TFLOPS** | Arbeitsspeicher |
| eia2.medium | 1 | 8 | 2 GB |
| eia2.large | 2 | 16 | 4 GB |
| eia2.xlarge | 4 | 32 | 8 GB |
| eia1.medium | 1 | 8 | 1 GB |
| eia1.large | 2 | 16 | 2 GB |
| eia1.xlarge | 4 |
32 | 4 GB |
* FP-32 TFLOPS = Billion 32-Bit-Gleitkommaoperationen pro Sekunde
** FP-16 TFLOPS = Billion 16-Bit-Gleitkommaoperationen pro Sekunde
Weitere Informationen zu den Amazon SageMaker-Preisen
