Apache Flink için Amazon Yönetilen Hizmet Ayrıntılı Planları ile tek bir tıklamayla uçtan uca akış işlem hatları oluşturun. Daha fazla bilgi edinin.
Genel
Etkileşimli analiz, veri araştırmasının akışını gerçek zamanlı olarak gerçekleştirmenize yardımcı olur. Geçici sorgular veya programlarla Amazon MSK veya Amazon Kinesis Veri Akışları'ndan gelen akışları inceleyebilir ve bu akışlarda verilerin nasıl göründüğünü görselleştirebilirsiniz. Örneğin bir zaman aralığındaki ortalamayı hesaplayan gerçek zamanlı bir ölçümün nasıl davrandığını görüntüleyebilir ve toplanan verileri seçtiğiniz bir hedefe gönderebilirsiniz. Etkileşimli analiz, akış işleme uygulamalarının yinelemeli olarak geliştirilmesine de yardımcı olur. Oluşturduğunuz sorgular, yeni veriler geldikçe sürekli olarak güncellenir. Apache Flink Studio İçin Amazon Yönetilen Hizmet ile bu sorguları otomatik ölçeklendirme ve dayanıklı durum yedeklemeleri etkinleştirilmiş olarak sürekli çalışacak şekilde dağıtabilirsiniz.
Kullanmaya başlama
Apache Flink İçin Amazon Yönetilen Hizmet, uygulamanızı kaynak akışınızın veri aktarım hızına ve çoğu senaryo için sorgu karmaşıklığınıza uyum sağlayacak şekilde esnek biçimde ölçeklendirir. Apache Flink uygulamalarının hizmet sınırları hakkında ayrıntılı bilgiyi Apache Flink İçin Amazon Yönetilen Hizmet Geliştirici Kılavuzu'ndaki Sınırlar bölümünde bulabilirsiniz.
Evet. Apache Flink İçin Amazon Yönetilen Hizmet uygulamaları, Apache Flink DataStream Bağlayıcıları'nı kullanarak AWS Glue'nun sunucusuz bir özelliği olan AWS Glue Şema Kayıt Defteri'ni kullanabilir. Apache Kafka, Amazon MSK ve Amazon Kinesis Veri Akışları'nı, bir biriktirici veya bir kaynak olarak Apache Flink İçin Amazon Yönetilen Hizmet iş yüklerinizle entegre edebilirsiniz. Kullanmaya başlamak ve daha fazla bilgi edinmek için AWS Glue Şema Kayıt Defteri Geliştirici Kılavuzu'nu ziyaret edin.
Temel kavramlar
- Giriş: Giriş, uygulamanızın akış kaynağıdır. Giriş yapılandırmasında akış kaynaklarını veri akışlarına eşlersiniz. Veriler, veri kaynaklarınızdan veri akışlarınıza akar. Bu veri akışlarından gelen verileri uygulama kodunuzu kullanarak işler, işlenmiş verileri sonraki veri akışlarına veya hedeflere gönderirsiniz. Apache Flink uygulamaları ve Studio not defterlerinin uygulama kodunun içine ve Apache Flink İçin Amazon Yönetilen Hizmet uygulamaları API'si aracılığıyla girişler eklersiniz.
- Uygulama kodu: Uygulama kodu, girişi işleyen ve çıktı üreten bir dizi Apache Flink işlecidir. En basit haliyle uygulama kodu, bir akış kaynağıyla ilişkili bir veri akışından okuyan ve bir çıktıyla ilişkili başka bir veri akışına yazan tek bir Apache Flink işleci olabilir. Bir Studio not defteri için bu, sonuçların not defteri bağlamında gösterildiği basit bir Flink SQL seçme sorgusu olabilir. Apache Flink İçin Amazon Yönetilen Hizmet uygulamaları veya Studio not defterleri için desteklenen dillerde Apache Flink kodu yazabilirsiniz.
- Çıktı: İsteğe bağlı olarak bir uygulama çıktısını, verileri harici bir hedefe aktaracak şekilde yapılandırabilirsiniz. Bu çıktıları, Apache Flink İçin Amazon Yönetilen Hizmet uygulamaları ve Studio not defterlerinin uygulama kodunun içine eklersiniz.
S: Hangi uygulama kodu desteklenmektedir?
Uygulamaları yönetme
- Apache Flink İçin Amazon Yönetilen Hizmet Geliştirici Kılavuzu'nda Apache Flink İçin Amazon Yönetilen Hizmet'i İzleme.
- Apache Flink Studio İçin Amazon Yönetilen Hizmet Geliştirici Kılavuzu'nda Apache Flink İçin Amazon Yönetilen Hizmet'i İzleme.
S: Apache Flink İçin Amazon Yönetilen Hizmet uygulamalarıma erişimi nasıl yönetirim ve denetlerim?
- Apache Flink İçin Amazon Yönetilen Hizmet Geliştirici Kılavuzu'nda İzinlerin verilmesi.
- Apache Flink Studio İçin Amazon Yönetilen Hizmet Geliştirici Kılavuzu'nda İzinlerin verilmesi.
S: Apache Flink İçin Amazon Yönetilen Hizmet, uygulamamı nasıl ölçeklendiriyor?
Apache Flink İçin Amazon Yönetilen Hizmet, uygulamanızı kaynak akışınızın veri aktarım hızına ve çoğu senaryo için sorgu karmaşıklığınıza uyum sağlayacak şekilde esnek biçimde ölçeklendirir. Apache Flink İçin Amazon Yönetilen Hizmet, Amazon KPU'ları biçiminde kapasite sağlar. Bir KPU size 1 vCPU ve 4 GB bellek sağlar.
Fiyatlandırma ve faturalandırma
Akış uygulamanızı çalıştırmak için kullanılan Amazon KPU'larının sayısına göre saatlik olarak ücretlendirilirsiniz. Tek bir KPU, 1 vCPU işlem ve 4 GB bellekten oluşan bir akış işleme kapasitesi birimidir. Apache Flink İçin Amazon Yönetilen Hizmet, işleme karmaşıklığına ve işlenen akış verilerinin aktarım hızına göre bellek ve işlem talepleri değiştikçe akış işleme uygulamanızın ihtiyaç duyduğu KPU sayısını otomatik olarak ölçeklendirir.
Apache Flink uygulamaları oluşturma
IDE'nizde Apache Flink kullanan uygulamalar için uygulama kodu yazma
DataStream <GameEvent> rawEvents = env.addSource(
New KinesisStreamSource(“input_events”));
DataStream <UserPerLevel> gameStream =
rawEvents.map(event - > new UserPerLevel(event.gameMetadata.gameId,
event.gameMetadata.levelId,event.userId));
gameStream.keyBy(event -> event.gameId)
.keyBy(1)
.window(TumblingProcessingTimeWindows.of(Time.minutes(1)))
.apply(...) - > {...};
gameStream.addSink(new KinesisStreamSink("myGameStateStream"));
Bunlar ihtiyaçlarınızı karşılamıyorsa özel işleçler oluşturabilirsiniz. Apache Flink İçin Amazon Yönetilen Hizmet Geliştirici Kılavuzu'ndaki İşleçler bölümünde daha fazla örnek bulabilirsiniz. Apache Flink işleçlerinin tam bir listesini Apache Flink belgelerinde bulabilirsiniz.
- Akış veri kaynakları: Apache Kafka İçin Amazon Yönetilen Akış (Amazon MSK), Amazon Kinesis Veri Akışları Hedefleri veya biriktiriciler: Amazon Kinesis Veri Akışları
- Amazon Kinesis Data Firehose, Amazon DynamoDB, Amazon Elasticsearch Hizmeti ve Amazon S3 (dosya biriktirici entegrasyonları aracılığıyla)
S: Apache Flink İçin Amazon Yönetilen Hizmet uygulamaları, verileri akışlar ve konular arasında çoğaltabilir mi?
Yönetilen bir not defterinde Apache Flink Studio İçin Amazon Yönetilen Hizmet uygulamaları oluşturma
S: Bir Studio uygulamasını nasıl geliştiririm?
Apache Flink Studio için Amazon Yönetilen Hizmet, Amazon Kinesis Veri Akışları veya Amazon MSK konsollarından başlayarak birkaç adımda veri akışlarını hemen sorgulamak ve etkileşimli veri analizi gerçekleştirmek üzere bir sunucusuz not defteri başlatabilirsiniz.
Etkileşimli veri analizi: Saniye cinsinden yanıt süreleriyle akış verilerinizle etkileşimde bulunmak için SQL, Python veya Scala dillerinde not defterine kod yazabilirsiniz. Verileri keşfetmek için yerleşik görselleştirmeleri kullanabilir, not defterinizden akış verilerinizle ilgili gerçek zamanlı öngörüleri görüntüleyebilir ve Apache Flink ile akış işleme uygulamaları geliştirebilirsiniz.
Kodunuz bir üretim uygulaması olarak çalışmaya hazır olduğunda sunucular olmadan saniyede gigabaytlarca veri işleyen bir akış işleme uygulamasına tek adımda geçiş yapabilirsiniz.
Akış işleme uygulaması: Kodunuzu üretim için geliştirmeye hazır olduğunuzda not defteri arabiriminde "Akış işleme uygulaması olarak dağıt" seçeneğine tıklayarak kodunuzu oluşturabilir veya CLI'de tek bir komut verebilirsiniz. Studio, tıpkı bir Apache Flink için Amazon Yönetilen Hizmet uygulamasında olduğu gibi otomatik ölçeklendirme ve dayanıklı durum etkinken akış işleme uygulamanızı uygun ölçekte çalıştırmanız için gereken tüm altyapı yönetimini üstlenir.
S: Uygulama kodum neye benziyor?
Apache Flink'in Tablo API'sini kullanarak not defterine tercih ettiğiniz SQL, Python veya Scala dilinde kod yazabilirsiniz. Tablo API'si, SQL'in yeteneklerinin bir üst kümesini destekleyen üst düzey bir soyutlama API'si ve ilişkisel bir API'dir. Zaman aralığı gibi akışa özgü kavramlarla birlikte seçme, filtreleme, birleştirme, gruplama, toplama vb. gibi bilinen işlemleri sunar. Not defterinin bir bölümünde kullanılacak dili belirtmek için % kullanırsınız ve diller arasında geçiş yapabilirsiniz. Yorumlayıcılar, Apache Zeppelin eklentileridir. Böylece not defterinin her bölümü için bir dil veya veri işleme motoru belirleyebilirsiniz. Ayrıca kullanıcı tanımlı işlevler oluşturabilir ve kod işlevselliğini geliştirmek için bunlara referans verebilirsiniz.
S: Hangi SQL işlemleri desteklenmektedir?
Aşağıdakiler gibi SQL işlemlerini gerçekleştirebilirsiniz:
- Tarama ve filtreleme (SELECT, WHERE)
- Toplamalar (GROUP BY, GROUP BY WINDOW, HAVING)
- Küme (UNION, UNIONALL, INTERSECT, IN, EXISTS)
- Sıralama (ORDER BY, LIMIT)
- Birleştirmeler (INNER, OUTER, Zamanlanmış Aralık – BETWEEN, AND, Zamansal Tablolarla Birleştirme – zaman içindeki değişiklikleri izleyen tablolar)
- Top-N
- Tekilleştirme
- Örüntü tanıma
GROUP BY, OUTER JOIN ve Top-N gibi bu sorgulardan bazıları, akış verileri için güncellenen sonuçlarıdır. Bu, akış verileri işlenirken sonuçların sürekli olarak güncellendiği anlamına gelir. CREATE, ALTER ve DROP gibi diğer DDL ifadeleri de desteklenmektedir. Sorguların ve örneklerin tam bir listesi için Apache Flink Sorguları belgelerine bakınız.
S: Python ve Scala nasıl desteklenmektedir?
Apache Flink'in Tablo API'si, Python dizeleri ve Scala ifadelerini kullanarak dil entegrasyonu aracılığıyla Python ve Scala'yı desteklemektedir. Desteklenen işlemler; seçme, sıralama, gruplama, birleştirme, filtreleme ve zaman aralığı dahil olmak üzere desteklenen SQL işlemlerine çok benzemektedir. İşlemlerin ve örneklerin tam bir listesi geliştirici kılavuzumuza dahil edilmiştir.
S: Apache Flink ve Apache Zeppelin'in hangi sürümleri desteklenmektedir?
Desteklenen Apache Flink sürümleri hakkında daha fazla bilgi edinmek üzere Apache Flink İçin Amazon Yönetilen Hizmet Sürüm Notları sayfasını ziyaret edin. Bu sayfa Apache Flink İçin Amazon Yönetilen Hizmet'in desteklediği Apache Zeppelin, Apache Beam, Java, Scala, Python ve AWS SDK'lerinin sürümlerini de içerir.
S: Apache Flink Studio İçin Amazon Yönetilen Hizmet uygulamasında varsayılan olarak hangi entegrasyonlar desteklenmektedir?
- Veri kaynakları: Apache Kafka İçin Amazon Yönetilen Akış (Amazon MSK), Amazon Kinesis Veri Akışları, Amazon S3
- Hedefler veya biriktiriciler: Amazon MSK, Amazon Kinesis Veri Akışları ve Amazon S3
S: Özel entegrasyonlar destekleniyor mu?
Apache Flink destekli tüm entegrasyonlarla bağlantıları tanımlamak için birkaç adımda ve Apache Flink kodu satırıyla (Python, Scala veya Java) ek entegrasyonlar yapılandırabilirsiniz. Bu; Amazon OpenSearch Hizmeti, Redis İçin Amazon ElastiCache, Amazon Aurora, Amazon Redshift, Amazon DynamoDB, Amazon Keyspaces ve daha fazlası gibi hedefleri içerir. Apache Flink Studio İçin Amazon Yönetilen Hizmet uygulamanızı oluştururken veya yapılandırırken bu özel bağlayıcılar için yürütülebilir dosyalar ekleyebilirsiniz.
Hizmet Düzeyi Sözleşmesi
S: Apache Flink İçin Amazon Yönetilen Hizmet SLA ne garanti ediyor?
Hizmet düzeyi sözleşmemiz (SLA), Apache Flink İçin Amazon Yönetilen Hizmet için en az %99,9 Aylık Çalışma Süresi Yüzdesi garanti eder.
S: Bir SLA Hizmet Kredisi hakkından yararlanıp yararlanamayacağımı nasıl anlayabilirim?
Aynı AWS bölgesi içinde bulunan ve bir görev yürüttüğünüz birden fazla Erişilebilirlik Alanı, herhangi bir fatura döneminde %99,9'dan az bir Aylık Çalışma Süresi Yüzdesine sahipse Apache Flink İçin Amazon Yönetilen Hizmet SLA'sı kapsamı altında Apache Flink İçin Amazon Yönetilen Hizmet için bir SLA Hizmet Kredisi alma hakkına sahip olursunuz. Tüm SLA hüküm ve koşullarının yanı sıra nasıl kredi talebinde bulunacağınıza ilişkin ayrıntılar için Apache Flink İçin Amazon Yönetilen Hizmet SLA ayrıntıları sayfasını ziyaret edin.
Amazon Kinesis Veri Analizi'ni kullanmaya başlayın
Amazon Kinesis Veri Analizi fiyatlandırma sayfasını ziyaret edin.
Bu adım adım kılavuzda, Amazon Kinesis Veri Analizi'ni, SQL ya da Apache Flink için nasıl kullanacağınızı öğrenin.
Amazon Kinesis Veri Analizi konsoluyla ilk akış uygulamanızı oluşturun.