Amazon Bedrock Fiyatlandırması

Fiyatlandırma örnekleri

• AI21 labs

  Bir uygulama geliştiricisi Amazon Bedrock'a şu API çağrılarını yapıyor: giriş metninin 10.000 belirteçli girişini 2.000 belirteçli bir çıkışla özetlemek için AI21'in Jurassic-2 Mid modeline talep gönderme.
  

  Toplam maliyet = 10.000 belirteç/1.000 * 0,0125 USD + 2.000 belirteç/1.000 * 0,0125 USD = 0,15 USD
  

• Amazon

  İstek Üzerine fiyatlandırması

  Bir uygulama geliştiricisi Amazon Bedrock'a saatlik olarak şu API çağrılarını yapıyor: giriş metninin 2.000 belirteçli girişini 1.000 belirteçli bir çıkışla özetlemek için Amazon Titan Text-Lite modeline talep gönderme.

  Toplam saatlik maliyet = 2.000 belirteç/1.000 * 0,0003 USD + 1.000 belirteç/1.000 * 0,0004 USD = 0,001 USD.

  Bir uygulama geliştiricisi Amazon Bedrock'a şu API çağrılarını yapıyor: standart kalitede ve 1024 x 1024 piksel boyutunda 1.000 görüntü oluşturmak için Amazon Titan Görüntü Oluşturucu temel modeline talep gönderme.

  Toplam maliyet = 1.000 görüntü * görüntü başına 0,01 USD = 10 USD

  Özelleştirme (ince ayar ve sürekli ön eğitim) fiyatlandırması

  Bir uygulama geliştiricisi, 1000 görüntü-metin çifti kullanarak bir Amazon Titan Görüntü Oluşturucu modelini özelleştiriyor. Eğitimden sonra geliştirici, modelin performansını değerlendirmek için 1 saat boyunca özel model tedarik edilen aktarım hızını kullanıyor. İnce ayarlanmış model 1 ay boyunca depolanıyor. Değerlendirmeden sonra geliştirici, özelleştirilmiş modeli barındırmak için tedarik edilen aktarım hızını (1 aylık taahhüt süresi) kullanıyor.

  İnce ayar için oluşan aylık maliyet = görüntülenen görüntü başına fiyat 0,005 USD, adım sayısı 500 ve toplu iş boyutu 64 olmak üzere ince ayar eğitimi (0,005 USD * 500 * 64) + aylık özel model depolama (1,95 USD) + 1 saatlik özel model çıkarımı (21 USD) = 160 USD + 1,95 USD + 21 = 182,95 USD
  

  Tedarik Edilen Aktarım Hızı fiyatlandırması

  Bir uygulama geliştiricisi, metin özetleme kullanım örneği için 1 aylık taahhütle iki Amazon Titan Text Express model birimi satın alıyor.

  Toplam aylık maliyet = 2 model birimi * 18,40 USD/saat * 24 saat * 31 gün = 27.379,20 USD

  Bir uygulama geliştiricisi, 1 aylık taahhütle temel Amazon Titan Görüntü Oluşturucu modelinin bir model birimini satın alıyor.

  Toplam maliyet = 1 model birimi * 16,20 USD * 24 saat * 31 gün = 12.052,80 USD

• Anthropic

  İstek Üzerine fiyatlandırması

  Bir uygulama geliştiricisi, ABD Batı (Oregon) Bölgesi'nde Amazon Bedrock'a şu API çağrılarını yapıyor: giriş metninin 11.000 belirteçli girişini 4.000 belirteçli bir çıkışla özetlemek için Anthropic'in Claude modeline gönderilen bir talep.

  Toplam maliyet = 11.000 belirteç/1.000 * 0,008 USD + 4.000 belirteç/1.000 * 0,024 USD = 0,088 USD + 0,096 USD = 0,184 USD
  

  Tedarik Edilen Aktarım Hızı fiyatlandırması

  Bir uygulama geliştiricisi, ABD Batı (Oregon) Bölgesi'nde bir Anthropic Claude Instant model birimi satın alıyor:
  

  Toplam aylık maliyet = 1 model birimi * 39,60 USD * 24 saat * 31 gün = 29.462,40 USD

• Cohere

  İstek Üzerine fiyatlandırması

  Bir uygulama geliştiricisi, Amazon Bedrock'a şu API çağrılarını yapıyor: giriş metninin 6.000 belirteçli girişini 2.000 belirteçli bir çıkışla özetlemek için Cohere'in Command modeline gönderilen bir talep.

  Toplam maliyet = 6.000 belirteç/1.000 * 0,0015 USD + 2.000 belirteç/1.000 * 0,0020 USD = 0,013 USD

  Bir uygulama geliştiricisi, Amazon Bedrock'a şu API çağrılarını yapıyor: giriş metninin 6.000 belirteçli girişini 2.000 belirteçli bir çıkışla özetlemek için Cohere'in Command-Light modeline gönderilen bir talep.

  Toplam maliyet = 6.0000 belirteç/1.000 * 0,0003 USD + 2.000 belirteç/1.000 * 0,0006 USD = 0,003 USD

  Bir uygulama geliştiricisi, Amazon Bedrock'a şu API çağrılarını yapıyor: 10.000 belirteçli giriş için yerleştirmeler oluşturmak amacıyla Cohere'in Embed İngilizce veya Embed Çok Dilli modeline gönderilen bir talep.

  Toplam maliyet = 10.000 belirteç/1.000 * 0,0001 USD = 0,001 USD

  Özelleştirme (ince ayar) fiyatlandırması

  Bir uygulama geliştiricisi, 1.000 veri belirteci kullanarak bir Cohere Command modelini özelleştiriyor. Eğitimden sonra modelin performansını değerlendirmek üzere 1 saat boyunca özel model tedarik edilen aktarım hızını kullanıyor. İnce ayarlanmış model 1 ay boyunca depolanıyor. Değerlendirmeden sonra geliştirici, özelleştirilmiş modeli barındırmak için tedarik edilen aktarım hızını (1 aylık taahhüt) kullanıyor.

  İnce ayar için oluşan aylık maliyet: ince ayar eğitimi (0,004 USD * 1000) + aylık özel model depolaması (1,95 USD) + 1 saatlik özel model çıkarımı (49,50 USD) = 55,45 USD
  

  Özel model tedarik edilen aktarım hızı (1 aylık taahhüt) için oluşan aylık maliyet = 39,60 USD

  Tedarik Edilen Aktarım Hızı fiyatlandırması
  

  Bir uygulama geliştiricisi, metin özetleme kullanım durumu için 1 aylık taahhütle bir Cohere Command model birimi satın alıyor.

  Toplam aylık maliyet = 1 model birimi * 39,60 USD * 24 saat * 31 gün = 29.462,40 USD

• Meta Llama

  İstek Üzerine fiyatlandırması

  Bir uygulama geliştiricisi, Amazon Bedrock'a şu API çağrılarını yapıyor: giriş metninin 2.000 belirteçli girişini 500 belirteçli bir çıkışla özetlemek için Meta'nın Llama 2 Chat (13B) modeline gönderilen bir talep.

  Toplam maliyet = 2.000 belirteç/1.000 * 0,00075 USD + 500 belirteç/1.000 * 0,001 USD = 0,002 USD

  Özelleştirme (ince ayar) fiyatlandırması

  Bir uygulama geliştiricisi, 1.000 veri belirteci kullanarak Llama 2 Pretrained (70B) modelini özelleştiriyor. Eğitimden sonra modelin performansını değerlendirmek üzere 1 saat boyunca özel model tedarik edilen aktarım hızını kullanıyor. İnce ayarlanmış model 1 ay boyunca depolanıyor. Değerlendirmeden sonra geliştirici, özelleştirilmiş modeli barındırmak için tedarik edilen aktarım hızını (1 aylık taahhüt) kullanıyor.

  İnce ayar için oluşan aylık maliyet = ince ayar eğitimi (0,00799 USD * 1.000) + aylık özel model depolaması (1,95 USD) + 1 saatlik özel model çıkarımı (23,50 USD) = 33,44 USD

  Özel model tedarik edilen aktarım hızı (1 aylık taahhüt) için oluşan aylık maliyet = 21,18 USD

  Tedarik Edilen Aktarım Hızı fiyatlandırması

  Bir uygulama geliştiricisi, metin özetleme kullanım durumu için 1 aylık taahhütle bir Meta Llama 2 model birimi satın alıyor.

  Toplam aylık maliyet = 1 model birimi * 21,18 USD * 24 saat * 31 gün = 15.757,92 USD

• Mistral AI

  İstek Üzerine fiyatlandırması

  Bir uygulama geliştiricisi Amazon Bedrock'a saatlik olarak şu API çağrılarını yapıyor: giriş metninin 2.000 belirteçli girişini 1.000 belirteçli bir çıktıyla özetlemek için Mistral 7B modeline gönderilen bir talep.

  Toplam saatlik maliyet = 2.000 belirteç/1.000 * 0,00015 USD + 1.000 belirteç/1.000 * 0,0002 USD = 0,0005 USD

  Bir uygulama geliştiricisi Amazon Bedrock'a saatlik olarak şu API çağrılarını yapıyor: giriş metninin 2.000 belirteçli girişini 1.000 belirteçli bir çıktıyla özetlemek için Mixtral 8x7B modeline gönderilen bir talep.

  Toplam saatlik maliyet = 2.000 belirteç/1.000 * 0,00045 USD + 1.000 belirteç/1.000 * 0,0007 USD = 0,0016 USD

  Bir uygulama geliştiricisi Amazon Bedrock'a saatlik olarak şu API çağrılarını yapıyor: giriş metninin 2.000 belirteçli girdisini 1.000 belirteçli bir çıktıyla özetlemek için Mistral Large modeline gönderilen bir talep. 

  Toplam saatlik maliyet = 2.000 belirteç/1.000 * 0,008 USD + 1.000 belirteç/1.000 * 0,024 USD = 0,04 USD
  
  

• Stability AI

  İstek Üzerine fiyatlandırması

  Bir uygulama geliştiricisi, Amazon Bedrock'a şu API çağrılarını yapıyor: 70 adım boyutunda (premium kalite) ve 512 x 512 piksel görüntü oluşturmak için SDXL modeline gönderilen bir talep.

  Toplam maliyet = 1 görüntü * görüntü başına 0,036 USD = 0,036 USD

  Bir uygulama geliştiricisi, Amazon Bedrock'a şu API çağrılarını yapıyor: 70 adım boyutunda (premium kalite) ve 1024 x 1024 piksel görüntü oluşturmak için SDXL 1.0 modeline gönderilen bir talep.

  Toplam maliyet = 1 görüntü * görüntü başına 0,08 USD = 0,08 USD

  Tedarik Edilen Aktarım Hızı fiyatlandırması

  Bir uygulama geliştiricisi, 1 aylık taahhütle bir adet SDXL 1.0 model birimi satın alıyor.

  Toplam maliyet = 1 * 49,86 USD * 24 saat * 31 gün = 37.095,84 USD

• Model değerlendirmesi

  Model değerlendirme örneği 1:

  İstek üzerine fiyatlandırması
  Bir uygulama geliştiricisi, ABD Doğu (K. Virginia) AWS Bölgesi'nde Anthropic Claude 2.1 ve Anthropic Claude Instant kullanarak insan tabanlı model değerlendirmesi için bir veri kümesi gönderiyor.

  Veri kümesi, 50 istem içeriyor ve geliştirici, her bir istem-yanıt kümesini derecelendirmek için bir işçi gerekli kılıyor (değerlendirme işi oluşturmada "istem başına işçi" parametresi olarak yapılandırılabilir).
  
  Bu değerlendirme işinde 50 görev olacaktır (her çalışan başına her istem-yanıt kümesi için bir görev). 50 istem birleşerek 5.000 girdi belirteci oluşturur ve ilişkili yanıtlar birleşerek Anthropic Claude Instant için 15.000 belirteç ve Anthropic Claude 2.1 için 20.000 belirteç oluşturur.
  
  Bu model değerlendirme işi için aşağıdaki ücretler uygulanır:

  Öğe	Girdi belirteçlerinin sayısı	1000 girdi belirteci başına fiyat	Girdi maliyeti	Çıktı belirteçlerinin sayısı	1000 çıktı belirteci başına fiyat	Çıktı maliyeti	İnsan görevlerinin sayısı	İnsan görevi başına fiyat	İnsan görevlerinin maliyeti	Toplam
  Claude Instant Çıkarımı	5.000	0,0008 USD	0,004 USD	15.000	0,0024 USD	0,036 USD				0,04 USD
  Claude 2.1 Çıkarımı	5.000	0,008 USD	0,04 USD	20.000	0,024 USD	0,48 USD				0,52 USD
  İnsan Görevleri							50	0,21 USD	10,50 USD	10,50 USD
  Toplam										11,06 USD

  Model değerlendirme örneği 2:

  İstek üzerine fiyatlandırması
  Bir uygulama geliştiricisi, ABD Doğu (K. Virginia) AWS Bölgesi'nde Anthropic Claude 2.1 ve Anthropic Claude Instant kullanarak insan tabanlı model değerlendirmesi için bir veri kümesi gönderiyor.
  
  Veri kümesi, 50 istem içeriyor ve geliştirici, her bir istem-yanıt kümesini derecelendirmek için iki işçi gerekli kılıyor (değerlendirme işi oluşturmada "istem başına işçi" parametresi olarak yapılandırılabilir). Bu değerlendirme işinde 100 görev olacaktır (her çalışan başına her istem-yanıt kümesi için 1 görev: 2 işçi x 50 hızlı yanıt kümesi = 100 insan görevi).
  
  50 istem birleşerek 5.000 girdi belirteci oluşturur ve ilişkili yanıtlar birleşerek Anthropic Claude Instant için 15.000 belirteç ve Anthropic Claude 2.1 için 20.000 belirteç oluşturur.
  
  Bu model değerlendirme işi için aşağıdaki ücretler uygulanır:
  

  Öğe	Girdi belirteçlerinin sayısı	1000 girdi belirteci başına fiyat	Girdi maliyeti	Çıktı belirteçlerinin sayısı	1000 çıktı belirteci başına fiyat	Çıktı maliyeti	İnsan görevlerinin sayısı	İnsan görevi başına fiyat	İnsan görevlerinin maliyeti	Toplam
  Claude Instant Çıkarımı	5.000	0,0008 USD	0,0040 USD	15.000	0,0024 USD	0,036 USD				0,04 USD
  Claude 2.1 Çıkarımı	5.000	0,008 USD	0,0400 USD	20.000	0,024 USD	0,48 USD				0,52 USD
  İnsan Görevleri							100	0,21 USD	21,00 USD	21,00 USD
  Toplam										21,56 USD

• Amazon Bedrock İçin Bütünlük Korumaları

  Örnek 1: Müşteri desteği sohbet robotu
  Bir uygulama geliştiricisi bir müşteri desteği sohbet robotu oluşturuyor ve zararlı içerikleri engellemek için içerik filtrelerini, istenmeyen sorguları ve yanıtları filtrelemek için de reddedilen konuları kullanıyor.
  
  Sohbet robotu, saatte 1.000 kullanıcı sorgusu sunuyor. Her kullanıcı sorgusu ortalama 200 karakterlik bir girdi uzunluğuna sahip ve 1.500 karakterlik bir FM yanıtı alıyor.
  
  200 karakterlik her kullanıcı sorgusu 1 metin birimine karşılık geliyor.
  
  1.500 karakterlik her FM yanıtı 2 metin birimine karşılık geliyor.
  
  Her saat işlenen metin birimleri = (1 + 2) * 1.000 sorgu = 3.000 metin birimi
  
  İçerik filtreleri ve reddedilen konu için saat başına oluşan toplam maliyet = 3.000 * (0,75 USD + 1,00 USD)/1.000 = 5,25 USD

   

  Örnek 2: çağrı merkezi döküm özetleme
  Bir uygulama geliştiricisi, kullanıcılar ve destek temsilcileri arasındaki sohbet dökümlerini özetlemek için bir uygulama oluşturuyor. 10.000 konuşma için oluşturulan özetlerde kimliği tanımlayabilecek bilgileri (PII) düzenlemek için hassas bilgi filtresi kullanıyor.
  
  Oluşturulan her özet, ortalama 3.500 karaktere sahip ve bu da 4 metin birimine karşılık geliyor.
  
  10.000 konuşmayı özetlemek için oluşan toplam maliyet = 10.000 * 4 * (0,1 USD/1.000) = 4 USD

  Öğe	Girdi belirteçlerinin sayısı	1000 girdi belirteci başına fiyat	Girdi maliyeti	Çıktı belirteçlerinin sayısı	1000 çıktı belirteci başına fiyat	Çıktı maliyeti	İnsan görevlerinin sayısı	İnsan görevi başına fiyat	İnsan görevlerinin maliyeti	Toplam
  Claude Instant Çıkarımı	5.000	0,0008 USD	0,004 USD	15.000	0,0024 USD	0,036 USD				0,04 USD
  Claude 2.1 Çıkarımı	5.000	0,008 USD	0,04 USD	20.000	0,024 USD	0,48 USD				0,52 USD
  İnsan Görevleri							100	0,21 USD	21,00 USD	21,00 USD
  Toplam										21,56 USD