Amazon Bedrock artık OpenAI'den Yanıtlar API'sini destekliyor
Amazon Bedrock artık yeni OpenAI API uyumlu hizmet uç noktalarında Yanıtlar API'sini destekliyor. Yanıtlar API'si, geliştiricilerin uzun süre çalışan çıkarım iş yükleri için zaman uyumsuz çıkarım elde etmelerini sağlar, temsilci iş akışları için araç kullanımı entegrasyonunu basitleştirir ve durum bilgisi olan konuşma yönetimini destekler. Yanıtlar API'si, geliştiricilerin her istekte tüm konuşma geçmişini iletmelerini istemek yerine bağlamı manuel geçmiş yönetimi olmadan otomatik olarak yeniden oluşturmalarını sağlar. Bu yeni hizmet uç noktaları hem akış hem de akış dışı modları destekler, Sohbet Tamamlama API'sinde akıl yürütme desteği sağlar ve geliştiricilerin OpenAI SDK uyumluluğuyla mevcut kod tabanlarına entegre etmeleri için yalnızca bir temel URL değişikliği gerekir.
Akıl yürütme desteğine sahip Sohbet Tamamlamaları, Amazon Bedrock'ta hizmet veren büyük ölçekli makine öğrenimi modeli için yeni dağıtılmış Project Mantle çıkarım motoru tarafından desteklenen tüm Amazon Bedrock modellerinde kullanılabilir. Project Mantle, Amazon Bedrock'a yeni modellerin alınmasını kolaylaştırır ve hızlandırır, gelişmiş hizmet kalitesi denetimleriyle yüksek performanslı ve güvenilir sunucusuz çıkarım sağlar, otomatik kapasite yönetimi ve birleşik havuzlarla varsayılan müşteri kotalarını artırır ve OpenAI API teknik özellikleriyle kullanıma hazır uyumluluk sağlar. Yanıtlar API desteği bugünden itibaren OpenAI'nin GPT OSS 20B/120B modellerinde kullanılabilir. Diğer modeller için destek yakında sunulacak.
Başlamak için buradaki hizmet belgelerine göz atın