Amazon SageMaker AI Çıkarım artık çift yönlü akışı destekliyor
Amazon SageMaker AI Çıkarım artık gerçek zamanlı konuşmadan metne dönüştürme için çift yönlü akışı destekleyerek toplu giriş yerine sürekli konuşma işlemeyi mümkün kılıyor. Modeller artık kullanıcılar konuşurken aynı anda ses akışlarını alıp kısmi transkriptler göndererek konuşmayı minimum gecikmeyle işleyen ses temsilcileri oluşturmanıza olanak tanıyor.
Müşteriler, yapay zeka sesli temsilcileri oluştururken kullanıcı konuşması ile temsilci yanıtları arasındaki gecikmeleri en aza indirmek için gerçek zamanlı konuşma transkripsiyonlarına ihtiyaç duyar. Veri bilimcileri ve makine öğrenimi mühendislerinin çift yönlü akış için yönetilen altyapıdan yoksun olmaları, WebSocket uygulamaları oluşturmayı ve akış protokollerini yönetmeyi gerekli kılar. Ekipler, model doğruluğuna ve temsilci yeteneklerine odaklanmak yerine bu altyapıyı geliştirmek ve sürdürmek için haftalar harcıyor. Amazon SageMaker AI Çıkarım'da çift yönlü akış ile, uç noktanızı yeni Çift Yönlü Akış API'si ile çağırarak konuşmadan metne modelleri dağıtabilirsiniz. İstemci, SageMaker AI çalışma zamanına bir HTTP2 bağlantısı açar ve SageMaker AI otomatik olarak container'ınıza bir WebSocket bağlantısı oluşturur. Bu durum, akışlı ses çerçevelerini işleyebilir ve kısmi transkriptleri üretildikleri anda döndürebilir. SageMaker AI sözleşmesini takiben bir WebSocket işleyicisi uygulayan herhangi bir container, Deepgram gibi gerçek zamanlı konuşma modellerinin değişiklik yapılmadan çalışmasıyla otomatik olarak çalışır. Bu durum, normalde aylarca süren altyapı geliştirme sürecini ortadan kaldırarak zamanınızı model performansını iyileştirmeye odaklamanıza ve sürekli transkripsiyonla ses temsilcilerini dağıtmanıza olanak tanır.
Çift yönlü yayın şu AWS bölgelerinde mevcuttur: Kanada (Orta), Güney Amerika (São Paulo), Afrika (Cape Town), Avrupa (Paris), Asya Pasifik (Haydarabad), Asya Pasifik (Cakarta), İsrail (Tel Aviv), Avrupa (Zürih), Asya Pasifik (Tokyo), AWS GovCloud ABD (Batı), AWS GovCloud ABD (Doğu), Asya Pasifik (Mumbai), Orta Doğu (Bahreyn), ABD Batı (Oregon), Çin (Ningksia), ABD Batı (K. Kaliforniya), Asya Pasifik (Sidney), Avrupa (Londra), Asya Pasifik (Seul), ABD Doğu (Kuzey Virginia), Asya Pasifik (Hong Kong), ABD Doğu (Ohio), Çin (Pekin), Avrupa (Stokholm), Avrupa (İrlanda), Orta Doğu (BAE), Asya Pasifik (Osaka), Asya Pasifik (Melbourne), Avrupa (İspanya), Avrupa (Frankfurt), Avrupa (Milano), Asya Pasifik (Singapur).
Daha fazla bilgi edinmek için buradaki AWS Haber Blogunu ve buradaki SageMaker AI belgelerini ziyaret edin.