Anthropic Claude 3.7 Sonnet hibrit akıl yürütme modeli şimdi Amazon Bedrock’ta!

Orijinal makale : Link

Amazon Bedrock temel modellerini (FM), üretken yapay zeka alanı geliştikçe genişletiyor. Anthropic’in Claude 3.7 Sonnet temel modelinin Amazon Bedrock’ta kullanıma sunulduğunu duyurmaktan heyecan duyuyoruz. Bugüne kadar ki Anthropic’in en akıllı modeli olan Claude 3.7 Sonnet, hızlı yanıtlar veya genişletilmiş düşünme üretebilen ilk hibrit akıl yürütme modeli olarak öne çıkıyor; yani zor problemleri dikkatli, adım adım akıl yürüterek çözebiliyor. Ayrıca, Amazon Q Developer tarafından kullanılan model listesine de Claude 3.7 Sonnet’i ekledik. Böylece, Bedrock üzerinde geliştirilmiş Amazon Q ile, geliştiricilerin tüm yazılım geliştirme sürecinde daha hızlı çalışmalarını sağlayan ve gelişmiş kodlama iş akışları sunan gelişmiş modelleri kullanabilirsiniz.

Claude 3.7 Sonnet’in önemli özellikleri
Amazon Bedrock’ta Claude 3.7 Sonnet’in bazı dikkate değer özellikleri ve yetenekleri şunlardır.

Hibrit akıl yürütme ile ilk Claude modeli – Claude 3.7 Sonnet, modellerin nasıl düşündüğüne farklı bir yaklaşım getiriyor. Hızlı cevaplar için bir model ve karmaşık problemleri çözmek için başka bir model olmak üzere ayrı modeller kullanmak yerine, Claude 3.7 Sonnet, akıl yürütmeyi tek bir model içinde temel bir yetenek olarak entegre ediyor. Bu kombinasyon, insan beyninin çalışma şekline daha benzerdir. Sonuçta, basit bir soruyu cevaplarken veya zor bir bulmacayı çözerken aynı beyni kullanıyoruz.

Modelin Amazon Bedrock’ta seçilebilen iki modu mevcut: standart ve genişletilmiş düşünme modu. Standart modda, Claude 3.7 Sonnet, Claude 3.5 Sonnet’in geliştirilmiş bir versiyonudur. Genişletilmiş düşünme modunda, Claude 3.7 Sonnet, bir yanıt sağlamadan önce problemleri ayrıntılı olarak analiz etmek, çözümler planlamak ve birden fazla perspektifi göz önünde bulundurmak için ek süre harcar; böylece performansta daha fazla kazanç sağlar. Hız ve maliyet dengesini akıl yürütme yeteneklerini ne zaman kullanacağınızı seçerek kontrol edebilirsiniz. Genişletilmiş düşünme belirteçleri (token) bağlam penceresine(context window) dahil edilir ve çıktı belirteçleri olarak ücretlendirilir.

Anthropic’in kodlama için en güçlü modeli – Claude 3.7 Sonnet, kodlama konusunda en son teknoloji düzeyinde olup, bağlamı anlamada ve yaratıcı problem çözmede başarılıdır ve Anthropic’e göre SWE-bench Verified‘da standart modda endüstri lideri olarak %70,3’lük bir başarıya ulaşmıştır. Ayrıca, Claude 3.7 Sonnet, çoğu kıyaslamada Claude 3.5 Sonnet’e göre daha iyi performans gösterir. Bu geliştirilmiş yetenekler, Claude 3.7 Sonnet’i AI ajanlarını ve karmaşık iş akışlarını desteklemek için ideal hale getirir.

Kaynak: https://www.anthropic.com/news/claude-3-7-sonnet

Öncekinden 15 kat daha uzun çıktı kapasitesi – Claude 3.5 Sonnet‘e kıyasla, bu model önemli ölçüde genişletilmiş çıktı uzunluğu sunar. Bu geliştirilmiş kapasite, açıkça daha fazla ayrıntı istediğinizde, birden çok örnek istediğinizde veya ek bağlam veya arka plan bilgisi istediğinizde özellikle yararlıdır. Uzun çıktılar elde etmek için ayrıntılı bir taslak talep edin (yazı yazma senaryoları için taslak ayrıntısını paragraf düzeyine kadar belirleyebilir ve kelime sayısı hedefleri ekleyebilirsiniz). Ardından, yanıtın paragraflarını çerçeveye göre indekslemesini ve kelime sayılarını yineletmesini isteyebilirsiniz. Claude 3.7 Sonnet, 128K belirteç uzunluğuna kadar çıktıları destekler (genel kullanıma açık (GA) olarak 64 bine kadar ve beta olarak 128 bine kadar).

Ayarlanabilir akıl yürütme bütçesi – Amazon Bedrock’ta Claude 3.7 Sonnet’i kullanırken akıl yürütme bütçesini kontrol edebilirsiniz. Bu esneklik, hız, maliyet ve performans arasındaki dengeleri ölçmenize yardımcı olur. Karmaşık problemler için daha fazla belirteci akıl yürütmeye tahsis ederek veya daha hızlı yanıtlar için belirteçleri sınırlayarak, özel kullanım durumunuz için performansı optimize edebilirsiniz.

Uygulamada Claude 3.7 Sonnet
Her yeni modelde olduğu gibi, Amazon Bedrock konsolunda erişim isteme talebinde bulunulmalıdır. Navigasyon bölmesinde, Bedrock yapılandırmaları altında Model access/Model erişimi seçilmelidir. Ardından, Claude 3.7 Sonnet için erişim isteğinde bulunmak üzere Modify model access/Model erişimini değiştir seçilmelidir.

Claude 3.7 Sonnet’i denemek için navigasyon bölmesinde Playgrounds altında Chat / Sohbet seçilmelidir. Ardından Select Model/Modeli seçin tıklanarak Categories/Kategoriler altında Anthropic ve Models/Modeller altında Claude 3.7 Sonnet seçilmelidir. Genişletilmiş düşünme modunu etkinleştirmek için Configurations/Yapılandırmalar altında Model reasoning sağa kaydırılmalıdır. Aşağıdaki prompt örnek olarak yazılarak Run/Çalıştır’a tıklanmalıdır:

You're the manager of a small restaurant facing these challenges:

Three staff members called in sick for tonight's dinner service
You're expecting a full house (80 seats)
There's a large party of 20 coming at 7 PM
Your main chef is available but two kitchen helpers are among those who called in sick
You have 2 regular servers and 1 trainee available
How would you:

Reorganize the available staff to handle the situation
Prioritize tasks and service
Determine if you need to make any adjustments to reservations
Handle the large party while maintaining service quality
Minimize negative impact on customer experience
Explain your reasoning for each decision and discuss potential trade-offs

İşte modelin akıl yürütme sürecini gösteren animasyonlu bir görüntü ile sonuç.

Görüntüden metne görsel yeteneklerini test etmek için Amazon Bedrock kullanılarak oluşturulan ayrıntılı bir mimari site planı görüntüsü yüklendiğinde modelin bu site planının ayrıntılı bir analiziyle beraber nasıl mantığa dayanan çıkarımlar ürettiği görülmektedir.

Claude 3.7 Sonnet’e AWS SDK aracılığıyla Amazon Bedrock API kullanılarak da erişilebilir. Claude 3.7 Sonnet’in özellikleri ve yetenekleri hakkında daha fazla bilgi edinmek için Anthropic’s Claude in Amazon Bedrock ürün detay sayfasını ziyaret edin.

Bugün Claude 3.7 Sonnet’e başlayın
Claude 3.7 Sonnet’in geliştirilmiş yetenekleri birden çok sektör kullanım senaryosuna fayda sağlayabilir. İşletmeler, müşterilerle doğrudan etkileşimde bulunacak gelişmiş AI asistanları ve araçları oluşturabilir. Sağlık hizmetleri gibi alanlarda, tıbbi görüntü analizi ve araştırma özetleme konusunda yardımcı olabilir. Finansal hizmetler; karmaşık finansal modelleme problemlerini çözme yeteneklerinden fayda görebilir. Geliştiriciler için, farklı dillerde kodu inceleyen, teknik kavramları açıklayan ve iyileştirmeler önerebilen bir kodlama yardımcısı görevi görür.

Anthropic Claude 3.7 Sonnet US East (N. Virginia), US East (Ohio) ve US East (Oregon) bölgelerinde kullanıma hazırdır. Gelecekteki güncellemeler için tam bölge listesini kontrol edin.

Claude 3.7 Sonnet, avantajlı şekilde fiyatlandırılmıştır ve Claude 3.5 Sonnet ile aynı fiyatlandırmaya sahiptir. Fiyatlandırma ayrıntıları için Amazon Bedrock fiyatlandırma sayfasına başvurabilirsiniz.

Amazon Bedrock’ta Claude 3.7 Sonnet’e başlamak için Amazon Bedrock konsolunu ve Amazon Bedrock belgelerini ziyaret edebilirsiniz.

AWS Türkiye