Reflection tarafından tasarlanan Beam modeli artık Amazon SageMaker JumpStart ve AWS Trainium'da kullanılabilir
ABD merkezli Reflection'ın ilk açık ağırlık modeli olan Beam, artık Amazon SageMaker AI'ın model merkezi Amazon SageMaker JumpStart'ta mevcuttur. Beam'e göre, kendi sınıfındaki açık ağırlık modellerinin sınır seviyesindeler ve akıl yürütme, kodlama ve etken ölçütler arasında güçlü performansla çalışıyorlar. Beam, sadece yalnızca modelleri çağıran ekipler için değil, açık ağırlık modeli üzerine inşa eden ve kullanan ekipler için tasarlanmıştır. Sınır modelini kendi etki alanlarına uyarlamak isteyen müşteriler, verileri ve altyapıları üzerinde tam denetimi sağlarken, bu modelin ağırlıklarını inceleyebilir ve değiştirebilir ve modeli temsilcilerinin ve iş akışlarının içine katıştırabilir. Beam, müşterilerin SageMaker AI'da kullandığı diğer modellerle birlikte çalışır ve her SageMaker AI dağıtımında bulunan kontrollerin aynısıyla, denetim izleri ve izleme ile üretim talebini karşılamak için ölçeklenir. Ek olarak, Beam AWS Trainium3 için taşındı ve optimize edildi ve müşterilere modeli ilk günden itibaren dağıtmak ve ölçeklendirmek için yüksek performanslı, uygun maliyetli bir seçenek sunar. Reflection CEO'su ve kurucu ortağı Misha Laskin, “Reflection, geliştiricilerin yalnızca bir API aracılığıyla kiralamakla kalmayıp, gerçekten kontrol edebileceği sınır yapay zeka sunuyor. Beam'i SageMaker AI'a getirmek bu özelliği milyonlarca geliştiricinin önüne güvendikleri altyapıda, kendi AWS hesaplarını çalıştırdıkları ortamda, kendi verileriyle ve tamamen kendii kontrolleri altında onlara sunabilmemiz anlamına geliyor“ dedi.
Beam'de geliştirme yapan ekipler bunu bir API çağrısının ötesine tescilli kod ve veriler üzerinde ince ayar yaparak, kendi etki alanları için uzmanlaştırarak ve araçları genelinde çok adımlı etken iş akışlarına bağlayarak geçirebilir. Pratikte bu gerçek yazılım sorunlarını çözmek, kod oluşturmak ve gözden geçirmek, operasyon işlerini otomatikeştirmek ve yalnızca tüketmek yerine şekillendirebilecekleri bir modelde gelişmiş matemetik ve bilim akıl yürütmesini ele almak anlamına gelir. Müşteriler Beam'in Apache 2.0 lisansı altında piyasaya sürüldüğü için modeli inceleyebilir ve özelleştirebilir, aynı zamanda kendi AWS hesaplarında da çalıştırabilir. Böylece veriler gizli kalır ve müşterinin kontrolü altında kalır ve güvendikleri AWS güvenlik ve uyumluluk yetenekleriyle korunur. Accenture Federal Services Baş Yapay Zeka Sorumlusu Garrett Berntsen “Artık Amazon SageMaker'da bulunan Beam'in gibi gelişmiş yapay zeka modelleri, ağırlıkların, verilerin ve işlem hattının tam görünürlüğüyle tamamen kendi güvenli ortamlarımızda açık ağırlık sınırındaki yapay zekayı çalıştırmamıza izin veriyor. Çok modelli yapay zeka çağında, açıklık ve yönetilen altyapının eşleştirilmesi, yapay zeka ekosistemi için çok önemlidir. İstemciye özgü güvenlik ve denetimlerle görev sorunlarına göre uyarlanmış gelişmiş yapay zekayı dağıtma ve uyarlama özgürlüğü, daha fazla ajansa gelişmiş yapay zekayı işletmeleri genelinde dağıtma konusunda daha fazla esneklik sağlar“ dedi.
Beam başlangıçta ABD Doğu (Kuzey Virginia) ve ABD Doğu (Ohio) bölgelerinde Amazon SageMaker JumpStart'ta kullanılabilir. Bu model BF16, FP8 ve NVFP4 kontrol noktası varyantlarında kullanılabilir ve tam olarak yönetilen bir SageMaker JumpStart uç noktası üzerinden dağıtılabilir. Başlamak için Amazon SageMaker Stüdyosu'nda SageMaker JumpStart'ta "Beam"i arayın veya doğrudan SageMaker AI'da dağıtın. Daha fazla bilgi edinmek için AWS Makine Öğrenimi blogu: Reflection Beam'in Tanıtımı sayfasını, SageMaker AI belgelerini ve dağıtım kılavuzu için SageMaker JumpStart belgelerini okuyun.