Trải nghiệm của nhà phát triển với Amazon Bedrock

Amazon Bedrock giúp việc xây dựng với một loạt các FM trở nên dễ dàng như một lệnh gọi API. Amazon Bedrock cung cấp quyền truy cập vào các mô hình hàng đầu bao gồm Jurassic của AI21 Labs, Claude của Anthropic, Command và Embed của Cohere, Llama 2 của Meta và Stable Diffusion của Stability AI, cũng như các mô hình Amazon Titan của chính chúng tôi. Với Amazon Bedrock, bạn có thể chọn FM phù hợp nhất với trường hợp sử dụng và yêu cầu ứng dụng của mình.

Bạn có thể dễ dàng thử nghiệm với các FM khác nhau bằng cách sử dụng các môi trường thử nghiệm tương tác cho nhiều phương thức khác nhau bao gồm văn bản, trò chuyện và hình ảnh. Các môi trường thử nghiệm cho phép bạn thử nhiều mô hình khác nhau cho trường hợp sử dụng của mình để thật sự hiểu rõ mức độ phù hợp của mô hình đối với một tác vụ nhất định.

Tính năng đánh giá mô hình trên Amazon Bedrock cho phép bạn sử dụng đánh giá tự động và đánh giá của con người để chọn FM cho một trường hợp sử dụng cụ thể. Đánh giá mô hình tự động sử dụng các tập dữ liệu được tuyển chọn và cung cấp các chỉ số định sẵn bao gồm độ chính xác, độ chắc chắn và độ độc hại. Đối với các chỉ số chủ quan, bạn có thể sử dụng Amazon Bedrock để thiết lập quy trình đánh giá của con người với một vài cú nhấp chuột. Với đánh giá của con người, bạn có thể sử dụng tập dữ liệu riêng và xác định các chỉ số tùy chỉnh, chẳng hạn như mức độ liên quan, phong cách và mức độ phù hợp với tiếng nói thương hiệu. Quy trình đánh giá của con người có thể tận dụng nhân viên của bạn làm người đánh giá hoặc bạn có thể thuê một đội ngũ do AWS quản lý để thực hiện đánh giá của con người, trong đó AWS thuê những người đánh giá có tay nghề cao và thay mặt bạn quản lý quy trình làm việc toàn diện. Để tìm hiểu thêm, hãy đọc blog.

Với một vài cú nhấp chuột, Amazon Bedrock cho phép bạn chuyển từ các mô hình thông thường sang mô hình chuyên biệt và được tùy chỉnh cho doanh nghiệp và trường hợp sử dụng của bạn. Để điều chỉnh FM cho một tác vụ cụ thể, bạn có thể sử dụng một kỹ thuật gọi là tinh chỉnh. Chỉ cần trỏ vào một vài ví dụ được gắn nhãn trong Amazon S3 và Amazon Bedrock sẽ tạo bản sao của mô hình cơ sở, đào tạo bản sao với dữ liệu của bạn và tạo một mô hình tinh chỉnh mà chỉ bạn có thể truy cập để bạn nhận được phản hồi tùy chỉnh. Kỹ thuật tinh chỉnh được cung cấp cho các mô hình Command, Llama 2, Văn bản Titan Lite và Express, Trình tạo hình ảnh Titan và Phần nhúng đa phương thức Titan. Cách thứ hai mà bạn có thể điều chỉnh FM Văn bản Titan Lite và Express trong Amazon Bedrock là đào tạo trước liên tục, một kỹ thuật sử dụng tập dữ liệu không được gắn nhãn của bạn để tùy chỉnh FM cho miền hoặc ngành của bạn. Với cả hai kỹ thuật tinh chỉnh và đào tạo trước liên tục, Amazon Bedrock tạo một bản sao riêng tư, tùy chỉnh của FM cơ sở cho bạn, đồng thời dữ liệu của bạn không được sử dụng để đào tạo các mô hình cơ sở gốc. Dữ liệu của bạn được sử dụng để tùy chỉnh mô hình được truyền một cách bảo mật thông qua Đám mây riêng ảo (VPC) của Amazon của bạn. Để tìm hiểu thêm, hãy đọc blog.

Sử dụng một API duy nhất để thực hiện suy luận, bất kể mô hình bạn chọn. Việc có một API duy nhất mang đến sự linh hoạt để sử dụng các mô hình khác nhau từ các nhà cung cấp mô hình khác nhau và liên tục cập nhật các phiên bản mô hình mới nhất mà chỉ phải thay đổi mã ở mức tối thiểu.