- AI tạo sinh›
- Amazon Bedrock›
- Câu hỏi thường gặp
Câu hỏi thường gặp về Amazon Bedrock
Thông tin chung
Amazon Bedrock là gì?
Amazon Bedrock là một dịch vụ được quản lý toàn phần cung cấp sự lựa chọn các mô hình nền tảng (FM) hàng đầu trong ngành cùng với một loạt khả năng mà bạn cần để xây dựng các ứng dụng AI tạo sinh, đơn giản hóa việc phát triển với bảo mật, quyền riêng tư và AI có trách nhiệm. Với các chức năng toàn diện của Amazon Bedrock, bạn có thể thử nghiệm với nhiều FM hàng đầu, tùy chỉnh chúng một cách riêng tư với dữ liệu của bạn bằng các kỹ thuật như tinh chỉnh và tạo tăng cường truy xuất (RAG) cũng như tạo các tác tử được quản lý giúp thực hiện các tác vụ kinh doanh phức tạp – từ đặt vé du lịch và xử lý yêu cầu thanh toán bảo hiểm cho đến tạo chiến dịch quảng cáo và quản lý hàng tồn kho – tất cả đều không cần viết mã. Vì Amazon Bedrock là dịch vụ phi máy chủ, bạn không cần phải quản lý bất kỳ cơ sở hạ tầng nào, bạn cũng có thể tích hợp và triển khai một cách bảo mật các chức năng AI tạo sinh vào ứng dụng của mình bằng các dịch vụ AWS mà bạn đã quen thuộc.
Có những mô hình nền tảng (FM) nào trên Amazon Bedrock?
Khách hàng của Amazon Bedrock có thể chọn giữa một số FM tiên tiến nhất hiện nay. Bao gồm các mô hình ngôn ngữ và phần nhúng từ:
- AI21 Labs: Jurassic – 2 Ultra, Jurassic – 2 Mid
- Anthropic: Claude 3 Opus, Claude 3 Sonnet, Claude 3 Haiku
- Cohere: Command R, Command R+, Embed
- Meta: Llama 3 8B, Llama 3 70B
- Mistral AI: Mistral 8X7B Instruct, Mistral 7B Instruct, Mistral Large, Mistral Small
- Stability AI: Stable Diffusion XL 1.0
- Amazon Titan: Amazon Titan Text Premier, Amazon Titan Text Express, Amazon Titan Text Lite, Phần nhúng văn bản Amazon Titan, Phần nhúng văn bản Amazon Titan V2, Phần nhúng đa phương thức Amazon Titan, Trình tạo hình ảnh Amazon Titan
Tại sao tôi nên sử dụng Amazon Bedrock?
Có năm lý do cho thấy bạn nên sử dụng Amazon Bedrock để xây dựng các ứng dụng AI tạo sinh.
- Lựa chọn các FM hàng đầu: Amazon Bedrock cung cấp trải nghiệm dễ sử dụng dành cho nhà phát triển để làm việc với một loạt các FM hiệu suất cao từ Amazon và các công ty AI hàng đầu như AI21 Labs, Anthropic, Cohere, Meta, Mistral AI và Stability AI. Bạn có thể nhanh chóng thử nghiệm với nhiều FM khác nhau được cung cấp và sử dụng một API duy nhất để suy luận, bất kể mô hình bạn chọn. Nhờ đó, bạn có thể linh hoạt sử dụng FM từ các nhà cung cấp khác nhau và cập nhật với các phiên bản mô hình mới nhất mà chỉ cần thay đổi mã ở mức ít nhất.
- Dễ dàng tùy chỉnh mô hình bằng dữ liệu của bạn: Tùy chỉnh riêng FM bằng dữ liệu của bạn thông qua giao diện trực quan mà không cần viết bất kỳ mã nào. Chỉ cần chọn tập dữ liệu đào tạo và xác thực được lưu trữ trong Dịch vụ lưu trữ đơn giản của Amazon (Amazon S3) và điều chỉnh các siêu tham số (nếu cần) để đạt được hiệu suất mô hình tốt nhất có thể.
- Các tác tử được quản lý hoàn toàn có thể gọi API một cách linh hoạt để thực hiện các tác vụ: Xây dựng các tác tử thực hiện tác vụ kinh doanh phức tạp – từ đặt chỗ du lịch và xử lý yêu cầu bảo hiểm đến tạo chiến dịch quảng cáo, chuẩn bị hồ sơ thuế và quản lý hàng tồn kho – bằng cách gọi linh hoạt các hệ thống và API của công ty bạn. Các tác tử được quản lý đầy đủ cho Amazon Bedrock mở rộng khả năng suy luận của FM để phân tích các tác vụ, tạo và thực hiện kế hoạch điều phối.
- Khả năng hỗ trợ gốc cho RAG để mở rộng sức mạnh của FM bằng dữ liệu độc quyền: Với Cơ sở kiến thức của Amazon Bedrock, bạn có thể kết nối FM một cách an toàn với nguồn dữ liệu để tăng cường truy xuất – từ bên trong dịch vụ được quản lý – mở rộng các khả năng vốn đã mạnh mẽ của FM và giúp FM hiểu rõ hơn về lĩnh vực cũng như tổ chức cụ thể của bạn.
- Chứng nhận tuân thủ và bảo mật dữ liệu: Amazon Bedrock cung cấp một số tính năng để hỗ trợ các yêu cầu về bảo mật và quyền riêng tư. Amazon Bedrock nằm trong phạm vi đáp ứng các tiêu chuẩn tuân thủ chung như Kiểm soát dịch vụ và tổ chức (SOC), Tổ chức tiêu chuẩn hóa quốc tế (ISO), Đạo luật về trách nhiệm giải trình và cung cấp thông tin bảo hiểm y tế (HIPAA) đủ điều kiện và khách hàng có thể sử dụng Amazon Bedrock tuân thủ Quy định bảo vệ dữ liệu chung (GDPR). Amazon Bedrock đạt được chứng nhận Đảm bảo độ tin cậy bảo mật và rủi ro (STAR) Cấp 2 của CSA, xác nhận việc sử dụng các phương pháp tốt nhất và khả năng bảo mật của các dịch vụ đám mây AWS. Amazon Bedrock không sử dụng nội dung của bạn để cải thiện các mô hình cơ sở và không chia sẻ chúng với bất kỳ nhà cung cấp mô hình nào. Dữ liệu của bạn trong Amazon Bedrock luôn được mã hóa khi đang được truyền và khi đang lưu trữ. Ngoài ra, bạn có thể mã hóa dữ liệu bằng khóa của riêng mình, nếu muốn. Bạn có thể sử dụng AWS PrivateLink với Amazon Bedrock để thiết lập kết nối riêng giữa FM và Đám mây riêng ảo của Amazon (Amazon VPC) mà không làm lộ lưu lượng truy cập của bạn lên Internet.
Tôi có thể bắt đầu sử dụng Amazon Bedrock như thế nào?
Với trải nghiệm phi máy chủ của Amazon Bedrock, bạn có thể nhanh chóng bắt đầu. Điều hướng đến Amazon Bedrock trong Bảng điều khiển quản lý AWS và dùng thử các FM trong môi trường thử nghiệm. Bạn cũng có thể tạo một tác tử và kiểm thử trong bảng điều khiển. Khi đã xác định được trường hợp sử dụng, bạn có thể dễ dàng tích hợp FM vào ứng dụng của mình bằng các công cụ AWS mà không cần phải quản lý bất kỳ cơ sở hạ tầng nào.
Liên kết tới Khóa học bắt đầu sử dụng Amazon Bedrock
Liên kết tới Hướng dẫn sử dụng Amazon Bedrock
Amazon Bedrock hoạt động như thế nào với các dịch vụ khác?
Amazon Bedrock làm việc với AWS Lambda để gọi các hành động, Amazon S3 để lưu trữ dữ liệu đào tạo và xác thực, và Amazon CloudWatch để theo dõi chỉ số.
Các trường hợp sử dụng phổ biến nhất cho Amazon Bedrock là gì?
Bạn có thể bắt đầu với các trường hợp sử dụng một cách nhanh chóng:
- Tạo các phần nội dung gốc mới, chẳng hạn như truyện ngắn, tiểu luận, bài đăng trên mạng xã hội và bản sao trang web.
- Tìm kiếm, tìm và tổng hợp thông tin để trả lời các câu hỏi từ một kho dữ liệu lớn.
- Tạo hình ảnh thực tế và nghệ thuật của các chủ đề, môi trường và cảnh khác nhau từ lời nhắc ngôn ngữ.
- Giúp khách hàng tìm thấy những nội dung họ đang tìm kiếm bằng các gợi ý sản phẩm phù hợp và theo ngữ cảnh hơn so với việc so khớp từ.
- Nhận bản tóm tắt của nội dung văn bản như bài viết, bài đăng trên blog, sách và tài liệu để nắm được ý chính mà không cần phải đọc toàn bộ nội dung.
- Đề xuất các sản phẩm phù hợp với sở thích của người mua và các giao dịch mua hàng trước đây
Khám phá thêm các trường hợp sử dụng AI tạo sinh.
Môi trường thử nghiệm Amazon Bedrock là gì?
Amazon Bedrock cung cấp môi trường thử nghiệm cho phép bạn thử nghiệm với các FM khác nhau bằng giao diện trò chuyện đàm thoại. Bạn có thể cung cấp câu lệnh và sử dụng giao diện web bên trong bảng điều khiển để cung cấp câu lệnh và sử dụng các mô hình được đào tạo trước để tạo văn bản hoặc hình ảnh hoặc tùy chọn khác là sử dụng mô hình tinh chỉnh đã được điều chỉnh cho phù hợp với trường hợp sử dụng của bạn.
Amazon Bedrock được cung cấp ở Khu vực AWS nào?
Để biết danh sách các Khu vực AWS có cung cấp Amazon Bedrock, hãy xem các điểm cuối và hạn mức của Amazon Bedrock trong Hướng dẫn tham khảo Amazon Bedrock.
Làm thế nào để tùy chỉnh mô hình trên Amazon Bedrock?
Bạn có thể dễ dàng tinh chỉnh FM trên Amazon Bedrock bằng cách sử dụng dữ liệu được gắn thẻ hoặc bằng cách sử dụng tính năng đào tạo trước liên tục để tùy chỉnh mô hình bằng dữ liệu chưa được gắn thẻ. Để bắt đầu, hãy cung cấp tập dữ liệu đào tạo và xác thực, cấu hình siêu tham số (giai đoạn, kích thước lô, tốc độ học, các bước khởi động) và gửi tác vụ. Trong vòng vài giờ, mô hình tinh chỉnh có thể được truy cập bằng cùng một API (InvokeModel).
Tôi có thể đào tạo một mô hình và triển khai mô hình đó trên Amazon Bedrock không?
Có, bạn có thể đào tạo một số mô hình có sẵn công khai và nhập chúng vào Amazon Bedrock bằng tính năng Nhập mô hình tùy chỉnh. Hiện tại, tính năng này chỉ hỗ trợ các kiến trúc Llama 2/3, Mistral và Flan. Để biết thêm thông tin, vui lòng tham khảo tài liệu.
Đại lý
Tác tử của Amazon Bedrock là gì?
Tác tử của Amazon Bedrock là các chức năng được quản lý toàn phần giúp nhà phát triển dễ dàng tạo các ứng dụng dựa trên AI tạo sinh mà có thể hoàn thành các tác vụ phức tạp cho nhiều trường hợp sử dụng và cung cấp câu trả lời cập nhật dựa trên các nguồn kiến thức độc quyền. Chỉ với vài bước ngắn, Tác tử của Amazon Bedrock sẽ tự động phân tích các tác vụ và tạo kế hoạch điều phối mà không cần bất kỳ thao tác viết mã thủ công nào. Tác tử kết nối một cách bảo mật với dữ liệu công ty thông qua API, tự động chuyển đổi dữ liệu sang định dạng có thể đọc được bằng máy và tăng cường yêu cầu với thông tin liên quan để tạo phản hồi chính xác nhất. Sau đó, các tác tử có thể tự động gọi API để thực hiện yêu cầu của người dùng. Ví dụ: một công ty sản xuất có thể muốn phát triển một ứng dụng AI tạo sinh cho phép tự động theo dõi mức hàng tồn kho, dữ liệu bán hàng, thông tin chuỗi cung ứng và có thể đề xuất các điểm và số lượng sắp xếp lại tối ưu để đạt hiệu quả tối đa. Là chức năng được quản lý toàn phần, Tác tử của Amazon Bedrock loại bỏ việc quản lý tích hợp hệ thống và cung cấp cơ sở hạ tầng không tạo ra giá trị khác biệt, cho phép các nhà phát triển sử dụng AI tạo sinh đến mức tối đa trong toàn bộ tổ chức.
Làm thế nào để kết nối FM với nguồn dữ liệu công ty của tôi?
Bạn có thể kết nối FM một cách bảo mật với các nguồn dữ liệu của công ty bằng Tác tử của Amazon Bedrock. Với cơ sở kiến thức, bạn có thể sử dụng các tác tử để cung cấp cho FM trong Amazon Bedrock quyền truy cập vào dữ liệu bổ sung giúp mô hình tạo ra các phản hồi phù hợp, cụ thể theo ngữ cảnh và chính xác hơn mà không cần liên tục đào tạo lại FM. Dựa trên thông tin đầu vào của người dùng, các tác tử xác định cơ sở kiến thức thích hợp, truy xuất thông tin liên quan và thêm thông tin vào lời nhắc đầu vào, từ đó cung cấp cho mô hình thêm thông tin ngữ cảnh để hoàn thiện.
Một số trường hợp sử dụng Tác tử của Amazon Bedrock là gì?
Các tác tử của Amazon Bedrock có thể giúp bạn tăng năng suất, cải thiện trải nghiệm dịch vụ khách hàng và tự động hóa quy trình làm việc (chẳng hạn như xử lý yêu cầu bồi thường bảo hiểm).
Tác tử của Amazon Bedrock giúp cải thiện năng suất của nhà phát triển như thế nào?
Nhờ các tác tử, nhà phát triển cung cấp khả năng hỗ trợ liền mạch trong quy trình giám sát, mã hóa, quyền người dùng, lập phiên bản và quản lý gọi API mà không cần viết mã tùy chỉnh. Các tác tử của Amazon Bedrock tự động hóa quy trình tạo câu lệnh và điều phối các tác vụ do người dùng yêu cầu. Các nhà phát triển có thể sử dụng mẫu nhắc do tác tử tạo làm cơ sở để tinh chỉnh hơn nữa nhằm nâng cao trải nghiệm người dùng. Họ có thể cập nhật đầu vào của người dùng, kế hoạch điều phối và phản hồi của FM. Với quyền truy cập vào mẫu nhắc, các nhà phát triển có quyền kiểm soát tốt hơn đối với việc điều phối tác tử.
Với các tác tử được quản lý toàn phần, bạn không phải lo lắng về việc cung cấp hoặc quản lý cơ sở hạ tầng và có thể đưa các ứng dụng vào sản xuất nhanh hơn.
Bảo mật
Nội dung mà Amazon Bedrock xử lý có được chuyển ra bên ngoài Khu vực AWS nơi tôi đang dùng Amazon Bedrock không?
Mọi nội dung của khách hàng mà Amazon Bedrock xử lý đều được mã hóa và lưu trữ ở trang thái lưu trữ trong Khu vực AWS nơi bạn đang dùng Amazon Bedrock.
Thông tin đầu vào của người dùng và đầu ra mô hình có được cung cấp cho các nhà cung cấp mô hình bên thứ ba không?
Không. Thông tin đầu vào của người dùng và đầu ra mô hình không được chia sẻ với bất kỳ nhà cung cấp mô hình nào.
Amazon Bedrock hỗ trợ những tiêu chuẩn bảo mật và tuân thủ nào?
Amazon Bedrock cung cấp một số tính năng để hỗ trợ các yêu cầu về bảo mật và quyền riêng tư. Amazon Bedrock nằm trong phạm vi đáp ứng các tiêu chuẩn tuân thủ chung như FedRAMP Trung bình, Kiểm soát dịch vụ và tổ chức (SOC), Tổ chức tiêu chuẩn hóa quốc tế (ISO), hội đủ điều kiện của Đạo luật về trách nhiệm giải trình và cung cấp thông tin bảo hiểm y tế (HIPAA) và khách hàng có thể sử dụng Bedrock tuân thủ Quy định bảo vệ dữ liệu chung (GDPR). Amazon Bedrock được bao gồm trong phạm vi báo cáo SOC 1, 2, 3, cho phép khách hàng nắm được thông tin chuyên sâu về các biện pháp kiểm soát bảo mật của chúng tôi. Chúng tôi chứng minh sự tuân thủ thông qua những cuộc kiểm tra sâu rộng của bên thứ ba về các biện pháp kiểm soát AWS của chúng tôi. Amazon Bedrock là một trong những dịch vụ của AWS đáp ứng Tuân thủ ISO đối với các tiêu chuẩn ISO 9001, ISO 27001, ISO 27017, ISO 27018, ISO 27701, ISO 22301 và ISO 20000. Amazon Bedrock đạt được chứng nhận Đảm bảo độ tin cậy bảo mật và rủi ro (STAR) Cấp 2 của CSA, xác nhận việc sử dụng các phương pháp tốt nhất và khả năng bảo mật của các dịch vụ đám mây AWS. Amazon Bedrock không sử dụng nội dung của bạn để cải thiện các mô hình cơ sở và không chia sẻ chúng với bất kỳ nhà cung cấp mô hình nào. Bạn có thể sử dụng AWS PrivateLink để thiết lập kết nối riêng từ VPC của Amazon đến Amazon Bedrock mà dữ liệu của bạn không cần phải tiếp xúc với lưu lượng truy cập Internet.
AWS và các nhà cung cấp mô hình bên thứ ba có sử dụng dữ liệu đầu vào hoặc đầu ra của khách hàng từ Amazon Bedrock để đào tạo Amazon Titan hoặc bất kỳ mô hình của bên thứ ba nào không?
Không, AWS và các nhà cung cấp mô hình bên thứ ba sẽ không sử dụng bất kỳ dữ liệu đầu vào hoặc đầu ra nào từ Amazon Bedrock để đào tạo Amazon Titan hoặc bất kỳ mô hình của bên thứ ba nào.
SDK
Amazon Bedrock hỗ trợ những SDK nào?
Amazon Bedrock hỗ trợ SDK cho các dịch vụ thực thi. Các SDK iOS và Android, cũng như Java, JS, Python, CLI, .Net, Ruby, PHP, Go và C++ hỗ trợ cả đầu vào bằng văn bản và giọng nói.
SDK nào hỗ trợ chức năng truyền phát?
Tất cả SDK đều hỗ trợ truyền phát.
Thanh toán và hỗ trợ
Amazon Bedrock có chi phí là bao nhiêu?
Vui lòng tham khảo trang định giá Amazon Bedrock để biết thông tin về giá hiện tại.
AWS cung cấp dịch vụ hỗ trợ nào cho Amazon Bedrock?
Tùy thuộc vào hợp đồng Hỗ trợ AWS của bạn, Amazon Bedrock nằm trong phạm vi hỗ trợ của các gói Hỗ trợ nhà phát triển, Hỗ trợ kinh doanh và Hỗ trợ dành cho doanh nghiệp.
Làm thế nào để theo dõi mã thông báo đầu vào và đầu ra?
Bạn có thể sử dụng chỉ số CloudWatch để theo dõi mã thông báo đầu vào và đầu ra.
Tùy chỉnh
Làm thế nào để sử dụng dữ liệu một cách bảo mật để tùy chỉnh các FM có sẵn thông qua Amazon Bedrock?
Với Amazon Bedrock, bạn có thể tùy chỉnh các FM một cách riêng tư, giữ quyền kiểm soát cách dữ liệu được sử dụng và mã hóa. Amazon Bedrock tạo một bản sao riêng biệt của FM cơ sở và đào tạo bản sao riêng tư này của mô hình. Dữ liệu của bạn bao gồm câu lệnh, thông tin được sử dụng để bổ sung cho câu lệnh và phản hồi FM. Các FM tùy chỉnh vẫn còn trong Khu vực nơi lệnh gọi API được xử lý.
Amazon Bedrock đảm bảo dữ liệu của tôi được sử dụng trong quá trình tinh chỉnh vẫn được bảo mật và riêng tư bằng cách nào?
Khi bạn tinh chỉnh mô hình, dữ liệu của bạn tuyệt đối không bị tiết lộ trên internet công cộng, tuyệt đối không rời khỏi mạng AWS, được chuyển an toàn qua VPC của bạn và được mã hóa khi đang truyền và khi lưu trữ. Amazon Bedrock còn thực thi các biện pháp kiểm soát truy cập AWS giống như bạn có với bất kỳ dịch vụ nào khác của chúng tôi.
Amazon Bedrock có hỗ trợ tính năng đào tạo trước liên tục không?
Chúng tôi đã triển khai tính năng đào tạo trước liên tục cho các mô hình Văn bản nhanh của Amazon Titan và Amazon Titan trên Amazon Bedrock. Đào tạo trước liên tục cho phép bạn tiếp tục đào tạo trước trên mô hình cơ sở Amazon Titan bằng cách sử dụng một lượng lớn dữ liệu chưa được dán nhãn. Loại đào tạo này sẽ điều chỉnh mô hình từ một tập miền chung sang một tập miền cụ thể hơn như y tế, luật, tài chính, v.v. trong khi vẫn bảo toàn hầu hết các tính năng của mô hình cơ sở Amazon Titan.
Tại sao tôi nên sử dụng tính năng đào tạo trước liên tục trong Amazon Bedrock?
Các doanh nghiệp có thể muốn xây dựng mô hình cho các tác vụ trong một miền cụ thể. Các mô hình cơ sở có thể không được đào tạo về biệt ngữ kỹ thuật được sử dụng trong miền cụ thể đó. Do đó, việc tinh chỉnh trực tiếp mô hình cơ sở yêu cầu một lượng lớn hồ sơ đào tạo được dán nhãn và thời gian đào tạo lâu để đạt được kết quả chính xác. Để giảm bớt gánh nặng này, thay vào đó, khách hàng có thể cung cấp một lượng lớn dữ liệu không được dán nhãn cho tác vụ đào tạo trước liên tục. Tác vụ này sẽ điều chỉnh mô hình cơ sở Amazon Titan cho miền mới. Sau đó, khách hàng có thể tinh chỉnh mô hình tùy chỉnh mới được đào tạo trước cho các tác vụ hạ nguồn thông qua hồ sơ đào tạo được dán nhãn với số lượng ít hơn đáng kể và với thời gian đào tạo ngắn hơn.
Tính năng đào tạo trước liên tục có liên quan đến các dịch vụ AWS khác như thế nào?
Tính năng đào tạo trước liên tục và tinh chỉnh trong Amazon Bedrock có các yêu cầu rất giống nhau. Vì lý do này, chúng tôi đang chọn tạo các API hợp nhất hỗ trợ cả đào tạo trước liên tục và tinh chỉnh. Việc hợp nhất các API làm giảm thời gian học hỏi và sẽ giúp khách hàng sử dụng các tính năng tiêu chuẩn như Amazon EventBridge để theo dõi các tác vụ chạy trong thời gian dài, tích hợp Amazon S3 để tìm nạp dữ liệu đào tạo, thẻ tài nguyên và mã hóa mô hình.
Làm thế nào để sử dụng tính năng đào tạo trước liên tục?
Đào tạo trước liên tục giúp bạn điều chỉnh các mô hình Amazon Titan với dữ liệu cụ thể trong miền của mình trong khi vẫn duy trì chức năng cơ bản của các mô hình Amazon Titan. Để tạo tác vụ đào tạo trước liên tục, hãy điều hướng đến Bảng điều khiển Amazon Bedrock và nhấp vào “Mô hình tùy chỉnh”. Bạn sẽ điều hướng đến trang mô hình tùy chỉnh có hai tab: Mô hình và tác vụ Đào tạo. Cả hai thẻ đều cung cấp menu thả xuống “Tùy chỉnh mô hình” ở bên phải. Chọn “Đào tạo trước liên tục” từ menu thả xuống để đi đến “Tạo tác vụ đào tạo trước liên tục”. Bạn sẽ cung cấp mô hình nguồn, tên, mã hóa mô hình, dữ liệu đầu vào, siêu thông số và dữ liệu đầu ra. Ngoài ra, bạn có thể cung cấp thẻ cùng với thông tin chi tiết về vai trò Quản lý danh tính và truy cập trong AWS (IAM) và chính sách tài nguyên cho tác vụ.
Amazon Titan
Mô hình Amazon Titan là gì?
Dành riêng cho Amazon Bedrock, dòng mô hình Amazon Titan kết hợp 25 năm kinh nghiệm của Amazon trong việc đổi mới với AI và máy học trong toàn bộ hoạt động kinh doanh. Các FM Amazon Titan cung cấp cho khách hàng nhiều lựa chọn mô hình hình ảnh, đa phương thức và mô hình văn bản hiệu năng cao thông qua API được quản lý toàn phần. Các mô hình Amazon Titan được tạo ra bởi AWS và được đào tạo trước trên các tập dữ liệu lớn, giúp chúng trở thành các mô hình đa dụng mạnh mẽ, được xây dựng để hỗ trợ nhiều trường hợp sử dụng khác nhau, đồng thời hỗ trợ việc sử dụng AI có trách nhiệm. Sử dụng các mô hình này ở thiết lập sẵn có hoặc tùy chỉnh riêng theo dữ liệu của riêng bạn. Tìm hiểu thêm về Amazon Titan.
Tôi có thể tìm hiểu thêm về dữ liệu được xử lý để phát triển và đào tạo FM Amazon Titan ở đâu?
Để tìm hiểu thêm về dữ liệu được xử lý để phát triển và đào tạo FM Amazon Titan, hãy truy cập trang Quyền riêng tư và đào tạo mô hình Amazon Titan.
Tạo sinh tăng cường truy xuất (RAG)
Cơ sở kiến thức của Amazon Bedrock chấp nhận những loại định dạng dữ liệu nào?
Các định dạng dữ liệu được hỗ trợ bao gồm tệp .pdf, .txt, .md, .html, .doc và .docx, .csv, .xls và .xlsx. Các tệp phải được tải lên Amazon S3. Trỏ đến vị trí dữ liệu trong Amazon S3 và Cơ sở kiến thức của Amazon Bedrock sẽ đảm nhận toàn bộ quy trình tải nhập vào cơ sở dữ liệu véc-tơ của bạn.
Cơ sở kiến thức của Amazon Bedrock phân đoạn tài liệu trước khi chuyển đổi các đoạn đó thành phần nhúng như thế nào?
Cơ sở kiến thức của Amazon Bedrock cung cấp ba tùy chọn để phân đoạn văn bản trước khi chuyển đổi văn bản thành phần nhúng.
1. Tùy chọn mặc định: Cơ sở kiến thức của Amazon Bedrock tự động chia nhỏ tài liệu của bạn thành các đoạn chứa 200 mã thông báo nhằm đảm bảo rằng câu không bị ngắt quãng ở giữa. Nếu một tài liệu chứa ít hơn 200 mã thông báo, thì tài liệu đó sẽ không bị chia nhỏ thêm nữa. Tình trạng trùng lặp 20% mã thông báo được duy trì giữa hai đoạn liên tiếp.
2. Phân đoạn kích thước cố định: Trong tùy chọn này, bạn có thể chỉ định số lượng mã thông báo tối đa cho mỗi đoạn và tỷ lệ phần trăm trùng lặp giữa các đoạn đối với Cơ sở kiến thức của Amazon Bedrock để tài liệu của bạn được tự động chia thành các đoạn nhằm đảm bảo rằng câu không bị ngắt quãng ở giữa.
3. Tạo một tùy chọn phần nhúng cho mỗi tài liệu: Amazon Bedrock tạo một phần nhúng cho mỗi tài liệu. Tùy chọn này phù hợp nếu bạn đã xử lý trước các tài liệu của mình bằng cách chia chúng thành những tệp riêng biệt và không muốn Amazon Bedrock phân đoạn thêm tài liệu của bạn.
Mô hình phần nhúng nào được sử dụng để chuyển đổi tài liệu thành phần nhúng (véc-tơ)?
Hiện tại, Cơ sở kiến thức của Amazon Bedrock sử dụng phiên bản mới nhất của mô hình Phần nhúng văn bản Amazon Titan hiện có sẵn trong Amazon Bedrock. Mô hình Phần nhúng văn bản Titan V2 hỗ trợ 8.000 mã thông báo và hơn 100 ngôn ngữ, đồng thời tạo phần nhúng có kích cỡ linh hoạt 256, 512 và 1.024.
Cơ sở kiến thức của Amazon Bedrock hỗ trợ cơ sở dữ liệu véc-tơ nào?
Cơ sở kiến thức của Amazon Bedrock đảm nhận toàn bộ quy trình tải nhập để chuyển đổi tài liệu của bạn thành các phần nhúng (véc-tơ) và lưu trữ phần nhúng trong cơ sở dữ liệu véc-tơ chuyên biệt. Cơ sở kiến thức của Amazon Bedrock hỗ trợ các cơ sở dữ liệu phổ biến để lưu trữ véc-tơ, bao gồm công cụ véc-tơ dành cho Amazon OpenSearch phi máy chủ, Pinecone, Đám mây Redis Enterprise, Amazon Aurora (sắp ra mắt) và MongoDB (sắp ra mắt). Nếu bạn không có cơ sở dữ liệu véc-tơ hiện có, Amazon Bedrock sẽ tạo một kho véc-tơ OpenSearch phi máy chủ cho bạn.
Có thể thực hiện đồng bộ hóa định kỳ hoặc theo sự kiện từ Amazon S3 sang Cơ sở kiến thức của Amazon Bedrock không?
Tùy thuộc vào trường hợp sử dụng, bạn có thể sử dụng Amazon EventBridge để tạo quy trình đồng bộ hóa định kỳ hoặc theo sự kiện giữa Amazon S3 và Cơ sở kiến thức của Amazon Bedrock.
Đánh giá model
Đánh giá mô hình trên Amazon Bedrock là gì?
Đánh giá mô hình trên Amazon Bedrock cho phép bạn đánh giá, so sánh và chọn FM tốt nhất cho trường hợp sử dụng của bạn chỉ trong vài bước ngắn gọn. Amazon Bedrock cung cấp lựa chọn bao gồm đánh giá tự động và đánh giá của con người. Bạn có thể sử dụng tính năng đánh giá tự động với các chỉ số được định sẵn như độ chính xác, độ chắc chắn và độ độc hại. Bạn có thể sử dụng quy trình đánh giá của con người cho các chỉ số chủ quan hoặc tùy chỉnh như mức độ thân thiện, phong cách và sự phù hợp với tiếng nói thương hiệu. Đối với đánh giá của con người, bạn có thể sử dụng nhân viên nội bộ của mình hoặc nhóm do AWS quản lý làm người đánh giá. Đánh giá mô hình trên Amazon Bedrock cung cấp tập dữ liệu tích hợp sẵn được tuyển chọn hoặc bạn có thể sử dụng tập dữ liệu riêng.
Tôi có thể đánh giá FM dựa trên chỉ số nào?
Bạn có thể đánh giá nhiều chỉ số được xác định trước như độ chính xác, độ chắc chắn và độ độc hại bằng cách sử dụng đánh giá tự động. Bạn cũng có thể sử dụng quy trình đánh giá của con người cho các chỉ số chủ quan hoặc tùy chỉnh, chẳng hạn như độ thân thiện, mức độ liên quan, phong cách và độ phù hợp với tiếng nói thương hiệu.
Điểm khác biệt giữa đánh giá của con người và đánh giá tự động là gì?
Đánh giá tự động cho phép bạn nhanh chóng thu hẹp danh sách các FM có sẵn theo các tiêu chí tiêu chuẩn (chẳng hạn như độ chính xác, độ độc hại và độ chắc chắn). Đánh giá của con người thường được sử dụng để đánh giá các tiêu chí chủ quan hoặc nhiều sắc thái hơn, đòi hỏi sự phán đoán của con người và những tiêu chí mà đánh giá tự động có thể không hỗ trợ (chẳng hạn như tiếng nói thương hiệu, dụng ý sáng tạo, độ thân thiện).
Việc đánh giá tự động hoạt động như thế nào?
Bạn có thể nhanh chóng đánh giá các mô hình Amazon Bedrock về các chỉ số như độ chính xác, độ chắc chắn và độ độc hại bằng cách sử dụng các tập dữ liệu tích hợp được tuyển chọn hoặc bằng cách sử dụng các tập dữ liệu câu lệnh của riêng bạn. Sau khi tập dữ liệu câu lệnh của bạn được gửi đến các mô hình Amazon Bedrock để suy luận, các phản hồi của mô hình được chấm điểm bằng các thuật toán đánh giá cho từng tham số. Công cụ backend tổng hợp điểm số cho mỗi phản hồi câu lệnh riêng lẻ thành điểm số ngắn gọn và trình bày chúng thông qua các báo cáo trực quan dễ hiểu.
Đánh giá của con người hoạt động như thế nào?
Amazon Bedrock cho phép bạn thiết lập quy trình đánh giá của con người trong một vài bước ngắn gọn và sử dụng nhân viên nội bộ của bạn hoặc sử dụng đội ngũ chuyên gia do AWS quản lý để đánh giá các mô hình. Thông qua giao diện trực quan của Amazon Bedrock, con người có thể đánh giá và đưa ra ý kiến về phản hồi của mô hình bằng cách nhấp vào biểu tượng ngón tay cái giơ lên hoặc xuống, xếp hạng theo thang điểm từ 1 đến 5, chọn ra phản hồi tốt nhất trong nhiều phản hồi hoặc xếp hạng câu lệnh. Ví dụ: một thành viên trong nhóm có thể được xem cách hai mô hình phản hồi với cùng một câu lệnh, sau đó thành viên được yêu cầu chọn mô hình hiển thị đầu ra chính xác hơn, phù hợp hoặc phong cách hơn. Bạn có thể chỉ định các tiêu chí đánh giá quan trọng đối với bạn bằng cách tùy chỉnh các hướng dẫn và nút để xuất hiện trên giao diện người dùng đánh giá cho đội ngũ của bạn. Bạn cũng có thể cung cấp hướng dẫn chi tiết bằng các ví dụ và mục tiêu chung của việc đánh giá mô hình để người dùng có thể sắp xếp việc đánh giá cho phù hợp. Phương pháp này rất hữu ích khi đánh giá các tiêu chí chủ quan đòi hỏi sự phán đoán của con người hoặc chuyên môn trong lĩnh vực có nhiều sắc thái hơn và không thể dễ dàng đánh giá bằng các đánh giá tự động.
AI có trách nhiệm
Quy tắc bảo vệ của Amazon Bedrock là gì?
Quy tắc bảo vệ của Amazon Bedrock giúp bạn thực hiện các biện pháp bảo vệ cho các ứng dụng AI tạo sinh dựa trên các trường hợp sử dụng và chính sách sử dụng AI có trách nhiệm của mình. Quy tắc bảo vệ giúp kiểm soát tương tác giữa người dùng và FM bằng cách lọc nội dung không mong muốn và có hại và sẽ sớm chỉnh sửa thông tin nhận dạng cá nhân (PII), tăng cường an toàn nội dung và quyền riêng tư trong các ứng dụng AI tạo sinh. Bạn có thể tạo nhiều quy tắc bảo vệ với các cấu hình khác nhau được tùy chỉnh cho từng trường hợp sử dụng cụ thể. Ngoài ra, nhờ quy tắc bảo vệ, bạn có thể liên tục theo dõi và phân tích đầu vào của người dùng và các phản hồi FM có khả năng vi phạm chính sách do khách hàng xác định.
Các biện pháp bảo vệ nào hiện có trong Quy tắc bảo vệ của Amazon Bedrock?
Quy tắc bảo vệ cho phép bạn xác định một tập hợp chính sách để giúp bảo vệ các ứng dụng AI tạo sinh của bạn. Bạn có thể cấu hình các chính sách sau trong quy tắc bảo vệ.
- Chủ đề bị từ chối: xác định một tập hợp chủ đề không mong muốn trong bối cảnh ứng dụng của mình. Ví dụ: bạn có thể thiết kế một trợ lý ngân hàng trực tuyến để hạn chế cung cấp tư vấn đầu tư.
- Bộ lọc nội dung: cấu hình ngưỡng để lọc nội dung có hại trên các danh mục thù hận, lăng mạ, tình dục và bạo lực.
- Bộ lọc từ ngữ (sắp ra mắt): xác định một tập hợp từ ngữ cần chặn trong dữ liệu đầu vào của người dùng và phản hồi do FM tạo ra.
- Biên tập PII (sắp ra mắt): chọn một tập hợp PII có thể biên tập trong các phản hồi do FM tạo ra. Dựa trên trường hợp sử dụng, bạn cũng có thể chặn dữ liệu đầu vào của người dùng nếu dữ liệu đó có chứa PII.
Tôi có thể sử dụng quy tắc bảo vệ với tất cả các FM và công cụ có sẵn trên Amazon Bedrock không?
Bạn có thể sử dụng quy tắc bảo vệ với tất cả các mô hình ngôn ngữ lớn (LLM) có sẵn trên Amazon Bedrock. Quy tắc bảo vệ cũng có thể được sử dụng với các FM được tinh chỉnh cũng như các Tác tử dành cho Amazon Bedrock.
AWS có cung cấp khoản bồi thường sở hữu trí tuệ cho khiếu nại bản quyền đối với các dịch vụ AI tạo sinh không?
AWS cung cấp khoản bồi thường sở hữu trí tuệ (IP) không giới hạn cho khiếu nại bản quyền phát sinh từ dữ liệu đầu ra tạo sinh của các dịch vụ AI tạo sinh được cung cấp rộng rãi của Amazon sau đây: mô hình Amazon Titan, Amazon CodeWhisperer chuyên nghiệp và các dịch vụ khác được liệt kê trong Mục 50.10 của Điều khoản dịch vụ (“Dịch vụ AI tạo sinh được bồi thường”). Điều này có nghĩa là khách hàng sẽ được bảo vệ khỏi các khiếu nại của bên thứ ba liên quan đến cáo buộc vi phạm bản quyền bởi dữ liệu đầu ra được tạo bởi Dịch vụ AI tạo sinh được bồi thường khi phản hồi dữ liệu đầu vào hoặc dữ liệu khác do khách hàng cung cấp. Khách hàng cũng phải sử dụng dịch vụ một cách có trách nhiệm, chẳng hạn như không nhập dữ liệu vi phạm hoặc vô hiệu hóa các tính năng lọc của dịch vụ.
Ngoài ra, khoản bồi thường IP tiêu chuẩn của chúng tôi đối với hoạt động sử dụng dịch vụ sẽ bảo vệ khách hàng khỏi các khiếu nại của bên thứ ba liên quan đến cáo buộc vi phạm IP (bao gồm khiếu nại bản quyền) mà dịch vụ và dữ liệu được sử dụng để đào tạo chúng gây ra.
Có danh sách quy tắc bảo vệ sẵn có (tích hợp sẵn) không và tôi có thể tùy chỉnh những gì?
Có bốn chính sách quy tắc bảo vệ, mỗi chính sách với các biện pháp bảo vệ khác nhau có thể dùng ngay
- Bộ lọc nội dung – Bộ lọc nội dung có 6 danh mục sẵn có (thù ghét, lăng mạ, khiêu dâm, bạo lực, hành vi sai trái (bao gồm cả hoạt động tội phạm) và tấn công bằng câu lệnh (bẻ khóa và tiêm câu lệnh)). Mỗi danh mục có thể có các ngưỡng tùy chỉnh hơn nữa về độ mạnh của bộ lọc – thấp/trung bình/cao.
- Chủ đề bị từ chối – đây là những chủ đề tùy chỉnh mà khách hàng có thể xác định bằng cách sử dụng mô tả bằng ngôn ngữ tự nhiên đơn giản
- Bộ lọc thông tin nhạy cảm – những bộ lọc này đi kèm với hơn 30 PII có sẵn. Bạn có thể tùy chỉnh thêm bằng cách thêm thông tin nhạy cảm độc quyền của khách hàng.
- Bộ lọc từ – Bộ lọc từ đi kèm với bộ lọc tục tĩu có sẵn và có thể được tùy chỉnh thêm với các từ tùy chỉnh.
Quy tắc bảo vệ mặc định có tự động phát hiện số an sinh xã hội hoặc số điện thoại không?
Mô hình nền tảng có các biện pháp bảo vệ gốc và đây là các biện pháp bảo vệ mặc định được liên kết với mỗi mô hình. Các biện pháp bảo vệ gốc này KHÔNG phải là một phần của Quy tắc bảo vệ của Amazon Bedrock. Quy tắc bảo vệ của Amazon Bedrock là một lớp bổ sung gồm các biện pháp bảo vệ tùy chỉnh và không bắt buộc, có thể được khách hàng áp dụng dựa trên yêu cầu của ứng dụng và chính sách AI có trách nhiệm của họ.
Là một phần của Quy tắc bảo vệ của Amazon Bedrock, tính năng phát hiện số an sinh xã hội và số điện thoại nằm trong hơn 30 PII có sẵn. Danh sách đầy đủ ở đây.
Khách hàng xây dựng tùy chỉnh Quy tắc bảo vệ của Amazon Bedrock có tốn chi phí riêng không? Và chi phí có áp dụng cho cả đầu vào và đầu ra không?
Có một khoản chi phí riêng khi sử dụng Quy tắc bảo vệ của Amazon Bedrock. Mức phí có thể được áp dụng cho cả đầu vào và đầu ra. Định giá ở cuối trang ở đây.
Khách hàng có thể chạy kiểm thử tự động để xem tính hiệu quả của Quy tắc bảo vệ mà họ thiết lập không? Có “trình tạo trường hợp kiểm thử” (thuật ngữ của nhà báo) để giám sát liên tục không?
Có, khách hàng có thể chạy kiểm thử tự động bằng API Quy tắc bảo vệ của Amazon Bedrock. Bạn có thể sẽ muốn sử dụng “trình tạo trường hợp kiểm thử” trước khi triển khai quy tắc bảo vệ trong sản xuất. Chưa có trình tạo trường hợp kiểm thử gốc. Để giám sát liên tục lưu lượng sản xuất, quy tắc bảo vệ cung cấp bản ghi chi tiết về tất cả các vi phạm cho từng đầu vào và đầu ra, để khách hàng có thể giám sát chi tiết từng đầu vào đi vào và đi ra khỏi ứng dụng AI tạo sinh của họ. Các bản ghi này có thể được lưu trữ trong CloudWatch hoặc S3 và có thể được sử dụng để tạo bảng điều khiển tùy chỉnh dựa trên yêu cầu của khách hàng.
Hôm nay, bạn đã tìm thấy nội dung mình cần chưa?
Chia sẻ với chúng tôi để chúng tôi có thể cải thiện chất lượng nội dung trên trang.