Quy tắc bảo vệ dành cho Amazon Bedrock

Xem bản demo về cách tạo và áp dụng các quy tắc bảo vệ tùy chỉnh với mô hình nền tảng (FM) để triển khai các chính sách AI có trách nhiệm trong các ứng dụng AI tạo sinh của bạn.

Quy tắc bảo vệ dành cho Amazon Bedrock đánh giá đầu vào của người dùng và phản hồi của FM dựa trên các chính sách theo trường hợp sử dụng cụ thể và cung cấp một lớp bảo vệ bổ sung bất kể FM cơ bản là gì. Quy tắc bảo vệ có thể được áp dụng trên tất cả các mô hình ngôn ngữ lớn (LLM) trên Amazon Bedrock, bao gồm cả các mô hình được tinh chỉnh. Khách hàng có thể tạo nhiều quy tắc bảo vệ, mỗi loại được cấu hình với một tổ hợp các biện pháp kiểm soát khác nhau và sử dụng các quy tắc bảo vệ này trên các ứng dụng và trường hợp sử dụng khác nhau. 

Các tổ chức nhận ra sự cần thiết của việc quản lý các tương tác trong các ứng dụng AI tạo sinh để đạt được trải nghiệm người dùng phù hợp và an toàn. Họ muốn tùy chỉnh nhiều hơn nữa các tương tác để duy trì các chủ đề liên quan đến doanh nghiệp của họ và phù hợp với chính sách của công ty. Sử dụng mô tả ngắn gọn bằng ngôn ngữ tự nhiên, Quy tắc bảo vệ dành cho Amazon Bedrock giúp bạn xác định tập hợp các chủ đề cần tránh trong bối cảnh ứng dụng của bạn. Quy tắc bảo vệ phát hiện và chặn đầu vào của người dùng và phản hồi của FM thuộc các chủ đề bị hạn chế. Ví dụ: một trợ lý ngân hàng có thể được thiết kế để tránh các chủ đề liên quan đến tư vấn đầu tư.

Quy tắc bảo vệ dành cho Amazon Bedrock cung cấp các bộ lọc nội dung với các ngưỡng có thể cấu hình để lọc nội dung gây hại về các hành vi thù ghét, lăng mạ, tình dục, bạo lực, hành vi sai trái (bao gồm cả hoạt động phạm tội) và tấn công bằng câu lệnh (tiêm câu lệnh và bẻ khóa). Hầu hết các FM đã cung cấp các biện pháp bảo vệ được tích hợp sẵn để ngăn chặn việc tạo ra các câu trả lời gây hại. Ngoài các biện pháp bảo vệ này, Quy tắc bảo vệ cho phép bạn cấu hình ngưỡng trên các danh mục khác nhau để lọc ra các tương tác gây hại. Tăng sức mạnh của bộ lọc làm tăng khả năng lọc mạnh mẽ hơn. Quy tắc bảo vệ tự động đánh giá cả truy vấn của người dùng và phản hồi của FM để phát hiện và giúp ngăn chặn nội dung thuộc các danh mục bị hạn chế. Ví dụ, một trang web thương mại điện tử có thể thiết kế trợ lý trực tuyến của mình để tránh sử dụng ngôn ngữ không phù hợp như lời nói thù ghét hoặc lăng mạ.

Quy tắc bảo vệ dành cho Amazon Bedrock cho phép bạn phát hiện thông tin nhạy cảm, chẳng hạn như thông tin nhận dạng cá nhân (PII), trong đầu vào của người dùng và phản hồi của FM. Bạn có thể chọn từ danh sách các PII được xác định trước hoặc xác định loại thông tin nhạy cảm tùy chỉnh bằng cách sử dụng biểu thức chính quy (regex). Dựa trên trường hợp sử dụng, bạn có thể từ chối có chọn lọc các đầu vào có chứa thông tin nhạy cảm hoặc biên tập các đầu vào đó trong các phản hồi của FM. Ví dụ: bạn có thể biên tập thông tin cá nhân của người dùng trong khi tạo tóm tắt từ bản chuyển lời thoại của cuộc trò chuyện giữa khách hàng và nhân viên tổng đài.