Amazon CloudWatch เพิ่มข้อมูลการสังเกต AI ช่วยสร้าง (ตัวอย่าง)
ตอนนี้ Amazon CloudWatch ช่วยให้คุณสามารถสังเกตแอปพลิเคชัน AI ช่วยสร้างและเวิร์กโหลดต่างๆ ได้ ซึ่งรวมถึงเจ้าหน้าที่ที่นำไปใช้จริงและดำเนินงานด้วย Amazon Bedrock AgentCore (ตัวอย่าง) ซึ่งจะช่วยให้ข้อมูลเชิงลึกเกี่ยวกับประสิทธิภาพ สถานะการดำเนินงาน และความแม่นยำของ AI คุณจะได้รับมุมมองนอกกรอบเกี่ยวกับเวลาแฝง การใช้งาน และข้อผิดพลาดของเวิร์กโหลด AI ของคุณเพื่อช่วยตรวจจับปัญหาได้เร็วขึ้นในองค์ประกอบต่างๆ เช่น การเรียกดำเนินการโมเดลและเจ้าหน้าที่โมเดล นอกจากนี้คุณยังสามารถค้นพบปัญหาได้เร็วขึ้นโดยใช้การติดตามพร้อมท์แบบครบวงจรในองค์ประกอบต่างๆ เช่น ฐานความรู้ เครื่องมือ และโมเดล ฟีเจอร์นี้ทำงานร่วมกับกับเฟรมเวิร์กการควบคุมระบบ AI ที่เป็นที่นิยมเช่น Strands Agents, LangChain และ LangGraph ซึ่งทำให้เฟรมเวิร์กที่คุณเลือกมีความยืดหยุ่น
ด้วยฟีเจอร์ใหม่นี้ Amazon CloudWatch จะสามารถวิเคราะห์ข้อมูลทางไกลผ่านองค์ประกอบของแอปพลิเคชัน AI ช่วยสร้างได้ ซึ่งช่วยให้ระบุแหล่งที่มาของข้อผิดพลาดได้อย่างรวดเร็ว ตัวอย่างเช่น คุณจะสามารถระบุแหล่งที่มาของการตอบสนองที่ไม่ถูกต้องได้ ไม่ว่าจะมาจากช่องว่างใน VectorDB หรือจากการทดลองซ้ำสำหรับระบบ RAG ที่ไม่สมบูรณ์ โดยใช้การติดตามพร้อมท์แบบครบวงจร เมตริกที่คัดสรร และข้อมูลบันทึกต่างๆ มุมมองการโต้ตอบส่วนประกอบที่เชื่อมโยงกันนี้จะช่วยให้นักพัฒนาสามารถเพิ่มประสิทธิภาพของเวิร์กโหลดได้เร็วขึ้นเพื่อให้มีความพร้อมใช้งาน ความแม่นยำ ความน่าเชื่อถือ และคุณภาพในระดับสูง นักพัฒนาสามารถทำให้ AI Agent ทำงานได้อย่างราบรื่นโดยตรวจสอบและประเมินกลุ่มอินสแตนซ์เจ้าหน้าที่ได้ในที่เดียว มุมมองที่คัดสรรโดยตัวแทนมีให้ใช้งานในแท็บ “AgentCore” ในคอนโซล CloudWatch เพื่อให้มีข้อมูลการสังเกต genAI ข้อมูลการสังเกต AI ช่วยสร้างได้ผสานรวมอยู่กับความสามารถ CloudWatch อื่นๆ เช่น สัญญาณแอปพลิเคชัน, การแจ้งเตือน, แดชบอร์ด, การปกป้องข้อมูลที่ละเอียดอ่อน และข้อมูลเชิงลึกเกี่ยวกับข้อมูลบันทึก ช่วยให้คุณสามารถขยายขอบเขตเครื่องมือที่มีอยู่ให้ไปติดตามเวิร์กโหลด AI ช่วยสร้างได้
ฟีเจอร์นี้มีให้ใช้เป็นตัวอย่างใน 4 รีเจี้ยน ได้แก่ สหรัฐอเมริกาฝั่งตะวันออก (เวอร์จิเนียฝั่งเหนือ), สหรัฐอเมริกาฝั่งตะวันตก (ออริกอน), ยุโรป (แฟรงก์เฟิร์ต) และเอเชียแปซิฟิก (ซิดนีย์) ดูข้อมูลเพิ่มเติมได้ที่เอกสารประกอบ จะมีการคิดค่าบริการ CloudWatch สำหรับข้อมูลทางไกลที่ถูกรวบรวมและจัดเก็บ