Chuyển đến nội dung chính
Trong giao diện “Xem trước và kiểm thử”“Lịch sử”, với mỗi câu trả lời của AI Agent bạn có thể xem được kết quả của từng bước thực hiện của AI Agent để đưa ra câu trả lời. Image306 Trong giao diện của Audit sẽ có những thông tin sau:
  • Trạng thái: kết quả thực hiện là thành công hay thất bại.
  • Độ trễ: thời gian mà AI Agent xử lý để ra câu trả lời.
  • Tokens: tổng số tokens sử dụng để sinh ra câu trả lời.
  • ID tin nhắn: mã định danh của tin nhắn của AI Agent.
  • ID cuộc trò chuyện: mã định danh của cuộc trò chuyện.
  • Thời gian bắt đầu: thời gian mà hệ thống nhận được tin nhắn của khách hàng.
  • Thời gian kết thúc: thời gian mà hệ thống sinh xong câu trả lời của AI Agent.
  • Luồng: luồng các thành phần của Agent, các thành phần có thể khác nhau tuỳ vào mỗi lượt chat của khách hàng. Danh sách được sắp xếp theo thời gian thực hiện xong của thành phần đó.
Khi chọn vào từng thành phần của luồng, chúng ta có thể xem được các thông tin sau:
  • Thời gian bắt đầu: thời gian bắt đầu thực hiện thành phần.
  • Thời gian kết thúc: thời gian thực hiện xong.
  • Trạng thái: kết quả thực hiện thành phần là thành công hay thất bại.
  • Độ trễ: thời gian để thực hiện xong thành phần này.
  • Token: số lượng token sử dụng LLM để thực hiện.
  • Đầu vào: Thông tin đầu vào của thành phần.
  • Đầu ra: Thông tin đầu ra của thành phần đó.

Mô tả các thành phần của luồng

NodeChức năngMô tả chi tiết
Query ProcessorXử lý câu truy vấn đầu vàoNếu câu truy vấn đầu vào chứa từ đồng nghĩa đã được cấu hình trong mục Danh mục thuật ngữ, hệ thống sẽ tự động ánh xạ từ đó sang thuật ngữ tương ứng để thực hiện xử lý và truy vấn.
Emotion DetectionPhân tích cảm xúcNhận diện cảm xúc hoặc sắc thái trong câu hỏi (tích cực, tiêu cực, trung tính) và cảm xúc lịch sử để hỗ trợ việc tạo phản hồi phù hợp.
Check Follow PlanKiểm tra kế hoạch đang thực hiệnXác định xem người dùng đang tiếp tục một quy trình nhiều bước (Plan) hay đang bắt đầu một yêu cầu mới.
Rewrite messageViết lại câu hỏiViết lại câu hỏi dựa trên lịch sử cuộc hội thoại.
Input RailsKiểm soát đầu vàoThực hiện các kiểm tra đầu vào có thuộc các chủ đề trong Guardrails không.
Prompt Injection DetectionPhát hiện Prompt InjectionPhát hiện các nội dung có dấu hiệu thao túng Agent, bỏ qua chỉ dẫn hệ thống hoặc truy cập trái phép vào dữ liệu và công cụ.
PersonalizeCá nhân hóa ngữ cảnhBổ sung thông tin liên quan đến Persona của AI Agent, hồ sơ người dùng (user_profile), xưng hô (personal_address).
Generate GoalsXác định mục tiêuPhân tích yêu cầu của người dùng để xác định mục tiêu cần thực hiện và nhận diện quy trình nghiệp vụ (Business Process) phù hợp để xử lý.
KnowledgeTruy xuất tri thứcTìm kiếm và trích xuất các chunk từ Knowledge, Personal Storage.
DecomposePhân rã nhiệm vụChia yêu cầu phức tạp thành nhiều tác vụ hoặc bước xử lý nhỏ hơn nhằm tăng khả năng hoàn thành nhiệm vụ.
Reasoning PlannerLập kế hoạchXây dựng kế hoạch thực hiện, xác định các bước xử lý, công cụ cần gọi và thứ tự thực hiện.
ReasoningSuy luậnPhân tích yêu cầu của người dùng.
Use ToolThực thi công cụGọi các Tool và Task được cấu hình trong Business Process để thực hiện các tác vụ như truy vấn dữ liệu, gọi API, tìm kiếm, tính toán hoặc xử lý nghiệp vụ. Một phiên xử lý có thể xuất hiện nhiều node Use Tool.
ObserverQuan sát trạng thái xử lýTheo dõi kết quả từ các bước trước, đánh giá tiến độ thực hiện kế hoạch và ghi nhận dữ liệu phục vụ điều phối luồng. Có thể xuất hiện nhiều lần trong một phiên xử lý.
Jump Plan StepĐiều hướng kế hoạchChuyển sang một bước khác trong kế hoạch khi thỏa mãn điều kiện nhất định hoặc khi kết quả xử lý yêu cầu thay đổi luồng thực hiện.
Update Task StateCập nhật trạng thái thực thiCập nhật trạng thái hiện tại của nhiệm vụ (Task) hoặc kế hoạch (Plan) sau khi Agent hoàn thành một bước xử lý.
Summary Current GoalTổng hợp mục tiêu hiện tạiTổng hợp và chuẩn hóa mục tiêu đang được Agent xử lý tại thời điểm hiện tại.
Generate ResponseSinh phản hồiTổng hợp thông tin từ các bước xử lý trước đó và tạo nội dung phản hồi cho người dùng.
Output RailsKiểm soát đầu raKiểm tra phản hồi trước khi trả về người dùng nhằm đảm bảo tuân thủ chính sách, bảo mật dữ liệu và yêu cầu an toàn nội dung.
ControlĐiều phối luồngThực hiện các kiểm tra cuối cùng và điều khiển việc kết thúc hoặc tiếp tục quy trình xử lý.
Follow Up ActionsĐề xuất hành động tiếp theoXác định các hành động tiếp theo sau khi trả lời, ví dụ: tạo câu hỏi gợi ý, đề xuất bước tiếp theo hoặc cập nhật trạng thái của phiên làm việc.
  • Các node trong Agent Audit phản ánh quá trình xử lý thực tế của Agent đối với một yêu cầu cụ thể. Thứ tự thực hiện có thể thay đổi dựa trên cấu hình Agent, loại yêu cầu và kết quả của các bước trung gian.
  • Không phải mọi node đều xuất hiện trong tất cả các phiên xử lý.
  • Một số node có thể xuất hiện nhiều lần tùy thuộc vào kế hoạch thực thi của Agent.