Skip to main content
Chỉ Quản trị viên không gian làm việc (Tenant Admin) mới có quyền tạo và quản lý mô hình LLM mới.
Bước 1. Vào mục “Quản lý mô hình” tại cấp Workspace. Tại trang này, hệ thống hiển thị 2 thẻ:
  • Mô hình tùy chỉnh: Cho phép cấu hình và quản lý mô hình do Tenant Admin tự tạo.
  • Mô hình tích hợp sẵn: Danh sách các mô hình mặc định có sẵn được FPT AI cung cấp.
Bước 2. Chọn thẻ Mô hình tùy chỉnh, sau đó nhấn nút “Thêm mô hình”. Hệ thống sẽ hiển thị hộp thoại yêu cầu chọn nhà cung cấp. FPT AI Agents hiện hỗ trợ 2 nhà cung cấp mô hình:
  • FPT AI Marketplace: Các mô hình đang được lưu trữ trên FPT AI Marketplace (https://marketplace.fptcloud.com/vi).
  • OpenAI-API-Compatible: Các mô hình có tương thích với chuẩn API của OpenAI như LM Studio hoặc vLLM.
Image545 Bước 3. Nhập các thông tin cần thiết, sau đó nhấn “Tạo” để lưu. Với mô hình do FPT AI Marketplace cung cấp:
  • Chọn mô hình trong danh sách. Sau khi chọn, trường thông tin API Key sẽ được hiển thị để nhập.
  • API Key: Nhập API Key do nhà cung cấp mô hình cấp. Thông tin này sẽ được hệ thống tự động mã hóa sau khi nhập. Truy cập https://marketplace.fptcloud.com/en để lấy API Key.
Image546 Với mô hình OpenAI-API-Compatible: Image547 Sau khi tạo mới, mô hình sẽ xuất hiện trong Danh sách mô hình tùy chỉnh đã cấu hình.
  • Tenant Admin có thể bật/tắt mô hình để lựa chọn sử dụng trong các chức năng Nhiệm vụ hoặc Kiểm soát chất lượng. Nếu mô hình bị tắt, mô hình sẽ không hiển thị trong danh sách mô hình được phép lựa chọn tại hai tính năng này.
  • Có thể tìm kiếm theo tên mô hình hoặc lọc theo trạng thái Đang hoạt động (Bật) hoặc Dừng hoạt động (Tắt) để dễ dàng quản lý.