> ## Documentation Index
> Fetch the complete documentation index at: https://docs-agents.fpt.ai/llms.txt
> Use this file to discover all available pages before exploring further.

# Tạo mới cấu hình mô hình LLM

<Note>
  Chỉ **Quản trị viên không gian làm việc (Tenant Admin)** mới có quyền tạo và quản lý mô hình LLM mới.
</Note>

**Bước 1.** Vào mục **"Quản lý mô hình"** tại cấp Workspace.

Tại trang này, hệ thống hiển thị 2 thẻ:

* **Mô hình tùy chỉnh**: Cho phép cấu hình và quản lý mô hình do Tenant Admin tự tạo.
* **Mô hình tích hợp sẵn**: Danh sách các mô hình mặc định có sẵn được FPT AI cung cấp.

**Bước 2.** Chọn thẻ **Mô hình tùy chỉnh**, sau đó nhấn nút **"Thêm mô hình"**.

Hệ thống sẽ hiển thị hộp thoại yêu cầu chọn nhà cung cấp. FPT AI Agents hiện hỗ trợ 2 nhà cung cấp mô hình:

* **FPT AI Marketplace**: Các mô hình đang được lưu trữ trên FPT AI Marketplace (`https://marketplace.fptcloud.com/vi`).
* **OpenAI-API-Compatible**: Các mô hình có tương thích với chuẩn API của OpenAI như LM Studio hoặc vLLM.

<img src="https://mintcdn.com/fpt-62e894b4/Ab1RQGUWSDW_8Zm1/images/image545.png?fit=max&auto=format&n=Ab1RQGUWSDW_8Zm1&q=85&s=b6baf58d6f1fb44a6712a1f002536fc9" alt="Image545" width="936" height="525" data-path="images/image545.png" />

**Bước 3.** Nhập các thông tin cần thiết, sau đó nhấn **"Tạo"** để lưu.

**Với mô hình do FPT AI Marketplace cung cấp:**

* Chọn mô hình trong danh sách. Sau khi chọn, trường thông tin **API Key** sẽ được hiển thị để nhập.
* **API Key**: Nhập API Key do nhà cung cấp mô hình cấp. Thông tin này sẽ được hệ thống tự động mã hóa sau khi nhập. Truy cập `https://marketplace.fptcloud.com/en` để lấy API Key.

<img src="https://mintcdn.com/fpt-62e894b4/Ab1RQGUWSDW_8Zm1/images/image546.png?fit=max&auto=format&n=Ab1RQGUWSDW_8Zm1&q=85&s=3daf7b49ffe0eb4590b46a66c5ad8718" alt="Image546" width="735" height="948" data-path="images/image546.png" />

**Với mô hình OpenAI-API-Compatible:**

| Trường thông tin                          | Mô tả                                                                      | Mặc định      |
| ----------------------------------------- | -------------------------------------------------------------------------- | ------------- |
| Tên mô hình                               | Tên chuẩn của mô hình, khuyến nghị dùng đúng tên do nhà cung cấp đưa ra    |               |
| API Key                                   | API Key do nhà cung cấp cấp, tự động mã hóa sau khi nhập                   |               |
| API Endpoint                              | Địa chỉ kết nối (url endpoint) do nhà cung cấp đưa ra                      |               |
| Chế độ Completion                         | Chế độ hoạt động của mô hình: Chat hoặc Completion                         |               |
| Độ dài ngữ cảnh (Context length)          | Tổng số token tối đa mô hình có thể xử lý trong 1 request (input + output) | 8192          |
| Số token đầu ra tối đa (Max output token) | Số token tối đa mà mô hình được phép sinh ra                               | 8192          |
| Gọi hàm (Function Calling)                | Loại gọi hàm: Function call, Tool call, Not supported                      | Not supported |
| Hỗ trợ streaming                          | Có cho phép trả về dữ liệu dạng streaming hay không                        | Use           |
| Hỗ trợ thị giác (Vision support)          | Có hỗ trợ xử lý hình ảnh không                                             | Not supported |
| Hỗ trợ tư duy (Thinking Support)          | Mô hình có hỗ trợ chế độ reasoning mở rộng hay không                       | Not supported |
| Đầu ra có cấu trúc (Structured Output)    | Mô hình có hỗ trợ structured output (schema JSON) hay không                | Not supported |

<img src="https://mintcdn.com/fpt-62e894b4/Ab1RQGUWSDW_8Zm1/images/image547.png?fit=max&auto=format&n=Ab1RQGUWSDW_8Zm1&q=85&s=924f76e9b1004aea2967d36afc33ee88" alt="Image547" width="729" height="948" data-path="images/image547.png" />

Sau khi tạo mới, mô hình sẽ xuất hiện trong **Danh sách mô hình tùy chỉnh** đã cấu hình.

<Note>
  * Tenant Admin có thể **bật/tắt** mô hình để lựa chọn sử dụng trong các chức năng [Nhiệm vụ](/tao-nhiem-vu-moi) hoặc [Kiểm soát chất lượng](/huong-dan-su-dung). Nếu mô hình bị tắt, mô hình sẽ không hiển thị trong danh sách mô hình được phép lựa chọn tại hai tính năng này.
  * Có thể tìm kiếm theo tên mô hình hoặc lọc theo trạng thái **Đang hoạt động (Bật)** hoặc **Dừng hoạt động (Tắt)** để dễ dàng quản lý.
</Note>