Mô hình & Suy luận
Một nhà cung cấp (provider) là ai chạy AI (OpenAI, Anthropic, máy tính của chính bạn, hoặc Rephlo). Một mô hình (model) là cỗ máy thực sự tạo ra văn bản. Một nhà cung cấp thường cung cấp nhiều mô hình, và bạn chọn mô hình nào sẽ chạy cho mỗi lệnh hoặc cuộc trò chuyện.
Nắm rõ sự khác biệt này chính là chìa khóa để kiểm soát tốc độ, chất lượng, quyền riêng tư và chi phí.
Ba cách Rephlo chạy AI
Rephlo có thể chạy một yêu cầu theo một trong ba cách khác nhau. Bạn chọn cách phù hợp với nhu cầu của mình.
| Cách chạy AI | Chạy ở đâu | Ai trả tiền | Gói yêu cầu | Phù hợp nhất cho |
|---|---|---|---|---|
| Cloud (khóa c ủa riêng bạn) | Máy chủ của nhà cung cấp (OpenAI, Anthropic, Google, v.v.) | Bạn — được nhà cung cấp tính phí trên khóa API của riêng bạn | Gói Pro hoặc giấy phép vĩnh viễn (perpetual license) | Mô hình hàng đầu, toàn quyền kiểm soát |
| On-device (trên thiết bị) | Máy tính của chính bạn, hoàn toàn ngoại tuyến | Không ai cả — không tốn credit, không có hóa đơn từ nhà cung cấp | Gói Pro hoặc giấy phép vĩnh viễn (perpetual license) | Riêng tư, không cần internet, không tốn chi phí sử dụng |
| Rephlo-hosted (do Rephlo lưu trữ) | Dịch vụ suy luận của Rephlo | credit Rephlo từ gói của bạn | Đã bao gồm trong các gói trả phí | Tiện lợi, không cần quản lý khóa |
Giới hạn theo gói (Plan gating): Các nhà cung cấp bring-your-own-key (cloud và Ollama) và các mô hình on-device đều là tính năng dành cho gói Pro — chúng yêu cầu một gói Pro đang hoạt động (hoặc cao hơn) hoặc một giấy phép vĩnh viễn để sử dụng. Với các mô hình on-device, giới hạn này áp dụng cho cả việc tải xuống lẫn chạy mô hình; một khi đã mở khóa, chúng chạy với không tốn chi phí sử dụng và hoàn toàn ngoại tuyến. Dedicated API do Rephlo lưu trữ được bao gồm trong các gói trả phí và tiêu tốn credit.
1. Nhà cung cấp Cloud (mang khóa của riêng bạn)
Bạn dán một khóa API từ nhà cung cấp mà bạn đã có tài khoản. Rephlo hỗ trợ tám loại nhà cung cấp BYOK — bảy nhà cung cấp cloud (OpenAI, Anthropic, Google, Groq, xAI (Grok), OpenRouter, và bất kỳ endpoint tương thích OpenAI nào — bao gồm cả Azure OpenAI) cộng với Ollama cục bộ, chạy trên máy của chính bạn tại localhost:11434. Mỗi nhà cung cấp hiển thị danh sách mô hình riêng — bạn chọn từ bất kỳ mô hình nào nhà cung cấp đó đang cung cấp hiện tại (các mô hình GPT, Claude, Gemini mới nhất, và các mô hình khác).
Mức sử dụng được nhà cung cấp tính phí, trên khóa của bạn — Rephlo không bao giờ tính credit cho các lệnh gọi này. Thiết lập chúng tại Nhà cung cấp (Providers).
2. Mô hình on-device (riêng tư, miễn phí, ngoại tuyến)
Rephlo có thể chạy các mô hình mở hoàn toàn trên máy tính của chính bạn bằng các tệp mô hình GGUF thông qua một công cụ tích hợp sẵn. Sau khi một mô hình được tải xuống:
- Nó chạy với không cần internet — không có gì được gửi tới bất kỳ máy chủ nào.
- Nó không tốn credit và hoàn toàn miễn phí khi chạy.
- Mọi thứ ở lại hoàn toàn riêng tư trên máy của bạn.
Việc dùng các mô hình on-device — cả tải xuống lẫn chạy — đòi hỏi một gói Pro đang hoạt động (hoặc cao hơn) hoặc một giấy phép vĩnh viễn, giống như với nhà cung cấp BYOK cloud và Ollama. Một khi đã mở khóa, chúng chạy miễn phí credit và hoàn toàn ngoại tuyến.
Mỗi mô hình on-device đi kèm siêu dữ liệu giúp bạn chọn đúng mô hình: dung lượng tải xuống, điểm tốc độ (speed rating) và điểm độ chính xác (accuracy rating) (1–10), cùng lượng RAM cần thiết (mức tối thiểu và mức khuyến nghị). Hãy chọn một mô hình nhỏ hơn, nhanh hơn nếu máy của bạn có bộ nhớ hạn chế, hoặc một mô hình lớn hơn, chính xác hơn nếu bạn có dư RAM.
Một số mô hình on-device hỗ trợ chế độ tư duy (thinking mode) (hiển thị quá trình suy luận trước khi đưa ra câu trả lời cuối cùng). Các mô hình có khả năng suy luận như Qwen và Gemma tạo ra các suy nghĩ của chúng trong các khối đặc biệt; Rephlo tự động phát hiện điều này để xử lý phần suy luận một cách chính xác.
Duyệt, tải xuống và quản lý các mô hình này tại Mô hình on-device (On-Device Models).
3. Suy luận do Rephlo lưu trữ (tốn credit)
Nếu bạn không muốn quản lý bất kỳ khóa nào, Rephlo có thể chạy suy luận thay bạn trên dịch vụ lưu trữ riêng của mình. Các yêu cầu này tiêu tốn credit từ gói Rephlo của bạn. Phản hồi được truyền phát về theo thời gian thực để bạn thấy đầu ra ngay khi nó được tạo ra.
Credit, số dư, và những gì mỗi gói bao gồm được quản lý trên web — xem Credit & Sử dụng (Credits & Usage) và Gói & Giá (Plans & Pricing).
Cách một mô hình được chọn
Rephlo quyết định mô hình nào sẽ được dùng dựa trên một thứ tự ưu tiên rõ ràng:
- Model ghi đè riêng của lệnh (model override), nếu lệnh đó có chỉ định.
- Mô hình được chọn cho cuộc trò chuyện hiện tại (trong chat), được ghi nhớ theo từng cuộc trò chuyện.
- Mô hình mặc định của nhà cung cấp đang hoạt động, dùng làm phương án dự phòng — ví dụ, các thao tác menu ngữ cảnh (overlay) nhanh chạy trên mô hình mặc định của nhà cung cấp đang hoạt động trừ khi lệnh ghi đè nó.
Bắt đầu mới: Một cu ộc chat hoàn toàn mới — hoặc mở Chat từ thanh bên trước khi một mô hình được đặt cho cuộc trò chuyện cụ thể đó — sẽ tiếp tục dùng mô hình bạn dùng gần nhất ở bất kỳ đâu trong Rephlo. Bộ nhớ mô hình-dùng-gần-nhất toàn cục này tách biệt với bộ nhớ theo từng cuộc trò chuyện: một khi bạn đổi mô hình bên trong một cuộc trò chuyện nhất định, cuộc trò chuyện đó sẽ ghi nhớ lựa chọn riêng của nó một cách độc lập.
Đổi mô hình ngay khi đang dùng
Trong chat, một bộ chọn mô hình (model selector) hợp nhất trên thanh công cụ cho phép bạn đổi mô hình cho cuộc trò chuyện hiện tại. Lựa chọn của bạn được ghi nhớ cho cuộc trò chuyện đó, vì vậy mở lại nó vẫn giữ nguyên mô hình. Xem Chat & Cuộc trò chuyện (Chat & Conversations) để biết chi tiết.
Bộ chọn này cũng hiển thị những mô hình nào gói của bạn bao gồm: các mô hình Dedicated API bị khóa hoặc không thể truy cập sẽ hiển thị một huy hiệu hạng (tier badge) (chẳng hạn PRO hoặc ENTERPRISE) và một biểu tượng ổ khóa, để bạn có thể thấy ngay những gì khả dụng trên gói của mình.
Rephlo không bao giờ để bạn âm thầm bị mắc kẹt trên một mô hình mà gói của bạn không còn bao gồm — nếu mô hình đang hoạt động của bạn trở nên không thể truy cập (ví dụ, sau khi hạ cấp gói), Rephlo sẽ tự động chuyển bạn sang một mô hình khả dụng khác.
Tham số mô hình
Ngoài việc chọn mô hình nào, bạn còn có thể tinh chỉnh cách nó hoạt động bằng các tham số như temperature (độ ngẫu nhiên), max tokens (độ dài của phản hồi), top-p, và top-k. Không phải mô hình nào cũng hỗ trợ mọi tham số, và một số áp đặt giới hạn — Rephlo kiểm tra và điều chỉnh các thiết lập của bạn để khớp với ràng buộc của từng mô hình, để bạn không phải ghi nhớ các quy tắc đó. Bạn sẽ tìm thấy các tham số này trong trình chỉnh tham số mô hình và trong Cấu hình nâng cao (Advanced Configuration).
Giảm chi phí bằng prompt caching
Khi bạn dùng Anthropic (Claude) với ngữ cảnh lặp lại — cùng những chỉ dẫn hoặc tài liệu dài xuất hiện qua nhiều yêu cầu — Rephlo có thể tái sử dụng một bản sao đã lưu cache của ngữ cảnh đó thay vì gửi lại từ đầu mỗi lần. Tính năng này bật mặc định và có thể giảm đáng kể chi phí cho các công việc lặp lại. Một số nhà cung cấp cloud khác t ự động cache ngữ cảnh lặp lại ở phía họ, còn các mô hình on-device thì hoàn toàn không cache. Tìm hiểu thêm tại Prompt Caching.
Chọn cách tiếp cận phù hợp
- Muốn chất lượng tốt nhất và đã có sẵn một khóa API? Dùng một nhà cung cấp cloud (BYOK — một tính năng dành cho gói Pro).
- Quan tâm nhất tới quyền riêng tư, hoặc muốn làm việc ngoại tuyến? Dùng một mô hình on-device — chạy miễn phí và cục bộ (quyền truy cập là một tính năng dành cho gói Pro).
- Không muốn quản lý khóa chút nào? Dùng suy luận do Rephlo lưu trữ (đã bao gồm trong các gói trả phí; tốn credit).