Khái niệm cốt lõi: Nhà cung cấp (Providers)

Nhà cung cấp (Providers) là các cỗ máy AI nền tảng (Mô hình ngôn ngữ lớn) xử lý văn bản của bạn và tạo ra phản hồi. Rephlo là một giao diện phổ quát — bạn có thể hoán đổi những "bộ não" này qua lại tùy theo tác vụ, và một nhà cung cấp duy nhất có thể cung cấp nhiều mô hình (xem Mô hình & Suy luận (Models & Inference)).

Các loại nhà cung cấp

Rephlo hỗ trợ 8 loại nhà cung cấp Bring-Your-Own-Key (BYOK) cùng với Dedicated API do Rephlo quản lý:

Nhà cung cấp đám mây (Cần Internet)

1. OpenAI — Các mô hình dòng GPT. Chuẩn mực ngành cho suy luận, lập trình và sáng tạo.
2. Anthropic — Các mô hình Claude; nổi tiếng với khả năng viết chất lượng cao, cửa sổ ngữ cảnh lớn, và prompt caching (bật mặc định).
3. Groq — Suy luận cực nhanh trên chip LPU tùy chỉnh — phản hồi gần như tức thì.
4. Google — Các mô hình Gemini với khả năng đa phương thức mạnh mẽ.
5. xAI (Grok) — Các mô hình Grok với Live Search thời gian thực tùy chọn.
6. OpenRouter — Một cổng thống nhất tới hơn 100 mô hình từ nhiều nhà cung cấp, với khả năng theo dõi qua Site URL / Site Name.
7. OpenAI-Compatible — Kết nối tới bất kỳ dịch vụ nào triển khai đặc tả API của OpenAI (Azure OpenAI, vLLM, LocalAI, LiteLLM, LM Studio, proxy tùy chỉnh). Yêu cầu API Key, Base URL và Model Name.

Nhà cung cấp cục bộ (Riêng tư hoàn toàn)

8. Ollama — Chạy các mô hình mã nguồn mở (Llama, Mistral, Gemma, DeepSeek, Qwen) trực tiếp trên máy tính của bạn. Dữ liệu của bạn không bao giờ rời khỏi máy. Base URL có thể cấu hình (mặc định http://localhost:11434); một khóa API Ollama tùy chọn sẽ bật tính năng tìm kiếm web.

Azure OpenAI được kết nối thông qua loại OpenAI-Compatible — chọn OpenAI-Compatible và nhập endpoint triển khai Azure của bạn làm Base URL (và tên triển khai của bạn làm Model Name). Đây không phải là một mục riêng trong danh sách thêm nhà cung cấp.

Mô hình trên thiết bị (On-device): Rephlo cũng chạy các mô hình GGUF hoàn toàn trên thiết bị (không cần internet, không cần Ollama) thông qua một engine tích hợp sẵn. Đây là một luồng suy luận liên quan nhưng tách biệt — xem Mô hình trên thiết bị (On-Device Models) và Mô hình & Suy luận (Models & Inference).

Nhà cung cấp được quản lý

• Dedicated API — Tùy chọn đám mây được Rephlo quản lý, sử dụng OAuth 2.0. Cách thiết lập đơn giản nhất cho người dùng không muốn tự quản lý khóa API; mức sử dụng được theo dõi bằng credit. Cấu hình của nó được tự động tạo và ẩn khỏi danh sách nhà cung cấp thông thường.

Muốn một bộ chọn chỉ gồm BYOK/on-device? Bật Hide online models from Rephlo Gateway trong Nhà cung cấp (Providers) để ẩn các mô hình Dedicated (Gateway) khỏi mọi bộ chọn mô hình.

Trên thiết bị (On-Device) so với BYOK

Hai hướng tiếp cận "tự mang mô hình của bạn" này rất dễ gây nhầm lẫn:

• Trên thiết bị (On-Device) — các mô hình mã nguồn mở (GGUF) chạy cục bộ trên máy của bạn thông qua engine tích hợp sẵn. Không cần khóa API, không cần internet, hoàn toàn riêng tư; không có gì rời khỏi máy tính của bạn.
• BYOK (Bring Your Own Key) — bạn cung cấp khóa API của riêng mình cho một nhà cung cấp bên ngoài (một nhà cung cấp đám mây, hoặc Ollama cục bộ). Các yêu cầu được gửi tới nhà cung cấp đó bằng khóa của bạn, và nhà cung cấp sẽ tính phí bạn trực tiếp.

Cả On-Device và BYOK đều là tính năng của gói Pro — để sử dụng, bạn cần một gói Pro (hoặc cao hơn) đang hoạt động, hoặc một giấy phép vĩnh viễn (perpetual license). Với mô hình trên thiết bị, giới hạn này áp dụng cho cả việc tải xuống lẫn chạy chúng; sau khi mở khóa, chúng chạy không tốn credit và hoàn toàn ngoại tuyến. Thiết lập khóa trong Providers.

Dedicated API nền tảng so với Enterprise BYOK

• Dedicated API là dịch vụ suy luận được lưu trữ và quản lý bởi Rephlo: đăng nhập và sử dụng các mô hình tiên tiến nhất (frontier) của Rephlo, tính phí bằng credit, không cần quản lý khóa nào.
• Enterprise BYOK (trên nền tảng) dành cho các tổ chức cấu hình tập trung khóa nhà cung cấp riêng của họ và các mô hình được phép ở cấp tổ chức, để mọi thành viên đều dùng chung mô hình và khóa của tổ chức — nhằm tuân thủ và kiểm soát chi phí.

Tóm lại: Dedicated API đánh đổi khóa API lấy credit và việc không cần thiết lập, trong khi Enterprise BYOK giữ việc quản lý khóa tập trung tại tổ chức. Khóa BYOK cá nhân được cấu hình trong Providers.

Chế độ nhà cung cấp

Mỗi nhà cung cấp hoạt động ở một trong hai chế độ: BYOK (bạn tự cung cấp khóa của nhà cung cấp) hoặc Dedicated (do Rephlo quản lý, có theo dõi credit).

Các chế độ kết nối

Chế độ Dedicated (Được quản lý)

• Mô tả: Rephlo quản lý kết nối và tính phí qua OAuth 2.0; mức sử dụng được trừ từ credit của bạn.
• Ưu điểm: Không cần thiết lập, tính phí được quản lý sẵn.
• Nhược điểm: Ít quyền kiểm soát chi tiết hơn đối với các tham số mô hình.

Chế độ BYOK (Bring Your Own Key)

• Mô tả: Bạn dùng trực tiếp khóa API của riêng mình từ nhà cung cấp.
• Ưu điểm: Quyền riêng tư tối đa (dữ liệu đi thẳng từ máy của bạn tới nhà cung cấp, không qua máy chủ Rephlo), giá trực tiếp từ nhà cung cấp, và truy cập ngay các mô hình mới.
• Nhược điểm: Yêu cầu có tài khoản với nhà cung cấp.

Cấu hình nhà cung cấp lưu trữ những gì

Mỗi cấu hình nhà cung cấp bao gồm:

• Một Display Name tùy chỉnh (không bắt buộc).
• Một Mode (chế độ: BYOK / Dedicated) và loại nhà cung cấp.
• Models — một hoặc nhiều mô hình, trong đó có một mô hình được đánh dấu mặc định.
• Configuration — các trường riêng theo từng nhà cung cấp. Khóa API và token được lưu trữ mã hóa:
  • OpenAI / OpenAI-Compatible: API Key, Base URL tùy chọn (và với OpenAI-Compatible, thêm Model Name). Azure OpenAI dùng loại này — trỏ Base URL tới endpoint triển khai Azure của bạn.
  • Anthropic: API Key, Base URL tùy chọn, prompt caching bật mặc định.
  • Google: API Key, Base URL tùy chọn.
  • Groq: API Key.
  • Ollama: Base URL, API key tùy chọn (dùng cho tìm kiếm web).
  • xAI (Grok): API Key, công tắc Live Search tùy chọn.
  • OpenRouter: API Key, Site URL / Site Name tùy chọn.
• Capabilities — các công tắc bật/tắt cho Vision, Function Calling (tools), Long Context, Web Search, Thinking, và nhiều hơn nữa; được xác thực theo đúng năng lực thực tế của mô hình khi chạy.
• Model Parameters — các thiết lập yêu cầu riêng theo từng nhà cung cấp/mô hình (temperature, max tokens, top-p, v.v.).

Chỉ có một nhà cung cấp hoạt động tại một thời điểm. Bạn cũng có thể ghi đè nhà cung cấp theo từng lệnh để kiểm soát chi tiết hơn.

Lấy khóa API (BYOK)

Khi dùng BYOK, bạn thanh toán trực tiếp cho nhà cung cấp theo mức sử dụng API.

Nhà cung cấp	Nơi lấy khóa	Ghi chú
Azure OpenAI	portal.azure.com	Yêu cầu có gói đăng ký Azure + một tài nguyên OpenAI đã triển khai
OpenAI	platform.openai.com	Các mô hình dòng GPT
Anthropic	console.anthropic.com	Các mô hình Claude; hỗ trợ prompt caching
Groq	console.groq.com	Có gói Free
Google	aistudio.google.com	Gemini Pro / Flash
xAI	console.x.ai	Các mô hình Grok; Live Search tùy chọn
OpenRouter	openrouter.ai	Một khóa, hơn 100 mô hình
OpenAI-Compatible	Tùy theo dịch vụ	vLLM, LocalAI, LiteLLM, LM Studio
Ollama	cài đặt cục bộ + ollama.com/settings/keys	Mô hình cục bộ; chỉ cần API key khi dùng tìm kiếm web

Chuyển đổi nhà cung cấp

Bạn có thể chuyển đổi nhà cung cấp trên toàn cục (mặc định cho mọi lệnh) hoặc theo từng lệnh. Ví dụ, dùng Groq cho các tác vụ kiểm tra chính tả nhanh (nhanh và rẻ), rồi chuyển sang Claude cho phân tích phức tạp (thông minh và tinh tế).

Hướng dẫn so sánh nhà cung cấp

Nhà cung cấp	Phù hợp nhất cho	Tốc độ	Quyền riêng tư
Azure OpenAI	Doanh nghiệp, tuân thủ	Nhanh	Đám mây
OpenAI	Đa dụng, lập trình, phân tích	Nhanh	Đám mây
Anthropic (Claude)	Viết lách, tài liệu dài, caching	Nhanh	Đám mây
Groq	Tác vụ nhanh	Cực nhanh	Đám mây
Google (Gemini)	Đa phương thức, nghiên cứu	Nhanh	Đám mây
xAI (Grok)	Kiến thức thời gian thực	Nhanh	Đám mây
OpenRouter	Truy cập đa mô hình	Tùy trường hợp	Đám mây
OpenAI-Compatible	Tự lưu trữ, tùy chỉnh	Tùy trường hợp	Tự lưu trữ / đám mây
Ollama	Riêng tư, ngoại tuyến	Tùy phần cứng	Trên máy của bạn

Tên mô hình cụ thể và kích thước cửa sổ ngữ cảnh thay đổi thường xuyên. Để xem chính xác từng nhà cung cấp cung cấp những mô hình nào — và cách ghi đè mô hình theo từng lệnh hoặc từng cuộc trò chuyện — hãy đọc Mô hình & Suy luận (Models & Inference).

---

Khái niệm tiếp theo: Khám phá Dashboard & Điều hướng.