Chuyển đến nội dung

Cấu hình Ollama local hoặc máy chủ LAN

Bộ cài mặc định dùng Ollama riêng ở http://127.0.0.1:11435, model qwen3-hauhau-aggressive:4b-q4_k_m. App tự mở runtime và không tự chuyển sang cloud. Đóng cửa sổ app cuối cùng sẽ dừng runtime/model runners và giải phóng tài nguyên. Mở lại phải tải model lại. Một cửa sổ khác từ cùng bản cài còn mở sẽ giữ service hoạt động. Runtime không thuộc quyền quản lý của app được giữ nguyên.

Để dùng server riêng, trong Engines chọn:

Backend Ví dụ URL Model
Ollama local bên ngoài app http://127.0.0.1:11434 Tên model trên server
Ollama LAN http://192.168.1.10:11434 Tên model trên server
OpenAI-compatible LAN http://192.168.1.10:8000/v1 Model ID trên server

Chạy server đó trước, cấu hình để máy này truy cập được qua mạng riêng, rồi Test và Apply. App không tự tắt server LAN hoặc server local dùng chung. Prompt và số dòng context có thể chỉnh/cấu hình theo engine hiện có. Prompt mặc định giữ sát ý nghĩa, cảm xúc, cách xưng hô và mức độ thô tục của nguyên bản; không tự làm nhẹ, tăng nặng hay thêm chi tiết. Prompt tự nhập vẫn được ưu tiên nếu bạn đã cấu hình riêng.