Hướng Dẫn Cài Đặt & Vận Hành Ollama Chạy Local LLM Trên VPS / Server Linux Chi Tiết Từ A-Z

Ollama là công cụ mã nguồn mở phổ biến nhất hiện nay giúp bạn tải về, cấu hình và chạy các mô hình ngôn ngữ lớn (LLMs) cục bộ với hiệu năng tối ưu nhất. Bài viết này hướng dẫn chi tiết cách cài đặt và cấu hình Ollama thành một API Server sản xuất (Production-ready) trên máy chủ Linux.

1. Cài Đặt Ollama Trên Ubuntu / Debian

Chạy lệnh cài đặt tự động chính thức từ trang dự án:

# 1. Tải và cài đặt Ollama
curl -fsSL https://ollama.com/install.sh | sh

# 2. Kiểm tra phiên bản và trạng thái dịch vụ
ollama --version
sudo systemctl status ollama

2. Tải Các Mô Hình Tối Ưu Nhất Năm 2026

Tùy theo cấu hình phần cứng máy chủ (RAM và VRAM GPU), bạn có thể lựa chọn tải các mô hình phù hợp:

# Mô hình suy luận DeepSeek R1 phiên bản nhẹ (8B parameters)
ollama pull deepseek-r1:8b

# Mô hình đa năng chất lượng cao Qwen 2.5
ollama pull qwen2.5:7b

# Mô hình chuyên về lập trình (Code Assistant)
ollama pull qwen2.5-coder:7b

3. Cấu Hình Cho Phép Truy Cập API Từ Xa (Remote API)

Mặc định Ollama chỉ lắng nghe kết nối tại 127.0.0.1:11434. Để mở cổng cho ứng dụng trong mạng nội bộ truy cập:

# Chỉnh sửa cấu hình dịch vụ Systemd
sudo systemctl edit ollama.service

# Thêm 2 dòng sau vào file cấu hình:
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=*"

# Khởi động lại dịch vụ
sudo systemctl daemon-reload
sudo systemctl restart ollama

4. Kiểm Thử API Bằng Curl Hoặc Python

curl http://localhost:11434/api/generate -d '{
  "model": "deepseek-r1:8b",
  "prompt": "Giải thích ngắn gọn nguyên lý hoạt động của Docker trong 3 câu.",
  "stream": false
}'