Chạy SDK Ollama và LM Studio mà không vỡ môi trường Python hệ thống

Khi tích hợp thư viện Python (ollama, lmstudio) hoặc SDK Node.js để tương tác với máy chủ LLM cục bộ qua cổng 11434 hay 1234, việc cài đặt trực tiếp gói phụ thuộc vào môi trường hệ thống dễ gây ra hiện tượng xung đột tiến trình và sai lệch đường dẫn biến môi trường (PATH conflict). Lỗi phổ biến nhất là lệnh pip và pip3 trỏ nhầm về các phiên bản Python khác nhau giữa hệ điều hành gốc và môi trường ảo.

Để giữ hệ thống sạch sẽ khi phân tích nguồn tham khảo về cơ chế vận hành mô hình, giải pháp kỹ thuật chuẩn xác là quản lý phiên bản độc lập bằng pyenv và nvm thay vì dùng trình cài đặt hệ thống.

Tách biệt môi trường với pyenv và nvm trên WSL

Trên Windows, việc thực thi lệnh trong WSL2 (Ubuntu) giúp tránh lỗi biên dịch các gói C++ khi làm việc với trình suy luận. Tiến trình cài đặt bộ quản lý phiên bản thực hiện theo các bước:

# Cài đặt pyenv trên WSL Ubuntu
curl https://pyenv.run | bash

# Thêm cấu hình PATH vào ~/.bashrc
echo 'export PYENV_ROOT="$HOME/.pyenv"' >> ~/.bashrc
echo '[[ -d $PYENV_ROOT/bin ]] && export PATH="$PYENV_ROOT/bin:$PATH"' >> ~/.bashrc
echo 'eval "$(pyenv init -)"' >> ~/.bashrc
source ~/.bashrc

# Cài đặt phiên bản Python cố định
pyenv install 3.11.9
pyenv local 3.11.9

# Cài đặt nvm quản lý Node.js
curl -o- https://raw.githubusercontent.com/nvm-sh/nvm/v0.39.7/install.sh | bash
source ~/.bashrc
nvm install 20

Nếu làm việc trực tiếp trên Windows PowerShell, sử dụng pyenv-win qua lệnh:

Invoke-WebRequest -UseBasicParsing -Uri "https://raw.githubusercontent.com/pyenv-win/pyenv-win/master/pyenv-win/install-pyenv-win.ps1" -OutFile "./install-pyenv-win.ps1"; & "./install-pyenv-win.ps1"

Tối ưu bộ nhớ 16GB RAM: Chọn virtualenv hay Conda?

Trên các dòng laptop trang bị 16GB RAM, việc cấp phát tài nguyên cho mô hình như Gemma 4 chiếm phần lớn dung lượng khả dụng.

Anaconda hoặc Conda mặc định đóng gói hàng loạt thư viện C/Fortran cồng kềnh, làm môi trường gốc phình to vài gigabyte đĩa cứng và ngốn bộ nhớ RAM nền khi khởi chạy tiến trình. Ngược lại, virtualenv (hoặc module venv có sẵn) tạo liên kết động (symlink) tới nhị phân Python từ pyenv. Mỗi môi trường ảo chỉ chiếm khoảng 20-30MB dung lượng và tiêu tốn tối thiểu bộ nhớ RAM.

# Khởi tạo môi trường ảo nhẹ cho dự án LLM
python -m venv .venv
source .venv/bin/activate

# Cài đặt SDK và Jupyter Lab
pip install --upgrade pip
pip install ollama lmstudio jupyterlab ipykernel

Cấu hình Jupyter Lab nhận đúng kernel của môi trường ảo cô lập:

python -m ipykernel install --user --name=llm-dev --display-name "Python (LLM Dev)"
jupyter lab

Khởi chạy Jupyter Lab từ môi trường ảo này đảm bảo mã nguồn gọi API Ollama hay LM Studio thực thi chính xác trên đúng phiên bản Python đã định nghĩa, loại bỏ hoàn toàn hiện tượng xung đột thư viện giữa các dự án.