Hướng Dẫn Cài Đặt Ollama: Tải Mô Hình và Chạy LLM Địa Phương

Giới thiệu

Trong thời đại công nghệ hiện nay, mô hình AI không chỉ tồn tại trên đám mây mà còn có thể được cài đặt và chạy trực tiếp trên máy tính cá nhân. Ollama là một công cụ mạnh mẽ cho phép bạn tải và chạy các mô hình ngôn ngữ lớn (LLM) ngay trên máy tính của mình. Điều này không chỉ giúp tiết kiệm chi phí mà còn mang lại sự linh hoạt trong việc sử dụng mô hình mà không cần phụ thuộc vào kết nối internet.

Trong bài viết này, chúng ta sẽ cùng nhau tìm hiểu cách cài đặt Ollama, tải mô hình và xây dựng một dự án Python đơn giản với mô hình này.

Mục tiêu

• Cài đặt Ollama trên máy tính cá nhân.
• Tải mô hình LLM và chạy mô hình đó.
• Tạo một chatbot đơn giản sử dụng mô hình đã tải.

Các yêu cầu cần thiết

Để thực hiện theo hướng dẫn này, bạn cần:

• Máy tính xách tay hoặc PC có tối thiểu 16GB RAM.
• Hệ điều hành Windows 10+ hoặc MacOS 12+.

Cài đặt Ollama

Bước 1: Tải phần mềm

Trước khi cài đặt Ollama, hãy đảm bảo rằng bạn đã đáp ứng các yêu cầu trên. Truy cập trang web chính thức của Ollama, tải phần mềm và làm theo hướng dẫn trên màn hình để cài đặt.

Bước 2: Kiểm tra cài đặt

Sau khi cài đặt xong, bạn có thể kiểm tra phiên bản Ollama đã cài đặt bằng lệnh sau:

ollama --version

Bạn sẽ thấy phiên bản Ollama mà bạn đã cài đặt.

Tải Mô Hình

Bước 1: Chọn mô hình

Khi đã cài đặt Ollama, bạn cần tải một mô hình. Ollama cung cấp danh sách các mô hình mã nguồn mở phong phú, bao gồm cả các mô hình nhúng. Trong hướng dẫn này, chúng ta sẽ tải mô hình deepseek-r1.

Bước 2: Lựa chọn kích thước mô hình

Khi tải mô hình, hãy lưu ý rằng mỗi mô hình có nhiều phiên bản với kích thước tham số khác nhau. Kích thước tham số lớn hơn thường mang lại kết quả tốt hơn, đặc biệt cho những tác vụ phức tạp. Chúng ta sẽ tải phiên bản có kích thước tham số nhỏ nhất để bắt đầu:

ollama run deepseek-r1:1.5b

Sau khi tải xong, bạn có thể xác nhận việc tải thành công bằng cách chạy lại lệnh trên và gửi một tin nhắn đến mô hình.

Truy Cập Endpoint của Ollama

Ollama cung cấp một endpoint cho phép bạn gọi mô hình đã tải và tương tác với nó. Trong phần này, chúng ta sẽ xây dựng một dự án đơn giản bằng Python.

Bước 1: Cài đặt thư viện requests

Bạn cần cài đặt thư viện requests để thực hiện các yêu cầu HTTP. Thực hiện lệnh sau trong môi trường ảo của bạn:

pip install requests

Bước 2: Nhập các thư viện cần thiết

import requests
import json

Bước 3: Định nghĩa Endpoint và mô hình

Bạn cần gọi endpoint localhost của Ollama và xác định tên mô hình:

OLLAMA_URL = "http://localhost:11434/api/generate"
MODEL = "deepseek-r1:1.5b"

Bước 4: Định nghĩa hàm tương tác với mô hình

Định nghĩa hàm ask_ollama để gửi yêu cầu đến mô hình:

def ask_ollama(prompt):
    payload = {
        "model": MODEL,
        "prompt": prompt,
        "stream": False
    }
    try:
        response = requests.post(OLLAMA_URL, json=payload)
        response.raise_for_status()
        result = response.json()
        if "response" in result:
            return result["response"]
        else:
            return "Không nhận được phản hồi từ mô hình"

    except requests.exceptions.ConnectionError:
        return "Lỗi: Không thể kết nối đến Ollama. Đảm bảo rằng nó đang chạy (ollama serve)"
    except requests.exceptions.HTTPError as he:
        if "404" in str(he):
            return f"Lỗi: Mô hình '{MODEL}' không tìm thấy. Thử chạy: ollama pull {MODEL}"
        return f"Lỗi HTTP: {he}"
    except json.JSONDecodeError:
        return "Lỗi: Phản hồi không hợp lệ từ Ollama"
    except Exception as e:
        return f"Lỗi: {e}"

Bước 5: Hàm chính của dự án

Định nghĩa hàm main để tương tác với người dùng:

def main():
    print(f"Chatbot sử dụng {MODEL} qua Ollama. Nhập 'exit' để thoát.")
    while True:
        user_input = input("Bạn: ")
        if user_input.lower() == "exit":
            break
        print("Bot:", ask_ollama(user_input).strip())

if __name__ == "__main__":
    main()

Khi chạy, chương trình sẽ cho phép bạn tương tác với mô hình và nhận phản hồi.

Những điều cần lưu ý

• Thực hành tốt: Kiểm tra và xử lý các lỗi kết nối để đảm bảo ứng dụng của bạn hoạt động mượt mà.
• Cạm bẫy thường gặp: Đảm bảo rằng mô hình đã được tải và Ollama đang chạy trên máy tính của bạn.
• Mẹo hiệu suất: Đảm bảo rằng bạn có đủ RAM và tài nguyên hệ thống để chạy mô hình một cách hiệu quả.

Kết luận

Với Ollama, bạn có thể dễ dàng truy cập và tương tác với các mô hình AI mạnh mẽ ngay trên máy tính cá nhân của mình. Việc sử dụng mô hình địa phương thay vì trên đám mây có thể giúp tiết kiệm chi phí và cho phép bạn thử nghiệm với các giải pháp AI mà không bị giới hạn bởi kết nối internet. Nếu bạn muốn tìm hiểu thêm về cách sử dụng Ollama, hãy tham khảo video hướng dẫn bên dưới.

Câu hỏi thường gặp (FAQ)

1. Ollama có miễn phí không?

Có, Ollama là phần mềm mã nguồn mở và miễn phí.

2. Tôi có thể sử dụng Ollama trên hệ điều hành nào?

Ollama hỗ trợ Windows 10+, MacOS 12+, và Linux.

3. Có cần kết nối internet để chạy mô hình không?

Không, bạn có thể chạy mô hình hoàn toàn offline sau khi đã tải về.

4. Làm thế nào để tôi biết mô hình có hoạt động không?

Bạn có thể gửi các yêu cầu thử nghiệm để kiểm tra phản hồi của mô hình.

Hy vọng rằng hướng dẫn này sẽ giúp bạn bắt đầu với Ollama và các mô hình LLM của nó. Hãy bắt tay vào thử nghiệm ngay hôm nay!