Giới thiệu

Khi mô hình hóa các kết quả có giá trị thực, hồi quy tuyến tính thường là điểm khởi đầu. Tuy nhiên, dữ liệu thực thường rất phức tạp với các mối quan hệ phi tuyến, tiếng ồn, và các giá trị ngoại lệ. Hồi quy hỗ trợ vector (SVR) cung cấp một lựa chọn mạnh mẽ: nó xử lý tốt các mối quan hệ phi tuyến, kiểm soát lỗi một cách vững chắc và có thể vượt trội hơn các mô hình đơn giản khi được điều chỉnh đúng cách.

Mục tiêu của bài viết này là hướng dẫn bạn:

• Tại sao SVR lại hữu ích;
• Cách triển khai nó trong R với các công cụ hiện đại;
• Cách điều chỉnh và đánh giá;
• Những điều cần lưu ý về hiệu suất, khả năng giải thích và đạo đức.

Tại sao nên sử dụng Hồi Quy Hỗ Trợ Vector (SVR)

Dưới đây là một số lý do mà SVR đặc biệt hấp dẫn trong các nhiệm vụ hồi quy hiện đại:

• Tính linh hoạt với các mối quan hệ phi tuyến: Sử dụng các hàm hạt nhân, SVR ánh xạ dữ liệu vào không gian có chiều cao hơn, nơi tính khả thi tuyến tính (trong không gian đã biến đổi) có thể nắm bắt các mẫu phức tạp.
• Khả năng chống lại các giá trị ngoại lệ và tiếng ồn: SVR cho phép bạn thiết lập một độ dung sai (epsilon) để các lỗi nhỏ được bỏ qua, chỉ tập trung vào các sai lệch lớn hơn, giúp giảm hiện tượng quá khớp.
• Kiểm soát sự trao đổi giữa độ thiên lệch và phương sai: Với các tham số như chi phí (C), epsilon và lựa chọn hàm hạt nhân, bạn có thể quản lý độ phức tạp.
• Hoạt động ngay cả khi các giả định không đúng: Trong khi hồi quy tuyến tính giả định nhiều điều như tính đồng nhất, lỗi phân phối bình thường, v.v., SVR có ít yêu cầu phân phối hơn.

Điều gì mới trong năm 2025: SVR trong bối cảnh dữ liệu hiện đại

Những cải tiến và xu hướng gần đây làm cho SVR trở nên hấp dẫn và dễ sử dụng hơn:

1. Khung điều chỉnh hyperparameter tự động
   Thay vì tìm kiếm lưới brute-force, tối ưu hóa Bayesian, các gói tự động hóa điều chỉnh (các tham số chi phí, epsilon, hàm hạt nhân) giúp tìm ra các mô hình tốt một cách hiệu quả.

2. Mở rộng cho các tập dữ liệu lớn hơn
   SVR truyền thống gặp khó khăn với các tập dữ liệu rất lớn do độ phức tạp bình phương hoặc tệ hơn. Các tiến bộ bao gồm các bộ giải xấp xỉ, lấy mẫu, hoặc sử dụng các phương pháp gradient ngẫu nhiên hoặc các thực hiện có thể mở rộng.

3. Học hàm hạt nhân / nhiều hàm hạt nhân
   Thay vì chọn một hàm hạt nhân, một số quy trình thử kết hợp các hàm hạt nhân hoặc học trọng số hàm hạt nhân, điều này có thể thích ứng với các loại đặc trưng đa dạng hoặc hỗn hợp hành vi tuyến tính và phi tuyến tính.

4. Công cụ giải thích
   Các công cụ như biểu đồ phụ thuộc từng phần, SHAP hoặc LIME được sử dụng để giải thích các dự đoán, hiểu những yếu tố nào có ảnh hưởng lớn nhất, và phát hiện nơi mà mô hình có thể đang suy luận kém.

5. Tích hợp với quy trình và sản xuất hóa
   Mô hình SVR hiện thường là một phần của các quy trình ML lớn hơn: kỹ thuật đặc trưng, kiểm tra chéo, phiên bản mô hình, triển khai (ví dụ: API), theo dõi biến đổi trong phân phối dữ liệu hoặc hiệu suất.

6. Công bằng, thiên lệch và minh bạch
   Khi các mô hình được sử dụng rộng rãi (trong tài chính, chăm sóc sức khỏe, chính sách), điều cần thiết là kiểm tra xem SVR có vô tình mã hóa thiên lệch hay không, và các quyết định có thể được kiểm tra.

Triển khai SVR trong R: Quy trình từng bước

Dưới đây là một quy trình thực tiễn để xây dựng, điều chỉnh và đánh giá mô hình SVR trong R, sử dụng các gói và thực hành hiện đại.

Bước 1: Chuẩn bị Dữ liệu

• Làm sạch dữ liệu của bạn: xử lý các giá trị thiếu, loại bỏ hoặc ước lượng chúng một cách cẩn thận.
• Kỹ thuật đặc trưng: biến đổi các biến khi cần thiết (ví dụ: log, biến đổi lũy thừa), tạo ra các đặc trưng thu được hữu ích.
• Chuẩn hóa các đặc trưng: Vì các hàm hạt nhân của SVR (đặc biệt là RBF) rất nhạy cảm với quy mô, hãy chuẩn hóa hoặc chuẩn hóa các đặc trưng.

library(dplyr)  
library(caret)

df <- read.csv("your\_data.csv")

# ước lượng các giá trị thiếu

df <- df %>%  
mutate\_all(~ ifelse(is.na(.), median(., na.rm = TRUE), .))

# Chia

set.seed(123)  
train\_index <- createDataPartition(df$target, p = 0.7, list = FALSE)  
train <- df\[train\_index, \]  
test <- df\[-train\_index, \]

# Tiền xử lý: trung tâm & chuẩn hóa

pre\_proc <- preProcess(train %>% select(-target), method = c("center", "scale"))  
train\_scaled <- predict(pre\_proc, train %>% select(-target))  
test\_scaled <- predict(pre\_proc, test %>% select(-target))

train\_model <- cbind(train\_scaled, target = train$target)  
test\_model <- cbind(test\_scaled, target = test$target)

Bước 2: Mô Hình Hồi Quy Tuyến Tính Cơ Bản

Fit một hồi quy tuyến tính đơn giản để so sánh:

lm\_mod <- lm(target ~ ., data = train\_model)  
lm\_preds <- predict(lm\_mod, test\_model)  
lm\_rmse <- sqrt(mean((lm\_preds - test\_model$target)^2))

Điều này sẽ cho bạn một mức chuẩn để xem liệu SVR có mang lại giá trị hay không.

Bước 3: Fit Mô Hình SVR (Cơ Bản)

Sử dụng một triển khai SVR tiêu chuẩn.

library(e1071)

svr\_mod <- svm(target ~ ., data = train\_model, kernel = "radial", cost = 1, epsilon = 0.1)  
svr\_preds <- predict(svr\_mod, test\_model)  
svr\_rmse <- sqrt(mean((svr\_preds - test\_model$target)^2))

Hãy thử các hàm hạt nhân khác nhau ("linear", "radial", "polynomial") nếu cần.

Bước 4: Tuning Hyperparameter

Điều chỉnh hiệu quả là chìa khóa để đạt được hiệu suất tốt.

library(caret)

# Định nghĩa lưới tham số

svr\_grid <- expand.grid(  
cost = 2 ^ (-2:6),  
epsilon = seq(0.01, 0.5, length = 10),  
sigma = c(0.01, 0.1, 1) # cho hàm hạt nhân radial  
)

train\_control <- trainControl(method = "cv", number = 5)

svr\_tuned <- train(  
target ~ .,  
data = train\_model,  
method = "svmRadial",  
metric = "RMSE",  
tuneGrid = svr\_grid,  
trControl = train\_control  
)

best\_mod <- svr\_tuned$finalModel  
best\_preds <- predict(svr\_tuned, test\_model)  
best\_rmse <- sqrt(mean((best\_preds - test\_model$target)^2))

Kiểm tra chéo giúp ngăn ngừa quá khớp và cung cấp một ước lượng thực tế về hiệu suất.

Bước 5: Đánh Giá và So Sánh

• So sánh RMSE (hoặc MAE, tùy thuộc vào vấn đề) giữa Baseline (hồi quy tuyến tính), SVR cơ bản và SVR đã điều chỉnh.
• Kiểm tra hình ảnh:
  • Vẽ giá trị thực so với giá trị dự đoán.
  • Vẽ phần dư: có mẫu nào không? có tính không đồng nhất không?
• Nếu có thể, kiểm tra tầm quan trọng của đặc trưng hoặc khả năng giải thích: đặc trưng nào đang thúc đẩy mô hình?

Bước 6: Triển Khai/Sản Xuất Hóa

• Lưu mô hình của bạn (ví dụ: sử dụng saveRDS) cùng với siêu dữ liệu: các bước tiền xử lý, tham số điều chỉnh, tóm tắt dữ liệu huấn luyện.
• Theo dõi hiệu suất theo thời gian: đặc biệt nếu phân phối dữ liệu đầu vào thay đổi.
• Đối với các tập dữ liệu lớn, xem xét các bộ giải xấp xỉ, lấy mẫu hoặc các phương pháp hỗn hợp.

Tóm tắt Ví dụ Thực tiễn

Hãy tưởng tượng bạn đang dự đoán giá nhà từ các đặc trưng như kích thước, tuổi, các chỉ số vị trí, số phòng, v.v. Sau khi tiền xử lý chuẩn và chia dữ liệu, bạn fit hồi quy tuyến tính, sau đó là SVR với hàm hạt nhân radial, nhận thấy rằng SVR cho RMSE thấp hơn. Sau đó bạn điều chỉnh các hyperparameter như chi phí và epsilon thông qua kiểm tra chéo trong khung caret, cải thiện thêm, kiểm tra phần dư, so sánh giá trị thực và giá trị dự đoán, và đảm bảo không có thiên lệch giữa các phân vùng địa lý (ví dụ: thành phố so với vùng ngoại ô).

Các Xem Xét, Hạn Chế & Vấn Đề Đạo Đức

Dù SVR rất mạnh mẽ, nó cũng có nhiều nhược điểm. Đầu tiên, SVR có thể tốn nhiều tài nguyên tính toán trên các tập dữ liệu lớn - thời gian huấn luyện tăng lên nhanh chóng với số lượng quan sát, đặc biệt với các hàm hạt nhân phức tạp. Thứ hai, lựa chọn hàm hạt nhân, chi phí và các tham số epsilon phải được điều chỉnh cẩn thận; các thiết lập mặc định thường hoạt động kém. Thứ ba, khả năng giải thích giảm sút so với các mô hình tuyến tính đơn giản; việc trích xuất các vector trọng số hoặc thấy ảnh hưởng của các đặc trưng khó hơn, đặc biệt với các hàm hạt nhân phi tuyến. Thứ tư, quá khớp vẫn là một rủi ro, đặc biệt khi có tiếng ồn hoặc các đặc trưng không liên quan. Thứ năm, bạn phải đảm bảo tính công bằng: hiệu suất mô hình nên được theo dõi qua các nhóm con (địa lý, nhân khẩu học) để đảm bảo không có thiên lệch hệ thống. Cuối cùng, nếu có sự thay đổi dữ liệu hoặc phân phối đầu vào theo thời gian, mô hình sẽ cần được huấn luyện lại.

Nâng Cao Hiện Đại & Các Thực Hành Tốt Nhất

• Sử dụng các triển khai SVR xấp xỉ hoặc có thể mở rộng khi dữ liệu lớn (ví dụ: qua lấy mẫu hoặc phương pháp hàm hạt nhân xấp xỉ).
• Kết hợp SVR với các mô hình tập hợp (ví dụ: SVR được gộp, hoặc chồng với các mô hình dựa trên cây) để tăng cường độ vững chắc.
• Sử dụng các công cụ AI có thể giải thích (SHAP, LIME, phụ thuộc từng phần) để giải thích các dự đoán đến các bên liên quan.
• Phiên bản các mô hình của bạn: theo dõi các tham số, phân chia dữ liệu, các chỉ số hiệu suất theo thời gian, để bạn có thể tái tạo và kiểm toán.
• Sử dụng kiểm toán công bằng và thiên lệch: kiểm tra các dự đoán cho các nhóm con.

Những Suy Nghĩ Cuối Cùng

Hồi quy hỗ trợ vector trong R vẫn là một lựa chọn mạnh mẽ khi các mô hình tuyến tính không đủ. Trong năm 2025, việc đạt được hiệu suất cao không chỉ đơn giản là áp dụng SVR mà còn làm điều đó một cách cẩn thận: tiền xử lý, chuẩn hóa, điều chỉnh, chẩn đoán, giải thích và theo dõi. Khi thực hiện đúng, SVR có thể mang lại độ chính xác dự đoán tốt hơn trong khi vẫn tổng quát tốt.

Bài viết này được xuất bản lần đầu trên Perceptive Analytics.

Tại Phoenix, sứ mệnh của chúng tôi rất đơn giản — giúp các doanh nghiệp khai thác giá trị từ dữ liệu. Trong hơn 20 năm, chúng tôi đã hợp tác với hơn 100 khách hàng — từ các công ty Fortune 500 đến các doanh nghiệp vừa và nhỏ — giúp họ giải quyết các thách thức phân tích dữ liệu phức tạp. Là một trong những dịch vụ tư vấn Power BI hàng đầu tại Phoenix và dịch vụ tư vấn Tableau tại Phoenix, chúng tôi biến dữ liệu thô thành những hiểu biết chiến lược giúp đưa ra quyết định tốt hơn.