1. Khái Niệm Về Lan Truyền Tiến
Lan truyền tiến (hay còn gọi là Forward Propagation) là quá trình quan trọng trong mạng nơ-ron, nơi dữ liệu được tính toán từ đầu vào, đi qua các lớp ẩn, và cuối cùng tạo ra đầu ra. Trong quá trình này, mô hình sẽ nhân các giá trị đầu vào với trọng số tương ứng, cộng thêm độ chệch, và sau đó áp dụng hàm kích hoạt để đưa ra dự đoán cuối cùng.
2. Minh Họa Ví Dụ Thực Tế
Để giúp bạn dễ dàng hình dung, hãy xem xét một mạng nơ-ron đơn giản với các thành phần sau:
- 1 đầu vào (x)
- 1 nơ-ron ẩn với:
- Trọng số (w)
- Độ chệch (b)
- Hàm kích hoạt ReLU (Rectified Linear Unit) được định nghĩa bởi công thức:
f(z) = max(0, z) - 1 đầu ra (y)
Các Bước Tính Toán Lan Truyền Tiến
Các phép toán lan truyền tiến diễn ra như sau:
-
Tính toán tổng có trọng số:
z = x · w + b
-
Áp dụng hàm kích hoạt:
y = f(z) = max(0, z)
3. Cài Đặt Mô Hình Bằng Python
python
import numpy as np
# Giá trị đầu vào
x = 2
# Trọng số và độ chệch (có thể khởi tạo ngẫu nhiên hoặc từ quá trình huấn luyện)
w = 0.5
b = -1
# Thực hiện lan truyền tiến
z = x * w + b # Tổng có trọng số
y = max(0, z) # Áp dụng hàm kích hoạt ReLU
print(f"Đầu vào x: {x}")
print(f"Trọng số w: {w}, Độ chệch b: {b}")
print(f"Giá trị trước kích hoạt (z): {z}")
print(f"Đầu ra y (sau ReLU): {y}")4. Phân Tích Kết Quả Tính Toán
Giả sử chúng ta có các giá trị sau:
- Đầu vào: x = 2
- Trọng số: w = 0.5
- Độ chệch: b = -1
Từ đó, ta thực hiện các phép toán sau:
-
Tính z:
z = (2 · 0.5) + (-1) = 1 - 1 = 0
-
Áp dụng hàm kích hoạt ReLU:
y = max(0, z) = max(0, 0) = 0
Kết quả cuối cùng là đầu ra của mạng nơ-ron là 0.
5. Tóm Tắt Những Điều Quan Trọng
- Lan truyền tiến là phương pháp tính toán đầu ra từ đầu vào trải qua trọng số và độ chệch, sau đó áp dụng hàm kích hoạt để tạo ra dự đoán.
- Đây là bước quan trọng không thể thiếu trong quá trình dự đoán trong mạng nơ-ron, trước khi thực hiện các bước cập nhật trọng số và tối ưu hóa mô hình.
Thử nghiệm với các giá trị khác nhau cho w, b và x để hiểu rõ hơn về cơ chế hoạt động của lan truyền tiến và cách nó ảnh hưởng đến đầu ra của mạng nơ-ron! 🚀
source: viblo
