Backpropagation (Lan truyền ngược) là thuật toán quan trọng trong huấn luyện mạng nơ-ron sâu cho NLP, nó được sử dụng để:

Tăng tốc độ xử lý dữ liệu đầu vào.

Tính toán gradient của hàm mất mát theo các trọng số của mạng, từ đó cập nhật trọng số để giảm thiểu lỗi.

Trích xuất đặc trưng từ văn bản.

Phân loại văn bản thành các chủ đề khác nhau.