"Attention mechanism" (cơ chế chú ý) giúp mô hình Transformer cải thiện hiệu suất trong các nhiệm vụ NLP như thế nào?

Giảm số lượng tham số của mô hình.

Tăng tốc độ huấn luyện mô hình.

Cải thiện khả năng xử lý dữ liệu không có cấu trúc.

Cho phép mô hình tập trung vào các phần liên quan nhất của dữ liệu đầu vào khi đưa ra dự đoán.