Trong ngữ cảnh của mô hình Transformer, 'attention mechanism' (cơ chế chú ý) đóng vai trò gì?

Tăng tốc độ huấn luyện mô hình.

Cho phép mô hình tập trung vào các phần quan trọng nhất của dữ liệu đầu vào khi xử lý.

Giảm thiểu hiện tượng overfitting.

Chuẩn hóa dữ liệu đầu vào.