Trong ngữ cảnh của mô hình Transformer, 'attention mechanism' (cơ chế chú ý) có vai trò chính là gì?

Tăng tốc độ huấn luyện mô hình

Giảm thiểu hiện tượng 'vanishing gradients'

Cho phép mô hình tập trung vào các phần quan trọng nhất của dữ liệu đầu vào khi xử lý

Cải thiện khả năng xử lý dữ liệu tuần tự của mô hình