Attention mechanism (cơ chế chú ý) trong mô hình Transformer có vai trò gì?

Tăng tốc độ huấn luyện mô hình

Giúp mô hình tập trung vào các phần quan trọng nhất của câu khi xử lý

Giảm kích thước của mô hình

Cải thiện khả năng dịch máy