Attention mechanism (cơ chế chú ý) được sử dụng rộng rãi trong các mô hình sequence-to-sequence. Mục đích chính của attention mechanism là gì?

Giảm kích thước của dữ liệu đầu vào

Cho phép mô hình tập trung vào các phần quan trọng nhất của dữ liệu đầu vào khi tạo ra đầu ra

Tăng tốc độ huấn luyện mô hình

Cải thiện khả năng song song hóa của mô hình