Trong các mô hình transformer, cơ chế self-attention được sử dụng để làm gì?

Để tăng tốc độ huấn luyện mô hình

Để cho phép mô hình tập trung vào các phần khác nhau của đầu vào khi xử lý nó

Để giảm kích thước của mô hình

Để loại bỏ các từ dừng