Trong kiến trúc Transformer, self-attention (tự chú ý) cho phép mô hình làm gì?

Tập trung vào các từ quan trọng nhất trong câu đầu vào

Dịch văn bản sang ngôn ngữ khác

Tạo ra các câu văn mới

Phân loại văn bản theo chủ đề