Trong kiến trúc Transformer, cơ chế "self-attention" đóng vai trò gì quan trọng trong việc xử lý ngôn ngữ?

Tăng tốc độ tính toán song song

Cho phép mô hình học được mối quan hệ giữa các từ trong cùng một câu

Giảm thiểu hiện tượng biến mất gradient

Thay thế hoàn toàn mạng nơ-ron tích chập (CNN)