Trong ngữ cảnh của mô hình Transformer, "Multi-Head Attention" (chú ý đa đầu) mang lại lợi ích gì so với "Single-Head Attention" (chú ý đơn đầu)?

Giảm độ phức tạp tính toán

Cho phép mô hình học được nhiều khía cạnh khác nhau của mối quan hệ giữa các từ trong câu, từ các "không gian biểu diễn" khác nhau

Tăng tốc độ hội tụ của mô hình

Cải thiện khả năng khái quát hóa của mô hình trên dữ liệu mới