Attention mechanism (Cơ chế chú ý) trong mô hình Transformer giúp cải thiện điều gì trong NLP?

Tốc độ huấn luyện mô hình.

Khả năng xử lý các phụ thuộc xa trong câu.

Giảm kích thước mô hình.

Cải thiện khả năng phân loại cảm xúc.