Mô hình Transformer, được sử dụng rộng rãi trong NLP, dựa trên cơ chế chính nào?

Mạng nơ-ron hồi quy (Recurrent Neural Network - RNN).

Cơ chế tự chú ý (Self-attention).

Mạng nơ-ron tích chập (Convolutional Neural Network - CNN).

Mô hình Markov ẩn (Hidden Markov Model - HMM).