Mô hình Transformer, ví dụ như BERT và GPT, dựa trên kiến trúc mạng nơ-ron nào?

Self-attention (Tự chú ý)

Convolutional Neural Network (Mạng nơ-ron tích chập)

Recurrent Neural Network (Mạng nơ-ron hồi quy)

Generative Adversarial Network (Mạng đối nghịch sinh tạo)