BERT là một mô hình ngôn ngữ dựa trên kiến trúc nào?

Recurrent Neural Network (RNN).

Convolutional Neural Network (CNN).

Transformer.

Generative Adversarial Network (GAN).