BERT (Bidirectional Encoder Representations from Transformers) là một mô hình ngôn ngữ dựa trên Transformer, điểm nổi bật của BERT là gì?

Chỉ có thể xử lý văn bản tiếng Anh.

Huấn luyện theo cả hai hướng (trái sang phải và phải sang trái) để hiểu ngữ cảnh tốt hơn.

Sử dụng RNN thay vì Transformer.

Chỉ tập trung vào phân tích cảm xúc.