Mô hình ngôn ngữ "BERT" (Bidirectional Encoder Representations from Transformers) khác biệt so với các mô hình trước đó như "Word2Vec" và "GloVe" ở điểm nào quan trọng?
18/30
Mô hình ngôn ngữ "BERT" (Bidirectional Encoder Representations from Transformers) khác biệt so với các mô hình trước đó như "Word2Vec" và "GloVe" ở điểm nào quan trọng?
BERT chỉ có thể xử lý văn bản tiếng Anh, trong khi Word2Vec và GloVe có thể xử lý đa ngôn ngữ.
BERT tạo ra biểu diễn từ theo ngữ cảnh (contextualized word embeddings), trong khi Word2Vec và GloVe tạo ra biểu diễn từ tĩnh (static word embeddings).
BERT sử dụng mạng nơ-ron hồi quy (RNN), trong khi Word2Vec và GloVe sử dụng mạng nơ-ron tích chập (CNN).
BERT đòi hỏi ít dữ liệu huấn luyện hơn so với Word2Vec và GloVe.