1000+ câu Trắc nghiệm Nhập môn xử lý ngôn ngữ tự nhiên có đáp án - Phần 27

Tách từ (Tokenization)

Stemming (Cắt gốc từ)

Lemmatization (Lemma hóa)

Loại bỏ từ dừng (Stop word removal)

Duy trì thứ tự từ và ngữ pháp trong câu

Mã hóa văn bản thành một chuỗi các embedding từ

Đếm tần suất xuất hiện của mỗi từ trong văn bản và bỏ qua thứ tự từ

Phân tích mối quan hệ ngữ nghĩa giữa các từ trong văn bản

Giảm số chiều của dữ liệu văn bản

Phân tích ngữ nghĩa của văn bản

Tìm kiếm các văn bản tương tự nhau

Đánh trọng số cho các từ trong văn bản dựa trên tần suất xuất hiện trong văn bản hiện tại và toàn bộ tập văn bản

Xác định và phân loại các thực thể có tên (ví dụ: người, tổ chức, địa điểm) trong văn bản

Phân tích cảm xúc và thái độ thể hiện trong văn bản

Dịch văn bản từ ngôn ngữ này sang ngôn ngữ khác

Tóm tắt nội dung chính của văn bản

Phương pháp mã hóa văn bản thành dạng số để máy tính có thể xử lý, giúp tăng tốc độ tính toán

Biểu diễn từ dưới dạng vectơ số trong không gian nhiều chiều, sao cho các từ có nghĩa tương tự nhau thì nằm gần nhau trong không gian vectơ, giúp mô hình hiểu được ngữ nghĩa

Kỹ thuật giảm kích thước dữ liệu văn bản bằng cách loại bỏ các từ ít quan trọng, giúp giảm độ phức tạp của mô hình

Mô hình ngôn ngữ dự đoán từ tiếp theo trong câu, giúp tạo ra văn bản tự nhiên và mạch lạc hơn

Tăng tốc độ huấn luyện mô hình bằng cách song song hóa các phép tính

Giảm hiện tượng "vanishing gradient" trong quá trình huấn luyện mạng nơ-ron sâu

Cho phép mô hình tập trung có chọn lọc vào các phần khác nhau của dữ liệu đầu vào khi đưa ra dự đoán, đặc biệt quan trọng trong xử lý các chuỗi dài

Cải thiện khả năng khái quát hóa của mô hình bằng cách thêm nhiễu vào quá trình huấn luyện

Transformer là mô hình ngôn ngữ đầu tiên sử dụng mạng nơ-ron tích chập (CNN) cho xử lý văn bản

Transformer giới thiệu khái niệm word embedding, giúp biểu diễn từ dưới dạng vectơ số

Transformer loại bỏ hoàn toàn việc sử dụng cơ chế "attention", giúp mô hình đơn giản và hiệu quả hơn

Transformer cho phép xử lý song song các phần của chuỗi đầu vào, khắc phục hạn chế của mạng RNN trong việc xử lý chuỗi dài và mở đường cho các mô hình lớn như BERT, GPT

Quá trình chuyển đổi văn bản từ dạng viết sang dạng nói, ứng dụng trong tổng hợp giọng nói

Xác định thái độ, cảm xúc (tích cực, tiêu cực, trung lập) thể hiện trong văn bản, ứng dụng trong đánh giá phản hồi khách hàng, theo dõi dư luận mạng xã hội

Phân loại văn bản theo chủ đề hoặc thể loại, ứng dụng trong tổ chức và quản lý tài liệu

Trích xuất thông tin quan trọng từ văn bản, ứng dụng trong tổng hợp tin tức, tạo báo cáo tự động

SMT sử dụng mạng nơ-ron sâu, trong khi NMT dựa trên các mô hình thống kê truyền thống

NMT tập trung vào việc dịch từng từ một, còn SMT dịch cả câu cùng một lúc

SMT dựa trên các mô hình thống kê và quy tắc ngôn ngữ học, trong khi NMT học cách dịch trực tiếp từ dữ liệu song ngữ lớn thông qua mạng nơ-ron

NMT chỉ có thể dịch giữa các ngôn ngữ có cấu trúc tương tự nhau, còn SMT có thể dịch giữa mọi cặp ngôn ngữ

Quá trình loại bỏ các từ dừng (stop words) khỏi văn bản, giúp giảm nhiễu và tăng hiệu quả xử lý

Phân tích ý nghĩa của từ và cụm từ trong ngữ cảnh, giúp hiểu sâu hơn về nội dung văn bản

Chia văn bản thành các câu hoặc đoạn văn nhỏ hơn để dễ dàng xử lý

Phân tích cấu trúc ngữ pháp của câu, xác định vai trò và mối quan hệ giữa các thành phần câu (chủ ngữ, vị ngữ, tân ngữ...), giúp máy tính hiểu được cấu trúc và ý nghĩa của câu

Xác định các cụm từ (ví dụ: đại từ, danh từ chung) cùng tham chiếu đến một thực thể duy nhất trong văn bản, giúp mô hình hiểu được sự liên kết và mạch lạc của văn bản

Phân loại văn bản theo chủ đề chính, giúp tổ chức và tìm kiếm thông tin hiệu quả hơn

Dịch văn bản sang ngôn ngữ khác một cách chính xác và tự nhiên

Tóm tắt văn bản bằng cách chọn ra các câu quan trọng nhất, giúp tiết kiệm thời gian đọc

Phân tích cảm xúc và thái độ của tác giả văn bản

Khám phá các chủ đề tiềm ẩn trong một tập hợp văn bản lớn và phân loại văn bản theo chủ đề

Dự đoán từ tiếp theo trong một chuỗi văn bản

Nhận dạng và phân loại các thực thể có tên trong văn bản

Hệ thống QA dịch câu hỏi sang ngôn ngữ khác và tìm kiếm câu trả lời trong các văn bản dịch

Hệ thống QA tạo ra câu trả lời mới dựa trên thông tin được học từ tập dữ liệu huấn luyện lớn

Hệ thống QA phân tích câu hỏi và tìm kiếm thông tin liên quan trong một nguồn dữ liệu (ví dụ: tập văn bản, cơ sở tri thức) để trích xuất hoặc tổng hợp câu trả lời

Hệ thống QA sử dụng các quy tắc ngữ pháp và từ vựng để trả lời câu hỏi một cách chính xác

Extractive summarization tạo ra bản tóm tắt ngắn hơn bản gốc, còn abstractive summarization tạo ra bản tóm tắt dài hơn

Abstractive summarization tập trung vào việc tóm tắt các văn bản khoa học, còn extractive summarization phù hợp với văn bản báo chí

Extractive summarization cần dữ liệu huấn luyện song ngữ, còn abstractive summarization chỉ cần dữ liệu đơn ngữ

Extractive summarization chọn lọc và kết hợp các câu hoặc đoạn quan trọng từ văn bản gốc, còn abstractive summarization diễn giải lại và tạo ra bản tóm tắt bằng cách sử dụng từ ngữ và cấu trúc câu mới

Độ phức tạp tính toán của mô hình ngôn ngữ, đo lường thời gian cần thiết để huấn luyện mô hình

Đo lường khả năng dự đoán của mô hình ngôn ngữ, perplexity thấp hơn cho thấy mô hình dự đoán tốt hơn (ít "bối rối" hơn) về chuỗi văn bản

Số lượng tham số trong mô hình ngôn ngữ, perplexity cao hơn cho thấy mô hình có nhiều tham số hơn

Tỷ lệ lỗi chính tả và ngữ pháp trong văn bản do mô hình ngôn ngữ tạo ra

Mô hình học cách dịch giữa hai ngôn ngữ mà không cần dữ liệu song ngữ

Mô hình có thể thực hiện nhiệm vụ phân tích cảm xúc mà không cần bất kỳ dữ liệu huấn luyện nào

Mô hình có khả năng thực hiện các nhiệm vụ hoặc phân loại các đối tượng mà nó chưa từng được huấn luyện trực tiếp trên dữ liệu của nhiệm vụ/đối tượng đó, dựa trên sự hiểu biết về ngôn ngữ và thế giới

Mô hình chỉ sử dụng dữ liệu không nhãn để học biểu diễn ngôn ngữ

Few-shot learning cho phép mô hình học từ một số lượng nhỏ ví dụ huấn luyện cho nhiệm vụ mới, trong khi zero-shot learning không sử dụng bất kỳ ví dụ huấn luyện nào cho nhiệm vụ mới

Zero-shot learning chỉ áp dụng cho các bài toán phân loại văn bản, còn few-shot learning có thể áp dụng cho nhiều loại bài toán NLP khác nhau

Few-shot learning sử dụng mô hình Transformer, còn zero-shot learning sử dụng các mô hình thống kê truyền thống

Không có sự khác biệt nào đáng kể giữa few-shot learning và zero-shot learning

Một loại mô hình ngôn ngữ được huấn luyện trên dữ liệu văn bản khổng lồ

Một mạng lưới các thực thể (ví dụ: người, địa điểm, sự kiện) và mối quan hệ giữa chúng, được sử dụng để lưu trữ và truy xuất tri thức, hỗ trợ các ứng dụng như hỏi đáp tự động, suy luận, và khám phá tri thức

Một kỹ thuật giảm chiều dữ liệu văn bản bằng cách loại bỏ các thông tin không liên quan

Một phương pháp đánh giá hiệu suất của mô hình dịch máy

Hệ thống đối thoại là phần mềm dịch văn bản sang ngôn ngữ khác

Hệ thống đối thoại là công cụ phân tích cảm xúc văn bản

Hệ thống đối thoại là phần mềm tương tác với người dùng thông qua ngôn ngữ tự nhiên, có thể phân loại thành hệ thống định hướng nhiệm vụ (task-oriented) và hệ thống trò chuyện phiếm (chit-chat/conversational)

Hệ thống đối thoại là cơ sở dữ liệu lưu trữ tri thức về ngôn ngữ tự nhiên

Quá trình chuyển đổi văn bản từ dạng viết sang dạng nói

Phân tích cấu trúc ngữ pháp của văn bản

Tóm tắt nội dung chính của văn bản

Quá trình tạo ra văn bản mới một cách tự động, ứng dụng trong tạo nội dung tự động, viết email, chatbot, và nhiều ứng dụng khác

Các kỹ thuật tạo ra các mẫu đầu vào (ví dụ: văn bản) được thiết kế đặc biệt để đánh lừa mô hình NLP đưa ra dự đoán sai, gây ra rủi ro bảo mật và độ tin cậy trong các ứng dụng thực tế

Các phương pháp cải thiện hiệu suất của mô hình NLP bằng cách "tấn công" vào các điểm yếu của dữ liệu huấn luyện

Các kỹ thuật đánh giá mô hình NLP bằng cách đo lường khả năng chống lại các loại nhiễu khác nhau trong dữ liệu đầu vào

Các biện pháp bảo vệ mô hình NLP khỏi bị sao chép hoặc đánh cắp

Khả năng dịch văn bản từ ngôn ngữ này sang ngôn ngữ khác một cách chính xác

Khả năng hiểu được cách mô hình NLP đưa ra quyết định hoặc dự đoán, giúp tăng cường độ tin cậy, phát hiện lỗi và cải thiện mô hình, đặc biệt quan trọng trong các ứng dụng nhạy cảm

Khả năng xử lý văn bản nhanh chóng và hiệu quả về mặt tính toán

Khả năng học từ dữ liệu không nhãn mà không cần sự giám sát của con người

Bias là lỗi trong mã chương trình NLP, có thể được sửa bằng cách gỡ lỗi cẩn thận

Bias là thuật ngữ chỉ sự khác biệt về hiệu suất giữa các mô hình NLP khác nhau

Bias là sự thiên lệch hoặc không công bằng trong dữ liệu huấn luyện hoặc mô hình NLP, có thể dẫn đến kết quả phân biệt đối xử hoặc không chính xác cho một số nhóm người dùng nhất định. Giảm thiểu bias đòi hỏi sự chú ý đến việc thu thập dữ liệu, thiết kế mô hình và đánh giá một cách cẩn thận

Bias là hiện tượng mô hình NLP hoạt động kém trên dữ liệu mới so với dữ liệu huấn luyện

Active learning là phương pháp huấn luyện mô hình NLP trên dữ liệu không nhãn

Active learning được sử dụng để phát hiện và giảm thiểu bias trong dữ liệu NLP

Active learning là kỹ thuật tấn công đối nghịch để kiểm tra độrobust của mô hình NLP

Active learning có thể được sử dụng để chọn lọc các mẫu dữ liệu "thông tin" nhất để con người gán nhãn, giúp giảm chi phí gán nhãn và tăng hiệu quả huấn luyện mô hình với dữ liệu hạn chế

Transfer learning là phương pháp dịch văn bản từ ngôn ngữ này sang ngôn ngữ khác

Transfer learning là kỹ thuật tận dụng kiến thức đã học từ một nhiệm vụ (ví dụ: huấn luyện mô hình ngôn ngữ trên dữ liệu lớn) để cải thiện hiệu suất trên một nhiệm vụ khác liên quan (ví dụ: phân loại văn bản với dữ liệu nhỏ), giúp tiết kiệm thời gian và dữ liệu huấn luyện

Transfer learning là phương pháp tạo ra các bản tóm tắt văn bản ngắn gọn và súc tích

Transfer learning là kỹ thuật phân tích cảm xúc và thái độ trong văn bản

Data augmentation là phương pháp giảm kích thước dữ liệu văn bản để tăng tốc độ huấn luyện mô hình

Data augmentation là kỹ thuật loại bỏ dữ liệu nhiễu hoặc không liên quan khỏi tập huấn luyện

Data augmentation là kỹ thuật tạo ra các mẫu dữ liệu huấn luyện mới từ dữ liệu hiện có bằng cách áp dụng các phép biến đổi (ví dụ: thay thế từ đồng nghĩa, xáo trộn câu), giúp tăng tính đa dạng của dữ liệu và cải thiện khả năng khái quát hóa của mô hình

Data augmentation là phương pháp gán nhãn dữ liệu không nhãn một cách tự động

Perplexity

BLEU score

ROUGE score

Accuracy, Precision, Recall, F1-score

Các độ đo đánh giá chất lượng của văn bản được sinh ra bởi mô hình so với văn bản tham chiếu, thường được sử dụng trong dịch máy (BLEU) và tóm tắt văn bản (ROUGE)

Các độ đo đánh giá tốc độ xử lý văn bản của mô hình NLP

Các độ đo đánh giá khả năng diễn giải của mô hình NLP

Các độ đo đánh giá mức độ bias trong mô hình NLP

Cross-lingual NLP là lĩnh vực nghiên cứu về dịch máy giữa các ngôn ngữ khác nhau

Cross-lingual NLP là lĩnh vực nghiên cứu và phát triển các mô hình NLP có thể xử lý và hiểu nhiều ngôn ngữ khác nhau, giúp vượt qua rào cản ngôn ngữ và tiếp cận thông tin đa dạng trên toàn cầu

Cross-lingual NLP là kỹ thuật tăng cường dữ liệu bằng cách dịch văn bản sang nhiều ngôn ngữ khác nhau

Cross-lingual NLP là phương pháp đánh giá hiệu suất của mô hình NLP trên nhiều ngôn ngữ khác nhau

XAI trong NLP tập trung vào việc tăng tốc độ xử lý văn bản của các mô hình AI

XAI trong NLP nhằm mục đích giảm thiểu bias trong dữ liệu và mô hình AI

XAI trong NLP hướng đến việc làm cho các mô hình AI trở nên dễ hiểu và dễ diễn giải hơn đối với con người, cung cấp lý do cho các quyết định và dự đoán của mô hình, tăng cường sự tin tưởng và khả năng kiểm soát của con người đối với hệ thống AI

XAI trong NLP tập trung vào việc cải thiện độ chính xác của các mô hình AI trên các nhiệm vụ phức tạpC