TỔNG QUAN VỀ PHÂN LỚP

Định nghĩa và quy trình

Phân lớp (Classification) là phương pháp phân tích dữ liệu nhằm trích xuất mô hình mô tả các lớp dữ liệu. Đây là quy trình hai bước:

1. Huấn luyện (Training): Xây dựng bộ phân lớp bằng cách học (analyzing) tập huấn luyện có nhãn \(\langle X, y \rangle\).

2. Phân lớp (Classification): Phân lớp các mẫu/đối tượng mới. Nếu độ chính xác của bộ phân lớp chấp nhận được, dùng nó để phân lớp dữ liệu mới.

Đặc điểm: Phân lớp là học có giám sát (supervised learning) – có nhãn lớp trong dữ liệu huấn luyện.

Ví dụ tình huống:

• Email: “spam” hay “not spam”.

• Giao dịch trực tuyến: “gian lận” hay “bình thường”.

• Y tế: u bướu “lành tính” hay “ác tính”; bệnh nhân “mắc bệnh” hay “không mắc bệnh”.

Các thuật toán phân lớp phổ biến:

• Logistic Regression, Decision Tree, Bayesian method, ANN, K-NN, Case-based reasoning, Genetic algorithms, Rough/Fuzzy sets.

HỒI QUY LOGISTIC (LOGISTIC REGRESSION)

Hàm Sigmoid

Hồi quy tuyến tính \(h_\theta(X) = \theta^TX\) có thể cho kết quả \(> 1\) hoặc \(< 0\), không phù hợp cho phân lớp. Hồi quy Logistic đảm bảo \(0 \leq h_\theta(X) \leq 1\) bằng hàm Sigmoid (Logistic function):

\[h_\theta(X) = g(\theta^TX) = \frac{1}{1 + e^{-\theta^TX}}\] \[g(z) = \frac{1}{1 + e^{-z}}, \quad g(z) \in (0, 1)\]

Ý nghĩa: \(h_\theta(x) = P(y=1 \mid x; \theta)\) – xác suất nhãn là 1 khi đầu vào là \(x\).

Decision Boundary (Ranh giới quyết định)

• Dự đoán \(y = 1\) khi \(h_\theta(X) \geq 0.5 \Leftrightarrow \theta^TX \geq 0\).

• Dự đoán \(y = 0\) khi \(h_\theta(X) < 0.5 \Leftrightarrow \theta^TX < 0\).

Decision boundary là tập \(\{\theta^TX = 0\}\) – có thể là đường thẳng (tuyến tính) hoặc đường cong (phi tuyến) tùy thuộc vào đặc trưng.

Hàm chi phí và Gradient Descent

Hàm chi phí logistic: \[\text{cost}(h_\theta(x), y) = \begin{cases} -\log(h_\theta(x)) & \text{nếu } y = 1 \\ -\log(1 - h_\theta(x)) & \text{nếu } y = 0 \end{cases}\]

Rút gọn: \(\text{cost}(h_\theta(x), y) = -y\log(h_\theta(x)) - (1-y)\log(1-h_\theta(x))\)

\[J(\theta) = \frac{1}{N}\sum_{i=1}^{N}\left[-y^{(i)}\log(h_\theta(x^{(i)})) - (1-y^{(i)})\log(1-h_\theta(x^{(i)}))\right]\]

Tối thiểu hóa \(J(\theta)\) bằng gradient descent (dạng công thức giống hồi quy tuyến tính sau khi lấy đạo hàm).

Phân lớp đa lớp – One-vs-Rest

Với \(k\) lớp, huấn luyện \(k\) bộ phân lớp \(h_\theta^{(i)}(x)\) (\(i=1,\ldots,k\)), mỗi bộ phân biệt lớp \(i\) với tất cả lớp còn lại. Dự đoán lớp \(i\) có \(h_\theta^{(i)}(x)\) lớn nhất.

CÂY QUYẾT ĐỊNH (DECISION TREE)

Cấu trúc và ý nghĩa

• Internal node (Nút trong): Kiểm tra một thuộc tính cụ thể.

• Branch (Nhánh): Kết quả của phép kiểm tra.

• Leaf node (Nút lá): Nhãn lớp.

Thuật toán xây dựng cây quyết định

Đặc điểm: Greedy, divide-and-conquer, đệ quy, top-down. Độ phức tạp: \(O(n \times |D| \times \log|D|)\).

Các thuật toán: ID3, C4.5, CART (Classification and Regression Trees – cây nhị phân).

Tiêu chí chọn thuộc tính phân tách

(a) Information Gain (ID3):

\[\text{Info}(D) = -\sum_{i=1}^{m} p_i \log_2(p_i), \quad p_i = |C_{i,D}|/|D|\] \[\text{Info}_A(D) = \sum_{j=1}^{v} \frac{|D_j|}{|D|} \text{Info}(D_j)\] \[\text{Gain}(A) = \text{Info}(D) - \text{Info}_A(D)\] Chọn thuộc tính có Gain lớn nhất. Hạn chế: ưu tiên thuộc tính có nhiều giá trị (tạo nhiều partition nhỏ).

(b) Gain Ratio (C4.5):

\[\text{SplitInfo}_A(D) = -\sum_{j=1}^{v} \frac{|D_j|}{|D|} \log_2\frac{|D_j|}{|D|}\] \[\text{GainRatio}(A) = \frac{\text{Gain}(A)}{\text{SplitInfo}_A(D)}\] Chuẩn hóa Information Gain theo độ phân tách; giảm thiên vị với thuộc tính nhiều giá trị.

(c) Gini Index (CART):

\[\text{Gini}(D) = 1 - \sum_{i=1}^{m} p_i^2\] \[\text{Gini}_A(D) = \frac{|D_1|}{|D|}\text{Gini}(D_1) + \frac{|D_2|}{|D|}\text{Gini}(D_2)\] Chia nhị phân; chọn thuộc tính và ngưỡng phân tách có Gini nhỏ nhất.

PHÂN LỚP BAYESIAN

Định lý Bayes

\[P(H \mid X) = \frac{P(X \mid H) \cdot P(H)}{P(X)}\]

• \(P(H \mid X)\): xác suất hậu nghiệm (posterior) – xác suất \(X\) thuộc lớp \(H\).

• \(P(X \mid H)\): likelihood – xác suất quan sát \(X\) nếu lớp là \(H\).

• \(P(H)\): xác suất tiên nghiệm của lớp (prior).

• \(P(X)\): hằng số chuẩn hóa.

Naive Bayesian Classification

Giả định class conditional independence: các thuộc tính độc lập với nhau trong cùng một lớp: \[P(X \mid C_i) = \prod_{k=1}^{n} P(x_k \mid C_i)\]

Phân lớp: Chọn lớp \(C_i\) có \(P(C_i \mid X) \propto P(X \mid C_i) \cdot P(C_i)\) lớn nhất.

Tính \(P(x_k \mid C_i)\):

• Thuộc tính danh mục: \(P(x_k \mid C_i) = \frac{|\{X' \mid x'_k = x_k \wedge X' \in C_i\}|}{|C_{i,D}|}\)

• Thuộc tính liên tục (Gauss): \(P(x_k \mid C_i) = \frac{1}{\sqrt{2\pi}\sigma_i} \exp\left(-\frac{(x_k - \mu_i)^2}{2\sigma_i^2}\right)\)

Vấn đề xác suất bằng 0: Nếu \(P(x_k \mid C_i) = 0\) thì \(P(X \mid C_i) = 0\), gây ra “zero-frequency problem”.

Giải pháp Laplace smoothing: \[P(x_k \mid C_i) = \frac{|\{X' \mid x'_k = x_k \wedge X' \in C_i\}| + 1}{|C_{i,D}| + m}\] trong đó \(m\) là số giá trị khác nhau của thuộc tính \(A_k\).

Ưu/nhược điểm của Naive Bayes:

• Ưu: Dễ cài đặt, học nhanh, dễ hiểu kết quả, hiệu quả trong nhiều trường hợp.

• Nhược: Giả định độc lập lớp điều kiện có thể không thỏa trong thực tế.

MẠNG NƠRON NHÂN TẠO (ANN)

Mô hình Neuron – Logistic Unit

Mỗi neuron nhân tạo là một logistic unit với hàm kích hoạt Sigmoid \(g(z)\): \[a^{(l)}_j = g\left(\sum_i \Theta^{(l-1)}_{ji} a^{(l-1)}_i\right)\]

Kiến trúc ANN

• Layer 1: Input layer (lớp đầu vào).

• Layer 2, ..., L-1: Hidden layers (lớp ẩn).

• Layer L: Output layer (lớp đầu ra).

Ma trận trọng số \(\Theta^{(j)}\) có kích thước \(s_{j+1} \times (s_j + 1)\) (với \(s_j\) là số nút tại lớp \(j\)).

Feedforward (Forward Propagation)

Tính giá trị kích hoạt từ lớp đầu vào đến lớp đầu ra: \[z^{(l+1)} = \Theta^{(l)} a^{(l)}, \quad a^{(l+1)} = g(z^{(l+1)})\] (thêm bias node \(a_0^{(l)} = 1\) tại mỗi lớp)

Hàm chi phí ANN

Phân lớp nhị phân (\(K=1\)): \[J(\Theta) = -\frac{1}{N}\sum_{i=1}^{N}\left[y^{(i)}\log h_\Theta(x^{(i)}) + (1-y^{(i)})\log(1-h_\Theta(x^{(i)}))\right]\]

Backpropagation

Thuật toán tính gradient để tối ưu hóa \(J(\Theta)\):

1. Feedforward: Tính \(a^{(l)}\) cho tất cả các lớp.

2. Tính lỗi: \(\delta^{(L)} = a^{(L)} - y\).

3. Lan truyền ngược: \(\delta^{(l)} = (\Theta^{(l)})^T\delta^{(l+1)} \cdot g'(z^{(l)})\).

4. Tính gradient: \(\frac{\partial J}{\partial \Theta^{(l)}_{ij}} = a^{(l)}_j \cdot \delta^{(l+1)}_i\).

5. Cập nhật \(\Theta^{(l)}\) bằng gradient descent.

K-NEAREST NEIGHBOR (K-NN)

Ý tưởng: Phân lớp đối tượng \(X\) bằng cách bỏ phiếu đa số (majority vote) từ \(k\) đối tượng gần nhất trong tập huấn luyện.

Độ đo khoảng cách: Thường dùng Euclidean: \(d(p, q) = \sqrt{\sum_i (p_i - q_i)^2}\)

Chọn \(k\):

• \(k\) quá nhỏ: nhạy cảm với nhiễu.

• \(k\) quá lớn: có thể chọn đối tượng từ lớp khác.

• Gợi ý: \(k \leq \sqrt{|D|}\).

ĐÁNH GIÁ VÀ CHỌN MÔ HÌNH PHÂN LỚP

Tiêu chí đánh giá

• Accuracy: Khả năng nhận dạng đúng các đối tượng.

• Speed: Chi phí tính toán khi huấn luyện và sử dụng.

• Robustness: Hoạt động tốt với dữ liệu nhiễu hoặc thiếu.

• Scalability: Xây dựng và cập nhật bộ phân lớp với tập dữ liệu rất lớn.

• Interpretability: Khả năng hiểu cách bộ phân lớp hoạt động.

Precision, Recall và F-score

\[\text{Precision} = \frac{TP}{TP + FP}, \quad \text{Recall} = \frac{TP}{TP + FN}\] \[\text{F-score} = \frac{2 \times P \times R}{P + R}\]

Phương pháp đánh giá

• Holdout method: Chia ngẫu nhiên \(D\) thành tập train (2/3) và test (1/3).

• K-fold cross-validation: Chia \(D\) thành \(k\) phần bằng nhau; lặp \(k\) lần (dùng phần \(i\) để test, phần còn lại để train); tính trung bình.

TÓM TẮT

• Phân lớp: Học có giám sát; 2 bước: training + classification.

• Logistic Regression: Sigmoid function; decision boundary; gradient descent; one-vs-rest đa lớp.

• Decision Tree (ID3/C4.5/CART): Tiêu chí phân tách: Information Gain, Gain Ratio, Gini Index.

• Naive Bayes: Định lý Bayes + giả định độc lập; Laplace smoothing cho zero-frequency.

• ANN: Feedforward + Backpropagation; xử lý phi tuyến phức tạp.

• K-NN: Lazy learning, dựa trên khoảng cách.

• Đánh giá: Accuracy, Precision, Recall, F-score; Holdout, K-fold cross-validation.

CÂU HỎI TỰ LUẬN

1. Phân lớp dữ liệu (Classification) là gì? Mô tả quy trình 2 bước của phân lớp và giải thích tại sao phân lớp là học có giám sát. So sánh với phân cụm (Clustering).

2. Giải thích tại sao hồi quy tuyến tính \(h_\theta(X) = \theta^TX\) không phù hợp cho bài toán phân lớp. Hàm Sigmoid giải quyết vấn đề này như thế nào?

3. Trình bày hàm Sigmoid \(g(z)\) và ý nghĩa của \(h_\theta(x) = P(y=1 \mid x; \theta)\) trong hồi quy Logistic. Quy tắc quyết định phân lớp dựa trên \(h_\theta(x)\) và \(\theta^TX\) như thế nào?

4. Giải thích khái niệm Decision Boundary trong hồi quy Logistic. Khi nào thì ranh giới quyết định là đường thẳng? Khi nào là đường cong? Cho ví dụ cụ thể.

5. Trình bày hàm chi phí của hồi quy Logistic. Tại sao không dùng MSE như hồi quy tuyến tính? Giải thích ý nghĩa của từng trường hợp \(y=1\) và \(y=0\).

6. Giải thích phương pháp One-vs-Rest để phân lớp đa lớp bằng Logistic Regression. Mô tả quy trình huấn luyện và dự đoán. Hạn chế của phương pháp này?

7. Mô tả cấu trúc của Decision Tree. Giải thích các khái niệm: internal node, branch, leaf node. Thuật toán xây dựng cây quyết định có đặc điểm gì (greedy, divide-and-conquer)?

8. Trình bày và so sánh 3 tiêu chí chọn thuộc tính phân tách trong cây quyết định: Information Gain, Gain Ratio và Gini Index. Khi nào Gain Ratio tốt hơn Information Gain?

9. Tính Information Gain của thuộc tính “age” trong tập dữ liệu AllElectronics: \(\text{Info}(D) = 0.940\), \(\text{Info}_{\text{age}}(D) = 0.694\). Kết quả Gain(age) = 0.246. Giải thích ý nghĩa của con số này.

10. Trình bày Định lý Bayes. Giải thích các khái niệm: posterior probability, prior probability, likelihood, evidence. Tại sao phân lớp Bayesian dựa trên “tối đa hóa posterior”?

11. Giải thích giả định class conditional independence trong Naive Bayes. Khi nào giả định này có thể không thỏa? Hệ quả khi giả định bị vi phạm là gì?

12. Trình bày Laplace smoothing trong Naive Bayes. Tại sao cần Laplace smoothing? Công thức điều chỉnh như thế nào? Có phương pháp thay thế nào không?

13. Mô tả kiến trúc Mạng Nơron Nhân Tạo (ANN). Giải thích: input layer, hidden layers, output layer, weights matrix \(\Theta^{(j)}\), kích thước của \(\Theta^{(j)}\).

14. Trình bày thuật toán Feedforward (Forward Propagation) trong ANN. Vì sao cần thêm bias node \(a_0^{(l)} = 1\) tại mỗi lớp?

15. Giải thích thuật toán Backpropagation. Mục đích của backpropagation là gì? Mô tả cách tính \(\delta^{(L)}\), \(\delta^{(L-1)}\) và gradient \(\frac{\partial J}{\partial \Theta^{(l)}_{ij}}\).

16. Tại sao ANN được sử dụng cho bài toán phân lớp phi tuyến phức tạp mà Logistic Regression không xử lý được? Minh họa bằng ví dụ bài toán XOR.

17. Giải thích thuật toán K-Nearest Neighbor (K-NN). Trình bày cách chọn \(k\), độ đo khoảng cách và quy tắc bỏ phiếu đa số. Ưu và nhược điểm của K-NN?

18. Phân biệt Precision và Recall. Trong tình huống phát hiện gian lận thẻ tín dụng, tiêu chí nào quan trọng hơn? Tại sao cần F-score?

19. So sánh Holdout method và K-fold cross-validation để đánh giá bộ phân lớp. Phương pháp nào đáng tin cậy hơn và tại sao?

20. So sánh toàn diện 5 phương pháp phân lớp: Logistic Regression, Decision Tree, Naive Bayes, ANN và K-NN theo các tiêu chí: accuracy, speed, robustness, scalability và interpretability.

CÂU HỎI TRẮC NGHIỆM

1. Phân lớp (Classification) là loại học nào?

   1. Học không giám sát.

   2. Học có giám sát.

   3. Học tăng cường.

   4. Học bán giám sát.

2. Hàm Sigmoid \(g(z) = \frac{1}{1+e^{-z}}\) có miền giá trị:

   1. \((-\infty, +\infty)\)

   2. \([0, 1]\) (nhưng không đạt đúng 0 hoặc 1, ngoại trừ giới hạn).

   3. \([-1, 1]\)

   4. \([0.5, 1]\)

3. Trong Logistic Regression, dự đoán \(y = 1\) khi:

   1. \(h_\theta(x) \geq 0.5 \Leftrightarrow \theta^Tx \geq 0\).

   2. \(h_\theta(x) < 0.5\).

   3. \(\theta^Tx < 0\).

   4. \(h_\theta(x) = 1\).

4. \(h_\theta(x) = P(y=1 \mid x; \theta) = 0.7\) có nghĩa là:

   1. \(70\%\) đối tượng thuộc lớp 0.

   2. Xác suất \(70\%\) đối tượng thuộc lớp 1 với đầu vào \(x\).

   3. Mô hình chính xác \(70\%\).

   4. \(\theta^Tx = 0.7\).

5. Hàm chi phí Logistic Regression khi \(y=1\) và \(h_\theta(x) \to 0\) sẽ:

   1. Tiến về 0 (cost nhỏ).

   2. Tiến về vô cực (cost rất lớn – phạt mạnh dự đoán sai).

   3. Bằng 0.5.

   4. Bằng \(-\log(0.5)\).

6. Phương pháp One-vs-Rest trong phân lớp đa lớp với \(k\) lớp cần huấn luyện:

   1. 1 bộ phân lớp.

   2. \(k-1\) bộ phân lớp.

   3. \(k\) bộ phân lớp.

   4. \(k(k-1)/2\) bộ phân lớp.

7. Trong Decision Tree, Leaf node chứa:

   1. Điều kiện kiểm tra thuộc tính.

   2. Nhãn lớp (class label).

   3. Tập con của dữ liệu huấn luyện.

   4. Hệ số Gini Index.

8. Information Gain \(\text{Gain}(A) = \text{Info}(D) - \text{Info}_A(D)\) là:

   1. Lượng thông tin cần thiết để phân lớp sau khi dùng thuộc tính A.

   2. Phần giảm entropy khi biết thuộc tính A (lớn hơn là tốt hơn).

   3. Độ đo Gini của phân hoạch.

   4. Xác suất thuộc tính A được chọn làm nút gốc.

9. Thuật toán cây quyết định nào sử dụng Gain Ratio?

   1. ID3.

   2. C4.5.

   3. CART.

   4. K-NN.

10. Gini Index nhỏ hơn tương ứng với:

    1. Partition có độ hỗn loạn cao hơn (impure).

    2. Partition thuần hơn (các đối tượng chủ yếu thuộc một lớp).

    3. Thuộc tính phân tách kém hơn.

    4. Entropy lớn hơn.

11. CART (Classification and Regression Trees) đặc điểm là:

    1. Cây đa phân (multiple branches per node).

    2. Cây nhị phân (binary split); sử dụng Gini Index.

    3. Cây nhị phân; sử dụng Information Gain.

    4. Cây đa phân; sử dụng Gain Ratio.

12. Trong Naive Bayes, giả định class conditional independence nghĩa là:

    1. Tất cả các lớp có xác suất bằng nhau.

    2. Các thuộc tính độc lập với nhau trong cùng một lớp.

    3. Các lớp độc lập với nhau.

    4. Thuộc tính liên tục và danh mục được xử lý giống nhau.

13. Laplace smoothing trong Naive Bayes giải quyết:

    1. Vấn đề dữ liệu thiếu (missing data).

    2. Vấn đề xác suất bằng 0 (zero-frequency problem).

    3. Vấn đề giả định độc lập bị vi phạm.

    4. Vấn đề chiều cao (high dimensionality).

14. Công thức Laplace smoothing: \(P(x_k \mid C_i) = \frac{\text{count} + 1}{|C_{i,D}| + m}\), trong đó \(m\) là:

    1. Số lớp trong tập dữ liệu.

    2. Số giá trị khác nhau của thuộc tính \(A_k\).

    3. Số mẫu trong tập huấn luyện.

    4. Số thuộc tính của đối tượng.

15. Trong ANN, ma trận trọng số \(\Theta^{(j)}\) ánh xạ:

    1. Từ lớp \(j+1\) về lớp \(j\).

    2. Từ lớp \(j\) sang lớp \(j+1\).

    3. Từ lớp đầu vào trực tiếp đến lớp đầu ra.

    4. Từ lớp ẩn sang lớp đầu vào.

16. Kích thước của \(\Theta^{(j)}\) trong ANN với \(s_j\) nút tại lớp \(j\) và \(s_{j+1}\) nút tại lớp \(j+1\) là:

    1. \(s_j \times s_{j+1}\)

    2. \(s_{j+1} \times (s_j + 1)\) (bao gồm bias)

    3. \((s_j + 1) \times s_{j+1}\)

    4. \(s_j \times (s_{j+1} + 1)\)

17. Trong Backpropagation, \(\delta^{(l)}_j\) biểu diễn:

    1. Giá trị kích hoạt của neuron \(j\) tại lớp \(l\).

    2. Sai số (error) tạo ra bởi neuron \(j\) tại lớp \(l\).

    3. Trọng số kết nối của neuron \(j\) tại lớp \(l\).

    4. Giá trị gradient của \(J\) theo \(\Theta^{(l)}_{ij}\).

18. K-NN phân lớp đối tượng mới bằng cách:

    1. Tính xác suất thuộc mỗi lớp theo Bayes.

    2. Bỏ phiếu đa số từ \(k\) đối tượng gần nhất trong tập huấn luyện.

    3. Xây dựng cây quyết định từ tập huấn luyện.

    4. Tính sigmoid của \(\theta^Tx\).

19. Khi \(k\) trong K-NN quá nhỏ, bộ phân lớp sẽ:

    1. Ổn định hơn với nhiễu.

    2. Nhạy cảm hơn với nhiễu (overfitting).

    3. Có xu hướng phân lớp sai do chọn quá nhiều lớp.

    4. Không bị ảnh hưởng bởi \(k\).

20. Giá trị \(k\) được gợi ý trong slide C4 là:

    1. \(k = 1\)

    2. \(k \leq \sqrt{|D|}\)

    3. \(k = 10\)

    4. \(k = |D| / 2\)

21. Precision được tính bằng:

    1. \(TP / (TP + FN)\)

    2. \(TP / (TP + FP)\)

    3. \(TN / (TN + FP)\)

    4. \((TP + TN) / (TP + FP + FN + TN)\)

22. Recall được tính bằng:

    1. \(TP / (TP + FP)\)

    2. \(TP / (TP + FN)\)

    3. \(FP / (FP + TN)\)

    4. \(TN / (TN + FN)\)

23. F-score được tính bằng:

    1. \((P + R) / 2\)

    2. \(2PR / (P + R)\)

    3. \(\sqrt{P \times R}\)

    4. \(P \times R\)

24. Với dataset 13 flows (9 BG và 4 FG), bộ phân lớp xác định 7 flows là BG (4 BG đúng và 3 FG sai). Precision và Recall của lớp BG lần lượt là:

    1. P = 4/9, R = 4/7.

    2. P = 4/7, R = 4/9.

    3. P = 4/13, R = 4/7.

    4. P = 4/7, R = 4/13.

25. Thuật toán cây quyết định nào sử dụng Information Gain và phù hợp với thuộc tính danh mục?

    1. C4.5.

    2. CART.

    3. ID3.

    4. Naive Bayes.

26. Trong ANN, lớp đầu vào \(L=1\) chứa:

    1. Kết quả dự đoán.

    2. Các đặc trưng đầu vào \(x_1, \ldots, x_n\) (và bias \(x_0 = 1\)).

    3. Các trọng số \(\Theta\).

    4. Giá trị delta (lỗi) của mỗi neuron.

27. \(\text{Info}(D) = -\sum_{i=1}^{m} p_i \log_2 p_i\) bằng 0 khi:

    1. Tất cả đối tượng phân bổ đều giữa các lớp.

    2. Tất cả đối tượng thuộc cùng một lớp (partition thuần nhất).

    3. \(m = 2\) lớp.

    4. \(|D| = 1\).

28. Bộ phân lớp nào dễ giải thích nhất (highest interpretability)?

    1. ANN với nhiều hidden layers.

    2. K-NN.

    3. Decision Tree.

    4. Logistic Regression với nhiều biến.

29. Ưu điểm chính của ANN so với Decision Tree là:

    1. ANN dễ hiểu và giải thích hơn.

    2. ANN xử lý tốt hơn các bài toán phân lớp phi tuyến phức tạp với dữ liệu chiều cao.

    3. ANN cần ít dữ liệu huấn luyện hơn.

    4. ANN huấn luyện nhanh hơn với mọi loại dữ liệu.

30. Tiêu chí Scalability trong đánh giá bộ phân lớp quan tâm đến:

    1. Khả năng bộ phân lớp hiểu được kết quả.

    2. Khả năng xây dựng và cập nhật bộ phân lớp với tập dữ liệu rất lớn.

    3. Khả năng phân lớp đúng các đối tượng nhiễu.

    4. Tốc độ dự đoán trên tập test.

31. Trong quy trình phân lớp 2 bước, bước Evaluation được thực hiện ở:

    1. Chỉ ở bước Training.

    2. Ở đầu bước Classification (dùng testing dataset để đánh giá trước khi áp dụng).

    3. Sau khi đã phân lớp tất cả dữ liệu mới.

    4. Không cần thực hiện evaluation nếu training dataset đủ lớn.

32. Phương trình \(h_\theta(x) = g(\theta_0 + \theta_1 x_1^2 + \theta_2 x_2^2)\) tạo ra decision boundary dạng:

    1. Đường thẳng.

    2. Đường tròn (hoặc elipse).

    3. Đường hyperbola.

    4. Không thể xác định.

33. Trong K-fold cross-validation, tổng số lần một mẫu dữ liệu được dùng để test là:

    1. \(k\) lần.

    2. 1 lần.

    3. \(k-1\) lần.

    4. \(1/k\) lần.

34. Trong Naive Bayes, \(P(C_i) = |C_{i,D}| / |D|\) biểu diễn:

    1. Likelihood (xác suất quan sát \(X\) nếu lớp là \(C_i\)).

    2. Prior probability (xác suất tiên nghiệm của lớp \(C_i\)).

    3. Posterior probability (xác suất hậu nghiệm).

    4. Evidence (hằng số chuẩn hóa).

35. ANN được lấy cảm hứng từ:

    1. Hệ thống điều khiển robot.

    2. Cấu trúc và hoạt động của não người.

    3. Cấu trúc cây quyết định phân cấp.

    4. Lý thuyết tập mờ (Fuzzy sets).

36. Khi Naive Bayes gặp vấn đề \(P(x_k \mid C_i) = 0\) mà không dùng Laplace smoothing thì:

    1. Chỉ ảnh hưởng đến thuộc tính đó.

    2. Toàn bộ \(P(X \mid C_i) = 0\), loại bỏ hoàn toàn lớp \(C_i\) khỏi xét.

    3. Tăng xác suất của các lớp khác.

    4. Không ảnh hưởng nếu có đủ thuộc tính khác.

37. Trong đánh giá mô hình phân lớp, độ đo Accuracy có hạn chế khi:

    1. Tập test quá nhỏ.

    2. Dữ liệu mất cân bằng lớp (class imbalance), ví dụ 99% lớp A và 1% lớp B.

    3. Số lớp lớn hơn 2.

    4. Bộ phân lớp sử dụng gradient descent.

ĐÁP ÁN

Câu hỏi tự luận – Hướng dẫn trả lời

Câu hỏi trắc nghiệm – Đáp án