# 2️⃣ Black-box vs Interpretable Models (So sánh)

<figure><img src="/files/Q4GMcv8IfdD1RBJEbxAC" alt=""><figcaption></figcaption></figure>

### 1. Black-box model là gì?

**Black-box model** là mô hình mà:

* Ta **thấy input và output**
* Nhưng **không hiểu rõ cơ chế bên trong**
* Khó trả lời câu hỏi *“vì sao ra kết quả này?”*

Ví dụ tiêu biểu:

* Deep Neural Network
* CNN, Transformer, GNN (ở dạng đầy đủ)

👉 Đặc điểm chính:

* Rất mạnh
* Rất chính xác
* Nhưng **khó giải thích**

***

### 2. Interpretable model là gì?

**Interpretable model** là mô hình mà:

* Cấu trúc **dễ hiểu với con người**
* Có thể:
  * Theo dõi logic quyết định
  * Giải thích từng bước

Ví dụ tiêu biểu:

* Linear Regression
* Logistic Regression
* Decision Tree (nhỏ, nông)

👉 Đặc điểm chính:

* Dễ giải thích
* Dễ kiểm tra
* Nhưng **giới hạn về độ phức tạp**

***

### 3. So sánh trực diện (bảng rất quan trọng)

| Tiêu chí                    | Black-box model      | Interpretable model |
| --------------------------- | -------------------- | ------------------- |
| Độ chính xác                | Thường cao           | Thường thấp hơn     |
| Độ phức tạp                 | Rất cao              | Thấp – vừa          |
| Khả năng giải thích         | Rất khó              | Dễ                  |
| Phù hợp dữ liệu lớn         | Rất tốt              | Hạn chế             |
| Phù hợp y sinh / pháp lý    | ❌ nếu không có XAI   | ✅                   |
| Khả năng phát hiện tri thức | Thấp (nếu không XAI) | Cao                 |

👉 **Không có mô hình “tốt tuyệt đối”**, chỉ có **phù hợp hay không**.

***

### 4. Một hiểu lầm phổ biến

❌ *Interpretable model là “mô hình yếu”*\
✔️ **Sai**

* Interpretable model:
  * Rất mạnh trong:
    * Dữ liệu tabular
    * Dữ liệu ít
    * Bài toán cần giải thích
* Nhiều nghiên cứu cho thấy:
  * Decision Tree / Linear Model
  * Có thể **đủ tốt** cho nhiều bài toán thực tế

***

### 5. Vì sao Deep Learning thường là black-box?

Vì:

* Quá nhiều layer
* Quá nhiều neuron
* Quá nhiều weight

➡️ Con người:

* Không thể đọc
* Không thể suy luận trực tiếp

👉 Black-box **không phải lỗi**, mà là **hệ quả của độ phức tạp**.

***

### 6. XAI đứng ở đâu giữa hai thế giới?

**Explainable AI (XAI)** đóng vai trò:

* **Cầu nối**

```
Black-box model
      ↓
     XAI
      ↓
Giải thích cho con người
```

XAI giúp:

* Giữ sức mạnh của Deep Learning
* Nhưng vẫn:
  * Hiểu được mô hình
  * Tin được kết quả
  * Kiểm soát được rủi ro

***

### 7. Chiến lược thực tế (rất nên dùng)

Trong nghiên cứu & ứng dụng:

1. Thử **Interpretable model** trước
2. Nếu chưa đủ tốt → dùng **Black-box model**
3. Bắt buộc:
   * Gắn **XAI**
   * So sánh & giải thích

👉 Đây là **workflow chuẩn**, đặc biệt trong y sinh.

***

### 8. Tóm tắt để ghi nhớ

> **Interpretable model cho sự minh bạch**\
> **Black-box model cho sức mạnh**\
> **XAI giúp bạn có cả hai**

Câu nhớ nhanh:

```
Không phải tránh black-box.
Mà là phải hiểu khi nào cần giải thích.
```

<figure><img src="/files/b5bGt4j1xzzvGb3yGdjC" alt=""><figcaption></figcaption></figure>


---

# Agent Instructions: Querying This Documentation

If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter:

```
GET https://deeplearningcoban.gitbook.io/deeplearningcoban.com/explainable-ai-xai/black-box-vs-interpretable-models-so-sanh.md?ask=<question>
```

The question should be specific, self-contained, and written in natural language.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.