Deep learning là gì? Học sâu, mạng nơ-ron hoạt động thế nào và khác machine learning ra sao

Deep learning là gì?

Deep learning (học sâu) là nhánh của machine learning dùng mạng nơ-ron nhân tạo nhiều lớp để học từ dữ liệu. Chữ “sâu” chỉ số lớp: Google định nghĩa mô hình sâu là mạng nơ-ron có hơn một lớp ẩn. Mỗi lớp học được một mức đặc trưng, ví dụ với ảnh thì lớp đầu nhận ra cạnh và màu, lớp sau ghép thành hình, lớp sau nữa nhận ra mắt, mũi, khuôn mặt.

Học sâu là nền của nhận diện ảnh và giọng nói, dịch máy, xe tự lái và của AI tạo sinh hiện nay: các mô hình ngôn ngữ lớn như GPT, Gemini, Claude và các model tạo ảnh, video đều là mô hình học sâu.

Mạng nơ-ron nhân tạo hoạt động thế nào?

Mạng nơ-ron gồm nhiều nơ-ron xếp thành lớp: lớp đầu vào nhận dữ liệu (điểm ảnh, mẫu âm thanh, token chữ), các lớp ẩn biến đổi dần, lớp đầu ra cho kết quả như nhãn “mèo” hay từ tiếp theo. Mỗi nơ-ron nhân các giá trị đầu vào với trọng số, cộng lại rồi cho qua một hàm kích hoạt phi tuyến như ReLU. Các trọng số này là tham số của mô hình; mô hình ngôn ngữ lớn có tới hàng tỷ tham số.

1. Lan truyền xuôi: đưa một lô dữ liệu qua mạng để ra dự đoán.
2. Tính sai số: hàm mất mát (loss) đo dự đoán lệch đáp án bao nhiêu.
3. Lan truyền ngược (backpropagation): tính xem mỗi trọng số góp vào sai số bao nhiêu, phương pháp được biết rộng rãi từ bài báo của Rumelhart, Hinton và Williams trên Nature năm 1986.
4. Cập nhật trọng số theo hướng giảm sai số (gradient descent), rồi lặp lại hàng nghìn tới hàng triệu lần trên nhiều dữ liệu. Phép tính chủ yếu là nhân ma trận nên chạy nhanh trên GPU.

Deep learning và machine learning khác nhau như thế nào?

Deep learning là một phần của machine learning, nên câu hỏi đúng là học sâu khác các phương pháp học máy cổ điển như hồi quy, cây quyết định ở đâu:

• Đặc trưng: học máy cổ điển thường cần người chọn sẵn đặc trưng, ví dụ diện tích, số phòng khi đoán giá nhà; học sâu tự học đặc trưng từ dữ liệu thô như điểm ảnh, sóng âm, chữ.
• Dữ liệu và tính toán: học sâu cần nhiều dữ liệu và GPU hơn hẳn; với bảng số liệu nhỏ, mô hình cổ điển thường đủ tốt, nhanh và rẻ hơn.
• Khả năng giải thích: mô hình cổ điển dễ giải thích vì sao ra kết quả; mạng nơ-ron hàng triệu tham số khó lần ra lý do, thường bị gọi là hộp đen.
• Việc hợp: học sâu mạnh ở ảnh, âm thanh, video, ngôn ngữ; học máy cổ điển vẫn phổ biến cho dữ liệu dạng bảng như chấm điểm tín dụng, dự báo doanh số.

Các kiến trúc deep learning phổ biến

Mỗi kiến trúc hợp với một kiểu dữ liệu:

• CNN (mạng nơ-ron tích chập): quét ảnh bằng các bộ lọc nhỏ để nhận ra mẫu hình; dùng cho nhận diện ảnh, đọc chữ viết tay, ảnh y tế.
• RNN và LSTM (LSTM ra đời năm 1997): xử lý chuỗi theo thứ tự như câu chữ, giọng nói, chuỗi thời gian; từng là lựa chọn chính cho dịch máy và nhận dạng giọng nói.
• Transformer (2017): dùng cơ chế attention để mỗi phần của chuỗi nhìn được mọi phần khác cùng lúc, huấn luyện song song tốt; là nền của GPT, Gemini, Claude và nhiều model ảnh, âm thanh.
• Mô hình khuếch tán (diffusion): học cách khử nhiễu dần từ một ảnh toàn nhiễu để tạo ảnh, video mới; đứng sau nhiều công cụ AI tạo ảnh.

Các mốc chính của học sâu

Vài mốc giúp hiểu vì sao học sâu bùng nổ sau năm 2012:

• 1986: bài báo về lan truyền ngược trên Nature giúp huấn luyện được mạng nhiều lớp.
• 2012: mạng AlexNet, huấn luyện trên hai GPU, thắng cuộc thi nhận diện ảnh ImageNet với tỷ lệ lỗi 15,3%, so với 26,2% của đội xếp sau.
• 2017: bài báo “Attention Is All You Need” giới thiệu Transformer.
• 2019: Yoshua Bengio, Geoffrey Hinton và Yann LeCun nhận giải Turing 2018 cho những đột phá đưa mạng nơ-ron sâu thành phần cốt lõi của máy tính.
• 30/11/2022: OpenAI ra mắt ChatGPT, đưa mô hình học sâu tới hàng trăm triệu người dùng.
• 2024: John Hopfield và Geoffrey Hinton nhận giải Nobel Vật lý cho các khám phá nền tảng giúp học máy bằng mạng nơ-ron nhân tạo trở nên khả thi.

Ví dụ deep learning trong đời sống

Bạn dùng học sâu hằng ngày dù không để ý:

• Mở khoá bằng khuôn mặt, tìm ảnh theo nội dung như “biển” hay “con chó” trong thư viện ảnh.
• Trợ lý giọng nói, chuyển giọng nói thành chữ, phụ đề tự động trên video.
• Dịch máy: Google Dịch chuyển sang dịch bằng mạng nơ-ron từ năm 2016; nay có thêm AI dịch thuật bằng trợ lý như ChatGPT, Gemini.
• Chatbot và trợ lý AI như ChatGPT, Gemini, Claude; tạo ảnh, video từ câu mô tả.
• Gợi ý video, sản phẩm; phát hiện giao dịch bất thường; hỗ trợ bác sĩ đọc ảnh X-quang, CT.

Một mạng nơ-ron nhỏ bằng PyTorch

Đoạn code dưới dựng một mạng hai lớp ẩn và chạy đủ bốn bước huấn luyện ở trên trên dữ liệu giả lập, để thấy học sâu trông thế nào trong code. Chạy được trên máy thường hoặc Google Colab:

# pip install torch
import torch
from torch import nn

# 4 đặc trưng đầu vào, 2 lớp ẩn 16 nơ-ron, 3 nhãn đầu ra
model = nn.Sequential(
    nn.Linear(4, 16), nn.ReLU(),
    nn.Linear(16, 16), nn.ReLU(),
    nn.Linear(16, 3),
)
loss_fn = nn.CrossEntropyLoss()
optimizer = torch.optim.Adam(model.parameters(), lr=0.01)

x = torch.randn(64, 4)          # 64 mẫu giả lập
y = torch.randint(0, 3, (64,))  # nhãn 0, 1 hoặc 2

for epoch in range(100):
    logits = model(x)           # lan truyền xuôi
    loss = loss_fn(logits, y)   # tính sai số
    optimizer.zero_grad()
    loss.backward()             # lan truyền ngược
    optimizer.step()            # cập nhật trọng số

print(f"loss sau 100 vòng: {loss.item():.3f}")

Học deep learning bắt đầu từ đâu?

Lộ trình gợi ý cho người mới:

1. Nắm khái niệm toán nền: đại số tuyến tính (vectơ, ma trận), đạo hàm, xác suất.
2. Học Python, NumPy và các khái niệm học máy cơ bản như chia dữ liệu, overfitting trong bài machine learning là gì.
3. Chọn một framework, thường là PyTorch; TensorFlow với Keras và JAX cũng phổ biến.
4. Đọc sách miễn phí Dive into Deep Learning (d2l.ai), có bản dịch tiếng Việt “Đắm mình vào Học Sâu” ở vi.d2l.ai, mỗi bài là một notebook chạy được.
5. Thực hành trên Google Colab, rồi thử tinh chỉnh một model có sẵn từ Hugging Face thay vì huấn luyện từ đầu.
6. Muốn dùng sức mạnh của model lớn mà không tự huấn luyện, gọi LLM qua API; xem bài API tương thích OpenAI.

Giới hạn của deep learning

Học sâu cần nhiều dữ liệu và điện năng tính toán, khó giải thích vì sao ra kết quả, có thể học cả thiên lệch trong dữ liệu và trả lời sai một cách tự tin, như hiện tượng bịa thông tin ở chatbot. Vì vậy hệ thống dùng trong y tế, tín dụng, tuyển dụng cần được kiểm tra kỹ và có người giám sát; ở Việt Nam, danh mục hệ thống AI rủi ro cao theo Luật Trí tuệ nhân tạo có cả hệ thống tự động quyết định cấp tín dụng.

Câu hỏi thường gặp