Toán cho AI cần học những gì: lộ trình ba trụ cột từ nền tảng đến đọc được bài báo
Học AI cần đại số tuyến tính, giải tích, xác suất thống kê tới mức nào, học theo thứ tự nào, và cách tự kiểm mình đã đủ nền để đi tiếp.
Toán đứng sau trí tuệ nhân tạo
Vì sao AI cần ma trận, đạo hàm (gradient descent), xác suất; mạng nơ-ron là phép toán gì; hàm mất mát; nhúng từ là vector; lộ trình toán cho người muốn học AI.
Gradient descent là gì: thuật toán hạ dốc giải thích bằng ví dụ tính tay từng bước
Gradient descent là cách mô hình AI tự chỉnh tham số: đi ngược hướng đạo hàm từng bước nhỏ. Ví dụ tính tay, vai trò tốc độ học và các biến thể.
Mạng nơ-ron nhân tạo là phép toán gì: tính tay một mạng nhỏ từ đầu vào đến đầu ra
Mỗi nơ-ron nhân tạo chỉ là tổng có trọng số cộng độ lệch rồi qua một hàm phi tuyến. Tính tay một mạng hai lớp, viết thành ma trận, đếm tham số.
Hàm mất mát là gì: MSE, MAE và entropy chéo tính tay, chọn đúng cho từng bài toán
Hàm mất mát đo mô hình sai bao nhiêu và là thứ thuật toán huấn luyện thật sự tối ưu. Tính tay MSE, MAE, entropy chéo và cách chọn theo bài toán.
Lan truyền ngược (backpropagation) là gì: quy tắc dây chuyền tính tay qua hai lớp
Lan truyền ngược là cách tính đạo hàm của hàm mất mát theo mọi trọng số bằng quy tắc dây chuyền. Tính tay một mạng hai lớp và kiểm bằng sai phân.
Nhúng từ (word embedding) là gì: vì sao máy biểu diễn nghĩa của từ bằng vector
Nhúng từ biến mỗi từ thành một vector số sao cho từ gần nghĩa nằm gần nhau. Tính tay độ tương đồng cosine, cách vector được học và giới hạn của nó.
Softmax và nhiệt độ: mô hình ngôn ngữ chọn từ tiếp theo bằng xác suất như thế nào
Chatbot chọn từ tiếp theo bằng cách biến điểm số thành xác suất qua softmax rồi lấy mẫu. Tính tay softmax, ảnh hưởng của nhiệt độ, top-k và top-p.
Hồi quy logistic là gì: hàm sigmoid, tỉ số odds và một bước huấn luyện tính tay
Hồi quy logistic dự đoán xác suất có hay không bằng hàm sigmoid. Tính tay một ví dụ lọc thư, đọc hệ số qua tỉ số odds, một bước huấn luyện và chọn ngưỡng.
Quá khớp (overfitting) là gì: vì sao mô hình học thuộc và các cách chính quy hoá
Quá khớp là khi mô hình học thuộc dữ liệu huấn luyện mà dự đoán kém trên dữ liệu mới. Ví dụ tính tay, chia tập dữ liệu, chính quy hoá L1, L2 và dừng sớm.
Cơ chế chú ý (attention) trong Transformer là phép toán gì: tính tay với ba token
Cơ chế chú ý là tích vô hướng giữa truy vấn và khoá, qua softmax thành trọng số, rồi lấy trung bình có trọng số các giá trị. Tính tay và chi phí bình phương.
Bạn cần hỗ trợ thêm?
Để lại thông tin, chúng tôi sẽ liên hệ trong 24 giờ.