Muốn hiểu trí tuệ nhân tạo ở mức đọc được mã nguồn và bài báo, bạn cần ba mảng toán: đại số tuyến tính, giải tích (nhất là đạo hàm của hàm nhiều biến) và xác suất thống kê, cộng thêm một ít tối ưu hoá. Không cần học hết giáo trình toán đại học. Cần hiểu chắc một nhóm khái niệm hẹp hơn nhiều: vector và phép nhân ma trận, đạo hàm và quy tắc dây chuyền, phân phối xác suất và kỳ vọng, cách một hàm được làm nhỏ dần đi bằng các bước lặp.
Bài này dành cho sinh viên năm đầu, người đi làm muốn chuyển sang dữ liệu hay AI, và học sinh khá toán muốn đi trước. Phần đầu giải thích vì sao lại là ba mảng đó, phần giữa chia mức độ cần học theo mục tiêu của bạn, phần cuối là lộ trình bốn chặng cùng một danh sách câu hỏi tự kiểm để biết lúc nào nên đi tiếp.
Vì sao lại là ba mảng toán này
Một mô hình học máy, dù là hồi quy đơn giản hay mô hình ngôn ngữ lớn, đều làm cùng một vòng việc: biến dữ liệu thành con số, đưa con số qua một hàm có nhiều tham số, đo xem kết quả lệch bao nhiêu so với đáp án, rồi chỉnh tham số để lần sau lệch ít hơn. Mỗi khâu của vòng đó ứng với một mảng toán.
Đại số tuyến tính lo khâu biểu diễn và tính toán. Một bức ảnh là một bảng số, một câu văn sau khi mã hoá là một dãy vector, một lớp mạng nơ-ron là một phép nhân ma trận. Máy tính chạy AI nhanh được chính vì phần cứng đồ hoạ nhân ma trận rất giỏi. Giải tích lo khâu chỉnh tham số: đạo hàm cho biết đổi một tham số một chút thì sai số tăng hay giảm, từ đó thuật toán hạ dốc biết phải đi hướng nào. Xác suất thống kê lo khâu đo lường và diễn giải: mô hình phân loại trả về xác suất, mô hình ngôn ngữ chọn từ tiếp theo theo một phân phối, và việc đánh giá mô hình trên dữ liệu mới là bài toán thống kê.
Tối ưu hoá là phần giao của giải tích và đại số tuyến tính, nên thường được học kèm. Lý thuyết thông tin chỉ cần vài khái niệm như entropy và entropy chéo, đủ để hiểu hàm mất mát của bài toán phân loại. Ngoài năm mảng đó, những thứ như lý thuyết số hay hình học vi phân chỉ cần khi bạn làm nghiên cứu ở các nhánh rất chuyên.
Từng phần toán xuất hiện ở đâu trong AI
Bảng dưới nối từng khái niệm với chỗ nó xuất hiện trong thực tế. Khi học một khái niệm mà không biết nó dùng vào đâu, bạn có thể quay lại bảng này để tìm động lực.
| Khái niệm toán | Xuất hiện ở đâu trong AI | Mức cần nắm |
|---|---|---|
| Vector, tích vô hướng, độ dài | Nhúng từ, đo độ giống nhau giữa hai câu, cơ chế chú ý | Tính tay thành thạo, hiểu ý nghĩa hình học |
| Phép nhân ma trận, chuyển vị | Mỗi lớp mạng nơ-ron, xử lý cả lô dữ liệu cùng lúc | Biết kích thước đầu vào và đầu ra của phép nhân |
| Trị riêng, phân tích suy biến | Giảm chiều dữ liệu, nén mô hình, phân tích ổn định | Hiểu ý nghĩa, không cần tự chứng minh |
| Đạo hàm, đạo hàm riêng, gradient | Huấn luyện mọi mạng nơ-ron | Tính được với hàm đơn giản, hiểu gradient là một vector |
| Quy tắc dây chuyền | Lan truyền ngược | Áp dụng được qua hai, ba lớp hàm lồng nhau |
| Phân phối, kỳ vọng, phương sai | Khởi tạo trọng số, chuẩn hoá dữ liệu, đầu ra xác suất | Hiểu và tính với ví dụ nhỏ |
| Hợp lý cực đại, entropy chéo | Hàm mất mát của bài toán phân loại và mô hình ngôn ngữ | Hiểu vì sao lấy logarit |
| Định lý Bayes | Bộ lọc thư rác kiểu cổ điển, mô hình sinh, suy luận khi thiếu dữ liệu | Áp dụng được với bảng số nhỏ |
Để ý cột cuối: phần lớn khái niệm chỉ cần hiểu ý nghĩa và tính được với ví dụ nhỏ. Thư viện lập trình sẽ làm phần tính toán lớn; việc của bạn là biết nó đang tính cái gì để nhận ra khi kết quả vô lý.
Bạn cần học sâu đến đâu: ba mức theo mục tiêu
Mức dùng công cụ. Bạn dùng chatbot, gọi mô hình có sẵn qua giao diện lập trình, ghép AI vào quy trình công việc. Ở mức này toán phổ thông là đủ, cộng thêm hiểu biết về xác suất để không tin tuyệt đối vào câu trả lời của máy, và hiểu thống kê đủ để đánh giá kết quả trên dữ liệu của chính mình. Đừng để ai thuyết phục bạn rằng phải học xong giải tích nhiều biến mới được dùng AI.
Mức kỹ sư học máy. Bạn huấn luyện, tinh chỉnh, đánh giá mô hình. Bạn cần đọc được công thức trong tài liệu thư viện, hiểu vì sao mô hình không hội tụ, vì sao sai số trên tập huấn luyện thấp mà trên dữ liệu mới lại cao. Đây là mức của lộ trình trong bài: đại số tuyến tính, giải tích nhiều biến, xác suất thống kê ở mức năm nhất, năm hai đại học, học có chọn lọc.
Mức nghiên cứu. Bạn đọc và viết bài báo khoa học, đề xuất kiến trúc mới, chứng minh tính chất của thuật toán. Lúc này cần thêm tối ưu lồi, xác suất nâng cao, giải tích hàm hoặc lý thuyết học thống kê tuỳ hướng. Mức này thường đi kèm chương trình sau đại học, và cách học khác hẳn: đọc chứng minh, tự làm lại, trao đổi với người hướng dẫn.
Chọn mức trước khi chọn sách. Nhiều người bỏ cuộc vì cầm nhầm giáo trình của mức ba trong khi mục tiêu là mức hai. Xác định mục tiêu ba đến sáu tháng tới trước, rồi mới chọn tài liệu tương ứng. Mục tiêu có thể nâng dần, nền tảng học trước không bị phí.
Lộ trình bốn chặng cho người học ở mức kỹ sư
Thứ tự dưới đây ưu tiên những gì gặp sớm nhất khi bắt tay vào mô hình thật. Thời lượng mỗi chặng tuỳ nền của bạn; người đã học đại học khối kỹ thuật thường đi nhanh hơn nhiều vì chỉ cần ôn lại.
- Chặng một, ôn hàm số và đạo hàm một biến. Hàm mũ, logarit, đạo hàm của tổng, tích, hàm hợp. Tự tính đạo hàm của hàm 1/(1 + e mũ âm x) và nhận ra nó bằng chính hàm đó nhân với một trừ hàm đó. Đây là hàm sigmoid, gặp lại rất nhiều lần.
- Chặng hai, vector và ma trận. Tích vô hướng, độ dài, góc giữa hai vector, nhân ma trận với vector, nhân hai ma trận, ma trận chuyển vị. Mục tiêu là nhìn một phép nhân ma trận và nói ngay kích thước kết quả, ví dụ ma trận 3 hàng 4 cột nhân với vector 4 thành phần cho vector 3 thành phần.
- Chặng ba, đạo hàm riêng và gradient. Hàm hai biến, đạo hàm riêng theo từng biến, gradient là vector gom các đạo hàm riêng, quy tắc dây chuyền cho hàm lồng nhau. Song song học thuật toán hạ dốc và tự lập trình nó cho một hàm hai biến.
- Chặng bốn, xác suất cho mô hình. Biến ngẫu nhiên, phân phối Bernoulli và phân phối chuẩn, kỳ vọng, phương sai, định lý Bayes, hợp lý cực đại, entropy chéo. Kết thúc chặng bằng việc tự viết hồi quy logistic từ đầu, không dùng thư viện học máy.
- Sau bốn chặng. Đọc kiến trúc mạng nơ-ron và cơ chế chú ý, lần này với tâm thế kiểm từng công thức: kích thước có khớp không, đạo hàm đi theo đường nào, xác suất được chuẩn hoá ở đâu.
Mỗi chặng nên kết thúc bằng một sản phẩm nhỏ tự làm được, ví dụ một trang ghi chép tự giải thích hoặc một đoạn mã tự viết. Có sản phẩm thì mới biết mình hiểu thật hay chỉ quen mặt chữ.
Dùng chatbot làm gia sư toán mà không bị dắt mũi
Chatbot giải thích khái niệm khá tốt, nhưng có thể tính sai, nhất là với phép tính nhiều bước. Dùng nó như người hướng dẫn hỏi gợi ý, không như máy giải bài. Vài câu lệnh mẫu bạn có thể chép và sửa:
- “Giải thích tích vô hướng của hai vector cho người mới, dùng một ví dụ hai chiều có số cụ thể, sau đó ra cho người học ba bài tự luyện, chưa đưa đáp án.”
- “Đây là lời giải đạo hàm của người học: [dán lời giải]. Chỉ ra bước nào sai nếu có, nhưng không viết lại lời giải đúng, chỉ gợi ý chỗ cần xem lại.”
- “Phép nhân ma trận này dùng ở đâu trong một lớp mạng nơ-ron? Mô tả kích thước từng ma trận khi đầu vào là một lô 32 ảnh, mỗi ảnh là vector 784 số.”
- “Nêu ba hiểu lầm phổ biến của người mới học về gradient, mỗi hiểu lầm kèm một ví dụ phản bác.”
Với mọi con số chatbot đưa ra, hãy tự tính lại bằng tay hoặc bằng một đoạn mã ngắn. Một thói quen tốt là yêu cầu nó đưa ví dụ đủ nhỏ để kiểm được trong hai phút. Nếu ví dụ quá lớn để kiểm, nó không giúp bạn học.
Những hiểu lầm khiến người học bỏ cuộc giữa chừng
“Phải giỏi toán từ nhỏ mới học được AI.” Phần toán cần cho mức kỹ sư là một tập khái niệm có giới hạn. Người học lại ở tuổi đi làm thường có lợi thế là biết mình học để làm gì, nên chọn lọc tốt hơn sinh viên.
“Học toán xong mới bắt đầu lập trình.” Học song song hiệu quả hơn nhiều. Viết ba dòng mã nhân ma trận và in ra kích thước giúp nhớ lâu hơn đọc mười trang định nghĩa.
“Thư viện làm hết rồi, không cần hiểu.” Thư viện tính đạo hàm tự động, nhưng không báo cho bạn biết tốc độ học quá lớn, dữ liệu chưa chuẩn hoá, hay hàm mất mát chọn sai cho bài toán. Những lỗi đó chỉ người hiểu toán mới chẩn đoán được.
“Cần chứng minh được mọi định lý.” Ở mức kỹ sư, hiểu định lý nói gì và khi nào nó đúng quan trọng hơn chứng minh. Chứng minh là kỹ năng riêng, đáng học nếu bạn đi tiếp lên nghiên cứu.
“AI hiện đại dùng loại toán bí ẩn nào đó.” Các mô hình lớn vẫn được xây chủ yếu từ nhân ma trận, hàm phi tuyến đơn giản, softmax và hạ dốc. Cái khó nằm ở quy mô và kỹ thuật, không phải ở một nhánh toán xa lạ.
Bộ câu hỏi tự kiểm trước khi đi tiếp
Trả lời được phần lớn các câu dưới đây mà không tra cứu là dấu hiệu bạn đã đủ nền để đọc tài liệu học sâu nghiêm túc. Câu nào còn lúng túng thì quay lại đúng chặng tương ứng, không cần học lại từ đầu.
- Tích vô hướng của (1; 2; 3) và (4; 0; −1) bằng bao nhiêu? Đáp án là 1, vì 4 + 0 − 3 = 1.
- Ma trận 128 hàng 784 cột nhân với vector 784 thành phần cho ra vector bao nhiêu thành phần?
- Đạo hàm của hàm (2x + 1) bình phương tại x = 1 bằng bao nhiêu? Đáp án là 12, vì đạo hàm là 4(2x + 1).
- Gradient của hàm f(x, y) = x² + 3y tại điểm (1; 2) là vector nào? Đáp án là (2; 3).
- Vì sao lấy logarit của xác suất mà không dùng thẳng xác suất khi huấn luyện mô hình?
- Một xét nghiệm có độ nhạy cao vẫn có thể cho nhiều kết quả dương tính giả khi nào?
- Nếu sai số trên tập huấn luyện giảm đều nhưng trên tập kiểm định lại tăng, chuyện gì đang xảy ra?
Các đáp án đã ghi sẵn ở vài câu để bạn tự đối chiếu. Những câu còn lại đều có bài giải thích riêng trong danh mục này và các danh mục đại số tuyến tính, giải tích, xác suất thống kê của trang.
Câu hỏi thường gặp
Người học khối xã hội có học được toán cho AI không?
Được, nếu chấp nhận bắt đầu từ hàm số và đạo hàm một biến thay vì nhảy vào mạng nơ-ron. Phần lớn khó khăn của người khối xã hội là thiếu thói quen tính tay, không phải thiếu năng lực. Mỗi ngày làm vài bài nhỏ trong vài tháng thường đủ để đi qua chặng một và chặng hai.
Nên học đại số tuyến tính hay giải tích trước?
Hai mảng gần như độc lập ở mức nhập môn, nên có thể học song song. Nếu phải chọn, nhiều người thấy học vector và ma trận trước dễ vào hơn vì gặp ngay khi viết mã. Đạo hàm riêng và gradient cần nền đạo hàm một biến, nên ôn phần đó trước khi tới chặng ba.
Có cần học lý thuyết độ đo trong xác suất không?
Ở mức kỹ sư thì không. Xác suất ở mức giáo trình năm nhất, năm hai là đủ để hiểu hầu hết mô hình phổ biến. Lý thuyết độ đo chỉ cần khi bạn đọc chứng minh trong các bài báo lý thuyết về học thống kê hoặc mô hình khuếch tán ở mức sâu.
Học toán cho AI mất bao lâu?
Không có con số chung vì phụ thuộc nền cũ và thời gian mỗi tuần. Ví dụ giả định: người từng học kỹ thuật, dành năm đến bảy giờ mỗi tuần, có thể đi qua bốn chặng trong vài tháng. Người bắt đầu lại từ hàm số sẽ cần lâu hơn, và điều đó hoàn toàn bình thường.
Có nên dùng chatbot để giải bài tập toán khi tự học không?
Nên dùng để hỏi gợi ý, kiểm lời giải của mình và xin thêm bài luyện, không nên dùng để lấy lời giải hoàn chỉnh. Chatbot có thể sai ở bước tính, và chép lời giải không tạo ra kỹ năng. Mọi kết quả số nên được tự kiểm bằng tay hoặc bằng đoạn mã ngắn.
Đọc bài báo về AI cần thêm gì ngoài ba mảng toán?
Cần làm quen với cách ký hiệu riêng của lĩnh vực, ví dụ chữ in đậm cho vector, chữ hoa cho ma trận, và thói quen viết hàm mất mát dưới dạng kỳ vọng. Đọc chậm phần phương pháp, tự kiểm kích thước của mọi ma trận trong công thức, là cách luyện nhanh nhất.