#top p

Softmax và nhiệt độ: mô hình ngôn ngữ chọn từ tiếp theo bằng xác suất như thế nào

Chatbot chọn từ tiếp theo bằng cách biến điểm số thành xác suất qua softmax rồi lấy mẫu. Tính tay softmax, ảnh hưởng của nhiệt độ, top-k và top-p.