Đo convolution thường và depthwise kèm pointwise bằng PyTorch trên CPU, so sánh MACs, tham số, median và IQR khi đổi batch size và số luồng.

Mô phỏng NumPy so sánh target DQN và Double DQN qua năm seed, đo sai lệch khi lấy max, ảnh hưởng của nhiễu tương quan và chọn sai hành động.

BatchNorm dùng thống kê theo kênh, LayerNorm theo đặc trưng của mẫu. Ví dụ PyTorch kiểm tra batch nhỏ, running statistics và chế độ train/eval.

Monte Carlo Dropout giữ dropout bật khi suy luận để đo độ phân tán dự đoán. Thực hành PyTorch với BatchNorm và kiểm tra giới hạn khi ngoại suy.

Switch Transformer đưa Mixture of Experts vào một thiết kế đơn giản: mỗi token chỉ đi qua một expert. Nhờ tách số tham số khỏi lượng tính toán thực tế, Google đã huấn luyện...

Transformer không chỉ là một kiến trúc neural network mới. Nó thay đổi cách máy tính xử lý chuỗi: từ đọc tuần tự như LSTM sang nhìn toàn bộ ngữ cảnh bằng Attention, mở đường cho...

PyTorch 2.6, được phát hành vào ngày 29 tháng 1 năm 2025, mang đến nhiều cải tiến và tính năng mới so với các phiên bản trước đó. Dưới đây là tổng quan về những điểm nổi bật trong...

Ở bài viết này, mình sẽ giới thiệu các bạn một vài cách chuẩn hoá layer trong quá trình huấn luyện Deep learning, nào cùng bắt đầu nào

Hi các bạn, lại là mình đây, hôm nay mình sẽ cùng các bạn tìm hiểu thuật toán tối ưu hóa AdaBelief. Thuật toán này được sử dụng để thay cho thuật toán Adam optimizer mà các bạn...

Trong bài viết này, chúng ta sẽ tìm hiểu mô hình AlexNet và CaffeNet. AlexNet là mô hình neural network giành chiến thắng tại cuộc thi ILSVRC năm 2012.

Trong bài viết này, chúng ta sẽ tìm hiểu mô hình MobileNetV1 của nhóm tác giả Andrew G. Howard, Menglong Zhu, Bo Chen, Dmitry Kalenichenko, Weijun Wang, Tobias Weyand, Marco...

Dropout tắt ngẫu nhiên một phần neuron khi huấn luyện để mạng không dựa dẫm vào vài neuron, nhờ đó giảm overfitting. Cơ chế, code PyTorch/Keras và thí nghiệm.

Tại sự kiện I/O đang diễn ra tại Mountain View, California (Mỹ), Google đã công bố nhiều thay đổi quan trọng cho Google Photos. Một trong những tính năng gây ấn tượng tại sự kiện...

Ở bài viết này, chúng ta sẽ sử dụng pretrain model của kares để phân loại hoa hồng (rose), hoa mặt trời (sunflower), hoa bồ công anh (dandelion), hoa cúc (daisy) và hoa tulip.

Bạn huấn luyện một hình mất hơn 12 tiếng đồng hồ. Mọi thứ khá ổn, loss function giảm. Nhưng khi bạn mang mô hình ra predict thì điều tồi tệ nhất xảy ra, tất cả trả về đều là 0,...

Trong vài năm trở lại đây (khoảng từ 2013) chúng ta có thể thấy rằng báo chí trong và ngoài nước có khá nhiều bài viết giật tít về “Cách mạng công nghiệp lần thứ tư” hay “Công...

Ở bài viết này, chúng ta sẽ thực hiện phân đoạn ảnh sử dụng Mask R-CNN với tập dữ liệu là những quả bóng bay bảy màu rất đẹp.

Khi bạn làm thực tế LSTM, rất khó để xác định số lượng node ẩn, số lớp của mô hình. Trong bài này, mình sẽ trình bày một công thức để giúp các bạn đỡ phải băng khoăn khi lựa chọn...

Ở bài viết này, chúng ta tìm hiểu một số mẹo khi huấn luyện mô hình sử dụng deep learning.