Switch Transformer đưa Mixture of Experts vào một thiết kế đơn giản: mỗi token chỉ đi qua một expert. Nhờ tách số tham số khỏi lượng tính toán thực tế, Google đã huấn luyện...

Transformer không chỉ là một kiến trúc neural network mới. Nó thay đổi cách máy tính xử lý chuỗi: từ đọc tuần tự như LSTM sang nhìn toàn bộ ngữ cảnh bằng Attention, mở đường cho...

PyTorch 2.6, được phát hành vào ngày 29 tháng 1 năm 2025, mang đến nhiều cải tiến và tính năng mới so với các phiên bản trước đó. Dưới đây là tổng quan về những điểm nổi bật trong...

Ở bài viết này, mình sẽ giới thiệu các bạn một vài cách chuẩn hoá layer trong quá trình huấn luyện Deep learning, nào cùng bắt đầu nào

Hi các bạn, lại là mình đây, hôm nay mình sẽ cùng các bạn tìm hiểu thuật toán tối ưu hóa AdaBelief. Thuật toán này được sử dụng để thay cho thuật toán Adam optimizer mà các bạn...

Trong bài viết này, chúng ta sẽ tìm hiểu mô hình AlexNet và CaffeNet. AlexNet là mô hình neural network giành chiến thắng tại cuộc thi ILSVRC năm 2012.

Trong bài viết này, chúng ta sẽ tìm hiểu mô hình MobileNetV1 của nhóm tác giả Andrew G. Howard, Menglong Zhu, Bo Chen, Dmitry Kalenichenko, Weijun Wang, Tobias Weyand, Marco...

Trong bài viết này, chúng ta sẽ đề cập chủ yếu vào khái niệm dropout của mạng neural network và mô hình deep nets. Trong đó sẽ có vài thực nghiệm để thấy được hiệu quả của việc sử...

Tại sự kiện I/O đang diễn ra tại Mountain View, California (Mỹ), Google đã công bố nhiều thay đổi quan trọng cho Google Photos. Một trong những tính năng gây ấn tượng tại sự kiện...

Ở bài viết này, chúng ta sẽ sử dụng pretrain model của kares để phân loại hoa hồng (rose), hoa mặt trời (sunflower), hoa bồ công anh (dandelion), hoa cúc (daisy) và hoa tulip.

Bạn huấn luyện một hình mất hơn 12 tiếng đồng hồ. Mọi thứ khá ổn, loss function giảm. Nhưng khi bạn mang mô hình ra predict thì điều tồi tệ nhất xảy ra, tất cả trả về đều là 0,...

Trong vài năm trở lại đây (khoảng từ 2013) chúng ta có thể thấy rằng báo chí trong và ngoài nước có khá nhiều bài viết giật tít về “Cách mạng công nghiệp lần thứ tư” hay “Công...

Ở bài viết này, chúng ta sẽ thực hiện phân đoạn ảnh sử dụng Mask R-CNN với tập dữ liệu là những quả bóng bay bảy màu rất đẹp.

Khi bạn làm thực tế LSTM, rất khó để xác định số lượng node ẩn, số lớp của mô hình. Trong bài này, mình sẽ trình bày một công thức để giúp các bạn đỡ phải băng khoăn khi lựa chọn...

Ở bài viết này, chúng ta tìm hiểu một số mẹo khi huấn luyện mô hình sử dụng deep learning.