https://www.phamduytung.com/tags/ai-infrastructure/ Recent content in Ai Infrastructure on Phạm Duy Tùng Machine Learning Blog Hugo vi-VN Copyright © 2016-{year} Phạm Duy Tùng. All Rights Reserved. Sat, 04 Jul 2026 00:10:00 +0700 https://www.phamduytung.com/blog/2026-07-04-ai-on-fly/ Sat, 04 Jul 2026 00:10:00 +0700 https://www.phamduytung.com/blog/2026-07-04-ai-on-fly/ Một câu hỏi gửi cho ChatGPT nhìn rất nhẹ, chỉ là vài chữ gõ lên màn hình rồi chờ câu trả lời hiện ra. Nhưng phía sau cái nhẹ như mây đó là một chuỗi phản ứng vật lý rất thật, điện chạy qua chip, GPU nóng lên, hệ thống làm mát hoạt động, data center tiêu thụ năng lượng, nước và đất đai. Khi AI trở thành thói quen hằng ngày, điều đáng suy nghĩ không chỉ là mô hình nào thông minh hơn, mà còn là chúng ta đang dùng sức mạnh tính toán đó để tạo ra tri thức hay chỉ để sản xuất thêm rác số. https://www.phamduytung.com/blog/2025-06-15-vllm-introduce/ Sun, 15 Jun 2025 00:20:00 +0400 https://www.phamduytung.com/blog/2025-06-15-vllm-introduce/ Trong thời đại bùng nổ của trí tuệ nhân tạo (AI), việc triển khai các mô hình ngôn ngữ lớn (LLM) vào môi trường sản xuất không chỉ đòi hỏi hiệu suất vượt trội mà còn cần khả năng mở rộng linh hoạt. <strong>vLLM</strong>, một thư viện mã nguồn mở được phát triển tại Đại học California, Berkeley, đã trở thành giải pháp hàng đầu cho các tổ chức muốn tối ưu hóa hiệu suất và quản lý tài nguyên trong quá trình suy luận LLM.