AI Agent & LLM

Trang này gom các bài về mô hình ngôn ngữ lớn (LLM) và AI agent, đi từ kiến trúc mô hình, cách triển khai và phục vụ LLM, đến thiết kế agent và những bài học khi đưa AI vào doanh nghiệp. Phần lớn là phân tích các bài báo và blog kỹ thuật từ những công ty đang vận hành AI ở quy mô lớn.

Nền tảng mô hình ngôn ngữ

• Transformer: Khi máy tính thôi đọc từng chữ một và một kỷ nguyên mới bắt đầu
• Switch Transformer: Cái công tắc mở đường cho kỷ nguyên mô hình nghìn tỷ tham số
• Kimi Delta Attention: Khi AI học cách nhớ như một cái bảng trắng
• Symbolic AI và Connectionist AI

Triển khai và phục vụ LLM

• Giới thiệu vLLM, công cụ phục vụ LLM hiệu suất cao
• Dung lượng VRAM cho người dùng phổ thông muốn tiếp cận LLM
• AirLLM: Nhét một mô hình 2,8 nghìn tỷ tham số qua khe cửa 4GB VRAM
• 6,12 tỷ request LLM đã nói gì về Cache, Load Balancing và cách chúng ta đang phục vụ AI?
• AI không bay trên mây: cái giá vật lý sau một câu prompt
• Một số thư viện tính toán song song thay thế cho CUDA

RAG và đầu ra có cấu trúc

• Đừng biến mọi thứ thành đồ thị: Khi nào GraphRAG thật sự thắng Vector RAG?
• Sử dụng Structured Prompt Outputs để tối ưu hóa kết quả từ LLM

Thiết kế AI agent

• MCP Server Architecture Patterns: Khi API không còn phục vụ con người
• Code as Agent Harness: Khi AI Agent bắt đầu suy luận bằng code
• AI Agent đang có một cuộc khủng hoảng danh tính
• AI Agent không thiếu trí thông minh, nó thiếu một tờ giấy khai sinh
• Khi log biết tự điều tra: TReNDS dùng AI Agent để tìm root cause
• Cloudflare OS: Khi AI Agent cần một hệ điều hành riêng cho doanh nghiệp
• Kitesurf: Khi trình duyệt không còn được xây cho con người
• AI đi chợ: Uber Eats Cart Assistant
• AI review PRD: Một yêu cầu sai có thể sinh ra hàng nghìn dòng code đúng
• AI càng thông minh, con người càng phải biết mình không biết gì
• AI Agent và giấc mơ công ty tự chạy

AI trong doanh nghiệp

• Responsible AI ở quy mô Uber
• Cách Uber dùng AI để hiểu dữ liệu đang rời khỏi công ty
• Doanh nghiệp giao hết bộ não cho một AI có thể không sống sót
• Pixieset và bài học 35% adoption
• Các ứng dụng của LLM trong thực tế
• Xu hướng sử dụng LLM trong tài chính
• Song kiếm hợp bích giữa generative AI và chuyên viên
• AI đã đến rồi, nhưng thế giới vẫn đang chạy theo phía sau (AI Index Report 2026)

Cần ôn lại nền tảng huấn luyện mô hình? Xem chủ đề Nền tảng Machine Learning & Deep Learning.