Thẻ: #kv cache fp8

llama.cpp 1.0 chính thức ra mắt: API ổn định, KV cache FP8 và Web UI mới cho AI chạy cục bộ

Ngày 13/11/2026, llama.cpp và ggml cùng lên bản 1.0 sau 3,5 năm phát triển: cam kết API ổn định theo semantic versioning, KV cache FP8 tiết kiệm bộ nhớ, bộ nhớ đệm MoE, endpoint giọng nói tương thích OpenAI, bảo mật server chặt hơn và Web UI mới. Tóm tắt dễ hiểu và cách bắt đầu nhanh.