
Meta chính thức phát hành trọng số mở của Muse Spark Open, mô hình MoE đa phương thức 816 tỷ tham số với 42 tỷ tham số kích hoạt mỗi lượt. Mô hình sở hữu context 1 triệu token và được tối ưu để chạy cục bộ trên chip Apple M5 Ultra.
💡 Đây là bước tiến lớn cho cộng đồng mã nguồn mở khi một mô hình frontier mở có thể xử lý mượt mà cả tác vụ lập trình lẫn đa phương thức ngay trên máy trạm cao cấp.
- Tổng quy mô 816 tỷ tham số kiến trúc MoE
- Chỉ kích hoạt 42 tỷ tham số trên mỗi token
- Cửa sổ ngữ cảnh 1 triệu token đa phương thức
- Tối ưu chạy local trên Apple Silicon M5 Ultra
Meta tiếp tục khẳng định chiến lược dùng mô hình mở để ghìm chân các đối thủ độc quyền đám mây. Điểm thú vị nhất của Muse Spark Open là tỷ lệ kích hoạt chỉ 42 tỷ tham số, cho phép các máy trạm 128GB Unified Memory chạy suy luận với tốc độ chấp nhận được. Với các đội ngũ phát triển phần mềm, việc có một model agentic mạnh tự host giúp loại bỏ rủi ro rò rỉ mã nguồn độc quyền ra bên ngoài. Tuy nhiên, bài toán chi phí serving cho cả cụm multi-agent với model 800 tỷ tham số vẫn không hề rẻ. Anh em đừng vội deploy đại trà nếu chưa đo lường bài toán throughput và latency thực tế.






