66B là một mô hình ngôn ngữ lớn với quy mô 66 tỷ tham số, được thiết kế để đạt hiệu suất cao đồng thời tối ưu chi phí suy diễn. Mục tiêu của 66B là cung cấp khả năng xử lý ngôn ngữ tự nhiên đa dạng trong các ứng dụng từ tóm tắt văn bản đến hội thoại tương tác.
Kiến trúc của 66B dựa trên biến thể Transformer với chú trọng tối ưu hóa memory và băng thông. Các kỹ thuật như pruning nhẹ và quantization được áp dụng để giảm yêu cầu phần cứng mà không làm giảm chất lượng kết quả đáng kể.
66B được huấn luyện trên dữ liệu đa ngôn ngữ và có cơ chế an toàn, kiểm soát đầu ra, và hạn chế các nội dung sai lệch. Phía quản trị đề cao sự minh bạch và khả năng giải thích kết quả cho người dùng.
66B hướng tới các ứng dụng như trợ lý ảo, hệ thống hỏi đáp, phân tích cảm xúc và hỗ trợ sáng tạo nội dung. Với sự cải tiến liên tục, 66B kỳ vọng sẽ thu hẹp khoảng cách giữa hiệu suất và chi phí ở các doanh nghiệp vừa và lớn.