66B hay 66 tỷ tham số là kích thước được dùng để nói về quy mô của một mô hình ngôn ngữ. Số lượng tham số càng lớn đồng nghĩa với khả năng nắm bắt ngữ cảnh và phức tạp ngôn ngữ càng cao, nhưng cũng đòi hỏi tài nguyên lớn để huấn luyện và triển khai.
Để xây dựng một mô hình 66B, cần tập dữ liệu khổng lồ chất lượng cao, cơ sở hạ tầng tính toán mạnh mẽ và chiến lược huấn luyện thích hợp như pretraining, fine-tuning, và instruction tuning. Các thách thức bao gồm chi phí điện, lưu trữ dữ liệu, và quản lý rủi ro về thiên vị.
Ứng dụng có thể gồm tổng hợp văn bản, trợ lý ảo, phân tích cảm xúc, hỗ trợ lập trình và nhiều tác vụ khác. Tuy nhiên, mô hình 66B cũng đối mặt với chi phí vận hành, bảo mật, kiểm soát lỗi và khả năng diễn giải hành vi của mô hình.