مادة تحريريةQuantization تقلل دقة تمثيل الأوزان أو القيم العددية لتقليل الذاكرة والحساب، مع مقايضة محتملة في الجودة تختلف حسب النموذج والمهمة.
Quantization تقلل دقة تمثيل الأوزان أو القيم العددية لتقليل الذاكرة والحساب، مع مقايضة محتملة في الجودة تختلف حسب النموذج والمهمة.
كل وزن مخزن بعدد أقل من البتات يشغل مساحة أصغر، ما يسمح بتشغيل نماذج على عتاد أقل أو زيادة حجم batch ضمن نفس الذاكرة.
التقريب العددي قد يغير المخرجات، وبعض الطبقات أكثر حساسية من غيرها. لهذا توجد أساليب mixed precision وcalibration واختبارات task-specific.
عند دمج نموذج في برنامج، المخرجات المنظمة تقلل parsing الهش وتسمح بالتحقق من الحقول قبل تنفيذ أي خطوة لاحقة.
التعليقات
كن أول من يكتب تعليقًا.