مادة تحريريةDistillation تدرب نموذجًا أصغر Student على تقليد إشارات أو مخرجات نموذج Teacher بهدف خفض تكلفة التشغيل مع الاحتفاظ بجزء من الجودة.
Distillation تدرب نموذجًا أصغر Student على تقليد إشارات أو مخرجات نموذج Teacher بهدف خفض تكلفة التشغيل مع الاحتفاظ بجزء من الجودة.
يمكن للطالب أن يتعلم من توزيع احتمالات أو logits أو تمثيلات داخلية، ما يعطي إشارة أغنى من label واحد في بعض الإعدادات.
عندما يكون لديك نموذج قوي لكنه مكلف جدًا لخدمة عالية الحجم أو جهاز محدود، يمكن لتقطير نموذج متخصص أن يكون خيارًا اقتصاديًا إذا اجتاز اختبارات الجودة.
عند دمج نموذج في برنامج، المخرجات المنظمة تقلل parsing الهش وتسمح بالتحقق من الحقول قبل تنفيذ أي خطوة لاحقة.
التعليقات
كن أول من يكتب تعليقًا.