تحقق شركة Huawei وجامعة USTC وجامعة بكين زيادة سرعة بنسبة 58% على Ascend A3 لتدريب نماذج MoE

وفقًا لـ Beating، كشف باحثون من Huawei وجامعة جامعة العلوم والتكنولوجيا في الصين (USTC) وجامعة بكين النقاب عن HyperParallel-MoE، وهو إطار عمل لجدولة المترجمات مصمم لرقائق Ascend A3. يقلل الإطار زمن الوصول في وحدات حساب خبراء MoE بنسبة 36%، محققًا قفزة إجمالية في سرعة معالجة البيانات بنسبة 58% (بمعدل أسرع 1.49–1.58x) في عناقيد تضم 256 عقدة تُشغّل نماذج على طراز DeepSeek بعدد 671 مليار مُعلم، كما تحسنت سرعة التدريب على خطوة واحدة بنسبة 8–9%.
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة مستمدة من مصادر خارجية وهي للمرجعية فقط. لا تمثل هذه المعلومات آراء أو وجهات نظر Gate ولا تشكل أي نصيحة مالية أو استثمارية أو قانونية. ينطوي تداول الأصول الافتراضية على مخاطر عالية. يرجى عدم الاعتماد حصرياً على المعلومات الواردة في هذه الصفحة عند اتخاذ القرارات. لمزيد من التفاصيل، يرجى الرجوع على إخلاء المسؤولية.
تعليق
0/400
لا توجد تعليقات