كيف يُدرَّب نموذج ذكاء اصطناعي؟ من البيانات إلى التكرار

تدريب نموذج ذكاء اصطناعي ليس حدثًا لمرّة واحدة، بل عملية تكرارية طويلة. يمرّ النموذج بملايين الدورات من: التوقّع، ثم حساب الخطأ، ثم التصحيح، ثم إعادة الكرّة.

هذه الدورة البسيطة في ظاهرها هي التي تجعل النموذج «يتعلّم». وهي أيضًا سبب كون التدريب مكلفًا في الوقت والعتاد والطاقة.

دورة التدريب: أربع خطوات متكرّرة

الخطوة الأولى: التمرير الأمامي. تُمرَّر دفعة من بيانات التدريب عبر النموذج. كل طبقة تطبّق عمليات رياضية باستعمال المعاملات الحالية، والمخرَج النهائي هو توقّع النموذج.

الخطوة الثانية: حساب الخسارة. يُقارَن التوقّع بالإجابة الصحيحة بدالة خسارة. والنتيجة رقم واحد: كلّما صغر كان التوقّع أدقّ. ومن أمثلتها الخطأ التربيعي المتوسّط للانحدار، والإنتروبيا المتقاطعة للتصنيف.

الخطوة الثالثة: التمرير الخلفي. هنا يحدث التعلّم فعليًّا. باستعمال قاعدة السلسلة من التفاضل، يحسب النموذج كيف ساهم كل معامل في الخطأ. والنتيجة «تدرّج» لكل معامل: في أي اتجاه يُعدَّل وبأي مقدار. ويبدأ التمرير من طبقة المخرَج ويمضي إلى الخلف حتى المدخلات، ومن هنا اسمه.

الخطوة الرابعة: تحديث المعاملات. يستعمل «المُحسِّن» التدرّجات لتحديث المعاملات. والقاعدة الأساسية في النزول التدريجي: المعامل الجديد = المعامل القديم − (معدل التعلم × التدرّج)

ومعدّل التعلّم رقم صغير يحدّد حجم الخطوة. إن كان كبيرًا جدًّا تجاوز النموذج الحلّ الأمثل، وإن كان صغيرًا جدًّا طال التدريب أو توقّف عند حلّ دون الأمثل.

بعد التحديث تُصفَّر التدرّجات وتُعاد الدورة مع دفعة جديدة.

الحقبة: متى «رأى» النموذج البيانات كلها؟

الحقبة (Epoch) دورة كاملة عبر جميع بيانات التدريب. فإن كان لديك مئة ألف عيّنة وحجم الدفعة مئة، فستحتاج ألف تكرار لإكمال حقبة.

ومعظم النماذج تحتاج عشرات أو مئات الحقبات. وفي كل حقبة تُخلَط البيانات لتجنّب تحيّز الترتيب.

ومتى نتوقّف؟ إمّا عند عدد محدّد من الحقبات، وإمّا بالتوقّف المبكر: نراقب الأداء على بيانات تحقّق، فإن توقّف التحسّن أو بدأ التدهور توقّفنا تجنّبًا للتجهيز الزائد.

لماذا تكلّف كل دورة وقتًا وعتادًا؟

١. حسابات كثيفة. كل تمرير أمامي وخلفي يتطلّب مليارات العمليات الحسابية. ولا تتعامل المعالجات العادية معها بكفاءة، فتُستعمل وحدات معالجة رسومية أو وحدات متخصّصة مصمَّمة للعمليات المتوازية.

٢. ذاكرة. يجب تحميل معاملات النموذج في ذاكرة سريعة، وبيانات التدريب يجب أن تكون قابلة للوصول بسرعة.

٣. وقت. تدريب نموذج كبير قد يستغرق أسابيع على آلاف الوحدات المتوازية.

٤. طاقة. آلاف الوحدات العاملة باستمرار تستهلك طاقة كهربائية كبيرة.

٥. عتاد. وحدات المعالجة المتقدّمة باهظة، وتدريب نموذج كبير قد يتطلّب آلافًا منها.

ولذلك أغلب الفرق لا تدرّب نماذج أساس، بل تبني فوق نماذج مدرَّبة مسبقًا — عبر واجهات برمجية أو ضبط دقيق محدود.

متى لا تحتاج إلى فهم هذه الدورة؟

• عند استعمال نماذج جاهزة عبر واجهة برمجية.
• عند العمل في أدوار غير تقنية.
• حين تكون المهمة بسيطة باستعمال نموذج مدرَّب مسبقًا.

متى تحتاج إليها بعمق؟

• عند بناء نماذج من الصفر: اختيار دالة الخسارة والمُحسِّن ومعدّل التعلّم وعدد الحقبات.
• عند تحسين نموذج قائم: تشخيص التجهيز الزائد أو الناقص أو بطء التقارب.
• عند تقدير التكلفة: إن كنت تخطّط لتدريب نموذج خاص.

الأسئلة الشائعة

كم يستغرق تدريب نموذج كبير؟

لا أرقام رسمية دقيقة عن النماذج التجارية الكبرى. لكن تدريب نموذج بمئات المليارات من المعاملات يستغرق عادةً أسابيع على آلاف الوحدات المتوازية، بتكلفة تُقاس بملايين الدولارات.

لماذا لا يُدرَّب على معالج عادي؟

يمكن نظريًّا، لكن المعالجات العادية مصمَّمة للعمليات التسلسلية، ووحدات المعالجة الرسومية للعمليات المتوازية الضخمة. الفارق في السرعة يجعل الأول غير عملي للنماذج الكبيرة.

ما التجهيز الزائد؟

أن يحفظ النموذج بيانات التدريب بدل تعلّم الأنماط العامة. فيكون أداؤه ممتازًا عليها وضعيفًا على بيانات جديدة. ويُكتشَف بمراقبة الأداء على مجموعة تحقّق.

هل يمكن إعادة استعمال نموذج مدرَّب لمهمة أخرى؟

نعم، وهو ما يسمّى الضبط الدقيق (Fine-Tuning): تأخذ نموذجًا مدرَّبًا مسبقًا وتدرّبه على بيانات مهمّتك. وهذا أرخص بكثير من التدريب من الصفر.

المراجع

1. Rumelhart, D. et al. Learning representations by back-propagating errors. nature.com
2. Goodfellow, I. et al. Deep Learning — Chapter 6: Deep Feedforward Networks. deeplearningbook.org
3. Kingma, D. & Ba, J. Adam: A Method for Stochastic Optimization. arXiv
4. Kaplan, J. et al. Scaling Laws for Neural Language Models. arXiv
5. Patterson, D. et al. Carbon Emissions and Large Neural Network Training. arXiv