PEFT (الضبط الفعال في المعاملات)
PEFT (Parameter-Efficient Fine-Tuning) هو إطار عام لتقنيات ضبط نماذج اللغة الكبيرة التي تقوم بتحديث عدد صغير فقط من المعاملات (parameters) بدلاً من جميع أوزان النموذج. تهدف تقنيات PEFT إلى تحقيق أداء مشابه للضبط الدقيق الكامل مع استخدام جزء ضئيل من الموارد الحاسوبية والذاكرة. تشمل عائلة PEFT عدة تقنيات رئيسية من أبرزها LoRA (التكيف منخفض الرتبة) التي تدرج مصفوفات صغيرة قابلة للتدريب في طبقات النموذج، وAdapter Layers التي تضيف طبقات صغيرة جديدة بين طبقات النموذج الأصلية، وPrefix Tuning التي تضيف رموزاً (tokens) قابلة للتدريب في بداية تسلسل الإدخال، وPrompt Tuning التي تدرج تضمينات مطالبة قابلة للتدريب، وIA3 (Infused Adapter by Inhibiting and Amplifying Inner Activations) التي تقوم بضبط مقاييس التنشيط الداخلي للنموذج. تتميز تقنيات PEFT بأنها تحافظ على أوزان النموذج الأصلي مجمدة تماماً، مما يعني أن النموذج الأساسي يحتفظ بمعرفته العامة ولا يتعرض لخطر النسيان الكارثي (Catastrophic Forgetting) الذي قد يحدث في الضبط الكامل. كما تسمح PEFT بتبديل المهام بسهولة عن طريق تغيير أوزان التكيف الصغيرة دون الحاجة إلى تحميل نماذج متعددة كاملة، مما يتيح استخدام نموذج أساسي واحد لمهام متعددة. يمكن تخزين أوزان PEFT لمهمة محددة في ملفات صغيرة جداً بحجم بضعة ميغابايت فقط، مقارنة بنماذج كاملة قد تصل إلى عشرات أو مئات الجيغابايت. تعمل PEFT على تقليل عدد المعاملات القابلة للتدريب بنسبة تصل إلى 99.99% مقارنة بالضبط الكامل، وتقلل متطلبات الذاكرة بنسبة تصل إلى 80-90%، وتختصر وقت التدريب من أسابيع إلى ساعات. في المجال المالي، تعتبر PEFT مثالية لضبط نماذج اللغة الكبيرة على مهام محددة مثل تحليل المستندات المالية وتصنيف المعاملات وتوليد التقارير التنظيمية، حيث يمكن ضبط نموذج واحد لأداء مهام متعددة عن طريق تحميل أوزان PEFT المختلفة لكل مهمة. كما تتيح PEFT للمؤسسات المالية ضبط النماذج على بياناتها الخاصة دون الحاجة إلى موارد حاسوبية ضخمة، مما يجعلها خياراً مثالياً للمؤسسات التي ترغب في الحفاظ على خصوصية بياناتها وتلبية متطلبات إقامة البيانات المحلية.
في الخدمات المالية
مثال واقعي
البنك الأهلي السعودي، أكبر بنك في المملكة العربية السعودية بإجمالي أصول تتجاوز 950 مليار ريال سعودي (حوالي 253 مليار دولار أمريكي) نتيجة اندماج البنك الأهلي التجاري مع مجموعة سامبا المالية، قام بتطبيق إطار PEFT بشكل شامل لبناء نظام ذكاء اصطناعي متعدد المهام يعتمد على نموذج أساسي واحد. واجه البنك تحدياً في إدارة نماذج ذكاء اصطناعي متعددة لمهام مختلفة مثل تحليل الائتمان ومراجعة الامتثال والتقارير التنظيمية وخدمة العملاء، حيث كان كل نموذج يتطلب بنية تحتية منفصلة وتكاليف تشغيل مرتفعة. اعتمد البنك على نموذج Llama 3-70B كنموذج أساسي واحد، وقام بتطبيق ثلاث تقنيات PEFT مختلفة لمهام مختلفة. للمهمة الأولى وهي تحليل الائتمان للشركات، استخدم البنك LoDA برتبة r=16 على مجموعة بيانات مكونة من 25,000 تحليل ائتماني سابق. للمهمة الثانية وهي مراجعة الامتثال للوائح هيئة السوق المالية السعودية، استخدم البنك Adapter Layers التي أضافت طبقات تكيف صغيرة بين طبقات النموذج الأصلية، مما أتاح تكيفاً أعمق مع المصطلحات التنظيمية المعقدة. للمهمة الثالثة وهي خدمة العملاء باللغة العربية، استخدم البنك Prompt Tuning الذي أضاف تضمينات مطالبة قابلة للتدريب، مما سمح بتكييف سلوك النموذج لخدمة العملاء دون تغيير أوزانه على الإطلاق. قام البنك بتخزين أوزان PEFT للمهام الثلاث في ملفات بحجم إجمالي لا يتجاوز 120 ميغابايت، مقارنة بحجم النموذج الأساسي الذي يبلغ 140 جيجابايت. استخدم البنك 8 وحدات معالجة رسومية NVIDIA A100 لتدريب أوزان PEFT للمهام الثلاث في وقت واحد، حيث استغرق تدريب LoRA 6 ساعات، وتدريب Adapter Layers 8 ساعات، وتدريب Prompt Tuning 3 ساعات فقط. أظهرت نتائج التقييم أن النموذج المضبوط بـ LoRA يحقق دقة 91% في تحليل الائتمان، والنموذج المضبوط بـ Adapter Layers يحقق دقة 94% في مراجعة الامتثال، والنموذج المضبوط بـ Prompt Tuning يحقق نسبة رضا عملاء 87% في خدمة العملاء. جميع هذه النتائج كانت قريبة جداً من أداء نماذج مضبوطة بالكامل (بفارق لا يتجاوز 2-3%) ولكن بتكلفة أقل بنسبة 95% ووقت تدريب أقل بنسبة 98%. قام البنك بنشر النموذج الأساسي مرة واحدة على خوادم محلية داخل المملكة العربية السعودية، مع إمكانية تبديل أوزان PEFT حسب المهمة المطلوبة في وقت التشغيل. هذا المشروع مكّن البنك الأهلي السعودي من تقليل تكاليف البنية التحتية للذكاء الاصطناعي بنسبة 80%، وتحسين كفاءة فرق الذكاء الاصطناعي بنسبة 60%، وتقليل وقت طرح الميزات الجديدة من شهور إلى أسابيع. نجح البنك أيضاً في إضافة مهام جديدة بسهولة عن طريق تدريب أوزان PEFT إضافية دون الحاجة إلى تعديل البنية التحتية الأساسية، مما أتاح للبنك التوسع في استخدامات الذكاء الاصطناعي بشكل مرن وفعال من حيث التكلفة.
لماذا يهم في التمويل
تعتبر PEFT إطاراً استراتيجياً لمستقبل الذكاء الاصطناعي المالي في منطقة الشرق الأوسط وشمال أفريقيا، وذلك لأسباب متعددة تتعلق بالكفاءة الاقتصادية والمرونة التشغيلية والامتثال التنظيمي وبناء القدرات المحلية. أولاً، من الناحية الاقتصادية، تقلل PEFT تكلفة ضبط نماذج اللغة الكبيرة بنسبة تصل إلى 95% مقارنة بالضبط الدقيق الكامل، مما يجعل تبني الذكاء الاصطناعي المتخصص في متناول المؤسسات المالية من جميع الأحجام في المنطقة. في سوق تعاني فيه المؤسسات المالية من ضغوط على الميزانيات التقنية، تسمح PEFT بتحقيق عائد استثماري مرتفع من الذكاء الاصطناعي بتكاليف معقولة. ثانياً، من ناحية المرونة التشغيلية، تسمح PEFT باستخدام نموذج أساسي واحد لمهام مالية متعددة، مما يبسط إدارة النماذج ويقلل تعقيد البنية التحتية بشكل كبير. يمكن للمؤسسة المالية أن يكون لديها نموذج أساسي واحد مع عشرات أو مئات مجموعات أوزان PEFT لمهام مختلفة، مع إمكانية تبديل المهام في وقت التشغيل دون توقف الخدمة. ثالثاً، من ناحية الامتثال التنظيمي، توفر PEFT شفافية أكبر في عملية الضبط الدقيق، حيث يمكن تتبع التغييرات التي تم إدخالها على النموذج بالضبط. هذا مهم للامتثال لمتطلبات حوكمة نماذج الذكاء الاصطناعي (AI Model Governance) التي تفرضها الهيئات التنظيمية في المنطقة. تسمح PEFT أيضاً للمؤسسات المالية بالاحتفاظ بنموذج أساسي موحد عبر جميع فروعها في دول مختلفة، مع أوزان PEFT مخصصة لكل دولة تلبي متطلباتها التنظيمية المحلية. رابعاً، من ناحية بناء القدرات المحلية، تسمح PEFT للمؤسسات المالية في المنطقة ببناء فرق ذكاء اصطناعي محلية وتطوير خبرات داخلية، حيث أن متطلباتها التقنية المنخفضة تسمح لفرق صغيرة نسبياً بتطوير وصيانة نماذج متعددة. خامساً، من ناحية سرعة الابتكار، تسمح PEFT بتجربة نماذج مختلفة وتقنيات ضبط متنوعة بسرعة وبتكلفة منخفضة. يمكن لفريق صغير من مهندسي الذكاء الاصطناعي تجربة تقنيات PEFT المتعددة (LoRA و Adapters و Prefix Tuning و Prompt Tuning) وقيم معاملات مختلفة في غضون أيام، مما يسرع دورة الابتكار ويقلص الوقت اللازم لطرح المنتجات الجديدة. سادساً، من ناحية الاستدامة، تستهلك PEFT طاقة حاسوبية أقل بنسبة 90% مقارنة بالضبط الكامل، مما يقلل البصمة الكربونية للمؤسسات المالية ويساهم في تحقيق أهداف الاستدامة البيئية. سابعاً، تسمح PEFT للمؤسسات المالية في المنطقة بالتعاون ومشاركة النماذج المضبوطة بدقة، حيث يمكن تبادل أوزان PEFT الصغيرة بسهولة بدلاً من النماذج الكاملة. هذا يمكن أن يؤدي إلى إنشاء نظام بيئي للذكاء الاصطناعي المالي في المنطقة حيث تتعاون المؤسسات في تطوير وتحسين نماذج متخصصة. في المستقبل، من المتوقع أن تصبح PEFT المعيار الأساسي لضبط نماذج الذكاء الاصطناعي في القطاع المالي، خاصة في الأسواق الناشئة مثل منطقة الشرق الأوسط حيث الكفاءة والمرونة هما مفتاح النجاح في تبني الذكاء الاصطناعي.
مصطلحات ذات صلة
استكشف في Finatune
أسئلة شائعة
ما هو PEFT في الذكاء الاصطناعي؟
PEFT (الضبط الفعال في المعاملات) هو إطار عام لتقنيات ضبط نماذج اللغة الكبيرة التي تقوم بتحديث عدد صغير فقط من المعاملات بدلاً من جميع أوزان النموذج. تشمل تقنيات PEFT الرئيسية LoRA وAdapter Layers وPrefix Tuning وPrompt Tuning، وكلها تهدف إلى تحقيق أداء مشابه للضبط الكامل مع استخدام جزء ضئيل من الموارد.
ما هي طرق PEFT الأفضل لنماذج الذكاء الاصطناعي المالي؟
LoRA是最好的للمهام المالية العامة مثل تحليل الائتمان وتصنيف المستندات. Adapter Layers أفضل للمهام التي تتطلب تكيفاً أعمق مثل مراجعة الامتثال التنظيمي. Prompt Tuning مناسب لمهام خدمة العملاء والحوار. يوصى باستخدام مزيج من هذه التقنيات حسب طبيعة كل مهمة مالية.
هل PEFT مناسب للمؤسسات المالية الخاضعة للرقابة؟
نعم، PEFT مناسبة جداً للمؤسسات المالية الخاضعة للرقابة لأنها توفر شفافية أكبر في عملية الضبط الدقيق، حيث يمكن تتبع التغييرات التي تم إدخالها على النموذج بالضبط. كما تسمح بالاحتفاظ بنموذج أساسي موحد مع أوزان PEFT مخصصة لكل دولة تلبي متطلباتها التنظيمية. هذا يسهل الامتثال لمتطلبات حوكمة نماذج الذكاء الاصطناعي.