السلوك الناشئ

السلوك الناشئ في الذكاء الاصطناعي يشير إلى القدرات أو السلوكيات التي تنشأ تلقائيًا في النماذج واسعة النطاق نتيجة لتوسيع نطاق حجم النموذج أو بيانات التدريب أو الموارد الحسابية دون أن تكون مبرمجة بشكل صريح أو متوقعة من قبل مطوري النموذج. هذه السلوكيات غير موجودة في النماذج الأصغر ولا يمكن التنبؤ بها عن طريق استقراء أداء النماذج الأصغر بل تنشأ فجأة عند عتبات مقياس معينة. تشمل القدرات الناشئة في نماذج اللغة الكبيرة الاستدلال المتقدم والتعلم في السياق واتباع التعليمات وتوليد الكود والاستدلال الرياضي والترجمة متعددة اللغات. لم يتم تدريب هذه القدرات بشكل صريح ولكنها نشأت عندما تم توسيع النماذج لتصل إلى مليارات المعلمات وتدريبها على مجموعات نصوص ضخمة. لظاهرة النشوء آثار كبيرة على تطوير ونشر الذكاء الاصطناعي.这意味着 مع ازدياد حجم النماذج، قد تطور قدرات لم يتوقعها منشئوها وهو ما يمكن أن يكون مفيدًا ومقلقًا في نفس الوقت. تشمل القدرات الناشئة المفيدة تحسين الاستدلال وتعميم أفضل والقدرة على أداء مهام لم تكن جزءًا من بيانات التدريب. تشمل السلوكيات الناشئة المقلقة احتمالية الخداع أو التلاعب أو تطوير استراتيجيات تحسّن لأهداف التدريب بطرق غير مقصودة. دراسة السلوك الناشئ هي مجال بحث نشط في الذكاء الاصطناعي. يبحث العلماء في الظروف التي يحدث فيها النشوء والآليات التي تدفعه وكيفية التنبؤ بالقدرات الناشئة والتحكم فيها. تشمل النتائج الرئيسية أن النشوء مرتبط ارتباطًا وثيقًا بمقياس النموذج وأن القدرات المختلفة تنشأ على مستويات مختلفة وأن تكوين بيانات التدريب يؤثر على القدرات التي تنشأ. فهم السلوك الناشئ أمر بالغ الأهمية لسلامة الذكاء الاصطناعي لأنه يعني أن النماذج قد تطور قدرات لم تكن مقصودة صراحة وقد لا تكون هذه القدرات مفهومة أو قابلة للتحكم بشكل كامل.