ما هو تقطير الذكاء الاصطناعي؟

التقطير ، المعروف أيضًا باسم النموذج أو التقطير المعرفة ، هو عملية يتم فيها نقل المعرفة من نموذج “معلم” كبير ومعقد إلى نموذج طالب أصغر وأكثر كفاءة.

يؤدي القيام بذلك بإنشاء ملف نموذج أصغر بكثير ، مع الحفاظ على الكثير من جودة المعلم ، يقلل بشكل كبير من متطلبات الحوسبة.

كما رأينا

> يدعي مصدر في Openai أنه يحتوي على دليل على حدوث “تقطير”

> يستخدم تقنيات مثل التقليم والتقطير النموذج

يعد استخدام التقطير شائعًا جدًا في مجتمع المصادر المفتوحة لأنه يسمح بنشر نماذج AI المدمجة على أنظمة الكمبيوتر الشخصية.

ومن الأمثلة الشائعة أن تكون مجموعة واسعة من النماذج المقطرة الأصغر التي تم إنشاؤها في جميع أنحاء العالم بعد فترة وجيزة من إطلاق منصة Deepseek R1 مفتوحة المصدر.

تاريخ التقطير

تم تقديم مفهوم التقطير لأول مرة من قبل جيفري هينتون (المعروف أيضًا باسم “عراب الذكاء الاصطناعي”) وفريقه في عام 2015. اكتسبت هذه التقنية على الفور الجر كأحد أفضل الطرق لجعل منظمة العفو الدولية المتقدمة على منصات الحوسبة المتواضعة.

يسمح التقطير ، ويستمر في السماح ، للاستخدام الواسع النطاق لتطبيقات الذكاء الاصطناعى اليومية-والتي ستحتاج إلى معالجتها بواسطة أجهزة كمبيوتر ضخمة تعتمد على السحابة.

يمكن تشغيل معظم النماذج المقطرة على أجهزة الكمبيوتر المنزلية ، ونتيجة لذلك ، هناك مئات الآلاف من تطبيقات الذكاء الاصطناعى المستخدمة في جميع أنحاء العالم ، والقيام بمهام مثل توليد الموسيقى وعلوم الهواة.

تقطير نموذج الذكاء الاصطناعي

(الصورة الائتمان: NPOWELL/Google Research)

يعمل التقطير باستخدام نموذج المعلم الأكبر لإنشاء المخرجات التي يتعلمها نموذج الطالب بعد ذلك لتقليدها.

بدلاً من مجرد نسخ هذه المخرجات ، يتعلم نموذج الطالب عادةً منها ، ويستخدم تلك التعلم لإنشاء استنساخ أصغر من المعلم. ليس مجرد قطاع المصدر المفتوح الذي يستخدم التقطير.

جميع نماذج الأساس من شركات مثل عادةً ما يتم تقطير Openai و Google إلى إصدارات أكثر قابلية للإدارة لتوزيعها على الأعمال والأفراد.

غالبًا ما توفر هذه الشركات أدوات التقطير إلى أفضل عملائهم لمساعدتهم على إنشاء إصدارات نموذجية أصغر.

التقطير مقابل الضبط

تجدر الإشارة إلى أن التقطير يختلف تمامًا عن الضبط.

ينشئ التقطير نموذجًا أصغر جديدًا يحاكي سلوك النموذج الأكبر ، بينما يتكيف ضبط الدقيق لنموذج لمهمة محددة عن طريق تدريبه على البيانات الخاصة بالمهمة.

ومن المثير للاهتمام أن كل من النماذج المقطرة والضغط الدقيقة قد تتفوق في بعض الأحيان على إخوانهم الأكبر في مهام أو أدوار محددة.

ومع ذلك ، في حالة التقطير ، سيفقد النموذج الناتج بعض المعرفة الواسعة النطاق التي تحتوي عليها النموذج الرئيسي في الأصل. هذا ليس هو الحال بالضرورة مع النماذج التي تم ضبطها.

هناك ثلاث طرق رئيسية للتقطير ، والاستجابة ، والميزات والتقنيات القائمة على العلاقة.

دون الدخول في الكثير من التفاصيل الفنية المملة ، تركز كل طريقة على طريقة مختلفة لمحاكاة صفات النموذج الأصلي.

ويقدم كل نهج فوائد وعيوب من حيث جودة نموذج الطالب الناتج.

لهذا السبب ، يتم اعتماد طرق مختلفة من قبل شركات نموذج الأساس المختلفة ، من أجل محاولة الحصول على مزايا الأداء في السوق.

أهمية التقطير

التقطير الذكاء الاصطناعي

(الصورة الائتمان: pexels.com)

يعد التقطير الآن جزءًا مهمًا من عالم AI Enterprise ، حيث نمت نماذج المؤسسة الرئيسية بمرور الوقت لتحتاج إلى موارد ضخمة للعمل.

بدلاً من معالجة تريليونات من المعلمات ، التي تحتاج إلى مراكز بيانات بحجم المدينة وإمدادات الطاقة ، يمكن تشغيل النماذج المقطرة الأصغر من قبل الشركات الكبيرة والمؤسسات الحكومية.

إن توافر هذه الأنواع من الخيارات على نطاق واسع يجعل منظمة العفو الدولية تقنية أكثر ديمقراطية ، ويفتح الفوائد على جمهور أوسع في جميع أنحاء الجولة. كما أنه يفتح الباب أمام تطبيقات الذكاء الاصطناعي بشكل خاص وتأمين.

هناك مزايا أخرى تأتي من التقطير. تعمل النماذج الأصغر بشكل أسرع وتستخدم طاقة أقل بكثير.

كما أنها تعمل في بصمة ذاكرة أصغر بكثير ويمكن تدريبها على المهام المتخصصة.

لقد تحولت هذه الفوائد إلى التقطير إلى ميزة أساسية في مشهد الذكاء الاصطناعي الحديث ، حيث سد الفجوة بين نماذج الأساس باهظة الثمن والتطبيقات العملية التي يمكن للمستخدمين العاديين الاستفادة منها.

كاتب

أضف تعليق

arالعربية