هل يمكن تشغيل الذكاء الاصطناعي التوليدي للانتشار المستقر على هاتف ذكي؟ كوالكوم تقول – نعم تستطيع

تعمل نماذج الذكاء الاصطناعي الأكثر تقدمًا في العالم ، مثل Stable Diffusion ، بشكل عام في السحابة فقط.

ولكن ماذا لو كان يمكن تشغيل هذا الطراز نفسه على هاتف ذكي في جيبك؟ هذا هو التحدي الذي واجهه مهندسو Qualcomm. في بحث صدر اليوم ، كشفت شركة Qualcomm أنه باستخدام مزيج من تقنيات البرامج وتحسين الأجهزة ، تمكنت من تقليص الانتشار المستقر بحيث يمكنها تشغيل نماذج الاستدلال على أجهزة الهواتف الذكية الشائعة التي تعمل بنظام Android.

تم تطوير Stable Diffusion بواسطة Startup Stability AI وهو أحد أكثر نماذج الذكاء الاصطناعي التوليدية شيوعًا لإنشاء الصور المستخدمة اليوم ، وغالبًا ما تتنافس مع OpenAI’s DALL-E.

لكي نكون واضحين ، فإن التكنولوجيا اللازمة لتدريب نماذج الذكاء الاصطناعي التوليدية ضخمة ولن تعمل على هاتف ذكي. بدلاً من ذلك ، ما عملت عليه كوالكوم هو جانب الاستدلال ، أي القطعة “التوليدية” ، والتي تتيح إنشاء صورة جديدة من النموذج الذي تم اختباره مسبقًا. حتى الآن ، تمكن المستخدمون من إنشاء صور قائمة على الانتشار المستقر على هواتفهم بطريقة غير مباشرة ، حيث يصل تطبيق أو متصفح للجوال إلى خدمة سحابية تنشئ الصورة. ما تُظهِره شركة Qualcomm الآن هو القدرة على إنشاء صور الذكاء الاصطناعي (Stable Diffusion Generation) مباشرة على هاتف ذكي يعمل بنظام Android ، دون الحاجة إلى الاتصال بالسحابة للقيام بالمهام الصعبة.

>> تابع تغطية الذكاء الاصطناعي التوليدية المستمرة من VentureBeat <<

قال Jilei Hou ، نائب رئيس قسم الهندسة في Qualcomm Technologies ، لـ VentureBeat: “من أجل الخصوصية والأمان ، عند إدخال استعلامات من خلال واجهة برمجة تطبيقات سحابية لـ Stable Diffusion ، يتم إرسال جميع معلوماتك أو أفكارك إلى الخادم السحابي لبعض الشركات”. “باستخدام الذكاء الاصطناعي على الجهاز ، تختفي هذه المشكلة لأن جميع أفكارك تبقى على الجهاز فقط.”

أشار هوو إلى أنه بالنسبة لاستخدام المؤسسات للذكاء الاصطناعي التوليدي ، قد يكون هذا مشكلة أكبر حيث تحتاج معلومات الشركة السرية إلى الحماية.

الأجهزة وحدها لا تكفي لتشغيل الذكاء الاصطناعي التوليدي

يعمل العرض التوضيحي الذي صممته Qualcomm لإثبات قدراتها على جهاز Qualcomm Reference Design بأحدث Snapdragon 8 Gen 2 Mobile Platform ، والذي يتوفر في العديد من الأجهزة التجارية اليوم.

قال هو إن الجزء الاستنتاجي يتم على معالج Hexagon ، وهو تصميم مخصص كامل لتسريع الذكاء الاصطناعي بواسطة مهندسي Qualcomm وهو جزء من Snapdragon 8 Gen 2 silicon.

في حين أن سيليكون Qualcomm قوي بالنسبة للجهاز المحمول ، فإن Stable Diffusion يقدم سلسلة من التحديات للتشغيل مباشرة على الهاتف الذكي. على سبيل المثال ، أشار هو إلى أن حجم النموذج يزيد عن 1.1 مليار معلمة وأن الحوسبة المرتبطة بها تزيد عن 10 أضعاف حجم أحمال العمل النموذجية التي يتم تشغيلها على الهاتف الذكي.

قال هوو: “هذا هو أكبر نموذج قمنا بتشغيله على هاتف ذكي”. “جميع التحسينات الكاملة التي أجريناها كانت مهمة جدًا لجعل النموذج مناسبًا وتشغيله بكفاءة.”

كيف تقلصت Qualcomm Stable Diffusion لتعمل على Android

تضمنت التحسينات المطلوبة استخدامًا مكثفًا لـ Qualcomm AI Stack ، وهي مجموعة من أدوات الذكاء الاصطناعي المصممة للمساعدة في تحسين النماذج وأعباء العمل.

أوضح هو أنه بالنسبة إلى Stable Diffusion ، بدأ فريقه بنموذج FP32 الإصدار 1-5 مفتوح المصدر من Hugging Face وقام بإجراء تحسينات من خلال التكميم والتجميع وتسريع الأجهزة لتشغيله على هاتف يعمل بنظام Snapdragon 8 Gen 2 Mobile Platform.

لتقليص النموذج ، استخدم فريقه قدرات تكميم ما بعد التدريب الخاصة بـ AI Model Efficiency Toolkit (AIMET).

قال هوو: “لا يؤدي القياس الكمي إلى زيادة الأداء فحسب ، بل يوفر أيضًا الطاقة من خلال السماح للنموذج بالعمل بكفاءة على أجهزة الذكاء الاصطناعي المخصصة لدينا واستهلاك نطاق ترددي أقل للذاكرة”.

للتجميع ، تم استخدام إطار عمل Qualcomm AI Engine المباشر لتعيين الشبكة العصبية في برنامج يعمل بكفاءة على أجهزة الهاتف الذكي. أشار هوو إلى أن التحسينات الشاملة التي تم إجراؤها في Qualcomm AI Engine قللت بشكل كبير من زمن الوصول واستهلاك الطاقة. وأضاف أن كل العمل الذي تم إنجازه لتشغيل Stable Diffusion يعمل بشكل جيد على الهاتف الذكي سيفيد التكرارات المستقبلية ومستخدمي Qualcomm AI Stack.

بالنظر إلى المستقبل ، قال هو إن كوالكوم ستبني على الدروس المستفادة لجلب نماذج ذكاء اصطناعي كبيرة أخرى (على سبيل المثال ، نماذج تشبه GPT) من السحابة إلى الجهاز. ويضيف أن التحسينات الخاصة بـ Stable Diffusion للتشغيل بكفاءة على الهواتف يمكن أيضًا استخدامها لمنصات أخرى مثل أجهزة الكمبيوتر المحمولة وسماعات الرأس XR وأي جهاز آخر يعمل بتقنيات Qualcomm.

قال هوو: “إن تشغيل جميع عمليات معالجة الذكاء الاصطناعي في السحابة سيكون مكلفًا للغاية ، وهذا هو سبب أهمية المعالجة الفعالة للذكاء الاصطناعي”. “تضمن معالجة Edge AI خصوصية المستخدم أثناء تشغيل Stable Diffusion ونماذج الذكاء الاصطناعي التوليدية الأخرى نظرًا لأن نص الإدخال والصورة التي تم إنشاؤها لا تحتاج أبدًا إلى مغادرة الجهاز – فهذه صفقة كبيرة لاعتماد كل من تطبيقات المستهلك والشركات.”