لمكافحة نقص GPU في الذكاء الاصطناعي التوليدي ، يعمل بدء التشغيل على تحسين الأجهزة

نشأت CentML التي تعمل بالذكاء الاصطناعي ، والتي تعمل على تحسين نماذج التعلم الآلي للعمل بشكل أسرع وخفض تكاليف الحوسبة ، من التخفي اليوم. تهدف الشركة التي يقع مقرها في تورنتو إلى المساعدة في معالجة النقص العالمي في وحدات معالجة الرسومات اللازمة للتدريب والاستدلال على نماذج الذكاء الاصطناعي التوليدية.

وفقًا للشركة ، يعد الوصول إلى الحوسبة أحد أكبر العقبات التي تعترض تطوير الذكاء الاصطناعي ، وستزداد الندرة فقط مع تسارع أعباء العمل الاستدلال. من خلال توسيع عائد إمداد شرائح الذكاء الاصطناعي الحالي والمخزون القديم دون التأثير على الدقة ، تقول CentML إنها يمكن أن تزيد من الوصول إلى الحوسبة فيما تسميه سوقًا “معطلاً” لوحدات معالجة الرسومات.

يصعب على الشركات الصغيرة الوصول إلى وحدات معالجة الرسومات

جمعت CentML جولة أولية بقيمة 3.5 مليون دولار في عام 2022 بقيادة Radical Ventures التي تركز على الذكاء الاصطناعي. قال المؤسس المشارك والرئيس التنفيذي Gennady Pekhimenko ، وهو مهندس أنظمة رائد ، لـ VentureBeat في مقابلة أنه عندما رأى مسار حجم نماذج اللغات الكبيرة ، كان من الواضح أن من يمتلك الأجهزة ومجموعة البرامج فوقها سيكون له المهيمن. موضع.

>> تابع تغطية الذكاء الاصطناعي التوليدية المستمرة من VentureBeat <<

قال: “لقد كان ما يحدث شفافًا للغاية” ، مضيفًا بضحك أنه حتى أنه وضع أمواله في Nvidia ، التي تسيطر على حوالي 80٪ من سوق GPU. لكنه أوضح أن Nvidia تريد دائمًا بيع أغلى شرائحها ، مثل أحدث وحدات معالجة الرسومات A100 و H100 ، مما جعل من الصعب على الشركات الصغيرة الوصول إليها. ومع ذلك ، فإن Nvidia لديها شرائح أخرى أقل تكلفة يتم استخدامها بشكل سيئ: “نحن نبني برمجيات تعمل على تحسين تلك النماذج بكفاءة على جميع وحدات معالجة الرسومات المتاحة ، وليس فقط على الأغلى المتوفرة في السحابة” ، كما قال. “نحن في الأساس نخدم جزءًا أكبر من السوق.”

مع نمو تكلفة الاستدلال “بشكل كبير” (تكلفة تشغيل نماذج مثل ChatGPT بملايين الدولارات) ، يستخدم CentML مترجمًا قويًا مفتوح المصدر لضبط التحسينات تلقائيًا للعمل بشكل أفضل مع خط أنابيب الاستدلال المحدد الخاص بالشركة والأجهزة.

قال Pekhimenko إن منافسًا مثل OctoML مبني أيضًا على تقنية المترجم لزيادة أداء النموذج تلقائيًا إلى أقصى حد ، ولكن تقنية قديمة. “حلهم ليس منافسًا في السحابة. لقد عرفنا ما هي أوجه القصور وقمنا ببناء تقنية جديدة لا تحتوي على تلك العيوب ، “قال. “لذلك لدينا ميزة أن نأتي في المرتبة الثانية.”

أصبح السباق للوصول إلى رقائق الذكاء الاصطناعي مثل لعبة العروش

يقول David Katz ، الشريك في Radical Ventures ، إن المعركة للوصول إلى رقائق الذكاء الاصطناعي أصبحت كذلك لعبة العروش – وإن كان أقل دموية. قال لـ VentureBeat: “هناك شهية لا تشبع للحوسبة مطلوبة لتشغيل هذه النماذج والنماذج الكبيرة” ، مضيفًا أن Radical استثمرت في CentML العام الماضي.

وقال إن عرض CentML يخلق “قدرًا أكبر قليلاً من الكفاءة” في السوق. بالإضافة إلى ذلك ، يوضح أن النماذج المعقدة التي تزيد عن مليار معلمة يمكن أن تعمل أيضًا على الأجهزة القديمة.

قال “لذلك لا تحتاج إلى نفس الحجم من وحدات معالجة الرسومات أو لا تحتاج بالضرورة إلى A100s”. “من هذا المنظور ، فهي تعمل أساسًا على زيادة قدرة أو توريد الرقائق في السوق.”