مقالات التقنية

Got It AI يخلق مدققًا للحقيقة لـ “ هلوسة ” ChatGPT


تحقق من جميع الجلسات عند الطلب من قمة الأمن الذكي هنا.


قالت Got It AI إنها طورت الذكاء الاصطناعي لتحديد ومعالجة “هلوسة” ChatGPT لتطبيقات المؤسسات.

استحوذت ChatGPT على عالم التكنولوجيا من خلال إظهار قدرات الذكاء الاصطناعي التوليدي ، والتي يمكن أن تمكن الأشخاص العاديين من حث الذكاء الاصطناعي على إنشاء مجموعة متنوعة من الأشياء ، من برامج الكمبيوتر إلى الأغاني الأصلية.

بعض هذه الإبداعات رائعة. لكن الشيء السيئ في ChatGPT هو معدل الخطأ فيه. قال بيتر ريلان ، الشريك المؤسس لشركة Got It AI الناشئة للمحادثة ، في مقابلة مع VentureBeat أن روبوتات الدردشة الخاصة بالذكاء الاصطناعي للمحادثة على قواعد المعرفة المؤسسية لا يمكن أن تكون خاطئة بنسبة 15٪ إلى 20٪ من الوقت. لقد وجدت معدل الخطأ بسهولة عن طريق القيام ببعض المطالبات البسيطة باستخدام ChatGPT.

يطلق ريلان على إجابات ChatGPT الخاطئة “هلوسة”. لذلك ابتكرت شركته الخاصة “مدقق الحقيقة” لتحديد متى يكون ChatGPT “مهلوسًا” (توليد إجابات ملفقة) فيما يتعلق بالإجابة على أسئلة من مجموعة كبيرة من المقالات ، أو محتوى في قاعدة المعرفة.

حدث

قمة الأمن الذكي عند الطلب

تعرف على الدور الحاسم للذكاء الاصطناعي وتعلم الآلة في الأمن السيبراني ودراسات الحالة الخاصة بالصناعة. شاهد الجلسات عند الطلب اليوم.

مشاهدة هنا

وقال إن هذا الابتكار يجعل من الممكن نشر تجارب شبيهة بـ ChatGPT دون المخاطرة بتقديم ردود غير صحيحة من الناحية الواقعية للمستخدمين أو الموظفين. يمكن للشركات استخدام مزيج من ChatGPT ومدقق الحقيقة لنشر أنظمة الذكاء الاصطناعي للمحادثة بثقة والتي تستفيد من قواعد المعرفة الواسعة مثل تلك المستخدمة في دعم العملاء أو لاستعلامات قاعدة المعرفة الداخلية ، على حد قوله.

من السهل اكتشاف الأخطاء في ChatGPT.

يستخدم الذكاء الاصطناعي للتحقق من الحقيقة المستقل ، المزود بمجال مستهدف للمحتوى (مثل قاعدة معرفية كبيرة أو مجموعة من المقالات) ، نظام ذكاء اصطناعي متقدم يعتمد على نموذج اللغة الكبيرة (LLM) لتدريب نفسه بشكل مستقل دون تدخل بشري على وجه التحديد لمهمة واحدة: التحقق من الحقيقة.

يمكن بعد ذلك استخدام ChatGPT ، المزود بمحتوى من نفس مجال المحتوى ، للإجابة على الأسئلة في حوار دردشة متعدد الأدوار ، ويتم تقييم كل إجابة للتأكد من صحتها قبل تقديمها إلى المستخدم. عندما يتم اكتشاف هلوسة ، لا يتم تقديم الاستجابة للمستخدم ؛ وقال ريلان إنه بدلاً من ذلك ، يتم توفير إشارة إلى المقالات ذات الصلة التي تحتوي على الإجابة.

قال تشاندرا خاتري ، قائد فريق جائزة أليكسا السابق وزملاؤه: “لقد اختبرنا تقنيتنا باستخدام مجموعة بيانات تضم أكثر من 1000 مقالة عبر قواعد معرفية مختلفة متعددة باستخدام محادثات متعددة الأدوار مع هياكل لغوية معقدة مثل المرجع المشترك والسياق ومفاتيح الموضوع”. -مؤسس Got It AI ، في بيان. “أنتجت ChatGPT LLM ردودًا غير صحيحة لحوالي 20٪ من الاستفسارات. تمكّن نظام التحقق المستقل من الحقيقة AI من اكتشاف 90٪ من الردود غير الدقيقة. كما زودنا العميل بواجهة مستخدم بسيطة للتحقق من صحة الذكاء الاصطناعي ، لزيادة تحسينه لتحديد الأخطاء المتبقية والقضاء فعليًا على جميع الردود غير الدقيقة “.

أفترض أن هذا يعني أنك قد تحتاج إلى أكثر من مدقق الحقيقة.

“بينما نتوقع تمامًا أن تقوم OpenAI ، بمرور الوقت ، بمعالجة مشكلة الهلوسة في نماذج ChatGPT LLM الأساسية الخاصة بها لمحادثات” المجال المفتوح “حول أي موضوع على الإنترنت ، تُعد تقنيتنا تقدمًا كبيرًا في الذكاء الاصطناعي للمحادثات المستقلة للنطاقات” المعروفة “في قال أمول كيلكار ، الشريك المؤسس لـ Got It AI ، في بيان: “المحتوى ، مثل قواعد المعرفة المؤسسية”. “لا يتعلق الأمر بالهندسة السريعة أو الضبط الدقيق أو مجرد طبقة واجهة المستخدم. إنه نظام ذكاء اصطناعي قائم على LLM يمكّننا من تقديم ذكاء اصطناعي محادثة قابل للتطوير ودقيق وسلس للعملاء الذين يخططون للاستفادة من ChatGPT بسرعة. التحقق من صحة الاستجابات التي تم إنشاؤها ، بطريقة فعالة من حيث التكلفة ، هو القدرة الرئيسية التي تسد الفجوة بين نظام البحث والتطوير والنظام الجاهز للمؤسسة. “

قال ريلان: “هناك مستودع كامل لجميع الأخطاء المعروفة”. “بشكل تقريبي ، الكلمة هي أنها تصل إلى 20٪. إنها هلوسة وتختلق الأشياء “.

وأشار إلى أن ChatGPT هو مجال مفتوح ، حيث يمكنك التحدث إليه حول أي شيء. من يوليوس قيصر إلى مشكلة في الرياضيات إلى الألعاب. لقد استوعب الإنترنت ، ولكن حتى عام 2021 فقط. Got It AI لا يحاول التحقق من كل ذلك بشكل مزدوج. ولكن يمكن أن تستهدف مجموعة محدودة من المحتوى مثل قاعدة معرفة المؤسسة.

قال ريلان: “لذلك قمنا بتقليص نطاق وحجم المشكلة”. “هذا هو أول شيء. الآن لدينا مجال نفهمه. الثاني هو بناء ذكاء اصطناعي. هذا لا يعتمد على ChatGPT “.

ChatGPT ليس كل هذا الذكاء.

يمكن استخدام ذلك لتقييم ما إذا كانت إجابات ChatGPT خاطئة أم لا. وهذا ما يمكن أن تفعله Got It AI.

وقال: “نحن لا ندعي أننا نصاب بالهلوسة على الإنترنت ، مثل كل شيء على الإنترنت يمكن التحقق منه”.

مع Got It AI ، يتم فحص إجابات chatbot أولاً بواسطة AI.

“نكتشف أن هذا هو هلوسة. قال ريلان: “نحن ببساطة نعطيك إجابة”. “نعتقد أننا يمكن أن نحصل على 90٪ زيادة في تقليل الهلوسة فور إخراجها من الصندوق وإيصالها.”

يحاول الآخرون إصلاح مشاكل الدقة أيضًا. لكن ريلان قال إنه ليس من السهل الحصول على أرقام عالية الدقة ، بالنظر إلى نطاق المشكلة. وقال ، “سنمنحك واجهة مستخدم رائعة حتى تتمكن من التحقق من الإجابة ، بدلاً من إعطائك مجموعة من نتائج البحث.”

المنتج والتجريبي الخاص

في عام 2017 ، قال بيتر ريلان إن شركات البحث والشبكات الاجتماعية والتجارة الإلكترونية الكبيرة تأخرت في تطعيم الذكاء الاصطناعي لأعمالها.

لقد تم توفير ميزة التحقق من صحة الذكاء الاصطناعي من Got It من خلال منتجها الذاتي Articlebot ، والذي يستفيد من نفس LLMs التوليدية OpenAI التي تستخدمها chatGPT. Got It AI’s Articlebot ، عند الإشارة إلى قاعدة معرفية أو مجموعة من المقالات ، لا يتطلب أي تكوين لتدريب نفسه على المحتوى المستهدف ويمكن للمستخدمين البدء في اختباره في غضون دقائق من التسجيل للحصول على ذكاء اصطناعي محادثة سياقية ومتعددة الأدوار على مستوى المؤسسات تطبيقات دعم العملاء ومكتب المساعدة والوكيل.

تقبل Got It AI الاستفسارات حول الإصدار التجريبي المغلق على www.got-it.ai.

ريلان هو رائد أعمال معروف ساعدت حاضنة YouWeb في ظهور شركات ناشئة مثل شركات الألعاب المحمولة OpenFeint و CrowdStar. كما أنه ساعد Discord ، منصة الدردشة الشهيرة للألعاب ، على الانطلاق.

Got It AI انبثق عن شركة ناشئة أخرى كانت شركة Relan تحتضنها منذ حوالي خمس سنوات ، والآن تم الكشف عن الشركة الناشئة الجديدة في الصيف. تضم Got It AI حوالي 40 شخصًا ، وقد جمعت حوالي 15 مليون دولار حتى الآن ، جزئيًا من صندوق المشاريع الخاص بشركة Relan.

عقيدة GamesBeat عندما تكون تغطية صناعة الألعاب “حيث يلتقي الشغف بالعمل”. ماذا يعني هذا؟ نريد أن نخبرك كيف تهمك الأخبار – ليس فقط كصانع قرار في استوديو ألعاب ، ولكن أيضًا كمشجع للألعاب. سواء كنت تقرأ مقالاتنا أو تستمع إلى ملفاتنا الصوتية أو تشاهد مقاطع الفيديو الخاصة بنا ، فإن GamesBeat ستساعدك على التعرف على الصناعة والاستمتاع بالتفاعل معها. اكتشف إحاطاتنا.

مقالات ذات صلة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى