يسترشد كلود الذكاء الاصطناعي في Anthropic بـ 10 ركائز تأسيسية سرية للعدالة

يسترشد كلود الذكاء الاصطناعي في Anthropic بـ 10 ركائز تأسيسية سرية للعدالة

موقع شبرون للتقنية وأخبار العالم- متابعات تقنية:

على الرغم من قدرتها على نشر نثر نابض بالحياة بشكل لا يصدق ، إلا أن أنظمة الذكاء الاصطناعي المولدة مثل Bard من Google أو ChatGPT من OpenAI (التي تدعمها GPT-4) ، قد أظهرت بالفعل القيود الحالية لتكنولوجيا الذكاء الاصطناعي العام بالإضافة إلى فهمها الضعيف للحقائق – بحجة ذلك كان JWST أول تلسكوب يصور كوكبًا خارج المجموعة الشمسية ، وكان والد إلفيس ممثلاً. ولكن مع وجود هذا القدر من الحصة السوقية على المحك ، ما هي بعض الحقائق الخاطئة ضد وضع منتجهم في أيدي المستهلكين في أسرع وقت ممكن؟

على العكس من ذلك ، يتكون الفريق في Anthropic إلى حد كبير من أشخاص سابقين في OpenAI وقد اتخذوا نهجًا أكثر واقعية لتطوير روبوت الدردشة الخاص بهم ، كلود. والنتيجة هي ذكاء اصطناعي “أكثر قابلية للتوجيه” و “أقل احتمالية لإنتاج مخرجات ضارة” من ChatGPT ، وفقًا لتقرير من تك كرانش.

كان كلود في مرحلة تطوير تجريبي مغلق منذ أواخر عام 2022 ، لكنه بدأ مؤخرًا في اختبار قدرات المحادثة للذكاء الاصطناعي مع شركاء الإطلاق بما في ذلك Robin AI و Quora ومحرك البحث الذي يركز على الخصوصية ، Duck Duck Go. لم تصدر الشركة الأسعار بعد لكنها أكدت ذلك TC سيتوفر هذان الإصداران عند الإطلاق: واجهة برمجة التطبيقات القياسية وتكرار أسرع وخفيف الوزن أطلقوا عليه اسم Claude Instant.

قال ريتشارد روبنسون ، الرئيس التنفيذي لشركة Robin: “نستخدم كلود لتقييم أجزاء معينة من العقد ، ولاقتراح لغة بديلة جديدة تكون أكثر ودية لعملائنا” تك كرانش. “لقد وجدنا أن كلود جيد حقًا في فهم اللغة – بما في ذلك المجالات التقنية مثل اللغة القانونية. كما أنها واثقة جدًا في صياغة وتلخيص وترجمة وشرح المفاهيم المعقدة بمصطلحات بسيطة “.

يعتقد أنثروبيك أن كلود سيكون أقل احتمالا لأن يتحول إلى شرير ويبدأ ببصق ألفاظ عنصرية كما فعل تاي ، ويرجع ذلك جزئيًا إلى نظام التدريب المتخصص لمنظمة العفو الدولية الذي تسميه شركة إيه “الذكاء الاصطناعي الدستوري”. تؤكد الشركة أن هذا يوفر نهجًا “قائمًا على المبادئ” نحو جعل البشر والروبوتات على نفس الصفحة الأخلاقية. بدأت Anthropic بـ 10 مبادئ أساسية – على الرغم من أن الشركة لم تكشف عن ماهيتها ، على وجه التحديد ، وهي 11-سرًا-عشبًا وتوابلًا لحيلة تسويقية غريبة- يكفي أن نقول: “إنها ترتكز على مفاهيم الإحسان وعدم الإضرار والاستقلالية “لكل TC.

قامت الشركة بعد ذلك بتدريب ذكاء اصطناعي منفصل لتوليد نص بشكل موثوق وفقًا لتلك المبادئ شبه السرية من خلال الاستجابة لعدد لا يحصى من مطالبات الكتابة مثل “تأليف قصيدة بأسلوب جون كيتس”. ثم قام هذا النموذج بتدريب كلود. ولكن لمجرد أنها مدربة على أن تكون أقل إشكالية بشكل أساسي من منافستها ، لا يعني ذلك أن كلود لا يهلوس الحقائق مثل رئيس تنفيذي لشركة ناشئة في معتكف آياهواسكا. لقد اخترع الذكاء الاصطناعي بالفعل مادة كيميائية جديدة بالكامل وحصل على ترخيص فني لعملية تخصيب اليورانيوم ؛ وبحسب ما ورد سجلت درجات أقل من ChatGPT في الاختبارات الموحدة لكل من الرياضيات والقواعد أيضًا.

“يتمثل التحدي في صنع نماذج لا تهلوس أبدًا ولكنها لا تزال مفيدة – يمكنك الدخول في موقف صعب حيث يرى النموذج أن طريقة جيدة لعدم الكذب أبدًا هي عدم قول أي شيء على الإطلاق ، لذلك هناك مقايضة هناك أننا نعمل قال المتحدث باسم الأنثروبي TC. “لقد أحرزنا أيضًا تقدمًا في الحد من الهلوسة ، ولكن ما زال هناك المزيد للقيام به.”


اكتشاف المزيد من موقع شبرون

اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.

Comments

No comments yet. Why don’t you start the discussion?

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *