في إطار تحقيق برنامج “لا لإلحاق ضرر” يهدف لتهذيب روبوت الدردشة تشات جي بي تي، حتى لا تتعارض إجاباته مع قواعد الأخلاق المتفق عليها، لاحظ المطورون تراجعا في ذكاء روبوت الدردشة، وفق ما أعلن مدير الذكاء الاصطناعي والمنتجات الرقمية في شركة “بيلاين” الروسية كونستانتين رومانوف.

وقد نُشر في وقت سابق في مجلة “ديكريبت”Decrypt مقال عرض نتائج دراسة قام بها العلماء من “ستانفورد” و”بيركلي”. وجاء في المقال أنه بالنسبة إلى فئات معينة من الأسئلة، انخفضت بشكل ملحوظ جودة الإجابات التي تم تقديمها في يونيو الماضي من قبل الإصدارين 4 و3.5 من روبوت الدردشة، مقارنة بما كانت عليه جودة الإجابات في مارس الماضي.

بينما استبعد الخبير فرضية التدهور المتعمد وأعاد إلى الأذهان أن “الشبكات” يتم إتقانها باستمرار، ونحن نشهد نتائج عمليات إعادة التدريب والتحسين. وربما في ضوء الأحداث الأخيرة والحديث عن التسامح مع الإجابات، كانت عملية التحسين التي أجرتها الشركة أكثر توجها في هذا المسار ليقدم الإصدار الجديد المزيد من المعلومات المؤكدة التي لا تتعارض مع القوانين وقواعد الأخلاق، أي أن التحسين كان يهدف إلى تنفيذ مفهوم “عدم إلحاق الضرر”.

وفي الوقت نفسه، يمكننا من خلال التدريب الإضافي الموجه للشبكة العصبية، ملاحظة التدهور عند الإجابة على فئة منفصلة من الأسئلة. وأكد أن هذا الأمر منطقي، حيث يتم تدريب النموذج وفقا للمهام المطلوب حلها. وقال إن الأمر يرجع إلى أن كل الشبكات العصبية، وحتى تشات جي بي تي، لديها عدد محدود من المَعلومات للتدريب. ولا يمكنك تغيير بنية الشبكة العصبية لجعلها أفضل في كل شيء.

وقال رومانوف: من أجل فهم ما إذا كان التحسين قد تم بالفعل من مارس إلى يونيو، يكفي لك أن تطرح على روبوت الدردشة أسئلة حول الأحداث الأخيرة ومقارنة الإجابات، وعلى سبيل المثال، أسئلة حول رحيل إيلون ماسك من منصب الرئيس التنفيذي لشركة تويتر أو تحطم الغواصة المأهولة “تيتان” في أعماق البحار.

يذكر أن منصة تشات جي بيتي اكتسبت شعبية بعد إطلاقها في أواخر نوفمبر الماضي وحصدت أول مليون من المستخدمين لها في أقل من أسبوع. ويعتبر الروبوت ملكية لشركة “أوبن إيه آي” وكان أحد مؤسسيها عام 2015 الملياردير الأميركي إيلون ماسك، الذي قطع العلاقات في ما بعد مع الشركة الناشئة.