أعلنت شركة Activision إجراءات جديدة لمكافحة السمية داخل Call of Duty، حيث تستخدم الآن الذكاء الاصطناعي للمساعدة في العثور على خطاب الكراهية واللغة التمييزية والمضايقات والمزيد في الدردشة الصوتية للعبة.
وأكدت الشركة جلبها لما تسميه الإشراف العالمي على الدردشة الصوتية في الوقت الفعلي، وذلك بالتزامن مع إطلاق لعبة Modern Warfare 3 في 10 نوفمبر.
ويستخدم نظام إدارة الدردشة الصوتية الجديد في Call of Duty تقنية مدعومة بالذكاء الاصطناعي من Modulate لتحديد الخطاب السام في الوقت الفعلي، مع لغة محظورة، من ذلك خطاب الكراهية والتمييز والمضايقة.
ويركز نظام الذكاء الاصطناعي المسمى ToxMod على اكتشاف الضرر داخل الدردشة الصوتية بالاعتماد على الكلمات الرئيسية المحددة، حيث يحدث الاكتشاف في الوقت الفعلي. ويؤكد المطورون على أن الدردشة الصوتية مراقبة ومسجلة لغرض الإشراف.
وتطرح الشركة النسخة التجريبية الأولية لنظام التحكم الصوتي الجديد في Call of Duty عبر Warzone و Modern Warfare 2 بدءًا من الآن في أمريكا الشمالية، ويتزامن الإصدار العالمي في شهر نوفمبر مع وصول Modern Warfare 3.
وتشير Activision إلى أن الأدوات تدعم في البداية اللغة الإنجليزية فقط، على أن تضيف في وقت لاحق المزيد من اللغات.
وأوضحت Activision أن النظام المدعوم بالذكاء الاصطناعي مسؤول عن تحديد الجرائم المرتكبة والإبلاغ عنها لفريق المراجعة البشري، مع إرفاق فئة السلوك ومستوى الخطورة المقدر، حيث يجدد فريق المراجعة العقوبة لكل انتهاك بناءً على سياسة الشركة للأمان.
وأضافت أن الأحاديث السخيفة والتافهة مقبولة طالما أنها لا تندرج ضمن تعريف اللغة الضارة الموضحة في قواعد الشركة للسلوك، وأشارت إلى أن الطريقة الوحيدة لإلغاء الاشتراك في نظام الإشراف الجديد هي تعطيل الدردشة الصوتية داخل اللعبة.
وقالت Activision: “أدت سياسات الإشراف الحالية لمكافحة السمية في Call of Duty إلى فرض قيود على الدردشة الصوتية والدردشة النصية عبر أكثر من مليون حساب منذ إطلاق Modern Warfare 2، حيث إن 20 بالمئة من اللاعبين لم يعودوا إلى ارتكاب المخالفة بعد تلقي التحذير الأول”.
ويأتي الإعلان الجديد بعد إدخال إجراءات إشراف مماثلة في أماكن أخرى من الصناعة، حيث أطلقت مايكروسوفت في شهر يوليو ميزة تتيح للمستخدمين تسجيل الدردشة الصوتية والإبلاغ عنها ضمن منصة إكس بوكس، وهي تخضع حاليًا للاختبار.