تطالب مجموعة من الموظفين السابقين والحاليين بشركة أوبن إيه آي بأن تكون شركات الذكاء الاصطناعي أكثر شفافية بشأن مخاطره «الجسيمة» وأن تحمي الموظفين الذين يعبرون عن مخاوفهم بشأن التكنولوجيا.
جاء في الرسالة المفتوحة التي تم نشرها يوم الثلاثاء، والتي وقعها موظفون حاليون وسابقون في شركات الذكاء الاصطناعي بمن في ذلك موظفون في شركة أوبن إيه آي، مبتكرة أداة تشات جي بي تي، أن شركات الذكاء الاصطناعي «تمتلك حوافز مالية قوية لتجنب الرقابة الفعالة».
كما دعوا شركات الذكاء الاصطناعي إلى تعزيز «ثقافة النقد المفتوح» التي ترحب بالأشخاص الذين يتحدثون عن مخاوفهم، بدلاً من معاقبتهم، خاصة أن القانون يكافح من أجل اللحاق بالتكنولوجيا سريعة التقدم.
وقال أصحاب الرسالة إن هذه الشركات اعترفت بـ«المخاطر الجسيمة» التي يشكلها الذكاء الاصطناعي -بدءاً من التلاعب حتى فقدان السيطرة على التكنولوجيا، الذي يمكن أن يؤدي إلى انقراض الإنسان- ولكن ينبغي عليها بذل المزيد من الجهد لتثقيف الجمهور حول المخاطر وإجراءات الحماية.
وفقاً للقانون الحالي، قال الموظفون إنهم لا يعتقدون أن شركات الذكاء الاصطناعي ستشارك المعلومات المهمة حول التكنولوجيا طوعاً.
وكتبت المجموعة: «الحماية العادية للمبلغين عن أي مخالفات، ليست كافية لأنها تركز على النشاط غير القانوني، في حين أن العديد من المخاطر التي نشعر بالقلق إزاءها لم يتم تنظيمها بعد».
وتأتي الرسالة في الوقت الذي تتحرك فيه الشركات بسرعة لتطبيق أدوات الذكاء الاصطناعي التوليدية في منتجاتها، بينما يتصارع المنظمون الحكوميون والشركات والمستهلكون مع الاستخدام المسؤول، وفي الوقت نفسه، دعا العديد من خبراء التكنولوجيا والباحثين والقادة إلى توقف مؤقت في سباق الذكاء الاصطناعي، أو إلى تدخل الحكومة وفرض وقف اختياري.
استجابة أوبن إيه آي
رداً على الرسالة، قال المتحدث باسم أوبن إيه آي لشبكة CNN: «فخورون بسجلنا الحافل في توفير أنظمة الذكاء الاصطناعي الأكثر قدرة والأكثر أماناً، ونؤمن بنهجنا العلمي لمعالجة المخاطر»، مضيفاً أن الشركة توافق على أن «النقاش الدقيق أمر بالغ الأهمية نظراً لأهمية هذه التكنولوجيا».
أشارت أوبن إيه آي إلى أن لديها خطاً ساخناً مجهولاً للنزاهة ولجنة للسلامة والأمن يقودها أعضاء مجلس إدارتها وقادة السلامة من الشركة، لا تبيع الشركة معلومات شخصية أو تنشئ ملفات تعريف للمستخدمين أو تستخدم تلك البيانات لاستهداف أي شخص أو بيع أي شيء، على حد قولها.
لكن دانييل زيجلر، أحد منظمي الرسالة ومن أوائل المهندسين في التعلم الآلي الذي عمل في أوبن إيه آي بين عامي 2018 و2021، قال لشبكة CNN إنه من المهم أن تظل متشككاً في التزام الشركة بالشفافية.
وقال: «من الصعب حقاً معرفة مدى الجدية التي يأخذون بها التزاماتهم بشأن رفع مستوى السلامة ومعرفة الأضرار المجتمعية من الخارج، خاصة أن هناك ضغوطاً تجارية قوية للتحرك بسرعة كبيرة»، «من المهم حقاً أن تكون لديك الثقافة والعمليات الصحيحة حتى يتمكن الموظفون من التحدث بطرق مستهدفة عندما تكون لديهم مخاوف».
ويأمل أن يعلن المزيد من المتخصصين في صناعة الذكاء الاصطناعي عن مخاوفهم نتيجة لهذه الرسالة.
وفي الوقت نفسه، من المتوقع على نطاق واسع أن تعلن شركة أبل عن شراكة مع أوبن إيه آي في مؤتمرها السنوي للمطورين العالميين لدمج الذكاء الاصطناعي التوليدي في هواتف آي فون.
وقال تيم كوك، الرئيس التنفيذي لشركة أبل، في أحدث مكالمة هاتفية لأرباح الشركة في أوائل شهر مايو: «إننا نرى الذكاء الاصطناعي فرصة رئيسية لإدخاله عبر منتجاتنا ونعتقد أن لدينا مزايا عدة في هذا المجال».