أخبار الشركاتالرئيسية

مجموعة من موظفين “أوبن إيه آي” يحذرون من الذكاء الاصطناعي

هاشتاق عربي

في رسالة مفتوحة، حذرت مجموعة من الموظفين الحاليين والسابقين في كبرى شركات “وادي السيليكون” المنشغلة في تطوير الذكاء الاصطناعي من أنه في حال عدم وضع إجراءات حماية إضافية، يمكن للذكاء الاصطناعي أن يتهدد “بانقراض البشرية”.

الرسالة المذيلة بتوقيع 13 موظفاً سابقاً معظمهم من شركات مثل “أوبن أي آي” OpenAI (مبتكرة روبوت الدردشة الشهير “تشات جي بي تي”) و”أنتروبيك” Anthropic و”ديب مايند” DeepMind التابعة لشركة “غوغل”، تقول إنه لا بد من توفير ضمانات إضافية لكبار الباحثين في هذا المجال، تسمح لهم بإبداء أية انتقادات تجاه التطورات الجديدة، إضافة إلى ضرورة الأخذ برأي الناس وصانعي السياسات في شأن المسار الذي تتخذه ابتكارات الذكاء الاصطناعي.

وجاء في الرسالة التي نشرها الموظفون أول من أمس الثلاثاء “إننا نؤمن بقدرة تكنولوجيا الذكاء الاصطناعي على تقديم فوائد غير مسبوقة للبشرية. ولكننا نعرف أيضاً الأخطار الجسيمة التي تطرحها هذه التكنولوجيات. وتراوح هذه الأخطار من تعزيز أوجه عدم المساواة المترسخة أصلاً، مروراً بالتلاعب والتضليل، وصولاً إلى فقدان السيطرة على أنظمة الذكاء الاصطناعي المستقلة، ما من شأنه أن يفضي ربما إلى انقراض الإنسان”.

وتشير الرسالة إلى أن الشركات التي تعكف على تطوير تكنولوجيات الذكاء الاصطناعي ذات القدرات القوية والمؤثرة، من بينها الذكاء الاصطناعي العام” كما يسمى (اختصاراً AGI)، علماً أنه نظام ذكاء اصطناعي نظري يحاكي الذكاء البشري في قدراته أو يفوقه مقدرة (في أداء المهام ويسعه بصورة متكررة تحسين نفسه استناداً إلى المعلومات التي يجمعها)، و”تمتلك حوافز مالية متينة تسمح لها بتجنب الرقابة الفاعلة” من موظفيها أنفسهم، والجمهور عموماً.

نيل ناندا من “ديب مايند” يعد الباحث الوحيد في الذكاء الاصطناعي الذي وقع الرسالة على رغم أنه ينتمي حالياً إلى واحدة من الشركات العاملة في هذا المجال.

وكتب على منصة “إكس” (تويتر سابقاً) “ليس مرد توقيعي على الرسالة إلى أني أريد الآن التحذير من خطر ما موجود لدى أرباب عملي الحاليين أو السابقين، أو إلى أن في جعبتي انتقادات محددة لمواقفهم تجاه المبلغين عن المخالفات، لكنني أعتقد أن الذكاء الاصطناعي العام سينطوي على أهمية مهولة ويمكنه، كما تقر كل مختبرات تطوير هذه التكنولوجيا، أن يشكل تهديداً وجودياً. وعلى أي مختبر يسعى إلى تطوير “الذكاء الاصطناعي العام” أن يثبت أنه جدير بثقة الناس، ويضع في اعتباره أن حصول الموظفين على حق قوي ومحمي للإبلاغ عن المخالفات خطوة أولى رئيسة”.

وتطالب الرسالة الشركات بالكف عن معاقبة أو إسكات الموظفين الحاليين أو السابقين الذين يتحدثون علانية عن أخطار الذكاء الاصطناعي، في إشارة محتملة إلى فضيحة تفجرت هذا الشهر في “أوبن أي آي”، عندما طلب إلى موظفين مغادرين أن يختاروا بين خسارة الأسهم المكتسبة أو التوقيع على اتفاق قانوني دائم الصلاحية يقضي بمنعهم من الإدلاء بتصريحات تشهيرية أو ضارة في شأنها (حتى لو كانت صحيحة)، (ألغت “أوبن أي آي” هذا الشرط لاحقاً قائلة “إنه لا يعكس قيمنا أو الشركة التي نطمح في أن نكونها).

وفي تصريح أدلى به إلى “اندبندنت”، قال متحدث باسم “أوبن أي آي”، “نحن فخورون بسجلنا الحافل في توفير أنظمة الذكاء الاصطناعي الأكثر قدرة وسلامة، ونؤمن بنهجنا العلمي في معالجة الأخطار. كذلك نوافق على الأهمية البالغة التي يكتسيها النقاش الجاد نظراً إلى المكانة التي تحتلها هذه التكنولوجيا، وسنواصل التعاون مع الحكومات والمجتمع المدني والمجتمعات الأخرى في مختلف أنحاء العالم”.

وأضافت الشركة أنها تتخذ عدداً من الخطوات لضمان الاستماع إلى موظفيها وتطوير منتجاتها بصورة مسؤولة، بما في ذلك استحداث خط مباشر للاتصال من دون الإفصاح عن الهوية ليكون متاحاً أمام العاملين، إضافة إلى تعيين “لجنة السلامة والأمن” كي تتولى مراجعة التطويرات التي تحققها الشركة. كذلك أشارت “أوبن أي آي” إلى أنها تؤيد صوغ قوانين إضافية تنظم عمل الذكاء الاصطناعي، وتدعم الالتزامات الطوعية حول سلامة الذكاء الاصطناعي.

وتأتي هذه الرسالة المفتوحة بعد موسم من الجدل أحاط بشركات الذكاء الاصطناعي الكبرى، لا سيما “أوبن أي آي”، وفي وقت تقدم هذه الجهات المطورة أنظمة وأدوات مساعدة مدعومة بالذكاء الاصطناعي ذات قدرات جديدة قوية من بينها القدرة على الانخراط في محادثات صوتية مباشرة مع البشر، والتفاعل مع المعلومات المرئية مثل بث حي أو مسألة حسابية مكتوبة.

وتذكيراً، كانت الممثلة سكارليت جوهانسون، التي تولت أداء صوت مساعد مدعوم بالذكاء الاصطناعي في فيلم الخيال العلمي “هير” Her (لها)، قد اتهمت “أوبن أي آي” بنسخ صوتها واستخدامه كواحد من نماذج الأصوات المخصصة لأحد منتجاتها الذكية (تشات جي بي تي)، وذلك على رغم رفضها الصريح لهذا العرض. ومع أن الرئيس التنفيذي للشركة نشر آنذاك تغريدة حملت كلمة “هير” عند إطلاق المساعد الصوتي، غير أن “أوبن أي آي” نفت منذ ذلك الحين استخدام صوت جوهانسون كنموذج لبرمجيتها.

وفي شهر مايو (أيار) أيضاً، أنهت “أوبن أي آي” عمل فريق شكلته خصيصاً للبحث في الأخطار الطويلة المدى للذكاء الاصطناعي، وذلك بعد مرور أقل من عام على تشكيله.

وفي الأشهر الأخيرة، غادر الشركة كثير من كبار الباحثين فيها، من بينهم المؤسس المشارك إيليا سوتسكيفر.

في الواقع، إنها الخضة الأحدث منذ أن واجهت الشركة في العام الماضي معركة مهمة على مستوى مجلس الإدارة، وفيها أقيل رئيسها التنفيذي سام ألتمان موقتاً من منصبه ثم أعيد إليه بعد أقل من أسبوع.

يبقى أن صحيفة “اندبندنت” تواصلت مع ” أنتروبيك” و”غوغل” للحصول منهما على أية تعليقات في هذا الشأن.

المصدر: اندبندنت عربية

مقالات ذات صلة

زر الذهاب إلى الأعلى