المكلفون بحماية الذكاء الاصطناعي استقالوا لمراقبته من الخارج

قبل أسبوع، اتفق رؤساء ثلاث شركات ذكاء اصطناعي متنافسة علناً على أن الصناعة تحتاج إلى التباطؤ. هذا الأسبوع أظهر كيف يبدو ذلك فعلياً من الداخل. ثلاثة باحثين كانت مهمتهم بالكامل هي رصد الخطر في نماذج الذكاء الاصطناعي المتقدمة استقالوا من مناصبهم بدل انتظار أصحاب عملهم ليتحركوا، ورد الرئيس التنفيذي لمايكروسوفت بنشر مدونة سلوك علنية لنماذج شركته، وقال عشرات من أبرز علماء الرياضيات في العالم إن الصناعة باتت تتقدم بسرعة تفوق قدرة مجالهم على التحقق منها. بعيداً عن كل ذلك، كتب رامٍ في المكسيك نوعاً مختلفاً تماماً من التاريخ من أجل الهند.

من يراقبون خطر الذكاء الاصطناعي يستقيلون واحداً تلو الآخر

في 8 سبتمبر، أعلن جايكوب كوكسون استقالته. كان قد أمضى نحو ثلاث سنوات في أبحاث التدريب المسبق أولاً في أوبن إيه آي ثم في أنثروبيك. وفي رسالة من سبعة أجزاء على إكس، شاهدها نحو 76 مليون شخص بين عشية وضحاها، كتب أن الشركتين “تندفعان مباشرة نحو ذكاء خارق قادر على تحسين نفسه، وتراهنان بحياتنا جميعاً”، وأن من يبنون هذه التقنية “يعتقدون بصدق أنها قد تقتلنا جميعاً قبل نهاية هذا العقد”.

بعد ثلاثة أيام، كشف جو بنتون، الذي كان يقود فريق أبحاث السلامة في أنثروبيك، أنه استقال هو الآخر، وأجرى أول مقابلة له حول الأمر مع إن بي سي نيوز. وقال إن الشركات حالياً لا تفصح عن مخاطر الذكاء الاصطناعي إلا حين تشاء. وصرح بنتون: “في الوقت الحالي، كل الشفافية التي تأتي من الشركات بشأن هذه المخاطر طوعية بالكامل”، مضيفاً أنه يعتقد أنه يستطيع فعل خير أكبر عبر “تعزيز الشفافية العلنية من خارج هذه الشركات” بدل البقاء داخل إحداها. وبعد يوم أو يومين، قال جوش إنجلز، الذي عمل في فريق سلامة الذكاء العام لدى جوجل ديب مايند، إنه غادر بالفعل قبل ثلاثة أسابيع، رافضاً في طريقه عروض عمل من كل من أنثروبيك وأوبن إيه آي. وقال إنجلز للصحفيين إنه يرى “احتمالاً مرعباً” بأن تتسبب أنظمة الذكاء الاصطناعي بضرر جسيم خلال خمس سنوات.

الثلاثة جميعاً متجهون الآن إلى الوجهة نفسها: METR، وهي منظمة غير ربحية مقرها بيركلي، اسمها الكامل تقييم النماذج وأبحاث التهديدات، تختبر القدرات الخطرة أو المستقلة في أنظمة الذكاء الاصطناعي المتقدمة نيابة عن الحكومات والجمهور، لا عن الشركات التي تبنيها. استقلاليتها هي جوهر هويتها، وبعد هذا الأسبوع انضم إليها ثلاثة أشخاص إضافيين كانوا يتقاضون رواتبهم من المختبرات ذاتها التي سيراقبونها الآن.

رد مايكروسوفت: نشر القواعد بدل الاستقالة

في 13 سبتمبر، رد الرئيس التنفيذي لمايكروسوفت ساتيا نديلا على النقاش نفسه بطريقة مختلفة تماماً. وكتب في منشور على إكس أن “أي سعي نحو الذكاء الخارق يجب أن يقوم على المبدأ الأساسي القائل إنه إذا كان الذكاء الاصطناعي الذي نبنيه لا يساعد البشرية وغير خاضع لسيطرة الإنسان، فلا معنى لبنائه”. وبدلاً من الاستقالة أو الضغط على الصناعة من الخارج، قال نديلا إن مايكروسوفت ستنشر مدونة سلوك توضح كيفية تدريب نماذجها الخاصة واختبارها ونشرها، على أن يُفتح الباب أمام استشارة عامة حولها اعتباراً من 14 سبتمبر.

وجادل بأن الصناعة تحتاج إلى تحويل وعود السلامة إلى ما أسماه “آليات تشغيلية ملموسة”، وطرح أفكاراً مثل منح مقيّمين خارجيين نوعاً من الوصول المستمر يكفي للتحقق فعلياً من ادعاءات السلامة لدى شركة ما بدل تصديق كلامها فحسب. هذا رد أهدأ من استقالة ثلاثة باحثين، لكنه يبقى اعترافاً علنياً من رئيس شركة ذكاء اصطناعي كبرى بأن مراقبة الشركة لنفسها وحدها لا تكفي.

خمسة وعشرون حائزاً على ميدالية فيلدز يقولون إن الذكاء الاصطناعي يكسر قواعد الرياضيات

الضغط على مختبرات الذكاء الاصطناعي لا يأتي فقط من موظفيها السابقين. في 15 أغسطس، أثبت عالم الرياضيات في جامعة نيويورك تريستان باكماستر والباحث في أنثروبيك ليفنت ألبوغي أن صيغة من معادلات أويلر يمكن أن تطور تفردات، بناءً على نهج طوره سابقاً دييغو كوردوبا ولويس مارتينيز زوروا. ووصل خبر هذا العمل غير المنشور إلى أوبن إيه آي خلال الأسبوع نفسه، وبحلول نهاية الأسبوع التالي كان فريق بقيادة سيباستيان بوبيك، الذي يقود أبحاث الرياضيات في أوبن إيه آي، قد دفع الحجة نفسها إلى برهان يغطي معادلات نافيير-ستوكس كاملة، وهي إحدى مسائل جائزة الألفية السبع في الرياضيات، وتحمل جائزة مليون دولار لمن يحلها.

وأعلنت أوبن إيه آي النتيجة في 8 سبتمبر، قائلة إن نموذجاً غير منشور توصل إليها باستخدام نحو 10 آلاف عميل ذكاء اصطناعي عملوا معاً بالتوازي لمدة 88 ساعة. واتهم باكماستر علناً أوبن إيه آي بمحاولة حرمان زميله من الفضل والضغط عليه للتزام الصمت. وتقول أوبن إيه آي إن باحثيها وعملاءها لم يطلعوا مباشرة على عمل باكماستر وألبوغي غير المنشور، رغم أن الشركة أقرت بأن بيانات استخدام منصتها الخاصة، بعد إزالة هوية أصحابها، ربما وجهت أنظمتها نحو المسألة المفتوحة ذاتها.

بعد ثلاثة أيام من إعلان أوبن إيه آي، أصدر 25 من حائزي ميدالية فيلدز، أرفع تكريم في عالم الرياضيات، بياناً مشتركاً قالوا فيه إن أهداف شركات الذكاء الاصطناعي ومجتمع الرياضيات باتت “غير متوافقة بشكل خطير”. وشكواهم ليست أن لا مكان للذكاء الاصطناعي في الرياضيات. بل إن الشركات تعلن اختراقات بوتيرة يعجز أي أحد عن التحقق منها، متجاوزة في عجلتها كتابة الأبحاث وإسناد الفضل والمراجعة من الأقران، وهي أمور يعتمد عليها هذا المجال أصلاً ليثق بأي نتيجة. ولخص تيرنس تاو، الحائز على ميدالية فيلدز والموقع على البيان، الأمر ببساطة: “لقد رأينا الآن أن مجرد إشاعة أن أحداً ما يعمل على مسألة يمكن أن تشعل كماً هائلاً من الجهد المدفوع بالذكاء الاصطناعي لسحقها قبل أن تحظى المشروع البحثي الأصلي بفرصة الوصول إلى كامل إمكاناته.”

الرامي الهندي يحصد ذهبيته أخيراً

بعيداً عن هذا الجدل الذي تخوضه صناعة الذكاء الاصطناعي مع نفسها، منح ديراج بوماديفارا، البالغ من العمر 25 عاماً، الهند سبباً للاحتفال بلا أي تحفظ. ففي نهائي كأس العالم للرماية في سالتيلو بالمكسيك، واجه الياباني ناكانيشي جونيا في نهائي القوس المركب للرجال، وهي مباراة متقاربة جداً وصلت إلى شوط حاسم. وحافظ بوماديفارا على أعصابه ليسجل 10 نقاط في السهم الفاصل، مقابل 9 نقاط لناكانيشي، فحسم الذهبية.

وبذلك أصبح أول رجل هندي يفوز بلقب فردي في نهائي كأس العالم للرماية، وثاني هندي على الإطلاق من أي جنس يحقق ذلك، بعد أن فازت دولا بانرجي بلقب القوس المركب للسيدات في دبي عام 2007. استغرق الأمر تسعة عشر عاماً لإضافة اسم ثانٍ إلى تلك القائمة، ولم يكن بإمكان بوماديفارا أن يحقق هذا الإنجاز بطريقة أصعب من النهائي الذي فاز فيه.