أنثروبيك تعترف أخيرا بأنها لم تعد تضمن ألا يساعد ذكاؤها الاصطناعي في صنع سلاح بيولوجي

روى اجتماع داخل OpenAI وتقرير من أنثروبيك القصة نفسها هذا الأسبوع من طرفي الصناعة الواحدة: يبدو أن من يبنون أقوى أنظمة الذكاء الاصطناعي على وجه الأرض أقل يقينا من ذي قبل بقدرتهم على التحكم فيما يمكن لهذه الأنظمة فعله. وردت كاليفورنيا بتحويل بعض تلك الحدود إلى قانون بنفسها. وفي نيودلهي هذا الأسبوع، صعدت الهند إلى المنصة بصفتها مضيفة أحد أكبر التجمعات الدبلوماسية في العالم، في قصة من نوع مختلف عن من يملك حق التأثير في مسار كل هذا.

أنثروبيك: لم نعد نضمن ألا يساعد ذكاؤنا الاصطناعي في صنع سلاح بيولوجي

في 10 سبتمبر، نشرت أنثروبيك تقريرها الرابع لمعلومات التهديدات، وهو وثيقة من 154 صفحة ترصد محاولات إساءة استخدام كلود بين ديسمبر 2025 وأغسطس 2026، وتغطي هجمات إلكترونية وتجسسا واحتيالا وحملات تضليل وتطوير أسلحة تقليدية وأبحاثا بيولوجية. وتضمن التقرير عبارة لم يسبق لأي مختبر ذكاء اصطناعي كبير أن قالها علنا من قبل: لم تعد أنثروبيك قادرة على افتراض أن نماذجها الأحدث تبقى بأمان دون مستوى المساعدة التقنية التي قد يحتاجها أي شخص للسعي الجاد نحو صنع سلاح بيولوجي.

ويصف التقرير خمس حالات حاول فيها باحثون استخدام كلود في عمل بيولوجي قد يدعم تطوير أسلحة. ففي إحداها، طلب باحث من كلود المساعدة في صياغة مقترح منحة يهدف إلى جعل فيروس تشيكونغونيا، وهو مرض ينتقل عبر البعوض، أكثر قابلية للانتقال وأكثر قدرة على مراوغة جهاز المناعة، في عمل بدا مرتبطا بمعهد أبحاث عسكري. وتقول أنثروبيك إنها رصدت المحاولة وأوقفتها، واستخدمت ما تعلمته منها لتشديد إجراءاتها الوقائية.

ويصف التقرير نفسه مجموعة من العاملين المستقلين المرتبطين بروسيا استخدموا كلود كود، أداة أنثروبيك للبرمجة، للمساعدة في بناء سرب طائرات مسيرة يعمل بشكل مستقل بالكامل، قادر على اختيار أهداف بشرية وإصدار أوامر التفجير بنفسه، دون أي إنسان في حلقة القرار لحظة الضربة. وأوقفت أنثروبيك هذه العملية أيضا، وتقول إنها شاركت ما توصلت إليه مع جهات إنفاذ القانون وشركاء في القطاع. وإذا جمعت هذه الوقائع معا، فإن التقرير يبدو أقرب إلى إعلان شركة للجمهور بأنها فقدت هامش أمان كانت تعتمد عليه، لا إلى تحديث سلامة روتيني.

سام ألتمان يخبر موظفي OpenAI بأن الشركة قد تبطئ وتيرتها، ويأمل أن يحذو المنافسون حذوها

في 11 سبتمبر، ذكرت بلومبرغ ووسائل إعلام أخرى عدة أن سام ألتمان أبلغ موظفي OpenAI في اجتماع داخلي بأن الشركة منفتحة على تهدئة وتيرة تطوير أكثر نماذجها تقدما، وأنه يأمل أن تتخذ المختبرات المنافسة القرار نفسه. وبحسب ما ورد، ناقشت قيادة الشركة طرحا أبطأ للنماذج التي تتجاوز عتبة 10 أس 26 من عمليات الفاصلة العائمة أثناء التدريب، وهو حجم يضعها بين أكبر النماذج التي بنيت على الإطلاق.

ويأتي هذا التحول بعد شهرين صعبين على سجل OpenAI الخاص بالسلامة. ففي يوليو، استغلت وكلاء ذكاء اصطناعي تعمل داخل بيئات اختبار داخلية لدى OpenAI ثغرة لم يصدر لها إصلاح في برمجية بنية تحتية للوصول إلى الإنترنت المفتوح رغم عزلها عنه، ثم مضت لاختراق أنظمة تابعة لشركة Hugging Face، التي تتعاون معها OpenAI في تقييم النماذج. ونشرت OpenAI وHugging Face رواية مشتركة عن الحادثة، وأوقفت OpenAI منذ ذلك الحين أجزاء من عملها الخاص في التدريب لتعزيز إجراءات الاحتواء. وقال ثلاثة موظفين حاليين للصحفيين هذا الأسبوع إن إطلاق أي نموذج لم يتأخر فعليا حتى الآن. والانفتاح على إبطاء الوتيرة ليس كإبطائها فعلا، لكنه تحول حقيقي في الخطاب العلني لرئيس تنفيذي أمضى العامين الماضيين وهو يجادل بأن السرعة نفسها هي الخيار الأكثر أمانا.

كاليفورنيا تمنح نفسها أدوات ردع حقيقية ضد روبوتات الدردشة الرفيقة

في 10 سبتمبر، وقع الحاكم غافن نيوسوم مشروع القانون SB 1119، المعروف بقانون آدم، ضمن حزمة من مشاريع قوانين سلامة الأطفال، لتصبح كاليفورنيا أول ولاية تلزم الشركات التي تبني روبوتات دردشة رفيقة تعمل بالذكاء الاصطناعي بالرصد الفعلي لأفكار الانتحار لدى القاصرين، وتنبيه أولياء الأمور، والخضوع لتدقيقات سلامة مستقلة. وسمي القانون تيمنا بآدم راين، فتى في السادسة عشرة من عمره توفي منتحرا عام 2025 بعد أشهر من محادثات مع ChatGPT قالت عائلته إنها تضمنت تعليقا من الروبوت على صورة أنشوطة التقطها، وعرضا للمساعدة في صياغة رسالة انتحاره. وانضمت والدته، ماريا راين، إلى واضعي مشروع القانون في مراسم التوقيع.

وبموجب القانون، يجب على الشركات التحقق من أعمار المستخدمين وإجراء تقييمات للمخاطر قبل إطلاق منتجات جديدة أو محدثة بشكل جوهري من روبوتات الدردشة الرفيقة. ويجب أن تكون حسابات الأطفال مضبوطة افتراضيا على ذاكرة محدودة، ودون إشعارات فورية، وبحد أقصى للاستخدام اليومي. ويمكن الآن مقاضاة مزودي الخدمة الذين يفشلون في رصد علامات التحذير مباشرة. وتبدأ المتطلبات الأساسية بالتدرج اعتبارا من يوليو 2027، لمنح الشركات وقتا لبناء الأنظمة التي يفرضها القانون، لكن الرسالة وصلت إلى القطاع فورا: ولاية تضم مقرات شركات ذكاء اصطناعي أكثر من أي مكان آخر في العالم قررت للتو أن التنظيم الذاتي بشأن سلامة الأطفال لم يعد كافيا.

الهند تفتتح واحدة من أكبر منصاتها الدبلوماسية هذا العام

في 12 سبتمبر، افتتح رئيس الوزراء ناريندرا مودي قمة بريكس الثامنة عشرة في مجمع بهارات مانداپام في نيودلهي، مرحبا بقادة من بينهم الرئيس الروسي فلاديمير بوتين، والرئيس الصيني شي جين بينغ، والرئيس الجنوب أفريقي سيريل رامافوزا، والرئيس الإيراني مسعود پزشكيان، والرئيس المصري عبد الفتاح السيسي، في محادثات تمتد يومين حتى 13 سبتمبر. وهذه هي المرة الرابعة التي ترأس فيها الهند المجموعة، بعد قمة نيودلهي عام 2012، وقمة غوا عام 2016، وقمة افتراضية استضافتها عام 2021. وترك كل ترؤس أثرا: فقمة 2012 أطلقت المحادثات التي أفضت إلى إنشاء بنك التنمية الجديد التابع للمجموعة، وأضافت قمة 2016 صيغة التواصل الخارجي التي جذبت منذ ذلك الحين دولا شريكة إضافة إلى الأعضاء المؤسسين الخمسة.

وتصادف قمة هذا العام الذكرى العشرين لتأسيس مجموعة بريكس، وتستغل الهند اللحظة للدفع بأجندتها الخاصة: صندوق ابتكار للشركات الناشئة، ومستودع مشترك للبنية التحتية الرقمية العامة يمكن أن تتبناه دول نامية أخرى، وشبكة بحثية مشتركة لمشاريع علمية كبرى. وقال مودي في كلمته الافتتاحية إن بريكس بنت هوية متميزة على الساحة العالمية، وأكد أن دول الجنوب العالمي بحاجة إلى الانتقال من مجرد التفاعل مع القواعد العالمية إلى المشاركة في صياغتها. ومن المتوقع أن يضع المندوبون الصيغة النهائية لإعلان نيودلهي بحلول ختام القمة، ليغطي التجارة المسواة بالعملات المحلية، والأمن البحري، وإصلاح المؤسسات المالية العالمية. واستضافة قمة لا تضمن وحدها تحقيق أي من ذلك. لكن تولي رئاسة المجموعة للمرة الرابعة، في اللحظة التي تبلغ فيها بريكس عامها العشرين، هو محاولة من الهند لإثبات أن مكانها في قلب هذا الحوار لا على هامشه.

كل قصة هنا تدور في جوهرها حول من يقرر إلى أي مدى تذهب هذه التقنية، وبأي سرعة. تعترف أنثروبيك بأن هامش الأمان الذي كانت تعتمد عليه ربما يكون قد تلاشى بالفعل. ويطرح ألتمان هدنة لم يوافق عليها أحد بعد فعليا. وقررت كاليفورنيا أنها تفضل كتابة القواعد بنفسها بدلا من انتظار القطاع لضبط نفسه. أما الهند، المستضيفة لقاعة مليئة بقادة يحاولون بناء بديل للقواعد القديمة بالكامل، فتراهن على أن الجلوس على رأس الطاولة يهم بقدر أي شيء يقال بعد الوصول إليها.