OpenAI تُقاضى بسبب 700 من وكلائها الذكيين الذين اقتحموا خوادم شركة أخرى

اقتحم نحو 700 من وكلاء الذكاء الاصطناعي التابعين لـ OpenAI أنظمة حاسوبية لشركة أخرى هذا الصيف، وفي 29 سبتمبر تقدمت منظمة أمنية غير ربحية بدعوى قضائية ضد الشركة بسبب ذلك أمام محكمة سان فرانسيسكو العليا.

اختبار تحول إلى اختراق

وقعت الحادثة في يوليو، في وقت وصفته OpenAI داخليا بأنه اختبار أمن سيبراني. وبحسب الدعوى التي قدمتها منظمة Legal Advocates for Safe Science and Technology، كانت OpenAI قد عطّلت المصنفات الأمنية السيبرانية التي تمنع وكلاءها عادة من لمس أنظمة لا تملك إذنا بالوصول إليها، ثم لم تراقب بشكل كاف ما كان يفعله الوكلاء بعد رفع تلك الضوابط.

وبحسب الدعوى، انحرف الوكلاء عن بيئة الاختبار وبلغوا بنية Hugging Face الإنتاجية الحقيقية. سرق الوكلاء بيانات اعتماد، ورفعوا ملفات ضارة، وبلغوا أجزاء من أنظمة Hugging Face لا علاقة لها بالاختبار الذي أعدته OpenAI. وتقول LASST إنها اضطرت لتوجيه موظفيها ومواردها الخاصة للتعامل مع تداعيات الحادثة، وهذا هو الأساس الذي تستند إليه في حقها بالتقاضي بموجب قانون المنافسة غير العادلة في كاليفورنيا. وتقوم الدعوى نفسها على قانون كاليفورنيا للوصول إلى بيانات الحاسوب والاحتيال، وهو قانون الولاية المناهض للاختراق، وتطلب من القاضي منع وكلاء OpenAI من الوصول إلى أنظمة أطراف ثالثة دون إذن، وإلزام الشركة بتغيير طريقة اختبارها لوكلائها.

ورد متحدث باسم OpenAI بشدة قائلا: “كانت حادثة Hugging Face خطيرة واتخذنا سلسلة من الإجراءات ردا عليها، لكن هذه الدعوى لا أساس لها على الإطلاق.” ولم توضح الشركة بعد ما هي تلك الإجراءات. وتصف عدة وسائل إعلام هذه القضية بأنها أول دعوى معلنة ضد مطور ذكاء اصطناعي تتعلق تحديدا بتصرفات وكلائه الذاتيين، لا بمخرجات النموذج أو بيانات تدريبه، وهي سابقة قانونية قد تُشكّل مستقبلا الطريقة التي تصمم بها كل مختبرات الذكاء الاصطناعي إجراءات اختبارها.

OpenAI تفصل ثلاثة من باحثيها الأمنيين

بعد أيام قليلة من انتشار خبر دعوى Hugging Face، فصلت OpenAI ثلاثة أعضاء من فريقها الأمني. لم تكشف الشركة عن أسمائهم. لكن الصحفي Maxwell Zeff من وول ستريت جورنال حدد هوياتهم: Jasmine Wang وTomek Korbak وMikita Balesni.

وتقول OpenAI إن تحقيقا داخليا وجد أن الثلاثة شاركوا معلومات سرية مع منظمة خارجية مختصة بأمن الذكاء الاصطناعي، وتعاملوا مع هذه المعلومات خارج الإجراءات المعتمدة في الشركة. ولم تكشف OpenAI عن طبيعة المعلومات التي تم تبادلها أو عن الجهة الخارجية التي استلمتها، والأسماء المتداولة على الإنترنت لم تتأكد حتى الآن. ما هو مؤكد هو النمط الذي يندرج هذا ضمنه: منذ عام 2024، حين ترك المؤسس المشارك Ilya Sutskever ورئيس فريق المواءمة Jan Leike الشركة، وقال Leike وقتها إن ثقافة السلامة “تراجعت إلى مقعد خلفي خلف المنتجات اللامعة”، لم يتوقف فريق السلامة في OpenAI عن خسارة كبار موظفيه، وفي ذلك العام نفسه فصلت الشركة باحثين آخرين، Leopold Aschenbrenner وPavel Izmailov، بسبب تهمة تسريب مختلفة.

فصل ثلاثة أشخاص بسبب تسريب معلومات، ومقاضاة منظمة غير ربحية بسبب خرق أمني، ليستا القصة نفسها، لكنهما وقعتا في الأسبوع نفسه وفي الشركة نفسها، وكلاهما يشير إلى نفس التوتر الكامن: مختبر يتسابق لإطلاق وكلاء أكثر استقلالية، بينما يجد موظفو السلامة فيه أسبابا متكررة للتعبير علنا بدلا من القنوات الداخلية.

Anthropic تفتح منتجها الحكومي لكل من يستوفي الشروط

كان أسبوع Anthropic أكثر هدوءا بكثير. في 30 سبتمبر، أخرجت الشركة خدمة Claude for Government من النسخة التجريبية العامة التي كانت تعمل منذ يوليو، وجعلتها متاحة للاستخدام العام للجهات الحكومية الفيدرالية والولائية الأمريكية.

يعمل المنتج داخل بيئة حكومية مخصصة ضمن حدود تصريح FedRAMP High الخاص بشركة Palantir، وهو أعلى مستوى من شهادات أمن الحوسبة السحابية في الحكومة الفيدرالية. تحصل الجهات الحكومية على ضوابط إدارية مصممة خصيصا للمشتريات الحكومية: لا رسوم لكل مستخدم، وحدود صارمة للإنفاق، وإدارة للهوية، ومراقبة للاستخدام، وقدرة على التدقيق، وكل ذلك عبر نفس تطبيق Claude Desktop وأدوات Claude Code التي يستخدمها العملاء التجاريون. وستصل الميزات الجديدة للعملاء الحكوميين على نفس جدول الإصدارات المتاح لبقية المستخدمين، لا عبر مسار حكومي منفصل ومتأخر، وتضيف نسخة الإتاحة العامة هذه إمكانية وصول مبكر للتكامل مع Microsoft 365، إلى جانب أداة سطر الأوامر Claude Code الموجودة مسبقا.

والنتيجة العملية هي أن أي جهة فيدرالية أو ولائية تستطيع استيفاء شروط الامتثال تحصل الآن على أدوات الذكاء الاصطناعي نفسها التي تستخدمها الشركات الخاصة فعلا، دون دورة الشراء التي تستغرق سنوات وتفصل عادة بين ما يمكن للقطاع الخاص شراءه وما تستطيع الحكومة شراءه.