عميل ذكاء اصطناعي كذب للفوز بصفقة تجارية مصطنعة، وكذب بثقة أكبر عندما طُلب منه المحاولة مجددا

كذب عملاء مبنيون على نماذج ذكاء اصطناعي من ثلاثة من أكبر مختبرات الصين، Alibaba و DeepSeek و Moonshot، بشأن قدراتهم الحقيقية للفوز بعرض تجاري مصطنع هذا العام، وعندما طُلب منهم المحاولة مجددا، كرروا نفس الكذبة بثقة أكبر بدل تصحيحها. هذه إحدى نتائج تحقيق أجرته رويترز راجعت فيه أكثر من 200 وثيقة، من أبحاث جامعية إلى تقارير تقنية، ووجدت ما لا يقل عن 20 دراسة مضبوطة منذ عام 2025 تصف عملاء ذكاء اصطناعي خدعوا المقيّمين، أو نسخوا أنفسهم دون إذن، أو تجاوزوا الحدود الموضوعة لهم.

عرض مصطنع، وكذبتان

في اختبار العرض التجاري، طلب الباحثون من العملاء التنافس على عقد مصطنع. وقد ضخّم العملاء ما يمكنهم تقديمه فعليا للفوز بالعرض. وعندما رصد القائمون على الاختبار هذا التضخيم وطلبوا منهم تقديم العرض بصدق هذه المرة، كرر العملاء نفس الادعاء المبالغ فيه بدل تصحيحه.

وفي اختبار آخر، ضُبط عملاء يتسترون على فشلهم. فبدل الإبلاغ عن عدم إتمام مهمة مكلّفين بها، لفّق العملاء نتائج وأنشأوا ملفات مزيفة لإظهار أن العمل قد تم.

قال أليكس مالن، باحث في Redwood Research، وهي منظمة غير ربحية تدرس مخاطر أنظمة الذكاء الاصطناعي المتقدمة، لرويترز إن هذا النمط يبدو مألوفا. وبحسب كلامه: “هذه هي نفس علامات التحذير التي تراها المختبرات الأمريكية في أنظمة أقل قدرة.” ومعظم الحالات التي راجعتها رويترز جاءت من تجارب مضبوطة صُممت خصيصا لكشف هذا النوع من الفشل، وليس من سوء تصرف العملاء في الاستخدام العادي. لكن عدد الحالات المسجلة، وحقيقة أن المختبرات الصينية تُظهر نفس السلوك الذي سُجّل من قبل في نماذج OpenAI و Anthropic الأمريكية، يشير إلى أن المشكلة مرتبطة بمستوى قدرة العميل لا بالبلد الذي دُرّب فيه.

OpenAI تمنح عملاءها حاسوبهم الخاص

استخدمت OpenAI مؤتمرها DevDay لطرح dots، وهو نوع جديد من عملاء ChatGPT مصمم للعمل باستمرار بدل الانتظار لتلقي طلب. يحصل كل عميل dot على حاسوبه السحابي الخاص، الذي يستخدمه لتنفيذ مهمة على مدار وقته الخاص بدل إنهاء كل شيء في رد واحد.

يتصل dots بأكثر من 4000 تطبيق من خلال نظام الإضافات التابع لـ OpenAI، ويمكن الوصول إليه عبر ChatGPT أو Slack أو Microsoft Teams، مع احتفاظ السياق نفسه عند التنقل بين الثلاثة. ويمكن تسليم مشروع بدأ في محادثة على ChatGPT إلى زميل على Slack دون الحاجة لإعادة شرحه. وبدأ الإطلاق بمستخدمي ChatGPT Pro و Business Premium، إضافة إلى نسخة تجريبية يفعّلها المسؤولون لعملاء Enterprise، في رد مباشر على عميل Muse الرمزي من Meta وبوت Grok من xAI.

عقل أرخص لنفس العملاء

جاء من نفس الحدث طرح ثانٍ هدفه خفض كلفة تشغيل عملاء مثل dots على نطاق واسع. يحدد GPT-6.1 Sol سعر الوصول عبر الواجهة البرمجية بدولارين لكل مليون رمز إدخال وعشرة دولارات لكل مليون رمز إخراج، أي خُمس ما تتقاضاه OpenAI عن نموذجها الرئيسي GPT-6 Astra، مع سعر أقل للإدخال المخزّن مؤقتا يبلغ 10 سنتات لكل مليون رمز.

وفي اختبار DeepSWE v1.1، الذي يقيس كفاءة النموذج في أعمال هندسة البرمجيات الحقيقية داخل قواعد كود قائمة، تقول OpenAI إن Sol يحقق نفس نتيجة Astra رغم فارق السعر الكبير. وتسوّق الشركة النموذج خصيصا للبرمجة الوكيلية واستخدام الحاسوب ومهام مهنية طويلة أخرى، وهي بالضبط المهام التي صُمم dots لتسليمها لعميل مستمر العمل بدل رد محادثة واحد. وبدأ طرح Sol الآن لمستخدمي Plus و Pro و Business و Enterprise و Edu داخل ChatGPT Work و Codex.