روبوت الدردشة الخاص بك يخمّن فقط الكلمة التالية. فلماذا هو بهذه البراعة؟

اطلب من روبوت دردشة حديث أن يشرح ميكانيكا الكم، وسيفعل. اسأله كم مرة يظهر حرف “r” في كلمة “strawberry”، وقد يخبرك بثقة أنها مرتان.

تلك الفجوة، عبقرية وخطأ في النفس الواحد، ليست خللا يمكن إصلاحه بترقيع. إنها تنبع مباشرة من طريقة عمل هذه الأنظمة فعليا. والسر بسيط إلى درجة تكاد تكون مهينة.

إنه إكمال تلقائي. إكمال تلقائي بالغ الجودة.

يقوم نموذج اللغة الكبير بشيء واحد بالضبط: بالنظر إلى نص ما، يتنبأ بالجزء التالي من النص. ثم يضيف ذلك الجزء، وينظر إلى المجموع الجديد، ويتنبأ بالتالي. ومرة أخرى. ومرة أخرى، مئات المرات، حتى يكون قد كتب لك مقالا كاملا.

هذا كل ما في الأمر. هذه هي الحيلة بأكملها. لوحة مفاتيح هاتفك تقوم بنسخة بدائية من هذا حين تقترح الكلمة التالية. تشات جي بي تي هو الفكرة نفسها موسّعة إلى حد يصعب تخيله تقريبا، مدرّبة على جزء هائل من الإنترنت والكتب والشيفرة البرمجية إلى أن أصبحت تخميناته جيدة بشكل مثير للريبة.

النموذج نفسه لا يستشير قاعدة بيانات من الحقائق. إنه يُجري مليارات الحسابات للإجابة عن سؤال واحد، مرارا وتكرارا: بالنظر إلى كل ما سبق، ما الكلمة الأكثر ترجيحا أن تأتي بعد ذلك؟

هناك تحفظ مهم هنا، لأنه يغيّر ما ينبغي أن تتوقعه. النموذج هو المحرك، لا السيارة بأكملها. المنتجات المبنية حول هذه النماذج تبحث الآن فعلا عن معلومات: اسأل تشات جي بي تي أو كلود عن شيء حديث، وغالبا ما سيبحث في الويب ويقدم لك مصادر. هذا الاسترجاع مُلحق حول محرك التخمين وليس بديلا عنه، وهو السبب الأكبر الوحيد وراء أن المساعدين الحديثين يصيبون في الحقائق أكثر مما كانوا يفعلون سابقا. في الأعماق، لا يزال المحرك يخمّن.

لماذا يُنتج تخمين الكلمات عبقرية ظاهرية

الحيلة التي تجعل هذا يعمل هي: للتنبؤ بالكلمة التالية بشكل جيد حقا عبر كل ما كتبه البشر، يُضطر النظام لاستيعاب الأنماط الكامنة تحت تلك الكتابة. وهذا يعني القواعد النحوية، وأي الحقائق تميل للظهور معا، وشكل الحجة، وإيقاع النكتة.

كان الاختراق الذي جعل هذا ممكنا تصميما من عام 2017 يُدعى المحوّل (transformer)، والذي سمح للنماذج بتقدير كيفية ارتباط كل كلمة في مقطع نصي بكل كلمة أخرى، موليةً “انتباهها” للسياق ذي الصلة بدلا من القراءة الصارمة من اليسار إلى اليمين. وسّع تلك البنية بما يكفي من البيانات والقدرة الحاسوبية، ويتوقف التنبؤ بالكلمة التالية عن الظهور كإكمال تلقائي ويبدأ بالظهور كمعرفة.

لكنها ليست معرفة. إنها خريطة إحصائية مفصّلة بشكل خيالي لكيفية استخدام البشر للغة. ولهذا يمكنه أن يكتب لك قصيدة سونيتة وأن يتعثر مع ذلك في سؤال إملائي يطرحه طفل.

لماذا يهلوس (وسيظل يفعل ذلك قليلا دائما)

حين يخترع روبوت دردشة قضية قانونية وهمية أو كتابا غير موجود، نسمّي ذلك “هلوسة”. إنها كلمة مضللة. النموذج لا يتعطل. إنه يفعل بالضبط ما يفعله دائما، إنتاج التكملة الأكثر معقولية في مظهرها، في موقف لا تكون فيه الإجابة المعقولة والإجابة الصحيحة الشيء نفسه.

ليس لدى النموذج إحساس منفصل بـ”الحقيقة”. لديه إحساس بـ”المرجّح”. في معظم الأحيان يتطابق الاثنان، ولهذا هو مفيد. وحين يتباعدان، سيقدّم لك إجابة واثقة وسلسة ومختلَقة بالكامل، دون أن ينطلق أي إنذار داخلي، لأنه لا يوجد إنذار لينطلق أصلا.

أما مشكلة “strawberry” تلك؟ فهو لا يرى النص كحروف بل كقطع تُسمى رموزا، لذا فإن عدّ الحروف الفردية أمر مربك بالنسبة له. إنه ليس غبيا. إنه ببساطة مبني لمهمة مختلفة عن تلك التي كلّفته بها.

ماذا يعني هذا لاستخدامه فعليا

بمجرد أن تستوعب أنه “يتنبأ بنص معقول، لا يسترجع حقائق”، تتضح الأداة بأكملها:

• إنه رائع في الأمور التي تكون فيها السلاسة هي الهدف نفسه: كتابة المسودات، إعادة الصياغة، توليد الأفكار، الترجمة، التلخيص.
• إنه محفوف بالمخاطر في أي موضع تكلّفك فيه إجابة خاطئة واثقة ثمنا: الحقائق المحددة، الأرقام، الاقتباسات، التفاصيل القانونية أو الطبية. تحقق من هذه دائما.
• إنه لا “يعرف” ما لا يعرفه، لذا لا يمكنه تحذيرك بشكل موثوق حين يكون يخمّن فقط.

هذه الآلات استثنائية. لكن أذكى ما يمكنك فعله معها هو أن تتذكر ما تفعله فعليا تحت الغطاء. إنها لا تفكر، ولا تعرف. إنها تتنبأ. وبمجرد أن تضع ذلك في اعتبارك، تتوقف عن كونها سحرا وتصبح ما هي عليه فعلا، وهو أمر يمكن القول إنه أكثر إثارة للإعجاب: مرآة لكل ما كتبه البشر على الإطلاق، تخمّن طريقها كلمة كلمة نحو شيء يشبه الفهم إلى حد كبير.