الحدّ المتعرّج: لماذا يتقن الذكاء الاصطناعي الصعب ويخطئ في السهل؟

يكتب النموذج اللغوي المتقدّم قصيدة سونيت متقنة إن طلبتها منه، فإذا طلبت قصيدة من خمسين كلمة بالضبط جاءك بأكثر منها أو أقل. ويبرمج صفحة إنترنت كاملة للعب إكس-أو ضد الحاسوب، فتعمل من المحاولة الأولى، ثم تعرض عليه رقعة لعبة جارية وتسأله عن الحركة الصحيحة التالية، فيخطئ.

يسمّي إيثان موليك وزملاؤه هذه الظاهرة الحدّ المتعرّج (Jagged Frontier)، ويشبّهها في Co-Intelligence بسور قلعة تمتدّ بعض أبراجه بعيداً في الريف، وينحني بعضها نحو الداخل. فما داخل السور يتقنه الذكاء الاصطناعي، وما خارجه يصعب عليه. والمشكلة أن السور لا يُرى. فمهمّتان تبدوان على المسافة نفسها من المركز، أي بالصعوبة نفسها في نظرنا، قد تقع إحداهما داخل السور والأخرى خارجه.

لماذا يتعرّج الحدّ؟

لأن النموذج يفكّر على غير طريقتنا. فهو يرى النص قطعاً صغيرة، ولهذا يصعب عليه أن يعدّ الكلمات. وهو يتنبّأ بالكلمة التالية من أنماط تعلّمها، فيبرع فيما كثرت أمثلته، كالشعر والبرمجة الشائعة، ويتعثّر فيما يحتاج إلى حساب دقيق أو إلى تتبّع حالة بعينها. ومن هنا تأتي المفاجآت في الاتجاهين، فتوليد الأفكار، وهو ما نحسبه من صميم الإبداع البشري، سهل عليه، والحساب البسيط، وهو ما نحسبه عمل الآلات، صعب عليه.

ماذا يحدث عند الحدّ؟

شارك موليك في تجربة مع مجموعة بوسطن الاستشارية على نحو ثمانمئة مستشار، أدّوا ثماني عشرة مهمة تشبه عملهم، منها أفكار لمنتج جديد، وتقسيم سوق، وبيان صحفي، ومذكرة مقنعة للموظفين. فكان من استعمل منهم GPT-4 أسرع، وعمله أعلى جودة في كل مقياس جرّبه الباحثون.

وصمّم الباحثون بعد ذلك مهمة واحدة تقع خارج الحدّ عمداً، فيها خدعة إحصائية وبيانات مضلّلة. فأصاب المستشارون الذين عملوا وحدهم في أربعة وثمانين في المئة من الحالات، ولم يُصب من استعانوا بالذكاء الاصطناعي إلا في ستين إلى سبعين في المئة. وكان ما خذلهم في الأداة قدرتها على الإقناع، فقد أعطتهم جواباً واثقاً خاطئاً، فقبلوه.

ماذا تفعل بهذا؟

جرّب في عملك أنت. يقول موليك إن أحداً لا يملك خريطة الحدّ، لا الشركات التي تصنع النماذج ولا المستشارون. غير أن من يعمل في مهنته كل يوم يستطيع أن يجرّب عشرات المرات بلا كلفة، فيصير أعلم الناس بموضع الحدّ في عمله. ولهذا كانت قاعدته الأولى أن تدعو الذكاء الاصطناعي إلى كل ما تفعله.

احذر من النجاح المتكرّر. فكلما أصابت الأداة في مهام كثيرة زادت ثقتك بها في المهمة التالية، وقد تكون التالية خارج الحدّ.

أعد رسم الحدّ مع كل نسخة. فالحدّ يتحرّك، وما كان خارجه قبل أشهر قد يصير داخله.

وهذا مهندس معماري يجرّب الذكاء الاصطناعي في مكتبه. يجده ممتازاً في كتابة وصف المشروع للعميل، وجيداً في تلخيص اشتراطات البلدية من ملف طويل، لكنه يخطئ في حساب المساحات من جدول، ويخترع في نظام البناء بنوداً لا وجود لها حين يُسأل عن رقم مادة. فيكتب المهندس لنفسه قائمة بثلاث خانات، ما يسلّمه له ويراجعه سريعاً، وما يتحقّق منه بنداً بنداً، وما لا يسأله عنه أصلاً.

حدود الفكرة

الحدّ صورة تصف، ولا ترسم خريطة. فهي تقول إن القدرات غير منتظمة، ولا تقول لك أين تقع حدود أداتك اليوم، وهذا لا يعرفه إلا من جرّب.

تجربة المستشارين تجربة واحدة. ومهمّتها الخارجية صُمّمت لتخدع النموذج. فلا تعني أن الذكاء الاصطناعي يضرّ في كل مهمة صعبة. معناها أن الخطأ عند الحدّ مكلف، لأنه يأتي بثقة.

المصدر: Co-Intelligence، الفصل 1 (مثال إكس-أو)، والفصل 3 (القاعدة الأولى، وصورة السور، والقصيدة ذات الخمسين كلمة)، والفصل 6 (تجربة مجموعة بوسطن الاستشارية). أما مثال المهندس والحدود فمن تحرير فكرغراف.