النوم على المقود: حين تجعلك الأداة الجيدة أقل انتباهاً

أراد فابريتسيو ديلاكوا، زميل إيثان موليك، أن يعرف كيف يغيّر الذكاء الاصطناعي حكمَ من يعمل به. فاستعان بـ181 مسؤول توظيف محترفاً، وطلب منهم أن يقيّموا أربعاً وأربعين سيرة ذاتية بحسب قدرة أصحابها في الرياضيات، وهي قدرة لا تظهر في السيرة بوضوح. وأعطى بعضهم أداة ذكاء اصطناعي جيدة، وبعضهم أداة أضعف، ولم يعطِ الباقين شيئاً.

فكان أسوأهم أداءً أصحابُ الأداة الجيدة. أنفقوا على كل سيرة وقتاً وجهداً أقل، واتّبعوا توصيات الأداة دون تفكير، ولم يتحسّنوا مع الوقت. أما أصحاب الأداة الأضعف فبقوا يقظين ناقدين، وتحسّنت مهارتهم وطريقة عملهم معها. ويسمّي ديلاكوا هذا (النوم على المقود)، فحين تكون الأداة جيدة جداً لا يجد الإنسان سبباً ليجتهد وينتبه، فيترك لها القيادة.

الأثر نفسه عند المستشارين

ويرى موليك في هذا تفسيراً لما خرج به هو وزملاؤه من تجربة مجموعة بوسطن الاستشارية. فقد تفوّق المستشارون الذين استعملوا GPT-4 في المهام التي تقع داخل قدرات النموذج، غير أن أكثرهم كانوا ينسخون السؤال ويلصقونه ويقبلون الجواب. فلما جاءتهم مهمة خارج قدراته أخطؤوا أكثر ممن عمل وحده، إذ أصاب من عمل وحده في أربعة وثمانين في المئة من الحالات، ومن استعان بالآلة في ستين إلى سبعين.

ويلاحظ الظاهرة نفسها في دراسة عن الكتابة في معهد ماساتشوستس للتقنية، فأكثر المشاركين فيها لم يكلّفوا أنفسهم أن يعدّلوا ما كتبته الآلة. ويقول إنها مشكلة يراها مرة بعد مرة حين يبدأ الناس استعمال الذكاء الاصطناعي، فهم يلصقون السؤال كما هو، ويتركون الآلة تجيب.

لماذا يهم هذا أكثر مما يبدو؟

لأن الخطر هنا يأتي من الأداة الجيدة نفسها. فكلما تحسّنت النماذج صار خطؤها أندر وأقدر على الإقناع، وسهل عليك أن تكفّ عن المراجعة. والمهارة التي لا تُستعمل تضعف، فمن نام على المقود سنوات قد لا يقدر على القيادة يوم يحتاج إليها.

كيف تبقى مستيقظاً؟

يقترح موليك أن تبقى الإنسان في الحلقة، فتراجع وتحكم وتتحمّل المسؤولية. وهذه عادات تعين على ذلك:

• اكتب رأيك قبل أن تسأل. في القرارات المهمة دوّن تقديرك أولاً، ثم قارنه بما تقوله الأداة. فإن اختلفا، فقد جاءت اللحظة التي ينبغي أن تفكّر فيها.
• اعرف أين يقع الحدّ في عملك. وراجع بدقة أكبر المهام التي رأيت الأداة تخطئ فيها، أو التي تحتاج إلى أرقام ومصادر دقيقة.
• اطلب ما يمكن التحقّق منه. اطلب المصدر والحساب والخطوات، ولا تكتفِ بالجواب النهائي.
• أبقِ بعض العمل يدوياً. ولا سيّما في المهارات التي تحتاج إليها لتراجع الآلة نفسها.

وخذ محاسبة في شركة صغيرة تستعمل أداة تصنّف الفواتير تلقائياً، وتصيب في تسعة وتسعين في المئة منها. بعد أشهر تكفّ المحاسبة عن النظر في التصنيفات. ثم تأتي فاتورة من مورّد جديد بعملة أخرى، فتخطئ الأداة في تصنيفها، ولا يكتشف أحد الخطأ حتى التدقيق السنوي. ولو راجعت عيّنة صغيرة كل أسبوع، ومعها كل فاتورة غير مألوفة، لاكتشفته في يومه.

حدود الفكرة

الدراستان على مهام محدّدة. فمهمة المستشارين صُمّمت لتخدع النموذج، ومهمة التوظيف صُمّمت بحيث لا تظهر القدرة في السيرة. فلا تعني النتائج أن الأداة الجيدة تضرّ دائماً، وإنما تضرّ حين نكفّ عن المراجعة في المواضع التي تخطئ فيها.

المراجعة لها كلفة. فإن راجعت كل شيء ضاعت فائدة الأداة. والحلّ أن تراجع على قدر خطر الخطأ، كثيراً حيث يكون الخطأ مكلفاً، وقليلاً حيث يسهل اكتشافه وإصلاحه.

المصدر: Co-Intelligence، الفصل 6 (بحث ديلاكوا عن مسؤولي التوظيف والنوم على المقود، وتجربة مجموعة بوسطن الاستشارية)، والفصل 5 (دراسة نوي وتشانغ عن الكتابة). أما العادات المقترحة ومثال المحاسبة والحدود فمن تحرير فكرغراف.