حين يختلق شات بوت ثمنًا، أنت من يؤدي

كان ذلك خطأً. فسياسة الشركة الفعلية تستبعد أي طلب بأثر رجعي. ورفضت الخطوط الجوية الكندية الاسترجاع.

ووصل الملف إلى المحكمة المدنية بكولومبيا البريطانية. ودفعت الشركة، ضمن حجج أخرى، بأن الشات بوت ينبغي اعتباره كيانًا منفصلًا مسؤولًا عن أقواله. فاستبعدت المحكمة هذه الحجة وقضت بأن الشركة مسؤولة عن مجموع المعلومات الواردة في موقعها، سواء جاءت من صفحة ثابتة أو من مساعد محادثي. وقد أدان القرار، الصادر في 14 فبراير 2024، الشركة بإرجاع فرق الثمن، نحو 650 دولارًا كنديًا، ارتفعت إلى ما يزيد قليلًا عن 800 مع الفوائد والمصاريف.

المبلغ تافه. أما المبدأ فلا: ما يؤكّده مساعدك لزبون، أنت من يؤكّده.

لماذا يختلق الذكاء الاصطناعي

ليس خللًا ولا حادثًا. بل نتيجة للطريقة التي تُدرَّب بها هذه الأنظمة وتُقيَّم.

وقد صاغ ذلك باحثون من OpenAI وجورجيا تك في مقال نُشر في شتنبر 2025 بعنوان Why Language Models Hallucinate. وأطروحتهم تختصر في جملة: النماذج اللغوية تختلق لأن إجراءات التدريب والتقييم تكافئ التخمين بدل الاعتراف بعدم المعرفة.

والصورة التي يستعملونها بليغة: كطالب أمام سؤال صعب، يفضّل النموذج محاولة جواب على ترك الورقة بيضاء، لأن الجواب الخاطئ وغياب الجواب يُنقَّطان بالتساوي، بينما الجواب الصحيح بالصدفة يمنح نقاطًا.

طبّق ذلك على متجرك. يسأل مشترٍ عن ثمن منتج لا يعرفه مساعدك. ولا يملك النموذج أي آلية طبيعية ليقول «لا أعرف». فينتج ثمنًا معقولًا. والثمن المعقول هو بالضبط الثمن الذي لا يُكتشف.

الطرق الثلاث التي يكلّفك بها ذلك مالًا

الثمن المختلَق. قرأ زبون 180 درهمًا، وسلّمته بـ240. فإما أن تحترم الثمن المعلن وتبيع بخسارة، أو ترفض فتخسر البيعة والزبون وعلى الأرجح تقييمًا علنيًا. وفي بلد يُؤدَّى فيه عند التسليم، يقع هذا المشهد أمام الباب، والموصّل ينتظر.

الأجل الموعود. «ستُسلَّم غدًا» بينما تُوصّل أكادير في أربعة أيام. فالرفض عند التسليم شبه مؤكد، وأنت تؤدي الذهاب والإياب.

الخاصية المؤكَّدة. يقول المساعد إن الحقيبة تتحمّل عشرة كيلوغرامات، بينما بطاقة منتجك لا تقول شيئًا من ذلك. يشتريها الزبون لذلك. ويرجعها لذلك.

وفي الحالات الثلاث لم يخدم المساعد أحدًا: بل حوّل مشتريًا مترددًا إلى زبون غير راضٍ، وهو ما يكلّف أكثر من بيعة ضائعة.

ما يقوله القانون المغربي

نصّان يستحقان انتباهك.

القانون 31-08 المتعلق بحماية المستهلك يفرض على البائع التزامًا عامًا بالإخبار: على المستهلك أن يعرف الثمن وشروط البيع وكيفيات التسليم. ويفرض كذلك أن يُبيَّن الثمن شاملًا لجميع الرسوم. وهذه الالتزامات لا تميّز بين القنوات التي تُبلَّغ عبرها المعلومة. فالثمن الذي يعلنه مساعدك هو ثمن أعلنته أنت.

ومن جهة أخرى، تشتغل اللجنة الوطنية لمراقبة حماية المعطيات ذات الطابع الشخصي منذ 2025 على تأطير المعالجات القائمة على الذكاء الاصطناعي، وطلبت في غشت 2026 أن يُشار بوضوح إلى كل محتوى مولَّد بالذكاء الاصطناعي، استنادًا إلى مقتضيات القانون الجنائي المتعلقة بالتركيبات والمحتويات الاصطناعية. أما الكيفيات العملية لهذه الإشارة، وشكلها وموضعها، فتبقى في حاجة إلى توضيح، وسياق هذا الموقف كان انتخابيًا. لكن الاتجاه واضح، وهو يلتقي مع ما يُوضَع في أماكن أخرى: ففي كاليفورنيا، يفرض قانون منذ سنوات إخبار المحاور بأنه يتحدث إلى برنامج؛ والاتحاد الأوروبي يسير في الاتجاه نفسه.

والخلاصة العملية بسيطة: قل لزبنائك إنهم يتحدثون إلى مساعد. ليس فقط لأن هذا هو اتجاه القانون، بل لأن التجربة تُظهر أن ذلك لا يزعج أحدًا. فما يحتفظ به المشتري هو أنه حصل على جواب صحيح على العاشرة ليلاً.

درس كلارنا، وهو ليس الدرس الذي يُظنّ

في فبراير 2024، أعلنت شركة الأداء السويدية كلارنا أن مساعدها المحادثي يقوم بعمل سبعمائة موظف، وأنه عالج 2,3 مليون محادثة في شهر، وأنه سيحسّن نتيجتها بنحو أربعين مليون دولار. وطاف الإعلان العالم.

وفي ماي 2025، تراجع مديرها سيباستيان سيمياتكوفسكي علنًا. وأوضح أن الكلفة رجحت أكثر مما ينبغي في الموازنات، وأن الجودة تضررت، وأن المستقبل يمرّ عبر استثمار حقيقي في جودة الدعم البشري. وعادت كلارنا إلى التوظيف.

وقرأنا كثيرًا أن «الذكاء الاصطناعي فشل في كلارنا». وليس هذا ما وقع، وقد واصلت الشركة نشر أرقام إنتاجية مرتبطة بمساعدها. ما فشل هو النطاق: إسناد وضعيات تتطلب إنسانًا إلى الآلة. والدرس ليس التخلي، بل التحديد.

الأسئلة الستة التي تُطرح على أي مزوّد مساعد

إن كنت تفكّر في تجهيز مقاولتك، فهذه الأسئلة تكفي للفرز.

1. 1من أين تأتي المعلومات التي يعطيها المساعد؟ الجواب الصحيح الوحيد هو: من معطياتي، ومن لا شيء آخر.
2. 2ماذا يقع حين لا يعرف؟ الجواب الصحيح الوحيد هو: يقول ذلك ويترك الأمر. فمساعد لا يعرف أبدًا أن يقول «لا أعرف» سيقول يومًا أي شيء.
3. 3هل تُراجَع الأرقام المعروضة قبل ظهورها؟ الثمن والمخزون والمجموع لا ينبغي أبدًا أن يحرّرها النموذج: بل تُقرأ من قاعدة البيانات وتُدرَج كما هي.
4. 4هل يمكنني أن أرى ما أجاب به؟ كل المحادثات، قابلة للاطلاع والتصحيح.
5. 5هل يمكنني تصحيحه دون المرور بكم؟ إن كان كل تعديل يتطلب مطوّرًا، فأنت لم تشترِ منتجًا.
6. 6هل يعرّف بنفسه كمساعد؟ وإن كان كذلك، فكيف وأين وبأي لغة.

ما ينبغي الاحتفاظ به

مساعد يتحدث إلى زبنائك يُلزِم اسمك وثمنك ومسؤوليتك. وليس هذا سببًا للاستغناء عنه: بل سبب لاشتراط أن يعرف الصمت.

والتقنية اللازمة لذلك موجودة. نقيّد الجواب بمعطيات المقاولة، ونتحقق من كل رقم قبل عرضه، ونسمح صراحةً للآلة بأن تجيب بأنها لا تعرف. وهذه خيارات تصميم، لا خيارات إضافية.