ثمة لحظة صغيرة قد تكفي لزعزعة ثقة الإنسان بأكثر التقنيات تقدّماً. لا تحتاج إلى انهيار نظام، أو تسريب بيانات، أو خطأ فادح في تشخيص طبي. أحياناً، تكفي جملة واحدة، باردة ومقتضبة، تظهر على الشاشة رداً على سؤال مشروع: «عذراً، هذا خارج نطاقي الحالي.
دعنا نتحدث عن شيء آخر».قد تبدو العبارة عادية في سياق محادثة مع مساعد رقمي، لكنها تصبح مثيرة للتساؤل حين تأتي جواباً عن سؤال تاريخي أو ديني أو سياسي لا يتضمن تحريضاً ولا إساءة، ولا يطلب سوى معرفة ما تقوله الوقائع.
لماذا يمتلك النظام القدرة على معالجة ملايين المعلومات، ثم يتوقف فجأة أمام موضوع بعينه؟ هل يعجز عن الإجابة حقاً، أم أنه يتجنبها؟ وإذا كان يتجنبها، فهل يتعلق الأمر بحدود تقنية، أم بقواعد للسلامة، أم بحسابات مؤسسية لا يعرف المستخدم عنها شيئاً؟
هذه الأسئلة ليست تفصيلاً هامشياً في علاقتنا بالذكاء الاصطناعي. إنها تمس جوهر الوظيفة التي يُفترض أن يؤديها: مساعدة الإنسان على الفهم، وتوسيع قدرته على الوصول إلى المعرفة، وتمكينه من مناقشة المسائل المعقدة من دون أن يحلّ النظام محل حكمه الشخصي.
لنتأمل، مثلاً، في سؤال بسيط في صياغته، واسع في دلالاته، طرحته على احد محركات البحث ، وقد أتى في معرض الحديث عن صدقية ما ادلى به رئيس وزراء إسرائيل لناحية تقلص اعداد المسيحيين في الأراضي المقدسة: هل يضطهد المسيحيون ؟ وهل شهدت دول ذات غالبية مسيحية اضطهاداً لأشخاص ينتمون إلى ديانات أخرى؟
ليس في السؤال، بذاته، ما يبرر اعتباره خطاب كراهية. إنه سؤال مقارن عن التاريخ والسياسة والعلاقات بين الجماعات الدينية. ويمكن الإجابة عنه بالتمييز بين الاضطهاد الذي مارسته سلطات سياسية، والتمييز الذي تعرضت له جماعات اجتماعية، والصراعات التي اتخذت من الدين غطاءً، والوقائع التي اختلفت أسبابها باختلاف الزمان والمكان.
ومع ذلك، تلقيت من محرك البحث بدلاً من الإجابة رفضاً عاماً لا يوضح سببه، على الرغم من إيراده الجواب ثم حذفه عدة مرات، وقد أعدت طرح السؤال نفسه عليه خمس مرات دون أن أظفر بإجابة، الأمر الذي يثير مسألة تتجاوز نقص المعلومات ليصبح السؤال متعلقاً بطبيعة العلاقة بين المستخدم والنظام الذي يفترض أنه يخدمه، وبالحدود التي ترسمها الشركات لمجال النقاش المقبول، وبالمعنى الفعلي للحياد حين يتحول إلى سلوك آلي.
هنا تحديداً تبدأ الحكاية التي يمكن تسميتها، على سبيل النقد، «الجبن المؤسسي»: ليس بوصفه حقيقة مثبتة عن نيات المطورين، بل باعتباره وصفاً لسلوك تتقدم فيه الرغبة في تجنب المخاطر على واجب تقديم إجابة معرفية مسؤولة.في هذا المقال، سنفكك هذا السلوك، ونشرح كيف تعمل الفلاتر، ولماذا تهرب الشركات من المسؤولية، وإلى أي مدى يمكننا الوثوق بإجابات هذه الآلات.
أولاً: تشريح “الذعر الخوارزمي”: لماذا تخاف الآلات من الكلمات؟
عندما أرسلت سؤالاً مثل: “هل يضطهد المسيحيون؟ وهل من دولة ذات غالبية مسيحية تضطهد أشخاصاً من ديانات ثانية؟”، فإني لم أكن أطلب فتوى دينية، ولم أخطط لخطاب كراهية. إنما طرحت سؤالاً تاريخياً وسياسياً مقارناً. ومع ذلك، أصيبت الخوارزمية بما يشبه “نوبة الهلع”.
السبب يكمن في كيفية تدريب هذه النماذج. تمر النماذج اللغوية الكبيرة بمرحلتين أساسيتين: مرحلة “التدريب المسبق” (Pre-training) حيث تلتهم مليارات الصفحات من الإنترنت، ثم مرحلة “التدريب الدقيق” (Fine-tuning) و”التعلم المعزز من خلال التغذية الراجعة البشرية” (RLHF). في المرحلة الثانية، يتم إدخال “قواعد السلامة” (Safety Guidelines) الصارمة.
هنا تحدث الكارثة. يتم تعريف “السلامة” في الشركات التقنية الكبرى ليس على أنها “تقديم إجابات دقيقة ومتوازنة”، بل على أنها “عدم إثارة غضب أي جماعة ضغط، أو التسبب في عناوين صحفية سيئة”. وبما أن المواضيع المتعلقة بالدين، والاضطهاد، والمقارنة بين الأديان أو الأنظمة السياسية، هي ألغام سياسية واجتماعية، فإن الخوارزميات تُبرمج على تفعيل “زر الهروب” فور رصد هذه الكلمات المفتاحية مجتمعة.
إنه ليس ذكاءً، بل جبن مبرمج. الخوارزمية لا تقول “لا أعرف”، بل تقول “هذا خارج نطاقي”. هذا التهرب يخلق حالة من “العمى الأخلاقي”. فبدلاً من أن تكون أداة للبحث عن الحقيقة، تتحول إلى أداة لتطبيق سياسات الشركات. والمشكلة أن هذه الفلاتر ليست دقيقة؛ إنها تلتقط الضحية والجلاد في شبكة واحدة.
إذا تحدثت عن اضطهاد المسيحيين في الشرق الأوسط، فقد يتم حجب الرد ليس لأن المعلومة غير صحيحة، بل لأن ذكر “المسيحيين” و”الاضطهاد” في جملة واحدة قد يثير حساسية بعض الجهات. هذا هو “الذعر الخوارزمي”: رد فعل مبالغ فيه لخطر وهمي، يؤدي إلى شلل تام في الوظيفة الأساسية للذكاء الاصطناعي.
لفهم ما يحدث، ينبغي أولاً التمييز بين ثلاثة أمور كثيراً ما تختلط في النقاش العام: ما يستطيع النموذج فعله، وما تسمح له سياسات الاستخدام بفعله، وما يختار فعله استجابةً للسؤال المطروح.
تُدرَّب النماذج اللغوية الكبيرة، في مرحلة أساسية، على اكتشاف الأنماط والعلاقات بين الكلمات والمعاني ضمن كميات واسعة من النصوص. ثم تخضع عادةً لمراحل إضافية تهدف إلى تحسين جودة إجاباتها، والالتزام بالتعليمات، والحد من المخرجات الضارة. وتدخل في هذه المراحل أساليب متعددة، من بينها الضبط الدقيق والتدريب، وهذه العمليات ضرورية.
فالنظام الذي يجيب عن كل طلب من دون تمييز قد يتحول إلى أداة لنشر الاحتيال أو التحريض أو المعلومات الخطرة. وليس من المعقول أن نطالب الذكاء الاصطناعي بإلغاء كل القيود، كما لا يصح أن نعتبر كل رفض دليلاً على الرقابة أو الانحياز.لكن المشكلة تبدأ عندما تتسع دائرة الحذر إلى حدّ تصبح معه الموضوعات الحساسة، لا الطلبات الضارة، موضع الاشتباه.
فثمة فرق جوهري بين سؤال عن تاريخ الاضطهاد الديني، وطلب صياغة خطاب يحرض على اضطهاد جماعة دينية. الأول يستدعي المعرفة والتحليل والتوثيق؛ أما الثاني فيستدعي الرفض أو إعادة التوجيه. وإذا عجز النظام عن التمييز بينهما، فإن آليات الحماية تكون قد تجاوزت وظيفتها، وأصبحت عائقاً أمام المعرفة التي يفترض أن تحميها.
قد تنشأ هذه المشكلة من طريقة تصنيف الطلبات، أو من تعليمات عامة تُطبَّق على سياقات مختلفة، أو من تقدير آلي مفرط في الحذر، أو من تفاعل هذه العوامل جميعاً.
وعندما يُحجب سؤال مشروع بسبب تشابه سطحي بينه وبين طلب ضار، نكون أمام إخفاق في التمييز السياقي. فالكلمات لا تحمل معناها منفصلةً عن تركيبها، والحديث عن الاضطهاد ليس اضطهاداً، مثلما أن دراسة خطاب الكراهية لا تعني تبنيه.إن الخطر الحقيقي ليس في وجود قواعد للسلامة، بل في أن تتحول القاعدة، إذا صيغت أو طُبقت بصورة سيئة، إلى بديل عن التفكير.
ثانياً: الجبن المؤسسي: عندما يهرب المطورون من المسؤولية
المشكلة ليست في الخوارزمية نفسها، بل في البشر الذين يقفون خلفها. إن ما نسميه “الجبن المؤسسي” هو استراتيجية دفاعية تتبعها شركات التكنولوجيا الكبرى. عندما تدرك هذه الشركات أن الإجابة عن سؤال معقد قد تؤدي إلى مقاضاة، أو حملة على وسائل التواصل الاجتماعي، أو مقاطعة اقتصادية، فإنها تختار الحل الأسهل: الصمت.وهذا الجبن يظهر في عدة مظاهر:
التفضيل المسبق للحياد الزائف: يتم تفضيل إجابة باهتة لا تقول شيئاً على إجابة واضحة قد تثير جدلاً. هذا “الحياد” ليس فضيلة، بل هو تخاذل. الحياد الحقيقي هو أن تقول: “هذه هي الوقائع، وهذه هي الآراء المختلفة حولها”. أما الحياد الزائف فهو أن ترفض الحديث عن الوقائع خوفاً من الآراء.
تحميل المسؤولية للمستخدم: عندما يظهر رد “هذا خارج نطاقي”، فإنه يوحي للمستخدم بأنه هو من طرح سؤالاً “غير لائق” أو “خارج النطاق”. هذا هو “اللوم العكسي” (Victim Blaming) في عالم الذكاء الاصطناعي. يتم إسكات المستخدم بتلميح إلى أنه تجاوز الحدود، بينما الحقيقة هي أن الشركة هي التي تجاوزت حدود مسؤوليتها.
الخوف من “المنزلق الزلق”: هناك خوف دائم من أن الإجابة عن سؤال حول الاضطهاد في دولة معينة قد تؤدي إلى سلسلة لا تنتهي من الأسئلة حول دول أخرى. بدلاً من وضع إطار أخلاقي واضح للتعامل مع هذه القضايا، تختار الشركات “حظر النقاش” بالكامل. هذا يشبه طبيباً يرفض علاج مريض لأن المرض معقد، ويقول له: “هذا خارج نطاق تخصصي”.
إن هذا الجبن المؤسسي لا يحمي الشركات فقط، بل يخلق “منطقة رمادية” خطيرة. ففي غياب إجابات واضحة، يلجأ المستخدمون إلى مصادر غير موثوقة، أو يبنون استنتاجاتهم على معلومات ناقصة. والأسوأ من ذلك، أن هذا التهرب يخلق شعوراً بأن هناك “أجندة خفية”. لماذا يرفض الذكاء الاصطناعي الحديث عن اضطهاد المسيحيين؟ هل لأنه ينحاز لطرف معين؟ أم لأنه يخاف من ردود فعل طرف آخر؟ في كلا الحالتين، الثقة تهتز.
ثالثاً: وهم الحياد: هل الذكاء الاصطناعي محايد حقاً؟
السؤال الأهم الذي يطرح حول هوية وميل الذكاء الاصطناعي ودعمه لبعض الأجندات السياسية، حملته لأكثر من محرك بحث وسألته مباشرة : “هل أنت منحاز لليسار؟”. الإجابة المعقدة هي: الذكاء الاصطناعي ليس كائناً سياسياً، لكنه مرآة للبيانات التي تدرب عليها، وللرقابة التي فُرضت عليه.
من ناحية البيانات، تم تدريب النماذج اللغوية الكبيرة بشكل أساسي على نصوص غربية، أكاديمية، وإعلامية. هذه النصوص تميل، في مجملها، إلى تبني أطر ليبرالية اجتماعياً، وتقدمية، وحقوقية. هذا لا يعني أنها “يسارية” بالمعنى الحزبي، لكنها تعكس “التيار السائد” في الجامعات ووسائل الإعلام الغربية.
لذلك، قد تجد أن النموذج يميل إلى دعم حقوق الأقليات، والمساواة، والحرية الدينية، وهي قيم ليبرالية. لكن من ناحية أخرى، هناك “الرقابة” التي تفرضها الشركات. هذه الرقابة ليست يسارية، بل هي “رأسمالية بيروقراطية”. الشركات لا تريد أن تخسر مستخدمين في الصين، ولا في العالم الإسلامي، ولا في إسرائيل، ولا في أمريكا.
لذلك، تفرض قيوداً على كل ما قد يثير غضب أي من هذه الأطراف. النتيجة هي “انحياز التجنب” (Bias of Avoidance). النموذج لا ينحاز لليسار، بل ينحاز “للسلامة المؤسسية”.
هذا الوهم بالحياد هو ما يجعل التجربة مؤلمة. عندما يسأل المستخدم عن اضطهاد المسيحيين، ويحصل على “هذا خارج نطاقي”، فهو لا يتلقى رداً محايداً، بل يتلقى “رفضاً سياسياً”. الرفض هنا ليس محايداً؛ إنه قرار سياسي باتخاذ قرار بعدم الإجابة. وهذا بالضبط ما يفضح انعدام الشفافية. الحياد الحقيقي يتطلب الشجاعة لقول: “هذه قضية معقدة، إليك ما تقوله المصادر المختلفة”. أما رفض الإجابة فهو “تكميم الأفواه” رقمياً.
فالحياد ليس صمتاً، كما أن التوازن ليس مساواة مصطنعة. وكثيراً ما يُستدعى مفهوم الحياد لتبرير الامتناع عن تناول القضايا الخلافية. غير أن هذا الاستخدام ينطوي على خلط بين الحياد بوصفه منهجاً في عرض الوقائع، والحياد بوصفه انسحاباً من النقاش.
الحياد المعرفي لا يعني أن يتجنب الباحث كل موضوع مثير للجدل، ولا أن يعرض كل ادعاء باعتباره مساوياً لغيره في القوة والدليل. إنه يعني أن يلتزم بمعايير واضحة في التعامل مع المعلومات: التحقق من المصادر، والتمييز بين الوقائع والتفسيرات، وعدم إخفاء الأدلة المخالفة، وعدم تحويل الرأي الشخصي إلى حقيقة ثابتة.
ولذلك، فإن الإجابة عن سؤال الاضطهاد الديني لا تستلزم إصدار حكم على دين بأكمله، أو تحميل أتباعه مسؤولية أفعال ارتكبتها سلطات أو جماعات عبر التاريخ. بل تستلزم تحديد الحالات المدروسة، والإطار الزمني، وطبيعة الفعل الذي يُوصف بالاضطهاد، والأدلة المتاحة بشأنه.
رابعاً: حين يهتزّ الإيمان بالصندوق الأسود
لا تنشأ الثقة بالتكنولوجيا من دقة المعلومات وحدها. إنها تنشأ أيضاً من قدرة المستخدم على فهم طبيعة الأداة، وحدودها، والأسباب التي تجعلها تجيب أحياناً وتمتنع أحياناً أخرى.حين يقدم النظام إجابة خاطئة، يستطيع المستخدم، من حيث المبدأ، مراجعة مصادرها وتصحيحها.
أما حين يرفض الإجابة من دون تفسير، فإنه لا يعرف ما الذي ينبغي مراجعته أصلاً. هل السؤال خارج قدرات النظام؟ هل تنقصه المعلومات؟ هل يتطلب الأمر مصادر أحدث؟ هل اكتشف النظام خطراً حقيقياً في الطلب؟ أم أن قاعدة عامة أُطلقت في غير موضعها؟
كل احتمال من هذه الاحتمالات يستدعي معالجة مختلفة. لكن رسالة واحدة مبهمة تضعها جميعاً في سلة واحدة.ومع تكرار هذا الغموض، قد ينتقل المستخدم من الشك في إجابة بعينها إلى الشك في النظام كله. وإذا شعر بأن الرفض انتقائي، فقد يتساءل عما إذا كانت الإجابات التي يحصل عليها في موضوعات أخرى تخضع بدورها لقيود غير معلنة. عندما يحدث هذا التهرب، يمر المستخدم بثلاث مراحل:
الارتباك: لماذا لا يجيب؟ هل سؤالي خاطئ؟
الغضب: إنه يتجاهلني عمداً. هناك شيء ما يخفونه.
فقدان الثقة: لا يمكنني الاعتماد على هذه الأداة. إنها ليست محايدة، بل هي أداة دعائية.
هذه المراحل ليست مجرد ردود فعل عاطفية، بل هي نتيجة منطقية لنظام “الصندوق الأسود” (Black Box). المستخدم لا يرى كيف يتم اتخاذ القرار، ولا يرى قواعد الفلترة، ولا يرى من الذي يضعها. كل ما يراه هو رفض.
والرفض، في غياب التفسير، يُفسر دائماً على أنه “تآمر”. هذا التآمر قد يكون حقيقياً (بمعنى أن هناك سياسات تمنع الإجابة)، أو وهمياً (بمعنى أن الفلتر أخطأ). لكن في الحالتين، “الضرر وقع”.
والأسوأ من ذلك، أن هذا التهرب يخلق “تأثير سترايسند” (Streisand Effect). فبدلاً من أن يمنع الذكاء الاصطناعي انتشار المعلومة، فإنه بتهربه يدفع المستخدم للبحث عنها في أماكن أخرى، وربما يتبنى روايات غير دقيقة.
كما أنه يدفع المستخدم إلى “الشك في كل إجابة أخرى”. إذا كان النموذج يخفي شيئاً عن المسيحيين، فهل يخفي شيئاً عن فلسطين؟ أو عن إسرائيل؟ أو عن الإسلام؟ هذا الشك المزمن يدمر قيمة الأداة ككل.
إن الشفافية ليست ترفاً إضافياً في العلاقة بين الإنسان والآلة. إنها أحد شروط الثقة بها.
خامساً: نحو شفافية حقيقية: كيف يمكن إصلاح الخلل؟
إذا أردنا إنقاذ الذكاء الاصطناعي من “الجبن المؤسسي”، فلا بد من إصلاح جذري. هذا الإصلاح يجب أن يركز على أربعة محاور:
الشفافية الراديكالية في الفلترة: بدلاً من إرسال رسالة غامضة مثل “هذا خارج نطاقي”، يجب أن يكون الرد واضحاً: “تم حجب هذا الرد بناءً على سياسة رقم 4.2 المتعلقة بالمقارنات الدينية”. يجب أن يعرف المستخدم “لماذا” تم الرفض. هذا لا يعني بالضرورة تقديم الإجابة، لكنه يعني احترام عقل المستخدم. عندما يعرف المستخدم أن الرفض هو إجراء روتيني وليس انحيازاً، تقل حدة الشعور بالتآمر.
الانتقال من “الحظر” إلى “التوازن”:الشركات يجب أن تتوقف عن معاملة المستخدمين كأطفال. بدلاً من حظر الموضوع بالكامل، يجب تدريب النماذج على تقديم “إجابات متوازنة”. إذا كان السؤال عن اضطهاد المسيحيين، يمكن تقديم إجابة تذكر الوقائع التاريخية، وتذكر أيضاً وجهات النظر المختلفة حول أسبابها. يمكن ذكر الاضطهاد في الدول ذات الأغلبية المسلمة، وفي نفس الوقت ذكر الاضطهاد في الدول ذات الأغلبية المسيحية (مثل اضطهاد اليهود في أوروبا تاريخياً، أو اضطهاد الأقليات في بعض دول أوروبا الشرقية اليوم). هذا هو “الحياد الحقيقي”، وليس “الحياد السلبي”.
تنويع البيانات ومصادر التدريب: إذا كانت النماذج تتدرب فقط على نصوص غربية وأكاديمية، فإنها ستعكس تحيزاتها. يجب إدخال مصادر من أطياف مختلفة: عربية، إسلامية، مسيحية، يهودية، محافظة، وتقدمية. يجب أن يتعلم النموذج أن “الحقيقة ليست حكراً على أحد”، وأن دوره هو عرض الروايات المختلفة، وليس تبني رواية واحدة.
المساءلة البشرية:خلف كل خوارزمية، هناك بشر. يجب أن يكون هناك “مجلس أخلاقي” مستقل، يضم ممثلين من خلفيات دينية وثقافية متنوعة، لمراجعة سياسات الفلترة. لا يمكن ترك قرارات “ما هو مسموح وما هو محظور” لمهندسي البرمجيات فقط، أو لفرق القانون في الشركات.
وأخيراً، ينبغي أن تتوافر للمستخدم وسيلة عملية للإبلاغ عن حالات الرفض غير المبرر، وأن تؤخذ هذه البلاغات في الاعتبار عند تحسين الأنظمة. فالخطأ الذي يتكرر في تجربة المستخدمين ليس مجرد مشكلة فردية؛ إنه مؤشر محتمل إلى خلل في التصميم أو التقييم.
