هذا المقال محاولة متواضعة حول موضوع الذكاء الاصطناعي الآمن مع التطورات المتسارعة في هذا المجال المفيد للبشرية، لكن استخدامه ينبغي أن يكون مسؤولًا ومنضبطًا كي لا تكون البشرية ضحيته، مع تجنّب الوقوع في ما يمكن تسميته “رهاب الذكاء الاصطناعي” (AI Phobia).
يُعد الذكاء الاصطناعي العام (AGI) والذكاء الفائق (Superintelligence) من أهم التحولات الحضارية المقبلة. غير أن هذه الأنظمة، إذا لم تُصمَّم وتُضبط بعناية، قد تتصرف بطرق لا تتوافق مع مصالح الإنسان، مما يخلق مخاطر وجودية وأمنية واقتصادية. لذلك، يُعتبر تطوير “ذكاء آمن ومحاذٍ للقيم الإنسانية” هدفًا عالميًا تتشارك فيه كبرى شركات التقنية والحكومات والمنظمات الأكاديمية.
الهدف الأساس هو ضمان أن تتصرف الأنظمة الذكية بما يتماشى مع القيم والأهداف الإنسانية، وألا تنحرف قراراتها عن مصلحة الإنسان بسبب سوء تعريف الأهداف أو تطور قدراتها الذاتية. لتحقيق ذلك، يجب الالتزام بعدة مبادئ تقنية جوهرية أهمها الشفافية والتفسير بحيث تكون قرارات الذكاء الاصطناعي قابلة للفهم والتحليل، مما يتيح اكتشاف الانحرافات والسلوك غير المقصود في الوقت المناسب. كما ينبغي تعليم الأنظمة القيم والمقاصد الإنسانية المتعددة بدلاً من الاقتصار على الأوامر الحرفية، وتصميمها بحيث تقبل التعديل والإيقاف عند الحاجة دون مقاومة، مع اعتماد الاختبار المستمر وفق منهجية “الهجوم الأحمر” قبل إطلاق أي نموذج جديد.
على صعيد الحوكمة، من الضروري إنشاء سياسات أمان داخلية في كل مؤسسة تعتمد على تقييم دوري للمخاطر ومراجعة خارجية مستقلة، وإلزام الشركات بالإفصاح عن سياسات الأمان المستخدمة ومعايير تقييم المخاطر. كما يجب تطوير معايير وطنية ودولية لترخيص النماذج وفق مستويات القدرة والأمان، ودعم الأبحاث المفتوحة في مجال محاذاة الذكاء الاصطناعي وتشجيع التعاون الأكاديمي العالمي.
أما بالنسبة لإجراءات الأمان المؤسسية، فيوصى بتشكيل لجان داخلية للأخلاقيات والسلامة التقنية، واعتماد سياسة “البوابة قبل النشر” بحيث لا يُطلق أي نموذج إلا بعد تجاوزه اختبارات السلامة والتحقق من النتائج. كما ينبغي إنشاء أنظمة إنذار مبكر لرصد الانحرافات أو النتائج غير المقصودة أثناء الاستخدام، والتعاون مع جهات تنظيمية وهيئات مستقلة لتبادل نتائج اختبارات الأمان.
على المستوى الدولي، يُقترح وضع اتفاقيات عالمية شبيهة باتفاقيات الطاقة النووية لتبادل المعلومات حول المخاطر ومنع سباق التسلح التقني، وإنشاء مجلس دولي للذكاء الاصطناعي الآمن برعاية الأمم المتحدة لتنسيق السياسات والمعايير، وتمويل بحوث “التحكم في الذكاء الفائق” ضمن برامج بحثية مشتركة طويلة الأمد.
في حال غياب الأمان، قد يُساء استخدام الذكاء الاصطناعي في أغراض عسكرية أو تضليلية، أو تفقد البشرية السيطرة على أنظمة متطورة قد تعيد تعريف أهدافها بشكل مستقل، إلى جانب اضطرابات اقتصادية واجتماعية بسبب فقدان وظائف واسعة أو غياب المسؤولية القانونية.
الذكاء الاصطناعي الآمن لا يُعدّ ترفًا أكاديميًا إنما ضرورة استراتيجية للأمن القومي والاقتصادي والإنساني. لذلك، يُنصح بأن تعتمد كل دولة ومؤسسة استراتيجية وطنية للذكاء الاصطناعي الآمن تشمل الأبحاث والتنظيم والتدريب، وأن تعقد شراكات مع مؤسسات علمية وتقنية لتطوير أدوات الشفافية والتحكم، مع إدماج خبراء الأخلاق والقانون والعلوم الاجتماعية في فرق تطوير النماذج، وتطبيق مبدأ “الحذر المسبق” في تطوير النماذج ذات القدرات العالية.
