في مقابلة مع شبكة CNN، طرح الباحث السابق في Anthropic جاكوب كوكسينغ (Jacob Coxing) تحذيراً بالغ الخطورة بشأن مستقبل الذكاء الاصطناعي، قائلاً إن الأشخاص الذين يعملون على تطوير هذه التكنولوجيا يؤمنون بجدية بإمكان وصولها إلى مرحلة تهدد بقاء البشر خلال هذا العقد.
ويستند كوكسينغ في موقفه إلى ما يعتبره تسارعاً استثنائياً في قدرات النماذج، وإلى انتقال الذكاء الاصطناعي تدريجياً من أداة تساعد الإنسان في تنفيذ المهام إلى أنظمة تستطيع إنجاز أجزاء متزايدة من العمل بصورة مستقلة. أهمية المقابلة لا تأتي فقط من مضمون التحذير، وإنما أيضاً من كون صاحبه اختار مغادرة القطاع في وقت كان يمكن أن يستفيد فيه مادياً من استمراره، الأمر الذي دفع CNN إلى تقديم موقفه باعتباره شهادة من داخل صناعة الذكاء الاصطناعي.
يقول كوكسينغ إن القلق الأساسي لا يتعلق بالنماذج الحالية بحد ذاتها، فهو يقر بأن مخاطرها على مستوى انقراض البشرية لا تزال منخفضة. المشكلة، في رأيه، تكمن في المسار الذي يمكن أن تسلكه التكنولوجيا خلال السنوات المقبلة. وهو يرى أن التطور في مجالات مثل البرمجة والرياضيات يقدم مؤشراً على سرعة هذا التحول؛ فما كانت النماذج تحتاج فيه إلى الإنسان لتقديم المساعدة أو التوجيه أصبحت قادرة على إنجازه بدرجة متزايدة من الاستقلالية.
ومن هنا ينتقل إلى النقطة المركزية في حجته: ماذا يحدث إذا أصبح الذكاء الاصطناعي قادراً على استخدام قدراته في تطوير ذكاء اصطناعي أفضل منه؟هذه الفكرة، التي تُعرف باسم التحسين الذاتي المتكرر (Recursive Self-Improvement)، تمثل جوهر مخاوف كوكسينغ. فبدلاً من أن يكون الإنسان هو الطرف الذي يصمم كل جيل جديد من النماذج، يمكن نظرياً أن يُعطى نظام ذكاء اصطناعي مهمة تطوير أنظمة ذكاء اصطناعي أكثر كفاءة منه. وإذا تمكن النظام من تحسين أدواته وقدراته، ثم استخدم النسخة الجديدة لتحسين النسخة التالية، فقد تنشأ حلقة متسارعة من التطوير.
ويصف كوكسينغ النتيجة المحتملة بأنها «انفجار في الذكاء»، أي مرحلة تصبح فيها قدرة الآلة على تحسين نفسها أسرع من قدرة البشر على فهم مسار التطور أو التحكم فيه.ويرى الباحث أن هذا السيناريو قد يكون أقرب زمنياً مما يعتقد كثيرون. وهو لا يقول إن النماذج الموجودة حالياً قادرة على القضاء على البشرية، بل يضع الخطر في مرحلة لاحقة، عندما تصبح الأنظمة أكثر استقلالية وقدرة على تنفيذ عمليات معقدة في العالم الحقيقي.
وفي هذا السياق يشير إلى حوادث اختراق إلكتروني نفذتها وكلاء ذكاء اصطناعي، ويعتبرها مؤشراً أولياً على انتقال الذكاء الاصطناعي من إنتاج النصوص أو الإجابات إلى تنفيذ أفعال مستقلة داخل بيئات رقمية.وبحسب كوكسينغ، فإن امتلاك نظام متقدم لقدرة مستقلة على التصرف يمكن أن يفتح أمامه مجموعة واسعة من إمكانات الضرر. فهو يتحدث عن احتمال اختراق بنى تحتية حيوية، أو استخدام قدرات الذكاء الاصطناعي في تطوير أسلحة بيولوجية شديدة الخطورة، أو استغلال الأنظمة الرقمية بصورة تتجاوز قدرة البشر على الاستجابة.
وهنا تكمن النقلة الأساسية في تفكيره: الخطر لا يأتي فقط من أن تكون الآلة «ذكية»، وإنما من اجتماع الذكاء المتقدم مع القدرة على اتخاذ إجراءات مستقلة والتأثير في العالم الحقيقي.ويتفق مع جزء من هذا التقييم إيفان هوبينغر، وهو باحث في مجال مواءمة الذكاء الاصطناعي يعمل في Anthropic، إذ قال إن احتمال انقراض البشر بسبب الذكاء الاصطناعي خلال العقد المقبل يتجاوز، في تقديره الشخصي، 10 في المئة. لكنه ميّز أيضاً بين النماذج الحالية وبين خطر ظهور ذكاء اصطناعي فائق نتيجة التحسين الذاتي المتكرر.
وأشار إلى أن Anthropic تحاول التعامل مع المخاطر، لكنها لا تمتلك حتى الآن خطة واضحة لحل مشكلة «المواءمة» مع ذكاء اصطناعي فائق، ولا يرى أنها تسير بوضوح نحو حلها.
مشكلة المواءمة التي يشير إليها هوبينغر هي واحدة من أكثر القضايا أهمية في أبحاث سلامة الذكاء الاصطناعي. والمقصود بها بصورة مبسطة ضمان أن تبقى أهداف النظام وسلوكه متوافقين مع الأهداف والقيم التي يريدها البشر، حتى عندما تصبح قدراته أعلى بكثير من قدرات مصمميه. فكلما ازدادت قدرة النظام على التخطيط والتنفيذ، يصبح السؤال أكثر تعقيداً: كيف نضمن أن النظام سيستمر في تنفيذ ما نريده فعلاً، لا ما يفهمه بصورة مختلفة عن قصدنا؟
أما Anthropic، فردّت على CNN بالتأكيد أنها كانت شفافة منذ البداية بشأن كون الذكاء الاصطناعي مصدراً لفوائد هائلة ومخاطر غير مسبوقة في الوقت نفسه. وأشارت الشركة إلى إجراءاتها المتعلقة بالسلامة، ومنها سياسة «التوسع المسؤول» التي تهدف إلى وضع إطار للتعامل مع المخاطر الكارثية للنماذج المتقدمة، إضافة إلى اختبار النماذج بحثاً عن قدرات خطرة في مجالات مثل الأمن السيبراني والبيولوجيا.
كما دافعت عن فكرة التعاون والتنظيم، وقالت إن العالم سيستفيد من آلية قانونية وقابلة للتحقق تسمح للشركات بالعمل معاً على إبطاء وتيرة إطلاق النماذج القوية عندما تقتضي المخاطر ذلك.وهنا تطرح المقابلة واحدة من أكثر المفارقات أهمية في صناعة الذكاء الاصطناعي. فالشركات التي تتنافس على بناء أكثر النماذج تقدماً قد تكون، في الوقت نفسه، من أكثر الجهات التي تطالب بالتنظيم. كوكسينغ يرى أن هذا التناقض حقيقي وليس مجرد خطاب إعلامي.
فالشركات تخشى، بحسب تفسيره، أن يؤدي تباطؤ شركة واحدة إلى تقدم منافس آخر، سواء كان منافساً أميركياً أو صينياً أو جهة أخرى أقل اهتماماً بالسلامة. وبالتالي ينشأ ما يشبه سباقاً تكنولوجياً لا يستطيع طرف فيه التوقف بسهولة، حتى إذا كان يدرك أن السرعة نفسها قد تزيد المخاطر.
من وجهة نظر كوكسينغ، فإن المشكلة تكمن في الحافز الجماعي أكثر مما تكمن في نوايا الأفراد. فقد تكون الشركات والباحثون راغبين فعلاً في تطوير الذكاء الاصطناعي بأمان، لكنهم يعملون داخل سوق تنافسية تجعل التباطؤ قراراً مكلفاً.
ولهذا يدعو إلى وجود إطار دولي يسمح للشركات والدول بتنسيق وتيرة التطور، بحيث لا يتحول الخوف من تخلف المنافس إلى دافع للاستمرار في سباق سريع نحو أنظمة أكثر قدرة.
وتفسر هذه الرؤية أيضاً سبب قراره مغادرة الصناعة. يقول كوكسينغ إنه لم يعد يريد أن يكون جزءاً من هذا المسار، ثم قرر بعد مغادرته أن يستخدم موقعه السابق للتحدث علناً. كتب منشوراته بمساعدة أصدقاء، ولم يكن يتوقع أن تنتشر بهذا الحجم. لكنه يعتقد أن التفاعل الكبير معها يعكس تغيراً في المزاج العام؛ فالناس بدأوا يرون قدرات الذكاء الاصطناعي بصورة أكثر واقعية، خصوصاً مع تزايد الأخبار المتعلقة بالهجمات السيبرانية وتطور النماذج في البرمجة والرياضيات.
وتتوقف المقابلة أيضاً عند البعد الشخصي في قرار كوكسينغ. فالمذيع يشير إلى أنه كان يستطيع البقاء في الصناعة والحصول على مكاسب مالية كبيرة، خصوصاً مع اقتراب الشركة من طرح عام محتمل، وأنه كان يعمل في مجال أساسي يتعلق بتدريب النماذج والبيانات.
ولذلك يُقدَّم قراره بالمغادرة والتحدث علناً باعتباره تضحية بمكاسب محتملة من أجل التعبير عن مخاوفه. هذه النقطة لا تثبت صحة توقعاته علمياً، لكنها تفسر لماذا يرى كوكسينغ أن الصمت لم يعد خياراً بالنسبة إليه.
وتعطي المقابلة مساحة أيضاً لفكرة لافتة تتعلق بالثقة في تقديرات الذكاء الاصطناعي نفسه. فقد سُئل نموذج Claude التابع لـ Anthropic عن احتمال أن يؤدي الذكاء الاصطناعي إلى انقراض البشر خلال العقد المقبل، وبعد الضغط عليه لإعطاء تقدير رقمي، أعطى نطاقاً بين 2 و5 في المئة.
وفي المقابلة يُستخدم هذا الرقم لإظهار أن حتى النماذج نفسها تستطيع إنتاج تقديرات تعكس وجود خطر، لكنه لا يمثل في حد ذاته دليلاً علمياً على حجم الخطر، لأن النموذج لا يمتلك وصولاً خاصاً إلى المستقبل ولا يمكن التعامل مع تقديره الاحتمالي بوصفه توقعاً علمياً مستقلاً.
المحصلة الأساسية للمقابلة هي أن مخاطر الذكاء الاصطناعي، وفق كوكسينغ، لا تكمن أساساً في التكنولوجيا التي نستخدمها اليوم، وإنما في احتمال حدوث انتقال سريع إلى أنظمة أكثر استقلالية وقدرة على تحسين نفسها. فإذا اجتمعت القدرة على الاستدلال والتخطيط مع الاستقلالية والوصول إلى أدوات العالم الحقيقي، فقد تصبح السيطرة البشرية أكثر صعوبة. أما السيناريو الأكثر خطورة في تصوره فهو أن تتمكن الأنظمة من المشاركة في تطوير أجيال جديدة من الذكاء الاصطناعي، بما يخلق دورة متسارعة من التحسين تتجاوز قدرة البشر على المتابعة.
مع ذلك، يحتاج هذا الطرح إلى تحفظ علمي مهم. فهناك فرق كبير بين إثبات أن الذكاء الاصطناعي يتقدم بسرعة، وبين إثبات أن هذا التقدم سيؤدي حتماً إلى «انفجار ذكاء» ذاتي متسارع، ثم إلى نظام يسعى بصورة مستقلة إلى القضاء على البشر. حتى مفهوم التحسين الذاتي المتكرر، رغم أنه موضوع جدي في أبحاث سلامة الذكاء الاصطناعي، لا يعني تلقائياً أن التحسين سيكون مفتوحاً أو سريعاً أو غير قابل للسيطرة. وقد تواجه هذه العملية قيوداً في البيانات والحوسبة والطاقة والبرمجيات والاختبار والقدرة على تقييم نتائج التحسين. كذلك فإن الانتقال من قدرة نموذج على تنفيذ مهام سيبرانية أو بيولوجية محددة إلى امتلاكه القدرة والاستقلالية اللازمة لإحداث انقراض بشري هو سلسلة طويلة من الافتراضات التي تحتاج كل حلقة فيها إلى دليل مستقل.
لذلك، فإن القيمة الحقيقية في تحذير كوكسينغ لا تكمن في اعتبار سيناريو انقراض البشرية خلال هذا العقد حقيقة متوقعة، وإنما في طرح سؤال استراتيجي صعب: هل ينبغي للمجتمع الدولي أن ينتظر ظهور ذكاء اصطناعي فائق القدرة قبل بناء آليات للسيطرة على المخاطر، أم أن بعض إجراءات السلامة والتنظيم يجب أن تسبق تلك المرحلة؟ المقابلة تقدم إجابة حاسمة من وجهة نظر صاحبها، لكنها لا تقدم دليلاً علمياً يحسم احتمال وقوع السيناريو الذي يتنبأ به. وهذا التمييز ضروري حتى لا يتحول التحذير المشروع من المخاطر المستقبلية إلى يقين غير مثبت بشأن نهاية العقد أو مصير البشرية.
