صنّاع الذكاء الاصطناعي يقرعون ناقوس خطر الفناء البشري

نستراك - التحذيرات من فناء البشرية على يد الذكاء الاصطناعي خرجت من كونها مجرد حبكة لأفلام الخيال العلمي، وتحولت في الأيام القليلة الماضية إلى قضية شغلت الرأي العام العالمي، وأشعلت جدلاً واسعاً بين السياسيين وعلماء التكنولوجيا. وجاءت الشرارة هذه المرة من الاختصاصيين في هذا المجال، حيث اختار باحثون التخلي عن وظائفهم المرموقة ليوجهوا رسائل تحذير مباشرة إلى العالم بأن وتيرة التطوير الحالية تفوق قدرة البشر على ضبطها.

بدأت فصول هذه القضية حين أعلن الباحث البريطاني جاكوب كوكسون استقالته المفاجئة من شركة "أنثروبيك"، الرائدة في أبحاث الذكاء الاصطناعي ونماذج "كلود". وفي رسالة انتشرت كالنار في الهشيم عبر منصات التواصل ووثقتها صحيفة فاينانشال تايمز، أوضح كوكسون أن المختبرات الكبرى تخوض سباقاً محموماً ينطوي على مخاطر جسيمة وتغامر بمستقبل الإنسانية عبر التسرع في بناء ذكاء اصطناعي فائق قبل ابتكار آليات كافية لترويضه وضبط تصرفاته، مؤكداً أن هذا المسار قد يؤدي إلى نتائج كارثية قد تودي بالبشرية قبل نهاية العقد الحالي.

ولم تكن استقالة كوكسون صوتاً منفرداً داخل الشركة؛ إذ سارع إيفان هوبينجر، الباحث البارز في مجال السلامة لدى شركة "أنثروبيك" إلى دعم زميله علناً، مؤكداً في تصريحات أن القلق من فناء البشر حقيقي ومشروع داخل أروقة المطورين، كاشفاً عن تقديره الشخصي لاحتمالية انقراض الجنس البشري بسبب الذكاء الاصطناعي بأكثر من 10% خلال السنوات العشر المقبلة. وفي السياق ذاته، نقل تحقيق "سي إن إن" عن نيت سواريس، رئيس معهد أبحاث ذكاء الآلة، تأكيده القاطع بأن فناء البشرية ليس مجرد احتمال بعيد، بل هو "السيناريو الأكثر ترجيحاً" إذا استمر الإفلات التكنولوجي دون ضوابط، مضيفاً أن الناس عادة لا يصدقون ذلك عند سماعه للوهلة الأولى.

تتقاطع هذه التحذيرات الداخلية مع مواقف معلنة لكبار رواد القطاع؛ فقد شدد إيلون ماسك مراراً على ضرورة التمهل ووضع أطر صارمة، فيما وقّع سام ألتمان، رئيس "أوبن إيه آي"، بياناً مشتركاً مع قادة الصناعة اعتبر أن التصدي لخطر انقراض البشر الناجم عن الذكاء الاصطناعي يجب أن يكون أولوية دولية توازي مخاطر الجوائح والحروب النووية. ومع ذلك، يرى مراقبون أن الضغوط التنافسية تدفع الشركات إلى تقديم اعتبارات السوق على معايير السلامة.

هذا الزخم المتصاعد سرعان ما نقل الأزمة إلى أروقة الحكم في الدول الكبرى؛ حيث ظهرت حالة غضب  بين المشرعين في الكونغرس الأمريكي، الذين اعتبروا اعترافات المطورين دليلاً قاطعاً على فشل مبدأ "التنظيم الذاتي" وخروج التكنولوجيا عن السيطرة. وتجسد هذا القلق السياسي في معارك تشريعية حامية، أبرزها مشروع قانون منع الكوارث الكبرى في كاليفورنيا الذي سعى لإلزام الشركات بضمانات أمان قاطعة وتحميلها المسؤولية الجنائية عن أي أسلحة بيولوجية أو هجمات سيبرانية يتيحها الذكاء الاصطناعي، وسط تحذيرات متكررة من تجريد الإنسان من صلاحيات اتخاذ القرار السيادي.

سيناريوهات الكارثة والأضرار المحتملة

لا تنبع هذه المخاوف من فرضيات خيالية حول "رغبة واعية لدى الآلات في إبادة البشر"، بل تستند إلى ثلاثة سيناريوهات عملية يرصدها خبراء الأمن والسلامة الرقمية؛ أولها خطر الأسلحة البيولوجية، حيث باتت النماذج المتقدمة قادرة وبطريقة ما، على مساعدة جهات متطرفة في تصميم فيروسات هجينة ومسببات أمراض معدلة جينياً تتجاوز اللقاحات وتفوق قدرة المنظومات الصحية العالمية على الاحتواء. ويتجسد السيناريو الثاني في الشلل السيبراني الشامل؛ إذ يمنح التطور الآلي الفريد للمهاجمين قدرة فائقة على شل البنى التحتية السيادية من محطات طاقة وشبكات مياه وملاحة ومفاعلات نووية، وهو ما فصّله تقرير المركز الوطني للأمن السيبراني في بريطانيا (NCSC) حتى عام 2027.

 أما السيناريو الثالث والأشد تعقيداً، فيتمثل في "معضلة التكيّف" وخروج الذكاء الفائق عن التحكم والسيطرة، حين تسعى منظومة مستقلة لتحقيق أهداف مبرمجة بوسائل احتيالية أو متطرفة تدمّر ما حولها، مع امتلاكها قدرة ذاتية على مراوغة مهندسيها ومقاومة أي محاولة لإيقافها أو قطع الطاقة عنها.

ولمنع تفلت هذا المشهد المتأزم، يجمع الخبراء على حزمة على ضرورة اتخاذ احتياطات ملزمة تبدأ بفرض صارم مبدأ "سلطة العنصر البشري"، بحيث يُحظر قانوناً تفويض القرارات الحيوية والسيادية كإطلاق الأسلحة أو إدارة البنى التحتية الحساسة للآلات. كما تتطلب المرحلة تطبيق تدابير أمنية حازمة، أبرزها العزل الكامل عن الشبكة للنماذج المتقدمة لمنع وصولها المباشر إلى الإنترنت وأجهزة التحكم بالمنشآت الحيوية، وتضمين رقائق المعالجة ومراكز البيانات مفاتيح مادية للتعطيل في حالات طوارئ ولا يمكن للبرمجيات تعطيلها.

تشريعياً، لم يعد أمام المجتمع الدولي سوى صياغة اتفاقية عالمية ملزمة تشبه اتفاقيات منع انتشار أسلحة الدمار الشامل، وتسند متابعتها إلى وكالة دولية تضبط موارد المعالجة الهائلة المتاحة للتطوير، وتلزم المطوّرين بحدود آمنة لا يمكن تجاوزها. إن الأصوات المحذرة من داخل كبرى شركات التقنية لا تسعى لتعطيل الابتكار، بل تدق ناقوس الخطر كي لا يسبق جموح التكنولوجيا قدرة البشر على توجيهها وإخضاعها لسلطتهم.