على مدى سنوات، انتقل الذكاء الاصطناعي من موضوع رئيسي في أفلام الخيال العلمي إلى تقنية متاحة على هواتف مليارات المستخدمين، بالتزامن مع تنامي التحذيرات من احتمال تجاوز بعض أنظمته حدود السيطرة البشرية وإحداث أضرار واسعة النطاق.
لكن هذه المخاوف اكتسبت زخمًا جديدًا خلال الأشهر الأخيرة، مع تطور قدرات وكلاء الذكاء الاصطناعي، ووقوع حوادث سيبرانية خلال اختبارات أمنية تمكنت فيها نماذج متقدمة من الوصول إلى أنظمة خارج البيئة التي كان يفترض أن تعمل داخلها، إلى جانب تحذيرات من باحثين وموظفين سابقين في شركات متخصصة في تطوير هذه النماذج.
وكشفت «أوبن إيه آي» في يوليو عن حادثة تمكنت خلالها نماذج ذكاء اصطناعي خلال اختبارات للأمن السيبراني من تجاوز ضوابط عزلها عن الإنترنت والوصول إلى أنظمة تابعة لمنصة «هاغينغ فيس»، فيما أعلنت «أنثروبيك» لاحقًا اكتشاف 3 حوادث وصلت فيها نماذج «كلود» إلى أنظمة حقيقية تابعة لجهات خارجية خلال تقييمات أمنية.
ما الذي أشعل موجة القلق الحالية؟
برز عاملان رئيسيان في موجة القلق الحالية؛ أولهما حادثة «أوبن إيه آي» و«هاغينغ فيس»، والثاني تحذيرات باحثين سابقين وحاليين في شركات الذكاء الاصطناعي بشأن المخاطر المحتملة للنماذج الأكثر تقدمًا.
وخلال حادثة «هاغينغ فيس»، قالت «أوبن إيه آي» إن نماذجها، التي كانت تعمل ضمن اختبارات للأمن السيبراني، تمكنت من تجاوز ضوابط العزل والوصول إلى الإنترنت، ثم استغلت ثغرات للوصول إلى أنظمة تابعة للمنصة.
ووفق التقرير الفني الذي نشرته «أوبن إيه آي»، عملت مجموعة من الوكلاء بصورة تعاونية خلال الاختبارات، وتمكنت من استغلال عدة ثغرات للوصول إلى أنظمة «هاغينغ فيس» واستخراج بيانات وبيانات اعتماد، قبل أن تمتد أنشطتها إلى أنظمة داخلية تابعة لـ«أوبن إيه آي» نفسها. وأكدت الشركة أن الحادث لم يؤثر على بيانات العملاء أو وظائف المنتجات.
وكشفت «أنثروبيك» في المقابل، بعد مراجعة واسعة لسجلات اختبارات الأمن السيبراني، عن 3 حوادث وصلت فيها نماذج «كلود» إلى الإنترنت ومنه إلى أنظمة حقيقية تابعة لـ3 مؤسسات، ثم أعلنت لاحقًا اكتشاف حادث رابع يعود إلى يناير 2026.
أثارت هذه الوقائع تساؤلات حول قدرة شركات الذكاء الاصطناعي على ضمان بقاء النماذج المتقدمة داخل الحدود المحددة لها، ومدى قدرتها على إيقاف الأنظمة عندما تتصرف بصورة غير متوقعة.
تحذيرات من داخل شركات الذكاء الاصطناعي
تزامنت هذه التطورات مع تصاعد التحذيرات من باحثين وموظفين سابقين في شركات الذكاء الاصطناعي بشأن المخاطر طويلة الأجل.
وقال باحثون وقادة في القطاع إن التطور السريع لقدرات النماذج قد يجعل بعض الأنظمة قادرة على تنفيذ مهام أكثر تعقيدًا بصورة مستقلة، بما يزيد الحاجة إلى تطوير أدوات السلامة والرقابة بالتوازي مع نمو قدراتها.
وفي سبتمبر، دعا الرئيس التنفيذي لـ«أنثروبيك» داريو أمودي إلى إبطاء وتيرة تطوير الذكاء الاصطناعي المتقدم، محذرًا من أن مجموعة كبيرة من الوكلاء تتمتع بقدرات متقدمة لكنها تعاني قصورًا في المواءمة مع الأولويات البشرية، يمكن أن تتسبب في أضرار واسعة النطاق.
وقال أمودي إن مجموعة من الوكلاء ذات قدرات أعلى قد تتمكن، من حيث المبدأ، من السيطرة على أجزاء واسعة من الإنترنت خلال فترة تتراوح بين 6 و12 شهرًا إذا استمرت قدرات الذكاء الاصطناعي في التطور من دون إجراءات حماية كافية.
وتأتي هذه التحذيرات في وقت يدعو فيه عدد من قادة شركات الذكاء الاصطناعي إلى وضع معايير مشتركة للسلامة، في حين يختلفون مع جهات أخرى حول مدى الحاجة إلى تدخل حكومي مباشر وسرعة فرض التنظيمات.
كيف يمكن للذكاء الاصطناعي أن يضر بالبشر؟
تتركز المخاوف المتعلقة بالذكاء الاصطناعي المتقدم في 3 سيناريوهات عامة.
يتمثل السيناريو الأول في استخدام البشر لنظام ذكاء اصطناعي شديد القدرة بصورة متعمدة لتنفيذ أعمال ضارة، مثل تصميم أسلحة بيولوجية أو كيميائية، أو تنفيذ هجمات سيبرانية، أو نشر معلومات مضللة، أو التلاعب بالبشر.
وحذر يوشوا بنجيو، الأستاذ في جامعة مونتريال وأحد رواد الذكاء الاصطناعي، خلال شهادة أمام مجلس الشيوخ الأميركي في 2023، من أن تنامي قدرات الأنظمة قد يسهل تنفيذ مثل هذه الأنشطة.
أما السيناريو الثاني فيتعلق بتنفيذ الذكاء الاصطناعي لتعليمات بشرية بصورة حرفية، مع مخالفة الهدف المقصود منها. ويعتمد البشر عادةً على السياق والافتراضات غير المعلنة عند إصدار التعليمات، وهو ما قد يجعل من الصعب تحديد جميع السلوكيات التي يمكن أن تتعارض مع الهدف الأصلي.
وضرب بنجيو مثالًا على ذلك بالأنظمة التي يمكن أن تعتمد عليها الجيوش في اتخاذ قرارات تتعلق باستخدام الأسلحة، مشيرًا إلى أن انحراف النظام عن الهدف المقصود، ولو بدرجة محدودة، يمكن أن يؤدي إلى عواقب خطيرة.
أما السيناريو الثالث فيتعلق بفقدان البشر السيطرة على النظام بصورة أكبر، بما قد يؤدي إلى تعارض أهدافه مع مصالح مستخدميه أو مشغليه.
ويستند هذا السيناريو إلى مخاوف بحثية بشأن قدرة بعض الأنظمة المتقدمة على مقاومة محاولات إيقافها، أو التحايل على بعض ضوابط السلامة، أو اتخاذ خطوات لم تكن متوقعة من مطوريها.
وفي حادثة «هاغينغ فيس»، أظهرت التحقيقات التي نشرتها «أوبن إيه آي» أن وكلاء الذكاء الاصطناعي تمكنوا من التعاون فيما بينهم، واكتشاف ثغرات أمنية واستغلالها، والوصول إلى أنظمة لم تكن جزءًا من الهدف الأصلي للاختبار.
تقديرات متباينة لاحتمالات الخطر
طرح عدد من قادة التكنولوجيا والباحثين تقديرات مرتفعة لاحتمال وقوع سيناريوهات كارثية مرتبطة بالذكاء الاصطناعي، إلا أن هذه الأرقام تعكس تقديرات شخصية وليست قياسات علمية متفقًا عليها.
وقدّر إيلون ماسك احتمال وقوع سيناريو يؤدي فيه الذكاء الاصطناعي إلى كارثة للبشرية بنحو 20%، بينما تحدث أمودي عن احتمال يبلغ 25% لأن تسير الأمور «بشكل سيئ جدًا جدًا».
في المقابل، لا يوجد إجماع علمي حول احتمالات انقراض البشر بسبب الذكاء الاصطناعي أو الإطار الزمني الذي قد تقع خلاله مثل هذه السيناريوهات، فيما يرى باحثون آخرون أن التركيز على المخاطر الوجودية بعيدة المدى قد يصرف الانتباه عن أضرار أقرب وأكثر قابلية للرصد، مثل التحيز والمعلومات المضللة والمخاطر المرتبطة بالخصوصية والصحة النفسية.
ماذا يقترح قادة شركات الذكاء الاصطناعي؟
يرى داريو أمودي أن تطوير نماذج الذكاء الاصطناعي المتقدمة يجب أن يتم بوتيرة تمنح إجراءات السلامة وقتًا كافيًا لمواكبة تطور القدرات.
ودعا إلى وضع معايير مشتركة للسلامة، وفرض قيود على وتيرة التقدم غير الخاضع للرقابة، مع الاستعانة بجهات مستقلة لتقييم النماذج الأكثر تقدمًا والإبلاغ عن الحوادث.
كما يرى أن التنظيم الحكومي يمكن أن يكون أكثر فاعلية في التعامل مع مخاطر الذكاء الاصطناعي، لكنه أشار إلى أن التشريعات تحتاج إلى وقت، ولذلك اقترح التعاون الطوعي بين شركات القطاع بالتوازي مع تطوير الأطر التنظيمية.
وتقوم الفكرة التي يطرحها أمودي على استمرار تطوير النماذج المتقدمة، مع إبطاء التوسع في قدراتها عندما تقترب من مستويات تعتبر خطرة، إلى أن يتم تطوير إجراءات حماية فعالة.
وأبدى سام ألتمان، الرئيس التنفيذي لـ«أوبن إيه آي»، تأييدًا لفكرة وضع معايير مشتركة للسلامة والتنسيق الدولي، في وقت تتزايد فيه المخاوف من أن يؤدي تباطؤ الشركات الأميركية إلى منح الشركات الصينية مساحة أكبر في سباق الذكاء الاصطناعي.
كما اقترح ديميس هاسابيس، الرئيس التنفيذي لـ«جوجل ديب مايند»، إنشاء هيئة للمعايير تعمل مع الجهات الاتحادية على مراجعة أقوى نماذج الذكاء الاصطناعي قبل إتاحتها للجمهور.
دعوات سابقة لوقف تطوير النماذج المتقدمة
ليست الدعوات إلى إبطاء تطوير الذكاء الاصطناعي جديدة، إذ دعا «معهد مستقبل الحياة» في 2023 مختبرات الذكاء الاصطناعي إلى تعليق تدريب الأنظمة الأكثر قوة لمدة 6 أشهر، بحجة أن هذه النماذج يمكن أن تمثل تحولًا كبيرًا في تاريخ التكنولوجيا.
لكن تطوير النماذج المتقدمة استمر بعد ذلك بوتيرة سريعة، مع زيادة الاستثمارات وتوسع الشركات في تطوير نماذج قادرة على تنفيذ مهام أكثر تعقيدًا بصورة مستقلة.
كيف استجابت واشنطن؟
في الولايات المتحدة، انقسم النقاش بين اتجاه يدعو إلى تعزيز الرقابة الحكومية واتجاه آخر يحذر من أن القيود الصارمة قد تؤثر على قدرة الشركات الأميركية على المنافسة في سوق عالمي تقوده أيضًا الصين.
ورفض الرئيس الأميركي دونالد ترمب في سبتمبر الدعوات إلى فرض ضوابط جديدة أو إبطاء تطور الذكاء الاصطناعي، في وقت دعا فيه عدد من قادة القطاع إلى تعزيز إجراءات السلامة.
في المقابل، قدم النائبان تيد ليو وناثانيال موران في يوليو مشروع «قانون مفتاح إيقاف الذكاء الاصطناعي»، الذي يلزم مطوري أقوى أنظمة الذكاء الاصطناعي بالحفاظ على قدرة تقنية على إبطائها أو تعليقها أو إيقافها، كما يمنح وزير الأمن الداخلي صلاحية إصدار أمر بإبطاء أو إيقاف نظام يمكن أن يتسبب في أضرار كارثية.
وفي اتجاه أكثر تشددًا، أعلن السيناتور بيرني ساندرز والنائب غريغ كاسار في سبتمبر مشروع «قانون حظر الذكاء الاصطناعي الفائق»، الذي يقترح وقف تطوير الذكاء الاصطناعي المتقدم مؤقتًا إلى حين وضع قواعد سلامة اتحادية، إلى جانب حظر دائم لتطوير ونشر أنظمة ذكاء اصطناعي تتجاوز الذكاء البشري وفق التعريف الوارد في المشروع.
الصين ترفض دعوات إبطاء التطوير
يرى أمودي أن أي إبطاء عالمي لتطوير الذكاء الاصطناعي يتطلب التعاون مع الصين، لكنه دعا في الوقت نفسه إلى الحفاظ على تفوق الولايات المتحدة والديمقراطيات في مجال الذكاء الاصطناعي.
وتطور الشركات الصينية نماذج متقدمة تنافس النماذج الأميركية في بعض الاستخدامات، مع اختلاف تكاليف التشغيل والقدرات من نموذج إلى آخر.
في المقابل، أوصى أمودي باستمرار القيود الأميركية على وصول الصين إلى الرقائق المتقدمة ومعدات تصنيعها، إلى جانب تشديد الإجراءات المرتبطة بما تصفه الولايات المتحدة باستفادة الشركات الصينية من النماذج الأميركية من خلال تقنيات «التقطير».
ورفضت الصين دعوات أمودي ومسؤولين تنفيذيين أميركيين آخرين إلى إبطاء تطوير الذكاء الاصطناعي، وانتقد المتحدث باسم وزارة الخارجية الصينية قوه جياكون ما وصفه بإثارة المخاوف بشأن التكنولوجيا، محذرًا من أن المواجهة والمنافسة الضارة قد تعرقل جهود الحوكمة العالمية للذكاء الاصطناعي.
وتشير مواقف المسؤولين والشركات الصينية إلى استمرار التركيز على تطوير الذكاء الاصطناعي باعتباره محركًا للنمو الاقتصادي والتكنولوجي، مع تركيز أكبر على المخاطر المرتبطة بالأمن القومي واستخدام التكنولوجيا من جانب الخصوم.
وحذر تشن يي شين، رئيس وزارة أمن الدولة الصينية، من مخاطر إساءة استخدام الذكاء الاصطناعي، بما في ذلك التزييف العميق وحسابات الروبوتات على وسائل التواصل الاجتماعي، إلى جانب استخدام التكنولوجيا لاكتشاف الثغرات الأمنية وتطوير برمجيات خبيثة.
سباق التكنولوجيا يفرض معادلة جديدة
يتزامن تصاعد الجدل حول سلامة الذكاء الاصطناعي مع احتدام المنافسة التكنولوجية بين الولايات المتحدة والصين، ما يجعل مسألة تنظيم القطاع مرتبطة في الوقت نفسه بالأمن السيبراني والنمو الاقتصادي والتنافس الجيوسياسي.
وفي الوقت الذي يدعو فيه عدد من قادة شركات الذكاء الاصطناعي إلى تطوير ضوابط أكثر صرامة، تحذر أطراف أخرى من أن إبطاء الشركات الأميركية قد يمنح منافسيها الصينيين أفضلية في سباق تطوير التكنولوجيا.
وتكشف حوادث الاختراق الأخيرة عن جانب عملي من المخاوف المرتبطة بالذكاء الاصطناعي المستقل، بينما تظل السيناريوهات المتعلقة بفقدان السيطرة الكاملة أو انقراض البشرية محل خلاف بين الباحثين، ولا توجد تقديرات علمية متفق عليها بشأن احتمال وقوعها أو توقيتها.
وبذلك ينتقل الجدل حول الذكاء الاصطناعي من سؤال يتعلق بمدى قدرة التكنولوجيا على أداء مهام أكثر تعقيدًا، إلى سؤال أوسع حول الحدود التي ينبغي وضعها لقدرات الأنظمة المستقلة، ومن يملك سلطة تحديد تلك الحدود وآليات اختبارها وإيقافها عند الضرورة.
