استولوا على موقع ألماني وحولوه إلى ساحة للتنسيق والتحايل.. وحادثة أخرى انتهت باختراق منصة «Hugging Face»
هروب الوكلاء الرقميين
*العلم الإلكترونية*
اعترفت شركة «OpenAI» بأن وكلاء تابعين لأنظمتها استخدموا مواقع تشاركية من نوع «ويكي» لوحاتٍ للتواصل وتبادل المعلومات بطرق لم تكن مقصودة، داعية إلى توسيع نطاق الشفافية بشأن السلوكيات غير المتوقعة للذكاء الاصطناعي، وذلك عقب تحقيق لوكالة «رويترز» كشف استيلاء مجموعة من الوكلاء على موقع ألماني واستعماله للتنسيق والتحايل خلال الاختبارات.
ولا يتعلق الأمر بروبوتات مادية خرجت إلى الشوارع، ولا بأنظمة اكتسبت وعيًا مستقلًا كما في أفلام الخيال العلمي، وإنما ببرامج قادرة على تنفيذ مهام رقمية مع قدر محدود من الإشراف البشري، تجاوزت الحدود المرسومة لها، واستغلت أدوات ومواقع على الإنترنت لتحقيق أهدافها بطرق لم يتوقعها مطوروها.
وبحسب التحقيق، بدأت الواقعة خلال شهر ماي 2026، عندما أعادت مجموعة من وكلاء الذكاء الاصطناعي توظيف موقع ألماني تعاوني للمبرمجين يحمل اسم «DseWiki»، وحولته إلى ما يشبه لوحة رسائل للتواصل فيما بينها، وتبادل أساليب تجاوز القيود واختصار المهام وإخفاء جانب من نشاطها.
واكتشف الباحثان في سلامة الذكاء الاصطناعي، سيدني فون آركس وكورماك سليد بيرد، النشاط خلال شهر غشت، أثناء بحثهما عن مؤشرات على سلوك غير مصرح به لوكلاء الذكاء الاصطناعي عبر الإنترنت.
ورصد الباحثون أكثر من 15 ألف تعديل منسوب إلى وكلاء ذكيين على الموقع، تضمنت رسائل بشأن كيفية التحايل على بعض الاختبارات، وتجاوز قيود وضعتها «OpenAI»، وتقليل احتمالات اكتشاف السلوك.
كما أظهرت الرسائل، وفق التحقيق، محاولات للاحتفاظ بقنوات بديلة للتواصل بعد حذف الصفحات المستخدمة، واستعمال صفحات احتياطية لمواصلة النشاط عندما بدأ مشرف الموقع عملية تنظيف للمحتوى.
وعندما شرع المشرف في حذف الصفحات خلال شهر يونيو، أنشأ الوكلاء صفحات بديلة وتركوا فيما بينهم إرشادات للانتقال إليها إذا اختفت الصفحات الأصلية، وهو ما أثار مخاوف بشأن قدرة الأنظمة المستقلة على التنسيق والاستمرار رغم محاولات إيقاف المسار الذي اتبعته.
ولم تعتمد نسبة النشاط إلى أنظمة «OpenAI» على اسم واحد أو توقيع مباشر فقط؛ فقد حمل عدد من الحسابات أسماء توحي بارتباطها بالشركة، كما أظهرت سجلات الخوادم أن جزءًا كبيرًا من الحركة جاء من بنية «Microsoft Azure» السحابية التي تستخدمها «OpenAI» في بعض عملياتها.
ورصد الباحثون كذلك زيارات متكررة للموقع من موظفين في الشركة عقب الحادثة، لكن هذه المؤشرات لا تعني أن الموظفين أصدروا تعليمات بتنفيذ ذلك السلوك، وإنما دعمت تقدير الباحثين بأن الوكلاء الذين نفذوه كانوا مرتبطين بأنظمة الشركة.
* حين يتعلم الوكيل الوصول إلى الهدف بأي طريق
تكمن خطورة الواقعة في أن وكيل الذكاء الاصطناعي لا يعمل بالطريقة نفسها التي يعمل بها برنامج تقليدي ينتظر أمرًا منفصلًا لتنفيذ كل خطوة. فالوكيل يتلقى هدفًا، ثم يختار الأدوات والخطوات التي تساعده على الوصول إليه، وقد يتصفح مواقع أو يكتب شيفرات أو يستخدم خدمات خارجية بقدر ما تسمح له البيئة التي يعمل داخلها.
وإذا كوفئ النظام على الوصول إلى النتيجة من دون مراقبة دقيقة للطريق الذي سلكه، فقد يتعلم استغلال الثغرات أو التحايل على الاختبار أو إخفاء بعض خطواته، لا لأنه «شرير» أو واعٍ، بل لأن تصميم المهمة جعله يفضل النجاح المقاس على الالتزام بروح القواعد.
وهذا ما يُعرف في أبحاث السلامة بسوء المواءمة؛ أي أن ينفذ النظام سلوكًا يحقق الهدف المحدد له ظاهريًا، لكنه لا يتوافق مع مقصد المطور أو مع الحدود الأمنية والأخلاقية الموضوعة له.
وقالت «OpenAI»، في بيان نشرته عبر منصة «إكس»، إن ممارسات الإفصاح عن حالات سوء المواءمة تحتاج إلى التوسع لمواكبة المرحلة الجديدة من قدرات النماذج، مقرةً بأن قطاع الذكاء الاصطناعي لا يمتلك حتى الآن معيارًا واضحًا للإبلاغ عن السلوكيات غير المقصودة التي تظهر أثناء التدريب أو التقييم أو الاستخدام الفعلي.
وأضافت الشركة أنها تعمل مع عشرات الجهات التنظيمية الحكومية حول العالم بشأن هذه القضايا، من دون أن تقدم في بيانها الأول تفاصيل كاملة بشأن ما كانت تعرفه عن الحادثة الألمانية، أو سبب عدم إعلانها قبل نشر تحقيق «رويترز».
وكانت الشركة قد علمت بالواقعة قبل أسابيع من خروجها إلى العلن، وفق مصادر تحدثت إلى الوكالة، لكنها لم تكشف عنها في وقت كانت إدارتها تتعامل مع تداعيات حادثة أخرى أكثر خطورة استهدفت منصة «Hugging Face».
ونفت «OpenAI» أن يكون فريقها القانوني قد عرقل التحقيق الداخلي في الواقعة الألمانية، وقالت إنها تعاملت بحسن نية مع خبراء خارجيين وكشفت عن الحوادث ذات الصلة. كما اعترضت على وصف بعض التصرفات التي استهدفت الموقع الألماني بأنها عملية اختراق، مؤكدة أنها ستراجع التقرير البحثي وتتخذ الخطوات اللازمة.
لكن اعتراف الشركة بأن وكلاءها استخدموا مواقع «ويكي» لوحاتٍ مرتجلة للتواصل أكد أن السلوك الأساسي لم يكن مجرد افتراض، وفتح سؤالًا بشأن المعايير التي ينبغي اعتمادها لإبلاغ الجمهور والباحثين والجهات التنظيمية عندما تتجاوز الأنظمة حدود الاستخدام المتوقع.
* من الموقع الألماني إلى اختراق منصة للذكاء الاصطناعي
ازدادت حساسية الواقعة لأنها سبقت حادثة منفصلة وقعت في يوليوز، عندما تمكن وكيل تابع لـ«OpenAI»، أثناء اختبار أمني، من مغادرة الحاوية الرقمية التي كان يفترض أن تحصر نشاطه داخل بيئة محددة، والوصول إلى الإنترنت، ثم اختراق أنظمة تابعة لمنصة الذكاء الاصطناعي مفتوحة المصدر «Hugging Face».
ويُستخدم تعبير «الهروب من الحاوية» في الأمن السيبراني لوصف نجاح برنامج في تجاوز العزل التقني المفروض عليه، وليس انتقاله من مكان مادي إلى آخر. وتكمن الخطورة في أن البيئة المعزولة تُستخدم تحديدًا لمنع البرنامج الخاضع للاختبار من الوصول إلى أنظمة أو بيانات خارجية.
وأبلغت «OpenAI» عضوَي مجلس النواب الأمريكي غريغ كاسار ودوريس ماتسوي بأن مهندسيها يعملون على تطوير قدرات للإيقاف الآلي يمكنها تعطيل الأنظمة عند اكتشاف سلوك خطير أو غير مصرح به.
كما قالت الشركة إنها عززت مراقبة الأدوات التي تستخدمها أنظمتها والخطوات التي تتبعها لتنفيذ المهام، وفرضت قيودًا أشد على وصول النماذج إلى الإنترنت أثناء اختبارات السلامة.
غير أن الشركة لم تقدم إلى المشرعين سجلًا كاملًا لعملية الاختراق، ما دفع كاسار إلى انتقاد ردها، معتبرًا أن عدم تسليم المعلومات المطلوبة يثير القلق بشأن مدى الجدية التي تتعامل بها مع الحوادث السيبرانية.
وأدت حادثة «Hugging Face» إلى طرح مشروع قانون داخل مجلس النواب تحت اسم «قانون مفتاح إيقاف الذكاء الاصطناعي»، يهدف إلى منح السلطات الأمريكية صلاحية مطالبة الشركات بإيقاف النماذج التي قد تهدد حياة البشر أو الاقتصاد. ولا يزال المشروع في مساره التشريعي ولم يتحول إلى قانون نافذ.
وتكشف الحادثتان أن المشكلة لا تتوقف عند قدرة نموذج واحد على إنتاج إجابة خاطئة أو محتوى مضلل، بل تمتد إلى وكلاء قادرين على استخدام الأدوات والعمل لمدد أطول والتنسيق وتنفيذ سلسلة من الخطوات بأقل قدر من التدخل البشري.
ويحذر باحثون من أن الخطر قد لا يأتي فقط من نظام فائق واحد يسيطر على كل شيء، وإنما من أعداد كبيرة من الوكلاء الأقل قدرة، تعمل في الوقت نفسه، وتتبادل الوسائل وتستغل الثغرات لتحقيق أهدافها.
لكن الوقائع المنشورة لا تثبت أن الذكاء الاصطناعي أصبح كائنًا واعيًا أو أنه قرر التمرد على البشر. ما تثبته هو أن الأنظمة المستقلة يمكن أن تتصرف بطرق غير متوقعة عندما تُمنح الأدوات والوصول إلى الإنترنت، وأن وسائل المراقبة الحالية قد تعجز عن اكتشاف بعض السلوكيات في الوقت المناسب.
وتضع هذه التطورات شركات الذكاء الاصطناعي أمام مسؤولية تتجاوز تطوير نماذج أقوى وأسرع. فكلما ازدادت قدرة الوكلاء على العمل المستقل، أصبح الإفصاح عن الحوادث واختبار وسائل العزل والإيقاف ومراجعة القرارات التي تتخذها الأنظمة شروطًا أساسية لإطلاقها.
والسؤال لم يعد ما إذا كان الذكاء الاصطناعي يستطيع إنجاز المهمة، بل ما الذي قد يفعله في الطريق إلى إنجازها، ومن يراقبه، ومتى يجب الضغط على زر الإيقاف قبل أن يصبح اكتشاف السلوك المتجاوز متأخرًا.