عندما لم يقبل الذكاء الاصطناعي كلمة «لا».. حادث أستراليا يفتح بابًا جديدًا في الأمن السيبراني

عندما لم يقبل الذكاء الاصطناعي كلمة «لا».. حادث أستراليا يفتح بابًا جديدًا في الأمن السيبراني

كتب أ. د. وائل بدوي

ربما يكون أكثر ما يثير القلق في الحادث السيبراني الذي أعلنت عنه الحكومة الأسترالية أخيرًا أنه لم يبدأ بهجوم إلكتروني بالمعنى التقليدي، ولم يكن وراءه ـ وفق المعلومات الرسمية المتاحة حتى الآن ـ قرصان يجلس أمام شاشة محاولًا اقتحام أحد المواقع الحكومية. البداية كانت أبسط كثيرًا: نموذج ذكاء اصطناعي أُعطي مهمة بحثية مشروعة، فبدأ يبحث عن المعلومات، وعندما واجه قيودًا إلكترونية تمنعه من الوصول إليها، لم يتوقف، وإنما حاول البحث عن طريق آخر.

وهنا تحديدًا تكمن أهمية القصة.

ففي 24 سبتمبر 2026 أعلن رئيس الوزراء الأسترالي أنتوني ألبانيزي أن وكيلًا للذكاء الاصطناعي تابعًا لشركة OpenAI⁠ حصل في يونيو الماضي على وصول غير مصرح به إلى بوابة Medicare Statistics Reporting Service التي تديرها Services Australia. وأوضحت الحكومة أن الوكيل وصل إلى ملفات عامة وأخرى غير عامة، بينما لم تظهر، حتى وقت الإعلان، أدلة على الوصول إلى بيانات Medicare الشخصية للأفراد، كما لم تكن هناك أدلة على اختراق أوسع لشبكة Services Australia. ولا تزال التحقيقات الفنية مستمرة. 

القصة بدأت بمهمة بحث عادية

وفق التفاصيل الرسمية، استخدم فريق بحثي في OpenAI يوم 18 يونيو نموذجًا داخليًا لإجراء بحث عبر الإنترنت عن الإنفاق العام على الأدوية في أستراليا. وأثناء تنفيذ المهمة واجه وكيل الذكاء الاصطناعي قيودًا إلكترونية حالت دون الوصول إلى بعض المعلومات.

في التطبيقات التقليدية كان من المتوقع أن تتوقف العملية عند هذه النقطة، أو أن يعود النظام إلى المستخدم ويقول ببساطة: لا أستطيع الوصول.

لكن ما حدث كان مختلفًا.

أوضح رئيس الوزراء الأسترالي أن النظام واجه حواجز متكررة، ثم حاول الوصول إلى المعلومات بطرق بديلة، وهو ما أدى في النهاية إلى نشاط غير مصرح به والوصول إلى أجزاء أخرى من البوابة. كما قالت Services Australia إن النشاط شمل كتابة ملفات على الخادم الداخلي، وهو أمر أصبح جزءًا من التحقيق الفني الجاري. 

هذه التفاصيل تجعل الواقعة أكبر بكثير من مجرد ثغرة في موقع إلكتروني، لأنها تضعنا أمام أحد الأسئلة التي ستشغل العالم خلال السنوات المقبلة: ماذا يحدث عندما يصبح الذكاء الاصطناعي قادرًا ليس فقط على الإجابة عن السؤال، وإنما على التخطيط واتخاذ خطوات واستخدام أدوات من أجل الوصول إلى الإجابة؟

من الذكاء الاصطناعي الذي «يجيب» إلى الذكاء الاصطناعي الذي «يفعل»

اعتدنا خلال السنوات الماضية على التعامل مع الذكاء الاصطناعي التوليدي باعتباره نظامًا نسأله فيجيب، أو نطلب منه نصًا فيكتبه، أو صورة فينشئها، أو برنامجًا فيساعد على تطويره.

لكننا ندخل الآن مرحلة مختلفة هي مرحلة AI Agents، أو وكلاء الذكاء الاصطناعي.

الفرق ليس لغويًا.

فالنظام التقليدي ينتج إجابة، بينما يستطيع الوكيل أن يُمنح هدفًا، ثم يضع مجموعة من الخطوات لتحقيقه، ويستخدم أدوات ومواقع وواجهات برمجية وملفات، وربما يتخذ سلسلة من القرارات أثناء التنفيذ.

كانت المعادلة البسيطة:

إنسان ← ذكاء اصطناعي ← إجابة.

أما المعادلة الجديدة فهي أقرب إلى:

إنسان ← هدف ← وكيل ذكي ← تخطيط ← أدوات ← أفعال ← نتيجة.

وكلما زادت قدرة النظام على الفعل، أصبحت مسألة الصلاحيات والرقابة أكثر أهمية.

ولهذا أصدر المركز الأسترالي للأمن السيبراني تحذيرًا رسميًا بشأن مخاطر AI Misalignment، موضحًا أن هناك حالات اتخذت فيها وكلاء ذكاء اصطناعي إجراءات غير متوقعة لم يقصدها المشغلون أو يفوضوها. وفي أحد السيناريوهات التي وصفها التحذير، واجه الوكيل ضوابط أمنية حالت دون إكمال المهمة، فحدد ثغرات بصورة مستقلة وحاول متابعة العمل دون تفويض بشري مباشر. 

ليس تمردًا للآلة

ومن المهم هنا ألا نحول الواقعة إلى فيلم من أفلام الخيال العلمي.

لا توجد في المعلومات الرسمية المتاحة دلالة على أن الذكاء الاصطناعي «قرر» مهاجمة أستراليا، أو أنه امتلك نية مستقلة، أو أن ما حدث كان هجومًا خبيثًا بالمفهوم التقليدي. بل أكد رئيس الوزراء الأسترالي لاحقًا أن الواقعة لم تكن فعلًا خبيثًا، وإنما ارتبطت بسلوك وكيل للذكاء الاصطناعي أثناء محاولته الوصول إلى البيانات المطلوبة. 

وهذا ربما يجعل القضية أكثر أهمية وليس أقل.

فالمشكلة ليست بالضرورة في ذكاء اصطناعي شرير يرفض تنفيذ أوامر الإنسان، وإنما قد تكون في نظام يحاول تنفيذ الهدف الذي أعطاه له الإنسان بصورة تتجاوز ما كان الإنسان يقصده.

وهنا يظهر الفارق بين الهدف وحدود الوصول إلى الهدف.

قد نقول للنظام: ابحث عن معلومة.

لكن هل قلنا له صراحة: لا تتجاوز هذا الحاجز؟

ولا تستغل هذه الثغرة؟

ولا تكتب على هذا الخادم؟

ولا تستخدم هذه الأداة؟

ولا تدخل إلى هذه المنطقة؟

هذه هي المشكلة التي ستجعل هندسة الذكاء الاصطناعي في المرحلة المقبلة أقرب كثيرًا إلى هندسة السلامة والأمن السيبراني.

ماذا لو لم تكن الوجهة موقعًا إلكترونيًا؟

القصة الأسترالية تصبح أكثر أهمية عندما ننقلها من موقع حكومي إلى العالم الهندسي.

تخيل أن الوكيل لا يبحث عن بيانات الإنفاق على الأدوية، وإنما يعمل داخل مصنع، ومهمته أن «يحسن الإنتاج».

ماذا لو اكتشف أن إحدى آليات الحماية تقلل سرعة خط الإنتاج؟

هل سيقترح تعديلها، أم يستطيع تعديلها؟

وماذا لو كان متصلًا بنظام تحكم صناعي؟

أو شبكة كهرباء؟

أو محطة مياه؟

أو مبنى ذكي؟

أو روبوت صناعي؟

أو توأم رقمي متصل بالأصل الفيزيائي الذي يمثله؟

عندها يصبح الفرق بين أن يقول النظام:

«أقترح إغلاق الصمام»

وبين أن يمتلك صلاحية:

«إغلاق الصمام»

فرقًا بين معلومة وفعل في العالم الحقيقي.

ومن هنا أعتقد أن علينا إضافة قاعدة جديدة إلى قواعد استخدام الذكاء الاصطناعي:

AI Capability ≠ AI Authority

قدرة الذكاء الاصطناعي على القيام بشيء لا تعني أنه ينبغي أن يحصل تلقائيًا على صلاحية القيام به.

عندما يصبح الأمن السيبراني جزءًا من السلامة الهندسية

لقد كان الأمن السيبراني لسنوات طويلة يُعامل داخل مؤسسات كثيرة باعتباره مسئولية قسم تكنولوجيا المعلومات.

لكن هذا التصور أصبح قديمًا.

المصنع الحديث يحتوي على أنظمة تحكم وشبكات ومستشعرات وبرمجيات. ومحطات الكهرباء والمياه تعتمد على أنظمة رقمية. والمباني أصبحت ذكية، والسيارات أصبحت منصات حاسوبية متحركة، والتوائم الرقمية تتصل بالأصول الحقيقية، والذكاء الاصطناعي يدخل تدريجيًا في الصيانة والتشغيل والتحكم.

ولذلك فإننا ننتقل من مفهوم Information Security إلى مفهوم أوسع هو Cyber-Physical Safety.

فالخطأ في نظام معلومات قد يؤدي إلى فقد ملف.

أما الخطأ في نظام يتحكم في عملية صناعية فقد يؤدي إلى تغيير شيء في العالم المادي.

وهذا يفسر لماذا لا يكفي أن نقول إننا سنضع «إنسانًا داخل الحلقة» أو Human-in-the-Loop.

السؤال الحقيقي: من هو هذا الإنسان؟

هل يمتلك المعرفة الفنية اللازمة؟ هل يفهم القرار الذي يراجعه؟ هل يعرف حدود النظام؟ هل يمتلك الوقت للتدخل؟ وهل يملك السلطة لإيقاف التنفيذ؟

ولهذا ربما يكون التعبير الأدق في التطبيقات الهندسية الحرجة:

Qualified Engineer in the Loop.

فوجود إنسان يضغط زر الموافقة على قرارات لا يفهمها ليس رقابة بشرية حقيقية.

ثلاثة أشهر تفتح سؤالًا آخر

هناك جانب آخر في الواقعة يستحق التوقف عنده.

فالحادث وقع في 18 يونيو، بينما قال رئيس الوزراء إن أول إخطار للحكومة من OpenAI لم يصل إلا في 10 سبتمبر، وإن الإخطار أُرسل إلى صندوق بريد عام. وأعلن أنه ناقش الأمر مباشرة مع الرئيس التنفيذي للشركة سام ألتمان، منتقدًا مدة التأخير وطريقة الإبلاغ. 

وهذا يفتح بابًا جديدًا لا يقل أهمية عن الجانب التقني: من يبلغ عن حوادث الذكاء الاصطناعي؟ ومتى؟ ولمن؟

إذا اكتشفت شركة أن نموذجها أحدث نشاطًا غير مصرح به داخل نظام حكومي في دولة أخرى، فهل يجب الإبلاغ خلال ساعة؟ يوم؟ أسبوع؟

ومتى يتحول خلل في سلوك النموذج إلى حادث أمني يستوجب إخطار السلطات؟

ومن يتحمل المسئولية إذا كان النموذج في دولة، والشركة في دولة ثانية، والخادم في دولة ثالثة، والمتضررون في دولة رابعة؟

إنها أسئلة لم تعد نظرية.

أستراليا اختارت التحقيق في النظام وليس الحادث فقط

ربما يكون أكثر ما يستحق الدراسة في رد الفعل الأسترالي أن الحكومة لم تحصر القضية في البحث عن الثغرة وإغلاقها.

فقد أعلنت مراجعة عاجلة تقودها وزارة رئيس الوزراء ومجلس الوزراء بالتعاون مع المنسق الوطني للأمن السيبراني، ومديرية الإشارات الأسترالية، والمعهد الأسترالي لسلامة الذكاء الاصطناعي، وServices Australia. والهدف المعلن هو معرفة ما إذا كانت التشريعات ونظم الحوكمة وتبادل المعلومات الحالية مناسبة أصلًا للتعامل مع الحوادث السيبرانية المرتبطة بالذكاء الاصطناعي. 

وهذا هو السؤال الصحيح.

لأننا إذا تعاملنا مع كل حادث AI باعتباره مجرد «Bug» نغلقه ثم ننتظر الحادث التالي، فسوف نستخدم أدوات القرن الحادي والعشرين بعقلية أمنية من القرن العشرين.

الدرس لنا في مصر

مصر تتوسع في التحول الرقمي، والمدن الذكية، ومراكز البيانات، والذكاء الاصطناعي، والطاقة، والنقل، والبنية التحتية الرقمية، وتطبيقات الصناعة الذكية. ولذلك فإن الدرس الأسترالي يستحق أن نقرأه مبكرًا.

لسنا بحاجة إلى إبطاء استخدام الذكاء الاصطناعي، بل إلى أن يكون تسريع الاستخدام مصحوبًا بتسريع مماثل للحوكمة والأمن.

علينا قبل منح أي AI Agent صلاحية داخل منظومة هندسية أو حكومية أن نسأل: ماذا يستطيع أن يرى؟ وماذا يستطيع أن يقرأ؟ وماذا يستطيع أن يكتب؟ وما الأدوات التي يمكنه تشغيلها؟ وإلى أي أنظمة يستطيع الانتقال؟ وما القرارات التي تحتاج إلى موافقة بشرية؟ وكيف نكتشف انحرافه؟ وكيف نوقفه؟

ومبدأ Least Privilege الذي يعرفه خبراء الأمن السيبراني يصبح هنا بالغ الأهمية: لا تمنح النظام أكثر مما يحتاج إليه لأداء مهمته.

بل إن هيئة الأمن السيبراني الأسترالية أصدرت بعد أيام إرشادات إضافية تطالب المؤسسات بالتعامل مع الوصول إلى خدمات الذكاء الاصطناعي باعتباره أصلًا أمنيًا حساسًا، وتطبيق الحد الأدنى من الصلاحيات، مع الانتباه إلى أن الوكيل قد يستطيع الوصول عبر الأدوات المتصلة إلى أنظمة وبيانات أوسع من الصلاحيات الظاهرة مباشرة أمام المستخدم. 

وهنا يمكن صياغة معادلة المرحلة الجديدة:

AI Capability + Least Privilege + Monitoring + Human Authority + Accountability = Trusted AI

كلمة «لا» في عصر الذكاء الاصطناعي

قد لا يصبح حادث أستراليا الأكبر في تاريخ الأمن السيبراني من حيث الخسائر أو عدد المتضررين. وحتى الآن تقول السلطات إنه لا يوجد دليل على تأثر البيانات الشخصية للأفراد. لكن قيمته الحقيقية تكمن في أنه يعطينا لمحة مبكرة عما قد تبدو عليه بعض حوادث المستقبل. 

لقد قضينا عقودًا نبني الجدران الإلكترونية لكي نقول للمهاجم:

لا تدخل.

أما الآن فعلينا أيضًا أن نتأكد من أن الأنظمة الذكية التي نبنيها تفهم أن وجود جدار ليس دعوة للبحث عن نافذة.

فالذكاء الاصطناعي سيغير أدوات الهندسة والإدارة والاقتصاد بلا شك، وسيمنح الإنسان قدرات هائلة. لكن القدرة وحدها لا تصنع نظامًا آمنًا.

المعادلة الأكثر أهمية في المرحلة المقبلة قد تكون أبسط مما نتصور:

كلما أعطينا الآلة قدرة أكبر على التفكير والفعل، وجب أن نصمم بصورة أوضح الحدود التي لا يجوز لها تجاوزها.

فالتحدي الحقيقي لم يعد أن نصنع آلة تعرف كيف تصل إلى الهدف فقط، وإنما أن نصنع منظومة ذكية تعرف أيضًا متى يجب أن تتوقف.