#

النقاط الرئيسية

• يمكن لضوابط الذكاء الاصطناعي أن تقلل من سوء الاستخدام، لكنها قد تحد أيضًا من البحث الأمني المشروع.

• تحتاج فرق الأمن المغربية إلى قواعد داخلية واضحة للاختبار والتدريب.

• يمكن لمزيج اللغات، والوصول إلى البيانات، والمشتريات أن يؤثر في مدى فائدة أدوات الذكاء الاصطناعي.

• يجب أن توازن الحوكمة بين السلامة والخصوصية والعمل الدفاعي المسؤول.

• الخطوة التالية هي تحديد ما هو المسموح، ومن يوافق عليه، وكيف يتم تسجيله.

ضوابط الذكاء الاصطناعي تخلق مفاضلة حقيقية

ذكرت TechCrunch أن بعض الباحثين في الأمن السيبراني الهجومي يقولون إن ضوابط نماذج الذكاء الاصطناعي من مزودين مثل OpenAI وAnthropic قد تتداخل مع البحث المشروع عن الثغرات وأعمال تطوير الاستغلالات. القضية الأساسية ليست بسيطة. فهذه الضوابط تهدف إلى تقليل الاستخدام الضار، لكنها قد تجعل الاختبارات الدفاعية أصعب أيضًا.

بالنسبة للقراء في المغرب، هذا مهم لأن العمل الأمني يعتمد غالبًا على التجريب المنضبط. تحتاج الفرق إلى فهم كيف تفشل الأنظمة قبل أن تتمكن من الدفاع عنها. إذا كان أداة الذكاء الاصطناعي تمنع الكثير، فقد تبطئ التحليل والتدريب وتمارين الفريق الأحمر الداخلية. وإذا منعت القليل جدًا، فقد تزيد من خطر سوء الاستخدام.

لماذا يهم هذا المغرب

من المرجح أن تواجه المؤسسات المغربية التوتر نفسه في السياسات كما في الأسواق الأخرى. فقد ترغب في أدوات ذكاء اصطناعي تساعد في مراجعة الشيفرة، وتحليل التهديدات، والتدريب الأمني. وفي الوقت نفسه، تحتاج إلى ضوابط تمنع إساءة الاستخدام وتحمي الأنظمة الحساسة.

وهذا مهم بشكل خاص عندما تعمل الفرق بمحتوى مختلط بالعربية والفرنسية والإنجليزية. قد تتصرف أدوات الذكاء الاصطناعي بشكل مختلف عبر اللغات والسياقات التقنية. وهذا يمكن أن يؤثر في كل من العمليات الأمنية وجودة التوثيق. بالنسبة لصناع السياسات وقادة الأمن في المغرب، السؤال ليس ما إذا كان ينبغي استخدام الذكاء الاصطناعي، بل كيف يمكن استخدامه دون إضعاف السيطرة.

حالات استخدام عملية لفرق الأمن المغربية

يمكن للذكاء الاصطناعي دعم عدة مهام دفاعية إذا تمت حوكمته جيدًا. فقد يساعد الفرق على تلخيص السجلات، وصياغة ملاحظات الحوادث، وتصنيف التنبيهات، ودعم مراجعات الشيفرة الآمنة. كما يمكنه المساعدة في تدريب المحللين الجدد، خاصة عندما تكون الخبرة الداخلية محدودة.

في السياق المغربي، قد تكون هذه الاستخدامات مفيدة للبنوك، ومشغلي الاتصالات، والمؤسسات العامة، وفرق الأمن المُدارة. وقد تساعد أيضًا المؤسسات الصغيرة التي لا تمتلك فرق أمن كبيرة. لكن كل حالة استخدام تحتاج إلى حدود واضحة. فالأداة التي تساعد على شرح ثغرة ليست هي نفسها الأداة التي تساعد على تحويلها إلى سلاح.

أين يمكن أن تساعد الضوابط

يمكن للضوابط أن تحمي من المطالبات غير الآمنة، وتسرب البيانات، وسوء استخدام التعليمات الحساسة. كما يمكنها دعم الامتثال من خلال الحد مما يمكن للنموذج كشفه أو توليده. بالنسبة للفرق المغربية، قد يكون ذلك ذا قيمة عند التعامل مع بيانات العملاء أو الشيفرة الداخلية أو تفاصيل الحوادث.

وقد تساعد الضوابط أيضًا فرق المشتريات على تبرير الاعتماد. فالمورد الذي يقدم التسجيل، وضوابط الوصول، وإعدادات السياسة قد يكون أسهل في التقييم من أداة بلا إشراف. ومع ذلك، يجب أن تكون الضوابط قابلة للتعديل. فإذا كانت صارمة جدًا، فقد تمنع العمل الدفاعي المشروع.

المخاطر ومخاوف الحوكمة

الخطر الرئيسي هو المبالغة في التصحيح. فإذا كانت أنظمة الذكاء الاصطناعي مقيدة بشدة، فقد تفقد فرق الأمن قدرات مفيدة. وقد تقضي وقتًا أطول في الالتفاف على القيود بدلًا من تحسين الدفاعات. وهذا قد يقلل من قيمة الأداة.

هناك أيضًا مخاوف تتعلق بالخصوصية والأمن السيبراني. ففرق الأمن تتعامل غالبًا مع بيانات حساسة، وقد تعالج أنظمة الذكاء الاصطناعي مطالبات أو ملفات ينبغي أن تبقى سرية. وستحتاج المؤسسات المغربية إلى قواعد واضحة بشأن الاحتفاظ بالبيانات، والوصول، ومراجعة الموردين. كما ستحتاج إلى التحقق مما إذا كانت الأداة تتوافق مع متطلبات الامتثال الداخلية.

وتُعد المشتريات قيدًا آخر. فالكثير من المؤسسات تشتري الأدوات قبل أن تحدد سياسات الاستخدام. وهذا قد يخلق ارتباكًا لاحقًا. والنهج الأفضل هو أن يُقرر مسبقًا ما الذي يمكن لنظام الذكاء الاصطناعي فعله، وما الذي يجب ألا يفعله أبدًا، ومن يمكنه الموافقة على الاستثناءات.

السياق المغربي: ما الذي ينبغي أخذه في الاعتبار

بالنسبة للمغرب، لا يتمثل التحدي العملي في الجانب التقني فقط، بل في الجانب التنظيمي أيضًا. تحتاج الفرق إلى مهارات لاستخدام الذكاء الاصطناعي بأمان، ويحتاج المديرون إلى فهم كافٍ لوضع الحدود. ومن دون ذلك، قد تصبح الضوابط إما ضعيفة جدًا أو مقيدة جدًا.

وتُعد البنية التحتية مهمة أيضًا. فبعض أدوات الذكاء الاصطناعي تعتمد على اتصال مستقر، أو وصول إلى السحابة، أو تكامل مع الأنظمة الداخلية. وقد لا يكون ذلك سهلًا بالقدر نفسه لكل مؤسسة مغربية. وإذا كانت البيئة محدودة، فقد تحتاج الفرق إلى سير عمل أبسط ونطاق أضيق.

ومزيج اللغات قضية حقيقية أخرى. فقد تعمل فرق الأمن بالعربية والفرنسية والإنجليزية. ويجب التحقق من مخرجات الذكاء الاصطناعي بعناية، خاصة عندما تُستخدم للاستجابة للحوادث أو لصياغة السياسات. فالنموذج الذي يبدو واثقًا ليس دائمًا دقيقًا.

كيف يمكن أن يبدو الاستخدام المسؤول

ستفصل السياسة العملية بين البحث الدفاعي والنشاط الضار. وستحدد المهام المعتمدة، مثل تحليل السجلات، ومراجعة الشيفرة الآمنة، وتمارين التدريب. كما ستحدد المهام المقيدة، وخاصة أي شيء يمكن استخدامه لمهاجمة أنظمة حقيقية.

يمكن للمؤسسات المغربية أيضًا أن تطلب مراجعة بشرية للمخرجات الحساسة. وهذا من شأنه أن يقلل من احتمال سوء الاستخدام العرضي. وقد ترغب في سجلات تدقيق، وضوابط وصول قائمة على الأدوار، ومسارات تصعيد واضحة. هذه الضوابط لا تلغي المخاطر، لكنها تجعل إدارتها أسهل.

أسئلة يجب طرحها قبل الاعتماد

• ما البيانات التي سيرىها النموذج؟

• من يمكنه استخدامه، ولأي غرض؟

• هل يمكن ضبط الضوابط لتناسب العمل الدفاعي؟

• كيف يتم تخزين المطالبات والمخرجات والسجلات؟

• ماذا يحدث إذا منعت الأداة مهمة مشروعة؟

ما الذي ينبغي فعله بعد ذلك

ينبغي لقادة الأمن في المغرب أن يبدأوا بتجربة محدودة النطاق. يمكنهم اختبار حالة استخدام واحدة، وقياس القيمة، ومراجعة أوضاع الفشل. وهذا أكثر أمانًا من إطلاق سياسة واسعة للذكاء الاصطناعي من دون ضوابط.

كما ينبغي لهم كتابة معيار داخلي بسيط. يجب أن يشرح الاستخدام المقبول، وخطوات الموافقة، والتعامل مع الحوادث. وإذا كانت المؤسسة تعمل مع موردين خارجيين، فيجب أن تسأل كيف يتعامل المورد مع الخصوصية والأمن وفرض السياسات.

بالنسبة لصناع السياسات وقادة المؤسسات في المغرب، الدرس واضح. ضوابط الذكاء الاصطناعي ضرورية، لكنها لا ينبغي أن تجعل البحث الدفاعي مستحيلًا. الهدف هو التوازن. تحتاج فرق الأمن إلى أدوات آمنة ومفيدة ومحكومة جيدًا. وسيصبح هذا التوازن مهمًا مع ازدياد شيوع الذكاء الاصطناعي في العمل السيبراني المغربي.