#

النقاط الرئيسية

• وكلاء الذكاء الاصطناعي يقتربون من أدوار شبيهة بأدوار الموظفين.

• قد تصبح الهوية والتحكم في الوصول مهمين بقدر أهمية جودة النموذج.

• ينبغي للفرق المغربية التفكير في الحوكمة قبل التوسع.

• قد تؤدي البيانات، واختلاط اللغات، والمشتريات إلى إبطاء التبني.

• يجب أن تُبنى الأمن والامتثال منذ البداية.

ما الذي توحي به قصة NewCore

تذكر TechCrunch أن شركة الأمن السيبراني الناشئة NewCore خرجت من مرحلة التخفي مع تمويل قدره 66 مليون دولار. وهدفها هو مساعدة الشركات على توثيق وكلاء الذكاء الاصطناعي، وحوكمتهم، والتحكم بهم على نطاق واسع. والحجة الأساسية للشركة بسيطة: أنظمة الهوية ليست جاهزة لعالم يعمل فيه عمال برمجيون إلى جانب البشر.

هذه الفكرة مهمة بما يتجاوز العنوان. إذا كان بإمكان وكلاء الذكاء الاصطناعي التصرف بمزيد من الاستقلالية، فعلى الشركات أن تعرف من أو ما الذي يتصرف. كما يجب أن تقرر ما الذي يمكن لكل وكيل الوصول إليه أو تغييره أو الموافقة عليه. بالنسبة للقراء المغاربة، فهذه ليست مسألة تقنية فقط، بل هي أيضًا مسألة إدارة ومخاطر.

لماذا تصبح الهوية مهمة لوكلاء الذكاء الاصطناعي

عادةً ما تتبع البرمجيات التقليدية قواعد ثابتة. أما وكلاء الذكاء الاصطناعي فيمكن أن يكونوا أكثر مرونة. وقد ينفذون إجراءات عبر الأدوات، ومخازن البيانات، وسير العمل. هذه المرونة تخلق قيمة، لكنها تخلق أيضًا حالة من عدم اليقين.

إذا كان بإمكان وكيل إرسال الرسائل، أو تحديث السجلات، أو تشغيل المهام، فإن ضوابط الهوية تصبح ضرورية. ستحتاج الشركة إلى التحقق من هوية الوكيل، وتقييد صلاحياته، وتسجيل أفعاله. ومن دون ذلك، قد لا تعرف المؤسسة ما إذا كان القرار قد اتخذه إنسان أم نظام آلي.

بالنسبة للمؤسسات المغربية، قد يكون هذا مهمًا في خدمة العملاء، والعمليات الداخلية، والعمل الرقمي في المكاتب الخلفية. وقد يكون مهمًا أيضًا للشركات الناشئة التي تبني منتجات تعتمد على سير عمل وكيل. وكلما تصرف الوكيل أكثر كأنه موظف، احتاج إلى ضوابط أقرب إلى ضوابط الموظفين.

السياق المغربي: لماذا القضية عملية الآن

غالبًا ما تعمل المؤسسات المغربية بأنظمة مختلطة، ولغات مختلطة، وجودة بيانات غير متساوية. وهذا يجعل نشر الذكاء الاصطناعي أكثر صعوبة. كما يجعل الحوكمة أكثر أهمية. فإذا كانت البيانات مبعثرة أو غير مكتملة، فقد يتصرف الوكيل بناءً على مدخلات ضعيفة.

كما يمكن للمشتريات أن تشكل النتيجة. فقد تشتري الفرق نموذجًا أولًا ثم تفكر في الضوابط لاحقًا. هذا النهج قد يخلق فجوات. ينبغي أن تكون الهوية، وإدارة الوصول، ومسارات التدقيق جزءًا من الخطة منذ البداية. وبالنسبة لصناع القرار المغاربة وقادة المؤسسات، فهذا مسار أكثر أمانًا من إضافة الضوابط بعد النشر.

البنية التحتية قيد آخر. وكلاء الذكاء الاصطناعي الذين يعملون عبر أنظمة كثيرة يحتاجون إلى اتصال مستقر، وتكاملات آمنة، ومراقبة واضحة. وإذا كانت هذه العناصر ضعيفة، فقد يفشل الوكيل بطرق يصعب تتبعها. وهذا قد يبطئ التبني ويزيد المخاطر التشغيلية.

حالات استخدام في المغرب

دعم العملاء ومكاتب الخدمة

يمكن لوكلاء الذكاء الاصطناعي المساعدة في توجيه الطلبات، وصياغة الردود، أو سحب معلومات الحساب. وفي المغرب، قد يكون ذلك مفيدًا للمؤسسات التي تتعامل مع أحجام كبيرة من تفاعلات العملاء. لكن ينبغي ألا يرى الوكيل إلا البيانات التي يحتاجها. ولا ينبغي أن يمتلك وصولًا واسعًا افتراضيًا.

العمليات الداخلية

قد يساعد الوكلاء في الجدولة، أو التعامل مع المستندات، أو تنسيق سير العمل. وقد يقلل ذلك من الأعمال المتكررة للفرق. ومع ذلك، يجب أن يكون كل إجراء قابلًا للتتبع. فإذا حدّث وكيل سجلًا أو أرسل رسالة، فينبغي أن تعرف الشركة متى ولماذا وتحت أي صلاحيات.

تصميم منتجات الشركات الناشئة

قد تبني الشركات الناشئة المغربية منتجات تتضمن وكلاء مستقلين أو شبه مستقلين. في هذه الحالة، يمكن أن تصبح الهوية والحوكمة ميزات في المنتج، وليس مجرد ضوابط داخلية. وقد يسأل المشترون كيف يوثق النظام هوية الوكلاء، وكيف يحد من الوصول، وكيف يسجل الأفعال.

سير العمل في القطاع العام والبيئات المنظمة

بعض سير العمل يتطلب إشرافًا أقوى من غيره. وبالنسبة للقراء المغاربة، يعني ذلك أن أي استخدام في البيئات الحساسة سيحتاج إلى مراجعة دقيقة. وتختلف الضوابط الدقيقة حسب حالة الاستخدام، لكن المبدأ يبقى نفسه: كلما زادت الاستقلالية، زادت الحاجة إلى الحوكمة.

المخاطر والحوكمة

الخطر الرئيسي ليس خطأ النموذج فقط، بل أيضًا خطأ الصلاحيات. فالوكيل الذي يملك وصولًا مفرطًا يمكن أن يسبب ضررًا بسرعة. وقد يكشف بيانات، أو يشغل عملية خاطئة، أو يتخذ قرارًا يصعب التراجع عنه.

الخصوصية مصدر قلق آخر. غالبًا ما يحتاج وكلاء الذكاء الاصطناعي إلى الوصول إلى البيانات ليكونوا مفيدين. لكن يجب أن يكون هذا الوصول محدودًا، وموثقًا، وخاضعًا للمراجعة. وستحتاج المؤسسات المغربية إلى قواعد واضحة بشأن البيانات التي يمكن للوكيل رؤيتها أو تخزينها أو مشاركتها. كما ستحتاج إلى التفكير في الاحتفاظ بالبيانات وحذفها.

الأمن السيبراني مهم أيضًا. فإذا كان الوكيل قادرًا على الاتصال بالأدوات، فإن هذه الأدوات تصبح جزءًا من سطح الهجوم. ويجب أن تكون المصادقة، والتسجيل، ومراجعة الوصول أمورًا قياسية. وينبغي أن تكون خطط الاستجابة للحوادث التي تتضمن إجراءات مدفوعة بالذكاء الاصطناعي كذلك.

كما أن الامتثال جزء من الصورة. لا يذكر المصدر أي قانون أو إطار مغربي محدد، لذا ستبقى هذه المقالة عامة. ومع ذلك، فإن أي مؤسسة تعمل في المغرب ستحتاج إلى مواءمة استخدام وكلاء الذكاء الاصطناعي مع التزاماتها القانونية والتعاقدية والداخلية الخاصة.

ما الذي ينبغي أن تفعله الفرق المغربية بعد ذلك

ابدأ بحالة استخدام ضيقة. لا تمنح الوكيل سلطة واسعة في اليوم الأول. اختر سير عمل واحدًا، وحدد الحدود، واختبر الضوابط. فهذا يجعل من الأسهل رؤية مواضع المخاطر.

ابنِ طبقة هوية للوكلاء مبكرًا. ينبغي أن تشمل المصادقة، وصلاحيات قائمة على الأدوار، والتسجيل، والمراجعة. إذا كان الوكيل يتصرف كموظف، فيجب معاملته كموظف في نموذج الوصول.

حضّر أساس البيانات. فالبيانات النظيفة، والملكية الواضحة، وسير العمل البسيط تجعل الحوكمة أسهل. وإذا كانت البيانات فوضوية، فسيكون من الأصعب الوثوق بالوكيل. وهذا صحيح بشكل خاص في البيئات متعددة اللغات، حيث يمكن لاختلاط اللغات أن يؤثر في الأوامر، والمخرجات، وعمليات المراجعة.

درّب الفرق على الإشراف. يجب أن يعرف المديرون، وموظفو تقنية المعلومات، وفرق الأمن كيف يعمل الوكيل. كما يجب أن يعرفوا متى يوقفونه مؤقتًا، أو يراجعونه، أو يسحبون الوصول منه. المهارات هنا لا تقل أهمية عن البرمجيات.

الخلاصة بالنسبة للمغرب

جولة تمويل NewCore إشارة، وليست حدثًا محليًا. فهي توحي بأن هوية وكلاء الذكاء الاصطناعي والتحكم بهم أصبحت فئة مهمة. وبالنسبة للمؤسسات والشركات الناشئة المغربية، يعني ذلك أن النقاش يجب أن يتجاوز اختيار النموذج.

السؤال الحقيقي هو ما إذا كانت المؤسسة تستطيع الوثوق بوكيل ليعمل بأمان. وتعتمد هذه الثقة على الهوية، والصلاحيات، والمراقبة، والحوكمة. وفي المغرب، حيث قد تشمل القيود العملية جودة البيانات، وعادات الشراء، واختلاط اللغات، والبنية التحتية، والخصوصية، والأمن السيبراني، والامتثال، فإن التخطيط المبكر قد يكون الفارق بين أتمتة مفيدة ومخاطر يمكن تجنبها.

النهج الأكثر أمانًا هو الحذر والتدرج. ابدأ صغيرًا، وحدد الوصول بوضوح، وأبقِ البشر في الحلقة حيثما كان ذلك مهمًا. وإذا كان من المفترض لوكلاء الذكاء الاصطناعي أن يتصرفوا أكثر كالموظفين، فستحتاج الفرق المغربية إلى أنظمة تعاملهم على هذا الأساس.