#

النقاط الرئيسية

• يمكن لمتاجر التطبيقات أن تكون نقطة تحكم رئيسية في أدوات الذكاء الاصطناعي الضارة.

• المشكلة لا تتعلق بسلامة النموذج فقط. فالتوزيع مهم أيضًا.

• ينبغي للفرق المغربية التفكير في المراجعة، والمدفوعات، وفحوصات العمر، وآليات الإبلاغ.

• قد يجعل تداخل اللغات وحدود البيانات عملية الإشراف أصعب في المغرب.

• يجب أن تكون الخصوصية والأمن السيبراني والامتثال جزءًا من تصميم المنتج.

ما الذي حدث

أفادت TechCrunch في 17 يوليو 2026 أن المدعي العام لمدينة سان فرانسيسكو، ديفيد تشيو، أمر أبل وغوغل بإزالة عشرات تطبيقات التعرية الرقمية من متجريهما. ويذكر التقرير أن قانون كاليفورنيا يجرّم الأنشطة التي تسهّل عن علم أو تساعد بتهور في إنشاء مواد إباحية مزيفة غير رضائية. كما يذكر أن المدينة حذّرت الشركتين من أنهما قد تواجهان عقوبات مدنية.

وقالت أبل لـ TechCrunch إنها أزالت ثلاثة تطبيقات وتعمل على معالجة تطبيقات أخرى. وهذه التفاصيل مهمة لأنها تُظهر كيف يمكن لإنفاذ سياسات المنصات أن يتحرك على مراحل. كما تُظهر أن سياسة متجر التطبيقات يمكن أن تصبح خط دفاع عمليًا عندما تنتشر الأدوات الضارة عبر القنوات الاستهلاكية.

لماذا يهم هذا المغرب

بالنسبة للقراء المغاربة، الدرس الأساسي بسيط. سلامة الذكاء الاصطناعي لا تتعلق بالنموذج نفسه فقط، بل أيضًا بمكان إدراج الأداة، وكيفية الدفع مقابلها، ومدى سرعة الإبلاغ عن إساءة استخدامها.

وهذا مهم في المغرب لأن كثيرًا من المنتجات تصل إلى المستخدمين عبر قنوات تركز على الهاتف المحمول أولًا. فإذا كان التطبيق الضار سهل العثور عليه وسهل التثبيت وسهل الدفع، فقد لا تكفي الضمانات التقنية وحدها. وقد يظل المنتج يسبب ضررًا حتى لو لم يكن النموذج الأساسي خطيرًا بشكل واضح.

وتسلّط هذه القصة الضوء أيضًا على فجوة في الحوكمة ينبغي للفرق المغربية أخذها بجدية. فقد تبني شركة ميزة بنية محدودة، لكن اختيارات التوزيع قد تضخم سوء الاستخدام. وهذا ينطبق على التطبيقات الاستهلاكية، وأدوات المبدعين، وأي خدمة يمكن إعادة توظيفها لإنتاج محتوى غير رضائي.

السياق المغربي: كيف يبدو الدرس محليًا

قد تواجه الشركات الناشئة المغربية، وفرق المنتجات، والمؤسسات العامة قيودًا مختلفة عن قيود المنصات الأمريكية. قد تكون وفرة البيانات غير متساوية. وقد تكون المشتريات بطيئة. وقد يعقّد تداخل اللغات عملية الإشراف، خاصة عندما تظهر العربية والفرنسية والدارجة في سير العمل نفسه.

وتُعد المهارات قيدًا آخر. فمراجعة السلامة تحتاج إلى مساهمات من المنتج، والقانون، والثقة والسلامة، والأمن السيبراني. وقد لا تمتلك الفرق الصغيرة كل ذلك داخليًا. وفي هذه الحالة، ستحتاج إلى سياسات بسيطة، ومسارات تصعيد واضحة، وخطوات مراجعة موثقة.

كما أن البنية التحتية مهمة. فإذا كانت الخدمة تعتمد على مراجعة بشرية سريعة، وتسجيل موثوق، واكتشاف إساءة الاستخدام، فإن الأدوات الضعيفة قد تخلق نقاطًا عمياء. وبالنسبة للقراء المغاربة، فالسؤال العملي ليس فقط ما إذا كانت الأداة قوية، بل ما إذا كان الفريق قادرًا على مراقبتها بمسؤولية.

حالات الاستخدام في المغرب: أين يمكن أن يظهر الخطر

تطبيقات التعرية الرقمية ليست سوى مثال واحد. ويمكن للنمط الأوسع أن يؤثر في أي منتج ذكاء اصطناعي يعدّل الصور، أو ينشئ وسائط اصطناعية، أو يَؤتمت إنشاء المحتوى. وفي المغرب، قد يهم ذلك التطبيقات الاستهلاكية، وأدوات المدارس، ومنصات المبدعين، والخدمات الموجهة للعملاء.

أحد حالات الاستخدام هو توزيع التطبيقات. فإذا كان المنتج مُدرجًا في متجر، تصبح عملية مراجعة المتجر جزءًا من منظومة السلامة. وحالة أخرى هي المدفوعات. فإذا أمكن تحقيق الدخل من خدمة ضارة بسهولة، فقد يتوسع سوء الاستخدام بسرعة أكبر. وحالة ثالثة هي حماية القاصرين. فإذا تمكن القاصرون من الوصول إلى أداة من دون فحوصات قوية، يرتفع الخطر.

كما أن سبل الانتصاف للضحايا مهمة أيضًا. فإذا استُهدف شخص ما، فيجب أن تكون لديه طريقة واضحة للإبلاغ عن المحتوى وطلب إزالته. وينبغي أن تكون هذه العملية بسيطة وسريعة ومتاحة باللغات التي يستخدمها الناس فعلًا. وبالنسبة للمستخدمين المغاربة، قد يعني ذلك تصميم دعم متعدد اللغات منذ البداية.

المخاطر والحوكمة: ما الذي ينبغي للفرق مراقبته

يشير تقرير TechCrunch إلى واقع قانوني وتشغيلي. فقد يؤدي الاستخدام الضار للذكاء الاصطناعي إلى إجراءات من المنصة، وتعرّض مدني، وتدقيق عام. وقد لا يواجه صناع السياسات والشركات في المغرب الإطار القانوني نفسه، لكن منطق الحوكمة يظل قائمًا.

أولًا، ينبغي أن تكون سياسات المراجعة محددة. فالحظر العام على الإساءة لا يكفي. ويجب على الفرق تحديد ما يُحظر، وما يُصعّد، وما يُزال. ثانيًا، يجب أن يكون التسجيل قويًا بما يكفي لدعم التحقيقات، ومحدودًا بما يكفي لاحترام الخصوصية.

ثالثًا، الأمن السيبراني مهم. فالإساءة غالبًا ما تمر عبر حسابات ضعيفة، أو بيانات اعتماد مسروقة، أو أدوات إدارة غير محمية جيدًا. رابعًا، ينبغي دمج الامتثال في دورة حياة المنتج. فإذا كانت الخدمة تتعامل مع صور حساسة أو بيانات شخصية، فسيحتاج الفريق إلى قواعد واضحة للاحتفاظ بالبيانات وضوابط وصول.

ما الذي يمكن للفرق المغربية فعله بعد ذلك

ابدأوا بضوابط التوزيع. فإذا كان من الممكن إساءة استخدام منتجكم، فراجعوا كيفية إدراجه ومشاركته والدفع مقابله. واسألوا ما إذا كان وصف متجر التطبيقات، ومسار الإعداد الأولي، ومسار الدفع يجعلون الإساءة أسهل.

ثم أضيفوا ضمانات تتعلق بالعمر والهوية حيثما كان ذلك مناسبًا. ويجب أن تكون هذه الضوابط متناسبة مع مستوى الخطر. كما ينبغي أن تكون واقعية للسوق المحلي، لأن الاحتكاك الشديد قد يمنع المستخدمين الشرعيين إذا لم يُصمم بعناية.

ابنوا مسارًا للإبلاغ قبل الإطلاق. يجب أن يعرف المستخدمون كيف يبلّغون عن الإساءة، ويجب أن يعرف الموظفون من يتولى التعامل معها. اجعلوا العملية قصيرة. وفي المغرب، يمكن أن يساعد ذلك عندما يحتاج المستخدمون إلى دعم بأكثر من لغة.

وأخيرًا، وثّقوا عملية اتخاذ القرار. فإذا كانت الميزة محفوفة بالمخاطر، فاكتبوا لماذا تُطلق، وما الضوابط الموجودة، وما الذي سيؤدي إلى التراجع عنها. يساعد هذا السجل الفرق على التعلم، ويساعد المديرين على الإجابة عن الأسئلة لاحقًا.

الخلاصة

تذكّر هذه القضية بأن حوكمة الذكاء الاصطناعي أوسع من تدريب النماذج. فمتاجر التطبيقات، والمدفوعات، والإشراف، ودعم الضحايا يمكن أن تشكّل جميعها الضرر في العالم الواقعي. وبالنسبة للمغرب، فالدرس عملي: يجب أن يُصمَّم الأمان داخل المنتج والمنصة والعملية.

قد تقلل الفرق التي تخطط مبكرًا من الإساءة، وتعزز الثقة، وتتجنب الإصلاحات المكلفة لاحقًا. ويمكن لصناع السياسات وقادة الأعمال استخدام المنظور نفسه. فالسؤال ليس فقط ما الذي يمكن للذكاء الاصطناعي فعله، بل أيضًا كيف يصل إلى الناس، ومدى سرعة إيقاف الضرر.