#

النقاط الرئيسية

• يمكن أن تحتوي الأبحاث المُولَّدة بالذكاء الاصطناعي على أخطاء تبدو مقنعة.

• لا تزال المراجعة البشرية ضرورية قبل الاستخدام الموجّه للعملاء.

• ينبغي للفرق المغربية التعامل بحذر إضافي مع المحتوى الحساس للامتثال.

• قد يؤدي مزيج اللغات وفجوات البيانات وضعف الضوابط الداخلية إلى زيادة المخاطر.

• يجب أن تشمل الحوكمة المراجعة والموافقة وإمكانية التتبع.

ما الذي حدث

سحبت KPMG تقريرها، Redefining excellence in the age of agentic AI، بعد أن قالت عدة جهات إنه تضمّن ادعاءات غير صحيحة أو مضللة بشأن استخدامها للذكاء الاصطناعي. وأفادت TechCrunch بأن GPTZero حدّد أخطاء تبدو أنها ناتجة عن هلوسات الذكاء الاصطناعي. وقالت KPMG إنها تحقق في الأمر وإنها تتبع إرشاداتها الخاصة بالذكاء الاصطناعي المسؤول.

وهذا تذكير مفيد للقراء في المغرب. يمكن للذكاء الاصطناعي أن يساعد في صياغة الأبحاث، وتلخيص المواد، وتسريع التحليل. لكنه قد ينتج أيضًا نصًا واثقًا لكنه خاطئ. وتزداد أهمية هذه المخاطرة عندما تتم مشاركة المخرجات مع العملاء أو الجهات التنظيمية أو صناع القرار داخل المؤسسة.

لماذا يهم هذا المغرب

بالنسبة إلى الشركات المغربية، فالمشكلة ليست تقنية فقط، بل تشغيلية أيضًا. فقد يحتوي تقرير يبدو مصقولًا على ادعاءات غير مدعومة. وإذا استُخدم هذا التقرير في المشتريات أو التدقيق أو الاستشارات أو مراجعات الامتثال، فقد ينتشر الضرر بسرعة.

وغالبًا ما تعمل الفرق المغربية بالعربية والفرنسية والإنجليزية. وقد يجعل هذا المزيج اللغوي المراجعة أكثر صعوبة. فقد يبدو المسودّة صحيحة في لغة ما بينما تفقد الدقة في لغة أخرى. لذلك تحتاج الفرق إلى خطوة واضحة للتحقق البشري، خاصة عندما يُستخدم الذكاء الاصطناعي في الترجمة أو التلخيص أو إعادة الصياغة لمواد حساسة.

حالات استخدام عملية في المغرب

لا تزال أدوات البحث المعتمدة على الذكاء الاصطناعي مفيدة في المغرب عندما تُستخدم بحذر. فقد تساعد الفرق على إعداد المسودات الأولى، أو مقارنة المستندات، أو تنظيم الملاحظات الخلفية. كما يمكن أن تدعم أعمال المعرفة الداخلية في الاستشارات والقانون والتمويل وتحليل القطاع العام.

لكن يجب أن تتناسب حالة الاستخدام مع مستوى المخاطر. فمذكرة داخلية أولية يمكن أن تتحمل قدرًا أكبر من المراجعة مقارنة بتقرير موجه للعميل. ويمكن مراجعة مسودة تسويقية بطريقة مختلفة عن وثيقة امتثال. وبالنسبة إلى القراء في المغرب، فإن النهج الأكثر أمانًا هو تحديد أين يمكن للذكاء الاصطناعي أن يساعد وأين لا يمكن أن يكون المصدر النهائي للحقيقة.

المخاطر والحوكمة

المخاطر الرئيسية في هذه الحالة ليست الهلوسة فقط، بل الثقة أيضًا. فبمجرد أن يتضمن التقرير ادعاءات كاذبة، قد يشك القراء في الوثيقة بأكملها. وقد يؤدي ذلك إلى ضرر بالسمعة وتكاليف إضافية للمراجعة.

ينبغي على المؤسسات المغربية التفكير في ضوابط عملية. فهي تحتاج إلى التحقق من المصادر، ومراجعين محددين بالاسم، وسجلات للموافقة. كما تحتاج إلى قواعد تحدد متى يجب التحقق من مخرجات الذكاء الاصطناعي مقابل المستندات الأصلية. وإذا لم تستطع أي فرقة تتبع ادعاء ما إلى مصدره، فلا ينبغي لها استخدام ذلك الادعاء في مخرجات رسمية.

هناك أيضًا قيود تتعلق بالبنية التحتية والمهارات. فقد لا تمتلك بعض الفرق عددًا كافيًا من الموظفين المدربين على مراجعة مخرجات الذكاء الاصطناعي بعناية. وقد تعتمد فرق أخرى على أدوات دون معايير شراء واضحة. وفي مثل هذه الحالات، يجب أن تكون الحوكمة بسيطة وقابلة للتكرار. وغالبًا ما تكون قائمة تحقق قصيرة أفضل من سياسة غير واضحة.

وتكتسب الخصوصية والأمن السيبراني أهمية أيضًا. فقد تعالج أدوات الذكاء الاصطناعي بيانات أعمال حساسة. وينبغي للمؤسسات المغربية أن تسأل أين تذهب البيانات، ومن يمكنه الوصول إليها، ومدة الاحتفاظ بها. كما ينبغي لها أن تقيّم ما إذا كانت الأداة مناسبة للمواد السرية. وإذا لم تكن الإجابة واضحة، فالخيار الأكثر أمانًا هو تجنب رفع المحتوى الحساس.

ما الذي ينبغي على الفرق المغربية فعله بعد ذلك

ابدأوا بقاعدة أساسية: يمكن للذكاء الاصطناعي أن يكتب المسودة، لكن على البشر التحقق. وينبغي أن تنطبق هذه القاعدة على التقارير والعروض التقديمية وأي مستند قد يؤثر في قرار عميل أو قرار امتثال. كما ينبغي أن تنطبق على المحتوى المترجم، حيث يمكن للأخطاء الصغيرة أن تغيّر المعنى.

بعد ذلك، أنشئوا سير عمل للمراجعة. يمكن لشخص أن يكتب بمساعدة الذكاء الاصطناعي. ويمكن لشخص آخر أن يتحقق من الادعاءات مقابل المواد المصدرية. ويمكن لموافق نهائي أن يوقع قبل النشر. وهذا مهم بشكل خاص للمؤسسات المغربية التي تتعامل مع أطراف خارجية أو معلومات خاضعة للتنظيم.

كما ينبغي للفرق الاحتفاظ بسجلات لما تم توليده وما تم تحريره. فهذا يساعد على المساءلة. وإذا ظهرت مشكلة لاحقًا، يمكن للمؤسسة معرفة أين دخل الخطأ إلى العملية. وهذا مفيد للتعلم الداخلي ولمراجعة الامتثال.

وأخيرًا، درّبوا الموظفين على رصد علامات التحذير. فالادعاءات شديدة التحديد من دون مصادر تُعد علامة حمراء. وكذلك الملخصات الأنيقة التي لا تتطابق مع المادة الأصلية. وبالنسبة إلى القراء في المغرب، فالدرس عملي: الذكاء الاصطناعي مفيد، لكنه ليس بديلًا عن الحكم البشري.

الخلاصة

تُظهر قضية KPMG مدى السرعة التي يمكن أن يخلق بها المحتوى المُولَّد بالذكاء الاصطناعي مشكلات تتعلق بالمصداقية. وبالنسبة إلى المغرب، فالرسالة واضحة. استخدموا الذكاء الاصطناعي لتسريع العمل، لكن لا تسمحوا له بأن يحل محل التحقق. وفي البيئات الموجهة للعملاء والحساسة للامتثال، فإن المراجعة البشرية ليست اختيارية. إنها الضابط الذي يمنع الأداة المفيدة من أن تصبح خطأ مكلفًا.