#

النقاط الرئيسية

• يمكن أن يكشف RAG عن محتوى حساس إذا لم يُفرض التحكم بالوصول بشكل صحيح.

• تركز المقالة على فرض ACL في الوقت الفعلي عند وقت الاستعلام.

• تتحقق Amazon Quick وAmazon Bedrock Knowledge Bases من الأذونات مع المصادر الموثوقة.

• قد تكون أساليب النسخ ثم التصفية عرضة للأخطاء عبر نماذج الأذونات المعقدة.

ما الذي تتناوله هذه المقالة

تتبنى المؤسسات الكبيرة التوليد المعزز بالاسترجاع، أو RAG، لاستخلاص الرؤى من مصادر معرفة الشركة. يذكر المحتوى المصدر Microsoft SharePoint وGoogle Drive وAtlassian Confluence. كما يسلط الضوء على مشكلة أساسية: غالبًا ما تحتوي هذه المصادر على معلومات حساسة ذات هياكل أذونات معقدة.

تشرح المقالة تحديًا أمنيًا في الذكاء الاصطناعي المؤسسي. يجب أن تحترم الإجابات التي يولدها الذكاء الاصطناعي الأذونات نفسها التي تحكم المستندات المصدر. وإذا لم يحدث ذلك، فقد يرى المستخدم محتوى غير مخول له بالوصول إليه.

التحدي الأساسي في RAG المؤسسي

يصف المصدر سيناريو بسيطًا. ينشئ مالك موقع SharePoint قاعدة معرفة لمنظمة ما. ثم يستخدم أعضاء الفريق من مختلف الأقسام مساعدًا ذكيًا لطرح الأسئلة.

المتطلب الحاسم واضح. يجب أن يتلقى كل شخص إجابات مبنية فقط على المستندات التي يمكنه الوصول إليها. وتعرض المقالة هذا بوصفه تحديًا مؤسسيًا عالميًا. تريد المؤسسات توسيع الوصول إلى رؤى مدعومة بالذكاء الاصطناعي دون إضعاف وضعها الأمني.

يمكن لوثيقة واحدة غير مصرح بها في رد من الذكاء الاصطناعي أن تسبب كشفًا خطيرًا. يذكر المصدر أمثلة مثل وثائق الاستراتيجية السرية، والبيانات المالية غير المنشورة، ومعلومات الموارد البشرية الحساسة. ولا يقتصر الخطر على الجانب التقني فقط، بل يتعلق أيضًا بالحفاظ على الثقة في النظام.

لماذا تُعد النسخ ثم التصفية نهجًا ضعيفًا

يصف المصدر نمطًا شائعًا للتحكم بالوصول في RAG: النسخ ثم التصفية. في هذا النموذج، يحاول نظام الذكاء الاصطناعي فرض أذونات على مستوى المستند بعد نسخ منطق الأذونات إلى طبقة الذكاء الاصطناعي.

تقول المقالة إن هذا النهج لديه ثلاث نقاط ضعف أساسية، وتشرح إحداها مباشرة. يصبح نظام الذكاء الاصطناعي هو الجهة الوحيدة المنفذة بدلًا من الاعتماد على مصدر الأذونات الموثوق. وهذا يخلق اعتمادًا على النسخ الدقيق.

ويشير المصدر أيضًا إلى أن الموصلات يجب أن تعيد إنتاج منطق ACL معقدًا ومحددًا لكل مصدر عبر العديد من مصادر البيانات. وهذا صعب لأن لكل مصدر نموذج أذونات خاصًا به. وتشمل الأمثلة المذكورة تسلسلات الوراثة، وعضويات المجموعات، وسياسات الوصول المشروط، وقواعد الرفض.

كيف تعالج Amazon Quick وAmazon Bedrock المشكلة

تقول المقالة إن Amazon Quick وAmazon Bedrock Knowledge Bases تحلان هذا التحدي من خلال فرض ACL في الوقت الفعلي. والفكرة الأساسية هي التحقق من الأذونات مباشرة مع المصادر الموثوقة عند وقت الاستعلام.

وهذا يعني أن النظام يتحقق من الوصول عندما يطرح المستخدم سؤالًا. ولا يعتمد فقط على نموذج أذونات منسوخ. ووفقًا للمصدر، يساعد ذلك على ضمان بقاء الإجابات التي يولدها الذكاء الاصطناعي متوافقة مع قواعد الوصول الأصلية.

يكتسب هذا التصميم أهمية لأن الأذونات قد تكون معقدة ومحددة لكل مصدر. ويقلل التحقق في الوقت الفعلي من عبء إعادة إنتاج كل قاعدة داخل طبقة الذكاء الاصطناعي. كما يبقي قرار الأذونات أقرب إلى مصدر الحقيقة.

اعتبارات تشغيلية

يشير المحتوى المصدر إلى مفاضلة عملية. فإذا حاول نظام ذكاء اصطناعي إدارة الأذونات بنفسه، فعليه أن يعكس العديد من هياكل ACL المختلفة. وهذا يزيد احتمال وقوع الأخطاء.

في المقابل، تنقل عمليات التحقق وقت الاستعلام التركيز إلى التحقق الموثوق. ولا يقدم المصدر تفاصيل تنفيذية تتجاوز ذلك. لذا فإن القراءة الأكثر أمانًا هي أن النهج يتعلق بفرض الوصول في لحظة الاسترجاع، وليس بعد وقوعه.

وهذا مهم لأي مؤسسة تستخدم RAG على محتوى داخلي حساس. والدرس الرئيسي هو أن التحكم بالوصول يجب أن يكون جزءًا من عملية الاسترجاع نفسها. وإلا فقد يعرض النظام محتوى ينبغي أن يبقى مخفيًا.

الصلة بالمغرب

لا يورد المصدر أي حقيقة خاصة بالمغرب. وبالنسبة للقراء، فإن الدرس العالمي المشروط بسيط: إذا كنت تبني RAG على مصادر داخلية حساسة، فيجب أن تبقى عمليات التحقق من الأذونات مرتبطة بالمصدر الموثوق.

الخلاصة

تدعو المقالة إلى نموذج أقوى للتحكم بالوصول في RAG المؤسسي. فبدلًا من نسخ الأذونات إلى طبقة الذكاء الاصطناعي، تتحقق Amazon Quick وAmazon Bedrock Knowledge Bases من الوصول في الوقت الفعلي.

ويهدف هذا النهج إلى مساعدة إجابات الذكاء الاصطناعي على احترام الأذونات القائمة. كما يعالج إحدى أصعب المشكلات في الذكاء الاصطناعي المؤسسي: تقديم إجابات مفيدة دون كشف معلومات مقيدة.