#

النقاط الرئيسية

• تقول OpenAI إنها عطلت حملة منسقة هدفت إلى استخراج الاستدلال المحمي من نماذجها.

• كانت أقدم نشاطات رُصدت في 1 يوليو، مع ذروات في 24 و25 يوليو.

• تقول OpenAI إنها عطلت المجموعة المرتبطة بالكامل بحلول 28 يوليو.

• الأرقام المذكورة تصف محاولات استخراج، وليس عمليات استخراج ناجحة مؤكدة.

• لا يذكر المصدر أي تورط أو تأثير في المغرب.

ما الذي كشفت عنه OpenAI

تقول OpenAI إنها حددت حملة منسقة هدفت إلى استخراج الاستدلال المحمي من نماذجها. وتذكر الشركة أن أقدم نشاط رُصد كان في 1 يوليو. كما تقول إن النشاط تصاعد في 24 و25 يوليو، قبل أن تُعطل المجموعة المرتبطة بالكامل بحلول 28 يوليو.

ويصف المصدر ذلك بأنه حملة لاستخلاص المعرفة من النموذج. ويقول إن المشغلين تلاعبوا بمحادثات النموذج بدلًا من كسر التشفير أو الحصول على وصول مباشر إلى محادثات المستخدمين المخزنة. وتقول OpenAI أيضًا إن باحثين مستقلين كشفوا مسارات ذات صلة، فقامت بالتحقيق فيها وتأكيدها.

كيف بدا النشاط

أبلغت OpenAI عن 16,000 طلب استخدم نمط استخراج ذي صلة من أكثر من 4,000 مستخدم خلال فترات الذروة. كما أبلغت عن أنماط أوامر ذات صلة عبر أكثر من 15,000 مستخدم. وتوضح حاشية أن هذه الأرقام تصف محاولات استخراج، وليس عمليات استخراج ناجحة مؤكدة.

ويقول المصدر إن المشغلين حاولوا إعادة تشغيل استدلال مشفر من محادثة في محادثة أخرى. وهذه التفاصيل مهمة لأنها تصف نمطًا من التلاعب بالمحادثة، لا اختراقًا مباشرًا للنظام. ولا يقول التقرير إن المحاولات نجحت.

الإسناد والنطاق

تنسب OpenAI مجموعة أساسية إلى أفراد مرتبطين بـ Moonshot AI. كما تقول إنه من غير الواضح ما إذا كان كل النشاط المرصود صادرًا عن جهة واحدة. هذا الإسناد هو تقييم OpenAI ولا ينبغي اعتباره حكمًا نهائيًا.

ويقول المصدر أيضًا إن هذا الحادث المُعلن حديثًا يختلف عن تقارير Anthropic السابقة بشأن حملات استخلاص أخرى. ولا يقدم مقارنة أوسع خارج هذا التمييز. كما لا يذكر أي تورط أو تأثير في المغرب.

الاستجابة والضوابط

تقول OpenAI إن استجابتها شملت قيودًا على الحسابات، وضوابط للتسجيل والبنية التحتية، والمراقبة، وحمايات للاستدلال، وفحوصات للمخرجات، وتنسيقًا مع خدمات الشركاء. كما تقول إنها شاركت النتائج عبر Frontier Model Forum والقنوات الحكومية. وتقول الشركة إن العمل مستمر.

تشير هذه الإجراءات إلى استجابة متعددة الطبقات. فهي تجمع بين ضوابط الوصول، والكشف، والحمايات على مستوى النموذج. ولا يقدّم المصدر تفاصيل تقنية عن كيفية عمل كل ضابط.

لماذا هذا مهم

يُظهر التقرير أن أمن النماذج قد يتجاوز الوصول المباشر إلى النظام. فقد يشمل أيضًا الطلبات المتكررة، والتلاعب بالمحادثات، ومحاولات استخراج الاستدلال المحمي. ويؤكد المصدر أن الأرقام المرصودة كانت محاولات، وهو أمر مهم لفهم الحجم.

كما يُظهر قيمة الاستجابة المنسقة. تقول OpenAI إنها استخدمت ضوابط داخلية، وتنسيقًا مع الشركاء، وقنوات مشاركة خارجية. ولا يقول المصدر ما إذا كانت هذه الخطوات منعت محاولات مستقبلية، بل فقط إن المجموعة المرتبطة عُطلت.

الصلة بالمغرب

لا يذكر المصدر أي تورط أو أثر أو برنامج خاص بالمغرب. وبالنسبة للقراء، فإن الدرس العام هو أن مشكلات حماية النماذج قد تنطوي على محاولات متكررة، وليس فقط على اختراقات واضحة.

الخلاصة

تقول OpenAI إنها عطلت حملة منسقة استهدفت الاستدلال المحمي في نماذجها. بدأ الحادث بنشاط رُصد في 1 يوليو وبلغ ذروته في أواخر يوليو. وتقول الشركة إن المجموعة المرتبطة عُطلت بالكامل بحلول 28 يوليو، بينما يستمر العمل.