#

النقاط الرئيسية

• تقول OpenAI إنها عطّلت عمليتي تأثير سريتين.

• نشأت إحدى العمليتين في روسيا واستهدفت جماهير في أمريكا اللاتينية.

• أما الأخرى فنشأت في إيران واستخدمت شخصيات صحفيين مختلقة.

• تقول OpenAI إن الذكاء الاصطناعي ساعد في صياغة تقارير داخلية، لكن تلك التقارير ربما بالغت في النتائج.

• يصف التقرير التكتيكات التي تمت ملاحظتها وإجراءات الإنفاذ، وليس دليلاً مستقلاً على كل أثر مُدّعى.

تقرير OpenAI الأمني الصادر في 8 أكتوبر

تقول OpenAI إنها عطّلت عمليتي تأثير سريتين استخدمتا ChatGPT إلى جانب أساليب أقدم. وتصف الشركة كلا الجهدين بأنهما محاولتان لإنشاء واجهات تبدو مستقلة. وتعرض النتائج على أنها تقرير إنفاذ وتقييم.

يصف تقرير 8 أكتوبر عمليتي تأثير تقول OpenAI إنها عطّلتهما. ويفصل التقرير بين ملاحظات الشركة وادعاءات القائمين على العمليتين. وهذا مهم لأن التقرير يتعلق بتكتيكات تمت ملاحظتها، وليس تحققاً كاملاً من كل نتيجة مُدّعاة.

ما الذي تقول OpenAI إنها وجدته

بحسب OpenAI، نشأت إحدى العمليات في روسيا واستهدفت جماهير في أمريكا اللاتينية. وتقول OpenAI إن الجهد بدا وكأنه يدير منظمة بحثية في أمريكا اللاتينية. كما تقول إن الموظفين المحليين لم يكونوا يعرفون من كان يسيطر عليها.

وتقول OpenAI إن العملية الأخرى نشأت في إيران. وتقول إن الجهد الإيراني استخدم سبع شخصيات صحفيين مختلقة. واستُخدمت هذه الشخصيات لعرض مقالات طويلة على ناشرين أصغر حجماً على الإنترنت. كما تقول OpenAI إن الجهد أنشأ مجموعات من التعليقات على وسائل التواصل الاجتماعي.

ويذكر التقرير أن المشغلين استخدموا الذكاء الاصطناعي بكثافة لصياغة تقارير داخلية. وتقول OpenAI إن تلك التقارير بالغت أحياناً في النتائج. كما تقول المصدر إن بعض المواد وصلت إلى وسائل إعلام رئيسية، لكن OpenAI تحذر من أن ليس كل عنصر منشور قد صُنع باستخدام نماذجها.

كيف تصف OpenAI النطاق والأدلة

تُصنّف OpenAI النشاط المنسوب إلى روسيا ضمن الفئة الخامسة على مقياس مدى عمليات التأثير المذكور. وتُصنّف النشاط المنسوب إلى إيران ضمن الفئة الرابعة. توضح OpenAI أن مقياس Breakout يمتد من واحد، وهو أدنى مدى محتمل، إلى ستة، وهو أعلاه. وهذه الدرجات تقييمات من OpenAI.

كما يصف التقرير وثائق ونصوصاً مزيفة، إلى جانب محاولات عادية لوضع المحتوى في أماكن تحريرية. ويشير هذا المزيج إلى أن العمليات استخدمت كلاً من المواد المفبركة وأساليب التواصل التقليدية. ومع ذلك، يحرص المصدر على الفصل بين تقييم OpenAI والتحقق المستقل.

لماذا يهم هذا التمييز

يحذر المصدر مراراً من التعامل مع ادعاءات المشغلين على أنها حقائق مثبتة. تقرير OpenAI يتعلق بما لاحظته الشركة وما عطّلته. وهو ليس دليلاً على أن كل نتيجة مُدّعاة حدثت تماماً كما وُصفت.

هذا التمييز مهم للقراء. فقد تنتج عملية تأثير سرية تقارير داخلية وعروضاً ومسوّدات محتوى من دون أن تثبت وحدها مدى الوصول أو التأثير. وتُظهر حذرة OpenAI أن النتائج المنشورة وادعاءات المشغلين ليست الشيء نفسه.

الصلة بالمغرب

لا يذكر المصدر أي هدف أو ناشر أو عملية أو استجابة سياسية خاصة بالمغرب. والدرس الآمن الوحيد هو درس مشروط وعالمي: ينبغي للقراء الفصل بين تقييمات المنصات والتحقق المستقل عند مراجعة ادعاءات عمليات التأثير.

ما الذي ينبغي للقراء الانتباه إليه

يسلط هذا التقرير الضوء على نمط مألوف. فقد يجمع المشغلون بين نصوص مولدة بالذكاء الاصطناعي وتكتيكات أقدم مثل الهويات المزيفة، والعروض التحريرية، والوثائق المفبركة. ويمكن لهذا المزيج أن يجعل الواجهة تبدو أكثر شرعية مما هي عليه.

تقارن OpenAI الحالتين بثلاثين عملية تأثير تقول إنها كشفتها خلال نحو عامين ونصف، مع تقييم مدى وصول العمليتين الجديدتين على حدة. كما لا يدعي أن كل عنصر مرتبط بالعمليات قد تم توليده بالذكاء الاصطناعي. لذلك ينبغي للقراء التعامل مع التقرير على أنه إجراء إنفاذ موثق، لا على أنه بيان شامل عن كل المحتوى المرتبط.

الخلاصة

تقول OpenAI إنها عطّلت عمليتي تأثير سريتين ونشرت تقييمها في 8 أكتوبر. نشأت إحدى الحالتين في روسيا، والأخرى في إيران. واستخدمت كلتاهما الذكاء الاصطناعي دعماً لجهود خداع أوسع.

والخلاصة الأساسية بسيطة. يمكن للذكاء الاصطناعي أن يسرّع أعمال التأثير، لكنه قد يترك أيضاً آثاراً تستطيع المنصات اكتشافها. ويُظهر التقرير أن OpenAI تتصرف بناءً على تلك الآثار، مع تحذير القراء أيضاً من المبالغة في قراءة ادعاءات المشغلين.