#

النقاط الرئيسية

• أعلنت أنثروبيك وأكسنتشر عن شراكة تركز على أعمال سلامة الذكاء الاصطناعي.

• تتضمن الخطة مقيمين مدمجين يعملون مع فرق أنثروبيك وشركاء السلامة.

• تشمل الأعمال تقييم النماذج، واختبار الاختراق الأخلاقي، وتقييمات المواءمة، واختبارات الضمانات.

• تتوقع كل شركة استثمار ما لا يقل عن مليار دولار في سلامة الذكاء الاصطناعي على مدى خمس سنوات.

• لا يصف الإعلان أي برنامج أو نشر خاص بالمغرب.

ما يقوله الإعلان

أعلنت أنثروبيك وأكسنتشر عن شراكة لبناء فريق من المقيمين المدمجين. سيعمل هؤلاء المقيمون إلى جانب الفرق الداخلية في أنثروبيك وشركاء السلامة. ويعرض الإعلان هذا الجهد في إطار الذكاء الاصطناعي المتقدم والمراجعة المتمحورة حول السلامة.

ستشمل الأعمال تقييم النماذج، واختبار الاختراق الأخلاقي، وتقييمات المواءمة، واختبارات الضمانات. وتشير هذه الأنشطة إلى نهج منظم للتحقق من كيفية تصرف الأنظمة قبل النشر وأثناءه. ولا تقدم المصدر أي تفاصيل تشغيلية إضافية.

لماذا يهم التقييم المدمج

يضع نموذج التقييم المدمج المراجعين بالقرب من الفرق التي تبني النظام وتختبره. وقد يساعد ذلك في اكتشاف المشكلات في وقت أبكر من العملية. كما يمكن أن يجعل فحوصات السلامة جزءًا من سير العمل بدلًا من أن تكون خطوة منفصلة.

يربط الإعلان هذا العمل بالذكاء الاصطناعي المتقدم. وفي هذا السياق، لا يقتصر التقييم على الأداء فقط. بل يشمل أيضًا اختبار السلوك والمواءمة والضمانات.

الاستثمار والنطاق

تتوقع الشركتان استثمار ما لا يقل عن مليار دولار لكل منهما في سلامة الذكاء الاصطناعي على مدى خمس سنوات. وهذه هي المعلومة المالية الوحيدة الواردة في المصدر. ولا يوضح الإعلان كيفية استخدام هذا الاستثمار.

وبما أن المصدر محدود، فمن الأفضل اعتبار النطاق محددًا بالأنشطة المذكورة. وهذه الأنشطة هي تقييم النماذج، واختبار الاختراق الأخلاقي، وتقييمات المواءمة، واختبارات الضمانات. وأي تفسير أوسع سيكون افتراضًا.

اعتبارات تشغيلية

يوحي الإعلان بوجود تنسيق وثيق بين الشركتين. وسيحتاج المقيمون المدمجون إلى الوصول إلى الفرق الداخلية وشركاء السلامة. وقد يدعم هذا الإعداد سرعة أكبر في التغذية الراجعة، لكن المصدر لا يصف العملية.

النقطة التشغيلية الرئيسية في المصدر هي التركيز على أعمال السلامة. ولا يُقدَّم هذا التعاون على أنه إطلاق منتج أو إعلان نشر. بل يُقدَّم على أنه تعاون حول التقييم والضمانات.

الصلة بالمغرب

لا يذكر المصدر أي برنامج أو نشر خاص بالمغرب. وبالنسبة للقراء، فإن الدرس العام هو أن تقييم السلامة يمكن دمجه في أعمال الذكاء الاصطناعي منذ البداية. وينطبق هذا المبدأ أينما كانت الفرق تطور أو تراجع أنظمة ذكاء اصطناعي متقدمة.

الخلاصة

هذا الإعلان يتعلق بعمل منظم في سلامة الذكاء الاصطناعي. تخطط أنثروبيك وأكسنتشر للجمع بين التقييم المدمج وعدة أساليب اختبار. ويقدم المصدر اتجاهًا واضحًا، لكنه لا يقدم سوى القليل من تفاصيل التنفيذ.