Anthropic تعلن مستجدات تقييم نماذج الذكاء الاصطناعي

بدأت شركة "أنثروبيك" (Anthropic) مرحلة جديدة من الشفافية التقنية عبر منح فريق من منظمة "METR" غير الربحية صلاحيات وصول شاملة تشبه صلاحيات موظفيها لتقييم مخاطر نماذج الذكاء الاصطناعي المتقدمة. تأتي هذه الخطوة تنفيذاً لالتزامات الشركة تجاه "اتفاقية البيت الأبيض للذكاء الاصطناعي الخارق"، وتهدف إلى إخضاع أنظمتها لرقابة خارجية مستقلة تضمن سلامة النماذج قبل طرحها أو تحديثها بشكل أوسع.

سد فجوة المعلومات بين الشركات والمراقبين

تدرك شركات الذكاء الاصطناعي أن نماذجها أصبحت أكثر قوة وتعقيداً، مما يتطلب ضمانات أمان تتجاوز التقييمات الداخلية. المشكلة الأساسية التي تعالجها "أنثروبيك" هنا هي "فجوة المعلومات"؛ فالشركات تعرف عن مخاطر أنظمتها أكثر مما يعرفه المراقبون الخارجيون. ولأن الشركة لا تستطيع نشر كل التفاصيل الحساسة علناً خوفاً من استغلالها من قبل جهات خبيثة، قررت بدلاً من ذلك منح جهات خارجية موثوقة وصولاً عميقاً لتقديم أدلة واستنتاجات منطقية حول المخاطر.

هذا النهج يشبه إلى حد كبير الرقابة المصرفية، حيث يمتلك البنك معلومات عن وضعه المالي أكثر من الغرباء، لذا تعين الجهات التنظيمية فاحصين مقيمين داخل البنوك الكبرى لرصد المخاطر التي قد تهدد النظام العام قبل وقوع الكارثة. وبالمثل، تسعى "أنثروبيك" لتحويل هذا النموذج إلى معيار في صناعة الذكاء الاصطناعي، لضمان وجود رقابة قوية ومستقلة.

ولتحقيق تقييم حقيقي وفعال، حددت الشركة أربعة معايير أساسية يجب توفرها في جهات التقييم:

• الخبرة التخصصية: القدرة على فهم كيفية فشل النماذج أو تزييفها للحقائق.
• الاستقلالية: ألا يمتلك المقيمون أسهماً في الشركة أو يعتمدوا عليها مالياً أو تشغيلياً.
• الوصول الكافي: رؤية شاملة لكيفية تدريب النماذج وعمل ضمانات الحماية، وليس مجرد تجربة المنتج النهائي.
• حرية النشر: القدرة على نشر الملاحظات والتقييمات دون قيود تمنع كشف الحقائق.

مستويات الوصول الثلاثة لتقييم المخاطر

لا تمنح "أنثروبيك" جميع شركائها نفس مستوى الوصول، بل صممت إطاراً يتكون من ثلاثة مستويات تتدرج في العمق والحرية. في المستوى الأول، تجري جهات التقييم تحقيقات محدودة النطاق، وتتحكم الشركة في المعلومات المتاحة وتشترط موافقتها قبل النشر. أما المستوى الثاني، فيمنح المقيمين وصولاً أوسع وحق النشر دون موافقة مسبقة، مع احتفاظ الشركة بحق طلب حذف فئات محددة جداً من المعلومات الحساسة.

المستوى الثالث هو الأكثر تقدماً، وهو ما تطبقه الشركة حالياً مع منظمة "METR". في هذا المستوى، يتم دمج موظفي الجهة المقيمة داخل أروقة الشركة، حيث حصل ستة موظفين من المنظمة على أجهزة حاسوب خاصة بالشركة، ومساحات مكتبية، وصلاحيات وصول إلى الأدوات والأنظمة الداخلية تماثل ما يمتلكه فريق تقييم المخاطر في "أنثروبيك" نفسه.

ويُشجع موظفو "أنثروبيك" على مشاركة المعلومات مع هؤلاء المقيمين كما لو كانوا زملاء عمل، باستثناء بيانات العملاء أو المعلومات القانونية المحمية. والأهم من ذلك، أن المنظمة تمتلك الحق في نشر تحليلاتها حول مستويات المخاطر أو الحوادث، ولا تملك "أنثروبيك" حق الفيتو على النشر، بل يمكنها فقط طلب إخفاء معلومات تقنية دقيقة جداً ومحددة مسبقاً، وللمنظمة الحق في إعلان اعتراضها على هذا الإخفاء إن رأت أنه غير مبرر.

شراكات استراتيجية لتعزيز الأمان

إلى جانب "METR"، تعمل "أنثروبيك" مع مجموعة متنوعة من الشركاء لتعزيز منظومة الأمان. حالياً، تقع منظمة "SecureBio" في المستوى الأول من الوصول، حيث تراجع فصولاً محددة من تقارير المخاطر المتعلقة بالأسلحة الكيميائية والبيولوجية. كما تتعاون الشركة مع "Accenture" و"Faculty" في شراكة طموحة تشمل اختبار النماذج (Red-teaming) وبناء قدرات الحماية عبر المؤسسات.

وتجري الشركة أيضاً مناقشات أولية مع منصة "Hugging Face" الشهيرة، مما يشير إلى رغبتها في تنويع جهات الرقابة لتشمل منصات مجتمعية وتقنية واسعة الانتشار. الهدف النهائي هو الوصول بمتعددي الشركاء إلى المستوى الثالث، بحيث تنشر كل جهة تحليلها الخاص والمستقل حول قرارات الشركة الأمنية.

بالنسبة للمستخدمين، وخاصة في المنطقة العربية حيث تتوفر خدمات "أنثروبيك" وتدعم اللغة العربية بكفاءة، فإن هذه الخطوات تعني أن النماذج التي يتفاعلون معها تخضع لرقابة بشرية وتقنية صارمة تتجاوز مجرد الوعود التسويقية. إنها محاولة لبناء ثقة مؤسسية مبنية على تقارير طرف ثالث مستقل، وليس فقط على تصريحات الشركة المطورة.

إذا كنت تعتمد على نماذج الذكاء الاصطناعي في أعمالك أو برمجتك، فمن المهم مراقبة التقارير التي ستصدرها منظمة "METR" مستقبلاً؛ فهي ستكون المرآة الحقيقية لمدى سلامة وموثوقية هذه الأنظمة بعيداً عن التنافس التجاري المحموم. ومن المتوقع أن تبدأ هذه المنظمات بنشر نتائج تقييماتها فور انتهاء دورات الفحص الحالية.

المصدر: Anthropic