تقرير OpenAI لسلامة المجتمع الرقمي وحماية المراهقين

أعلنت شركة OpenAI عن حزمة من الإجراءات الأمنية الجديدة لمنصة ChatGPT، تشمل الالتزام بإصدار تقرير دوري للسلامة المجتمعية وفرض قيود أكثر صرامة على المحتوى المتعلق بالأسلحة والهجمات العنيفة، مع تركيز خاص على حماية المستخدمين القاصرين. تهدف هذه التحديثات إلى الحد من قدرة الذكاء الاصطناعي على تقديم معلومات قد تُستغل في التخطيط لأعمال عنف أو تمجيد منفذي الهجمات السابقة.

تعزيز الشفافية عبر تقرير السلامة المجتمعية

تعتزم OpenAI إطلاق ما أسمته "تقرير السلامة المجتمعية" (Community Safety Report)، وهو تقرير دوري يهدف إلى كشف كيفية تدريب الأنظمة على رصد القضايا الأمنية والاستجابة لها. وبحسب الشركة، سيوفر التقرير بيانات حول فعالية الضمانات الأمنية المتبعة، مع مشاركة نماذج مجهولة المصدر لكيفية ظهور الأضرار المتعلقة بالعنف والخطوات المتخذة لمعالجتها.

تأتي هذه الخطوة لتعزيز ثقة المستخدمين والمشرعين في قدرة الشركة على إدارة المخاطر، حيث ترى OpenAI أن دور شركات الذكاء الاصطناعي يجب أن يتكامل مع جهات إنفاذ القانون وأخصائيي الصحة العقلية. وكشفت الشركة أنها قامت بالفعل بإحالة أكثر من 200 حالة إلى الجهات الأمنية خلال الربع الثالث من عام 2026 نتيجة رصد تهديدات عنف وشيكة.

قيود جديدة على محتوى العنف والأسلحة

بدأت المنصة في تطبيق سياسات أكثر حزماً تجاه الأسئلة المتعلقة بالهجمات الجماعية السابقة ومنفذيها؛ فبالرغم من توفر هذه المعلومات في مصادر الإنترنت العامة، سيقدم ChatGPT الآن تفاصيل أقل عمقاً حول هذه الأحداث. تهدف هذه القيود إلى منع إعادة بناء سيناريوهات الهجمات، أو الحصول على تفاصيل دقيقة حول الأسلحة والمعدات المستخدمة، أو إجراء مقارنات بين حجم الأضرار قد تساهم في زيادة شهرة المهاجمين.

بالإضافة إلى ذلك، طورت الشركة نظاماً يحلل سياق المحادثات السابقة؛ فإذا أظهرت الدردشات الأخيرة علامات تحذيرية تشير إلى احتمال وقوع عنف، سيتخذ ChatGPT موقفاً أكثر تحفظاً في مشاركة أي معلومات قد تُساء استخدامها، حتى لو كانت تلك المعلومات تبدو عادية في سياق منفرد.

حماية المراهقين والتدخل التلقائي

حصل المستخدمون تحت سن 18 عاماً على طبقة إضافية من الحماية، حيث تم تقييد وصولهم إلى المعلومات العملية المتعلقة بالأسلحة وأنظمة الأمن، حتى في غياب أي نية عنيفة واضحة في أسئلتهم. وتعتمد الشركة على نظام للتنبؤ بالعمر يحلل أنماط السلوك لتقدير ما إذا كان المستخدم قاصراً، مع توفير وسيلة سريعة للمستخدمين البالغين لإثبات أعمارهم إذا تم تصنيفهم خطأً ضمن فئة المراهقين.

ومن أبرز الميزات التقنية الجديدة هي قدرة ChatGPT على إنهاء المحادثة تلقائياً إذا رصد "هوساً" بالعنف أو رغبة في إيذاء الآخرين لدى المستخدم. وفي حال تكرار إنهاء المحادثات لهذا السبب، قد تقوم الشركة بإيقاف الحساب مؤقتاً. كما تم تحديث أدوات الرقابة الأبوية لترسل تنبيهات لأولياء الأمور في حال تم تعطيل حساب أبنائهم بسبب انتهاك سياسات العنف.

المواعيد والبيانات المعلنة

وفقاً لما ورد في بيان الشركة، إليكم أبرز الأرقام والمواعيد المتعلقة بهذه التحديثات:

• موعد التقرير الأول: مطلع عام 2027 (يغطي النصف الثاني من عام 2026)، وسيصدر بعدها كل 6 أشهر.
• إحالات أمنية: أكثر من 200 إحالة لجهات إنفاذ القانون تمت في الربع الثالث من 2026.
• توقيت التنفيذ: سيبدأ طرح هذه الضمانات والقيود الجديدة خلال الأسابيع القليلة القادمة.
• الإجراءات العقابية: تشمل إنهاء الدردشة فوراً، أو تعليق الحساب مؤقتاً، أو إغلاقه نهائياً عند تكرار الانتهاكات.

إذا كنت ولي أمر لمراهق يستخدم ChatGPT، يُنصح بربط حسابك بحسابه عبر ميزة "Parental Controls" المتاحة في الإعدادات، لضمان تلقي التنبيهات الأمنية مباشرة في حال رصد النظام أي سلوكيات مقلقة أو محاولات لتجاوز سياسات المحتوى المتعلقة بالعنف.

المصدر: OpenAI