أعلنت شركة «أوبن إيه آي» عن إجراءات جديدة لتعزيز حماية المراهقين على منصة «تشات جي بي تي»، تشمل تقييد الوصول إلى المعلومات العملية المتعلقة بالأسلحة، وتشديد الرقابة على المحادثات التي تركز بشكل متكرر على العنف، إلى جانب تعزيز آليات إخطار الأولياء.
وتأتي هذه الخطوة في ظل تزايد التدقيق في شركات الذكاء الاصطناعي بشأن المخاطر المحتملة لروبوتات الدردشة على المستخدمين الشباب، ومدى مسؤوليتها عن رصد المحادثات التي قد تنطوي على تهديدات أو مخاطر تمس سلامتهم، وفق ما أوردته شبكة «سي إن بي سي».
وبموجب الإجراءات الجديدة، ستقيّد الشركة تقديم معلومات تفصيلية عن الأسلحة وأنظمة الأمن التي يمكن إساءة استخدامها، على أن تشمل هذه القيود المراهقين حتى في غياب مؤشرات واضحة على نية ارتكاب أعمال عنف.
كما سيتمكن «تشات جي بي تي» من إنهاء المحادثات تلقائيا عندما يظهر أن المستخدم يركز بصورة مفرطة على العنف، فيما قد تلجأ الشركة إلى تعليق الحسابات مؤقتا في حال تكرار هذا النوع من المحادثات.
وأوضحت «أوبن إيه آي» أنها عززت نظام تقدير العمر بهدف توجيه المستخدمين الذين يُرجّح أنهم دون 18 عاما إلى تجربة مخصصة للمراهقين، مشيرة إلى أنها تعتزم إخطار أولياء الأمور إذا عُلّقت حسابات أبنائهم بسبب تكرار مناقشة العنف.
وستشمل القيود المفروضة على جميع المستخدمين أيضا التفاصيل المتعلقة بالهجمات الجماعية السابقة، بما في ذلك أنواع الأسلحة المستخدمة وطرق الحصول عليها.
ومن المنتظر أن يبدأ تطبيق هذه التدابير خلال الأسابيع المقبلة، على أن تواصل الشركة تطوير آليات الحماية وتحسينها.
وتأتي هذه الإجراءات بعد أن كشفت الشركة، خلال الشهر الجاري، أن المراهقين يقضون في المتوسط أقل من 15 دقيقة يوميا على المنصة، وفق تقريرها الأول بشأن استخدام هذه الفئة لـ«تشات جي بي تي».
في المقابل، أشار تقرير سابق لمنظمة «كومون سينس ميديا» إلى أن النسخة المخصصة للمراهقين لم تكن تنبّه أولياء الأمور في الوقت المناسب، أو لم تكن تخطرهم أحيانا، عندما تتضمن محادثات أبنائهم مواضيع تتعلق بالانتحار أو إيذاء النفس أو اضطرابات الأكل.
