أرجعت OpenAI إطلاق ميزة الدردشة للبالغين بسبب مشاكل دقة كشف العمر

قررت شركة OpenAI تأجيل طرح ميزة الدردشة للبالغين الجديدة لـ ChatGPT، بسبب مخاوف تتعلق بمصداقية نظام التحقق من العمر الخاص بها. جاء التأجيل بعد أن كشفت تقارير أن آلية اكتشاف العمر في المنصة كانت تسيء تصنيف حوالي 12% من المستخدمين المراهقين على أنهم بالغون، وفقًا لنتائج من NS3.AI. وأثار معدل الخطأ هذا علامات حمراء كبيرة بين قيادة المنظمة.

تم الإشارة رسميًا إلى مخاوف السلامة من قبل مجلس خبراء الرفاهية والذكاء الاصطناعي في OpenAI في يناير الماضي. وأكد المجلس أن نشر مثل هذه الميزة مع القيود الحالية على الدقة قد يعرض الفئات الضعيفة لمحتوى غير مناسب وأضرار محتملة أخرى. بدلاً من الإسراع في طرح الميزة، اختارت OpenAI إعطاء الأولوية لحماية المستخدمين وإجراء تحسينات إضافية على خوارزميات التنبؤ بالعمر.

يؤكد هذا القرار التحديات التي تواجهها شركات التكنولوجيا عند موازنة الابتكار مع تطوير ذكاء اصطناعي مسؤول. لا تزال ميزة الدردشة للبالغين قيد التطوير، لكنها لن تصل إلى المستخدمين حتى تتمكن الشركة من إثبات قدرات تحقق من العمر أكثر موثوقية ومعالجة المخاوف الأخلاقية الأساسية بشأن الوصول إلى المحتوى وسلامة المستخدمين.