بوسطن – قامت Openai بتقديم سلسلة من أدوات التحكم الوالدية في ChatBot AI ، والتي تتضمن إخطار الوالدين عندما يكون الطفل محزنًا.
ويأتي ذلك بعد ملء دعوى قضائية ضد الشركة ورئيسها التنفيذي سام التمان من قبل والداها من 16 عامًا آدم ريني ، الذي انتحر في أبريل.
تخلص الوالدان من أن تشاتغبت ابتكر دفاعًا نفسيًا في آدم ، حيث قاموا بتدريبه للتخطيط والاستيلاء على حياته في وقت سابق من هذا العام وحتى كتب مذكرة انتحارية له.
يقول Openai إن ضوابط الوالدين الجديدة التي ستسمح للبالغين بإدارة الميزات التي يمكن لأطفالهم لدينا في الخدمة قابلة للتطبيق مع الشهر المقبل.
ستتيح ضوابط Openai للآباء ربط حسابهم بأطفالهم والسماح لـ Toanage بمن يمكن للطفل الوصول إليه. يتضمن هذا أيضًا سجل الدردشة والذاكرة ، وحقائق المستخدم التي تلقائيًا.
قالت مدونة Openai دائمًا إن ChatGPT ستجذب جزيئات الجنس إذا كانت أجهزة “مراهقهم في دقيقة من الضيق الحاد”.
كيف ، لم تحدد الشركة ما الذي قد يؤدي إلى مثل هذا التنبيه ، لكنها قالت إن الميزة سوف يسترشد بها الخبراء.
لكن البعض يقول إن التدابير لا تذهب إلى حد بعيد.
جاي إيدلسون ، محامي والدي رين ، كان يخرج من Openai innountment باعتباره “وعودًا غامضًا بالقيام بعمل أفضل” و “لا شيء أكثر من فريق إدارة الأزمات في Openai الذي يرتبط بتغيير الموضوع”.
قال إدلسون يوم الثلاثاء إن التمان “يجب أن يقول على الإطلاق أنه يعتقد أن تشاتغبت آمن أو فوري من السوق”.
وقالت Meta ، الشركة الأم لـ Instagram و Facebook و WhatsApp ، يوم الثلاثاء ، إنها الآن محادثات رومانسية في Blackwook ، توجههم بدلاً من ذلك إلى موارد الخبراء. يقدم Meta بالفعل عناصر تحكم الوالدين على حسابات المراهقين.
وجدت دراسة تم نشرها الأسبوع الماضي في المجلة الطبية للخدمات النفسية عدم تناسق في كيفية تحطيم الذكاء الاصطناعي الشهير الذي تم Rsponded إلى queies حول الانتحار.
وجدت الدراسة التي أجراها ResearchRs في Rand Corporation حاجة إلى “مزيد من التحسين” في Chatgpt و Google’s Gemini و Claude’s Anthropic. لم يدرس Researchars chatbots Meta.
قال المؤلف الرئيسي للدراسة ، ريان ماكباين ، يوم الثلاثاء إنه “من المشجع أن نرى ميزات أوف أوفا المتوفرة مثل أدوات التحكم الوالدية وتوجيه محادثات الحسي إلى نماذج أكثر قدرة ، ولكن هذه خطوات غير متوفرة.
وقال ماكباين ، وهو من كبار سياسة ريتشير في راند ومساعد في كلية الطب بجامعة هارفارد ، “مع معايير السلامة المستقلة ، والاختبارات السريرية ، والمعايير القابلة للتنفيذ ، ما زلنا نراجع الشركات إلى الشحن الذاتي في مكان حيث تكون مخاطر المراهقين مرتفعة بشكل فريد”. – يورونو
