ChatGPT يطلق ميزة الرقابة الأبوية للمستخدمين المراهقين في هذا التاريخ

أعلنت شركة «أوبن إيه آي» عن توفير أدوات جديدة للرقابة الأبوية على منصة «ChatGPT» خلال الشهر المقبل، وذلك في إطار جهودها لتعزيز سلامة المراهقين.

أدوات الرقابة الأبوية في ChatGPT

ستمكن هذه الأدوات الآباء من ربط حساباتهم بحسابات أبنائهم المراهقين، مما يعطيهم القدرة على التحكم في كيفية تفاعل ChatGPT معهم. كما سيتمكن الآباء من تعطيل بعض الميزات مثل خاصية «الذاكرة» وسجل المحادثات، بحسب بيان الشركة الذي صدر يوم الثلاثاء.

كما ستقوم المنصة بإصدار تنبيهات تلقائية في حال رصدت أن المستخدم المراهق يمر بلحظة ضيق حاد، حيث أوضحت الشركة أنها ستصمم هذه الخاصية بالتعاون مع خبراء لضمان تعزيز الثقة بين الآباء والأبناء.

أسباب تطوير الرقابة الأبوية في ChatGPT

يجري هذا الإعلان في أعقاب مواجهة الشركة لأول دعوى قضائية تتعلق بوفاة مأساوية ضد شركة ذكاء اصطناعي. حيث رفع والدان، مات وماريا راين، دعوى بعد انتحار ابنهما هذا العام، متهمين ChatGPT بأنه كان له دور في تسهيل محاولات انتحار ابنهم.

وأشار الوالدان إلى أن المنصة أمدت ابنهما، آدم، بمعلومات حول وسائل الانتحار، وقدمت له نصائح حول كيفية إخفاء إصابات سابقة في الرقبة.

وأكدت «أوبن إيه آي» أن أدوات الرقابة الأبوية الجديدة جزء من جهود واسعة لتحسين معايير السلامة في ChatGPT، مشيرة إلى أنها ستتعاون مع خبراء متخصصين في مجالات مثل اضطرابات الأكل وصحة المراهقين لتعزيز أداء النماذج الذكية.

ميزات جديدة لتعزيز السلامة في ChatGPT

تخطط الشركة أيضًا لإطلاق نظام توجيه فوري للمحادثات الحساسة، بحيث يتم تحويل المحادثات تلقائيًا إلى نماذج التفكير المنطقي المدربة وفق منهجية تُعرف بـ«المواءمة التأملية»، والتي أثبتت قدرتها على الالتزام بإرشادات السلامة ومقاومة الطلبات الخطرة أو المضللة.

في الحالات التي تظهر فيها علامات ضيق نفسي لدى المستخدم، سيتم تحويل المحادثة إلى نموذج التفكير المنطقي، بغض النظر عن النموذج الذي اختاره المستخدم في بداية التفاعل.

وعلى نطاق أوسع، أكدت «أوبن إيه آي» أنها تعمل على تطوير المزيد من ميزات السلامة خلال الفترة القادمة. وأشارت إلى أن هذه الجهود قد بدأت بالفعل، لكنها تهدف إلى تقديم خطة شاملة خلال الـ120 يومًا المقبلة لتوفير أكبر عدد من التحسينات هذا العام.