هدير محمد
مع تزايد اعتماد المراهقين على أدوات الذكاء الاصطناعي في الدراسة والحياة اليومية، تتجه الأنظار إلى مدى أمان هذه التقنيات وقدرتها على حماية المستخدمين الأصغر سنًا. وبينما أعلنت شركة “OpenAI” عن إجراءات جديدة مخصصة للمراهقين داخل “شات جي بي تي”، يرى خبراء في سلامة الأطفال أن الإعلان عن أدوات الحماية لا يكفي وحده، ما لم يصاحبه دليل واضح ومستقل على فعاليتها.
وأطلقت “OpenAI” مؤخرًا تجربة “ChatGPT for Teens”، المخصصة للمستخدمين صغار السن، والتي تعتمد على مجموعة من إجراءات الحماية الإضافية، من بينها التحقق من العمر، وتنبيهات موجهة للآباء، وقيود خاصة على طبيعة المحتوى والتفاعل مع المستخدمين دون 18 عامًا.
وبحسب تقرير نشره موقع “androidheadlines”، فإن خبراء سلامة الأطفال دعوا إلى إخضاع هذه الإجراءات لاختبارات مستقلة وشفافة، إلى جانب تطوير آليات التحقق من العمر وتعزيز أدوات الرقابة الأبوية.
وجاء تطوير تجربة “شات جي بي تي للمراهقين” بعد تصاعد النقاش حول المخاطر المحتملة لاستخدام أدوات الذكاء الاصطناعي من جانب صغار السن، خاصة عقب وفاة المراهق الأميركي آدم راين، البالغ من العمر 16 عامًا، في سبتمبر الماضي.
وكان والدا المراهق قد زعما لاحقًا، في دعوى قضائية، أن “شات جي بي تي” ساهم في تمكين سلوكيات ضارة.
وبموجب النظام الجديد، يتم توجيه المستخدمين الذين تقدر “OpenAI” أن أعمارهم تقل عن 18 عامًا، أو الذين يعرّفون أنفسهم كمراهقين، إلى تجربة مخصصة لهذه الفئة العمرية.
وتسعى الشركة أيضًا إلى تشجيع المراهقين على استخدام أدوات تعليمية مثل “Study Mode”، الذي يهدف إلى مساعدتهم على فهم الدروس والتعلم بدلًا من الاكتفاء بالحصول على إجابات جاهزة.
وتأتي هذه الخطوة في وقت يتزايد فيه اعتماد الطلاب على الذكاء الاصطناعي، إذ أظهرت بيانات مركز “Pew Research Center” أن نحو واحد من كل أربعة مراهقين في الولايات المتحدة استخدموا “شات جي بي تي” للمساعدة في أداء الواجبات المدرسية في بداية العام الماضي.
وأضافت “OpenAI” ميزة “Quiet Hours”، ضمن التحديثات الجديدة، إلى جانب توسيع نطاق تنبيهات السلامة الموجهة إلى الآباء للحسابات المرتبطة، كما نشرت نسخة محدثة من مواصفات النموذج الخاصة بالمستخدمين الذين تقل أعمارهم عن 18 عامًا.
وتفرض الإرشادات الجديدة قيودًا على طريقة تفاعل النموذج مع المراهقين، إذ تمنعه من استخدام لغة عاطفية أو رومانسية، أو تشجيع المستخدم على تكوين حالة من الاعتماد العاطفي على الذكاء الاصطناعي.
وتؤكد الشركة أن هذه الإجراءات تستهدف توفير بيئة أكثر أمانًا للمستخدمين صغار السن، خاصة في المحادثات التي قد تتناول موضوعات حساسة.
ورغم الترحيب بزيادة الاهتمام بسلامة المراهقين، يرى متخصصون أن فعالية هذه الأدوات لا يمكن تقييمها بالاعتماد على وعود الشركة فقط.
وقال روبي تورني من منظمة “Common Sense Media” إن “OpenAI” مطالبة بتقديم أدلة تثبت أن إجراءات السلامة المعلنة تعمل بالفعل بالشكل المطلوب.
كما أثار جوش جولين من منظمة “Fairplay” تساؤلات بشأن آليات المساءلة والتحقق من العمر، خاصة مع احتمال محاولة بعض المستخدمين التحايل على الأنظمة الآلية لتجاوز القيود المفروضة على الحسابات الخاصة بالمراهقين.
وتعتمد “OpenAI” كذلك على رصد المحادثات التي قد تتضمن محتوى ضارًا، على أن تخضع بعض هذه المحادثات لمراجعة بشرية من قبل موظفي الشركة.
لكن هذه الآلية بدورها أثارت مخاوف الخبراء، الذين تساءلوا عن مدى قدرة النظام على رصد جميع المحادثات الخطرة بصورة دقيقة ومتسقة، وكذلك عن عدد المراجعين البشريين ومدى سرعة تعاملهم مع الحالات التي تحتاج إلى تدخل.
وطالب تورني وجولين الشركة بنشر بيانات أكثر وضوحًا حول عدد المحادثات التي يرصدها النظام، وحجم فرق المراجعة البشرية، والوقت الذي تستغرقه عملية فحص المحتوى والتعامل مع الحالات الخطرة.
وبينما تمثل أدوات الحماية الجديدة خطوة إضافية في تعامل “OpenAI” مع سلامة المستخدمين صغار السن، يرى خبراء أن الاختبار الحقيقي سيكون في قدرتها على العمل بكفاءة خارج نطاق التجارب والسياسات المعلنة.
ولهذا، يطالب المتخصصون بإجراء اختبارات مستقلة وشفافة لقياس فعالية هذه الأنظمة، قبل أن يتمكن الآباء من الاعتماد على “شات جي بي تي للمراهقين” باعتباره تجربة آمنة يمكن الوثوق بها.
