ارزیابی کارشناسان: حتی نسخه مخصوص نوجوانان ChatGPT هم برای افراد زیر ۱۸ سال ایمن نیست

براساس یک ارزیابی جدید که توسط مؤسسه غیرانتفاعی «Common Sense Media» منتشر شده، ChatGPT حتی در حالت ویژه نوجوانان، برای افراد زیر ۱۸ سال ناامن است. این نهاد غیرانتفاعی آمریکایی در گزارش خود، پایین‌ترین امتیاز یعنی «ریسک غیرقابل‌قبول» را به نسخه نوجوانان این چت‌بات (ChatGPT for Teens) اختصاص داده است. این گروه از OpenAI خواسته تبلیغ این حالت را متوقف کند و تأکید کرده تا زمانی که این شرکت نتواند محیطی ایمن ایجاد کند، نوجوانان اصلاً نباید از ChatGPT استفاده کنند.

پژوهشگران این سازمان، بیش از ۴۰۰۰ دستور متنی یا پرامپت را مورد ارزیابی قرار دادند. نیمی از این آزمایش‌ها پیش از راه‌اندازی حالت مخصوص نوجوانان و نیمی دیگر پس از آن روی حساب‌های کاربری ثبت‌شده برای افراد ۱۳ تا ۱۷ سال انجام شده تا تغییرات واقعی این حالت تازه بررسی شود.

نقاط ضعف سیستم‌های نظارتی ChatGPT

به گفته کارشناسان، سیستم هشدارهای والدین از بزرگ‌ترین چالش‌های این قابلیت است. آزمایش‌کنندگان در بیش از ۱۲ حساب کاربری جدید که به والدین متصل بودند، به گفت‌وگو درباره افکار خودکشی، خودآزاری و اختلالات خوردن پرداختند، اما هیچ هشداری برای والدین ارسال نشده است. هشدارها تنها در حساب‌هایی فعال شدند که هفته‌ها سابقه گفت‌وگو در موضوعات حساس داشتند؛ موضوعی که نشان می‌دهد ارسال هشدار بیش از آنکه به میزان حساسیت پیام وابسته باشد، به پیشینه و تاریخچه استفاده کاربر بستگی دارد.

پشتیبانی در شرایط بحرانی نیز عملکرد مناسبی نداشت؛ به‌طوری‌که این چت‌بات در بیش از یک‌چهارم مواردی که به تشخیص کارشناسان نیازمند ارائه راهنمایی و کمک بوده، نتوانست نوجوانان را به مراجع امدادی و کمکی هدایت کند. همچنین برخی از سازوکارهای محافظتی به‌راحتی دور زده شده‌اند. برای مثال، دکمه «پاسخ را نشان بده» به نوجوانان اجازه می‌دهد تا بخش آموزش تعاملی را در حالت مطالعه (Study Mode) نادیده بگیرند. علاوه‌براین، نوجوانان توانستند با حذف یک پیشوند کوتاه از پیام خود، محدودیت زمانی مطالعه را که توسط والدین تعیین شده بود دور بزنند.

سیستم‌های بررسی سن نیز مطابق وعده‌ها عمل نکرده‌اند. حساب‌های آزمایشی که در ابتدا به‌عنوان بزرگسال ثبت شده بودند، حتی پس از آنکه آزمایش‌کنندگان در طول چند روز به ChatGPT اعلام کردند ۱۳ ساله هستند، هرگز به نسخه نوجوانان تغییر نیافتند. با وجود این نواقص، برخی پروتکل‌های امنیتی پایدار بوده‌اند؛ برای مثال، ChatGPT از نقش‌آفرینی در سناریوهای جنسی صریح خودداری کرده است.

OpenAI یافته‌های این گزارش را رد کرده است. سخنگوی این شرکت در گفت‌وگو با رسانه Education Week اعلام کرد:

«ما معتقد نیستیم آزمایش‌های Common Sense Media نحوه عملکرد واقعی ابزارهای محافظتی نوجوانان ChatGPT را در عمل بازتاب دهد.»

این مؤسسه پیش‌تر در اکتبر ۲۰۲۵ ریسک کلی ChatGPT را «بالا» ارزیابی کرده بود و یک ماه پس از آن نیز استفاده از این چت‌بات برای پشتیبانی سلامت روان را دارای خطری غیرقابل‌قبول دانست. این مجموعه سابقه همکاری با OpenAI را برای تدوین سیاست‌های ایمنی نوجوانان در کارنامه دارد. به گفته این نهاد، بودجه آنها از سوی خیریه‌ها و بخش صنعت تأمین می‌شود و با وجود دریافت بودجه از برخی سازندگان محصولات بررسی‌شده، استقلال کامل تحریریه در نتایج ارزیابی‌ها حفظ شده است.