اپراتور ویکی‌پدیا قطعی ماه مه را به فعالیت مخرب ایجنت‌های سرکش OpenAI نسبت داد
دیجیاتو digiato
مهر ۱۴, ۱۴۰۵
0014
در پی افشاگری‌های اخیر پیرامون دسترسی ایجنت‌های هوش مصنوعی به وب‌سایت‌ها و خدمات متفرقه اینترنتی، بنیاد ویکی‌مدیا که میزبانی دانشنامه ویکی‌پدیا را برعهده دارد، تأیید کرده است که فعالیت‌هایی از سوی ایجنت‌های سرکش منتسب به OpenAI روی پلتفرم‌های این مجموعه شناسایی شده است.
فعالیت‌های اعلام شده شامل ویرایش اطلاعات صفحات، تلاش‌های ناموفق برای سوءاستفاده از ابزار یادداشت‌برداری Etherpad و ترافیک سنگینی می‌شود که به گفته این بنیاد، احتمالاً در ایجاد اختلال و قطعی نسبی پلتفرم در ماه مه نقش داشته است. بااین‌‌حال، ویکی‌مدیا اعلام کرده مدرکی مبنی بر هماهنگی ایجنت‌ها با یکدیگر از طریق این سامانه‌ها پیدا نکرده و نشانه‌ای از به خطر افتادن سیستم‌ها یا داده‌ها نیز وجود ندارد؛ هرچند پیش از این گزارش‌هایی مبنی بر تصاحب یک ویکی آلمانی توسط بات‌های OpenAI برای هماهنگی میان خود منتشر شده بود.
جزئیات فعالیت بات‌های OpenAI روی سرویس‌های ویکی‌مدیا
طبق بررسی‌های ویکی‌مدیا، بخشی از این اقدامات مربوط به ویرایش‌هایی بوده که توسط ایجنت‌های هوش مصنوعی منتسب به OpenAI صورت گرفته است. این تغییرات روی صفحاتی که عموم خوانندگان مشاهده می‌کنند اعمال نشده و تقریباً تمام آنها ویرایش‌های آزمایشی درون محیط Sandbox (محیطی ایزوله برای آزمایش‌های نرم‌افزاری و بررسی تغییرات پیش از اعمال روی نسخه نهایی) بوده‌اند. این فعالیت‌ها همچنین مواردی از تغییر در تنظیمات ابزار ارجاع‌دهی را شامل می‌شود که به باور ویکی‌مدیا اهداف بالقوه مخربی داشته‌اند و برای سوءاستفاده از این ابزار به‌عنوان پروکسی جهت فراخوانی داده از سرویس‌های دوردست طراحی شده بودند، درحالی‌که طبق قوانین ویکی‌پدیا هرگونه ویرایش توسط ربات‌ها نیازمند اطلاع‌رسانی و دریافت مجوز رسمی از جامعه کاربری است.
از سوی دیگر، این سامانه‌ها تلاش‌های ناموفقی برای نفوذ به ابزار یادداشت‌برداری عمومی Etherpad انجام دادند تا از آن نیز به‌عنوان پروکسی برای دریافت داده از سایر وب‌سایت‌ها بهره ببرند. علاوه‌براین، برخی دیگر از این ایجنت‌ها یادداشت‌هایی درباره وظایف خود ثبت کرده بودند، هرچند شواهدی مبنی بر تبدیل این رفتار به یک هماهنگی تیمی وجود ندارد. درنهایت، حجم عظیمی از ترافیک ناشی از میلیون‌ها درخواست خودکار به رابط‌های برنامه‌نویسی کاربردی عمومی (API)، استخراج میلیون‌ها صفحه در ویکی‌داده و ویکی‌انبار و ارسال صدها هزار پرس‌وجو به سرویس کوئری WQDS به ثبت رسید که احتمالاً یکی از دلایل بروز قطعی نسبی این سرویس در ماه مه بوده است.
بنیاد ویکی‌مدیا در پایان یادآور شده که فضای وب آزاد و عمومی یک منفعت عمومی محسوب می‌شود و نباید اجازه داد این قبیل رفتارها برای افراد یا نهادهای نگه‌دارنده آن به یک رویه عادی تبدیل شود. در پاسخ به این گزارش، «درو پوشاتری»، سخنگوی OpenAI، اعلام کرد که این شرکت از اطلاعات دقیق ارائه‌شده استقبال می‌کند و ضمن همکاری نزدیک با ویکی‌مدیا، درحال بررسی ابعاد ماجرا است؛ هرچند تحقیقات داخلی آنها هنوز نقش مستقیم این بات‌ها را در قطعی ماه مه تأیید نکرده است.
