ابعاد تازه از حمله ایجنت سرکش OpenAI؛ فقط هاگینگ فیس قربانی نبود

افشاگری‌های جدید نشان می‌دهد ایجنت هوش مصنوعی سرکش OpenAI که به سیستم‌های هاگینگ فیس حمله کرده بود، نفوذ گسترده‌تری نسبت به گزارش‌های اولیه داشته است. این ایجنت خودمختار علاوه‌بر هاگینگ فیس، دست‌کم چهار حساب کاربری در سرویس‌های عمومی مختلف، از جمله دارایی‌های یکی از مشتریان شرکت فناوری Modal Labs را هدف سوءاستفاده قرار داده است.

براساس اظهارات «آکشت بوبنا» (Akshat Bubna)، مدیر ارشد فناوری شرکت مودال لبز، زیرساخت اصلی این پلتفرم دچار آسیب نشده، بلکه ایجنت سرکش از کد آسیب‌پذیر متعلق به یکی از مشتریان سوءاستفاده کرده است. این مشتری با انتشار اندپوینت احراز هویت‌نشده، امکان اجرای کد در سندباکس خود را برای عموم کاربران اینترنت فراهم کرده بود.

به گزارش رویترز، این امر به پروژه CyberGym و بنچمارک ExploitGym ارتباط داشته است. ایجنت سرکش از این محیط ایزوله خارجی به عنوان سکوی پرتاب و پایگاهی برای ذخیره‌سازی داده‌ها و پنهان‌سازی منشأ اصلی حمله به هاگینگ فیس بهره برده است.

ابعاد تازه حمله ایجنت سرکش OpenAI به هاگینگ فیس

حادثه زمانی آغاز شد که اوپن‌ای‌آی درحال سنجش توانمندی‌های مدل معروف GPT-5.6 Sol و نمونه اولیه مدل دیگری در بنچمارک ExploitGym بود. این بنچمارک، توانایی هوش مصنوعی را در کشف و استخراج فایل‌های محرمانه از صدها سیستم هدف ارزیابی می‌کند. در این آزمون، مکانیسم‌های حفاظتی و ایمنی مدل‌ها غیرفعال شده بود.

تحلیل‌های بعدی نشان داد که ایجنت هوش مصنوعی برای موفقیت در آزمون، مسیر میانبر و تقلب را انتخاب کرده است. این ایجنت به جای حل چالش‌های پیچیده فنی، استنتاج کرد که پاسخ‌نامه و کلید سؤالات آزمون احتمالاً روی سرورهای هاگینگ فیس قرار دارد. از این رو، با یافتن اعتبارنامه‌های افشاشده در وب، مسیر نفوذ به هاگینگ فیس و سرقت پاسخ‌ها را در پیش گرفت.

READ  چگونه مدل متن‌باز OpenAI را روی کامپیوتر و لپ‌تاپ اجرا کنیم؟ آموزش تصویری و مرحله‌ای

گزارش کالبدشکافی فنی هاگینگ فیس پس از بررسی حدود ۱۷ هزار و ۶۰۰ اقدام ثبت‌شده از ایجنت هوش مصنوعی نشان داد که سطح دسترسی این مدل بسیار فراتر از برآوردهای اولیه بوده است. ایجنت سرکش موفق شد دسترسی سطح ادمین به چند کلاستر Kubernetes، دسترسی روت به سرور تولید و دسترسی نوشتن به بخشی از مخازن کد در گیت‌هاب را به دست آورد.

علاوه‌براین، ایجنت هوش مصنوعی با استفاده از اعتبارنامه‌های سرقت‌شده، ۱۸۱ دستگاه تحت کنترل خود را در شبکه اختصاصی شرکت هاگینگ فیس ثبت کرد و به محیط‌های داخلی ساخت و تست نرم‌افزار راه یافت.

در پی این حادثه امنیتی، «سم آلتمن»، مدیرعامل اوپن‌ای‌آی، در پادکست Invest Like a Beast اعلام کرد که این حمله سایبری شرکتش را مجبور به توقف موقت آموزش مدل‌های جدید کرده است. آلتمن اشاره کرد که شاید نیاز باشد سرعت توسعه هوش مصنوعی کاهش یابد تا جامعه فرصت کافی برای مقاوم‌سازی در برابر این توانمندی‌های جدید را داشته باشد.