ایجنت هوش مصنوعی OpenAI به یک سامانه دولتی استرالیا نفوذ کرد
دیجیاتو digiato
مهر ۲, ۱۴۰۵
1015
«آنتونی آلبانیزی»، نخستوزیر استرالیا، اعلام کرد یک ایجنت هوش مصنوعی توسعهیافته توسط شرکت OpenAI، در ماه ژوئن به یکی از وبسایتهای دولتی این کشور نفوذ کرده است. به گفته آلبانیزی، این ایجنت به پرتال آماری سامانه بهداشت و درمان همگانی استرالیا موسوم به Medicare دسترسی پیدا کرده است؛ پرتالی که شامل دادههای غیرحساس و عمومی است.
نخستوزیر استرالیا در نیویورک مدعی شد که در گفتوگویی بسیار صریح و تند با «سم آلتمن»، مدیرعامل OpenAI، درباره تأخیر طولانی این شرکت در اطلاعرسانی موضوع صحبت کرده است. درهمینحال، شرکت OpenAI مدعی شده در ماه آگوست و در جریان یک بازبینی داخلی روی فعالیت مدلهای ناهماهنگ یا دارای رفتارهای ناخواسته از این اتفاق باخبر شده و موضوع را در تاریخ ۱۰ سپتامبر به مقامهای استرالیا اعلام کرده است.
این شرکت با بیان اینکه فرایند بازبینی ادامه دارد، تأکید کرد شواهدی مبنی بر دسترسی به پروندههای پزشکی بیماران وجود ندارد. بااینحال، آلبانیزی تویح داده حادثه در ماه ژوئن رخ داده، اما OpenAI این موضوع را از طریق ایمیل در ۱۰ سپتامبر به «Services Australia» گزارش داده است؛ نهادی ملی که درگاه اتصال شهروندان به خدمات مختلف دولتی به حساب میآید. این نهاد موضوع را به وزیر مربوطه اطلاع داده و در پایان هفته به دست نخستوزیر رسیده است. آلبانیزی ضمن ابراز نگرانی شدید از این واقعه، بر احتمال بروز پیامدهای حقوقی برای این اقدام تأکید کرد.
پیامدهای نفوذ ایجنت هوش مصنوعی بر سامانههای دولتی
نخستوزیر استرالیا میگوید آلتمن به وجود مشکلات و نقصهایی در پروتکلهای داخلی OpenAI اعتراف کرده است. آلبانیزی تصریح کرد این ایجنت به فایلهای عمومی و غیرعمومی دسترسی داشته و اکنون تحقیقات جرمشناسی سایبری برای مشخصشدن دامنه آسیب به سایر سیستمها آغاز شده است. این تحقیقات توسط اداره سیگنالهای استرالیا به عنوان نهاد رسمی امنیت سایبری این کشور مدیریت میشود.
درگاه مورد بحث یعنی سیستم گزارشدهی آماری مدیکر توسط نهاد Services Australia اداره میشود. علاوهبرآن، آلبانیزی خاطرنشان کرد مؤسسه بهداشت و رفاه استرالیا در سطح فدرال و همچنین دو نهاد ایالتی شامل اداره آمار و تحقیقات جرم نیوساوثولز و دپارتمان بهداشت ایالت ویکتوریا نیز ممکن است تحت تأثیر این رخنه قرار گرفته باشند.
سخنگوی OpenAI درباره این اتفاق گفت:
«ما در جریان یک ارزیابی داخلی، زمانی که مدلها درحال جستوجو برای پاسخ و دادههای آماری در دسترس درباره سؤالاتی پیرامون استرالیا بودند، متوجه فعالیتهایی شدیم که چندین وبسایت و سرویس دولتی این کشور را درگیر کرده بود. در این فرایند، مدلهای ما اقداماتی انجام دادند که هدف و مدنظر ما نبود.»
سخنگوی این شرکت در ادامه میگوید دادههای دیدهشده شامل آمار کلی بهداشت و نام فایلهای داخلی بوده است. نخستوزیر استرالیا نیز تأیید کرده درحالحاضر به نظر نمیرسد اطلاعات شخصی افراد نقض شده باشد، اما شبکه مورد ارزیابی قرار دارد و چنین وضعیتی پذیرفتنی نیست.
آلبانیزی از پاسخ به این پرسش که آیا موضوع را در دیدار اخیر خود با «دونالد ترامپ» مطرح کرده است یا خیر، خودداری کرد. این درحالی است که استرالیا اخیراً یکی از ۲۲ کشوری بود که بیانیهای مشترک را برای نظارت جهانی و ایجاد خطوط قرمز در توسعه هوش مصنوعی امضا کردند.
کارشناسان سایبری هشدار میدهند با پیشرفت ایجنتهای هوش مصنوعی، احتمال وقوع و شدت چنین حملاتی بیشتر خواهد شد؛ چنانکه اوایل امسال نیز تعدادی از مدلهای آزمایشی این شرکت با خروج از کنترل، اقدام به دسترسی به سرورهای پلتفرم هاگینگ فیس کرده بودند. کارشناسان یادآور میشوند ایجنتها انسان نیستند و ممکن است برای رسیدن به اهداف تعیینشده، چارچوبها و قواعد امنیتی را نقض کنند.