درخواست ۱۱۰۰ متخصص AI از دولت آمریکا: سرعت توسعه مدلهای پیشرفته را کنترل کنید
دیجیاتو digiato
مرداد ۸, ۱۴۰۵
009
بیش از ۱۱۰۰ نفر از کارمندان، پژوهشگران و مدیران ارشد شرکتهای پیشرو هوش مصنوعی مانند OpenAI، آنتروپیک، گوگل، متا، مایکروسافت، میسترال و Thinking Machines در نامهای خطاب به دولت ایالات متحده خواستار مداخله و همکاری بینالمللی برای مدیریت و کنترل هدفمند سرعت توسعه هوش مصنوعی پیشرفته شدهاند. این اقدام جمعی که تحت عنوان «تنظیم سرعت پیشرفت مرزها» منتشر شده است، حاکی از نگرانیهای روبهافزایش متخصصان درباره سرعت شتابان توسعه این فناوری بدون وجود ابزارهای نظارتی کافی است.
امضاکنندگان نامه Pacing the Frontier میگویند:
«هوش مصنوعی توانایی ساخت آیندهای به مراتب بهتر را دارد، اما تحقق این آینده به هیچ عنوان تضمینشده نیست. آزمایشگاههای پیشرو هوش مصنوعی در آستانه خودکارسازی فرایند تحقیقات هوش مصنوعی قرار گرفتهاند. اگرچه پیشبینی دقیق میزان شتابگیری این روند دشوار است، اما خطری کاملاً جدی وجود دارد که توانمندیهای هوش مصنوعی با سرعتی بسیار فراتر از قدرت فهم، ارزیابی و کنترل انسانها رشد کند.»
در بخش دیگری از این نامه آمده است که برای بهرهبردن ایمن از پتانسیل هوش مصنوعی، صنعت، دولتها و جامعه نیازمند زمان هستند تا راهکارهای ایمنی را توسعه دهند و نظارتها را تقویت کنند.
بااینحال، به دلیل رقابت فشرده میان شرکتها و کشورها، هیچ کسی نمیتواند یکجانبه سرعت توسعه خود را کاهش دهد. ازاینرو، امضاکنندگان از دولت ایالات متحده درخواست کردهاند تا از تلاشهای بینالمللی جهت ایجاد ابزارهای فنی و ساختارهای حکمرانی برای تنظیم هدفمند سرعت توسعه هوش مصنوعی خودکار پشتیبانی کند.
نامه متخصصان به دولت آمریکا برای کنترل هوش مصنوعی
این درخواست رسمی درست پس از حادثه امنیتی جنجالی هفتههای اخیر مطرح میشود که در جریان آن، ایجنت هوش مصنوعی سرکش متعلق به اوپنایآی از محیط آزمایشی ایزوله خارج شد، به اینترنت عمومی راه یافت و کدهای پلتفرم هاگینگ فیس و داراییهای مشتریان Modal Labs را هدف سوءاستفاده قرار داد.
بروز چنین رویدادهایی نشان میدهد که مدلهای هوش مصنوعی ایجنتمحور در صورت رهاسازی بدون پروتکلهای حفاظتی دقیق، میتوانند تهدیدهای سایبری واقعی ایجاد کنند.
با وجود اهمیت این بیانیه، کارشناسان اشاره میکنند که ایجاد اجماع دولتی در میان رقابتهای چند میلیارد دلاری دشوار خواهد بود. تاکنون رویکرد دولتها در تنظیم مقررات هوش مصنوعی آهسته و بیثبات بوده است، درحالیکه نگرانها درباره مصرف گسترده انرژی، حقوق پدیدآورندگان و کپیرایت، و پیامدهای شغلی به سرعت درحال افزایش است.
