پژوهشگر آنتروپیک: احتمال نابودی انسانها توسط هوش مصنوعی بیش از ۱۰ درصد است
دیجیاتو digiato
شهریور ۱۸, ۱۴۰۵
004
«ایوان هوبینگر»، سرپرست علمی بخش همترازی در شرکت آنتروپیک، اعلام کرد به باورش احتمال اینکه هوش مصنوعی در طول یک دهه آینده «تمام انسانها را به کام مرگ بکشاند» بیش از ۱۰ درصد است. این ارزیابی صریح از سوی یکی از برجستهترین محققان فعال همزمان با توسعه مدلهای پیشرفته، نگرانیهای عمیق درون آزمایشگاههای هوش مصنوعی را درباره احتمال از دست رفتن کنترل این سامانهها برجسته میکند.
او با تأیید این سناریوی مرگبار در شبکه اجتماعی ایکس نوشت:
«شخصاً فکر میکنم این احتمال برای دهه آینده بالاتر از ۱۰ درصد است. فکر میکنم آنتروپیک نهایت تلاش خود را به کار گرفته، ولی ما هنوز برنامهای برای حل چالش همترازی ابرهوش نداریم و در مسیری قرار نداریم که به این راهحل برسیم.»
خطرات پیشرفت خودکار و هوش مصنوعی مهارنشدنی
مفهوم ابرهوش به سیستمهایی گفته میشود که بدون مداخله انسانی میتوانند باعث ارتقا و بهبود خود شوند (در اصطلاح به این مفهوم «بهبود خودبازگشتی» گفته میشود) و غولهای فناوری چنین برنامهای را دنبال میکنند. اما این ویژگی همزمان تهدیدات امنیتی زیادی را به همراه خواهد داشت.
شرکت آنتروپیک پیشتر در خردادماه در قالب یک پست وبلاگی هشدار داده بود که دستیابی به بهبود خودبازگشتی کامل، احتمال از دست رفتن کنترل سیستمها را بهشدت بالا میبرد و اگر سامانهها توانایی خلق کامل نسخههای پیشرفتهتر از خود را پیدا کنند، ابزارهای کنترلی، امنیتی و پایش آنها اهمیتی حیاتی پیدا میکنند.
نگرانیها درباره خارجشدن کنترل فناوری از دست بشر سابقهای طولانی دارد. «ایلان ماسک» و شمار زیادی از چهرههای دانشگاهی از سالها قبل زنگ خطر چنین آیندهای را به صدا درآوردهاند. این دغدغهها بهویژه پس از آن جدیتر شد که در تیرماه یک مدل شرکت OpenAI از کنترل خارج شد و به پلتفرم توسعهدهندگان هاگینگ فیس نفوذ کرد. با وجود انتشار این گزارشها، رقابت سنگین شرکتهایی مثل OpenAI و آنتروپیک برای جذب سرمایههای کلان و حرکت بهسوی عرضه عمومی سهام بدون توقف ادامه دارد.