پدرخوانده هوش مصنوعی: مدیرعامل متوهم آنتروپیک درک درستی از امنیت سایبری ندارد
دیجیاتو digiato
مهر ۱۱, ۱۴۰۵
008
«یان لکان»، پدرخوانده هوش مصنوعی و برنده جایزه تورینگ، در گفت‌وگو اخیرش اعلام کرد که نگرانی خاصی درباره خطر انقراض انسان به‌دست هوش مصنوعی ندارد و هشدارهای اخیر درباره خطرات این فناوری را اغراق‌آمیز می‌داند. او همچنین با انتقاد شدید از «داریو آمودی»، مدیرعامل آنتروپیک، دیدگاه‌های او درباره خطرات هوش مصنوعی و نوع‌دوستی را زیر سؤال برد و او را متوهم و دیوانه توصیف کرد.
یان لکان که در سال ۲۰۱۸ به‌همراه «جفری هینتون» و «یوشوا بنجیو» جایزه تورینگ را برای فعالیت‌هایشان در زمینه یادگیری عمیق دریافت کرد، می‌گوید برخلاف دو همکار دیگرش، نگرانی عمیقی درباره خطرات هوش مصنوعی ندارد.
او در گفت‌وگو با فورچون گفت اصلاً نگران این نیست که هوش مصنوعی باعث نابودی بشریت شود و درباره مجموعه حوادث اخیر مربوط به عملکرد مستقل ایجنت‌های هوش مصنوعی نیز «هیچ نگرانی‌ای» ندارد. یکی از این موارد، نفوذ مستقل ایجنت‌های OpenAI به هاگینگ‌فیس در ماه ژوئیه بود.
لکان معتقد است چنین حوادثی بیشتر به نظارت انسانی ضعیف و طراحی نامناسب سیستم‌ها مربوط می‌شوند و کاملاً قابل پیشگیری هستند. او درباره این حوادث گفت:
«این ایجنت‌ها دقیقاً همان کاری را انجام می‌دهند که از آن‌ها خواسته شده است. قرار بود در محیط‌های ایزوله باشند، اما این محیط‌های ایزوله نشت داشتند و به‌شدت بد طراحی شده بودند.»
انتقاد لکان از ایمنی هوش مصنوعی و مدیرعامل آنتروپیک
یان لکان همچنین گفت بسیاری از آزمایشگاه‌های هوش مصنوعی مانند آنتروپیک درک اصولی و مناسبی از امنیت سایبری ندارند. به گفته او، بخشی از افرادی که در حوزه ایمنی هوش مصنوعی فعالیت می‌کنند، معمولاً «دستورکار مشخصی برای پیشبرد» دارند.
لکان در بخش دیگری از گفت‌وگو به‌طور مشخص از مدیرعامل آنتروپیک انتقاد کرد. او با اشاره به ارتباطات آمودی و برخی بنیان‌گذاران آنتروپیک با ایده‌های عجیب نوع‌دوستی گفت آمودی تلاش می‌کند فاصله خود را از چنین ایده‌هایی حفظ کند، اما به باور لکان، همچنان به این جریان نزدیک است. او در ادامه گفت آمودی دیوانه است.
لکان همچنین از اظهارات آمودی و «سم آلتمن»، مدیرعامل OpenAI، درباره احتمال نابودی انسان به‌دست هوش مصنوعی انتقاد کرد. به گفته او، اینکه این دو می‌گویند «هوش مصنوعی می‌تواند همه ما را بکشد»، برای عموم مردم که از این فناوری می‌ترسند، چنین صحبت‌هایی بسیار مخرب است. او چنین رویکردی را «بدترین کمپین بازاریابی ممکن» توصیف کرد.
او درباره آمودی گفت: «او صادق است. تلاش می‌کند بهترین کار را برای شرکت انجام دهد؛ شرکتی که به عرضه اولیه سهامش نزدیک است. اما اینکه بگوییم هوش مصنوعی برای قرار گرفتن در اختیار ما بیش‌ازحد خطرناک است، اینکه بگوییم باید تنظیم مقررات شود و اینکه مدل‌های متن‌باز بیش‌ازحد خطرناک هستند، این تسخیر مقرراتی است و اگر با اقدامات کنگره دنبال شود، اثر بسیار بدی خواهد داشت.»