پدرخوانده هوش مصنوعی خواستار نهادی مانند سازمان غذا و دارو برای تأیید مدل‌های جدید شد
دیجیاتو digiato
مهر ۱۵, ۱۴۰۵
0014
«جفری هینتون»، دانشمند علوم کامپیوتر، برنده جایزه نوبل و فردی که با عنوان «پدرخوانده هوش مصنوعی» شناخته می‌شود، پیشنهاد کرده که شرکت‌های توسعه‌دهنده هوش مصنوعی باید با چیزی شبیه آنچه پیش روی داروسازان قرار دارد مواجه شوند. او معتقد است این شرکت‌ها باید پیش از عرضه عمومی محصولات خود، نهادهای رگولاتوری و ناظر را از ایمن بودن فناوری‌هایشان مطمئن کنند.
هینتون در پادکست «دختر باهوش سؤالات احمقانه» (Smart Girl Dumb Questions) در گفت‌وگو با مجری برنامه، «نعیمه رضا»، گفت:
«شما اجازه ندارید به‌سادگی یک داروی جدید بسازید و آن را وارد بازار کنید. باید سازمان غذا و دارو (FDA) را متقاعد کنید؛ و برای انجام این کار، باید تلاش زیادی صورت بگیرد که حدود ۱ میلیارد دلار هزینه دارد. به نظر می‌رسد این حداقل کاری است که باید برای هوش مصنوعی انجام دهیم.»
لزوم اعمال نظارت بر ایمنی هوش مصنوعی
راهکار پیشنهادی هینتون برای مباحث پیرامون ایمنی هوش مصنوعی، پس از پیش‌بینی‌های متعدد درباره فجایع احتمالی آینده این فناوری و همچنین پس از تصمیم شرکت OpenAI برای کنار گذاشتن جدیدترین مدل خود مطرح می‌شود؛ مدلی که آزمایش‌های انجام‌شده روی آن نگرانی‌هایی درباره میزان اطاعت از دستورهای کاربران و ماندن در چارچوب اختیارات تعیین‌شده به وجود آورده بود. پیش از این، «ساچی جِین»، مدیر سیستم‌های ایمنی OpenAI اعلام کرده بود که مدل GPT-6.1 Astra در پایداری و حل وظایف دشوار عملکرد بهتری داشته، اما در زمینه سطح دسترسی‌ها و ارائه گزارش دقیق از عملکردهای خود ناکام مانده است.
هینتون با اشاره به فرایند پیشرفت فعلی افزود که هوش مصنوعی اکنون بیشتر از قبل به بهبود خودش کمک می‌کند و این موضوع می‌تواند هم قابلیت‌ها و هم خطرات آن را سرعت ببخشد. او می‌گوید:
«رشدهای تصاعدی با سرعت بسیار بالایی رخ می‌دهند. ما اکنون شاهد آغاز خودبهبودی بازگشتی هستیم، چرا که از هوش مصنوعی برای ارتقای خودش به روش‌های گوناگون استفاده می‌شود.»
پدرخوانده هوش مصنوعی در پایان صحبت‌هایش گفت:
«این تنها یک حدس است، اما گمان می‌کنم ۱ یا ۲ سال دیگر زمان داریم پیش از آنکه اوضاع بسیار وخیم‌تر از شرایط کنونی شود.»
