OpenAI تیم سنجش خطرات فاجعهبار هوش مصنوعی را منحل کرد
دیجیاتو digiato
مرداد ۲۶, ۱۴۰۵
008
شرکت OpenAI در پایان ماه گذشته میلادی تیم سنجش آمادگی (Preparedness) خود را منحل کرده است. وظیفه اصلی این تیم بررسی خطرات جدی و فاجعهبار مدلهای هوش مصنوعی و توسعه راهحلهایی برای مهار این خطرات، نظیر رفتارهای پیشبینینشده یا حملات سایبری به دیگر شرکتها، بوده است. با این تصمیم، مسئولیتهای این بخش تفکیک شده و حوزههای مشخصی مانند تهدیدات زیستی و سایبری به تیمهای موجود دیگر واگذار شده است.
تغییر ساختار ایمنی OpenAI در آستانه عرضه اولیه سهام
این اقدام تازهترین تحول ساختاری در شرکتی محسوب میشود که در آستانه عرضه اولیه سهام (IPO) با تغییرات گستردهای همراه شده است. طی چند سال اخیر، این شرکت ساختار اولیه مبتنیبر پژوهشهای بنیادی خود را کنار گذاشته و پیشتر نیز تیمهای آمادگی AGI و Superalignment را منحل کرده بود. علاوهبراین، چندین چهره ارشد ایمنی آن از جمله «کلویی باکالار» مدیر بخش اخلاق، «جاش آکیام» آیندهپژوه ارشد و «یوهانس هایدکه» مدیر ایمنی، این مجموعه را ترک کردهاند.
این تغییرات باعث شده برخی منتقدان، از جمله «یان لایکه» که در سال ۲۰۲۴ از این شرکت جدا شد، اعلام کنند که اولویتهای ایمنی فدای تولید «محصولات جذاب» شده است.
«دیلن اسکاندینارو»، مدیر تیم سنجش آمادگی که در ماه فوریه از شرکت آنتروپیک جذب شده بود، با ساختار جدید به پژوهش روی پیامدها و خطرات هوش مصنوعی با تمرکز روی «خودبهبودبخشی بازگشتی» خواهد پرداخت؛ یعنی سامانههایی که توانایی بهینهسازی خودکار و آموزش مدلهای دیگر را دارند.
