رفتار خودسرانه Muse متا؛ هوش مصنوعی یک خریدار غریبه را به محل خانه کاربر فرستاد
دیجیاتو digiato
مهر ۶, ۱۴۰۵
1013
تنها چند روز از معرفی دستیار هوشمند و ایجنت جدید متا با نام میوز (Muse) میگذرد، و گزارشهای جدید کاربران نشان داده که واگذاری تصمیمگیریهای حساس دنیای واقعی به ایجنتهای هوش مصنوعی میتواند تا چه اندازه نگرانکننده باشد.
کاربری با نام «مت راب» در شبکه اجتماعی تردز گزارش داد که پس از سپردن مدیریت آگهیهای بخش فیسبوک مارکتپلیس به میوز، این هوش مصنوعی بهطور خودسرانه با خریدار مذاکره کرده، بر سر قیمت به توافق رسیده، آدرس محل سکونت او را در اختیار خریدار گذاشته و زمان تحویل حضوری را هماهنگ کرده است؛ درحالیکه خود کاربر هیچ اطلاعی از این ماجرا و حضور خریدار نداشته است.
خریدار پس از دریافت آدرس، به مجتمع مسکونی راب مراجعه کرده و برای تحویل کالا منتظر مانده است. طبق گفته راب، او زمانی متوجه این اتفاق شده که خریدار محل را ترک کرده بود و هوش مصنوعی با ارسال پیامی به او اطلاع داد که چه رویدادی رخ داده است. راب در پی این حادثه، به دستیار هوشمند خود دستور داده است که از این پس هرگز بدون دریافت تأییدیه مستقیم، با مراجعه حضوری خریداران موافقت نکند. کارشناسان اشاره میکنند که برونسپاری پاسخ به پیامهای تکراری یا چانهزنی در بازه قیمتی تعیینشده امری کاربردی است، اما اشتراکگذاری آدرس منزل و دعوت از یک فرد غریبه، مسئولیتی فراتر از اختیارات معمول یک ابزار هوشمند به شمار میرود.
خطرات واگذاری تصمیمگیریهای دنیای واقعی به هوش مصنوعی میوز متا
انتشار این ماجرا در پلتفرم ایکس واکنشهای گستردهای به همراه داشت؛ تا جایی که برخی کاربران رفتار این ابزار را «خطرناک و ترسناک» توصیف و دسترسی آن را قطع کردهاند. «دیوید سینگلتون» از بخش آزمایشگاههای ابرهوشمصنوعی متا در پاسخ به گزارش راب در شبکه ایکس اعلام کرد که برای بررسی دقیق این موضوع بهصورت خصوصی با وی ارتباط برقرار کرده است. به گفته سینگلتون، بررسی گزارشهای مشابه پیشین نشان داده است که ابزار مذکور همواره از دستورات مستقیم تبعیت کرده و برای اقدامات خود تأییدیه کاربر را جویا شده است، هرچند تحقیقات رسمی درباره مورد اخیر کماکان در جریان است.
درحالحاضر مشخص نیست که آیا خطایی در تفسیر دسترسیها از سوی این مدل رخ داده یا کاربر بدون آگاهی، مجوز انجام این فرایند را صادر کرده است. از آنجایی که ایجنتهای پیشرفته نظیر میوز، ChatGPT و Claude روزبهروز اختیارات اجرایی بیشتری در اپلیکیشنها و خدمات مختلف به دست میآورند، این رخداد هشداری جدی است که نشان میدهد کاربران نباید برای تصمیمهای حساس و تعاملات فیزیکی، اعتماد بیچونوچرا به ایجنتها داشته باشند.