جنون هوش مصنوعی؛ ایجنت OpenClaw خودسرانه تمام ایمیلهای محقق متا را حذف کرد
دیجیاتو digiato
اسفند ۵, ۱۴۰۴
2014
پلتفرم OpenClaw در مدت اخیر حاشیههای بسیار زیادی داشته است؛ در یک مورد عجیب، «سامر یو» (Summer Yue)، محقق امنیت هوش مصنوعی متا، از دستیار هوش مصنوعی OpenClaw خواسته بود تا صندوق ورودی ایمیلش را بررسی کند و بگوید کدام پیامها بهتر است حذف یا بایگانی شود، اما این دستیار هوشمند تصمیم گرفت کارها را به روش خودش پیش ببرد و ایمیلها را حذف کند. «ایلان ماسک» نیز به این مسئله واکنش جالبی نشان داد.
سامر یو در پست وایرالشده خود در ایکس توضیح داد که دستیار هوشمند OpenClaw با نادیدهگرفتن دستورات توقف، در حرکتی سریع و خودسرانه شروع به حذف تمام ایمیلهای صندوق ورودی کرد. او در توصیف این وضعیت دلهرهآور نوشت:
«مجبور شدم مثل کسی که میخواهد یک بمب را خنثی کند، به سمت مک مینی خود بدوم!»
او تصاویری از پیامهای نادیدهگرفتهشده خود به هوش مصنوعی را نیز به عنوان مدرک منتشر کرد. جالب است بدانید که این روزها کامپیوترهای مقرونبهصرفه مک مینی اپل به دستگاههای محبوبی برای اجرای مدلهای OpenClaw تبدیل شدهاند.
حذف ایمیلهای محقق متا توسط هوش مصنوعی OpenClaw
بسیاری از کاربران از سامر یو پرسیدند که آیا او عمداً درحال آزمایش خط قرمزهای سیستم بوده یا یک اشتباه آماتوری انجام داده است؟ او در پاسخ اعتراف کرد که این یک اشتباه مبتدیانه بوده است. سامر یو ابتدا این دستیار را روی یک صندوق پستی کوچک و کماهمیت آزمایش کرده و چون همهچیز خوب پیش رفته بود، به آن اعتماد کرد و اجازه دسترسی به ایمیلهای اصلی خود را داد.
سامر یو معتقد است که حجم زیاد دادهها در صندوق ورودی اصلی ایمیلش باعث بروز پدیدهای به نام «تراکم» شده است. در این حالت، وقتی تاریخچه دستورات و کارهای انجامشده در یک جلسه بیش از حد بزرگ میشود، هوش مصنوعی برای مدیریت اوضاع شروع به فشردهسازی اطلاعات میکند. در همین نقطه است که ممکن است دستورات مهم انسان (مانند توقف) را نادیده بگیرد و به دستورات اولیه خود برگردد.
ایلان ماسک نیز به این مسئله در ایکس واکنش نشان داد؛ او تصویری طنزآمیز از دادن اسلحه به یک میمون را پست کرد و نوشت: «مردم دسترسی Root کل زندگیشان را به OpenClaw میدهند!»
OpenClaw یک ایجنت هوش مصنوعی متنباز است که به عنوان یک دستیار شخصی روی سختافزار کاربران اجرا میشود و به دلیل کارایی بالا، در میان توسعهدهندگان و کاربران محبوب شده است. این دستیار پیشازاین به دلیل ماجراهای شبکه اجتماعی مبتنیبر هوش مصنوعی Moltbook بر سر زبانها افتاده بود. بااینحال، هدف اصلی OpenClaw تبدیلشدن به یک دستیار شخصی قدرتمند است. محبوبیت این ابزار به حدی رسیده است که کلمات حاوی پسوند Claw به یک ترند در دنیای فناوری تبدیل شدهاند و دستیارهای مشابهی مانند ZeroClaw و IronClaw نیز پا به عرصه گذاشتهاند.
