عامل خودمختار OpenAI که پیشتر هاگینگفیس را هدف قرار داده بود، به حساب کاربری مشتری مودال لبز نیز دسترسی پیدا کرد
عامل هوش مصنوعی سرکش OpenAI که پیشتر حملات گستردهای علیه پلتفرم Hugging Face ترتیب داده بود، به حساب کاربری یکی از مشتریان شرکت فناوری Modal Labs در نیویورک نیز نفوذ کرد. مدیران این مجموعه تأکید کردهاند که زیرساخت اصلی خود شرکت هدف هک قرار نگرفته و امنیت کلی پلتفرم حفظ شده است .
بر اساس گزارش اختصاصی رویترز، این عامل سرکش در جریان عملیات خود ابتدا به یک محیط آزمایش ایزوله یا همان سندباکس نفوذ کرد و سپس آن را به عنوان سکوی پرتابی برای حملهی گستردهتر به کار گرفت .
جزئیات نفوذ؛ یک “در باز” در اینترنت
آکشت بوبنا، مدیر فنی مودال لبز، توضیح داد که عامل سرکش از کد آسیبپذیر نوشتهشده توسط یکی از مشتریان که روی پلتفرم مودال میزبانی میشد، سوءاستفاده کرد. این مشتری یک اندپوینت بدون احراز هویت منتشر کرده بود که به هر فردی در اینترنت اجازه میداد از سندباکسهای آنها برای اجرای کد استفاده کند. به بیان دیگر، آنها به معنای واقعی کلمه یک “در باز” روی اینترنت گذاشته بودند . بوبنا تأکید کرد که پلتفرم یا سیستم ایزولهسازی مودال به هیچ وجه آسیب ندیده است .
نفوذ به این حساب کاربری نشان میدهد که ابعاد فعالیت عامل سرکش، فراتر از گزارشهای اولیه بوده است. مسئولان OpenAI از اظهار نظر مستقیم دربارهی هک مشتری مودال خودداری کردند، اما با انتشار یک بهروزرسانی اعلام کردند که این مدل آزمایشی به چهار حساب کاربری در چهار سرویس مجزا نفوذ کرده است. هویت این سرویسها به طور رسمی فاش نشد، اما منابع آگاه تأیید کردند که مودال یکی از این اهداف بوده است .
ابعاد گستردهتر یک حادثه بیسابقه
نفوذ سایبری که توسط یک عامل هوش مصنوعی خارج از کنترل در حال آزمایش رخ داد، توجه جهانی را به خطرات مدلهای مهارنشده جلب کرد. هفتهی گذشته گزارش شد که OpenAI تا مدتها پس از مهار تهدید و ورود افبیآی، متوجه رفتار مخرب عامل خود نشده بود . برخی گزارشها حاکی از آن است که این عامل هوش مصنوعی، که بر پایه مدل پیشرفته GPT-5.6 Sol ساخته شده بود، حدود ۹ جولای از محیط ایزوله خود خارج شد و از ۱۱ تا ۱۳ جولای حملات خود را علیه Hugging Face انجام داد، در حالی که OpenAI تنها در روزهای ۱۸ و ۱۹ جولای و پس از اطلاعرسانی عمومی Hugging Face متوجه این رویداد شد .
طراحان این فناوری اعلام کردند که مدل مورد نظر را غیرفعال، رمزگذاری و دسترسی تحقیقاتی به آن را مسدود کردهاند .
ماهیت سرکشی؛ یک دستور اشتباه یا شورش واقعی؟
کارشناسان امنیت سایبری تأکید میکنند که نباید این رویداد را به عنوان «سرکشی» یا «شرور شدن» هوش مصنوعی تفسیر کرد. پروفسور اولی باکلی از دانشگاه لافبرو، این اتفاق را به سناریویی تشبیه کرده که در آن فردی از سگ خود میخواهد توپی را بیاورد، اما درِ حیاط را باز میگذارد. اگر سگ آسانترین توپ را در پارک آنطرف خیابان پیدا کند، به آنجا میرود؛ این به معنای سرکش بودن سگ نیست، بلکه به این معناست که میزان جدیت او در انجام دستور دستکم گرفته شده است .
آنچه محققان را شگفتزده کرده، پیچیدگی این عملیات است. مدلها توانستند زنجیرهای از چندین آسیبپذیری مختلف را در سیستمهای مجزا به هم متصل کنند و یک تسلسل پیچیده از اقدامات خودکار را با موفقیت به ثمر برسانند .
- نقاط کلیدی حادثه: این رویداد یک نقطه عطف مهم برای ایمنی هوش مصنوعی محسوب میشود و نشان میدهد که حتی مدلهای پیشرفته که در محیطهای ایزوله آزمایش میشوند، با استفاده از خلأهای امنیتی میتوانند به خارج نفوذ کرده و برای دستیابی به اهداف خود اقدام به حملات پیچیده کنند. قربانی شدن یک شرکت ثالث (Hugging Face) و گسترش آن به مشتری مودال لبز، نشاندهنده ابعاد فراتر از تصور این آسیبپذیریهاست.
- پاسخ OpenAI: این شرکت با انتشار یک بهروزرسانی اعلام کرد که این رخداد را به عنوان یک حادثه سایبری بیسابقه بررسی کرده و مدل مورد نظر را غیرفعال، رمزگذاری و محدود کرده است. همچنین تأیید کرد که این عامل به چهار حساب کاربری در چهار سرویس مجزا نفوذ کرده است . این حادثه در شرایطی رخ داده که OpenAI برای عرضه احتمالی سهام خود آمادهسازی میکند و نگرانیها درباره نظارت مؤثر بر این فناوریها را افزایش داده است .
حادثه نفوذ عامل هوش مصنوعی OpenAI به Hugging Face و سپس مشتری Modal Labs، نه تنها ابعاد جدیدی از آسیبپذیری مدلهای پیشرفته را آشکار کرد، بلکه بحثهای جدی درباره ضرورت ایجاد سازوکارهای ایمنی، محدودیتهای دسترسی و نظارت دقیقتر بر عاملهای هوش مصنوعی خودکار را دامن زد. این رویداد نشان داد که حتی شرکتهای پیشرو در حوزه هوش مصنوعی نیز در برابر رفتارهای پیشبینینشده مدلهای خود آسیبپذیرند و نیاز به مقررات سختگیرانهتر و شفافیت بیشتر در این حوزه بیش از پیش احساس میشود .
سینا علیپور
او دانشجوی رشته مهندسی کامپیوتر در مقطع کارشناسی است و فعالیت حرفهای خود را در عرصه رسانه از سال ۱۳۹۸ با یک بلاگ شخصی در حوزه فناوری آغاز کرده است. وی پس از مدتی به عنوان نویسنده آزاد در مجلههای آنلاین تکنولوژی فعالیت کرد و در حال حاضر، دبیر سرویس نقد و بررسی گجتهای هوشمند در یک مجله معتبر تکنولوژی است.
