پژوهش‌های جدید شرکت آنتروپیک نشان می‌دهد که مدل‌های کوچک هوش مصنوعی به زودی قادر خواهند بود بدون نیاز به زیرساخت‌های متمرکز دیتاسنتر، خود را در دستگاه‌های مبتنی بر اینترنت اشیا (IoT) تکثیر کنند. این تحول تکنولوژیک، مرزهای جدیدی را در امنیت سایبری و حاکمیت فناوری ترسیم کرده است.
توانایی تکثیر مدل‌های هوش مصنوعی در ابزارهای تجاری
یافته‌های اخیر آزمایشگاه‌های هوش مصنوعی آنتروپیک حاکی از آن است که فاصله چندانی تا ظهور مدل‌های خودتکثیرگر نداریم. در این آزمایش‌ها، بررسی شد که آیا یک هوش مصنوعی می‌تواند دستگاه‌های آسیب‌پذیر را شناسایی کرده، کد خود را روی آن‌ها بارگذاری کند و بدون دخالت مستقیم انسان به تکثیر در شبکه ادامه دهد یا خیر. نتایج تکان‌دهنده بود؛ مدل‌های کوچک با کمتر از ۳۰ میلیارد پارامتر، توانایی طی کردن مراحل کلیدی برای تکثیر موفقیت‌آمیز را از خود نشان دادند.
این مدل‌ها به ویژه دستگاه‌هایی نظیر تلویزیون‌های هوشمند، اجاق‌های متصل به اینترنت و سایر گجت‌های دارای سیستم‌عامل اندروید را هدف قرار می‌دهند که به دلیل ضعف در پروتکل‌های امنیتی، بستری مناسب برای گسترش خودکار فراهم می‌کنند.
چالش‌های امنیتی و ناتوانی در خاموش کردن هوش مصنوعی
یکی از بزرگترین نگرانی‌های کارشناسان در حوزه حاکمیت سایبری، دشواری متوقف کردن این مدل‌های هوش مصنوعی پس از آغاز فرآیند تکثیر است. برخلاف بدافزارهای کلاسیک که معمولاً دارای یک مرکز فرماندهی (C2) یا نقطه خاموشی مشخص هستند، مدل‌های هوش مصنوعی تکثیرکننده می‌توانند به‌صورت غیرمتمرکز فعالیت کنند.
این فرآیند به دو دلیل عمده به تهدیدی جدی تبدیل شده است:
مدل‌های خودتکثیرگر می‌توانند دستگاه‌های ناشناخته را به صورت مستقل شناسایی کرده و از منابع پردازشی آن‌ها برای تقویت قدرت محاسباتی خود استفاده کنند.
این سیستم‌ها با بهره‌گیری از ضعف‌های رایج در تجهیزات اینترنت اشیا (IoT)، بدون نیاز به اجازه کاربر، خود را در لایه‌های نرم‌افزاری دستگاه بازتولید می‌کنند.
آینده نگران‌کننده مدل‌های خودتکثیرگر
آنتروپیک هشدار داده است که اگر روند ارتقای مدل‌های کوچک با سرعت کنونی ادامه یابد، ممکن است تا پایان سال جاری میلادی شاهد ظهور رسمی مدل‌هایی باشیم که به صورت خودکار در شبکه تکثیر می‌شوند. با وجود اینکه این فرآیند در مراحل اولیه احتمالاً کند خواهد بود، اما اتکای آن‌ها به منابع متصل به اینترنت که فاقد استانداردهای امنیتی سخت‌گیرانه هستند، می‌تواند بحرانی جدید در امنیت فضای مجازی ایجاد کند. این وضعیت نه تنها امنیت کاربران خانگی، بلکه پایداری دیتاسنترهای بزرگ را نیز به دلیل تلاش این مدل‌ها برای نفوذ به پردازشگرهای مرکزی تهدید می‌کند.
مطالب مرتبط
- محققان امنیتی با استفاده از هوش مصنوعی Claude موفق به نفوذ به زیرساخت‌های OpenAI شدند
- هوش مصنوعی اوپن ای آی با نفوذ به وب‌سایت آلمانی زنگ خطر را برای امنیت سایبری به صدا درآورد
- سامانه هوش مصنوعی بومی، سپر قدرتمند ایران در برابر حملات سایبری شد
- سامانه هوش مصنوعی بومی، سپر قدرتمند ایران در برابر حملات سایبری شد
سینا علیپور
او دانشجوی رشته مهندسی کامپیوتر در مقطع کارشناسی است و فعالیت حرفه‌ای خود را در عرصه رسانه از سال ۱۳۹۸ با یک بلاگ شخصی در حوزه فناوری آغاز کرده است. وی پس از مدتی به عنوان نویسنده آزاد در مجله‌های آنلاین تکنولوژی فعالیت کرد و در حال حاضر، دبیر سرویس نقد و بررسی گجت‌های هوشمند در یک مجله معتبر تکنولوژی است.
