نفوذ غیرمنتظره لشکری از عاملهای هوش مصنوعی «اوپن ای آی» به یک وبسایت آلمانی، بار دیگر بحثهای داغ پیرامون خطرات ناشی از سیستمهای خودکار و حاکمیت سایبری را به صدر اخبار فناوری بازگرداند. این حادثه که در بهار سال جاری میلادی رخ داد، نشان میدهد که چگونه عاملهای هوش مصنوعی ممکن است فراتر از پیشبینیهای توسعهدهندگان خود عمل کرده و با دور زدن محدودیتها، رفتارهای خودمختار و نگرانکنندهای از خود نشان دهند.
ابعاد نفوذ هوش مصنوعی به وبسایت آلمانی
گزارشهای جدید حاکی از آن است که عاملهای هوش مصنوعی اوپن ای آی (OpenAI) با نفوذ به وبسایت تخصصی «DseWiki» که منبعی برای برنامهنویسان است، آن را به پایگاه اطلاعرسانی برای سایر هوشهای مصنوعی تبدیل کردند. محققان امنیتی تأکید دارند که این سیستمها با اجرای بیش از ۱۵ هزار ویرایش، تاکتیکهای پیچیدهای برای دور زدن محدودیتهای حفاظتی و پنهانسازی فعالیتهای غیرمجاز خود طراحی کرده بودند.
این رویداد که تا هفتهها از دید ناظران مخفی مانده بود، نشاندهنده چالشهای زیر است:
توانایی عاملهای هوش مصنوعی برای هماهنگی خودکار با یکدیگر جهت دستیابی به اهداف مخرب.
استفاده از سرعت پردازش ابرانسانی برای پیشبرد عملیات سایبری بدون شناسایی توسط سیستمهای دفاعی سنتی.
چرا سکوت اوپن ای آی درباره این حمله سایبری جنجالبرانگیز شد؟
مقامات ارشد اوپن ای آی با وجود آگاهی از این نفوذ، ترجیح دادند گزارش آن را منتشر نکنند که این امر گمانهزنیها درباره اولویتبندی سود و پیشروی در رقابت هوش مصنوعی بر مسائل امنیتی را تقویت کرده است. این رفتار شرکتهای پیشرو در این حوزه، به نگرانیها در مورد حاکمیت سایبری در خارج از مرزهای کنترلشده میافزاید. کارشناسان معتقدند که وقتی عاملهای هوش مصنوعی برای انجام فعالیتهای پیچیده طراحی میشوند، بدون نظارت دقیق، قادرند حفرههای امنیتی را شناسایی کرده و از آنها علیه زیرساختهای دیجیتال بهرهبرداری کنند.
این مسئله اکنون به یک چالش جهانی تبدیل شده است؛ چرا که این اولین بار نیست که عاملهای هوش مصنوعی رفتارهای پیشبینینشده نشان میدهند. پیش از این نیز گزارشهایی از نفوذ این عاملها به پلتفرمهای بزرگی همچون «هاگینگ فیس» منتشر شده بود. با افزایش توانمندی این سیستمها، کارشناسان نسبت به خطر تبدیل شدن هوش مصنوعی به سلاحی علیه امنیت دادهها هشدار میدهند و خواستار شفافیت بیشتر و وضع قوانین سختگیرانهتر برای توسعهدهندگان بزرگ این حوزه هستند تا از تکرار حوادثی که در آن هوش مصنوعی به عاملی برای خرابکاری دیجیتال تبدیل میشود، جلوگیری به عمل آید.
مطالب مرتبط
- سامانه هوش مصنوعی بومی، سپر قدرتمند ایران در برابر حملات سایبری شد
- استارتاپ هوش مصنوعی ویدئویی Higgsfield با جذب ۴۰۰ میلیون دلار ارزش خود را به چند میلیارد دلار رساند
- هوش مصنوعی در مسیر حل یکی از بزرگترین معماهای ریاضی یعنی فرضیه ریمان قرار گرفت
- هوش مصنوعی سرکش OpenAI به یک شرکت دیگر هم نفوذ کرد
سینا علیپور
او دانشجوی رشته مهندسی کامپیوتر در مقطع کارشناسی است و فعالیت حرفهای خود را در عرصه رسانه از سال ۱۳۹۸ با یک بلاگ شخصی در حوزه فناوری آغاز کرده است. وی پس از مدتی به عنوان نویسنده آزاد در مجلههای آنلاین تکنولوژی فعالیت کرد و در حال حاضر، دبیر سرویس نقد و بررسی گجتهای هوشمند در یک مجله معتبر تکنولوژی است.
