شرکت آنتروپیک با انتشار هشداری رسمی از نزدیک شدن هوش مصنوعی به مرحله خودبهبودی خبر داد

شرکت آنتروپیک، سازنده مدل هوش مصنوعی «کلود»، در گزارش‌های اخیر خود نسبت به وقوع تغییرات بنیادین در فرآیند توسعه فناوری‌های نوین هشدار داد. بر اساس تحلیل‌های این شرکت، هوش مصنوعی در حال رسیدن به نقطه‌ای است که می‌تواند سرعت توسعه و ارتقای نسل‌های بعدی خود را به شکلی جهشی افزایش دهد.

خطر خودبهبودی هوش مصنوعی و شتاب‌گیری بی‌سابقه فناوری

مفهوم «خودبهبودی بازگشتی» (Recursive Self-Improvement) به وضعیتی اشاره دارد که در آن یک سیستم هوش مصنوعی، آن‌قدر در یادگیری و کدنویسی پیشرفته می‌شود که می‌تواند کدهای اصلی و زیرساخت‌های خود را بازنویسی و بهینه کند. آنتروپیک در اسناد عرضه اولیه سهام خود به کمیسیون بورس و اوراق بهادار آمریکا اعلام کرد که این فرآیند می‌تواند فاصله میان هر نسل از مدل‌ها را به حداقل برساند و توانمندی‌های آن‌ها را به سطحی برساند که پیش‌بینیِ خروجی‌های آن برای انسان بسیار دشوار باشد.

چالش‌های امنیتی در دوران هوش مصنوعی خودبهبوددهنده

این گزارش تأکید می‌کند که شتاب گرفتن توسعه مدل‌ها توسط خودِ هوش مصنوعی، می‌تواند سرعت پیشرفت را از توانایی تیم‌های نظارتی برای پیاده‌سازی پروتکل‌های ایمنی پیشی دهد. به عبارت دیگر، سرعت یادگیری ماشین ممکن است به مرحله‌ای برسد که نظارت‌های انسانی نتوانند پابه‌پای آن، ریسک‌ها و پیامدهای امنیتی را کنترل کنند.

در همین راستا، می‌توان به دو چالش عمده اشاره کرد:

ناتوانی در تشخیص و پیش‌بینی شتابِ غیرمنتظره در هوش مصنوعی که می‌تواند منجر به بروز رفتارهای ناخواسته در مدل‌ها شود.

تضعیف نقش و کنترل انسانی بر فرآیند تکامل سیستم‌های هوشمند که عملاً می‌تواند مدیریت این فناوری را از دستان شرکت‌های سازنده خارج کند.

اگرچه آنتروپیک خاطرنشان کرده است که هنوز هیچ‌یک از مدل‌های فعلی‌اش به مرز «خودبهبودی خودمختار» نرسیده‌اند، اما اذعان داشته که در گذشته نیز افزایش ناگهانی توانمندی برخی مدل‌ها را تا پس از وقوع آن تشخیص نداده بود. در حال حاضر، این شرکت در حال بازنگری در سیاست‌های ایمنی خود است تا اطمینان حاصل کند که انسان در تمامی مراحل طراحی و تولید نسل‌های آینده، نقش کلیدی و هدایت‌گر را حفظ خواهد کرد. با وجود این هشدارهای جدی، برخی کارشناسان معتقدند این اظهارات ممکن است بخشی از استراتژی‌های مدیریتی برای جلب توجه بیشتر به پیشرفت‌های تکنولوژیک باشد.

مجله تکنولوژی هارپی تک

مطالب مرتبط

سینا علیپور

سینا علیپور

او دانشجوی رشته مهندسی کامپیوتر در مقطع کارشناسی است و فعالیت حرفه‌ای خود را در عرصه رسانه از سال ۱۳۹۸ با یک بلاگ شخصی در حوزه فناوری آغاز کرده است. وی پس از مدتی به عنوان نویسنده آزاد در مجله‌های آنلاین تکنولوژی فعالیت کرد و در حال حاضر، دبیر سرویس نقد و بررسی گجت‌های هوشمند در یک مجله معتبر تکنولوژی است.