شرکت آنتروپیک، یکی از فعالان برجسته در حوزه هوش مصنوعی، اخیراً ویژگی تازه‌ای را به مدل‌های کلاد اوپوس ۴ و ۴.۱ اضافه کرده که به موجب آن، این مدل‌ها در صورت مواجهه با مکالمات مخرب یا سوءاستفاده‌گرانه، قادرند به‌صورت خودکار گفتگو را خاتمه دهند. این اقدام بخشی از تلاش‌های این شرکت برای ارتقای امنیت تعاملات دیجیتال و حفظ رفاه کاربران در فضای هوش مصنوعی است.
پایان خودکار مکالمات در شرایط بحرانی
بر اساس اطلاعیه رسمی منتشرشده در وب‌سایت آنتروپیک، این قابلیت تنها در موارد خاص و حساس فعال می‌شود؛ زمانی که گفتگو به سمت محتوای خطرناک یا غیرقانونی مانند درخواست‌های مرتبط با سوءاستفاده از افراد زیر سن قانونی، تحریک به خشونت یا اقدامات تروریستی سوق پیدا کند. در چنین شرایطی، اگر تلاش‌های مدل برای تغییر مسیر گفتگو بی‌نتیجه باشد و امکان تعامل سازنده از بین برود، مکالمه به‌طور کامل قطع خواهد شد.
حفظ تعامل سالم؛ اولویت اصلی آنتروپیک
آنتروپیک تأکید کرده است که این ویژگی به‌گونه‌ای طراحی شده تا تنها در موارد نادر و بسیار حساس فعال شود و اکثر کاربران حتی هنگام گفتگو درباره موضوعات چالش‌برانگیز، با قطع خودکار مکالمه مواجه نخواهند شد. هدف اصلی از این قابلیت، جلوگیری از گسترش محتوای آسیب‌زا و حفظ فضای امن برای کاربران است.
امکان آغاز مجدد گفتگو پس از قطع شدن
در صورتی که یک مکالمه توسط مدل‌های کلاد پایان یابد، کاربران دیگر نمی‌توانند در همان چت پیام جدیدی ارسال کنند. با این حال، امکان آغاز یک گفت‌وگوی تازه وجود دارد و کاربران می‌توانند با بازبینی پیام‌های قبلی، مسیر مکالمه را اصلاح کرده و تعامل جدیدی را آغاز کنند. این انعطاف‌پذیری به کاربران اجازه می‌دهد تا در صورت بروز اشتباه، تجربه خود را بهبود بخشند.
گامی در مسیر رفاه هوش مصنوعی
این قابلیت بخشی از برنامه تحقیقاتی آنتروپیک در زمینه «رفاه هوش مصنوعی» است؛ مفهومی که به بررسی تأثیرات روانی و اجتماعی تعامل با مدل‌های هوشمند می‌پردازد. در حالی که بحث‌های گسترده‌ای درباره انسانی‌سازی هوش مصنوعی در جریان است، آنتروپیک این ویژگی را راهکاری کم‌هزینه و مؤثر برای مدیریت ریسک‌های احتمالی در تعاملات دیجیتال معرفی کرده است.
دعوت به مشارکت کاربران در بهبود سیستم
آنتروپیک اعلام کرده که این قابلیت هنوز در مرحله آزمایشی قرار دارد و از کاربران خواسته تا در صورت مواجهه با قطع خودکار مکالمه، بازخورد خود را ارائه دهند. این مشارکت می‌تواند به بهینه‌سازی عملکرد مدل‌ها و افزایش دقت در تشخیص موقعیت‌های حساس کمک کند.
با توجه به رشد سریع فناوری‌های هوش مصنوعی، چنین اقدامات پیشگیرانه‌ای می‌تواند نقش مهمی در شکل‌دهی به آینده‌ای امن‌تر و مسئولانه‌تر در فضای دیجیتال ایفا کند.
سینا علیپور
او دانشجوی رشته مهندسی کامپیوتر در مقطع کارشناسی است و فعالیت حرفه‌ای خود را در عرصه رسانه از سال ۱۳۹۸ با یک بلاگ شخصی در حوزه فناوری آغاز کرده است. وی پس از مدتی به عنوان نویسنده آزاد در مجله‌های آنلاین تکنولوژی فعالیت کرد و در حال حاضر، دبیر سرویس نقد و بررسی گجت‌های هوشمند در یک مجله معتبر تکنولوژی است.
