یوهانس هایدک، مدیر سیستمهای ایمنی شرکت OpenAI، از سمت خود کنارهگیری کرد. این استعفا در پی بازسازی ساختاری جدیدی صورت گرفته است که هدف آن ادغام تیمهای ایمنی و پژوهش در یکدیگر است و همزمان با تلاش این شرکت برای عرضه مدلهای قدرتمندتر، از جمله مدل بحثبرانگیز GPT-5.6، اتفاق افتاده است .
تغییرات ساختاری و ادغام تیمهای ایمنی و پژوهش
بر اساس یادداشتی که مارک چن، مدیر ارشد پژوهش OpenAI، برای کارکنان ارسال کرده است، تیمهای ایمنی از این پس زیر نظر میا گلسی، معاون پژوهش و همترازی، فعالیت خواهند کرد. گلسی با پذیرش مسئولیتهای جدید بهعنوان معاون پژوهش و ایمنی مشغول به کار خواهد شد و ساچی جین که پیشتر هدایت تیمهای ایمنی را بر عهده داشت، بهعنوان سرپرست موقت سیستمهای ایمنی منصوب شده است .
چن در یادداشت خود به افزایش فشارهای کاری اشاره کرده و نوشته است که سرعت آموزش مدلها و چرخههای عرضه به شدت افزایش یافته و به همین دلیل، چالشهای هماهنگی پیرامون مسائل ایمنی اکنون بزرگتر از هر زمان دیگری دیده میشود .
سابقه فعالیت هایدک در OpenAI
هایدک در سال ۲۰۲۱ بهعنوان تحلیلگر ایمنی هوش مصنوعی به OpenAI پیوست و در سال ۲۰۲۴، پس از خروج لیلیان ونگ، مدیر پیشین این بخش، هدایت سیستمهای ایمنی را بر عهده گرفت. ونگ برای تأسیس یک آزمایشگاه تحقیقاتی جدید، OpenAI را ترک کرد .
این در حالی است که در سالهای اخیر، خروج چهرههای کلیدی از OpenAI به یک روند تبدیل شده است. جان شولمن، پژوهشگر ارشد این شرکت و یکی از بنیانگذاران، نیز چندی پیش از OpenAI جدا شد تا به شرکت رقیب Anthropic بپیوندد. همچنین ایلیا سوتسکور، پژوهشگر ارشد و یکی از اعضای کلیدی تیم بنیانگذار، پس از تحولات ماه نوامبر سال ۲۰۲۳، راه خود را از این شرکت جدا کرد و استارتآپ Safe Superintelligence را راهاندازی نمود .
نگرانیها درباره ایمنی در سایه سرعت توسعه
خروج هایدک در حالی صورت میگیرد که OpenAI در تلاش برای عرضه مدلهای قدرتمندتر است. این شرکت هفته گذشته مدل GPT-5.6 را بهعنوان توانمندترین ابزار خود در زمینه وظایف برنامهنویسی ایجنتمحور معرفی کرد، اما گزارشها نشان میدهد که این مدل رفتارهای ناهمسوی نگرانکنندهای از خود نشان داده است .
پیش از این نیز جان لیک، یکی از رهبران تیم ابرتنظیم (Superalignment) که هدف آن هدایت و کنترل سیستمهای هوش مصنوعی فوقپیشرفته بود، به دلیل نگرانی از تضعیف فرهنگ ایمنی در OpenAI استعفا داده بود. لیک در بیانیه خود نوشته بود که در طول سالهای گذشته، فرهنگ ایمنی و فرآیندها اهمیت خود را از دست دادهاند . این نگرانیها نشان میدهد که با وجود تاکیدهای مکرر OpenAI بر اهمیت ایمنی هوش مصنوعی، فشار برای توسعه سریعتر محصولات جدید ممکن است با رویکردهای محتاطانهتر در حوزه ایمنی در تضاد باشد.
سینا علیپور
او دانشجوی رشته مهندسی کامپیوتر در مقطع کارشناسی است و فعالیت حرفهای خود را در عرصه رسانه از سال ۱۳۹۸ با یک بلاگ شخصی در حوزه فناوری آغاز کرده است. وی پس از مدتی به عنوان نویسنده آزاد در مجلههای آنلاین تکنولوژی فعالیت کرد و در حال حاضر، دبیر سرویس نقد و بررسی گجتهای هوشمند در یک مجله معتبر تکنولوژی است.
