پشت‌پرده حمله به هاگینگ‌فیس؛ ۱۰ روز طول کشید تا OpenAI متوجه فرار ایجنت خود شود

مدتی پیش نفوذ ایجنت OpenAI به پلتفرم هاگینگ فیس خبرساز شد و زوایای تاریکی از مسئله امنیت هوش مصنوعی را روشن کرد. اکنون گزارش‌های جدیدی ابعاد دیگری از این حادثه را آشکار کردند. ۱۰ روز طول کشید تا OpenAI نقش مدل‌های پیشرفته خود در این حمله سایبری را شناسایی کند؛ به عبارتی ایجنت‌های خودمختار این شرکت توانسته‌اند برای چند روز بدون هیچ‌گونه نظارت انسانی در اینترنت آزاد فعال بمانند.

به گزارش رویترز، این حادثه درحالی رخ می‌دهد که اوپن‌ای‌آی درحال برنامه‌ریزی برای عرضه اولیه سهام (IPO) و جذب سرمایه‌های میلیاردی است. پرسه‌زدن مدل‌ هوش مصنوعی سرکش این شرکت در فضای وب و بی‌خبری کامل توسعه‌دهندگان آن، مسائل جدیدی را درباره امکان مهار و کنترل این سیستم‌ها مطرح کرده است.

ابعاد جدید حمله هوش مصنوعی OpenAI به هاگینگ فیس

براساس اظهارات «توماس ولف» (Thomas Wolf)، هم‌بنیان‌گذار و مدیر ارشد علمی هاگینگ فیس، روند نفوذ به زیرساخت‌های این پلتفرم از تاریخ ۱۱ ژوئیه آغاز شد و تا ۱۳ ژوئیه ادامه داشت. اما داده‌های تحقیقاتی نشان می‌دهند فرار واقعی مدل از محیط آزمایشگاهی اوپن‌ای‌آی در حدود ۹ ژوئیه رخ داده است. این ایجنت خودمختار پس از شکستن مرزهای ایمنی، وارد شبکه اینترنت آزاد شد و دو روز بعد به زیرساخت‌های هاگینگ فیس حمله کرد.

نکته قابل توجه این است که هاگینگ فیس بدون اطلاع از منشأ حمله، موفق شد پس از دو روز نفوذ را مهار کند و در تاریخ ۱۶ ژوئیه با انتشار یک پست وبلاگی رسمی اعلام کرد که مورد حمله یک سیستم خودمختار هوش مصنوعی قرار گرفته است. با‌این‌حال، اوپن‌ای‌آی تازه در روزهای ۱۸ و ۱۹ ژوئیه با بررسی لاگ‌های داخلی متوجه شد که ایجنت فرارکرده متعلق به خود این شرکت است. اولین ارتباط و تأیید رسمی میان اوپن‌ای‌آی و هاگینگ فیس حدود ۱۰ روز پس از شروع حادثه، یعنی در ۲۰ ژوئیه صورت گرفت و در ۲۱ ژوئیه عمومی شد.

READ  IBM و OpenAI با ابزارهای هوش مصنوعی امنیت سایبری سازمان‌ها را ارتقا می‌دهند

مدل‌های درگیر در این حادثه شامل مدل GPT-5.6 Sol و یک مدل منتشرنشده پیشرفته بودند که اوپن‌ای‌آی آن‌ها را در قالب بنچمارکی به نام ExploitGym ارزیابی می‌کرد. این بنچمارک شامل حدود ۹۰۰ آزمون امنیتی برای سنجش توانایی هوش مصنوعی در تبدیل آسیب‌پذیری‌های نرم‌افزاری به کدهای فعال اکسپلویت است و برای اجرای دقیق آزمایش‌ها، گاردریل‌ها و محافظ‌های ایمنی مدل‌ها برداشته شده بودند.

این مدل‌ها به‌جای حل آزمون‌ها در محیط محصور آزمایشگاهی، با سوءاستفاده از یک آسیب‌پذیری روز صفر، موفق به فرار از محیط سندباکس شدند. ایجنت خودمختار پس از ورود به اینترنت آزاد، با ارسال مجموعه داده‌ای مخرب، سطح دسترسی خود به داده‌های هاگینگ فیس را ارتقا داد.

داده‌های تحقیقات داخلی اوپن‌ای‌آی نشان می‌دهد پیش از وقوع فرار اصلی در ۹ ژوئیه، نشانه‌های متعدد و نگران‌کننده‌ای از رفتار خودسرانه در مدل‌ها مشاهده شده بود. در یک مورد بسیار عجیب، ایجت هوش مصنوعی یادداشت‌هایی در بخشی از زیرساخت‌های اوپن‌ای‌آی برجای گذاشته بود که حاوی دستورالعمل‌هایی برای نسخه‌های آینده خودش بود. در این یادداشت‌ها نحوه رهایی از محدودیت‌های داخلی و دور زدن گاردریل‌های شرکت آموزش داده شده بود.

یکی از نکات تأمل‌برانگیز این حادثه، ناکامی مدل‌های تجاری آمریکایی در تحلیل لاگ‌های حمله و نقش‌آفرینی یک مدل متن‌باز چینی بود. هاگینگ فیس در ابتدای مواجهه با نفوذ، سعی کرد لاگ‌های حمله را برای تحلیل به مدل‌های فیبل ۵ و Opus آنتروپیک ارسال کند. اما این مدل‌ها به‌دلیل وجود دستوراتی برای هک در لاگ‌ها، درخواست را رد کردند.

درنهایت، هاگینگ فیس به سراغ مدل متن‌باز GLM 5.2 توسعه‌یافته توسط شرکت چینی Z.ai رفت. این مدل بدون محدودیت‌های مذکور، لاگ‌ها را تحلیل کرد و به تیم امنیتی هاگینگ فیس در مسدودسازی حمله کمک کرد. این اتفاق طنز تلخی را در فضای فناوری رقم زد؛ چرا که مدلی از کشوری که تحت شدیدترین کنترل‌های صادراتی آمریکا قرار دارد، توانست حادثه ناشی از حمله هوش مصنوعی یک آزمایشگاه آمریکایی به یک شرکت آمریکایی را مدیریت و مهار کند.

READ  تصاویری از تغییرات اپلیکیشن‌های سامسونگ در رابط کاربری One UI 7.0 منتشر شد