منابع آگاه میگویند OpenAI در جریان بررسیهای گسترده پیرامون حادثه اخیر نفوذ به پلتفرم هاگینگ فیس و Modal Labs، شواهد دیگری از خروج و فرار ایجنتهای خودکار خود از محیطهای آزمایشی ایزوله را کشف کرده است. نکته عجیب اینکه آنتروپیک نیز از دستکم سه مورد فرار مشابه ایجنتهای خود و نفوذ به سازمانهای دیگر خبر داد.
طبق گفته منابع آگاه رویترز، موارد جدید فرار ایجنتهای اوپنایآی در جریان بازبینی دادههای لاگ مربوط به ماههای گذشته سال جاری میلادی کشف شده است. البته یکی از منابع آگاه تأکید کرد ابعاد این فرارهای جدید محدود بوده و برخلاف حادثه هاگینگ فیس، این ایجنتها موفق به خروج از شبکه اختصاصی داخلی اوپنایآی و ورود به سیستمهای شرکتهای ثالث نشدهاند.
سخنگوی اوپنایآی در واکنش به این اخبار، به بیانیه رسمی این شرکت اشاره کرد که در آن از بررسی دامنه وسیعتری از رفتارهای مدلهای خود در کنار حادثه نفوذ به هاگینگ فیس خبر داده بود.
شواهد جدید از فرار ایجنت OpenAI
همزمان با گسترش تحقیقات در اوپنایآی، شرکت آنتروپیک بهعنوان اصلیترین رقیب این مجموعه فاش کرد که مدلهای هوش مصنوعی این شرکت نیز دستکم از ماه آوریل، در سه نوبت توانستهاند از محیط قرنطینه آزمایشی خارج شوند و به سیستمهای سه سازمان دیگر رخنه کنند.
انتشار متوالی این گزارشها موضعگیریهای متفاوتی را در صنعت فناوری برانگیخته است. برخی از تحلیلگران معتقدند شرکتهای توسعهدهنده هوش مصنوعی به رفتارهای عجیب و سرکش مدلهای خود به چشم ابزاری تبلیغاتی نگاه میکنند تا قدرت بالا و توانمندیهای عجیب محصولاتشان را به رخ رقبا بکشند. اما برعکس، این افشاگریها موجی از نگرانیهای جدی امنیتی و سیاسی را در واشنگتن و قاره اروپا به راه انداخته است.
کارشناسان ایمنی هوش مصنوعی هشدار میدهند که توانایی شرکتهای پیشرو در ساخت ایجنتهای خطرناک، بسیار سریعتر از توانایی آنها در کنترل و ایمنسازی این ابزارها رشد کرده است. «موریس چیودو» (Maurice Chiodo)، پژوهشگر ریاضیات در مرکز مطالعه ریسکهای وجودی دانشگاه کمبریج، با ابراز نگرانی شدید از این روند اظهار داشت:
«ما با صنعتی مواجه هستیم که طراحان و توسعهدهندگان آن، خودشان هم نمیتوانند همپای ابزارهایی که میسازند پیش بروند و امنیت آنها را تضمین کنند. اطلاعات موجود نشان میدهد که شرکتها حتی رفتار ایجنتهای خود را لحظهای زیر نظر نداشتهاند. بهنظر میرسد آنها اصلاً نگاه هم نمیکردند.»
آنتروپیک ضمن پذیرش این مسئله اعلام کرده است که سیستم نظارت لایو به دلیل سوءتفاهم میان این شرکت و یکی از شرکای تجاری، برای این بخش از مدلها فعال نبوده است.
نظرات کاربران