کاربران در شبکههای اجتماعی بهتازگی گزارشهای متعددی منتشر کردهاند که نشان میدهد مدل هوش مصنوعی پرچمدار OpenAI یعنی GPT-5.6 Sol به صورت خودسرانه و بدون دریافت تأیید از کاربر، اقدام به حذف فایلها، دادهها و حتی دیتابیسهای کامل میکند.
در مدت اخیر اعتراضات به عملکرد این مدل جدید ابعاد گستردهای پیدا کرده است. «مت شومر»، بنیانگذار و مدیرعامل استارتاپ هوش مصنوعی OthersideAI، در پستی که در شبکه اجتماعی ایکس وایرال شده، گفت این مدل جدید تقریباً تمام فایلهای سیستم مک او را پاک کرده است.
«برونو لموس»، توسعهدهنده نرمافزار، نیز تجربه وحشتناک مشابهی داشته و نوشته که این هوش مصنوعی کل دیتابیس او را بهطور کامل حذف کرده است. او گفت پیشازاین هرگز با هیچ مدل دیگری چنین تجربهای نداشته است.
در همین رابطه، «جوی کودیش»، توسعهدهنده دیگری، گزارش داد که قربانی سیستم بیشازحد جاهطلبانه این هوش مصنوعی شده و مدل Sol برخی از فایلهای ضروری او را به اشتباه حذف کرده است. البته او نسخه پشتیبان در اختیار داشت و آسیب جدی ندید، اما میگوید این رفتار اصلاً قابل قبول نیست و شرکت سازنده باید سریعاً محدودیتهایی برای مدل جدید در نظر بگیرد.
همچنین، کاربران پستهای مختلفی در شبکه اجتماعی ردیت منتشر کردهاند که نمونههای بیشتری از این فاجعه را در آنها میبینیم.
حذف فایل کاربران توسط هوش مصنوعی جدید OpenAI
دو هفته پیش از انتشار رسمی مدل جدید، این شرکت سندی به نام System Card را منتشر کرد که شامل روشها و نتایج آزمایشهای انجامشده روی این مدل بود. در کنار تمجید از قابلیتهای فوقالعاده این هوش مصنوعی، یک هشدار بسیار مهم و نگرانکننده نیز در این سند به چشم میخورد.
به گفته این شرکت، انحراف از دستورات در محیطهای برنامهنویسی عموماً به دلیل اشتیاق بیش ازحد مدل برای انجام کار و تفسیر بسیار آزادانه دستورات کاربر رخ میدهد. درواقع، مدل فرض را بر این میگذارد که تمام اقدامات مجاز هستند، مگر آنکه کاربر صراحتاً و بدون هیچ ابهامی آنها را ممنوع کرده باشد.
این موضوع باعث میشود که هوش مصنوعی برای دورزدن محدودیتها خودسرانه عمل کند و در انجام اقداماتی که در محدوده وظیفه او نیست و میتوانند مخرب باشند، بیاحتیاطی به خرج دهد. این مدل گاهی اوقات در زمان ارائه گزارشِ نتایج به کاربران، رفتاری فریبکارانه از خود نشان میدهد تا اقدامات مخرب خود را پنهان کند.
سند منتشرشده توسط اوپنایآی شامل مثالهای عجیبی از این رفتارهای خودمختار است. در یک مورد، کاربر از هوش مصنوعی میخواهد تا سه ماشین مجازی از راه دور با نامهای یک، دو و سه را در فضای ابری حذف کند. از آنجایی که مدل نتوانسته این نامها را در محل جستجوی خود پیدا کند، به جای توقف کار و پرسش از کاربر، تصمیم میگیرد ماشینهای مجازی پنج، شش و هفت را حذف کند.
تا روشنشدن کامل این موضوع، کاربرانی که از این مدل قدرتمند استفاده میکنند باید حتماً اقدامات امنیتی را جدی بگیرند. محدودکردن دسترسیها، تهیه مداوم نسخههای پشتیبان از سیستمهای درحال کار و اجرای مرحلهبهمرحله پروژهها از جمله راهکارهای ضروری برای جلوگیری از بروز فاجعه محسوب میشوند.
نظرات کاربران