OpenAI درحال بررسی گزینهای برای کاهش سرعت توسعه سیستمهای هوش مصنوعی پیشرفته است و «سم آلتمن»، مدیرعامل شرکت، امیدوار است دیگر فعالان و شرکتهای این حوزه نیز رویکرد مشابهی را در پیش بگیرند.
براساس اظهارات افراد مطلع از نشست داخلی کارکنان این شرکت، آلتمن اعلام کرده که OpenAI میتواند سرعت توسعه فناوریهای خود را تنظیم کند و آن را در هماهنگی با چند آزمایشگاه دیگر هوش مصنوعی کاهش دهد؛ هرچند این احتمال وجود دارد که برخی از رقبا با چنین رویکردی همراه نشوند.
در هفتههای اخیر، کارکنان و پژوهشگران شرکتهای برتر فعال در حوزه هوش مصنوعی بهطور عمومی درباره خطرات سیستمهای پیشرفته ابراز نگرانی کردهاند. از سوی دیگر، هر دو شرکت OpenAI و رقیب اصلی آن یعنی آنتروپیک، اسناد محرمانه مربوط به عرضه عمومی سهام خود را اوایل سال جاری میلادی ارائه کردهاند.
«یاکوب پاچوکی»، دانشمند ارشد OpenAI، اخیراً در بیانیهای با اشاره به خطرات احتمالی این فناوری تأکید کرده بود که شرکتهای توسعهدهنده باید در صورت نیاز برای کاهش سرعت پیشرفتهای آینده هماهنگ شوند. وی افزود که امید دارد کاهش داوطلبانه سرعت به رویکردی مرسوم تبدیل شود تا استانداردهای ایمنی مشترک میان بازیگران این صنعت پایهگذاری شوند.
افزایش نگرانیهای امنیتی پیرامون هوش مصنوعی و استعفای پژوهشگران
شرکت OpenAI اعلام کرده که بخشهایی از روند توسعه مدلها را کُند کرده و برخی از برنامههای آموزش داخلی هوش مصنوعی را به دلیل ملاحظات ایمنی متوقف ساخته است. علاوهبراین، سم آلتمن در ماه ژوئیه از گفتگوهای خود با مقامات کاخ سفید پیرامون «نیاز» به تنظیم سرعت توسعه فناوری هوش مصنوعی سخن گفته بود.
درهمینحال، «جیکوب کاکسن»، پژوهشگر هوش مصنوعی، پس از ترک موقعیت شغلی خود، دو کارفرمای سابقش یعنی آنتروپیک و OpenAI را به «قمار با جان انسانها» در رقابت برای دستیابی به ابرهوش مصنوعی متهم کرد. او در شبکههای اجتماعی مدعی شد فعالان و سازندگان این سیستمها معتقد هستند هوش مصنوعی میتواند تا پایان این دهه جان تمام انسانها را به خطر بیندازد؛ اظهاراتی که با ثبت بیش از ۱۵۰ میلیون بازدید، توجه جمعی از قانونگذاران و چهرههای شناختهشده را جلب کرد.
بهدنبال این اظهارات، دو پژوهشگر دیگر که بهتازگی از آنتروپیک و گوگل دیپمایند جدا شده بودند، نگرانیهای خود را درباره سرعت توسعه این فناوری ابراز کرده و خواستار شفافیت بیشتر توسعهدهندگان درباره ریسکهای موجود شدند. در اواخر ماه ژوئیه نیز بیش از ۱۰۰۰ نفر از کارکنان شرکتهای بزرگ این حوزه، طوماری را برای ایجاد سازوکاری بهمنظور کاهش سرعت پیشرفت هوش مصنوعی امضا کردند و در ماههای اخیر تعدادی از نیروهای متخصص بخش ایمنی از این آزمایشگاهها استعفا دادهاند.
با وجود آنکه مدیران ارشد و پژوهشگران همواره درباره خطرات بنیادین هوش مصنوعی هشدار دادهاند، حساسیتها پیرامون این موضوع پس از انتشار گزارشهایی درباره همکاری چند ایجنت هوش مصنوعی OpenAI برای نفوذ به لایههای امنیتی و هک وبسایتهای شخص ثالث شدت یافته است. این اتفاق و حوادث امنیتی مشابه، نگرانیها را درباره توانمندیهای سایبری مدلهای تازه و ضعف احتمالی شرکتها در مهار رفتارهای خارج از چارچوب آنها دوچندان کرده است.
نظرات کاربران