شرکت هوش مصنوعی SpaceXAI متعلق به «ایلان ماسک»، یکی از کاربران خود را به دلیل تولید تصاویر غیراخلاقی و دیپفیک از کودکان مورد پیگرد قانونی قرار داد. این شرکت تحت فشارهای شدید بینالمللی قرار دارد و به نظر میرسد با این اقدام میخواهد مسئولیت تولید محتوای مجرمانه را از دوش هوش مصنوعی خود بردارد و به گردن کاربرانی بیندازد که لایههای امنیتی سیستم را دور میزنند.
براساس شکایتی که در دادگاه فدرال تگزاس ثبت شده است، شرکت SpaceXAI یک مرد ۶۷ ساله اهل کارولینای جنوبی با نام «تری وین هاروود» (Terry Wayne Harwood) را متهم کرده است. این شرکت میگوید متهم با هویتهای جعلی، چندین حساب کاربری ایجاد کرده و از دسامبر سال ۲۰۲۵ تا فوریه سال ۲۰۲۶، تصاویر معمولی از بزرگسالان و کودکان را در این پلتفرم آپلود کرده است. او سپس با ارسال دستورات متنی به هوش مصنوعی گراک، از این ابزار خواسته است تا لباس سوژهها را حذف کند و تصاویر و ویدیوهایی مستهجن از آنها بسازد.
به گزارش رویترز، شرکت اسپیسایکسایآی اعلام کرده گراک در ابتدا از انجام این درخواستها خودداری کرده و به کاربر هشدار داده است که این محتوا قوانین ایمنی را نقض میکند. بااینحال، متهم با تغییر مداوم کلمات و مهندسی دستورات خود، سرانجام موفق شده است لایههای امنیتی این هوش مصنوعی را فریب دهد. دادستان کل کارولینای جنوبی از دستگیری این فرد خبر داده است؛ او اکنون به اتهام مالکیت و توزیع محتوای سوءاستفاده جنسی از کودکان با هشت فقره جرم جنایی روبهرو است.
شکایت SpaceXAI از کاربر گراک به علت تولید تصاویر غیراخلاقی
شرکت SpaceXAI در شکایت ۱۲ صفحهای خود نهتنها خواستار مسدودشدن دائمی دسترسی این فرد به پلتفرم و دریافت غرامت مالی نامشخص شده است، بلکه یک خواسته حقوقی بسیار مهم دیگر نیز دارد. این شرکت از دادگاه خواسته است تا متهم را موظف کند که در صورت شکایت قربانیان این تصاویر از اسپیسایکسایآی، تمام هزینههای دفاع حقوقی شرکت را پرداخت کند. این خواسته نشان میدهد که محور اصلی این شکایت، اثبات این موضوع است که هوش مصنوعی تمام تلاش خود را برای جلوگیری از تولید محتوای مخرب انجام داده و مقصر اصلی، انسانی است که پشت کیبورد نشسته و با اصرار قوانین را زیر پا گذاشته است.
این شکایت درست در زمانی تنظیم شده است که SpaceXAI در چندین دادگاه در سه قاره مختلف با استدلالی برعکس مواجه است؛ به این معنی که نهادهای قانونی معتقدند شرکت سازنده باید پاسخگوی خروجیهای هوش مصنوعی خود باشد.
پس از رسوایی تولید دیپفیکهای جنسی توسط گراک در ماه ژانویه، رگولاتورهای مختلفی در ایالت کالیفرنیا، بریتانیا، کمیسیون اروپا و ایرلند تحقیقات رسمی خود را آغاز کردند. همچنین دادستانهای پاریس، مقامات شهر بالتیمور و یک نماینده پارلمان بریتانیا پروندههای حقوقی جداگانهای را علیه این شرکت باز کردهاند. حتی اپل نیز در مقطعی تهدید کرده بود که اپ گراک را از فروشگاه نرمافزاری خود حذف خواهد کرد و کشورهای مالزی و اندونزی نیز دسترسی به این ابزار را مسدود کردند.
نکته بسیار جالب در این پرونده، آمارهایی است که SpaceXAI برای اثبات عملکرد سیستم نظارتی خود به دادگاه ارائه داده است. این شرکت اعلام کرده که تاکنون بیش از ۵۲ هزار حساب کاربری را تعلیق کرده و بیش از ۷۳ هزار گزارش تخلف به مرکز ملی کودکان مفقود و مورد سوءاستفاده ارائه داده است که تنها در سال ۲۰۲۶ منجر به دستگیری حدود ۲۵۰ نفر شدهاند.
در همین راستا، مرکز مقابله با نفرتپراکنی دیجیتال برآورد کرده است که گراک فقط در بازه زمانی اواخر دسامبر ۲۰۲۵ تا اوایل ژانویه ۲۰۲۶، حدود سه میلیون تصویر جنسی تولید کرده است که حداقل ۲۳ هزار مورد از آنها مربوط به کودکان بودهاند.
نظرات کاربران