ردیت از هوش مصنوعی برای مبارزه با محتوای ساخت هوش مصنوعی استفاده می‌کند

پلتفرم ردیت برای مقابله با موج فزاینده محتوای تولیدشده توسط هوش مصنوعی، تصمیم گرفته است تا از سلاح مشابهی استفاده کند. با دسترسی آسان به مدل‌های زبانی بزرگ، تولید اسپم و فعالیت بات‌ها در اینترنت بسیار افزایش یافته است، اما ردیت با به‌کارگیری هوش مصنوعی اختصاصی خود توانسته است این مشکل را به شکل قابل‌توجهی کنترل و میلیون‌ها محتوای مخرب را پیش از دیده‌شدن توسط کاربران مسدود کند.

به گفته ردیت، سیستم‌های خودکار و ارتقایافته این پلتفرم اکنون می‌توانند روزانه جلوی ۲۳ میلیون بازدید از محتواهای اسپم را پیش از رسیدن به دست کاربران واقعی بگیرند. این سیستم‌ها همچنین موفق شده‌اند روزانه حدود ۲۵ هزار پست و کامنت مزاحم را در همان لحظات اولیه شناسایی و نزدیک به دو میلیون رأی غیرواقعی و دستکاری‌شده را باطل کنند.

با استفاده از این فناوری پیشرفته، میزان مواجهه کاربران با محتوای اسپم در بازه زمانی بین ماه‌های ژانویه تا مارس سال ۲۰۲۶، نسبت به سه ماهه پیش از آن حدود ۲۰ درصد کاهش یافته است. همچنین، میزان بازدید کاربران از حساب‌های کاربری جعلی نیز ۱۰ تا ۱۵ درصد افت داشته است.

نحوه عملکرد هوش مصنوعی ردیت

به گفته ردیت، آن‌ها بیش از ۲۱ سال است که با بات‌ها و محتوای بی‌ارزش یا به اصطلاح زباله‌های اینترنتی مبارزه می‌کنند، اما ظهور مدل‌های زبانی کار را برای مهاجمان بسیار آسان‌تر کرده است. برای حل مشکلی که عمدتاً توسط هوش مصنوعی ایجاد شده، چاره‌ای جز استفاده از همین فناوری وجود ندارد؛ رویکردی که به معنای مبارزه با آتش به وسیله آتش است.

درحالی‌که پلتفرم‌هایی مانند یوتوب و متا به کاربران امکان می‌دهند تا محتوای تولیدشده توسط AI را فقط با برچسب‌گذاری منتشر کنند و تیک‌تاک نیز امکان تعیین میزان نمایش این محتوا را به مخاطبان می‌دهد، ردیت مسیر تهاجمی‌تری را در پیش گرفته است.

هوش مصنوعی این شرکت اکنون الگوهای بسیار پیچیده و هماهنگ رفتارهای جعلی را بررسی می‌کند. این سیستم‌ها به محض ایجاد یک حساب کاربری جدید، سیگنال‌های مشکوک را زیر نظر می‌گیرند تا پیش از انتشار هرگونه پست، جلوی فعالیت بات‌ها را بگیرند. همچنین، این پلتفرم لایه امنیتی جدیدی اضافه کرده است که حساب‌های نامتعارف را مجبور می‌کند تا انسان‌بودن خود را با انجام آزمایش‌هایی تأیید کنند.

اقدامات امنیتی جدید ردیت صرفاً به حذف اسپم‌ها محدود نمی‌شود، بلکه این شرکت سیستم‌های خودکار خود را برای برخورد با محتوای حاوی نفرت‌پراکنی، آزار و اذیت و خشونت در تمام متن‌های انگلیسی‌زبان ارتقا داده است و به زودی زبان‌های بیشتری را نیز پوشش خواهد داد. با این به‌روزرسانی، میانگین زمان تشخیص یک محتوای مخرب تا اعمال قانون روی آن، از چند ساعت به کمتر از پنج ثانیه کاهش یافته است.