دیسکورد حساب کاربری ۸۲۰۰ نفر را با مردود دانستن محتوای CSAM فعال کرد

دیسکورد پس از آن‌که هزاران کاربر اعلام کردند به دلیل انتشار محتوای مرتبط با سوءاستفاده جنسی از کودکان (CSAM) به اشتباه از این پلتفرم محروم شده‌اند، مجبور شد بیش از ۸۲۰۰ حساب کاربری را دوباره فعال کند.

براساس اعلام این شرکت، مسدودسازی‌ها در واقع نتیجه تشخیص اشتباه (False Positive) سیستم‌های نظارتی بوده است؛ مشکلی که در بسیاری از موارد به انتشار اسکرین‌شات‌هایی از بازی Minecraft مربوط می‌شد. دیسکورد هم با انتشار بیانیه‌ای توضیح داد که این مشکل چگونه رخ داده و تایید کرد تمامی حساب‌های آسیب‌دیده دوباره فعال شده‌اند.

ماجرا از زمانی آغاز شد که یک کاربری در شبکه اجتماعی توییتر با نام Tall Cow مدعی شد که یک آسیب‌پذیری در سیستم نظارت مبتنی‌بر هوش مصنوعی دیسکورد وجود دارد:

در حال حاضر، سیستم نظارت هوش‌مصنوعی دیسکورد هر تصویر مبتنی بر شبکه‌های مربعی، مانند صفحات گسترده (Spreadsheet)، صفحه شطرنج، موجودی (Inventory) بازی ماینکرفت یا حتی پس‌زمینه‌های شفاف سفید و خاکستری را به‌عنوان محتوای CSAM تشخیص می‌دهد و حساب کاربری افراد را به‌طور دائمی مسدود می‌کند.

از جایی که سیستم موجودی آیتم‌ها در Minecraft بر پایه شبکه‌های مربعی طراحی شده است، بسیاری از کاربرانی که تنها تصاویر آیتم‌های خود را برای دوستانشان ارسال کرده بودند، توسط سیستم به اشتباه شناسایی و حسابشان مسدود شد؛ پس از افزایش انتقادها، دیسکورد با انتشار بیانیه‌ای به این موضوع واکنش نشان داد:

آخر هفته گذشته، سیستم‌های ایمنی ما به اشتباه حدود ۲۰۰ حساب کاربری را مسدود کردند و اکنون تمامی آن‌ها دوباره فعال شده‌اند. سیستم‌های ما با مقایسه محتوا با نمونه‌های شناخته‌شده از محتوای مضر، موارد مشکوک را شناسایی می‌کنند. این روش ممکن است گاها در تشخیص‌های خود اشتباه کند و به‌همین دلیل، پیش از هر اقدامی، یکی از اعضای تیم Trust & Safety محتوای گزارش‌شده را بررسی می‌کند. رفتار مورد انتظار سیستم این است که هنگام بررسی، تنها امکان توقف موقتی بارگذاری محتوا را ایفا کند، نه که حساب کاربر را برای همیشه مسدود نگه‌ دارد.

این شرکت در ادامه توضیح داد:

یک باگ باعث شد به جای توقف موقت بارگذاری، حساب‌ها مسدود شوند. سپس اعضای ما این حساب‌ها را بررسی و تایید کردند، همان باگ مانع از رفع خودکار مسدودیت شد و در نتیجه وضعیت مسدود باقی ماند. از ماه مه ۲۰۲۶ تا هفته گذشته حدود ۸۲۰۰ حساب کاربری و هم‌چنین ۲۰۰ حساب دیگر در آخر هفته گذشته تحت تاثیر این مشکل قرار گرفتند. اکنون تمام این حساب‌ها دوباره فعال شده‌اند. هم‌چنین در حال توسعه سازوکارهای حفاظتی جدیدی هستیم تا چنین اتفاقی بدون اطلاع قبلی دوباره رخ ندهد و نهایتا سیستم‌های ایمنی ما افرادی را که هیچ تخلفی را هم انجام نداده‌اند، محدود نکنند.

با وجود این بیانیه، برخی کاربران هم‌چنان از مسدود شدن حساب‌های خود خبر دادند و گروهی نیز از توضیحات دیسکورد ابراز نارضایتی کردند. به اعتقاد آن‌ها، توصیف این اتفاق به‌عنوان یک باگ تصویر کاملی از مشکل ارائه نمی‌دهد.

بازی Minecraft طی دو هفته اخیر بارها در مرکز حاشیه‌ها قرار گرفته است. هفته گذشته، ESA سرورهای خصوصی این بازی را «غیرقانونی» و نوعی «بازار سیاه» توصیف کرد. هم‌چنین روز گذشته و هم‌زمان با اعلام تغییرات گسترده در ساختار ایکس‌باکس، آشا شارما، مدیرعامل جدید بخش XBOX اعلام کرد که استودیوی Mojang از این پس به‌طور مستقیم به او گزارش خواهد داد.