هوش مصنوعی ToxMod چگونه به سالم‌تر شدن فضای کال آو دیوتی کمک کرد؟

این موضوع از کسی مخفی نیست که مجموعه Call of Duty در فضای آنلاین یک مشکل بزرگ دارد و آن بازیکنان تاکسیک (یا به اصطلاح سمی) است. بازیکنان تاکسیک کسانی هستند که به شدت در بازی‌ها عصبانی می‌شوند، فریاد می‌کشند و دائما فحش‌های به شدت توهین‌آمیز و حتی نژادپرستانه می‌دهند. استودیوهای بسیاری هستند که با این بازیکنان مشکل دارند و سعی دارند که چنین بازیکنانی را از بازی خود حذف کنند. حالا اکتیویژن اخیرا با تیم Modulate همکاری جدیدی را آغاز کرده تا با کمک هوش مصنوعی ToxMod با این بازیکنان مبارزه کنند.

از زمانی که این هوش مصنوعی در بازی‌های اکتیویژن فعال شد، میزان محتوا توهین‌آمیز در ویس چت‌های بازی‌های Call of Duty: Modern Warfare 2 و Warzone نزدیک به ۵۰ درصد کاهش پیدا کرد. این آمار در بازی Call of Duty: Modern Warfare 3 به میزان ۲۵ درصد بود. جدا از آمار، اکتیویژن اعلام کرد که تجربه بازیکنان در بازی‌های چند نفره و مولتی‌پلیر چندین برابر بهبود پیدا کرد. این همکاری به قدری برای اکتیویژن خوب بود که می‌تواند درس عبرتی برای بقیه استودیوها شود تا همه از این سیستم در بازی‌های خود استفاده کنند. اگر شما هم دوست دارید که در مورد این همکاری و عملکرد این هوش مصنوعی ToxMod بیشتر بدانید، در ادامه با ویجیاتو همراه باشید.

تلاش‌های اولیه اکتیویژن

مجموعه کال آو دیوتی یکی از بزرگ‌ترین مجموعه‌های شوتر تاریخ بوده و در طول دو دهه از فعالیتش، بیش از ۴۲۵ میلیون نسخه از بازی‌هایش را به فروش رسانده است. ولی خب این حجم از شهرت مشکلاتی را هم به دنبال خودش می‌آورد. در میان بازیکنان این مجموعه شما می‌توانید تعداد خیلی زیادی بازیکن تاکسیک، نژادپرست و متقلب را به راحتی پیدا کنید.

برای مبارزه با تقلب و هک در بازی، اکتیویژن یک سیستم به نام Ricochet را ایجاد کرد. اخیرا هم برای مبارزه با رفتارهای توهین‌آمیز، این استودیو همکاری خودش را با تیم Modulate آغاز کرد. این تیم یک هوش مصنوعی دارد که به کمک آن می‌توانند رفتارهای این بازیکنان خشمگین را به شدت کاهش دهند. شاید در نهایت ترکیب این دو سیستم بتواند فضا بازی‌های Call of Duty را نجات دهد.

آغاز کار هوش مصنوعی ToxMod در کال آو دیوتی

هوش مصنوعی ToxMod دقیقا به این منظور ساخته شده که رفتارهای نادرست بازیکنان را تشخیص دهد و جلوی آن‌ها را بگیرد. کار اصلی سیستم این است که با توجه به یک سری داده اولیه، فرق بین کل کل‌های دوستانه و فضایی رقابتی را با توهین و ایجاد مزاحمت تشخیص دهد. به هر حال هر نوع درگیری لفظی‌ای به منظور توهین نیست.

هدف اصلی این هوش مصنوعی این است که تجربه بازیکنان را بهتر کند. بعد از یک بررسی کلی از بین بازیکنانی که بعد از اجرا این سیستم بازی را تجربه کرده بودند، مشخص شد ToxMod تاثیر به شدت مثبتی روی فضا کلی بازی دارد. تنها در بازی Call of Duty: Modern Warfare 3 بیش از ۲ میلیون اکانت مختلف توسط اکتیویژن پیدا شد که برای بازیکنان دیگر مزاحمت ایجاد می‌کردند. این عدد خیلی بزرگی است و تاثیر زیادی روی بازی خواهد داشت.

یکی از روش‌هایی که از طریقش تاثیر این سیستم را تشخیص دادند، میزان گزارشات بازیکنان بود. اکتیویژن برای یک مدت مشخص، تعداد گزارشات بازیکنان را به خاطر تو‌هین‌های مختلف و ایجاد اختلال در بازی را، در همان زمان ولی این بار با هوش مصنوعی ToxMod مقایسه کرد. بعد از این مقایسه متوجه شدند که تعداد گزارشات کاهش چشم‌گیری داشت.

این سیستم چگونه کار می‌کند

نحوه عملکرد این هوش مصنوعی به این صورت است که بازیکنان را از حرف‌ها و صحبت‌های توهین‌آمیز دور می‌کند. این سیستم به صورت مستقیم فحش‌های مختلف را به عنوان یک توهین برداشت نمی‌کند، چون ممکن است به صورت دوستانه و یا شوخی بیان شوند. به جای آن، توهین‌های مختلف مثل نژادپرستی یا جنسیتی، در این سیستم ثبت خواهند شد و به سرعت به آن‌ها رسیدگی می‌شود.

بعد از اینکه یک شخصی در بازی توهینی کند، هوش مصنوعی ToxMod به سرعت آن را دریافت می‌کند و در پایگاه خود ثبت می‌کند. سپس یک تیم از ناظران امنیتی بازی تمامی این صحبت‌ها را دریافت می‌کنند و نسبت به میزان اهانت و اینکه شخص خاطی برای چندمین بار است که کنترل خودش را از دست می‌دهد، یک مجازات را انتخاب می‌کنند. این موضوع باعث می‌شود که یک سری از بازیکنان قبل از اینکه عصبانیت خود را روی بقیه خالی کنند، کمی هم به آینده خود و اکانتشان فکر کنند.

اشکال اصلی کجاست؟

افرادی که کنترلی روی خشم و احساسات خود ندارند، به دو طریق به بازیکنان دیگر آسیب می‌زنند. اولین آسیب جدی این است که با اهانت و فحاشی، تجربه بازیکنان دیگر در یک بازی چند نفره خراب می‌شود. شاید یک شخصی روز بدی داشته و می‌خواهد کمی در بازی با آرامش بازی کند. با اهانت به این شخص، روز و روز هر کس دیگری که شنونده صحبت این دو است خراب خواهد شد. مشکل بعدی هم این است که حس برادری یک جامعه گیمینگ را از بین می‌برد. شما اگر در بازی خود احساس امنیت کنید و بدانید که بازیکنان دیگر به شما کمک خواهند کرد که بازی را کم کم یاد بگیرید، قطعا حس خیلی بهتری نسبت به دوستان مجازی خود خواهید داشت. ولی این افراد تاکسیک جلو ایجاد این حس تعلق را را می‌گیرند.

گاهی اوقات این رفتارها باعث می‌شود که برخی از بازیکنان از یک بازی به طور کامل دور شوند. شاید حتی باعث شود که یک نفر دچار بیماری‌های ذهنی شود و حتی از بازی مورد علاقه خود دیگر لذتی نبرد. شاید حتی بین ما افراد زیادی وجود داشته باشند که از بازی‌هایی مثل اورواچ، کال آو دیوتی، لیگ آو لجندز و یا حتی CS دست کشیدند، صرفا به خاطر بازیکنان خشمگینی که هیچ کار بهتری جز خراب کردن روز بقیه نداشتند. اما الان دیگر نوبت هوش مصنوعی است که به کمک ما بیاید تا بالاخره این بازیکنان را در بازی نبینیم.

اکتیویژن شاید یک شرکتی باشد که تنها به دنبال پول است، ولی در این مسیر سعی می‌کند که بستر بازی را برای بازیکنانش هموار و سالم‌تر کند. کار با هوش مصنوعی ToxMod چندان کار آسانی نیست، ولی اکتیویژن به شدت مصمم بود که از این سیستم در بزرگ‌ترین مجموعه‌اش به خوبی استفاده کند. خوشبختانه پایه کدنویسی این هوش مصنوعی دقیقا مطابق با کدنویسی بازی‌های Call of Duty بود و به راحتی این هوش مصنوعی در میان کد بازی جای گرفت. شاید اگر در بازی‌های دیگر از این سیستم بخواهند استفاده کنند، بازی و سرورهایش دچار لگ‌های به شدت زیاد و افت کیفیت شدیدی شوند، ولی خوشبختانه کال آو دیوتی به این مشکل دچار نشد.

نحوه کار هوش مصنوعی ToxMod در بازی

خود اکتیویژن یک تیم ناظر دارد که گزارشات بازیکنان را دریافت می‌کند و از میان تمامی این گزارش‌ها، سعی می‌کند بازیکنانی که قوانین اجتماعی اکتیویژن را زیر پا گذاشتند پیدا کند. ولی از طریق همکاری با ToxMod این کار به شدت آسان‌تر شده است. مرحله اول کار این سیستم این است که به وویس چت تمامی بازیکنان گوش می‌دهد و به دنبال رفتارهای تاکسیک می‌گردد. از میان تمامی داده‌هایی که دریافت می‌کند، آن‌هایی که با قوانین اکتیویژن مطابق نیستند را جمع می‌کند و اصطلاحا آن‌ها را فلگ (Flag) می‌کند.

سپس تمامی این موارد توسط بخش دیگری از همین هوش مصنوعی بررسی می‌شوند. شاید بخش اول اشتباهی کرده باشد و یا مشکلی داشته باشد، برای همین از یک فیلتر دیگر هم باید عبور کنند. این بخش تمامی رفتارها و صحبت‌های فعلی گیمینگ را می‌شناسد تا به اشتباه بازیکنی را به عنوان یک بازیکن خاطی معرفی نکند. برای همین ToxMod صرفا کلمات بد را تشخیص نمی‌دهد، بلکه به دنبال توهین و آسیب به تجربه دیگر بازیکنان می‌گردد.

بعد از اینکه این هوش مصنوعی به صورت مشخصی توانست رفتارهای نامتعادل بازیکنان را تشخیص دهد، آن‌ها را به همراه شواهد و مدارکی که علیه آن‌ها وجود دارد را به ناظران بازی می‌فرستد تا مجازات آن‌ها تعیین شود.

اولین بررسی تاثیر این هوش مصنوعی در جوامع انگلیسی زبان بازی در آمریکا شمالی صورت گرفت. از این طریق کارکنان خود اکتیویژن می‌توانستند کنترل بیشتری روی خروجی این هوش مصنوعی داشته باشند و به صورت دقیق‌تری مشخص کنند که چه چیزی را می‌خواهند از میان صحبت‌های بازیکنان جدا کنند.

یکی از خیره‌کننده‌ترین نتایجی که از این آزمایش اولیه به دست آمد این بود که ۷۹ درصد از بازیکنانی که به بقیه توهین می‌کردند و فضا بازی را آلوده می‌کردند، هرگز توسط خود بازیکنان گزارش نشدند. این یعنی اگر این هوش مصنوعی نبود، بیش از سه‌ چهارم از بازیکنان تاکسیک این بازی هرگز پیدا نمی‌شدند.

بعد از مدتی که این سیستم در بازی فعال بود، اکتیویژن نتایج نسبتا جذابی را دریافت کرد. بازی‌های Call of Duty نسبت به ماه‌های گذشته بین ۲ تا ۴ درصد بازیکنان بیشتری را دید. بیش از نیمی از این بازیکنان کسانی بودند که در طول دو ماه قبل از اجرا ToxMod این بازی را ترک کرده بودند. از این موضوع می‌توانیم نتیجه بگیریم که اقدام اکتیویژن جواب داد و حتی موفق شدند که یک سری از بازیکنان قدیمی خود را هم به بازی برگردانند.

نتایج جهانی

تاثیر این هوش مصنوعی در بازی کال آو دیوتی و گزارش بازیکنان خاطی از طرف آن به قدری خوب بود که در یک ماه گذشته، بیش از ۸ درصد از تعداد گزارشات بازیکنان کم شده است. این موضوع نشان می‌دهد که فضا بازی تا چه حدی رو به بهبود است و سلامت آن به سرعت در حال افزایش است. کم کم بازیکنان متوجه خواهند شد که رفتارشان چه تاثیری در تعلیق اکانتشان داشته است و از این طریق دیگر سعی می‌کنند که جلو خود را بگیرند و عصبانیت خود را تا این حد نشان ندهند.

انتخاب این هوش مصنوعی یک قدم خیلی خوب از طرف اکتیویژن بود تا فضا بازی خود را پاکسازی کنند. با توجه به موفقیتی که پیدا کرد، بعید نیست که دیگر بازی‌ها هم سعی کنند که از آن تقلید کنند و در بازی‌های دیگر هم این سیستم را مشاهده کنیم. تمیز شدن فضا بازی‌های چند نفره، آن هم با وضعیت امروزی، واقعا خبر خوبی بود که همه ما به آن نیاز داشتیم.