با توجه به بررسی های لاین استور، پس از اعتراضات شدید به وجود ویدئوهای نامناسب با محتوای خشن وتهاجمی علیه کودکان، گوگل تصمیم گرفته است تا ناظران ویژهای را به استخدام در بیاورد تا محتوای یوتیوب را پالایش کنند.
شرکت یوتیوب به عنوان یکی از زیر مجموعه های آلفابت، روز گذشته اعلام کرد که در سال آینده افراد بیشتری را برای بکارگیری شیوه ای جدید به منظور مبارزه با افراط گری و تشخیص محتوای نامناسب در این شبکه اجتماعی استخدام میکند.
یوتیوب از همین حالا با توسعه سیستم ها و نرم افزارهای تشخیصی، فرایند مبارزه با افراط گری و ویدیوهای مربوط به افراط گرایان را شروع کرده است.
محتوای مورد نظر یوتیوب که قرار است در طرح ویژه مبارزه با افراط گری از این شبکه اجتماعی حذف شوند، شامل محتوای نامناسب برای خانواده و کودکان، مطالب نژاد پرستانه و تنفر جویانه و همچنین محتوای مشوق تروریسم عنوان شده است. بر همین اساس، حساب های کاربری که محتوای آپلود شده آنها توسط نرم افزار تشخیصی یوتیوب به عنوان یکی از محتوای نامناسب تلقی شده باشد، امکان درآمد از طریق پخش تبلیغات را نخواهند داشت.
نرم افزار تشخیصی یوتیوب در حال حاضر از تکنیک های یادگیری ماشینی برای تشخیص محتوای نامناسب استفاده میکند. این سیستم تشخیصی داده های مختلف را از طریق نظرات و لایک های کاربران دریافت میکند و با تحلیل آنها، محتوای نامناسب را برچسب گذاری میکند.
صرف روزانه یک میلیارد ساعت در یوتیوب
بر این اساس سال آینده ۱۰ هزار کارشناس به تیم یوتیوب میپیوندند تا محتوای ویدئوها را از نظر خشونت فیزیکی و جنسی و مضر برای کودکان بررسی و ارزیابی کنند.
مدیر اجرایی یوتیوب خانم Susan Wojcicki پس از انتشار سلسله گزارشهایی علیه این سایت درباره توسعه خشونت، محتوای نژادپرستانه و ویدئوهای نامناسب کودکان تصمیم به این کار گرفته است.
وی افزود علاوه بر استخدام ۱۰ هزار ناظر، با استفاده از «یادگیری ماشین» و هوش مصنوعی اقدام به حذف خودکار محتوای مشکوک روی یوتیوب خواهند کرد. مهندسان یوتیوب الگوریتمی را بر اساس پالیسیهای تعریف شده خود، تهیه کرده و در حال غنیسازی آن هستند تا با محتوای افراطی و خشونت آمیز و همچنین نامناسب برای کودکان مبارزه کنند.
بدین ترتیب هم نظارت مستقیم انسانی وهم ماشینی روی محتوای این شبکه اجتماعی پس از انتشار مدیریت میکنند.
یوتیوب در چند سال گذشته تلاش های زیادی برای مبارزه با افراط گری و انتشار محتوای بی ادبانه و تنفر جویانه کرده است. با این حال این شرکت به دلیل افزایش میزان محتوای آپلود شده، زمان کافی برای کنترل تمامی موارد را ندارد. همین مسئله باعث شده تا بسیاری از والدین اجازه دسترسی به این شبکه اجتماعی را به کودکانشان ندهند.