با فیلترینگ هوشمند اینستاگرام دیگر خیالتان راحت است!

استفاده اینستاگرام از هوش مصنوعی در فیلتر کردن کامنت ها

استفاده از شبکه های اجتماعی علاوه بر مزایایی که به همراه دارد، می تواند معضلاتی را نیز برای برخی افراد به وجود آورد. یکی از این معضلات مواجه شدن با رفتارها و کامنت های توهین آمیز است. شرکت هایی که به وجود آورنده این شبکه های اجتماعی هستند به طور پیوسته به دنبال راه هایی می گردند تا با گفتار بد و توهین آمیز برخی از کاربران برخورد کنند. حال اینستاگرام قصد دارد با استفاده از هوش مصنوعی به جنگ با این مشکلات برود.

سال گذشته اینستاگرام ویژگی فیلتر نمودن کامنت ها را مطرح کرد. با استفاده از این ویژگی کاربران می توانند کلمات کلیدی خاصی را تعیین نمایند به طوری که اگر در کامنت خاصی از افراد آن کلمه کلیدی دیده شد، کامنت موردنظر فیلتر شود و دیگر در فید کاربر نمایش داده نخواهد شد. این ابزار کلماتی را که غالبا به عنوان کلمات نامناسب گزارش شده اند (often reported as inappropriate) حذف می کند و به شما اجازه می دهد تا مجموعه ای از کلمات مورد نظر خود را نیز تعریف نمایید.

اساسا مقابله کردن با کامنت های توهین آمیز می تواند کار طاقت فرسایی باشد. زیرا کاربران می توانند با استفاده از روش های مختلف این ویژگی اینستاگرام را دور بزنند.

از زمانی که اینترنت به وجود آمد همواره ترول ها (اوباش اینترنتی) راه هایی برای عبور کردن از فیلترها پیدا کرده اند. به عنوان مثال آن ها سعی می کنند تا کلمات توهین آمیز را عمدا با غلط املایی بنویسند یا به طور کلی یک کلمه جدید خلق می کنند.

اگرچه شما می توانید در اینستاگرام کلمه یا عبارت موردنظر خود را به مجموعه کلمات فیلتر شده اضافه کنید. اما اینستاگرام تلاش دارد راهی بهتر به جز فیلتر کردن یک کلمه پیدا کند تا بتواند احساس امنیت بیشتری برای کاربران در این محیط فراهم سازد.

ترول ها می توانند بدون استفاده از کلمات توهین آمیز خاصی کامنت های تندی بنویسند و فحاشی کنند.

اما فیلتر جدید اینستاگرام با استفاده هوش مصنوعی تلاش می کند تا از به کارگیری این شیوه ها نیز جلوگیری کند. اینستاگرام سعی می کند تا با استفاده هوش مصنوعی کامنتی را که محتوای توهین آمیز دارد درک کند و اجازه استفاده از آن را ندهد. حتی اگر در آن متن هیچ گونه فحاشی صورت نگرفته باشد و هیچ کلمه توهین آمیزی دیده نشود، هوش مصنوعی اینستاگرام بار معنایی آن جمله را درک می کند. اگرچه الگوریتم پیاده سازی شده جدید اینستاگرام در حال حاضر تنها بر روی زبان انگلیسی متمرکز است، اما انتظار می رود که به زودی زبان های دیگر را نیز تحت پوشش قرار دهد.


گردآوری:گروه سرگرمی سیمرغ
seemorgh.com/entertainment
منبع: click.ir