اولیـن و پرتیـراژتـرین هفتـه نـامه ICT کشـور

وقتی هوش مصنوعی از پست‌های توهین‌آمیز در شبکه‌های اجتماعی به ستوه می‌آید!

19 خرداد 1397 10:42 ب.ظ

به تازگی الگوریتم هوش مصنوعی ساخته شده که پست ها و اظهار نظرهای توهین آمیز را در شبکه های اجتماعی ردیابی و به جای آنها جایگزین های مودبانه تری پیشنهاد می کند.

وقتی هوش مصنوعی از پست‌های توهین‌آمیز در شبکه‌های اجتماعی به ستوه می‌آید!

به تازگی الگوریتم هوش مصنوعی ساخته شده که پست‌ها و اظهار نظرهای توهین آمیز را در شبکه‌های اجتماعی ردیابی و به جای آنها جایگزین‌های مودبانه تری پیشنهاد می‌کند.

به گزارش عصر ارتباط به نقل از مهر، محققان آی بی ام الگوریتمی‌ابداع کرده اند که در اینترنت کاربران بی ادب را ردیابی می‌کند!

این الگوریتم به جای آنکه کامنت‌هایی حاوی ناسزا و خشن را پاک کند، به جای آنها کلمات مودبانه تری پیشنهاد می‌کند.

محققان حدود ۱۰ میلیون پست از شبکه اجتماعی توئیتر و ردیت را جمع آوری و به دو دسته توهین آمیز و غیر توهین آمیز تقسیم کردند.

آنها به جای جایگزین کردن پست‌ها و کامنت‌های توهین آمیز، کلمات بهتری پیشنهاد می‌کنند تا به این ترتیب شرکت‌ها و سیاستمداران نتوانند از این ابزار سوءاستفاده کنند.

در نهایت استفاده از این الگوریتم کاهش سخنان توهین آمیز در پلتفرم‌های اجتماعی محبوب مانند توئیتر، فیس بوک، ردیت و غیره را به دنبال دارد.

این الگوریتم فعالیت خود را با تحلیل معنای یک جمله و بررسی آن برای کلمات توهین آمیز آغاز می‌کند. پس از تایید توهین آمیز بودن آن، الگوریتم اصطلاح یا جملاتی غیر توهین آمیز پیشنهاد می‌کند.

در مرحله بعد الگوریتم جمله جدید را برای تغییر لحن آن بررسی می‌کند. این الگوریتم در تمام آزمایش‌ها توانست جملاتی غیر توهین آمیز بسازد.