جدال هوش مصنوعی با اخبار جعلی

• 14 اسفند 1395 07:11 ق.ظ

«تعدادی از تروریست‌ها هم‌اكنون اطراف پارک مرکزی منهتن در شهر نیویورک در حال پرسه‌زدن هستند.» این اخبار و اخبار مشابهی که ادعاهای جعلی را مطرح می‌کنند هر روز در شبکه‌های اجتماعی دست به دست می‌شوند و پيش از آنکه سازمان‌های رسمی کشورهای مختلف فرصتی برای تکذیب آن پیدا کنند به‌سرعت در تمام جهان منتشر می‌شوند.

به‌تازگی اما برخی از کمپانی‌های امنیت سایبری تصمیم گرفته‌اند از هوش مصنوعی به‌عنوان سلاحی برای مبارزه با انتشار اخبار جعلی در شبکه‌های اجتماعی و به‌طور کلی در فضای سایبر استفاده کنند.

بسیاری در انتخابات گذشته آمریکا انتشار اخبار جعلی برای تخریب هیلاری کلینتون و انتشار اخبار جعلی در تمجید از ترامپ را عامل پیروزی دونالد ترامپ، رییس‌جمهور جدید آمریکا می‌دانند.

بر اساس تازه‌ترین گزارش شبکه خبری فاکس‌نیوز، هوش مصنوعی قرار است به ابزاری برای جدا کردن اخبار جعلی از اخبار واقعی در شبکه‌های اجتماعی و فضای سایبر تبدیل شود.

کارشناسان در خصوص نحوه کارکرد این سیستم جدید به خبرنگار فاکس‌نیوز گفته‌اند، ماشین مجهز به هوش مصنوعی قادر است زبان‌های مختلف را یاد بگیرد، معانی مختلف واژه‌ها و جمله‌ها را تحلیل کند و شواهدی در خصوص چند و چون اصالت اخبار و اسناد منتشرشده در اینترنت ارایه دهد.

گفته می‌شود تا کنون حدود 27 میلیون دلار از سرمایه دولتی آمریکا برای توسعه این ابزار مبتنی بر هوش مصنوعی صرف شده است.

کاترین لو، مدیرتولید کمپانی ‌ DataVisor‌ می‌گوید: فناوری هوش مصنوعی باید قادر باشد معنای ضمنی پشت عبارات و جمله‌ها را نیز درک و تحلیل کند. این فناوری هوش مصنوعی باید بتواند تیترهای اخبار را رصد و تحلیل کند، معنای اولیه و نیز معنای ضمنی متن خبرها را ارزیابی و موضوع‌های مختلف را رده‌بندی کرده، منطقه جغرافیایی ارسال و نیز حوزه‌های شمول آن را در نظر گرفته و حتی بدنه خبر را به‌طور کامل تحلیل و بررسی کند.

‌این هوش مصنوعی همچنین باید بررسی کند که چه سایت‌هایی مطالب مشابهی را منتشر کرده‌اند و آنها را در ردیف‌های مختلف دسته‌بندی کند. سیستم هوش مصنوعی به کمک این اطلاعات می‌تواند با سنجیدن مطالب منتشرشده و قیاس آنها با اخبار منابع رسمی خبر مانند خبرگزاری‌های معتبر، میزان صحت اخبار را بررسی کند.

لو در توضیح بهتر این فناوری سنجش اعتبار اخبار در فضای سایبر می‌گوید: برای مثال خبری که در روزنامه نیویورک‌تایمز منتشر می‌شود طبیعتا از  اعتبار و شهرت بیشتری نسبت به خبری که در رسانه‌ای ناشناس منتشرشده طبقه‌بندی می‌شود. فناوری هوش مصنوعی اخبار منتشره توسط تمام ‌سایت‌ها را بررسی می‌کند و با توجه به رتبه الکسای سایت‌های مختلف و نیز با نظر به داده‌هایی که از ‌سایت‌ها و رسانه‌های معتبر منتشر شده، صحت اطلاعات آنها را بررسی می‌کند و به‌درستی اطلاعات هر سایت امتیاز می‌دهد؛ به این ترتیب اخباری که احتمال جعل بودن آن بالا است مشخص می‌شود.

وقتی که اخبار جعلی شناسایی شدند، لغات کلیدی استفاده‌شده در آنها مشخص می‌شود و به این ترتیب چنانچه این لغات کلیدی در ‌سایت‌های دیگر تکرار شوند جعلی بودن آن اخبار مشخص می‌شود.

دکتر پردیپ اتری که یکی از استادان دانشگاه آلبانی است تحقیقی را هدایت می‌کند که معنای ضمنی اخبار منتشرشده در سایت‌ها را بررسی کرده و اصالت اخبار سایت‌های مختلف را ارزیابی می‌کند. این پروفسور نیز از روشی مشابه آنچه ذکر آن رفت، برای تشخیص اخبار جعلی استفاده می‌کند. برای مثال، او حرف از الگوریتمی می‌زند که با توجه به صحت یا جعلی بودن اخبار برای آنها امتیاز مثبت یا منفی در نظر می‌گیرد. به این ترتیب هرچه سایتی از اخبار جعلی بیشتری استفاده کند، به همان میزان اعتبار آن در رتبه‌بندی پایین می‌آید. استفاده از این روش می‌تواند در نهایت موجب شود که میزان استفاده از اخبار جعلی در سایت‌های مختلف روز‌به‌روز کاهش یابد و آنها برای بهبود رتبه‌بندی سایت خودشان هم که شده از درج اخبار جعلی اجتناب کنند.

البته به گفته اتری، بسیاری از مردم به میزان اعتبار سایت‌ها توجهی نمی‌کنند و به برخی اخبار جعلی آنها اعتماد نا‌به‌جا دارند. یک سیستم هوشمند مناسب باید بتواند سایت‌هایی که اخبار جعلی منتشر می‌کنند و همچنین سایت‌های پاپ‌آپ را شناسایی کرده و پيش از ورود کاربر به این سایت‌ها به او هشدار بدهد.

البته باید توجه كرد که همه کاربران از ابزار هوشمند شناسایی اخبار جعلی استفاده نمی‌کنند و همین می‌تواند موجب شود آنها مرتب به سایت‌های منتشرکننده اخبار جعلی بروند.

پائولو شومو، یک مشاور امنیتی نرم‌افزار، معتقد است که سایت‌های منتشرکننده اخبار جعلی معمولا توسط الگوریتم‌های طراحی‌شده توسط سیستم‌های هوشمند قابل شناسایی نیستند. همچنین وی معتقد است کمی ترسناک است اما این احتمال وجود دارد سیستم‌های هوشمند اخبار جعلی به دلایل مختلف و برای رسیدن به منافع خاص و کنترل افکار مردم یک خبر واقعی را دروغ ارزیابی کنند. اگرچنین اتفاقی بیفتد، آزادی اطلاعات و نیز افقی بودن جریان اطلاعات در اینترنت با معضل جدی مواجه می‌شود و هیچ بعید نیست که فضای اینترنت نیز همچون سایر رسانه‌ها به مرور تحت سیطره گروهی معدود از افراد سرمایه‌دار و غول‌های رسانه‌ای قرار گیرد.

دارن کمپو، یک نویسنده معتقد است که اخبار جعلی درواقع برآمده از یک نوع واکنش عاطفی هستند و درنتیجه مردم برای ارضای این نیاز عاطفی به سمت آنها می‌روند و حتی اگر یک سیستم هوشمند این اخبار یا سایت‌ها را جعلی ارزیابی کند، باز هم به این ارزیابی سیستم‌های هوشمند اهمیتی نمی‌دهند چون تمایل دارند که این اخبار را باور کنند. برای مردم همین که اخبار با نوع نگاه آنها به جهان همخوانی داشته باشند کافی است و به ارزیابی‌های سیستم‌های کامپیوتری اهمیتی نمی‌دهند.

البته سیستم‌های هوشمند ممکن است یک خبر صحیح را هم جعلی دسته‌بندی کنند. همچنين نباید این موضوع را از نظر دور داشت که سیستم‌های هوشمند متوجه آن نیستند که ممکن است مردم از شنیدن یک دروغ لذت ببرند و به همین دلیل نخواهند واقعیت را بپذیرند و ترجیح بدهند که یک دروغ را باور کنند.

جالب است بدانید کسانی که این مطلب را در سایت خبری فاکس نیوز خوانده‌اند غالبا به ساخت ابزار هوشمندی برای بررسی جعلی بودن اخبار واکنش منفی نشان داده‌اند و گفته‌اند که این کار باعث می‌شود آزادی در اینترنت از بین برود و این ابزار هوشمند ممکن است به وسیله‌ای برای کنترل اذهان مردم تبدیل شود. در این ميان البته برخی از کاربران هم پیشنهادهایی برای جلوگیری از انتشار اخبار جعلی در اینترنت مطرح کرده‌اند، از جمله آنکه برخی این پیشنهاد را مطرح کرده‌اند که قبل از انتشار خبر توسط سایت‌ها شواهد و منابع مورد استفاده از آنها خواسته شود.

باتوجه به نظرات موافق و مخالفی که در خصوص این ابزار هوشمند سنجش اخبار جعلی وجود دارد باید دید سازندگان آن چه تحولاتی را در آن پدید می‌آورند تا برای کاربران پذیرفتنی شود.