اين روزها بخش بزرگي از محتواي شبکههاي اجتماعي و حتي درگاههاي رسانهاي رسمي را اخباري به خود اختصاص داده اند که به راحتي رد مولفههاي مربوط به (فيک نيوز) را ميتوان در آنها رصد کرد. اخبار جعلي مرگ چهرههاي مشهور، اتفاقات محيرالعقول حول ...
به گزارش رصد روز به نقل از روابط عمومی بیمه رازی، اين روزها بخش بزرگي از محتواي شبکههاي اجتماعي و حتي درگاههاي رسانهاي رسمي را اخباري به خود اختصاص داده اند که به راحتي رد مولفههاي مربوط به (فيک نيوز) را ميتوان در آنها رصد کرد. اخبار جعلي مرگ چهرههاي مشهور، اتفاقات محيرالعقول حول افراد شاخص و مقامات، تحولات بزرگ و جنجالي اجتماعي و اقتصادي، مسائل خصوصي مربوط به زندگي سلبريتيها و….. . از نظر تهيه کنندگان محتواي فيک، هميشه عدهاي در حال جنجال به پا کردن و عدهاي ديگر در حال غوغا به پا کردنند.
مسألهاي که با اهداف سادهاي مانند جذب بيننده و مخاطب ولو از طريق دروغ و فريب يا اهداف پيچيده و خطرناکي مانند بازيهاي سياسي براي کسب قدرت يا رقابتهاي اقتصادي در سطح کلان بهکار ميروند. فيک نيوزها که در شبکههاي اجتماعي نيز اين روزها فضاي مانور بسيار زيادي پيدا کردهاند تا جاييکه به گمان برخي از متخصصان حوزه ارتباطات اين روزها درصد غالب خبرها را تشکيل ميدهند، بسيار خطرناک و مخرب ميتوانند باشند.
برخي از کارشناسان ارتباطات حتي رقابت بر سر ابزارهاي توليد فيک نيوز را نوعي رقابت تسليحاتي عصر حاضر ميدانند. اين مسأله اما الان و با رشد، ارتقا و پيشرفت روز افزون تکنولوژيهاي مربوط به هوش مصنوعي بسيار ابعاد تازه و پيچيدهتري پيدا کرده است. با رشد ابزارهاي هوش مصنوعي کم کم مفهوم تازهاي به اسم (ديپ فيک) يا واقع نمايي عميق بر سر زبانها افتاده است. تکنولوژي ترسناکي که بهراحتي و با ابزارهايي بهينهسازي شده ميتواند صدا، تصوير يا عکس هر شخصي را در حال گفتن مطلب يا انجام عملي بازسازي کند، رويدادهاي خاصي را طراحي و واقع نمايي کند و در قالب يک تصوير خبري ارائه داده و يا متوني در قالب خبر، تحليل، تاريخ و اطلاعات عمومي بهصورت کاملاً ساختگي و غير واقعي ارائه دهد.
از سويي اما هوش مصنوعي بهصورت بالقوه توان مقابله با فيک نيوزها را نيز بهخوبي دارد. ميتوان با استفاده از ابزارهاي هوش مصنوعي بسيار بهتر و بيش از پيش اخبار جعلي را شناسايي و صحت سنجي کرد و کمتر در دام اينگونه اخبار افتاد. در نتيجه دور از انتظار نيست که بحثهاي زيادي در محافل علمي و رسانهاي حول اين موضوع دربگيرد که در اين نوشتار نيز به گوشهاي از همين موضوعات پرداخته شده است.
هوش مصنوعي و سوداي ديگري بودن
ميخواهيد خودتان را شبيه رئيس جمهور کنيد؟ در گذشته، اين امر مستلزم تقليد فيزيکي از صداي او، سبک و استايل فيزيکي و حرکات او بود. و حتي اگر در اين کار خيلي خوب بوديد، تقريباً به طور قطع خطري براي جامعه يا بنيانهاي جمهوريت ايجاد نميکرد. اما تکنولوژي آن را تغيير داده است. اکنون ميتوانيد به راحتي و با دقت هر کسي را از طريق هوش مصنوعي وادار کنيد چيزي که ميخواهيد بگويد. کافيست از سرويس يک برنامه آنلاين براي ضبط يک جمله استفاده کنيد و آنچه را که با صداي يک فرد مشهور گفتيد گوش دهيد.برنامههايي مانند اين اغلب واقع نمايي عميق يا (ديپ فيک ) ناميده ميشوند – سيستمهاي هوش مصنوعي که صدا، تصاوير و ويديوها را به گونهاي تطبيق ميدهند که افراد را وادار به گفتن و انجام کارهايي کنند که هرگز انجام ندادهاند.
اين فناوريها ميتوانند عصر جديدي از اخبار جعلي و اطلاعات غلط آنلاين را آغاز کنند. در سال 2017، هاني فريد، دانشمند کامپيوتر در کالج دارتموث، ايالات متحده، که ويديوهاي جعلي را شناسايي مي کند، گفت که گسترش سريع تکنيکهاي جديد دستکاري و جعل محتواي رسانهاي منجر به «مسابقه تسليحاتي» شده است. فقط تصور کنيد زماني که ديگر نتوانيم به ويديو و صدا اعتماد کنيم، در آنصورت در هنگام برگزاري يک انتخابات عمومي با چه چالشهايي روبهرو ميشويم. اما برخي از محققان اکنون در حال مبارزه با ابعاد منفي اين مسأله و کار بر روي ابعاد مثبت آن هستند تا نشان دهند که هوش مصنوعي ميتواند در اين زمينه هم کاربردهاي مثبت و مفيدي داشته باشد.
فرانچسکو نوچي، مدير تحقيقات برنامههاي کاربردي در گروه مهندسي مستقر در ايتاليا، ميگويد: «هوش مصنوعي مشکلات اخلاقي زيادي دارد. اما گاهي اوقات ميتواند راهحل هم باشد. ميتوانيد از هوش مصنوعي به روشهاي غيراخلاقي براي ساختن و انتشار اخبار جعلي استفاده کنيد، اما همچنين ميتوانيد از آن براي انجام کارهاي خوب، مثلا براي مبارزه با اطلاعات نادرست استفاده کنيد.»رصدکنندههاي واقعيت نوچي محقق اصلي پروژه Fandango است، که هدف آن انجام همين کار است. او ميگويد اين تيم در حال ساخت ابزارهاي نرمافزاري براي کمک به روزنامهنگاران و بررسيکنندگان واقعيت يا اصطلاحاً (فکت چکرها) هستند که اخبار جعلي را شناسايي و با آن مبارزه ميکنند. آنها اميدوارند بتوانند از سه طريق به روزنامهنگاران کمک کنند.
اولين مؤلفه همان چيزي است که نوچي آن را تشخيص مستقل از محتوا با استفاده از ابزارهايي که فرم محتوا را هدف قرار ميدهند، مينامد.
نوچي توضيح ميدهد که امروزه، تصاوير و ويديوها را ميتوان به راحتي دستکاري کرد، چه از طريق فتوشاپ ساده و چه از طريق تکنيکهاي پيچيدهتر مانند ديپ فيک. سيستمهاي هوش مصنوعي ميتوانند اين تغييرات را مهندسي معکوس کنند و از الگوريتمهايي براي کمک به خبرنگاران براي شناسايي محتواي دستکاري شده استفاده کنند.
اين ابزارها تصاوير را بررسي ميکنند و ديگر بررسي نمي کنند که آيا خود محتوا ادعاهاي نادرستي دارد يا خير. در بخش دوم وظيفه صحت سنجي محتوا با ابزارهاي ديگري از هوش مصنوعي انجام ميگيرد. اين ابزارها مطالب و محتواهايي را رصد و پيدا ميکنند که نادرستي آنها توسط بررسيکنندگان حقايق انساني اثبات شدهاند. سپس به دنبال رد آنها در محتواي مورد بررسي ميگردند و درصورت پيدا کردن ادعايي مشابه، آلارم جعلي بودن ميدهند. هر دوي اين مؤلفهها به شدت بر الگوريتمهاي هوش مصنوعي مختلف مانند پردازش زبان طبيعي متکي هستند اما مؤلفه سوم به روزنامه نگاران اجازه مي دهد تا به اخبار جعلي پاسخ دهند.
براي مثال، يک داستان جعلي ميتواند اين ادعا را مطرح کند که درصد بالايي از جنايات در يک کشور اروپايي توسط مهاجران خارجي انجام ميشود. از نظر تئوري ممکن است به راحتي ادعاي نقض بهدليل حجم زيادي از دادههاي باز موجود باشد، با اين حال روزنامهنگاران زمان ارزشمندي را براي يافتن آن دادهها تلف ميکنند. بنابراين، ابزارهاي هوش مصنوعي انواع منابع داده باز اروپايي را به هم پيوند ميدهد و آنها را دستهبندي و تصويرسازي ميکند. روزنامهنگاران ميتوانند براي مثال از دادههاي ملي براي رسيدگي به ادعاهاي مربوط به جنايات استفاده کنند و در اندک زماني به پاسخ برسند. به اين ترتيب روزنامه نگاران ميتوانند به سرعت به اخبار يا ادعاهاي جعلي پاسخ دهند و وقت را نيز تلف نکنند.
.
برخورد غير معمول با يک معضل معمول
مايکل برونشتاين، استاد دانشگاه لوگانو سوئيس و کالج امپريال لندن ميگويد: شناسايي اخبار جعلي نه تنها يک نياز اساسي براي تشخيص اخبار جعلي و ادعاهاي نادرست است. بلکه همچنين براي تجزيه و تحليل الگوهاي اشتراکگذاري محتوا در رسانههاي اجتماعي بسيار مهم است. او پروژهاي به نام GoodNews را رهبري ميکند که از هوش مصنوعي براي اتخاذ رويکردي غيرمعمول براي تشخيص اخبار جعلي استفاده ميکند.
پروفسور برونشتاين ميگويد: «بيشتر رويکردهاي تشخيص محتواي جعلي موجود به محتوا نگاه ميکنند.» آنها ويژگيهاي معنايي را که مشخصه اخبار جعلي هستند، تحليل ميکنند. که تا حدودي کار ميکند، اما با انواع مشکلات روبهرو ميشود.
