تاثیرات چند وجهی مخرب اخبارجعلی برجامعه و هوش مصنوعی

به گزارش پایگاه خبری «حامیان ولایت» ، به نقل از سراج 24 ،

امروزه فعالان فضای مجازی و مدرسان سواد رسانه به تحقیق در زمینه “اخبار جعلی “و “هوش مصنوعی “باید بسیار هوشیار و  یک پزوهشگر واقعی باشند. چراکه اخبار جعلی، به‌ویژه با توانمندسازی هوش مصنوعی، تأثیرات عمیق و چندوجهی بر جامعه و خود فناوری هوش مصنوعی دارد. به نظرم این تأثیرات را می‌توان در دو محور اصلی “تأثیرات مخرب بر جامعه”و “تعامل پیچیده با هوش مصنوعی” (هم به‌عنوان راه‌حل و هم بخشی از مشکل) بررسی کرد:

۱٫ تأثیرات مخرب اخبار جعلی بر جامعه

الف. تهدید دموکراسی و امنیت ملی:
– تحریف افکار عمومی: اخبار جعلی در رویدادهایی مانند برگزیت و انتخابات آمریکا جهت‌دهی به افکار عمومی را نشان داده‌اند . با ظهور جعل‌های عمیق(Deepfakes)، ساخت ویدئوهای جعلی از سیاستمداران برای بیان سخنان نژادپرستانه یا خشونت‌آمیز، اعتماد به نهادهای دموکراتیک را تضعیف می‌کند .
– جنگ شناختی: در بحران‌هایی مانند زلزله میانمار، ویدئوهای جعلی ایجادشده با هوش مصنوعی، واکنش‌های امدادی را مختل و امنیت ملی را تهدید می‌کند .

 ب. تخریب سلامت روان و اجتماعی :
– سرقت هویت و پورنوگرافی انتقامجویانه : بیش از ۸۰% محتوای جعلی در فضای مجازی مربوط به جعل چهره زنان در محتوای غیراخلاقی است که آسیب‌های روانی ماندگاری ایجاد می‌کند .
– ی‌علاقگی به واقعیت (Reality Apathy): مواجهه مداوم با اخبار جعلی منجر به بی‌اعتمادی عمومی به همه منابع اطلاعاتی و فروپاشی گفت‌وگوی اجتماعیمی‌شود .

 ج. اختلال در اقتصاد و سلامت عمومی:
– نوسانات بازارهای مالی: انتشار اخبار جعلی درباره شرکت‌ها باعث نوسان شدید قیمت سهام و بی‌ثباتی اقتصادی می‌شود .
– تضعیف سیستم سلامت: اطلاعات نادرست درباره واکسن‌ها (مانند استعفای مقام سازمان غذا و داروی آمریکا) منجر به کاهش اثربخشی برنامه‌های سلامت عمومی می‌گردد .

۲٫ تعامل اخبار جعلی و هوش مصنوعی: چالش‌ها و راه‌حل‌ها

الف. هوش مصنوعی به‌عنوان  بخشی از مشکل:
– تولید انبوه محتوای جعلی : هوش مصنوعی ساخت محتوای متنی، صوتی و تصویری فریبنده را دموکراتیک کرده است. به‌طور مثال، ابزارهایی مانند Deepfakes ایجاد ویدئوهای جعلی را برای افراد عادی ممکن ساخته‌اند .
– پیچیدگی تشخیص : جعل‌های عمیق با قابلیت هماهنگی صدا و تصویر (Lip-synced) حتی متخصصان را نیز گمراه می‌کنند .

 ب. هوش مصنوعی به‌عنوان بخشی از راه‌حل:
– شناسایی الگوهای پنهان : مدل‌های یادگیری ماشین مانند جنگل تصادفی(Random Forest) با دقت ۹۸٫۳٪ اخبار جعلی را از طریق تحلیل سبک نگارش، تناقض‌های محتوایی و اعتبارسنجی منابع تشخیص می‌دهند .
– راستی‌آزمایی دیجیتال: سامانه‌هایی مانند “AI4TRUST” در اروپا با تحلیل چندزبانه‌ی محتوا و رصد شبکه‌های اجتماعی، هشدارهای لحظه‌ای صادر می‌کنند .
– کاربرد در حوزه فارسی : پروژه‌هایی مانند “تاجتل”با مجموعه‌داده‌های فارسی و مدل‌های شبکه عصبی پیچشی (CNN) به دقت ۹۰٫۴۶٪ در شناسایی اخبار جعلی در تلگرام رسیده‌اند .

ج. چالش‌های فناورانه:
– تطابق پذیری اخبار جعلی : الگوریتم‌های فعلی ممکن است در تشخیص اخبار جعلی آینده (مانند جعل‌های عمیق پیشرفته) ناتوان باشند .
– رمزگذاری پیام‌ها : استفاده از پیام‌رسان‌های رمزگذاری‌شده (مانند واتس‌اپ) ردیابی اخبار جعلی را دشوار می‌کند .

۳٫ راهکارهای کلان برای مقابله 

الف. راهکارهای فناورانه:
-سامانه‌های بومی هوش مصنوعی : توسعه سامانه‌های راستی‌آزمایی با قابلیت پردازش زبان‌های فارسی، عربی و انگلیسی برای کشورهایی مانند ایران یک ضرورت “راهبردی ” است .
– دغام تحلیل انسانی و ماشینی : پروژه‌هایی مانند “Full Fact” در بریتانیا نشان می‌دهند ترکیب هوش مصنوعی با تحلیل انسانی دقت را افزایش می‌دهد .

 ب. راهکارهای اجتماعی و حکمرانی :
– سواد رسانه‌ای و AI Literacy آموزش شهروندان در تفکیک منابع معتبر از نامعتبر، به‌ویژه برای نسل جوان .
– قوانین سخت‌گیرانه : ایجاد نهادهای حاکمیتی جهانی (تحت نظارت سازمان ملل) برای تنظیم‌گری اخلاقی هوش مصنوعی و الزام توسعه‌دهندگان به رعایت سوگندنامه‌های اخلاقی(مانند دوره‌های اخلاق هاروارد و MIT) .
– حمایت از روزنامه‌نگاری تحقیقی : استفاده از هوش مصنوعی برای ردیابی شبکه‌های سازمان‌یافته انتشار اخبار جعلی و افشای انگیزه‌های پشت‌پرده .

ج. چارچوب‌های سیاستی :
– حکمرانی داده‌محور : تدوین سیاست‌هایی برای تضمین شفافیت الگوریتم‌ها و جلوگیری از سوگیری‌های نژادی یا ایدئولوژیک .
– همکاری جهانی : مقابله با اخبار جعلی نیازمند همکاری بین‌المللی شبیه ویکی‌پدیااست تا دانش جمعی برای شناسایی جعل‌ها بسیج شود .

 نتیجه‌گیری
اخبار جعلی در عصر هوش مصنوعی به یک تهدید چندبعدی تبدیل شده است: از تخریب اعتماد اجتماعی تا تهدید امنیت ملی. هوش مصنوعی در این میدان هم سلاح است هم”سپر” آینده این نبرد به توسعه فناوری‌های تشخیص پیشرفته، سرمایه‌گذاری در سواد رسانه‌ای، و تدوین چارچوب‌های حکمرانیِ مبتنی بر اخلاق وابسته است. همان‌طور که مارک ون رایمنام هشدار می‌دهد: «اگر به مشکلات هوش مصنوعی توجه نشود، مقابله با آن در آینده ناممکن خواهد شد» .

نویسنده: فاطمه حیدری - مدرس سواد رسانه