در عصر هوش مصنوعی به چه چیزی اعتماد کنیم؟

هوش مصنوعی مرز میان واقعیت و جعل را مبهمتر کرده است؛ حالا حتی تصاویر و ویدئوهایی که روزگاری سند و مدرک یک اتفاق محسوب میشدند، به راستیآزمایی نیاز دارند.
خبرگزاری مهر – مجله مهر؛ میقات کربلایی: تا همین چند سال پیش، دیدن یک تصویر یا ویدئو میتوانست برای بسیاری از مخاطبان پایان هرگونه تردید و ابهامات فرضی پیش آمده باشد. چون عکس، چیزی را نشان میداد که گفته میشد اتفاق افتاده است و فیلم، بهعنوان شاهدی از یک رویداد، قدرت اقناع بالایی داشت. اگر تصویری از یک حادثه منتشر میشد، کمتر کسی پیش از باور کردن آن میپرسید چه کسی آن را ثبت کرده، نخستین بار کجا منتشر شده و آیا اساساً چنین اتفاقی رخ داده است. اما حالا شرایط تغییر کرده است؛ فناوری هوش مصنوعی به نقطهای رسیده که میتواند در چند ثانیه تصویری از یک حادثه خیالی بسازد، چهره یک فرد را در موقعیتی قرار دهد که هرگز در آن حضور نداشته یا صدای کسی را بازسازی کند که هیچوقت آن جملات را بر زبان نیاورده است.
تصور کنید در میانه یک روز کاری، تصویری در شبکههای اجتماعی دستبهدست میشود که دود غلیظی را بر فراز یک ساختمان مهم نشان میدهد. زیر تصویر نوشتهاند: «لحظاتی پیش این ساختمان هدف حمله قرار گرفت.» تصویر واقعی به نظر میرسد، جزئیات دارد و حتی ممکن است از چند زاویه بازنشر شده باشد. کاربران درباره ابعاد حادثه اظهارنظر میکنند، رسانهها برای انتشار خبر تحت فشار قرار میگیرند و عدهای هم آن را برای دوستان و اعضای خانواده خود میفرستند. اما چند دقیقه بعد مشخص میشود اساساً چنین حادثهای رخ نداده و تصویر با ابزارهای هوش مصنوعی ساخته شده است.
در چنین موقعیتی، مسئله این است که مخاطب دیگر نمیتواند صرفاً با تکیه بر آنچه میبیند، درباره واقعیت تصمیم بگیرد. تصویری که زمانی یکی از مهمترین شواهد برای اثبات یک ادعا بود، حالا خودش به موضوع پرسش و راستیآزمایی تبدیل شده است. اینجاست که سواد رسانهای از یک مهارت آموزشی و اصطلاح دانشگاهی فاصله میگیرد و به ضرورتی برای زندگی روزمره تبدیل میشود.

وقتی چهرهها و صداها هم قابل جعل میشوند
ماجرا به تصاویر ثابت محدود نمیشود. هوش مصنوعی مولد، امکان تولید ویدئوها و صداهایی را فراهم کرده است که در آنها چهره و صدای افراد واقعی بازسازی میشود. به این فناوری در بسیاری از کاربردها دیپفیک (Deepfake) گفته میشود؛ محتوایی مصنوعی که میتواند فردی را در حال گفتن جملهای نشان دهد که هرگز نگفته یا در موقعیتی قرار دهد که هیچوقت در آن حضور نداشته است.
فرض کنید ویدئویی از یک مقام مسئول منتشر شود که در آن از تصمیمی مهم خبر میدهد، یا صدای مدیر یک مجموعه در پیامی صوتی شنیده شود که از کارکنان درخواست انتقال وجه دارد. در گذشته، جعل چنین محتوایی به امکانات فنی و مهارت تخصصی نیاز داشت، اما حالا ابزارهای هوش مصنوعی بخشی از این مسیر را برای کاربران عادی هم ساده کردهاند.
البته هر ویدئوی جعلی لزوماً با هدف فریب سیاسی ساخته نمیشود. برخی برای سرگرمی، طنز یا تولید آثار هنری به کار میروند. مسئله از جایی آغاز میشود که محتوای دستکاریشده بدون توضیح درباره ماهیت آن منتشر شود و مخاطب آن را بهعنوان واقعیت بپذیرد؛ بهویژه زمانی که موضوع به اعتبار افراد، تصمیمهای عمومی، امنیت اجتماعی یا تحولات سیاسی مربوط است. در این میان، یک خطر دیگر هم وجود دارد: انتشار محتوای جعلی میتواند به انکار واقعیتهای مستند کمک کند. وقتی مخاطبان بارها با تصاویر و ویدئوهای ساختگی روبهرو میشوند، ممکن است در مواجهه با یک سند واقعی نیز تردید کنند. به این ترتیب، مسئله فقط باور کردن دروغ نیست؛ گاهی حتی امکان پذیرش حقیقت هم دشوار میشود.
پژوهشگران حوزه رسانه و راستیآزمایی در سالهای اخیر از این وضعیت بهعنوان نوعی مهآلودگی اطلاعاتی یاد کردهاند؛ شرایطی که در آن، محتوای جعلی میتواند واقعی جلوه کند و محتوای واقعی نیز با برچسب جعلی بودن کنار گذاشته شود. این وضعیت در پوشش جنگ و نقض حقوق بشر اهمیت ویژهای دارد؛ زیرا تصاویر مستند از یک حادثه ممکن است بهسادگی با ادعای ساختگی بودن بیاعتبار شوند.

چرا چشم ما دیگر معیار مطمئنی نیست؟
تا پیش از فراگیر شدن ابزارهای هوش مصنوعی مولد، بسیاری از کاربران برای تشخیص تصاویر دستکاریشده به دنبال نشانههایی مانند غیرطبیعی بودن چهرهها، تعداد انگشتان، سایههای نامتناسب یا نوشتههای ناخوانا در پسزمینه میگشتند. این نشانهها در برخی تصاویر تولیدشده با نسلهای ابتدایی هوش مصنوعی قابل مشاهده بود و به مخاطب کمک میکرد احتمال جعلی بودن تصویر را تشخیص دهد. اما با پیشرفت ابزارهای تولید تصویر و ویدئو، اتکا به این نشانههای ظاهری دیگر پاسخگوی نیاز مخاطب نیست. ممکن است تصویری هیچ ایراد آشکاری نداشته باشد و در عین حال، از ابتدا وجود خارجی نداشته باشد. حتی گاهی تشخیص یک تصویر مصنوعی از تصویر واقعی برای افراد متخصص نیز به بررسیهای فنی نیاز دارد.
نمونه آن را میتوان در گزارشی از رویترز درباره تصویری جعلی از فروش گوشت انسان در یک فروشگاه دید. تصویر قفسههایی را نشان میداد که بستههایی شبیه گوشت انسانی در آنها قرار گرفته بود. این تصویر در شبکههای اجتماعی بازنشر شد و واکنشهای زیادی برانگیخت، اما بررسی رویترز نشان داد که اثر موردنظر با ابزار هوش مصنوعی میدجرنی ساخته شده و خالق آن نیز این موضوع را تأیید کرده است. نکته مهم این است که تشخیص جعلی بودن تصویر در این نمونه، صرفاً با نگاه کردن به آن حاصل نشد؛ بلکه بررسی منشأ انتشار و گفتوگو با سازنده اثر در روشن شدن ماجرا نقش داشت. این همان تغییری است که در شیوه مواجهه با محتوای رسانهای باید اتفاق بیفتد، بهجای آنکه فقط بپرسیم «این تصویر طبیعی به نظر میرسد یا نه؟»، باید بپرسیم «این تصویر از کجا آمده، چه کسی آن را ساخته و چه شواهد مستقلی ادعای همراه آن را تأیید میکند؟» به بیان دیگر، در عصر هوش مصنوعی، چشم همچنان یکی از ابزارهای دریافت اطلاعات است، اما دیگر نمیتواند بهتنهایی مرجع تشخیص واقعیت باشد.

سواد رسانهای؛ از تماشای محتوا تا پرسشگری درباره آن
در چنین فضایی، سواد رسانهای دیگر به معنای شناخت چند اصطلاح یا آشنایی با سازوکار شبکههای اجتماعی نیست. این مهارت بیش از هر چیز به توانایی مخاطب برای تحلیل، ارزیابی و سنجش اطلاعاتی مربوط میشود که هر روز در معرض آن قرار میگیرد. مخاطبی که سواد رسانهای دارد، صرفاً دریافتکننده پیام نیست؛ او درباره منشأ پیام، هدف انتشار، اعتبار منتشرکننده و شواهدی که ادعا را تأیید میکنند، سؤال میپرسد. اما این پرسشگری در عمل چگونه باید اتفاق بیفتد؟ آیا قرار است هر بار که تصویری در فضای مجازی منتشر شد، مخاطب به یک کارشناس هوش مصنوعی تبدیل شود؟ طبیعتاً نه. بخش مهمی از سواد رسانهای، یادگیری چند عادت ساده اما تعیینکننده در مواجهه با محتواست.
۱. پیش از بازنشر، تامل کنیم: نخستین و شاید مهمترین گام، مقاومت در برابر واکنش فوری است. بسیاری از محتواهای جعلی با تکیه بر احساسات مخاطب منتشر میشوند؛ ترس از وقوع یک حادثه، خشم نسبت به یک اتفاق، نگرانی برای نزدیکان یا هیجان ناشی از یک خبر غیرمنتظره. هرچه محتوا برانگیزانندهتر باشد، احتمال بازنشر شتابزده آن نیز افزایش پیدا میکند. در چنین شرایطی، بهتر است پیش از ارسال یک تصویر یا ویدئو، چند سؤال ساده از خودمان بپرسیم: آیا منبع انتشار این محتوا مشخص است؟ آیا رسانههای معتبر دیگری نیز این اتفاق را گزارش کردهاند؟ آیا اطلاعاتی درباره زمان و مکان ثبت تصویر وجود دارد؟ اگر پاسخ این پرسشها روشن نیست، بازنشر نکردن محتوا تصمیم مسئولانهتری است.
۲. بهجای ظاهر تصویر، منشأ آن را بررسی کنیم: یکی از روشهای کاربردی برای بررسی تصاویر، جستوجوی معکوس است. ابزارهایی مانند Google Lens و Google Images امکان جستوجوی یک تصویر در فضای وب را فراهم میکنند. کاربر میتواند تصویر موردنظر را بارگذاری کند و ببیند آیا نسخههای دیگری از آن پیشتر منتشر شدهاند یا خیر. برای مثال، ممکن است تصویری که با عنوان یک حادثه تازه منتشر شده، در جستوجوی معکوس به مطلبی مربوط به چند سال قبل برسد. در این صورت، مخاطب متوجه میشود که تصویر لزوماً جدید نیست و باید درباره ارتباط آن با خبر منتشرشده بیشتر تحقیق کند. البته پیدا نکردن نسخه قدیمی تصویر به معنای واقعی بودن آن نیست؛ همانطور که پیدا کردن یک نسخه مشابه نیز بهتنهایی جعلی بودن محتوا را ثابت نمیکند. جستوجوی معکوس فقط یکی از ابزارهای راستیآزمایی است، نه مرجع نهایی تشخیص حقیقت.
۳. یک خبر را از چند منبع مستقل دنبال کنیم: یکی از خطاهای رایج در فضای مجازی، یکسان گرفتن تعداد بازنشرها با اعتبار یک خبر است. ممکن است یک ادعا در دهها کانال و صفحه منتشر شده باشد، اما همه آنها در واقع از یک منبع نامعتبر اولیه نقل کرده باشند. در چنین وضعیتی، تعدد انتشار به معنای وجود چند شاهد مستقل نیست. برای بررسی یک خبر، باید دید آیا رسانههای مختلف با منابع مستقل آن را تأیید کردهاند یا صرفاً یکدیگر را بازنشر میکنند. همچنین باید میان رسانهای که خبر را منتشر کرده، حسابی که صرفاً آن را نقل کرده و منبعی که اطلاعات اولیه را در اختیار گذاشته است، تفاوت قائل شد.
نکته مهم دیگر، بررسی هویت منتشرکننده است. نشان تأیید یک حساب، تعداد دنبالکنندگان یا ظاهر حرفهای یک صفحه بهتنهایی تضمینکننده اعتبار آن نیست. اتفاقهای گوناگون نشان داده که حتی حسابهایی با ظاهر خبری و مخاطبان فراوان نیز میتوانند در انتشار یک ادعای نادرست نقش داشته باشند.
۴. به نشانههای تصویری توجه کنیم، اما فریب ابزارهای تشخیص را نخوریم: بررسی سایهها، بازتاب نور، تناسب اجزای بدن، نوشتههای موجود در تصویر و هماهنگی حرکات لب با صدا همچنان میتواند سرنخهایی درباره دستکاری محتوا به دست دهد. در ویدئوها نیز باید به پیوستگی حرکات، هماهنگی صدا و تصویر و تغییرات غیرعادی در پسزمینه توجه کرد. در کنار این بررسیها، ابزارهایی برای تشخیص محتوای تولیدشده با هوش مصنوعی وجود دارند؛ اما نتیجه این ابزارها را نباید حکم قطعی تلقی کرد. ممکن است یک تصویر واقعی به اشتباه مصنوعی تشخیص داده شود یا یک تصویر تولیدشده از فیلتر تشخیص عبور کند. بنابراین، هیچ ابزار تشخیصی نباید جایگزین بررسی منبع و شواهد مستقل شود.
۵. زمان و مکان را از خود تصویر جدا نکنیم: حتی اگر یک تصویر واقعی باشد، باید بررسی کرد که دقیقاً چه چیزی را نشان میدهد. آیا مربوط به همان روز است؟ در همان شهر ثبت شده؟ آیا افراد و مکانهای موجود در آن با توضیح منتشرشده تطابق دارند؟ برای نمونه، اگر ویدئویی از یک انفجار منتشر شود، باید نشانههای جغرافیایی، ساختمانها، تابلوها و دیگر جزئیات محیطی را با اطلاعات مربوط به محل حادثه تطبیق داد. گاهی همین بررسی ساده مشخص میکند که ویدئو مربوط به یک کشور یا زمان دیگر است.
این موارد در مجموع نشان میدهند که راستیآزمایی یک محتوای رسانهای، فرایندی چندمرحلهای است و نمیتوان آن را به تشخیص چند ایراد ظاهری در یک تصویر تقلیل داد.

مسئولیت فقط با مخاطب نیست؛ رسانهها چه میکنند؟
با وجود اهمیت مهارتهای فردی، نمیتوان تمام مسئولیت مقابله با محتوای جعلی را بر دوش کاربران گذاشت. رسانهها نیز در این میان وظیفه مهمی دارند؛ بهخصوص در شرایطی که سرعت انتشار اخبار و رقابت برای انتشار زودهنگام، گاهی فرصت بررسی دقیق اطلاعات را از تحریریهها میگیرد. در گذشته، انتشار یک تصویر در رسانه خبری میتوانست تا حد زیادی به معنای عبور آن از یک فرایند انتخاب و بررسی باشد. اما اکنون رسانهها نیز باید شیوههای راستیآزمایی خود را متناسب با تغییرات فناوری بازنگری کنند. صرف دریافت یک تصویر از خبرنگار، شاهد عینی یا یک حساب پرمخاطب در شبکههای اجتماعی نباید برای انتشار آن کافی باشد.
تحریریهها باید پیش از انتشار تصاویر حساس، منشأ دریافت آنها را مشخص کنند، زمان و مکان ثبتشان را بسنجند، در صورت امکان با شاهدان و منابع مستقل ارتباط بگیرند و میان محتوای تأییدنشده و اطلاعات قطعی تمایز قائل شوند. همچنین اگر رسانهای از تصویر تولیدشده با هوش مصنوعی برای توضیح یک موضوع استفاده میکند، باید ماهیت آن را برای مخاطب روشن کند تا تصویر بازسازیشده با سند واقعی اشتباه گرفته نشود.
در این میان، یک نکته نیز اهمیت دارد: رسانه نباید برای پر کردن خلأ اطلاعاتی، به انتشار محتوایی متوسل شود که هنوز از اعتبار آن مطمئن نیست. گاهی اعلام صریح اینکه «این تصویر هنوز تأیید نشده است» حرفهایتر از انتشار فوری آن با یک توضیح قطعی است. از سوی دیگر، آموزش سواد رسانهای نیز نباید به چند توصیه پراکنده در مناسبتهای مرتبط با فضای مجازی محدود بماند. خانواده، مدرسه، دانشگاه و رسانهها هرکدام میتوانند در تقویت این مهارت نقش داشته باشند. آموزش باید به مخاطب کمک کند میان مشاهده یک محتوا و پذیرفتن ادعای آن فاصله بگذارد؛ فاصلهای که فرصت پرسیدن، بررسی کردن و تصمیم گرفتن را فراهم میکند.

اعتماد را از نو تعریف کنیم
شاید مهمترین پیامد گسترش تصاویر و ویدئوهای تولیدشده با هوش مصنوعی، تغییر رابطه مخاطب با مفهوم اعتماد باشد. تا پیش از این، بسیاری از افراد برای باور کردن یک اتفاق به دنبال تصویری از آن میگشتند؛ اما امروز خود تصویر نیز باید از آزمون اعتبار عبور کند. این تغییر به معنای بیاعتبار شدن همه تصاویر و ویدئوها نیست، بلکه نشان میدهد معیارهای اعتماد دیگر نمیتوانند به ظاهر یک محتوا محدود بمانند.
از سوی دیگر، نباید به دام مقابل هم افتاد و تصور کرد چون امکان جعل تصاویر وجود دارد، پس هیچ سند تصویری قابل اعتمادی باقی نمانده است. چنین نگاهی به همان اندازه خطرناک است؛ زیرا میتواند راه را برای انکار شواهد واقعی و بیاعتبار کردن گزارشهای مستند باز کند. آنچه اهمیت دارد، نه اعتماد بیقیدوشرط به تصویر است و نه بیاعتمادی مطلق به آن؛ بلکه بررسی شواهد و سنجیدن اعتبار هر ادعاست.
در این میان، سواد رسانهای به مخاطب کمک میکند بهجای پذیرش یا رد فوری یک پیام، آن را در معرض پرسش قرار دهد. او یاد میگیرد که هر تصویر، روایت همراه آن و منبع انتشارش را جداگانه بررسی کند و میان آنچه دیده، آنچه شنیده و آنچه واقعاً اثبات شده است، تفاوت بگذارد. شاید در عصر هوش مصنوعی، مهمترین مهارت رسانهای دیگر صرفاً تشخیص یک تصویر جعلی نباشد؛ بلکه توانایی مقاومت در برابر قضاوت عجولانه باشد.





