عکس، صدا و ویدئوی ساخته‌شده با هوش مصنوعی را چگونه تشخیص دهیم؟
تصویری از یک اتفاق عجیب، صدای آشنای یکی از اعضای خانواده یا ویدئویی از یک چهره مشهور ممکن است آن‌قدر واقعی به نظر برسد که بدون تردید آن را باور کنیم. اما امروزه ابزارهای هوش مصنوعی می‌توانند تصاویر واقع‌گرایانه بسازند، صدای افراد را تقلید کنند و ویدئوهایی تولید کنند که تشخیص ساختگی‌بودن آن‌ها دشوار است.
برای تشخیص محتوای جعلی لازم نیست متخصص فناوری باشید. با چند بررسی ساده، استفاده درست از ابزارهای راستی‌آزمایی و توجه به منبع انتشار می‌توانید احتمال فریب‌خوردن را کمتر کنید. در این راهنما از مجله اوپاکالا، روش بررسی عکس، صدا و ویدئوی مشکوک را مرحله‌به‌مرحله یاد می‌گیریم.
در یک نگاه
- عکس: جزئیات تصویر، سایه‌ها، نوشته‌ها و منبع اولیه را بررسی کنید.
- صدا: به مکث‌ها، لحن غیرعادی و تناقض‌های گفتار توجه کنید؛ اما فقط به گوش خود اعتماد نکنید.
- ویدئو: هماهنگی لب و صدا، پیوستگی حرکت و زمینه انتشار را بررسی کنید.
- ابزارهای تشخیص: از ابزارهایی مانند OpenAI Verify و قابلیت بررسی محتوا در Gemini کمک بگیرید؛ هر ابزار فقط سیگنال‌های مشخصی را بررسی می‌کند.
- مهم‌ترین قانون: نبود نشانه هوش مصنوعی، واقعی‌بودن محتوا را ثابت نمی‌کند.
چرا تشخیص محتوای ساخته‌شده با هوش مصنوعی سخت شده است؟
در گذشته، بسیاری از تصاویر و ویدئوهای جعلی ایرادهای واضحی داشتند؛ اما مدل‌های جدید تولید تصویر، صدا و ویدئو می‌توانند جزئیات چهره، نورپردازی، حرکت و لحن گفتار را با کیفیت بالایی بازسازی کنند. از طرف دیگر، فشرده‌شدن فایل‌ها در شبکه‌های اجتماعی، برش تصویر، تدوین و افزودن زیرنویس ممکن است نشانه‌های احتمالی را پنهان کند.
همچنین باید بین چند نوع محتوا تفاوت قائل شد:
- محتوای کاملاً تولیدشده با هوش مصنوعی: مانند تصویری از رویدادی که هرگز اتفاق نیفتاده است.
- محتوای واقعی اما ویرایش‌شده: مانند عکس واقعی که بخشی از آن با ابزار هوش مصنوعی تغییر کرده است.
- محتوای واقعی با توضیح گمراه‌کننده: ممکن است عکس یا ویدئو واقعی باشد، اما به زمان، مکان یا رویداد دیگری نسبت داده شود.
- جعل هویت صوتی یا تصویری: صدای فرد یا ظاهر او برای نسبت‌دادن حرف یا کاری ساختگی به او تقلید می‌شود.
۱. چگونه عکس‌های ساخته‌شده با هوش مصنوعی را تشخیص دهیم؟
برای بررسی یک تصویر مشکوک، بهتر است ابتدا آن را در اندازه بزرگ‌تر ببینید و سپس جزئیات را با دقت بررسی کنید. هیچ‌یک از نشانه‌های زیر به‌تنهایی مدرک قطعی نیست، اما کنار هم می‌توانند احتمال ساختگی‌بودن یا ویرایش تصویر را مطرح کنند.
دست‌ها و اجزای بدن
به تعداد و شکل انگشت‌ها، اتصال دست به مچ، حالت مفاصل، گوش‌ها، دندان‌ها و تناسب اعضای بدن توجه کنید. بعضی تصاویر تولیدشده ممکن است در این جزئیات ناسازگاری داشته باشند.
نور و سایه
بررسی کنید سایه‌ها با جهت نور هماهنگ باشند. انعکاس در آینه، شیشه یا سطوح براق را نیز با محیط اطراف مقایسه کنید.
نوشته‌ها و پس‌زمینه
تابلوها، نوشته روی بسته‌بندی، پلاک، ساعت، معماری و اشیای دوردست را بررسی کنید. متن‌های ناخوانا یا اجزای نامنظم می‌توانند نشانه‌ای مشکوک باشند.
نشانه‌های دیگری که ارزش بررسی دارند
- تکرار غیرطبیعی پنجره‌ها، افراد، اشیا یا الگوهای پس‌زمینه.
- ادغام نامعمول اشیا با یکدیگر یا محوشدن مرز آن‌ها.
- بافت غیرعادی پوست، مو، پارچه یا سطح اشیا.
- تفاوت ناموجه در وضوح بخش‌های مختلف تصویر.
- جزئیاتی که با ادعای منتشرکننده سازگار نیستند؛ برای مثال، نشانه‌های فصل یا آب‌وهوا که با تاریخ ادعاشده تناقض دارند.
البته عکس‌های واقعی هم ممکن است به دلیل تاری، نور کم، فشرده‌سازی یا روتوش چنین ایرادهایی داشته باشند. بنابراین، مشاهده یک دست غیرعادی یا سایه نامنظم برای متهم‌کردن یک تصویر به جعل کافی نیست.
جست‌وجوی معکوس تصویر؛ راهی برای پیدا کردن منبع اصلی
یکی از مفیدترین روش‌ها این است که بررسی کنید آیا تصویر پیش‌تر در وب منتشر شده یا نسخه دیگری از آن وجود دارد. می‌توانید از Google Images یا Google Lens استفاده کنید.
- تصویر را ذخیره کنید یا در صورت امکان بخش اصلی آن را جداگانه جست‌وجو کنید.
- تصویر را در ابزار جست‌وجوی معکوس بارگذاری کنید.
- نسخه‌های مشابه و تاریخ انتشار آن‌ها را بررسی کنید.
- ببینید آیا تصویر قدیمی است و اکنون با عنوان یا روایتی تازه بازنشر شده است.
- اگر تصویر به یک خبر مهم مربوط می‌شود، دنبال گزارش مستقل رسانه‌های معتبر یا اطلاعیه منبع رسمی بگردید.
پیدانشدن تصویر در جست‌وجوی معکوس، جعلی‌بودن آن را ثابت نمی‌کند؛ ممکن است تصویر تازه، خصوصی یا هنوز نمایه‌نشده باشد.
۲. چگونه صدای ساخته‌شده یا شبیه‌سازی‌شده با هوش مصنوعی را تشخیص دهیم؟
ابزارهای شبیه‌سازی صدا می‌توانند از نمونه‌های صوتی یک فرد برای تولید گفتاری تازه استفاده کنند. به همین دلیل، شنیدن صدای آشنای یک دوست، مدیر یا عضو خانواده به‌تنهایی ثابت نمی‌کند که همان شخص واقعاً با شما تماس گرفته است.
به این نشانه‌ها توجه کنید
- لحن بیش از حد یکنواخت: ممکن است جمله‌ها بدون تغییر طبیعی در تأکید، هیجان یا آهنگ بیان شوند.
- مکث‌ها و تنفس‌های غیرعادی: در بعضی نمونه‌ها، فاصله میان واژه‌ها یا تنفس با ریتم گفتار هماهنگ نیست.
- تلفظ یا اتصال کلمات: بعضی واژه‌ها ممکن است غیرطبیعی ادا شوند یا اتصال میان کلمات کمی مصنوعی به نظر برسد.
- پاسخ‌های نامتناسب: فرد ظاهراً حرف شما را می‌شنود، اما پاسخ‌ها کلی، تکراری یا نامرتبط‌اند.
- درخواست فوری و غیرمعمول: درخواست پول، رمز یک‌بارمصرف، اطلاعات بانکی یا محرمانه از سوی یک صدای آشنا باید جدی بررسی شود.
اگر صدای یکی از نزدیکانتان درخواست پول کرد، چه کنید؟
- تماس را مبنای قطعی تصمیم قرار ندهید، حتی اگر صدا کاملاً آشناست.
- با شماره‌ای که از قبل در تلفن خود ذخیره کرده‌اید، مستقیماً با آن فرد تماس بگیرید.
- اگر پاسخ نداد، از راه دیگری مانند پیام‌رسان یا تماس با یکی از نزدیکانش موضوع را بررسی کنید.
- می‌توانید با خانواده یک عبارت یا سؤال توافق‌شده داشته باشید که پاسخ آن به‌سادگی از شبکه‌های اجتماعی قابل حدس نباشد.
- تا زمان تأیید مستقل، پول انتقال ندهید، کد تأیید ارسال نکنید و اطلاعات حساس را در اختیار تماس‌گیرنده نگذارید.
نهاد حمایت از مصرف‌کنندگان آمریکا، FTC، نیز درباره کلاهبرداری با صدای شبیه‌سازی‌شده هشدار داده و توصیه می‌کند برای تأیید درخواست، با شماره‌ای که خودتان می‌شناسید با فرد موردنظر تماس بگیرید. راهنمای آن را در وب‌سایت رسمی FTC می‌توانید مطالعه کنید.
۳. چگونه ویدئوهای دیپ‌فیک یا تولیدشده با هوش مصنوعی را بررسی کنیم؟
ویدئو علاوه بر تصویر، حرکت و صدا را هم در بر می‌گیرد. بنابراین، بررسی آن باید چندجانبه باشد. ممکن است چهره طبیعی به نظر برسد، اما حرکت لب‌ها با صدا هماهنگ نباشد؛ یا ویدئو از نظر فنی خوب باشد، اما در واقع مربوط به رویدادی قدیمی باشد.
| چه چیزی را بررسی کنیم؟ | نشانه مشکوک | محدودیت این بررسی |
|---|---|---|
| هماهنگی لب و صدا | حرکت لب‌ها با واژه‌ها یا زمان‌بندی گفتار هماهنگ نیست. | تأخیر اینترنت، دوبله و تدوین هم می‌توانند چنین اثری ایجاد کنند. |
| چهره و مرزها | لبه صورت، مو، گوش یا عینک هنگام حرکت تغییر شکل ناموجه دارد. | فشرده‌سازی و کیفیت پایین ویدئو نیز ممکن است جزئیات را خراب کند. |
| حرکت بدن و اشیا | دست، لباس یا شیء در فریم‌های مختلف ناپیوسته یا غیرطبیعی حرکت می‌کند. | حرکت سریع و تاری طبیعی هم بررسی را دشوار می‌کند. |
| نور و محیط | نور روی صورت با نور محیط یا سایه‌ها سازگار نیست. | نورپردازی حرفه‌ای و اصلاح رنگ می‌توانند تفاوت ایجاد کنند. |
| زمینه انتشار | ویدئو بدون منبع مشخص، تاریخ روشن یا گزارش مستقل منتشر شده است. | نبود منبع اولیه به‌تنهایی ثابت نمی‌کند که ویدئو جعلی است. |
برای راستی‌آزمایی یک ویدئو این مراحل را انجام دهید
- عنوان، تاریخ، مکان و نام منتشرکننده را بررسی کنید.
- از چند لحظه مهم ویدئو تصویر ثابت بگیرید و آن‌ها را با ابزار جست‌وجوی معکوس بررسی کنید.
- به دنبال نسخه کامل‌تر و منبع اولیه بگردید؛ یک کلیپ کوتاه ممکن است از متن اصلی جدا شده باشد.
- اگر ویدئو ادعای خبری مهمی دارد، گزارش منابع مستقل را جست‌وجو کنید.
- در صورت دسترسی، از ابزارهای بررسی منشأ محتوا استفاده کنید؛ نتیجه را در کنار شواهد دیگر بسنجید.
۴. ابزارهای آنلاین تشخیص محتوای هوش مصنوعی
ابزارهای تشخیص می‌توانند روند بررسی را سریع‌تر کنند، اما باید بدانید هر کدام دقیقاً چه چیزی را بررسی می‌کنند. برخی به‌دنبال واترمارک دیجیتال‌اند، بعضی اطلاعات منشأ فایل را می‌خوانند و برخی دیگر تلاش می‌کنند الگوهای آماری یا تصویری را تحلیل کنند. این روش‌ها یکسان نیستند.
OpenAI Verify
ابزار رسمی برای بررسی برخی نشانه‌های منشأ مرتبط با ابزارهای OpenAI در فایل‌های تصویری و صوتی پشتیبانی‌شده.
این ابزار تشخیص‌دهنده عمومی تمام مدل‌های هوش مصنوعی نیست؛ نتیجه منفی، تولیدنشدن فایل با هوش مصنوعی را ثابت نمی‌کند.
بررسی محتوا در Gemini
قابلیت بررسی برخی تصاویر، ویدئوها و فایل‌های صوتی برای یافتن واترمارک SynthID و مشاهده اطلاعات Content Credentials در موارد پشتیبانی‌شده.
SynthID مشخصاً برای شناسایی محتوای تولید یا ویرایش‌شده با ابزارهای پشتیبانی‌شده گوگل کاربرد دارد.
جست‌وجوی معکوس تصویر
برای پیدا کردن نسخه‌های مشابه، منبع احتمالی و زمان انتشار تصویر کاربرد دارد؛ به‌ویژه وقتی محتوا با یک خبر یا اتفاق واقعی مرتبط معرفی شده باشد.
این روش به‌خودی‌خود تشخیص نمی‌دهد که یک تصویر با هوش مصنوعی ساخته شده است.
واترمارک دیجیتال و Content Credentials چیست؟
بعضی سامانه‌ها هنگام تولید محتوا، نشانه‌ای دیجیتال را در فایل قرار می‌دهند. برای نمونه، SynthID برای شناسایی برخی محتوای تولیدشده با مدل‌های گوگل طراحی شده است. این نشانه لزوماً برای چشم انسان قابل مشاهده نیست.
فناوری C2PA و Content Credentials نیز می‌تواند اطلاعاتی درباره منشأ و سابقه تغییرات فایل ثبت کند؛ چیزی شبیه شناسنامه دیجیتال محتوا. در صورت وجود و معتبر بودن این اطلاعات، ممکن است بتوان فهمید فایل با چه ابزار یا فرایندی ایجاد یا ویرایش شده است.
بااین‌حال، این فناوری‌ها محدودیت دارند. ممکن است فایل اصلاً چنین اطلاعاتی نداشته باشد، اطلاعات منشأ در فرایند انتشار حذف شود یا ابزار بررسی، مدل تولیدکننده را پشتیبانی نکند. از طرف دیگر، وجود اطلاعات منشأ به معنی درست‌بودن ادعای داخل تصویر یا ویدئو نیست.
۵. آیا ابزارهای تشخیص هوش مصنوعی همیشه درست می‌گویند؟
خیر. هیچ ابزار عمومی را نباید داور نهایی واقعی یا جعلی‌بودن همه تصاویر، صداها و ویدئوها دانست. ابزارها ممکن است فقط مدل‌ها یا نشانه‌های خاصی را بشناسند؛ همچنین کیفیت پایین فایل، تغییر اندازه، برش، تبدیل فرمت یا حذف فراداده‌ها می‌تواند بررسی را دشوار کند.
برای مثال، اگر ابزاری اعلام کند که واترمارک شناخته‌شده‌ای پیدا نکرده است، این نتیجه فقط به معنای پیدا نشدن همان نشانه پشتیبانی‌شده است؛ نه اینکه فایل قطعاً با دوربین یا میکروفون واقعی ساخته شده باشد.
همچنین نتیجه مثبت یک ابزار لزوماً نشان نمی‌دهد چه کسی فایل را ساخته، چرا آن را منتشر کرده یا آیا محتوای آن حقیقت دارد. برای ادعاهای مهم، نتیجه ابزار را با منبع اولیه، شواهد مستقل و بررسی انسانی ترکیب کنید.
۶. چک‌لیست سریع قبل از باورکردن یا بازنشر محتوا
- آیا منبع اولیه تصویر، صدا یا ویدئو مشخص است؟
- آیا تاریخ و مکان ادعاشده با شواهد دیگر سازگار است؟
- آیا محتوای مشابه در منابع معتبر یا نسخه‌های قدیمی‌تر پیدا می‌شود؟
- آیا نشانه‌های فنی مشکوک وجود دارد و آیا توضیح دیگری برای آن‌ها ممکن است؟
- آیا از ابزار تشخیص مناسب استفاده کرده‌ام و محدودیت آن را می‌دانم؟
- آیا منبع مستقل دیگری همان ادعا را تأیید کرده است؟
- اگر محتوا مربوط به درخواست پول، اطلاعات بانکی یا موضوعی اضطراری است، آیا هویت فرد را از مسیر دیگری تأیید کرده‌ام؟
- اگر هنوز مطمئن نیستم، آیا می‌توانم از بازنشر آن خودداری کنم؟
۷. چند اشتباه رایج در تشخیص تصاویر و ویدئوهای جعلی
اشتباه اول: «اگر دست‌ها طبیعی باشند، تصویر واقعی است»
مدل‌های جدید ممکن است جزئیات پیچیده را به‌خوبی تولید کنند. طبیعی‌بودن دست‌ها یا چهره، سند اصالت تصویر نیست.
اشتباه دوم: «اگر ابزار تشخیص چیزی پیدا نکرد، محتوا واقعی است»
ممکن است ابزار فقط نشانه‌های یک سرویس خاص را شناسایی کند. محتوای تولیدشده با ابزار دیگر یا فایلی که نشانه‌هایش حذف شده‌اند، ممکن است شناسایی نشود.
اشتباه سوم: «اگر چهره و صدا واقعی باشند، خبر هم درست است»
یک ویدئوی واقعی ممکن است با توضیحی گمراه‌کننده منتشر شده باشد. همیشه ادعای همراه محتوا را جداگانه بررسی کنید.
اشتباه چهارم: «کیفیت پایین یعنی هوش مصنوعی»
فشرده‌سازی شبکه‌های اجتماعی، نور نامناسب، لرزش دوربین و ضبط ضعیف می‌توانند کیفیت را کاهش دهند. کیفیت پایین به‌تنهایی نشانه تولید مصنوعی نیست.
سؤالات متداول
آیا می‌توان فقط از روی ظاهر یک عکس فهمید با هوش مصنوعی ساخته شده است؟
خیر. بررسی جزئیات می‌تواند نشانه‌های مشکوک را آشکار کند، اما برای نتیجه‌گیری باید منبع، زمینه انتشار و در صورت امکان اطلاعات منشأ فایل نیز بررسی شوند.
آیا سایت رایگانی وجود دارد که همه عکس‌ها، صداها و ویدئوهای جعلی را تشخیص دهد؟
ابزارهایی برای بررسی بعضی فایل‌ها و نشانه‌های منشأ وجود دارند، اما هیچ ابزار عمومی نمی‌تواند همه مدل‌ها و همه انواع دست‌کاری را با قطعیت شناسایی کند. پیش از استفاده، نوع فایل پشتیبانی‌شده و محدودیت‌های سرویس را بخوانید.
آیا صدای شبیه‌سازی‌شده می‌تواند شبیه صدای یکی از اعضای خانواده باشد؟
بله. به همین دلیل، در تماس‌های غیرمنتظره‌ای که درخواست پول یا اطلاعات محرمانه مطرح می‌شود، باید از شماره یا روش ارتباطی دیگری هویت فرد را تأیید کنید.
اگر عکس یا ویدئو اطلاعات منشأ نداشته باشد، یعنی جعلی است؟
خیر. بسیاری از فایل‌های واقعی هم فاقد اطلاعات منشأ قابل بررسی هستند. ممکن است این اطلاعات هنگام ویرایش، اسکرین‌شات‌گرفتن یا انتشار در بعضی پلتفرم‌ها از بین بروند.
آیا وجود واترمارک دیجیتال، واقعی‌بودن محتوای نمایش‌داده‌شده را ثابت می‌کند؟
خیر. واترمارک یا اطلاعات منشأ می‌تواند درباره ابزار تولید یا ویرایش فایل اطلاعات بدهد؛ اما صحت رویداد، ادعا یا روایت داخل آن را تأیید نمی‌کند.
جمع‌بندی: قبل از باورکردن، چند بار بررسی کنید
تشخیص عکس، صدا و ویدئوی ساخته‌شده با هوش مصنوعی بیشتر از آنکه به پیدا کردن یک ایراد عجیب وابسته باشد، به بررسی چند نشانه و شناخت منبع محتوا نیاز دارد. جزئیات تصویر، هماهنگی صدا و حرکت، جست‌وجوی معکوس، اطلاعات منشأ و ابزارهای راستی‌آزمایی هرکدام می‌توانند بخشی از پازل را روشن کنند.
اگر محتوا درباره خبر مهم، اتهام به یک فرد، درخواست مالی یا موضوعی حساس است، به یک نشانه یا نتیجه ماشینی اکتفا نکنید. منبع مستقل پیدا کنید و تا زمانی که شواهد کافی ندارید، از بازنشر محتوای مشکوک خودداری کنید.
بیشتر درباره فناوری بدانید
برای مطالعه راهنماهای کاربردی، آشنایی با ابزارهای دیجیتال و دنبال‌کردن موضوعات روز فناوری، به مجله اوپاکالا سر بزنید.
مطالعه مجله اوپاکالا ورود به اوپاکالامنابع پیشنهادی برای مطالعه بیشتر: راهنمای رسمی Google درباره بررسی تصاویر، ویدئوها و صداهای تولیدشده با هوش مصنوعی، ابزار OpenAI Verify، اطلاعات Google DeepMind درباره SynthID و استاندارد C2PA.