ژاکت پف کرده پاپ: آیا باید نگران ویروسی شدن تصویر هوش مصنوعی باشید؟

در چند روز گذشته تصویری از پاپ فرانسیس، رهبر کلیسای کاتولیک با یک ژاکت پفی بزرگ سفید، در شبکه های اجتماعی دست به دست شد. پاپ 86 ساله شیک تر به نظر می رسد و بسیاری از مردم درباره لباس های مد روز او نظر می دهند. فقط یک مشکل وجود دارد: عکس واقعی نیست.

تصاویر بالا توسط هوش مصنوعی Midjourney که تصاویر را بر اساس پیام‌های متنی تولید می‌کند، ایجاد شده‌اند و در ۲۴ مارس توسط هنرمندی با نام u/trippy_art_special به Reddit ارسال شده‌اند. حساب کاربری از آن زمان به حالت تعلیق درآمده است، اما یک عکس (عکس سمت چپ) از آن زمان در توییتر پخش شد و بسیاری را فریب داد.

آیا باید نگران باشیم؟ رایان برودریک کارشناس فرهنگ وب زنگ زدن تصویر پاپ «نخستین مورد واقعی اطلاعات نادرست هوش مصنوعی در سطح انبوه» است. اما این مشکل در واقع چند هفته ای است که پس از به روز رسانی Midjourney که خروجی را تا حد زیادی بهبود بخشیده است، ایجاد شده است. اوایل ماه مارس، عکس‌هایی از Medjourney در حال دستگیری مشابه دونالد ترامپ، رئیس‌جمهور سابق آمریکا، در فضای مجازی منتشر شد. این تصاویر از ادعاهای مطرح شده توسط الیوت هیگینز، بنیانگذار Bellingcat، یک گروه روزنامه نگاری تحقیقی تهیه شده است.

النور کارمی از دانشگاه سیتی لندن می‌گوید: «من فکر می‌کنم این نمونه‌ای از یک مشکل گسترده‌تر است که فناوری بدون هیچ نظارت، مقررات یا استانداردی وارد جوامع ما شده است.

ترس از جعل هوش مصنوعی چیز جدیدی نیست. برای چندین سال، ما با تهدید تصاویر جعلی از چهره افراد مواجه بودیم که توسط نسل‌های قبلی هوش مصنوعی که بر روی مقادیر کمتری از اطلاعات آموزش دیده بودند، تهیه می‌شدند، اما اغلب نشانه‌های کلاهبرداری مانند تاری چشم یا گوش‌های مبهم داشتند. Midjourney هنوز با دست‌ها دست و پنجه نرم می‌کند و اغلب انگشت‌های اضافی را اضافه می‌کند، اما وقتی با تصویری مواجه می‌شوید که دست‌ها در آن تمرکز ندارند، مانند یک پدر هوش مصنوعی، مردم ممکن است گول بخورند.

اگنس ونما از دانشگاه مالت می‌گوید مسئله مقیاس نیز وجود دارد. زیرمجموعه r/midjourney که در آن تصاویر پاپ پست شده بود، شامل نمونه‌های دیگری از تصاویر تولید شده توسط هوش مصنوعی است که توسط 143000 عضو آن تولید شده است. آنها شامل مجموعه‌ای از عکس‌ها هستند که زلزله‌ای خیالی را که در سال 2001 ایالات متحده و کانادا را لرزاند، مستند می‌کنند. که الهام بخش افسانه خودش بود. کپشن پست با بیشترین رای به این شرح است: “مردم در سال 2025 با اطلاعات نادرست با مشکل مواجه خواهند شد. مردم در سال 2100 نمی دانند کدام بخش از تاریخ واقعی بوده است…”

ونما می‌گوید: «من فکر می‌کنم این واقعیت که بسیاری از مردم اکنون به آن دسترسی دارند – به نوعی دموکراتیک‌تر است – به نوعی به این معنی است که دریچه‌ها باز شده‌اند. هر چه این موضوع واقعی تر شود و افراد بیشتری به آن دسترسی داشته باشند، ما بیشتر مراقب خواهیم بود و خطر این که کسی به این نوع فریب کاری عمل کند بیشتر می شود.”

در نهایت، افزایش سریع هوش مصنوعی به این معنی است که برخی اختلالات اجتناب ناپذیر است. کارمی می‌گوید: انتظار می‌رود که بدون درک کامل تأثیر آن به سمت انقلاب هوش مصنوعی حرکت کنیم – به این معنی که ما به دانش رسانه‌ای بهتری در مورد آسان بودن ایجاد و انتشار تصاویر جعلی نیاز داریم. او می‌گوید: «بیشتر جامعه ما عقب افتاده‌اند و نمی‌دانند این فناوری‌ها چگونه کار می‌کنند، برای چه اهدافی و چه پیامدهایی دارند.