شرکت متا به تازگی ابزاری را برای تشخیص تصاویر تولیدشده توسط مدل هوش مصنوعی خود یعنی Muse Image رونمایی کرد، اما در اولین آزمایش‌های جدی، عملکرد این سیستم پرسش‌های زیادی را برانگیخت. طبق تحلیل خبرگزاری رویترز که توسط گیزمودو (Gizmodo) گزارش شده، این ابزار در شناسایی تصاویر اصلی عملکرد خوبی دارد، اما به محض اینکه تصویر «برش» (Crop) داده می‌شود، کارایی خود را به شدت از دست می‌دهد.
در این آزمایش، ۴۰ تصویر توسط ابزار متا بررسی شد و تمامی تصاویر اصلی به درستی به عنوان «تولیدشده توسط هوش مصنوعی» شناسایی شدند. اما زمانی که همان تصاویر بین یک‌سوم تا نصف اندازه اصلی خود برش داده شدند، سیستم تشخیص متا نتوانست ۵۵ درصد آن‌ها را شناسایی کند.
چالش واترمارک‌های پیکسلی
هسته اصلی این سیستم، واترمارک نامرئی است که متا آن را «Content Seal» می‌نامد. متا ادعا می‌کند که این نشانگر دیجیتالی به گونه‌ای طراحی شده که حتی در صورت برش، فشرده‌سازی، تغییر اندازه یا اسکرین‌شات گرفتن، همچنان در تصویر باقی بماند. با این حال، متا در واکنش به این نتایج اعلام کرده که این ابزار هنوز در مرحله پیش‌نمایش (Preview) است و اگرچه برای مقاومت در برابر ویرایش‌های رایج ساخته شده، اما ممکن است در صورت برش‌های سنگین، این سیگنال دیجیتالی از بین برود.
نکته کلیدی اینجاست: «برش تصویر» یک اقدام پیچیده یا حمله سایبری نیست؛ بلکه اولین کاری است که اکثر کاربران پیش از انتشار یک عکس انجام می‌دهند.
نظر کارشناسان
سی‌وی لیو (Siwei Lyu)، استاد علوم کامپیوتر دانشگاه بوفالو که در زمینه پزشکی قانونی تصاویر هوش مصنوعی فعالیت می‌کند، معتقد است این ضعف در سیستم‌های واترمارک شناخته‌شده است. وی می‌گوید: «روش‌های مبتنی بر واترمارک زمانی بسیار موثر هستند که واترمارک دست‌نخورده باقی بماند، اما هر تغییری که سیگنال جاسازی‌شده را حذف یا تضعیف کند — مانند برش، تغییر اندازه یا فشرده‌سازی سنگین — اثربخشی آن‌ها را کاهش می‌دهد.»
در مقابل، برخی پژوهشگران مانند سارا بارینگتون از دانشگاه برکلی، نگاه خوش‌بینانه‌تری دارند و معتقدند حتی اگر این ابزار بتواند ۹۰ درصد موارد را شناسایی کند، باز هم نسبت به صفر درصد، یک جهش بزرگ محسوب می‌شود.
تقارنِ ناعادلانه در تشخیص
این سیستم با یک تقارن نامتوازن روبروست. از یک سو، یک فرد متخلف که قصد دارد یک تصویر جعلی هوش مصنوعی را به عنوان تصویر واقعی جا بزند، کافی است آن را کمی برش دهد تا نیمی از تلاش‌های امنیتی متا خنثی شود. از سوی دیگر، یک عکاس واقعی که از ابزارهای هوش مصنوعی تنها برای اصلاحات جزئی تصویر استفاده کرده، ممکن است به اشتباه برچسب «AI Info» بخورد و راه آسانی برای اعتراض نداشته باشد.
متا در این زمینه تنها نیست؛ گوگل و OpenAI نیز پیش‌تر هشدار داده بودند که ابزارهای تشخیص آن‌ها در برابر تغییرات عمدی کاربران مصون نیستند. با این حال، درخواست هیئت نظارت متا برای ایجاد سیستم‌های تشخیصِ قوی‌تر، با ابزاری که با یک برش ساده از کار می‌افتد، فاصله زیادی دارد. به نظر می‌رسد فناوری واترمارک پیکسلی (Content Seal) هنوز راه درازی برای بلوغ در پیش دارد.
مترجم: نازنین مالکی
Saturday, 24 October , 2026