واترمارک تصویر هوش مصنوعی و SynthID

دو چیز متفاوت که هر دو را واترمارک صدا می زنند

واترمارک هوش مصنوعی آن لوگوی گوشه تصویر نیست. دو ساز و کار کاملا متفاوت زیر این یک اسم جمع شده اند و فرقشان همان چیزی است که تصمیم شما را عوض می کند.

اولی داخل خود پیکسل هاست. مدل هنگام ساخت تصویر، الگویی را در خود تصویر می گذارد که چشم انسان نمی بیند و کیفیت را هم عوض نمی کند. چون بخشی از تصویر است، با کپی کردن یا ذخیره دوباره از بین نمی رود. SynthID گوگل از همین جنس است.

دومی کنار تصویر است، نه داخلش: یک بسته داده امضاشده که به فایل چسبانده می شود و می گوید این فایل با چه چیزی ساخته شده، چه ویرایش هایی خورده و چه کسی این ادعا را امضا کرده. اسم استانداردش C2PA است و اسم چیزی که تولید می کند Content Credentials. این یکی مثل هر فراداده دیگری قابل حذف است و در عمل خیلی راحت تر از آنچه فکر می کنید حذف می شود؛ بخش پنجم همین را روی یک فایل واقعی نشان می دهد.

پس یک تصویر می تواند شناسنامه نداشته باشد و باز هم واترمارک داشته باشد، یا شناسنامه داشته باشد و اصلا واترمارک نداشته باشد. اگر این دو را یکی بگیرید، هر نتیجه ای که از یک ابزار بررسی بگیرید را اشتباه می خوانید.

SynthID دقیقا چه می کند و کجاها هست

گوگل دیپ مایند در صفحه خودش می نویسد که SynthID واترمارک دیجیتال را مستقیم داخل تصویر و صدا و متن و ویدیوی تولیدشده با هوش مصنوعی جاسازی می کند، این واترمارک ها در سراسر محصولات مصرفی مولد گوگل جاسازی شده اند، برای انسان نامحسوس اند و با فناوری خود SynthID قابل تشخیص اند.

برای تصویر و ویدیو، همان صفحه می گوید واترمارک همان لحظه ای که محتوا ساخته می شود اضافه می شود و کیفیت را تغییر نمی دهد. برای صدا، روی هر چیزی که با مدل موسیقی لیریا یا قابلیت پادکست نوت بوک ال ام ساخته شود گذاشته می شود. و برای متن، گوگل می گوید آن را به خروجی اپ و نسخه وب جمینای هم گسترش داده و کارش این است که امتیاز احتمال کلمه بعدی را کمی جابه جا کند تا الگویی در خود انتخاب کلمات بماند.

اما نکته ای که یک طراح باید بداند جای دیگری نوشته شده و صریح تر است. مستندات تولید تصویر واسط برنامه نویسی جمینای یک جمله دارد و همان جمله همه چیز را روشن می کند: همه تصویرهای تولیدشده یک واترمارک SynthID دارند. یعنی این یک قابلیت اختیاری نیست که بشود خاموشش کرد؛ خروجی نانو بنانا ۲ و نانو بنانا پرو با آن بیرون می آید.

دو چیزی که گوگل نگفته و ما هم نمی گوییم: هیچ عددی درباره اینکه چند درصد از تصویرها بعد از فلان ویرایش هنوز قابل تشخیص اند منتشر نشده، و هیچ جا نگفته اند مدل های سازنده های دیگر این نشانه را دارند. آنچه بالا آمد ادعای خود گوگل درباره محصولات خود گوگل است و ما آن را به همین عنوان نقل می کنیم.

Content Credentials چیست و چه کسانی آن را می چسبانند

C2PA یک استاندارد باز است که ائتلافی به همین اسم منتشرش می کند، و چیزی که تولید می کند Content Credentials نام دارد. خود سایت ائتلاف تشبیه خوبی برایش می آورد: مثل برچسب ارزش غذایی روی بسته بندی، تاریخچه محتوا را در دسترس هر کسی می گذارد.

داخل این بسته چند چیز مشخص هست. فهرست کارهایی که روی فایل انجام شده، مثل ساخته شد و تبدیل شد. نام نرم افزاری که آن کار را کرده. یک کد از واژگان آی پی تی سی که می گوید منبع دیجیتال این فایل چه بوده، و کدی که برای تصویر تماما ماشینی به کار می رود trainedAlgorithmicMedia است. یک امضا و زنجیره گواهی که می گوید چه کسی این ادعا را کرده. و ارجاعی به ادعاهای قبلی، تا وقتی فایل تبدیل می شود تاریخچه اش قطع نشود.

و کسانی که پشت این استاندارد ایستاده اند اسم های کوچکی نیستند. صفحه عضویت ائتلاف، روزی که این درس نوشته شد، یازده عضو کمیته راهبری داشت: ادوبی، آمازون، بی بی سی، گوگل، متا، مایکروسافت، اوپن ای آی، پابلیسیس گروپ، سونی، تیک تاک و ترو پیک. یعنی هم سازنده های مدل، هم شبکه های اجتماعی، هم رسانه ها و هم سازنده های دوربین.

یک چیز را هم صریح بگوییم چون همه جا قاطی می شود: عضویت در ائتلاف با چسباندن شناسنامه روی خروجی یکی نیست. اینکه یک شرکت در کمیته راهبری هست به این معنی نیست که همه محصولاتش Content Credentials می گذارند. تنها چیزی که با اطمینان می شود گفت همان است که خودشان مستند کرده اند، یا همان که با باز کردن یک فایل واقعی می شود دید؛ و ما در بخش پنجم دقیقا همین کار را روی یک فایل از همین سایت کرده ایم.

چه کسی می تواند این نشانه ها را بخواند

این جایی است که بیشتر مطالب فارسی اشتباه می گویند، چون جواب برای این دو ساز و کار یکی نیست.

برای SynthID، راهی که برای همه باز است این است که خود گوگل توضیح می دهد: فایل را در گفتگوی جمینای آپلود کنید و بپرسید آیا با هوش مصنوعی گوگل ساخته یا ویرایش شده است. جمینای دنبال واترمارک SynthID می گردد و جواب می دهد. در کنارش گوگل یک درگاه جدا هم دارد به اسم SynthID Detector، ولی همان صفحه می نویسد که فعلا در حال همکاری با روزنامه نگاران و حرفه ای های رسانه برای آزمایش درگاه و گرفتن بازخورد است و فهرست انتظار آزمایش کننده های اولیه دارد. یعنی یک آشکارساز عمومی و باز برای همه، چیزی نیست که امروز وجود داشته باشد.

برای Content Credentials وضع بازتر است. ابتکار اصالت محتوا یک ابزار وب عمومی دارد که هر کسی می تواند فایل را در آن بیندازد و شناسنامه اش را ببیند. اوپن ای آی هم یک واسط برنامه نویسی بررسی اصالت منتشر کرده که هر دو را با هم چک می کند، هم Content Credentials و هم SynthID، و یک ابزار وب هم برایش دارد.

و حالا بخشی که مهم تر از هر ابزاری است، و اوپن ای آی خودش در مستنداتش نوشته: نتیجه «پیدا نشد» یعنی ابزار سیگنالی نیافته، نه اینکه محتوا ساخته انسان است. همان صفحه توضیح می دهد که فراداده ممکن است حذف شده باشد، واترمارک ممکن است تضعیف شده باشد، فایل ممکن است از یک مدل قدیمی آمده باشد، و صریح می گوید این ابزار فعلا محتوای تولیدشده با مدل شرکت های دیگر را تشخیص نمی دهد. یعنی یک بررسی تمیز هیچ چیزی را تبرئه نمی کند.

و مصداق عکسش هم هست: پیدا شدن یک سیگنال، شاهد وجود همان سیگنال است و نه تاریخچه کامل فایل. همان مستندات می گوید پیش از نسبت دادن تصویر به یک سازنده، صادرکننده امضا را بررسی کنید. این ابزارها شاهد جمع می کنند و حکم نمی دهند.

چه چیزی از ویرایش و آپلود جان سالم به در می برد

ادعای سازنده ها را اول به عنوان ادعا بگذاریم روی میز. گوگل می نویسد واترمارک تصویر و ویدیو طوری طراحی شده که در برابر تغییرهایی مثل برش، اضافه کردن فیلتر، عوض کردن نرخ فریم و فشرده سازی با اتلاف دوام بیاورد. اوپن ای آی در مستنداتش جمله دقیق تری دارد و همان جمله تفاوت دو لایه را کامل توضیح می دهد: فراداده C2PA زمینه بیشتری درباره منشا فایل می دهد، ولی ویرایش کردن و تبدیل کردن و به اشتراک گذاشتن فایل می تواند فراداده اش را حذف کند؛ در حالی که واترمارک SynthID بخشی از خود تصویر یا صداست و ممکن است از بعضی تبدیل ها جان سالم به در ببرد.

حالا همین را روی یک فایل واقعی نگاه کنیم، چون تفاوت بین «ممکن است حذف شود» و «حذف می شود» را فقط با باز کردن بایت ها می شود دید.

روز نوشتن این درس، هر سه هزار و صد و هفتاد و شش فایل تصویری پوشه آپلود همین سایت را اسکن کردیم. پنجاه و چهار فایل شناسنامه C2PA داشتند. پنجاه و سه تای آنها فایل هایی بودند که کاربران بازار فریلنسری خود سایت آپلود کرده اند، و پنجاهتای این جمع کدشان دقیقا trainedAlgorithmicMedia است، یعنی خود فایل می گوید تماما ماشین ساخته است.

و فایل پنجاه و چهارم مال خود ماست. تصویر شاخص برگه سئو سایت، که در تیر ۱۴۰۳ به کتابخانه رسانه اضافه شده، شناسنامه ای دارد که می گوید با DALL-E ساخته شده، کد منبع دیجیتالش همان trainedAlgorithmicMedia است، بعد از ساخت یک بار تبدیل شده و امضایش به یک زنجیره گواهی به نام تروپیک می رسد. ما این را نگذاشته بودیم؛ همان جا بوده و کسی نگاه نکرده بود.

حالا بخش جالبش. وردپرس از همان فایل بیست و هفت اندازه دیگر ساخته و هیچکدام از آن بیست و هفت تا حتی یک بایت از آن شناسنامه را ندارند. نه شناسنامه، نه بسته فراداده. یعنی یک بار تغییر اندازه خودکار، همان چیزی را که قرار بود شفافیت بیاورد کامل پاک کرده، و کسی هم هیچ خطایی ندیده.

نتیجه اش برای هر سایت وردپرسی یکی است و دو طرف دارد. یک طرف: روی شناسنامه حساب نکنید که به جای شما افشا کند، چون در بیشتر مسیرهای انتشار اصلا به بازدیدکننده نمی رسد. طرف دیگر: پاک شدن فراداده به معنی پاک شدن ردپا نیست، چون لایه داخل پیکسل چیز دیگری است و ما اصلا ابزار خواندنش را نداریم.

و یک استثنا که در همین مورد اتفاقی جالب شد: تصویر شاخص این برگه به عنوان تصویر اشتراک گذاری اجتماعی منتشر می شود و نسخه اصلی است که سرو می شود، نه نسخه های کوچک شده. یعنی هر بار که آن صفحه در تلگرام یا واتساپ یا شبکه اجتماعی به اشتراک گذاشته می شود، فایلی که آن طرف دانلود می شود همان است که شناسنامه دارد.

این برای سئوی سایت شما چه معنایی دارد

اول چیزی که نمی گوییم، چون همه جا گفته می شود و منبع ندارد. گوگل هیچ جا نگفته که واترمارک SynthID یا شناسنامه C2PA را به عنوان سیگنال رتبه می خواند، ما هم شاهدی برای این نداریم و هیچ درصدی درباره تشخیص نمی نویسیم. هر کسی عدد قطعی به شما داد، بپرسید از کجا آورده.

چیزی که می شود گفت باریک تر و قابل بررسی تر است: این اطلاعات داخل فایل های شما هست و هر کسی که فایل را داشته باشد می تواند بخواندش. سایتی که صد تصویر منتشر می کند و همه شان کد trainedAlgorithmicMedia را حمل می کنند، از روی خود فایل ها قابل دسته بندی است، بدون اینکه کسی حتی به متن صفحه نگاه کند. این یک ادعا درباره رتبه نیست، یک واقعیت درباره قابل شناسایی بودن است.

و حالا آن چیزی که واقعا در سیاست های گوگل نوشته شده. سیاست های اسپم جستجوی گوگل بخشی به اسم استفاده نادرست از محتوای مقیاس دار دارد و تعریفش این است: تولید صفحه های زیاد با هدف اصلی دستکاری رتبه و نه کمک به کاربر، که معمولا روی ساختن حجم زیادی محتوای غیراصیل با ارزش کم یا صفر تمرکز دارد، فرقی نمی کند چطور ساخته شده باشد. و یکی از مثال هایش صریح است: استفاده از ابزارهای هوش مصنوعی مولد برای تولید صفحه های زیاد بدون افزودن ارزش برای کاربر.

گوگل در راهنمای خودش درباره محتوای هوش مصنوعی هم همین را جور دیگری گفته است: استفاده از خودکارسازی، از جمله هوش مصنوعی، برای تولید محتوا با هدف اصلی دستکاری رتبه، نقض سیاست های اسپم است؛ و بلافاصله اضافه کرده که هر استفاده ای از خودکارسازی اسپم نیست.

پس رشته ای که این دو سر را به هم وصل می کند، مکانیزم است و نه مجازات. صفحه ای که محتوایش غیراصیل و انبوه است، مشکل دارد چون غیراصیل و انبوه است. تصویرهای واترمارک دار آن صفحه، سیگنال جدیدی نمی سازند؛ فقط کاری که کرده اید را از روی خود فایل ها خواندنی می کنند، برای گوگل و برای هر کس دیگری. اگر محتوای صفحه واقعا ارزش دارد، این خواندنی بودن به شما آسیبی نمی زند. و اگر ندارد، تصویرها هم مشکل شما نیستند.

برای اینکه ببینید همین بحث درباره متن به کجا می رسد، درس محتوای هوش مصنوعی و سئو همین موضوع را از سمت متن باز می کند.

موضع ما، و کاری که در این درس نمی کنیم

در کار مشتری، استفاده از هوش مصنوعی را بگویید. یک جمله در قرارداد یا در تحویل کافی است: کدام تصویرها با مدل ساخته شده اند و کدام ها عکس یا طراحی دستی اند. این یک جمله هزینه ای ندارد و تنها چیزی را می خرد که وقتی از دست برود دیگر برنمی گردد.

تصویر ماشینی را جایی بگذارید که اصالت موضوع نیست: پیش نویس، مود بورد، پس زمینه، شکل توضیحی، تصویر داخلی. و جایی که اصالت خودش کالاست، خرج کنید: عکس محصول، عکس تیم، هویت بصری، نمونه کار. آن فایل تصویر شاخص برگه سئوی خودمان که بالاتر آوردیم دقیقا در گروه اول است و ما هم نگهش داشته ایم و اینجا نوشتیم که چیست؛ همین کاری است که از دیگران هم انتظار داریم.

اگر تصویری با هوش مصنوعی ساخته اید و قرار است ادعای واقعی بکند، جایگزینش را بسازید نه شناسنامه اش را. تفاوت این دو کار در نتیجه یکی نیست: یکی مشکل را حل می کند و دیگری فقط شاهدش را پاک می کند.

و به همین دلیل در این درس نوشته نمی شود که چطور یک واترمارک را حذف کنند. این لایه وجود دارد تا خواننده بتواند بفهمد به چه چیزی نگاه می کند، و آموزش حذفش آموزش فریب است. یک نکته فنی هم هست که کمتر گفته می شود: پاک کردن فراداده و پاک کردن نشانه داخل پیکسل دو کار متفاوت اند، و کسی که فراداده را پاک می کند معمولا فکر می کند هر دو را پاک کرده است.