شرکت OpenAI با هدف مقابله با گسترش تصاویر جعلی و دیپفیکها، از دو لایه حفاظتی نوین شامل استاندارد بینالمللی C2PA و فناوری واترمارک نامرئی گوگل (SynthID) رونمایی کرد تا فرآیند اصالتسنجی محتوای دیجیتال را تسهیل کند.
به گزارش خبرگزاری خبرآنلاین، همزمان با افزایش بیسابقه دقت مدلهای مولد تصویر و دشوار شدن تشخیص اصالت محتوا، شرکت OpenAI راهکارهای جدیدی را برای شفافسازی منشأ تصاویر معرفی کرد. این شرکت با اتکا به دو فناوری مکمل، در صدد است تا ردپایی غیرقابل حذف بر روی تمامی خروجیهای بصری خود به جا بگذارد.
در گام نخست، OpenAI به استاندارد متنباز مجمع اصالت و امنیت محتوا (C2PA) متعهد شده است؛ این پروتکل سیگنالهای واضحی را در متادیتای فایل ذخیره میکند که نشاندهنده تولید تصویر توسط هوش مصنوعی است. با این حال، از آنجا که دادههای متادیتا توسط کاربران پیشرفته قابل دستکاری یا حذف هستند، این شرکت در یک همکاری راهبردی با گوگل، سیستم اصالتسنجی خود را به فناوری «SynthID» مجهز کرده است.
طبق بیانیه رسمی این شرکت، SynthID یک واترمارک دیجیتال کاملاً نامرئی است که به عنوان لایهای مقاوم در برابر تغییرات فیزیکی عمل میکند. این مکانیزم به گونهای طراحی شده است که حتی در صورت اعمال تغییراتی نظیر تغییر ابعاد (Resize)، ثبت اسکرینشات یا ویرایشهای دیجیتال توسط بازیگران مخرب، همچنان در بافت تصویر باقی مانده و اصالت آن را فاش میکند.
علاوه بر این، OpenAI نسخهای آزمایشی از یک ابزار راستآزمایی عمومی (Verification Tool) را به نمایش گذاشته است که به کاربران اجازه میدهد هر تصویری را جهت بررسی وجود سیگنالهای C2PA یا واترمارک SynthID اسکن کنند. در فاز اولیه، این ابزار حفاظتی و ابزار تشخیص متناظر با آن، صرفاً تصاویر تولید شده توسط محصولات بومی OpenAI را پشتیبانی میکنند، اما این کمپانی ابراز امیدواری کرده است که با پذیرش این استانداردها توسط سایر بازیگران بزرگ فناوری، این چتر حمایتی در آینده کل اکوسیستم هوش مصنوعی را در بر بگیرد.
منبع: techcrunch
۲۲۷۲۲۷
