واترمارک برای تصاویر ساخته‌شده با هوش مصنوعی

واترمارک برای تصاویر ساخته‌شده با هوش مصنوعی

خدمت شبکه اجتماعی اسنپ روز سه‌شنبه اعلام کرد که قصد دارد واترمارکی به تصاویر ساخته‌شده با هوش مصنوعی در پلتفرم خود اضافه کند.

این واترمارک نسخه‌ای نیمه‌شفاف از لوگوی اسنپ به همراه یک ایموجی درخشش است. و به هر تصویر تولید شده با هوش مصنوعی که از برنامه خارج شود یا در گالری دوربین ذخیره شود، اضافه خواهد شد.

دلیل اضافه کردن واترمارک به تصاویر ساخته‌شده با هوش مصنوعی

این شرکت در صفحه پشتیبانی خود اعلام کرد که حذف واترمارک از تصاویر، توافقنامه استفاده از آن را نقض می‌کند. هنوز مشخص نیست که اسنپ چگونه حذف این واترمارک‌ها را تشخیص خواهد داد. ما از شرکت برای جزئیات بیشتر سوال کرده‌ایم و در صورت دریافت پاسخ، این خبر را به‌روزرسانی خواهیم کرد.

دیگر غول‌های فناوری مانند مایکروسافت، متا و گوگل نیز برای برچسب‌گذاری یا شناسایی تصاویر ایجاد شده با ابزارهای مبتنی بر هوش مصنوعی اقداماتی انجام داده‌اند.

قابلیت اسنپ‌چت برای استفاده از هوش مصنوعی

در حال حاضر، اسنپ به مشترکین پولی اجازه می‌دهد تا با استفاده از اسنپ هوش مصنوعی، تصاویر تولید شده با هوش مصنوعی را ایجاد یا ویرایش کنند. قابلیت رویِ سلفی آن، به نام دریمز، همچنین به کاربران امکان می‌دهد تا از هوش مصنوعی برای جذاب‌تر کردن تصاویر خود استفاده کنند.

این شرکت در یک پست وبلاگی به تشریح اقدامات ایمنی و شفافیت خود در رابطه با هوش مصنوعی می‌پردازد. اسنپ‌چت توضیح داد که ویژگی‌های مبتنی بر هوش مصنوعی مانند لنزها را با یک نشانگر بصری شبیه به ایموجی درخشش نشان می‌دهد.

این شرکت همچنین گفت که کارت‌های متنی را به تصاویر تولید شده با هوش مصنوعی که با ابزارهایی مانند دریمز ایجاد شده‌اند، اضافه کرده است تا کاربران را بهتر آگاه کند.

اهداف اسنپ‌چت در زمینه هوش مصنوعی

اسنپ‌چت در ماه فوریه با HackerOne برای پذیرش برنامه پاداش باگ به منظور تست استرس ابزارهای تولید تصویر هوش مصنوعی خود همکاری کرد.

این شرکت در آن زمان گفت: «ما می‌خواهیم کاربران اسنپ‌چت از همه اقشار جامعه، دسترسی و انتظارات عادلانه‌ای هنگام استفاده از تمام ویژگی‌های درون برنامه ما، به ویژه تجربیات مبتنی بر هوش مصنوعی ما داشته باشند. با در نظر گرفتن این موضوع، ما در حال اجرای تست‌های اضافی برای به حداقل رساندن نتایج بالقوه مغرضانه هوش مصنوعی هستیم.»

تلاش‌های اسنپ برای بهبود ایمنی و تعدیل هوش مصنوعی پس از آن صورت می‌گیرد که چت‌بات «My AI» آن پس از راه‌اندازی در مارس ۲۰۲۳ جنجال‌هایی را برانگیخت. زمانی که برخی از کاربران موفق شدند این ربات را وادار به پاسخ‌گویی و صحبت در مورد رابطه جنسی، مشروبات الکلی و سایر موضوعات بالقوه ناامن کنند. بعداً، این شرکت برای والدین و سرپرستان در مرکز خانواده، کنترل‌هایی را برای نظارت و محدود کردن تعاملات فرزندانشان با هوش مصنوعی ارائه کرد.