پینترست سرانجام به جنگ محتوای هرز هوش مصنوعی در پلتفرم خود می‌رود

پینترست سرانجام به جنگ محتوای هرز هوش مصنوعی می‌رود

پینترست (پلتفرم محبوب اشتراک‌گذاری تصویر) اعلام کرده‌است که قصد دارد اقدامی جدی در برابر محتوای هوش مصنوعی در پینترست که به شکلی فزاینده پلتفرم را فرا گرفته‌است، انجام دهد.

پس از افزایش حجم شکایات کاربران، این شبکه اجتماعی روز چهارشنبه برنامه‌ای را برای شروع برچسب‌گذاری تصاویر تولید شده یا اصلاح شده توسط هوش مصنوعی اعلام کرد.

تهدید جدی برای پلتفرم‌های محتوا محور

این ویژگی‌های جدید نشان‌دهنده شدت تهدیدی است که هوش مصنوعی مولد برای پلتفرم‌های مبتنی بر محتوای تولید شده توسط کاربر (UGC)، ایجاد می‌کند. فناوری هوش مصنوعی این امکان را برای عوامل مخرب فراهم کرده است تا این پلتفرم‌ها را با تصاویر جعلی اشباع کنند. در نتیجه، تصاویری که محتوای اصیل انسانی را که کاربران به دنبال آن هستند، تحت‌الشعاع قرار داده و تجربه کلی کاربر را بی‌ارزش می‌سازند. پین‌های تولید شده با هوش مصنوعی و سایر محتوای هوش مصنوعی در پینترست با کیفیت پایین (که اغلب از آن به عنوان “محتوای هرز هوش مصنوعی” (AI Slop) یاد می‌شود.) باعث واکنش منفی گسترده‌ای در میان پایگاه کاربران وفادار پینترست شده‌است.

حالا پینترست می‌گوید به کاربران کمک خواهد کرد تا راحت‌تر تشخیص دهند کدام محتوا توسط هوش مصنوعی تولید شده‌است.

مطلب پبشنهادی: یوتیوب برنامه شناسایی محتوای هوش مصنوعی خود را گسترش می‌دهد.

نحوه تشخیص و برچسب‌گذاری محتوای هوش مصنوعی در پینترست

وقتی کاربران روی یک پین تصویری کلیک می‌کنند تا آن را در نمای نزدیک ببینند، برچسبی با عنوان “اصلاح شده‌با هوش مصنوعی” (AI modified) را در گوشه پایین سمت چپ مشاهده خواهند کرد. این شرکت می‌گوید برای تشخیص محتوای هوش مصنوعی در پینترست، متادیتا (Metadata) تصاویر را تجزیه و تحلیل خواهد کرد. اما همچنین سیستم طبقه‌بندی‌کننده اختصاصی خود را توسعه داده‌است که به طور خودکار محتوای هوش مصنوعی را که نشانگرهای واضحی ندارد، شناسایی می‌کند.

پینترست می‌گوید تولیدکنندگان محتوا در صورتی که محتوای آن‌ها به اشتباه برچسب‌گذاری شود، امکان اعتراض و درخواست بازبینی خواهند داشت.

کنترل بیشتر کاربران بر نمایش محتوای هوش مصنوعی

مهم‌تر از آن، پینترست اعلام کرده‌است که در قالب یک ویژگی جدید، کنترل بیشتری به کاربران بر میزان محتوای هوش مصنوعی در پینترست که مشاهده می‌کنند، خواهد داد.

هنگامی که این ویژگی راه‌اندازی شود، کاربران قادر خواهند بود گزینه «مشاهده کمتر» (see fewer) را برای پین‌های تولید شده توسط هوش مصنوعی مولد (GenAI Pins) در دسته‌بندی‌های خاصی مانند زیبایی و هنر که مستعد اشباع شدن با محتوای هوش مصنوعی هستند انتخاب کنند. پینترست قصد دارد به مرور زمان، این گزینه را به دسته‌بندی‌های دیگر نیز گسترش دهد.

این گزینه، پس از فعال‌سازی، در منوی سه‌نقطه واقع در گوشه پایین سمت راست هر پین قابل دسترسی خواهد بود. پینترست در یک پست وبلاگی توضیح می‌دهد که کلیک روی این گزینه، سیگنالی به سیستم‌های پینترست ارسال می‌کند تا محتوای هوش مصنوعی کمتری به آن کاربر توصیه شود.

پینترست زمان دقیقی برای راه‌اندازی این تنظیمات کنترلی جدید اعلام نکرد و تنها به عبارت «به زودی» بسنده کرده‌است.

واکنش کاربران به این موضوع

برای پلتفرمی مانند پینترست که کاربران را برای جستجو و ذخیره تصاویر الهام‌بخش در زمینه‌هایی چون مد، دکوراسیون منزل، سفر، هنر، زیبایی و… جذب کرده‌است، هجوم سیل‌آسای محتوای هوش مصنوعی می‌تواند به معنای واقعی کلمه، مرگ پلتفرم باشد. برخی کاربران پیش از این نیز به دلیل حجم بالای تصاویر هوش مصنوعی که سایت را فرا گرفته‌است، آن را پلتفرمی مرده اعلام کرده‌اند.

به عنوان مثال، ماه‌هاست که کاربران در پلتفرم‌هایی مانند ردیت (Reddit) به نفوذ “محتوای هرز هوش مصنوعی” در پینترست اعتراض می‌کنند. و به افزایش چشمگیر این نوع محتوای کم‌ارزش اشاره دارند. آن‌ها می‌گویند تصاویر هوش مصنوعی در سراسر سایت، چه هنگام مرور محتوا، چه در زمان جستجو و یا مشاهده پیشنهادات بورد (Board)، به چشم می‌خورند. رسانه‌ها نیز این افول را مستند کرده‌اند و در مقالاتی به این موضوع پرداخته‌اند که آیا هوش مصنوعی پینترست را نابود کرده است یا هنوز امیدی برای بهبود آن وجود دارد.

آینده محتوای هوش مصنوعی در پینترست: ابزارها و چشم‌انداز

پینترست اعلام کرده است که قصد دارد در ماه‌های آینده ابزارهای بیشتری را برای تکمیل اقدامات خود در حوزه هوش مصنوعی معرفی کند. این شرکت همچنین تأکید دارد که همچنان معتقد است هوش مصنوعی مولد، در صورت پیاده‌سازی هوشمندانه و هدفمند، می‌تواند منبع الهام‌بخشی برای کاربران باشد.

Matt Madrigal (مدیر ارشد فناوری پینترست) در بیانیه‌ای گفت:

«همزمان با مواجهه کاربران با محتوای هوش مصنوعی در پینترست، ما در حال توانمندسازی آن‌ها هستیم تا انتخاب‌های آگاهانه‌تری در مورد محتوایی که مشاهده می‌کنند، داشته باشند. محتوای هوش مصنوعی مولد در پینترست باید توانایی کاربران را برای کشف ایده‌ها و عملی کردن الهاماتشان تقویت کند. و ما عامدانه با رویکردی متفکرانه و هدفمند به این چشم‌انداز جدید نزدیک می‌شویم که به نفع همه افراد در پینترست باشد.»