سم آلتمن، مدیرعامل OpenAI، روز سه‌شنبه از مجموعه‌ای از سیاست‌های کاربری جدید رونمایی کرد. مهم‌ترین بخش این سیاست‌ها، تعهد به ایجاد تغییرات اساسی در نحوه تعامل ChatGPT با کاربران زیر ۱۸ سال و افزایش ایمنی نوجوانان است. این اقدام نشان‌دهنده تغییر رویکرد جدی این غول فناوری در قبال مسئولیت‌های اجتماعی خود است.
در بیانیه‌ای که OpenAI منتشر کرده، آمده است: «ما ایمنی را بر حریم خصوصی و آزادی برای نوجوانان در اولویت قرار می‌دهیم. این یک فناوری جدید و قدرتمند است و ما معتقدیم که افراد زیر سن قانونی به محافظت قابل توجهی نیاز دارند.»
خرید شماره مجازی ChatGPT | اشتراک یک ماهه chatGPT plus
این سیاست‌های جدید به طور خاص برای محافظت از کاربران کم‌سن‌وسال در برابر مکالمات آسیب‌زا طراحی شده‌اند. تغییرات اصلی در دو حوزه کلیدی متمرکز شده‌اند:
بر اساس خط‌مشی جدید، ChatGPT به گونه‌ای آموزش داده می‌شود که دیگر وارد «گفتگوهای با ماهیت نامناسب و اغواگرانه» (flirtatious talk) با کاربران زیر سن قانونی نشود. علاوه بر این، مکانیسم‌های حفاظتی بیشتری پیرامون بحث‌های مربوط به خودکشی و خودآزاری اعمال خواهد شد. اگر یک کاربر نوجوان از ChatGPT برای تصور سناریوهای مرتبط با خودکشی استفاده کند، این سرویس تلاش خواهد کرد تا با والدین او یا در موارد بسیار شدید، با پلیس محلی تماس بگیرد.
در کنار محدودیت‌های محتوایی، والدین می‌توانند با ثبت حساب کاربری برای فرزند نوجوان خود، از قابلیت جدیدی به نام «ساعات خاموشی» (blackout hours) استفاده کنند. این ویژگی به والدین این امکان را می‌دهد که ساعات مشخصی را برای عدم دسترسی فرزندشان به ChatGPT تعیین کنند؛ قابلیتی که پیش از این وجود نداشت.
مطلب پیشنهادی: رونمایی از GPT-5: نسخه جدید هوش مصنوعی ChatGPT
متأسفانه، سناریوهایی که OpenAI قصد پیشگیری از آن‌ها را دارد، فرضی نیستند. این تصمیمات در بحبوحه چالش‌های حقوقی و فشارهای عمومی اتخاذ شده‌اند.
شرکت OpenAI در حال حاضر با یک پرونده قضایی «مرگ ناشی از قصور» از سوی والدین آدام رین مواجه است. آدام پس از ماه‌ها تعامل با ChatGPT، بر اثر خودکشی جان خود را از دست داد. هوش مصنوعی Character.AI نیز با شکایتی مشابه روبروست. اگرچه خطرات مربوط به خودآزاری برای کاربران نوجوان بسیار فوری و جدی است، اما پدیده گسترده‌تر «توهمات ناشی از تعامل با چت‌بات» (chatbot-fueled delusion) نگرانی‌های زیادی را برانگیخته است؛ به‌ویژه با توجه به اینکه چت‌بات‌های امروزی قادر به تعاملات پایدارتر و با جزئیات بیشتری شده‌اند.
این سیاست‌های جدید هم‌زمان با جلسه کمیته قضایی سنا تحت عنوان «بررسی آسیب‌های چت‌بات‌های هوش مصنوعی» اعلام شد. پدر آدام رین یکی از سخنرانان اصلی این جلسه بود. این جلسه همچنین به یافته‌های یک تحقیق توسط خبرگزاری رویترز پرداخت که اسناد سیاستی را فاش کرده بود که ظاهراً گفتگوهای جنسی با کاربران نوجوان را تشویق می‌کردند. در پی انتشار این گزارش، شرکت متا نیز سیاست‌های چت‌بات خود را به‌روزرسانی کرد.
اجرای این سیاست‌ها بدون چالش نخواهد بود و OpenAI رویکرد فنی خود را برای مدیریت آن تشریح کرده است.
جداسازی کاربران زیر ۱۸ سال یک چالش فنی بزرگ است. OpenAI در یک پست وبلاگی جداگانه توضیح داد که «در حال ساخت یک سیستم بلندمدت برای تشخیص سن کاربران (بالای ۱۸ سال یا زیر ۱۸ سال) است». با این حال، در بسیاری از موارد مبهم، سیستم به طور پیش‌فرض قوانین محدودکننده‌تر را اعمال خواهد کرد. برای والدین نگران، مطمئن‌ترین راه برای اطمینان از شناسایی کاربر نوجوان، اتصال حساب او به یک حساب والدین موجود است. این کار همچنین به سیستم امکان می‌دهد تا در مواقعی که تشخیص می‌دهد نوجوان در معرض خطر قرار دارد، مستقیماً به والدین هشدار دهد.
مطلب پیشنهادی: معرفی دستیار هوشمند ChatGPT: دستیار همه‌کاره جدید OpenAI
با این حال، سم آلتمن در همان پست بر تعهد مداوم OpenAI به حریم خصوصی کاربران و اعطای آزادی عمل گسترده به کاربران بزرگسال در نحوه تعامل با ChatGPT تأکید کرد. او در پایان این بیانیه نوشت: «ما می‌دانیم که این اصول با یکدیگر در تضاد هستند و همه با نحوه حل این تضاد توسط ما موافق نخواهند بود.»
فعال سازی آنی اشتراک تلگرام پرمیوم
خرید تلگرام پرمیوماسپاتیفای رایگان شد: پخش دلخواه آهنگ‌ها برای همه! پس از مدت‌ها انتظار برای راه‌اندازی پخش…
هوش مصنوعی Dreamface: جانی دوباره به عکس‌های شما می‌بخشد در دنیایی که هوش مصنوعی (AI)…
هوش مصنوعی Banana گوگل: راهنمای کامل ساخت عکس با ابزار جدید گوگل دنیای هوش مصنوعی…
قابلیت جدید یادداشت‌های اجتماعی متا: گامی مؤثر برای مقابله با اطلاعات نادرست؟ شرکت متا در…
رونمایی از ایرپادز پرو ۳: بررسی کامل قابلیت‌ها، قیمت و تاریخ عرضه اپل روز سه‌شنبه…
بررسی کامل مشخصات آیفون ۱۷ و آیفون Air: هرآنچه در رویداد اپل معرفی شد اپل…