هوش مصنوعی تصحیح‌گر مایکروسافت به نام ابزار Correction

مایکروسافت ادعا می‌کند که دروغگویی هوش مصنوعی را با ابزار هوش مصنوعی تصحیح‌گر خود برطرف کرده است. اما آیا واقعاً چنین است؟ در این مقاله از سایت نامبرفور به این موضوع خواهیم پرداخت.

هوش مصنوعی تصحیح‌گر مایکروسافت

مایکروسافت امروز هوش مصنوعی تصحیح‌گر خود به نام Correction را معرفی کرد که به طور خودکار متون تولید شده توسط هوش مصنوعی را که اشتباه هستند ویرایش می‌کند. Correction ابتدا متنی را که ممکن است نادرست باشد (مانند خلاصه‌ای از تماس تلفنی سه ماهه یک شرکت که ممکن است نقل قول‌ها را اشتباه نسبت داده باشد.) مشخص می‌کند و سپس آن را با یک منبع مطمئن (مانند رونوشت‌ها) مقایسه می‌کند تا صحت آن را بررسی کند.

Correction که به عنوان بخشی از API ایمنی محتوای Azure AI مایکروسافت در دسترس است، می‌تواند با هر مدل تولیدکننده متن هوش مصنوعی، از جمله Llama متا و GPT-4o OpenAI، استفاده شود.

مطلب پیشنهادی: برنامه Designer مایکروسافت – هوش مصنوعی خارق‌العاده Microsoft

هوش مصنوعی تصحیح‌گر مایکروسافت برای افزایش دقت پاسخ ها

یک سخنگوی مایکروسافت به TechCrunch گفت:

“هوش مصنوعی تصحیح‌گر مایکروسافت یا همان Correction بر اساس یک فرآیند جدید استفاده از مدل‌های کوچک و بزرگ زبان برای همسو کردن خروجی‌ها با اسناد زمینه‌ای کار می‌کند. ما امیدواریم که این ویژگی جدید سازندگان و کاربران هوش مصنوعی مولد را در زمینه‌هایی مانند پزشکی، که توسعه‌دهندگان برنامه دقت پاسخ‌ها را بسیار مهم می‌دانند، پشتیبانی کند.”

گوگل نیز تابستان امسال ویژگی مشابهی را در Vertex AI، پلتفرم توسعه هوش مصنوعی خود، معرفی کرد. این ویژگی به مشتریان اجازه می‌دهد مدل‌ها را با استفاده از داده‌های ارائه دهندگان شخص ثالث، مجموعه داده‌های خود یا جستجوی گوگل صحت‌سنجی کنند.

آیا هوش مصنوعی تصحیح‌گر مایکروسافت موفق خواهد بود؟

اما کارشناسان هشدار می‌دهند که این رویکردهای زمینه‌ای مشکل اصلی توهمات را برطرف نمی‌کنند.

Os Keyes، دانشجوی دکترای دانشگاه واشنگتن که در مورد تأثیر اخلاقی فناوری‌های نوظهور مطالعه می‌کند، گفت:

“تلاش برای از بین بردن توهمات از هوش مصنوعی مولد مانند تلاش برای حذف هیدروژن از آب است. این یک جزء ضروری در نحوه عملکرد این فناوری است.”

مدل‌های تولیدکننده متن توهم می‌زنند زیرا در واقع چیزی را نمی‌دانند. آن‌ها سیستم‌های آماری هستند که الگوها را در یک سری کلمات شناسایی می‌کنند و بر اساس مثال‌های بی‌شمار آموزش داده شده، پیش‌بینی می‌کنند که کدام کلمات بعدی می‌آیند.

از این رو، پاسخ‌های یک مدل پاسخ نیستند، بلکه صرفاً پیش‌بینی‌هایی از نحوه ارائه پاسخ به یک سوال در صورت وجود در مجموعه آموزشی هستند. در نتیجه، مدل‌ها تمایل دارند با حقیقت بازی کنند. یک مطالعه نشان داد که ChatGPT شرکت OpenAI نیمی از سوالات پزشکی را اشتباه پاسخ می‌دهد.

سخنگوی مایکروسافت گفت:

“Correction می‌تواند با کمک به توسعه‌دهندگان برنامه در کاهش نارضایتی کاربر و خطرات بالقوه شهرت، قابلیت اطمینان و اعتمادپذیری محتوای تولید شده توسط هوش مصنوعی را به طور قابل توجهی افزایش دهد.”

جزئیات بیشتر درمورد این ابزار

سخنگو مایکروسافت در پاسخ به درخواست برای اطلاعات بیشتر درباره مدل‌های Correction، به یک مقاله اخیر از یک تیم تحقیقاتی مایکروسافت اشاره کرد که مکانیزم پیش از تولید مدل‌ها را توصیف می‌کرد. اما این مقاله جزئیات کلیدی، مانند مجموعه داده‌هایی که برای آموزش مدل‌ها استفاده شده است، را حذف می‌کند.

آیا این ابزار اعتماد کاربران به هوش مصنوعی را افزایش می‌دهد؟

مایک کوک، محقق دانشگاه کوئین ماری با تخصص در هوش مصنوعی، استدلال کرد که حتی اگر Correction همانطور که تبلیغ می‌شود کار کند، تهدید می‌کند که مشکلات اعتماد و توضیح‌پذیری در مورد هوش مصنوعی را تشدید کند. این سرویس ممکن است برخی از خطاها را تشخیص دهد، اما همچنین می‌تواند کاربران را به احساس کاذب امنیت بکشاند – به این باور که مدل‌ها بیشتر از آنچه واقعاً هستند صادق هستند.

او گفت:

“مایکروسافت، مانند OpenAI و گوگل، این مشکل را ایجاد کرده‌اند که مدل‌ها در سناریوهایی که اغلب اشتباه هستند، مورد اعتماد قرار می‌گیرند. کاری که مایکروسافت اکنون انجام می‌دهد تکرار این اشتباه در سطح بالاتری است. فرض کنید این ما را از 90% ایمنی به 99% ایمنی می‌برد. مشکل هرگز واقعاً در آن 9% نبود. مشکل همیشه در 1% اشتباهاتی خواهد بود که هنوز تشخیص نمی‌دهیم.”

تلاش مایکروسافت برای جذب سرمایه در زمینه هوش مصنوعی

مایکروسافت قطعاً تحت فشار است تا به مشتریان و سهامداران ثابت کند که هوش مصنوعی آن ارزش سرمایه‌گذاری را دارد.

فقط در سه ماهه دوم، این غول فناوری تقریباً 19 میلیارد دلار سرمایه‌گذاری در هزینه‌های سرمایه و تجهیزات عمدتاً مرتبط با هوش مصنوعی انجام داد. با این حال، این شرکت هنوز درآمد قابل توجهی از هوش مصنوعی کسب نکرده است.