وب سایت Stack Overflow که به عنوان یکی از منابع اصلی پرسش و پاسخ توسعه دهندگان شناخته می شود، اعلام کرده است که به طور موقت به کاربران اجازه نمی دهد با پاسخ های تولید شده توسط چت ربات هوش مصنوعی ChatGPT به سوالات افراد پاسخ دهند.
چت بات ChatGPT جدیدترین محصول شرکت OpenAI است که کاربران می توانند به صورت رایگان از آن استفاده کنند. طی چند روز گذشته کاربران وب سایت Stack Overflow از پاسخ های این هوش مصنوعی برای پاسخ به سوالات استفاده کرده اند. اما اکنون ادمین های این پلتفرم اعلام کرده اند که پست ChatGPT در حال پاسخگویی است به طور موقت ممنوع شد خواهد بود
مدیران Stack Overflow می‌گویند که ChatGPT ارسال هرزنامه به سؤالات را برای کاربران آسان‌تر کرده است. این پاسخ ها ممکن است در ابتدا درست به نظر برسند، اما معمولاً وقتی به آنها نگاه می کنید، اشتباه هستند.
به همین دلیل مدیران این وب سایت می گویند: «ما مجبور شدیم حجم این پست ها را کاهش دهیم. بنابراین، شما مجاز به استفاده از ChatGPT برای ارسال در Stack Overflow نیستید. اگر پس از ارسال این اعلان، مشخص شود که کاربری از ChatGPT استفاده کرده است، محدودیت‌هایی برای ارسال محتوای آن کاربر اعمال می‌شود، حتی اگر پست ارسالی صحیح باشد.
چرا راه حل Stack Oveflow مهم است؟
تصمیم مدیران Stack Overflow بسیار مهم است زیرا کارشناسان هوش مصنوعی مدتی است که در مورد تهدیدات بالقوه استفاده از مدل های زبان بزرگ بحث می کنند. به عنوان مثال، ایان لکان، دانشمند هوش مصنوعی در متا، می گوید این مدل ها می توانند اطلاعات نادرست تولید کنند، اما به تنهایی اشتراک گذاری متن را آسان نمی کنند. اما برخی دیگر معتقدند که تولید حجم زیادی از محتوا از این مدل ها می تواند خطر انتشار آنها را در آینده افزایش دهد.
تا کنون، شواهد کمی برای اثرات مضر الگوهای زبانی بزرگی در دنیای واقعی مشاهده شده است. اما رویدادهای اخیر در Stack Overflow می‌تواند چالش‌هایی را که این سیستم‌ها می‌توانند در مقیاس ایجاد کنند را نشان دهد.
اگرچه این سایت اعلام کرده است که در آینده با همفکری کاربران خود تصمیمی دائمی در این زمینه اتخاذ خواهد کرد، اما به نظر می رسد واکنش کلی کاربران در خود سایت و انجمن هایی مانند هکر نیوز در رابطه با این تصمیم باشد. مثبت بود البته برخی معتقدند تشخیص پاسخ های تولید شده توسط هوش مصنوعی برای مدیران مشکل خواهد بود.
ChatGPT بر اساس الگوریتم GPT-3.5 است که قبلا برای تولید و تکمیل متن استفاده می شد. این چت بات قبلاً حتی با نوشتن مقاله دانشگاهی مورد تمجید یکی از اساتید دانشگاه آریزونا قرار گرفته است.