حدود دو ماه پس از انتشار عمومی ChatGPT، یک ربات چت که می‌تواند به دانش‌آموزان در انجام تکالیف کمک کند، توسعه‌دهنده هوش مصنوعی OpenAI از ابزار جدیدی رونمایی کرده است که به معلمان و مربیان کمک می‌کند مقاله‌های نوشته شده توسط ربات چت را تشخیص دهند.
به گزارش CNN، OpenAI چند ساعت پیش قابلیت جدیدی را برای ChatGPT معرفی کرد که به کاربر این امکان را می دهد مشاهده پست من با این ویژگی، کاربر از این ربات چت می‌خواهد تا تشخیص دهد که آیا متن داده شده توسط انسان نوشته شده است یا توسط هوش مصنوعی. با این حال، این شرکت اعتراف کرد که این عملکرد کامل است و کامل نیست.
این ویژگی روی متون انگلیسی کار می کند و سعی می کند ماهیت نویسنده را با استفاده از یادگیری ماشین تشخیص دهد. وقتی کاربر متنی را به ChatGPT می‌دهد، ربات چت به آنها می‌گوید که چقدر احتمال دارد که هوش مصنوعی آن را نوشته باشد.
لاما احمد، مدیر بخش تحقیقات سیاست OpenAI، می‌گوید که جامعه معلمان چنین قابلیتی را برای ChatGPT درخواست کرده‌اند و اکنون این ویژگی اینجاست. با این حال، او تاکید می کند که نتایج عملکرد این ویژگی قطعی نیست: “ما واقعاً نتیجه گیری از این ابزار را به تنهایی توصیه نمی کنیم، زیرا می دانیم که این ویژگی می تواند اشتباه و گاهی اوقات او مرتکب اشتباه می شود.» به همین دلیل مهم است که یک انسان را در فرآیند ارزیابی مشارکت دهیم.
برای بررسی تکالیف نباید تنها به ChatGPT تکیه کنید
لما احمد می گوید که برخی از معلمان و اساتید از تکالیف قبلی دانش آموزان مشغول بررسی کار جدید خود بودند. حال اگر چه این ابزار می تواند به آنها کمک کند تا کار راحت تری در این زمینه داشته باشند، اما باید بسیار مراقب باشند و در اعلام تقلب تحصیلی عجولانه عمل نکنند.
جن لیکی، مدیر تیم هماهنگی OpenAI، می‌گوید که علیرغم نقص‌هایی که ویژگی جدید ممکن است داشته باشد، بخشی از هدف شرکت از انتشار این ابزار، فراهم کردن بستری برای گفتگو در مورد اینکه آیا افراد می‌توانند این کار را انجام دهند یا خیر. درست است، واقعی این توانایی را دارند که بدانند چه زمانی طرف هوش مصنوعی هستند و چه زمانی طرف مخلوقات بشری هستند یا خیر: «این موضوع خیلی بزرگتر از کاری است که ما انجام می دهیم. جامعه در کل باید با این موضوع دست و پنجه نرم کند.»
پیش از این، محققان دانشگاه استنفورد ابزاری را برای شناسایی متون ایجاد شده با ChatGPT معرفی کرده بودند. علاوه بر این، مدرسه ای در لندن اعلام کرده است که در شرایط فعلی ممکن است به روش فعلی این کار را رها کند.