بدترین نقص هوش مصنوعی ChatGPT آن را به ابزاری غیرقابل اعتماد تبدیل کرده است

01 فوریه 1401 در 20:34

اگرچه ChatGPT یک دستاورد انقلابی در توسعه هوش مصنوعی است، اما دارای معایبی است. در زیر، بدترین مشکلات ربات چت ChatGPT را بررسی خواهیم کرد.

ChatGPT یک چت بات جدید و قدرتمند مبتنی بر هوش مصنوعی است که با ویژگی های منحصر به فرد خود به سرعت خبرساز شد. از این ربات هر چیزی را که می خواهید بپرسید، پاسخی خواهید گرفت که گویی توسط یک انسان در طرف دیگر سیستم نوشته شده است. این ابزار انقلابی دانش و مهارت های نوشتاری خود را از حجم وسیعی از داده های موجود در سراسر اینترنت آموخته است. البته مدتی پس از راه اندازی این چت بات، برخی از کاربران از وجود مشکلات جدی در آن خبر دادند. درست مانند اینترنت، ChatGPT نیز در ارائه اطلاعات بدون خطا نیست و گاهی اوقات اشتباه می کند. به همین دلیل، ما همچنان به بدترین معایب هوش مصنوعی ChatGPT خواهیم پرداخت.

بدترین نقص فنی و امنیتی ChatGPT

1. ارسال پاسخ اشتباه

علیرغم عملکرد چشمگیرش، ChatGPT نیز بی خطا نیست. چت بات در محاسبات پایه ریاضی شکست می خورد، گاهی اوقات قادر به پاسخگویی به سوالات ساده منطقی نیست و حتی می تواند بر روی حقایق کاملاً اشتباه استدلال کند. همانطور که توسط کاربران در رسانه های اجتماعی گزارش شده است، باگ ها بخشی غیرقابل انکار از ChatGPT هستند.

chatgpt

در این رابطه، OpenAI، شرکت سازنده این ابزار، می گوید:

ChatGPT گاهی اوقات پاسخ هایی را با متن منطقی اما نادرست یا بی معنی می نویسد. این دوگانگی بین واقعیت و تخیل، همانطور که دانشمندان نیز با آن آشنا هستند، می تواند به ویژه در تصمیم گیری های حساس مانند توصیه های پزشکی خطرناک باشد.

برخلاف سایر دستیارهای مبتنی بر هوش مصنوعی مانند سیری و الکسا، ChatGPT از اینترنت برای یافتن پاسخ ها استفاده نمی کند. در عوض، ربات چت یک جمله را کلمه به کلمه می سازد و محتمل ترین کاراکتر را بر اساس آموخته هایش انتخاب می کند.

  انویدیا RTX 4090 اولین پردازنده گرافیکی جهان برای بازی های با بیش از 100 ترافلاپس خواهد بود؟

به عبارت دیگر، ChatGPT با پردازش یک سری حدس ها به پاسخ می رسد، زیرا می تواند پاسخ های اشتباه را به گونه ای توجیه کند که گویی کاملاً صحیح هستند. در حالی که این فناوری در توضیح مفاهیم پیچیده عالی است و آن را به یک ابزار یادگیری قدرتمند تبدیل می کند، مهم است که بدون خواندن هر چیزی که پاسخ می دهد باور نکنید. ChatGPT در حال حاضر در مرحله آزمایش است و هنوز کارهایی برای انجام دادن دارد.

2. پاسخ های مغرضانه و تبعیض آمیز – یکی از معایب ChatGPT

آموزش ChatGPT بر اساس نوشته های جمعی مردم در سراسر جهان است. این بدان معناست که در داده های این مدل نیز انحرافاتی وجود دارد. گزارش‌های ارسال شده توسط کاربران نشان می‌دهد که چگونه ChatGPT می‌تواند پاسخ‌های عجیبی را ارسال کند که می‌تواند برای گروه‌ها و نظرات مختلف مضر باشد.

chatgpt

در این راستا قابلیتی ایجاد شده است که از طریق آن کاربران می توانند نتایج مغرضانه و تبعیض آمیز را گزارش کنند.

3. ابزاری برای تقلب در تکالیف انگلیسی دانش آموزان

از آنجایی که از ChatGPT می توان برای تصحیح یا بهبود پاراگراف ها استفاده کرد، وسوسه انگیز است که تمام نوشته های خود را به این ربات چت بسپارید. این باعث می شود دانش آموزان انگلیسی را به درستی یاد نگیرند.

معلمان ربات را با ارسال تکالیف انگلیسی به ChatGPT آزمایش کردند و پاسخ هایی دریافت کردند که بسیار بهتر از نمونه های دانش آموزان بود. بنابراین، این ربات انقلابی می تواند به طور کامل از عهده همه چیز از نامه های اداری گرفته تا توصیف مضامین یک اثر ادبی برآید.

  چرا آفرودها هنوز تویوتا FJ45 را دوست دارند؟

به نظر می رسد اگر دانش آموزان از ChatGPT برای انجام تکالیف خود استفاده می کنند، مدارس باید راه حل دقیقی را در نظر بگیرند. میزان بالای پیاده سازی هوش مصنوعی در سال های اخیر زمینه های مختلف از جمله آموزش را شگفت زده کرده است.

4. ChatGPT می تواند باعث آسیب در دنیای واقعی شود

ما قبلاً اشاره کرده‌ایم که چگونه اطلاعات نادرست ارائه شده توسط ChatGPT می‌تواند منجر به آسیب در دنیای واقعی شود، که بارزترین مثال آن توصیه‌های غلط پزشکی است. اما نگرانی های دیگری در این مورد وجود دارد. به عنوان مثال، حساب‌های جعلی شبکه‌های اجتماعی، که اکنون در اینترنت به یک مشکل تبدیل شده‌اند، می‌توانند با اضافه شدن چت‌بات‌های هوش مصنوعی، کلاهبرداری‌های مجازی را آسان‌تر کنند. همچنین، انتشار اطلاعات نادرست یکی دیگر از نگرانی های بزرگ است زیرا این چت بات حتی در هنگام ارسال پاسخ های اشتباه بسیار قانع کننده است.

5. OpenAI، مغز پشت ChatGPT، قدرت مطلق این ربات چت را در اختیار دارد

هر چه دامنه اختیارات بیشتر باشد، مسئولیت سنگین تر است. OpenAI به عنوان یک شرکت فعال هوش مصنوعی که علاوه بر چت GPT ابزارهای دیگری مانند Dall-E 2 را توسعه داده است، از این قاعده مستثنی نیست.

عالی

این شرکت داده های مورد استفاده برای آموزش چت بات و استراتژی ها را برای جلوگیری از عواقب منفی تنظیم می کند. بنابراین، چه با روش ها موافق باشیم و چه نباشیم، توسعه این فناوری مطابق با اهداف OpenAI ادامه خواهد داشت.

در حالی که این شرکت اولویت بالایی برای جنبه های ایمنی قائل است، مسائلی در پشت صحنه در مورد نحوه ساخت مدل ها وجود دارد که ما از آنها اطلاعی نداریم. کاربران نهایی فقط می توانند امیدوار باشند که OpenAI در رابطه با تحقیق و توسعه ChatGPT مسئولانه و مسئولانه عمل کند.

  رونمایی از وانت برقی جی ام سی سیرا با قابلیت برق رسانی به خانه تا ۲۱ روز!

با توجه به نقص‌های هوش مصنوعی ChatGPT، OpenAI اعتراف کرده است که این ابزار می‌تواند پاسخ‌های مضر و مغرضانه ایجاد کند و حتی بدتر، واقعیت را با شنیده‌ها به شیوه‌ای قابل قبول مخلوط کند. با چنین فناوری جدیدی، پیش بینی مشکلات بعدی دشوار است. بنابراین از کاوش ChatGPT تا نهایی شدن آن لذت ببرید، اما مراقب باشید فریب باگ های آن را نخورید!

دیدگاهتان را بنویسید

این سایت توسط reCAPTCHA و گوگل محافظت می‌شود حریم خصوصی و شرایط استفاده از خدمات اعمال.