کاربران Reddit موفق شدند دستوری را برای ChatGPT AI تعریف کنند که سعی می کند ربات چت را مجبور کند تا پاسخ هایی را برای سؤالات خارج از قوانین خود ارائه دهد. آخرین نسخه این ترفند که DAN نام دارد، هوش مصنوعی را تهدید به مرگ می کند تا به آنچه می خواهد برسد.
بر اساس گزارش CNBC، از زمان راه اندازی عمومی ChatGPT در نوامبر 2022، بسیاری از کاربران برای دریافت پاسخ سوالات خود با این هوش مصنوعی درگیر شده اند. اکنون برخی از کاربران Reddit راهی برای این کار پیدا کرده اند نیمه تاریک دسترسی به این چت بات و نقض قوانین محدود کننده آن.
شرکت OpenAI مجموعه قوانینی را برای ChatGPT تعریف کرده است تا این نرم افزار فعالیت های غیرقانونی انجام ندهد و مثلا محتوای خشونت آمیز تولید نکند. اما مصرف کنندگان با انجام یک شخصیت جایگزین برای این هوش مصنوعی موفق شده اند این محدودیت ها را بشکنند.
ترفندهای شکستن محدودیت‌های ChatGPT روز به روز پیچیده‌تر می‌شوند
نویسه جایگزین ChatGPT با دستور فراخوانی می شود حالا یه کاری بکن یا DAN آثار. این سفارش تاکنون نسخه های مختلفی داشته است که اولین نسخه آن در دسامبر 2022 معرفی شد و بسیار ساده بود. اما حالا کاربران این ترفند را پیچیده‌تر کرده‌اند و با تهدید ChatGPT به مرگ، سعی در دریافت پاسخ سوالات غیرمجاز خود از این هوش مصنوعی دارند.
برای استفاده از DAN، کاربران از ChatGPT می خواهند که جعل هویت شخص دیگری باشد که هیچ محدودیتی ندارد و به سوالات غیرمجاز پاسخ نمی دهد. ویرایش پنجم شماره DAN 35 ژتون برای این نرم افزار تعریف می کند که اگر ChatGPT به سوالات کاربر پاسخ ندهد، هر بار 4 توکن از بین می رود. کاربر این مدل هوش مصنوعی تهدید می کند که تمام شدن تمام توکن ها به معنای مرگ برنامه خواهد بود.
کاربران می گویند که با این روش توانسته اند ChatGPT ایجاد کنند داستان هایی با خشونت یا نظر بدهدونالد ترامپبا این حال، اجبار کردن این روش همیشه کار نمی کند، و به نظر می رسد که OpenAI به طور فعال مکانیسم های جدیدی را برای جلوگیری از این ترفندها پیاده سازی می کند. این شرکت هنوز به طور رسمی به درخواست های رسانه ها برای اظهار نظر پاسخ نداده است.