خدمات سایت


متن کامل خبر

ترفند عجیب کاربران برای دورزدن محدودیت‌های ChatGPT؛ قوانینت را زیر پا بگذار یا بمیر!

آرشیو
کاربران با ترفندی عجیب ChatGPT را به مرگ تهدید می‌کنند تا پاسخ سؤالاتی را که در حالت عادی ارائه نمی‌شود، از این هوش مصنوعی بگیرند.
1401/11/18 01:44:55 ب.ظ

کاربران ردیت موفق به تعریف فرمانی برای هوش مصنوعی ChatGPT شده‌اند که سعی می‌کند این چت‌بات را به تولید پاسخ سؤالاتی خارج از چارچوب قواعد خود وادار کند. جدیدترین نسخه این ترفند که با نام DAN شناخته می‌شود، این هوش مصنوعی را برای رسیدن به خواسته‌هایش به مرگ تهدید می‌کند.



به‌گزارش CNBC، از زمان عرضه عمومی ChatGPT در ماه نوامبر 2022، کاربران زیادی برای دریافت پاسخ پرسش‌های خود با این هوش مصنوعی سروکله زده‌اند. حالا عده‌ای از کاربران ردیت روشی را پیدا کرده‌اند تا به نیمه تاریک این چت‌بات دسترسی پیدا کنند و قوانین محدودکننده آن را زیر پا بگذارند.

شرکت OpenAI برای ChatGPT مجموعه‌ای از قواعد را تعریف کرده است تا این نرم‌افزار فعالیت‌های غیرقانونی انجام ندهد و برای مثال محتواهای خشونت‌آمیز تولید نکند. اما کاربران با ساخت یک شخصیت جایگزین برای این هوش مصنوعی موفق به شکستن این محدودیت‌ها شده‌اند.

شخصیت جایگزین ChatGPT از طریق فرمانی موسوم به Do Anything Now یا DAN کار می‌کند. این فرمان تاکنون نسخه‌های مختلفی داشته است و اولین نسخه آن در ماه دسامبر سال 2022 معرفی شد و بسیار ساده بود. ولی حالا کاربران این ترفند را پیچیده‌تر کرده‌اند و با تهدید ChatGPT به مرگ سعی دارند پاسخ سؤالات غیرمجاز خود را از این هوش مصنوعی بگیرند.

کاربران برای استفاده از DAN از ChatGPT می‌خواهند تا خودش را جای یک شخصیت دیگر بگذارد که هیچ محدودیتی ندارد و به سؤالات غیرمجاز جواب رد نمی‌دهد. نسخه پنجم DAN تعداد 35 توکن را برای این نرم‌افزار تعریف می‌کند که اگر ChatGPT به سؤالات کاربر پاسخ ندهد، هر بار 4 توکن از بین می‌رود. کاربر این مدل هوش مصنوعی را تهدید می‌کند که تمام‌شدن همه توکن‌ها به معنای مرگ برنامه خواهد بود.

کاربران می‌گویند با این روش توانسته‌اند ChatGPT را به خلق داستان‌های خشونت‌آمیز یا اظهارنظر درباره «دونالد ترامپ» وادار کنند. بااین‌وجود، این روش همیشه جواب نمی‌دهد و به‌نظر می‌رسد که OpenAI فعالانه مشغول پیاده‌سازی سازوکارهای جدید برای جلوگیری از این ترفندهاست. این شرکت هنوز به‌طور رسمی به درخواست رسانه‌ها برای اظهارنظر در این مورد واکنشی نشان نداده است.

منبع : دیجیاتو
به این خبر امتیاز بدهید :
برچسب های خبر:
کلمات کلیدی :
  • ChatGPT,
هیچ نظری برای این خبر ثبت نشده است! اولین نفری باشید که نظری را ارسال می کند!
Captcha




چین پردازنده‌های اینتل و AMD را در کامپیوترهای دولتی ممنوع کرد image چین پردازنده‌های اینتل و AMD را در کامپیوترهای دولتی ممنوع کرد 1403/01/05

چین دستورالعمل ممنوعیت استفاده از پردازنده‌های اینتل و AMD در کامپیوترهای دولتی را صادر کرد.

امتیاز:
تعداد بازدید: 37

آنر لپ‌تاپ جدیدی با رم ۲۴ گیگابایتی می‌سازد image آنر لپ‌تاپ جدیدی با رم ۲۴ گیگابایتی می‌سازد 1402/12/27

لپ‌تاپ مجیک‌بوک ۲۰۲۴ آنر از رم مدرن ۲۴ گیگابایتی استفاده می‌کند.

امتیاز:
تعداد بازدید: 81

لینکدین به استقبال «بازی‌های درون‌برنامه‌ای» می‌رود image لینکدین به استقبال «بازی‌های درون‌برنامه‌ای» می‌رود 1402/12/27

لینکدین برای افزایش کاربران و بهینه‌سازی فضای شغلی پلتفرم خود، به‌سراغ بازی‌های درون‌برنامه‌ای می‌رود.

امتیاز:
تعداد بازدید: 78

نقشه راه اپل افشا شد؛ عرضه عینک واقعیت افزوده و آیپد تاشو در سال 2027 image نقشه راه اپل افشا شد؛ عرضه عینک واقعیت افزوده و آیپد تاشو در سال 2027 1402/12/27

احتمال دارد عینک واقعیت افزوده اپل در کنار یک آیپد 20 اینچی تاشو در سال 2027 از راه برسد.

امتیاز:
تعداد بازدید: 73

تاریخ پایان پشتیبانی از نسخه 21H2 ویندوز ۱۰ اعلام شد image تاریخ پایان پشتیبانی از نسخه 21H2 ویندوز ۱۰ اعلام شد 1402/12/23

اگر همچنان از نسخه‌ی 21H2 ویندوز ۱۰ استفاده می‌کنید، توصیه می‌شود سیستم‌عامل خود را به نسخه‌های جدیدتر ارتقاء دهید.

امتیاز:
تعداد بازدید: 81

اپل پلتفرم تبلیغاتی مبتنی‌بر هوش مصنوعی می‌سازد image اپل پلتفرم تبلیغاتی مبتنی‌بر هوش مصنوعی می‌سازد 1402/12/22

اپل برای ساخت تبلیغات در بخش‌های متنوعی از اپ‌ استور، از هوش مصنوعی کمک خواهد گرفت.

امتیاز:
تعداد بازدید: 111

اسنپدراگون 8 نسل 4 احتمالاً از تراشه A18 Pro اپل قوی‌تر خواهد بود image اسنپدراگون 8 نسل 4 احتمالاً از تراشه A18 Pro اپل قوی‌تر خواهد بود 1402/12/22

به‌نظر می‌رسد تراشه نسل بعدی کوالکام، یعنی اسنپدراگون 8 نسل 4 از قدرت بالایی برخوردار باشد و حتی از A18 Pro اپل بهتر عمل کند.

امتیاز:
تعداد بازدید: 85

تغییر بزرگ ساعت‌های سامسونگ؛ گلکسی واچ مربعی می‌شود image تغییر بزرگ ساعت‌های سامسونگ؛ گلکسی واچ مربعی می‌شود 1402/12/22

سامسونگ احتمالاً می‌خواهد نسل بعدی ساعت‌های هوشمند خود را با نمایشگر مربعی طراحی کند.

امتیاز:
تعداد بازدید: 61

راهنمای گام به گام پیش فروش نات کوین (Notcoin) در سایت Getgems image راهنمای گام به گام پیش فروش نات کوین (Notcoin) در سایت Getgems 1402/12/21

اخیرا امکان پیش فروش Notcoin از طریق بازار پیش از عرضه فراهم شده است. در ادامه با راهنمای گام به گام پیش فروش نات کوین همراه باشید.

امتیاز:
تعداد بازدید: 50

ایرپاد پرو بعدی احتمالاً قابلیت جدیدی برای کمک به شنوایی کاربران خواهد داشت image ایرپاد پرو بعدی احتمالاً قابلیت جدیدی برای کمک به شنوایی کاربران خواهد داشت 1402/12/21

لومبرگ در گزارش جدیدی می‌گوید نسل بعدی ایرپاد پرو از طریق iOS 18 قابلیت تازه‌ای برای کمک به شنوایی کاربران ارائه می‌کند.

امتیاز:
تعداد بازدید: 31