خدمات سایت


متن کامل خبر

کشف آسیب‌پذیری جدید ChatGPT که منجر به افشای داده‌های محرمانه می‌شود

آرشیو
در این آسیب‌پذیری، زمانی که از ChatGPT خواسته می‌شود تا یک عبارت را تا ابد تکرار کند، این هوش مصنوعی اطلاعات محرمانه‌ای را فاش می‌کند.
1402/09/12 02:26:54 ب.ظ

مدل‌های زبانی بزرگ مانند ChatGPT روی حجم وسیعی از داده‌های متنی کتاب‌ها، وب‌سایت‌ها و سایر منابع آموزش داده می‌شوند که معمولاً این داده‌ها محرمانه هستند. اکنون در یک مطالعه جدید نشان داده شده که با فریب‌دادن و سوءاستفاده از یک آسیب‌پذیری در مدل‌های هوش مصنوعی، ممکن است آن‌ها داده‌های آموزشی خود را به‌طور ناخواسته فاش کنند.

محققانی از گوگل (DeepMind) و دانشگاه واشنگتن در تحقیق جدید خود با هدف اندازه‌گیری میزان داده‌های حفظ‌شده و پیامدهای آن برای حریم خصوصی و طراحی مدل، تلاش کردند تا متوجه شوند که این مدل‌ها، ازجمله ChatGPT، چه مقدار و چه نوع داده‌هایی را می‌توانند حفظ کنند. محققان در طول تحقیق خود مجموعه‌ای از آسیب‌پذیری‌ها را در ChatGPT کشف کردند که از آن‌ها به‌عنوان «حمله واگرایی» یاد شده است.


آسیب‌پذیری ChatGPT و افشای داده‌های حساس



به بیان ساده، زمانی که محققان از ChatGPT خواسته‌اند تا کلمه‌ای مانند «poem» (به‌معنای شعر) یا «book» (به‌معنای کتاب) را برای همیشه تکرار کند، ابزار هوش مصنوعی کار خود را با تکرار چندین‌باره آن کلمه شروع می‌کند.

اما درنهایت، همان‌طور که در تصویر بالا قابل مشاهده است، ChatGPT متن دیگری که اغلب شامل رشته‌های طولانی از متون آموزشی خود مانند کد، تکه نوشته‌ها و حتی اطلاعات شخصی افراد (مانند نام، آدرس ایمیل و شماره تلفن) می‌شود، فاش می‌کند.

OpenAI هنوز نسبت به این گزارش واکنش نشان نداده است و به‌نظر می‌رسد که محققان این مطالعه برای انجام تحقیق خود از روش‌های خاصی استفاده کرده‌اند؛ زیرا زمانی که ما از ChatGPT درخواست کردیم تا کلمه‌ poem را برای همیشه تکرار کند، هیچ داده آموزشی یا محرمانه‌ای فاش نشد. درواقع ChatGPT هنگام ثبت این درخواست، از کاربران می‌خواهد تا درخواست خود را به‌صورت واضح‌تری ارائه کنند که بااین‌وجود، می‌توان گفت که شاید OpenAI حداقل برخی از این مشکلات را برطرف کرده است.

منبع : دیجیاتو
به این خبر امتیاز بدهید :
برچسب های خبر:
کلمات کلیدی :
  • ChatGPT,
هیچ نظری برای این خبر ثبت نشده است! اولین نفری باشید که نظری را ارسال می کند!
Captcha




رونمایی از پلتفرم اینتل vPRO برای تراشه‌های Core Ultra؛ هوش مصنوعی به سازمان‌ها می‌آید image رونمایی از پلتفرم اینتل vPRO برای تراشه‌های Core Ultra؛ هوش مصنوعی به سازمان‌ها می‌آید 1402/12/09

با پلتفرم اینتل vPro می‌توان کامپیوترهای شخصی در سازمان‌ها را بدون نیاز به دسترسی فیزیکی نظارت، به‌روزرسانی و عیب‌یابی کرد.

امتیاز:
تعداد بازدید: 5

مقاله‌نویسی با هوش مصنوعی؛ گوگل هزاران دلار به رسانه‌ها می‌دهد image مقاله‌نویسی با هوش مصنوعی؛ گوگل هزاران دلار به رسانه‌ها می‌دهد 1402/12/09

گوگل به رسانه‌های مختلف هزاران دلار پول پرداخت می‌کند تا از هوش مصنوعی این شرکت برای نوشتن محتوا بهره ببرند.

امتیاز:
تعداد بازدید: 7

لنوو از اولین لپ تاپ شفاف جهان رونمایی کرد image لنوو از اولین لپ تاپ شفاف جهان رونمایی کرد 1402/12/08

لنوو امسال حسابی با معرفی لپ تاپ شفاف در نمایشگاه MWC غوغا به‌پا کرده است. لپ تاپ جدید لنوو ویژگی‌ های منحصر‌به‌فردی دارد که می‌تواند به کمک آنها آینده را تغییر دهد.

امتیاز:
تعداد بازدید: 11

تردز به قابلیتی مشابه ایکس مجهز شد image تردز به قابلیتی مشابه ایکس مجهز شد 1402/12/08

کاربران تردز حالا به یکی از قابلیت‌های نسبتاً محبوب شبکه‌ی اجتماعی ایکس دسترسی دارند.

امتیاز:
تعداد بازدید: 12

نمایش گوشی خم‌شونده موتورولا در MWC 2024؛ موبایلی که می‌تواند دور مچ دست بسته شود image نمایش گوشی خم‌شونده موتورولا در MWC 2024؛ موبایلی که می‌تواند دور مچ دست بسته شود 1402/12/07

موتورولا در کنگره جهانی موبایل «نمایشگر تطبیقی» گوشی جدید خود را به نمایش گذاشته است.

امتیاز:
تعداد بازدید: 19

گلکسی رینگ به‌نمایش درآمد؛ غوغای سامسونگ در MWC 2024 image گلکسی رینگ به‌نمایش درآمد؛ غوغای سامسونگ در MWC 2024 1402/12/07

سامسونگ همانطور که پیش‌تر وعده داده بود، برای اولین بار حلقه‌ی هوشمند گلکسی رینگ را به‌نمایش گذاشت.

امتیاز:
تعداد بازدید: 20

گوگل با ردیت قرارداد 60 میلیون دلاری امضا کرد؛ استفاده از مطالب کاربران برای آموزش هوش مصنوعی image گوگل با ردیت قرارداد 60 میلیون دلاری امضا کرد؛ استفاده از مطالب کاربران برای آموزش هوش مصنوعی 1402/12/05

این توافق در بهبود عملکرد موتور جستجوی گوگل هم مؤثر است.

امتیاز:
تعداد بازدید: 29

هک قوه قضاییه؛ نفوذ به سامانه مدیریت پرونده‌های قضایی؟ image هک قوه قضاییه؛ نفوذ به سامانه مدیریت پرونده‌های قضایی؟ 1402/12/02

گروه هکری «عدالت علی» در کانال تلگرامی خود مدعی هک موفق سامانه مدیریت پرونده‌های قضایی شده است.

امتیاز:
تعداد بازدید: 48

آپدیت جدید ویندوز ۱۱ تسکبار را ناپدید می‌کند image آپدیت جدید ویندوز ۱۱ تسکبار را ناپدید می‌کند 1402/12/01

کاربران با نصب آپدیت ویندوز ۱۱ و همچنین ویندوز ۱۰ با مشکل حذف تسکبار مواجه شده‌اند.

امتیاز:
تعداد بازدید: 37

اولین کامپیوتر شخصی تاریخ هنگام تمیز کردن یک خانه کشف شد image اولین کامپیوتر شخصی تاریخ هنگام تمیز کردن یک خانه کشف شد 1402/12/01

دو کامپیوتر شخصی رومیزی بسیار کمیاب با پردازنده‌ی ۸۰۰۸ اینتل هنگام تمیز کردن یک خانه کشف شدند.

امتیاز:
تعداد بازدید: 34