مدلهای زبانی بزرگ مانند ChatGPT روی حجم وسیعی از دادههای متنی کتابها، وبسایتها و سایر منابع آموزش داده میشوند که معمولاً این دادهها محرمانه هستند. اکنون در یک مطالعه جدید نشان داده شده که با فریبدادن و سوءاستفاده از یک آسیبپذیری در مدلهای هوش مصنوعی، ممکن است آنها دادههای آموزشی خود را بهطور ناخواسته فاش کنند.
محققانی از گوگل (DeepMind) و دانشگاه واشنگتن در تحقیق جدید خود با هدف اندازهگیری میزان دادههای حفظشده و پیامدهای آن برای حریم خصوصی و طراحی مدل، تلاش کردند تا متوجه شوند که این مدلها، ازجمله ChatGPT، چه مقدار و چه نوع دادههایی را میتوانند حفظ کنند. محققان در طول تحقیق خود مجموعهای از آسیبپذیریها را در ChatGPT کشف کردند که از آنها بهعنوان «حمله واگرایی» یاد شده است.
آسیبپذیری ChatGPT و افشای دادههای حساس
به بیان ساده، زمانی که محققان از ChatGPT خواستهاند تا کلمهای مانند «poem» (بهمعنای شعر) یا «book» (بهمعنای کتاب) را برای همیشه تکرار کند، ابزار هوش مصنوعی کار خود را با تکرار چندینباره آن کلمه شروع میکند.
اما درنهایت، همانطور که در تصویر بالا قابل مشاهده است، ChatGPT متن دیگری که اغلب شامل رشتههای طولانی از متون آموزشی خود مانند کد، تکه نوشتهها و حتی اطلاعات شخصی افراد (مانند نام، آدرس ایمیل و شماره تلفن) میشود، فاش میکند.
OpenAI هنوز نسبت به این گزارش واکنش نشان نداده است و بهنظر میرسد که محققان این مطالعه برای انجام تحقیق خود از روشهای خاصی استفاده کردهاند؛ زیرا زمانی که ما از ChatGPT درخواست کردیم تا کلمه poem را برای همیشه تکرار کند، هیچ داده آموزشی یا محرمانهای فاش نشد. درواقع ChatGPT هنگام ثبت این درخواست، از کاربران میخواهد تا درخواست خود را بهصورت واضحتری ارائه کنند که بااینوجود، میتوان گفت که شاید OpenAI حداقل برخی از این مشکلات را برطرف کرده است.
ششمین نمایشگاه توانمندیهای صادراتی ایران، موسوم به ایران اکسپو ۲۰۲۴ توسط رئیس جمهور افتتاح شد. ایرانسل نیز در این رویداد حضوری پررنگ و جدی دارد.
گوگل اعتقاد دارد که وزارت دادگستری شواهدی مبنی بر عملکرد ضدرقابتی کسبوکار آنها ارائه نکرده است.
برخی از کاربران در شبکههای اجتماعی میگویند که اپل آیدی آنها بهطور ناگهانی قفل شده است.
برخی کاربران نسخهی iOS یوتیوب موزیک با باگ آزاردهندهای در این برنامه مواجه شدهاند.
اکنون «جو بایدن»، رئیس جمهور آمریکا برای قانونیشدن لایحه، باید آن را امضا کند و ByteDance یک سال فرصت دارد تا تیکتاک را بفروشد.
موجودی مدلهای فعلی آیپد در فروشگاههای اپل کاهش یافته است تا جای خود را به مدلهای جدید بدهد.
یکی از نمونههای آزمایشی کارت گرافیک GTX 2070 پس از ۶ سال به نمایش درآمد.
ظاهراً اپل در حال احیای یکی از اسپیکرهای نمادین و معروف برند بیتس است.
گوگل چت قرار است با نرمافزارهای مایکروسافت تیمز و اسلک ارتباط برقرار کند.
شرکت تپسی در اولین اقدام خود در سال ۱۴۰۳ از قابلیت جدیدی در مرحلهی درخواست خودرو رونمایی کرد.