خدمات سایت
گروه های خبری


متن کامل خبر

کارکنان سابق OpenAI و گوگل خواستار حق افشای مشکلات ایمنی هوش مصنوعی شدند

کارکنان OpenAI و گوگل در نامه‌ای ضمن هشداردادن درباره خطرات هوش مصنوعی، خواستار حمایت بیشتر از سوت‌زنان این شرکت‌ها شدند.
1403/03/16 01:32:20 ب.ظ
گروهی از کارکنان فعلی و سابق شرکت‌های OpenAI و دیپ‌مایند گوگل در نامه‌ای سرگشاده نگرانی‌های خود را درباره خطرات ناشی از فناوری نوظهور هوش مصنوعی اظهار کردند. آن‌ها هشدار می‌دهند که نظارت دقیقی بر ایمنی هوش مصنوعی وجود ندارد و خواستار حمایت بیشتر از سوت‌زنان این شرکت‌ها شدند. سوت‌زنان کسانی هستند که مشکلات داخل یک شرکت را برملا می‌کنند.

در نامه سرگشاده گروهی متشکل از 11 کارمند فعلی و سابق OpenAI و دو کارمند فعلی و سابق دیپ‌مایند گوگل آمده است که انگیزه‌های مالی شرکت‌های هوش مصنوعی مانع از نظارت مؤثر می‌شود. «جفری هنیتون»، پدرخوانده هوش مصنوعی نیز از این نامه حمایت کرده است.

OpenAI نیز در بیانیه‌ای از اقدامات خود دفاع کرد و گفت که راهکارهایی برای گزارش مشکلات به مسئولین شرکت وجود دارد و همچنین تا زمانی که اقدامات حفاظتی مناسب وجود نداشته باشد، فناوری جدیدی عرضه نمی‌کند.

نامه کارکنان OpenAI و دیپ‌مایند درباره خطرات هوش مصنوعی
در این نامه آمده است که شرکت‌های هوش مصنوعی اطلاعات خصوصی و محرمانه قابل‌توجهی درباره قابلیت‌ها و محدودیت‌های سیستم‌های خود، مسائل امنیتی و انواع خطرات هوش مصنوعی دارند؛ بااین‌حال، آن‌ها درحال‌حاضر تنها تعهدات ضعیفی برای درمیان‌گذاشتن برخی از این اطلاعات با دولت‌ها دارند.


کارکنان OpenAI و دیپ‌مایند در این نامه می‌گویند درحالی‌که هوش مصنوعی برای جامعه فایده‌هایی دارد، اما خطراتی مانند افزایش نابرابری‌ها، دستکاری و انتشار اطلاعات نادرست و حتی احتمال انقراض انسان نیز در میان است.

البته نگرانی‌های مهمی درباره این فناوری وجود دارد که چه بسا ممکن است سیاره زمین را تسخیر کند، اما هوش مصنوعی مولد امروزی مشکلات اساسی‌تری مانند نقض کپی‌رایت، اشتراک‌گذاری ناخواسته تصاویر مشکل‌ساز و غیرقانونی، و ساخت و انتشار دیپ‌فیک‌ها ایجاد کرده است.

همچنین امضاکنندگان این نامه ادعا می‌کنند که حمایت‌های فعلی از سوت‌زنان یا همان افشاگران ناکافی است، زیرا این حمایت‌ها بر افشای فعالیت‌های غیرقانونی تمرکز دارند اما افشای نگرانی‌های ایمنی را پوشش نمی‌دهند. البته وزارت کار آمریکا می‌گوید کارکنانی که در بخش‌هایی مانند حقوق، تبعیض، ایمنی، کلاهبرداری و محرومیت از مرخصی تخلفات را گزارش می‌دهند، توسط قوانین حمایت از سوت‌زنان محافظت می‌شوند و کارفرمایان نمی‌توانند این افراد را اخراج کنند. بااین‌حال این کارکنان از این امر ابراز نگرانی کردند.

مدتی پیس نیز خبر انحلال تیم ایمنی هوش مصنوعی OpenAI و استعفای مدیر آن نیز خبرساز شد. البته مدتی پس از آن این شرکت از ایجاد یک کمیته ایمنی دیگر خبر داد.
منبع : دیجیاتو
به این خبر امتیاز بدهید :
برچسب های خبر:
کلمات کلیدی :
  • OpenAI,
هیچ نظری برای این خبر ثبت نشده است! اولین نفری باشید که نظری را ارسال می کند!
Captcha


اخبار مرتبط:

این سیستم هوش مصنوعی ظاهراً می‌تواند عمر باتری‌ها را تا 25 درصد افزایش دهد image این سیستم هوش مصنوعی ظاهراً می‌تواند عمر باتری‌ها را تا 25 درصد افزایش دهد 1403/03/31

این سیستم هوش مصنوعی باعث می‌شود باتری‌ها 10 درصد ظرفیت اضافی داشته باشند و عمر آن‌ها تا 25 درصد افزایش یابد.

امتیاز:
تعداد بازدید: 8

سیاره زمین ۵۰۰ میلیون سال بعد از پیدایش صاحب آب شده است! image سیاره زمین ۵۰۰ میلیون سال بعد از پیدایش صاحب آب شده است! 1403/03/27

دانشمندان اخیرا یافته‌های جدیدی را درباره وجود آب در زمین، کشف کردند. آن‌ها معتقدند که سیاره زمین ۵۰۰ میلیون سال بعد از پیدایش صاحب آب شده است!

امتیاز:
تعداد بازدید: 39

هوش مصنوعی جدید Stability AI تصاویر عجیب و وحشتناکی از آدم‌ها تولید می‌کند image هوش مصنوعی جدید Stability AI تصاویر عجیب و وحشتناکی از آدم‌ها تولید می‌کند 1403/03/27

باتوجه به تصاویر منتشرشده توسط کاربران، هوش مصنوعی جدید Stability AI چندان عملکرد خوبی در تولید تصاویر انسان‌ها ندارد.

امتیاز:
تعداد بازدید: 32

زندگی‌نامه جنسن هوانگ؛ نامی که با نوآوری عجین شده است image زندگی‌نامه جنسن هوانگ؛ نامی که با نوآوری عجین شده است 1403/03/27

او باور دارد که با پتانسیل بالای هوش مصنوعی، می‌توان عموم مشکلات بشریت در زمینه‌هایی مانند آب‌وهوا، بهداشت و آموزش را برطرف کرد.

امتیاز:
تعداد بازدید: 29

اپل چگونه می‌تواند با Apple Intelligence رقبای خود را شکست دهد؟ image اپل چگونه می‌تواند با Apple Intelligence رقبای خود را شکست دهد؟ 1403/03/23

اپل در Apple Intelligence بیش از آنکه روی قابلیت‌های جدید متمرکز باشد، کاربردهای مفید و ایمن هوش مصنوعی را در اختیار شما می‌گذارد.

امتیاز:
تعداد بازدید: 42

ایلان ماسک اپل را بابت استفاده از مدل‌های هوش مصنوعی OpenAI تهدید کرد image ایلان ماسک اپل را بابت استفاده از مدل‌های هوش مصنوعی OpenAI تهدید کرد 1403/03/22

ایلان ماسک گفت اگر مدل‌های OpenAI در سطح سیستم‌عامل در دستگاه‌های اپل پیاده‌سازی شوند، استفاده از آن‌ها را در شرکت‌های خود ممنوع می‌کند.

امتیاز:
تعداد بازدید: 33

دانشمند سابق OpenAI: هوش مصنوعی انسان‌گونه تا سال ۲۰۲۷ از راه می‌رسد image دانشمند سابق OpenAI: هوش مصنوعی انسان‌گونه تا سال ۲۰۲۷ از راه می‌رسد 1403/03/22

یکی از دانشمندان توسعه‌ی هوش مصنوعی در OpenAI پیش‌بینی کرده است که هوش مصنوعی انسان‌گونه تا سال ۲۰۲۷ از راه خواهد رسید.

امتیاز:
تعداد بازدید: 16

انسان‌ ها اولین تمدن پیشرفته کره زمین نیستند image انسان‌ ها اولین تمدن پیشرفته کره زمین نیستند 1403/03/20

بشر به‌شدت در تلاش برای یافتن موجودات فضایی است. هرچند شاید بهتر باشد در مورد گذشته خود تجدید نظر کنیم. شواهد نشان می‌دهند که انسان ها اولین تمدن پیشرفته کره زمین محسوب نمی‌شوند.

امتیاز:
تعداد بازدید: 18

همستر کامبت حالا ۱۰۰ میلیون کاربر دارد؛ زمان عرضه توکن مشخص شد image همستر کامبت حالا ۱۰۰ میلیون کاربر دارد؛ زمان عرضه توکن مشخص شد 1403/03/20

بازی تلگرامی همستر کامبت پس از مدت کوتاهی اکنون بیش از ۱۰۰ میلیون کاربر دارد.

امتیاز:
تعداد بازدید: 16

اسپیس ایکس می‌خواهد با کارخانه جدید استارفکتوری روزی یک استارشیپ بسازد image اسپیس ایکس می‌خواهد با کارخانه جدید استارفکتوری روزی یک استارشیپ بسازد 1403/03/20

اسپیس ایکس اهداف بسیار جاه‌طلبانه‌ای دارد.

امتیاز:
تعداد بازدید: 17