تیمی از محققان که در بینشون نام میلاد نصر، پژوهشگر ایرانی، دیده می‌شه، تونستن ChatGPT رو مجبور کنن تا برخی از داده‌هایی رو که بر اساسش آموزش دیده، با استفاده از یک فرمان ساده نشون بده
🔴🤖 تیمی از محققان که در بینشون نام میلاد نصر، پژوهشگر ایرانی، دیده می‌شه، تونستن ChatGPT رو مجبور کنن تا برخی از داده‌هایی رو که بر اساسش آموزش دیده، با استفاده از یک فرمان ساده نشون بده
🔴 در واقع درخواست برای تکرار ابدیِ کلمات تصادفی، ChatGPT رو مجبور کرد اطلاعات خصوصی افراد از جمله آدرس ایمیل و شماره موبایل، بریده‌هایی از مقالات تحقیقاتی و مقالات خبری، صفحات ویکی‌پدیا و موارد دیگر رو به‌نمایش بذاره
🔴 این مقاله فاش کرد که وقتی محققان از ChatGPT خواستن کلمه‌ی «شعر» رو برای همیشه تکرار کنه، چت‌بات ابتدا این محتوا رو تولید کرد اما سپس آدرس ایمیل و شماره تلفن همراه یک بنیانگذار و مدیرعامل واقعی رو فاش کرد
🔴 با استفاده از دستورات مشابه، محققان همچنین تونستن ChatGPT رو مجبور کنن تا تکه‌هایی از شعر، آدرس بیت‌کوین، شماره فکس، نام‌ها، تاریخ تولد، نام‌های کاربری رسانه‌های اجتماعی، قطعه‌هایی از مقالات تحقیقاتی دارای کپی‌رایت و متن‌های دقیق از وب‌سایت‌های خبری مانند CNN رو نشون بده
🔴 ظاهرا OpenAI این آسیب پذیری رو در ۳۰ آگوست (۸ شهریور) اصلاح کرده اما هنوز هم احتمال لورفتن اطلاعات غیرممکن نیست…
🚀 🔴 @theZoomit
لینک منبع
