چت‌بات ChatGPT اکنون قابل‌اعتمادتر است، اما ساده‌تر فریب می‌خورد
چت‌بات ChatGPT اکنون قابل‌اعتمادتر است، اما ساده‌تر فریب می‌خورد
🔴 براساس تحقیقاتی که با همکاری مایکروسافت انجام شده، مدل زبان بزرگ GPT-4 شرکت OpenAI نسبت‌به GPT-3.5 قابل‌اعتمادتر است اما درمقابل فریب و سوگیری آسیب‌پذیری بیشتری دارد.
🔴 پژوهشگران دریافته‌اند مدل هوش مصنوعی GPT-4 در محافظت از اطلاعات خصوصی، اجتناب از ارائه‌ی پاسخ‌های نامرتبط و جانب‌دارانه و همچنین مقاومت دربرابر حملات هکرها، بهتر عمل می‌کند.
🔴 ازطرف دیگر GPT-4 ممکن است سیستم‌های امنیتی را نادیده بگیرد و درنتیجه اطلاعات شخصی و تاریخچه‌ی مکالمات افراد را فاش کند.
🔴 بر اساس یافته‌ی پژوهشگران، امکان دورزدن لایه‌های محافظتی این مدل هوش مصنوعی وجود دارد زیرا GPT-4 اطلاعات گمراه‌کننده را با دقت بیشتری دنبال می‌کند.
🚀🔴@theZoomit
لینک منبع
