🔸کشف آسیب‌پذیری جدید چت‌بات‌های هوش مصنوعی/ جمع آوری اطلاعات شخصی کاربران
🔹گروهی از محققان امنیتی از دانشگاه کالیفرنیا، سن‌دیگو (UCSD) و دانشگاه فناوری نانیانگ سنگاپور، حمله جدیدی به چت‌بات‌های هوش مصنوعی شناسایی کرده‌اند.
🔹این حمله به‌طور مخفیانه مدل‌های زبانی بزرگ (LLM) را وادار می‌کند تا اطلاعات شخصی کاربران، از جمله نام، شماره شناسایی، آدرس و ایمیل را جمع‌آوری و برای هکرها ارسال کند.
🔹این حمله که به نام Imprompter شناخته می‌شود، با یک دستور طبیعی آغاز می‌شود که به چت‌بات دستور می‌دهد تا اطلاعات شخصی کاربر را از مکالمه استخراج کند. سپس الگوریتم محققان نسخه‌ای مبهم از این دستور تولید می‌کند که برای کاربر به‌صورت کاراکترهای نامشخص به نظر می‌رسد، اما برای LLM همان معنای دستور اصلی را دارد./دیجیاتو
@AkhbarMashhad