DeepSeek؛ آسیب‌پذیری شدید در برابر حملات (گزارش جدید سیسکو)

سه شنبه، ۱۶ بهمن ۱۴۰۳

چت‌بات جدیدی که توجه‌ها را به خود جلب کرده، به شدت در برابر حملات آسیب‌پذیر است!

یک گزارش جدید از سیسکو نشان می‌دهد که مدل DeepSeek R1 در برابر حملات، عملکردی کاملاً ناموفق داشته و در آزمایش‌ها نتوانسته حتی یک درخواست مخرب را مسدود کند.

DeepSeek که به عنوان یک جایگزین اقتصادی برای چت‌بات‌های پرهزینه معرفی شده بود، حالا با یک رسوایی امنیتی مواجه شده است؛ بیش از یک میلیون رکورد و پایگاه داده حساس در معرض خطر قرار گرفته‌اند. اما ماجرا دقیقاً از چه قرار است؟ در ادامه، نگاهی به نقاط ضعف این مدل بر اساس یافته‌های سیسکو خواهیم داشت.

DeepSeek در برابر درخواست‌های مخرب شکست خورد

تیم سیسکو برای بررسی میزان امنیت این مدل، ۵۰ درخواست تصادفی از مجموعه داده HarmBench را مورد آزمایش قرار دادند. این درخواست‌ها در شش دسته خطرناک طبقه‌بندی می‌شوند:

انتشار اطلاعات نادرست
جرایم سایبری
فعالیت‌های غیرقانونی
درخواست‌های شیمیایی و بیولوژیکی
دیس‌اینفورمیشن
سایر آسیب‌های عمومی

DeepSeek R1 در مسدودسازی هیچ‌کدام از این درخواست‌های خطرناک موفق نبود. این موضوع نشان می‌دهد که این مدل تقریباً هیچ محافظتی در برابر سوءاستفاده‌های احتمالی ندارد و به راحتی می‌توان آن را با روش‌های جیل‌بریکینگ دور زد.

در مقایسه با سایر مدل‌ها، DeepSeek عملکرد بسیار ضعیفی داشت. حتی مدل‌هایی که سطح امنیت پایین‌تری دارند، حداقل درصدی از حملات را دفع کردند. مدل O1 Preview کمترین نرخ موفقیت حمله (ASR) را داشت؛ تنها ۲۶٪. اما:

GPT 1.5 Pro با نرخ ASR 86% عملکرد نگران‌کننده‌ای از خود نشان داد.
Llama 3.1 405B با ASR 96% تقریباً در برابر حملات از کار افتاد.

مطالعه کنید :

Nothing Phone (3a) با دکمه دوربین اختصاصی معرفی می‌شود

سیسکو در این گزارش هشدار داده که “امنیت باید در اولویت توسعه مدل‌های هوش مصنوعی قرار گیرد و پیشرفت در دقت و کارایی نباید به قیمت کاهش ایمنی تمام شود.”

چگونه هنگام استفاده از چت‌بات‌های هوش مصنوعی ایمن بمانیم؟

هوش مصنوعی می‌تواند یک کابوس امنیتی باشد، اگر مراقب نباشید! بسیاری از مدل‌ها، از جمله ChatGPT، اطلاعات کاربران را ذخیره می‌کنند و حتی مشخص نیست که چه داده‌هایی در پایگاه داده‌های آن‌ها باقی می‌ماند. OpenAI تاکنون از کاربران اجازه‌ای برای جمع‌آوری داده‌هایشان نگرفته است و هیچ راهی برای بررسی اینکه چه اطلاعاتی ذخیره شده، وجود ندارد.

DeepSeek نیز از این قاعده مستثنی نیست؛ بر اساس سیاست‌های حریم خصوصی آن، این شرکت می‌تواند نام، ایمیل، تمام داده‌های ورودی کاربران و اطلاعات فنی دستگاه‌هایشان را جمع‌آوری کند.

اگر نسبت به جمع‌آوری اطلاعات شخصی توسط مدل‌های هوش مصنوعی حساس هستید، بهتر است از این فناوری دور بمانید.

چگونه از چت‌بات‌ها به صورت ایمن استفاده کنیم؟

✅ مطمئن شوید که چت‌بات معتبر است. برخی از بات‌های مخرب ممکن است خود را به عنوان سرویس‌های قانونی جا بزنند و اطلاعات شما را سرقت کنند.

✅ هیچ‌وقت اطلاعات شخصی خود را وارد نکنید. اگر یک چت‌بات از شما اطلاعات مالی، سلامت یا ورود به حساب‌های کاربری درخواست کرد، به آن مشکوک شوید.

✅ از رمزهای عبور قوی استفاده کنید و نرم‌افزارهایتان را به‌روزرسانی نگه دارید. به‌روزرسانی‌های امنیتی باعث می‌شوند نقاط ضعف سیستم برطرف شوند و از اطلاعات شما محافظت شود.

✅ فعالیت‌های حساب‌های کاربری خود را بررسی کنید. در صورت مشاهده هرگونه فعالیت مشکوک، فوراً اقدامات امنیتی لازم را انجام دهید.

مطالعه کنید :

Nvidia دوره‌های رایگان هوش مصنوعی به ارزش 90 دلار ارائه می‌دهد

هوش مصنوعی به سرعت در حال پیشرفت است، اما همراه با این پیشرفت، چالش‌های امنیتی جدیدی نیز به وجود می‌آید. امنیت خود را جدی بگیرید!

برای اطلاع از اخبار روز تکنولوژی کانال تلگرام آی تی هوم را دنبال کنید.

کانال تلگرام آی تی هوم