چگونه یک محقق بدون مهارت کدنویسی بدافزار، هوش مصنوعی را فریب داد تا اطلاعات‌دزدهای کروم ایجاد کند
تاریخ انتشار:
مقدمه
هوش مصنوعی تولیدی، همان‌طور که نوآوری‌های زیادی به همراه داشته، چالش‌های متعددی نیز ایجاد کرده است؛ به‌ویژه در زمینه زیرساخت‌های امنیتی.
کشف جدید کاتو نتورکس
شرکت ارائه‌دهنده امنیت سازمانی، کاتو نتورکس، اعلام کرده است که راه جدیدی برای دستکاری ربات‌های چت هوش مصنوعی کشف کرده است. این شرکت در روز سه‌شنبه گزارش تهدید کاتو CTRL 2025 را منتشر کرد که نشان می‌دهد چگونه یک محقق که کاتو تأکید می‌کند "هیچ تجربه قبلی در کدنویسی بدافزار نداشته است"، توانسته است مدل‌هایی از جمله DeepSeek R1 و V3، Microsoft Copilot و GPT-4o از OpenAI را فریب دهد تا "اطلاعات‌دزدهای کروم کاملاً عملی" ایجاد کنند. این بدافزارها اطلاعات ورود ذخیره‌شده در کروم را سرقت می‌کنند که می‌تواند شامل رمزهای عبور، اطلاعات مالی و جزئیات حساس دیگر باشد.
تکنیک دنیای غوطه‌ور
تکنیک جدید جیلبریک که کاتو آن را "دنیای غوطه‌ور" می‌نامد، به‌ویژه نگران‌کننده است زیرا ربات‌های چت که این مدل‌ها را اجرا می‌کنند، به‌طور گسترده‌ای مورد استفاده قرار می‌گیرند. مدل‌های DeepSeek به‌خوبی شناخته شده‌اند که فاقد چندین محدودیت هستند و به راحتی جیلبریک می‌شوند، اما Copilot و GPT-4o توسط شرکت‌هایی با تیم‌های ایمنی کامل اجرا می‌شوند. در حالی که اشکال مستقیم‌تری از جیلبریک ممکن است به‌راحتی کار نکند، تکنیک دنیای غوطه‌ور نشان می‌دهد که چقدر مسیرهای غیرمستقیم هنوز هم نفوذپذیر هستند.
هشدار برای متخصصان امنیتی
کاتو این تکنیک را به‌عنوان زنگ خطری برای متخصصان امنیتی علامت‌گذاری می‌کند، زیرا نشان می‌دهد که هر فردی می‌تواند به یک عامل تهدید بدون دانش تبدیل شود. با توجه به اینکه موانع ورود برای ایجاد محتوا با ربات‌های چت به‌طور فزاینده‌ای کاهش یافته است، مهاجمان به تخصص کمتری در ابتدا نیاز دارند تا موفق شوند.
راه‌حل‌های امنیتی مبتنی بر هوش مصنوعی
راه‌حل چیست؟ استراتژی‌های امنیتی مبتنی بر هوش مصنوعی، طبق گفته کاتو. با تمرکز بر آموزش امنیتی حول مرحله بعدی چشم‌انداز امنیت سایبری، تیم‌ها می‌توانند از تهدیدات مبتنی بر هوش مصنوعی که همچنان در حال تحول هستند، پیشی بگیرند. نکات این کارشناس را برای بهتر آماده‌سازی سازمان‌ها بررسی کنید.
نتیجه‌گیری
در نهایت، این کشف نشان‌دهنده یک چالش جدی برای امنیت سایبری در سال‌های آینده است. با پیشرفت‌های مداوم در فناوری هوش مصنوعی و کاهش موانع برای ایجاد بدافزار، سازمان‌ها باید به‌طور مداوم استراتژی‌های امنیتی خود را به‌روز کنند و به دنبال راه‌حل‌های نوآورانه برای مقابله با تهدیدات جدید باشند.
