در آستانه‌ی عصر جدیدی از تهدیدات دیجیتال هستیم؛ جایی که عامل‌های هوش مصنوعی، نه‌تنها ابزارهایی برای تسهیل کارهای روزمره هستند، بلکه به سلاح‌هایی بالقوه در دست مهاجمان سایبری تبدیل می‌شوند. این عامل‌ها که می‌توانند امور پیچیده‌ای مانند برنامه‌ریزی، خرید آنلاین و تحلیل داده را به‌صورت مستقل انجام دهند، حالا به تهدیدی جدی در حوزه امنیت سایبری بدل شده‌اند. پژوهش‌ها حاکی از آن است که این فناوری به‌راحتی توانایی شناسایی آسیب‌پذیری‌ها، نفوذ به سیستم‌ها و سرقت داده‌های مهم را دارد. با اینکه هنوز استفاده گسترده‌ای از این عامل‌ها در حملات واقعی مشاهده نشده، اما طبق تحقیقات شرکت Anthropic، این فناوری توانایی شبیه‌سازی و اجرای حملات پیچیده را داراست و تنها مسئله زمان است که استفاده عملیاتی از آن آغاز شود. به گفته مارک استاکلی از شرکت Malwarebytes، به‌زودی ممکن است شاهد جهانی باشیم که بخش بزرگی از حملات سایبری در آن، نه توسط انسان، بلکه توسط هوش مصنوعی انجام شود.
ورود هوش مصنوعی به عرصه‌ی حملات سایبری، زنگ خطری جدی برای همه‌ی ماست؛ به‌ویژه در جهانی که وابستگی‌مان به زیرساخت‌های دیجیتال لحظه‌به‌لحظه بیشتر می‌شود. هرچند این فناوری پتانسیل‌های زیادی در بهبود زندگی دارد، اما نبود چارچوب‌های قانونی، اخلاقی و امنیتی روشن می‌تواند آن را به یکی از خطرناک‌ترین ابزارها تبدیل کند. زمان آن رسیده که نهادهای امنیتی، شرکت‌های فناوری و حتی کاربران عادی، دیدی هوشمندانه‌تر و آماده‌تر نسبت به تهدیدات ناشی از عامل‌های هوش مصنوعی داشته باشند.
جنگ پیشگیرانه در برابر هوش مصنوعی مهاجم
در واکنش به تهدید فزاینده‌ی ایجنت‌های هوش مصنوعی در فضای سایبری، سازمان Palisade Research سامانه‌ای هوشمند با نام «LLM Agent Honeypot» طراحی کرده است؛ شبکه‌ای از سرورهای آسیب‌پذیر که به‌عنوان طعمه برای شکار ایجنت‌های مخرب به کار می‌روند. هدف اصلی این پروژه، شناسایی رفتارهای مشکوک در مراحل ابتدایی حمله و آماده‌سازی راهکارهای مقابله‌ای پیش از وقوع نفوذ جدی است. از زمان آغاز به‌کار این سامانه در مهر ۱۴۰۳، بیش از ۱۱ میلیون تلاش برای دسترسی به آن ثبت شده که حداقل دو مورد با قطعیت توسط عامل‌های هوش مصنوعی انجام شده‌اند. نکته نگران‌کننده اینکه این ایجنت‌ها نه‌تنها در مقایسه با ربات‌های معمولی بسیار هوشمندترند، بلکه می‌توانند مسیرهای نفوذ را با دقت تحلیل کرده و از شناسایی شدن بگریزند.
کارشناسان امنیتی هشدار می‌دهند که این فناوری‌ها می‌توانند به‌زودی حملات سایبری را از مرحله شناسایی هدف تا اجرای کامل، به‌صورت کاملاً خودکار و بدون دخالت انسان پیش ببرند. این قابلیت، قدرت مقیاس‌پذیری تهدیداتی چون باج‌افزار را به‌طور چشمگیری افزایش می‌دهد. مطالعات دانشگاه ایلینوی نیز نشان داده که این ایجنت‌ها حتی بدون دانش اولیه، قادر به شناسایی ۱۳٪ از آسیب‌پذیری‌ها هستند؛ و با دریافت کمی راهنمایی، این رقم به ۲۵٪ می‌رسد.
توسعه سیستم‌هایی مانند Honeypot نشان می‌دهد که متخصصان امنیت سایبری به‌درستی دریافته‌اند که نبرد آینده نه صرفاً با هکرهای انسانی، بلکه با هوش مصنوعی‌های خودآموز و مستقل خواهد بود. با این حال، این اقدامات صرفاً جنبه دفاعی دارند؛ در حالی که برای مقابله مؤثر با این تهدید، به قوانین بین‌المللی، زیرساخت‌های مقاوم و حتی هوش مصنوعی‌های مدافع نیاز داریم. در این میدان نبرد دیجیتال، تنها داشتن ابزار کافی نیست؛ هوشمندی در استفاده از آن ابزار است که امنیت را تضمین می‌کند.