هوش مصنوعی عمومی در عجله حملات ایمیل پیچیده

بر اساس گزارشی که روز چهارشنبه توسط یک شرکت امنیت ایمیل مبتنی بر ابر جهانی منتشر شد، ابزارهای مولد هوش مصنوعی مانند ChatGPT باعث افزایش حملات ایمیل پیچیده شده است.

رهبران امنیتی از زمان انتشار ChatGPT نگران احتمال حملات ایمیلی ایجاد شده توسط هوش مصنوعی بوده‌اند و همانطور که در گزارشی از امنیت غیرعادی اشاره شده است، ما شروع به تحقق این نگرانی‌ها کرده‌ایم.

این شرکت اعلام کرد که اخیراً تعدادی از حملات حاوی زبانی را که به شدت مشکوک بود توسط هوش مصنوعی نوشته شده بود، متوقف کرده است.

عوامل تهدید پیشرفته مدت‌هاست که از هوش مصنوعی استفاده می‌کنند. دن شیبلر، رئیس یادگیری ماشین در Abnormal و نویسنده این گزارش گفت: «هوش مصنوعی مولد برای آنها مشکل بزرگی نیست، زیرا آنها از قبل به ابزارهایی برای فعال کردن این نوع حملات دسترسی دارند.

او به TechNewsWorld گفت: «آنچه هوش مصنوعی مولد انجام می‌دهد این است که حملات پیچیده را کالایی می‌کند، بنابراین تعداد بیشتری از آنها را خواهیم دید.

او ادامه داد: “ما شاهد افزایش حملات Business Email Compromise (BEC) بوده ایم که انجام آنها با این نوع تکنیک ها آسان است.”

او افزود: انتشار ChatGPT نقطه عطفی برای مصرف کنندگان بود، اما انتشار GPT3 در سال 2020 عاملان تهدید را قادر ساخت تا از هوش مصنوعی در حملات ایمیل استفاده کنند.

برنامه ترسناک

میکا آلتو، یکی از بنیانگذاران و مدیرعامل Hoxhunt، ارائه دهنده راه حل های آگاهی از امنیت سازمانی در هلسینکی، به TechNewsWorld گفت که مهاجمان در حال استفاده از فناوری هوش مصنوعی برای ایجاد کمپین های متقاعدکننده تر BEC و توسعه کیت های حمله پیچیده تر BEC هستند که سپس در تاریک وب فروخته می شوند. . .

او گفت: “طبق تحقیقات خود ما، مهندسان اجتماعی انسان هنوز در ساخت ایمیل های فیشینگ بهتر از مدل های زبان بزرگ هستند، اما این شکاف در حال کاهش است.” هکرها در مهندسی چابک و غلبه بر محافظت های سوء استفاده از ChatGPT برای کمپین های BEC بهتر می شوند.

شیبلر خاطرنشان کرد: یکی از کاربردهای بسیار ترسناک این فناوری، ارسال مجدد حملات است. “

او توضیح داد: «سیستم می‌تواند حمله را ارسال کند، تعیین کند که آیا به گیرندگان رسیده است یا خیر، و اگر موفق نشد، به طور مکرر حمله را اصلاح کند». اساساً او یاد می گیرد که دفاع چگونه کار می کند و حمله را برای استفاده از آن تنظیم می کند.

در گزارش خود، Abnormal نشان داد که چگونه از هوش مصنوعی در سه حمله به مشتریانش استفاده شده است – یک حمله فیشینگ اعتبار، یک حمله سنتی BEC و یک حمله کلاهبرداری فروشنده.

در این گزارش اشاره شده است که این سه نمونه تنها درصد کمی از حملات ایمیلی هستند که توسط هوش مصنوعی ایجاد می‌شوند، که اکنون تقریباً روزانه آن‌ها را مشاهده می‌کنید.

متأسفانه، با ادامه پیشرفت فناوری، جرایم سایبری نیز با آن تکامل خواهد یافت و مقیاس و پیچیدگی این حملات همچنان افزایش خواهد یافت.

دیگر شکستگی در انگلیسی وجود ندارد

ابزارهای مولد هوش مصنوعی می توانند اثربخشی یک کمپین فیشینگ را افزایش دهند، به خصوص کمپین هایی که منشا آن خارج از ایالات متحده است.

Dror Lewer، یکی از بنیانگذاران شرکت امنیت سایبری مبتنی بر فضای ابری Coro، توضیح داد: “بسیاری از حملات ایمیلی خارج از ایالات متحده توسط افراد غیر بومی انجام می شود، که منجر به ایمیل هایی با مشکلات گرامری واضح و لحن غیرمعمول صدا می شود و گیرنده را مشکوک می کند.” شرکت مستقر در تل آویو، اسرائیل.

او به TechNewsWorld گفت: «هوش مصنوعی مولد به فرستنده اجازه می‌دهد ایمیل شخصی‌سازی شده، محاوره‌ای و بسیار قابل اعتماد ایجاد کند که هیچ شکی ایجاد نمی‌کند و کاربران بیشتری را به دام می‌اندازد.

جیمز مک‌کویگان، حامی آگاهی امنیتی در KnowBe4، ارائه‌دهنده آموزش آگاهی امنیتی در کلیرواتر، فلوریدا، افزود: «زمینه و دستور زبان مناسب محتوا را باورپذیرتر می‌کند و کمتر احتمال دارد که برای کاربر مشکوک باشد».

او به TechNewsWorld گفت: «علاوه بر این، هوش مصنوعی مولد می‌تواند اطلاعات یک سازمان را از اینترنت برای ایجاد یک کمپین فیشینگ هدفمند یا باورپذیرتر استخراج کند.»

جوی استنفورد، رئیس امنیت و حریم خصوصی جهانی در Platform.sh، ارائه‌دهنده خدمات پلتفرم جهانی، خاطرنشان کرد که حملات ایمیلی که با هوش مصنوعی مصنوعی طراحی شده‌اند ممکن است واقعی‌تر و قانع‌کننده‌تر به نظر برسند، زیرا از تکنیک‌های زبانی پیچیده و مجموعه داده‌های بزرگ استفاده می‌کنند. ایمیل های فیشینگ

او به TechNewsWorld گفت: «این به بازیگران بد اجازه می‌دهد تا به طور خودکار ایمیل‌های فیشینگ جدید و پنهانی تولید کنند که شناسایی آن‌ها دشوار است. ابزارهای مولد هوش مصنوعی مانند ChatGPT OpenAI ممکن است پشت افزایش ۱۳۵ درصدی ایمیل های فیشینگ با استفاده از این فناوری ها باشد که در گزارش اخیر Darktrace فاش شده است.

مبارزه با هوش مصنوعی با استفاده از هوش مصنوعی

استنفورد اظهار داشت که سازمان‌ها می‌توانند با استفاده از ابزارهای امنیت سایبری با هوش مصنوعی خودآموز، از خود در سطح شبکه در برابر حملات ایمیل مهندسی شده با هوش مصنوعی مولد محافظت کنند. او توضیح داد که این ابزارها می توانند فعالیت های ایمیل غیرعادی و مخرب را در زمان واقعی بدون اتکا به دانش قبلی از تهدیدات گذشته شناسایی کرده و به آنها پاسخ دهند.

او گفت: “این ابزارها همچنین می توانند به سازمان ها کمک کنند تا کارکنان خود را در مورد نحوه شناسایی و گزارش ایمیل های فیشینگ و اجرای سیاست های امنیتی و بهترین شیوه ها در سراسر شبکه آموزش دهند.”

او اعتراف کرد که این ابزارها جدید هستند و به سرعت در حال توسعه هستند، اما به نظر می رسد مبارزه با هوش مصنوعی به دلایل مختلف بهترین راه حل برای این مشکل است. این شامل:

• حملات هوش مصنوعی مولد پویا و تطبیقی ​​هستند و می‌توانند از مدل‌های امنیتی سنتی که بر دانش قبلی از تهدیدات قبلی متکی هستند، چشم پوشی کنند.
• ابزارهای هوش مصنوعی خودآموز می توانند فعالیت ایمیل غیرعادی و مخرب را در زمان واقعی و بدون دخالت انسان یا قوانین از پیش تعریف شده شناسایی کرده و به آن پاسخ دهند.
• ابزارهای هوش مصنوعی همچنین می توانند محتوا و زمینه ایمیل ها و متن ها را تجزیه و تحلیل کنند و هرگونه پیام مشکوک یا مخرب را برای بررسی یا اقدام بیشتر علامت گذاری کنند.
• ابزارهای هوش مصنوعی می توانند به آموزش و فعال کردن تیم های علم داده و امنیت برای همکاری و ایجاد یک برنامه امنیتی فعال و جامع هوش مصنوعی کمک کنند.

فراتر از هوش مصنوعی برای تجزیه و تحلیل رفتار

جان بامبینیک، شکارچی اصلی تهدید در Netenrich، یک شرکت عملیات فناوری اطلاعات و امنیت دیجیتال در سن خوزه، کالیفرنیا، گفت: با این حال، مشکل هوش مصنوعی مولد در دراز مدت با هوش مصنوعی بیشتر قابل حل نیست.

او به TechNewsWorld گفت: «آنچه لازم است این است که از نقطه نظر تحلیل رفتار به آنچه طبیعی است و غیر عادی نگاه کنیم و متوجه شویم که ایمیل امن و ناامن نیست. “هرچه چیزی مهمتر باشد، کمتر به ایمیل بستگی دارد.”

او افزود: “کلید هنوز یکسان است، قبل از اقدام در مورد یک ایمیل، دو بار فکر کنید، به خصوص اگر چیزی حساس مانند تراکنش مالی یا درخواست احراز هویت باشد.”

مک ویگان توصیه کرد چه ایمیلی توسط هوش مصنوعی، ربات یا انسان ایجاد شده باشد، مراحل بررسی آن یکسان است. گیرنده باید سه سوال بپرسد: آیا این ایمیل غیرمنتظره است؟ آیا از کسی است که نمی شناسم؟ آیا آنها از من می خواهند که کاری غیرعادی انجام دهم یا عجله دارم؟

او گفت: “اگر پاسخ هر یک از این سوالات مثبت است، وقت بیشتری را صرف بررسی اطلاعات ایمیل کنید.”

او توصیه کرد: «سپری کردن چند لحظه اضافی برای بررسی پیوندها، منبع ایمیل و سفارش می‌تواند هزینه‌ها یا منابع اضافی را کاهش دهد، زیرا شخصی روی پیوندی کلیک کرده و شروع به خطر نقض داده‌ها برای سازمان کرده است».