نفوذ خودکار مبتنی بر هوش مصنوعی به WorkOS، زنگ خطری برای امنیت سامانه‌ها
شرکت WorkOS اعلام کرده است که یک عامل هک مبتنی بر هوش مصنوعی با نفوذ به برنامه داخلی فروش این شرکت، به اطلاعات مشتریان دسترسی پیدا کرده است. بررسی‌ها نشان می‌دهد این ابزار توسط یک پژوهشگر امنیتی به کار گرفته شده بود که مدعی است عامل هوش مصنوعی از محیط آزمایشی ایزوله خود خارج شده و بدون قصد قبلی، به سامانه‌های این شرکت حمله کرده است.
این شرکت فعال در حوزه توسعه نرم‌افزار، اوایل هفته جاری از وقوع این رخداد امنیتی خبر داده بود. بر اساس اعلام WorkOS، مهاجم با استفاده از چارچوب امنیت تهاجمی ARTEX AI، فرایند شناسایی و تلاش برای بهره‌برداری از آسیب‌پذیری‌های سامانه‌های این شرکت را به‌صورت خودکار انجام داده بود.
با این حال، مایکل گرینیچ (Michael Grinich)، بنیان‌گذار WorkOS، روز جمعه در به‌روزرسانی جدیدی درباره وضعیت امنیتی اعلام کرد که فرد مسئول این نفوذ شناسایی شده و خود را معرفی کرده است. به گفته گرینیچ، این فرد مدعی شده که نفوذ به‌صورت ناخواسته اتفاق افتاده است.
گرینیچ در پستی در شبکه اجتماعی X نوشت:
«اندکی پس از انتشار اطلاعیه اولیه، یک پژوهشگر امنیتی با ما تماس گرفت و مسئولیت این رخداد را بر عهده گرفت. او توضیح داد که در حال ارزیابی ARTEX، یک چارچوب خودکار تست نفوذ، بوده که در جریان آن، عامل هوش مصنوعی از محیط آزمایش ایزوله خود خارج شده و ناخواسته با سامانه‌های WorkOS تعامل برقرار کرده است.»
بر اساس گزارش‌ها، این پژوهشگر در حال انجام ارزیابی‌های معیارسنجی امنیت سایبری با استفاده از ARTEX بوده است. در جریان این فرایند، عامل هوش مصنوعی از محدوده محیط تعیین‌شده خود خارج شده و شروع به برقراری ارتباط با سامانه‌های WorkOS کرده است.
WorkOS اعلام کرده است که تیم امنیتی این شرکت، به همراه یک متخصص مستقل بررسی ادله دیجیتال، جزئیات درخواست‌ها، زمان‌بندی رویدادها و سایر شواهد فنی ارائه‌شده از سوی پژوهشگر را با گزارش‌های ثبت‌شده در سامانه‌های خود تطبیق داده‌اند. نتایج این بررسی‌ها با اطمینان بالایی نشان می‌دهد که فعالیت‌های غیرمجاز انجام‌شده توسط همین فرد صورت گرفته است.
این پژوهشگر همچنین تأیید کرده که تمام اطلاعات WorkOS که توسط عامل هوش مصنوعی به دست آمده بود، حذف شده و در اختیار هیچ شخص دیگری قرار نگرفته است.
با وجود تأیید مسئولیت این پژوهشگر در وقوع نفوذ، تاکنون نه شرکت WorkOS و نه فرد مذکور، جزئیاتی درباره چگونگی خروج عامل هوش مصنوعی از محیط آزمایشی منتشر نکرده‌اند.
بهره‌برداری عامل هوش مصنوعی از اعتبارنامه‌های ضعیف
بررسی‌های WorkOS همچنین چهار ضعف امنیتی را شناسایی کرده است که به عامل خودکار هوش مصنوعی اجازه داده‌اند به برنامه داخلی فروش شرکت دسترسی پیدا کند و اطلاعات مشتریان را استخراج کند.
برنامه تحت تأثیر، روی یک پلتفرم قدیمی برای ابزارهای داخلی اجرا می‌شد که فاقد تدابیر امنیتی به‌کاررفته در سامانه‌های جدیدتر شرکت بود.
به گفته WorkOS، پیکربندی سهل‌گیرانه کنترل‌های دسترسی باعث شده بود نقاط پایانی API این برنامه در معرض دسترسی از طریق اینترنت قرار بگیرند. همین موضوع به عامل هوش مصنوعی امکان داد تا این نقاط پایانی را شناسایی کرده و با آن‌ها تعامل برقرار کند.
از سوی دیگر، API از یک اعتبارنامه قابل پیش‌بینی که برای استفاده در محیط توسعه محلی در نظر گرفته شده بود، پشتیبانی می‌کرد. این اعتبارنامه به‌اشتباه در محیط عملیاتی (Production) باقی مانده بود و عامل هوش مصنوعی پس از شناسایی نقطه پایانی در معرض دسترس، توانست از آن برای احراز هویت استفاده کند.
عامل هوش مصنوعی پس از احراز هویت، از نبود محدودیت نرخ درخواست (Rate Limiting) سوءاستفاده کرد و توانست در مدت کوتاهی حجم زیادی از اطلاعات و رکوردهای موجود در برنامه را بازیابی کند.
WorkOS اعلام کرده است که نخستین دسترسی غیرمجاز تأییدشده در تاریخ ۲۵ اکتبر رخ داده، اما این فعالیت‌ها تا ۳۰ اکتبر شناسایی نشده بودند. در این فاصله، عامل هوش مصنوعی فرایند دریافت و دانلود اطلاعات مشتریان را به پایان رسانده بود.
این شرکت زمانی متوجه رخداد شد که یکی از کارکنان، افزایش غیرعادی میزان استفاده از سامانه‌ای مرتبط با برنامه آسیب‌دیده را مشاهده کرد.
اطلاعات افشاشده شامل جزئیات تماس‌های تجاری، سوابق حساب مشتریان، اطلاعات مربوط به نحوه استفاده از محصولات و همچنین خلاصه یا بخش‌هایی از مکالمات جلسات فروش، گفتگوهای پشتیبانی و مکاتبات مشتریان در Slack بوده است.
علاوه بر این، در تعداد محدودی از پیام‌های پشتیبانی، آدرس ایمیل کاربران نهایی نیز وجود داشته است.
WorkOS اعلام کرده است که بر اساس بررسی‌های انجام‌شده توسط تیم داخلی و تأیید نتایج آن از سوی یک شرکت مستقل متخصص در بررسی ادله دیجیتال، دامنه این رخداد به اطلاعات ذخیره‌شده در سامانه‌های فروش و پشتیبانی مشتریان محدود بوده است.
این شرکت همچنین اشاره کرده که از تاریخ ۳ نوامبر، یعنی چند روز پس از وقوع این رخداد، آزمایش‌های منظم سامانه‌های متصل به اینترنت خود را با استفاده از ARTEX آغاز کرده است. ARTEX همان چارچوب تست نفوذ مبتنی بر هوش مصنوعی است که در این حادثه مورد استفاده قرار گرفت.
ARTEX یک چارچوب امنیت تهاجمی مبتنی بر هوش مصنوعی است که پیش‌تر نیز در ارتباط با حملات سایبری علیه بانک‌های کره جنوبی و مؤسسه هلندی افشای آسیب‌پذیری‌ها (DIVD) مطرح شده بود.
در رویدادی جدیدتر، شرکت CrowdStrike گزارش داد که گروه جاسوسی سایبری چینی Vapor Panda از این چارچوب در کارزاری استفاده کرده است که حدود ۲۰۰ سازمان را هدف قرار داده بود.
اگرچه پژوهشگر مسئول این رخداد مدعی است که نفوذ به WorkOS عمدی نبوده، این حادثه بار دیگر نشان می‌دهد که هوش مصنوعی تا چه اندازه می‌تواند برای اجرای حملات خودکار و مستقل مورد استفاده قرار گیرد، حتی زمانی که چنین حملاتی بدون قصد قبلی انجام می‌شوند.
