به قول یانگ جاک (Yung Joc)، خوانندهٔ رپ آمریکایی، همهچیز دارد از هم میپاشد: سامانههای رزرو بلیت هواپیمایی، پلتفرمهای بانکی و پلتفرمهای بهرهوری. در دو هفتهٔ گذشته، بزرگترین شرکتهای آمریکا با قطعیهای فنی روبهرو شدهاند که سامانههای جاری زندگی روزمره را مختل کرده است.
Apple Pay از کار افتاد. شبکهٔ ارتباط داخلی ناسا (NASA) قطع شد. ادارهٔ هوانوردی فدرال (FAA) ناچار شد همهٔ پروازها را چند ساعت زمینگیر کند (تنها سومین بار در تاریخ پس از ۱۱ سپتامبر)، و مایکروسافت با قطعیای روبهرو شد که Outlook، Teams و Copilot را نزدیک به دو روز از دسترس خارج کرد.
طبیعتاً نخستین فکری که به ذهن میرسد نوعی تهاجم هکرهای هوش مصنوعی است، بهویژه پس از آنکه چند هفته پیش هکرهای سایبری توانستند به یخچالهای یک فروشگاه مواد غذایی و یک بانک خون در فرانسه حمله کنند. در آمریکا، مدیر اطلاعات ملی گفت این قطعیها به نظر نمیرسد به تروریسم دولتی مرتبط باشد، و رئیسجمهور ترامپ (President Trump) این مشکلات را «اتفاقات فردی» خواند. بسیاری از خود شرکتها هم گفتهاند علت قطعیها نه حملات سایبری یا حملات هوش مصنوعی، بلکه مشکلات فنی بوده است.
فقط یک نکته هست: همهٔ اینها در فاصلهٔ زمانی کوتاهی از یکدیگر رخ دادند، و تنها چند هفته پس از آنچه در حوزهٔ امنیت سایبری «اکتبر سیاه» نامیده میشود؛ زمانی که در ۲۱ اکتبر مجموعهای از حوادث امنیت سایبری نیز که به هم نامرتبط بودند رخ داد و PHP، Node.js، LiteLLM و موارد دیگر را هدف گرفت.
به نظر میرسد این بیش از یک تصادف باشد. صادقانه بگویم، حالوهوای مشکل هزاره (Y2K) را دارد، اما این بار با رنگوبوی هوش مصنوعی.
دیو دِوالت (Dave DeWalt)، سرمایهگذاری که بیش از سه دهه در حوزهٔ امنیت سایبری کار کرده است (از جمله بهعنوان رئیس و مدیرعامل McAfee و معاون رئیس CISA Advisory Council برای Department of Homeland Security)، هم احتمال میدهد این ماجرا به هوش مصنوعی مرتبط باشد.
او به TechCrunch گفت این قطعیهای فنی به احتمال زیاد «دردهای رشد یک سیستم امنیتی است که دارد قویتر میشود، نه ضعیفتر»، و اینکه «هوش مصنوعی آسیبپذیریها را با سرعت و مقیاسی آشکار میکند که پیش از این با ابزارهای هوش مصنوعی مانند Mythos و دیگران سابقه نداشته است.»
مسئله این است که بسیاری از این نقصهای فنی همیشه وجود داشتهاند، اما چون هوش مصنوعی آنها را با سرعت زیاد آشکار میکند، شرکتها برای رفعشان پیش از آنکه عوامل مخرب از آنها سوءاستفاده کنند شتاب میکنند. او گفت: «این موج وصلهکاری در کوتاهمدت چیزهایی را مختل میکند.»
آنوشا آیر (Anusha Iyer)، مهندس نرمافزار و بنیانگذار استارتاپ امنیتی Corsha، به TechCrunch گفت این احتمالاً نخستین لحظهای بود که سیستمهای قدیمی و مدرن به هم رسیدند. او گفت: «این سیستمهای صنعتی هرگز برای متصلشدن طراحی نشده بودند، چه برسد به اتصال امن به شکلی که امروز ما آنها را به آن سمت میبریم.»
سناتور مارک وارنر (Mark Warner) از ویرجینیا، نایبرئیس Senate Intel Committee، به نتیجهگیری مشابهی رسید (هرچند تحقیقات دربارهٔ آنچه ممکن است در جریان باشد همچنان ادامه دارد). این سناتور در ایکس (X) نوشت: «این اختلالها باید هشداری برای بیدارشدن باشد. انگار هر روز یادآوری تازهای میآورد که هوش مصنوعی سریعتر از توان ما برای مدیریت پیامدهایش حرکت میکند.»
هوش مصنوعی شیوهٔ ساخت، استقرار و بهرهبرداری از نرمافزار را در مقیاسی دگرگون میکند که همه شیب تند یادگیری آن را حس میکنند. آیر قطعی FAA را نمونهای از فناوری قدیمی دانست که به اندازهٔ فناوریهایی که شرکتها میکوشند آن را با آنها ادغام کنند، پیچیده یا پیشرفته نیست.
به زبان کمتر فنی، او گفت این قطعی ممکن است زمانی رخ داده باشد (و یافتههای اولیه به همین اشاره دارد) که FAA میکوشید زیرساخت مخابراتی خود را نوسازی کند و این گذار بخشهایی از سختافزار قدیمیاش را از توان انداخت؛ جایی که فناوری جدید احتمالاً با ظرفیت عادی و مدرن کار میکرد، اما سختافزار قدیمی از همراهی با آن بازمیماند.
او گفت اگر اینطور نگاه کنیم، در واقع هوش مصنوعی بدنام شده است. به گفتهٔ او: «این پذیرش سریع هوش مصنوعی نیست که اکنون این قطعیها را ایجاد میکند. تقصیر ترکیب شتابزدهٔ سیستمهای قدیمی و مدرن است، بدون درک روشن از ریسک عملیاتی و سایبری یا توانایی کنترل و محافظت از سیستمهای قدیمی.»
دِوالت گفت سازمانها به رویکردی پایدارتر برای پذیرش هوش مصنوعی نیاز دارند، از جمله آزمایش بیشتر و اولویتبندی اینکه چه چیزی و چه زمانی باید اصلاح شود.
آیر افزود: «این سیستمهای صنعتی باید با دقت بیشتری تفکیک شوند و کنترل دسترسی بیشتری داشته باشند تا با معرفی سیستمهای مدرن، بتوان آنها را مرحلهبهمرحله وارد کرد و ریسک را کاهش داد.»
در واقع، ممکن است در این ماجرا برای شرکتها (و سرمایهگذاران خطرپذیر) نکتهٔ مثبتی هم وجود داشته باشد. دِوالت گفت ترجیح میدهد این شرکتهای آمریکایی نقصهای خود را پیدا و وصله کنند، حتی به این شکل آشفته، تا اینکه عوامل مخرب آن آسیبپذیریها را در جنگ هوش مصنوعی پیدا کنند و از آنها سوءاستفاده کنند؛ کاری که میتواند مشکلات امنیت ملی بیشتری ایجاد کند.
و شاید برخی بنیانگذاران جاهطلب از این ماجراها الهام گرفته باشند. دِوالت انتظار دارد شمار شرکتهایی افزایش یابد که بر «مدیریت آسیبپذیری مبتنی بر هوش مصنوعی، رفع خودکار مشکلات، آزمایش و استقرار ایمن وصلهها، و تابآوری سیستمهایی که زیرساخت حیاتی را سرپا نگه میدارند» تمرکز میکنند.
دِوالت گفت: «همانطور که در هفتهٔ گذشته دیدیم، این گذار درد واقعی دارد. اما فرصت بزرگی هم برای شرکتهایی وجود دارد که به سازمانها کمک میکنند با سرعت هوش مصنوعی حرکت کنند، بدون اینکه چیزی را بشکنند.»
آرمان کریمی

سارا نادری
نگار رضایی