نگه‌دارندگان به گزارش‌های بیشتر باگ از سوی هوش مصنوعی نیاز ندارند؛ به وصله نیاز دارند.

در آزمایش Codename MDASH، GitHub و مایکروسافت هزاران یافتهٔ خام هوش مصنوعی را به ۹۹ گزارش خصوصی بررسی‌شده همراه با وصلهٔ پیشنهادی برای شش پروژهٔ متن‌باز پرکاربرد تبدیل کردند. نگه‌دارندگان تاکنون بیش از نیمی از آن‌ها را رفع کرده‌اند.

هوش مصنوعی یافتن آسیب‌پذیری‌های احتمالی را سریع و ارزان کرده است، اما رفع آن‌ها همچنان به قضاوت انسانی نیاز دارد و در متن‌باز این کار بر دوش نگه‌دارندگان می‌افتد. بسیاری از آن‌ها همین حالا زیر انبوه یافته‌های امنیتی تولیدشده با هوش مصنوعی غرق شده‌اند؛ از جمله موارد تکراری و گزارش‌هایی که اصلاً آسیب‌پذیری نیستند. یک اسکن خام دیگر کمکی به آن‌ها نمی‌کند. هر کسی که مدل تازه‌ای را به سمت یک پروژه نشانه می‌گیرد، باید اول از نگه‌دارندگانش بپرسد و به‌جای یافته، وصله بیاورد.

هوش مصنوعی نباید بار کاری نگه‌دارندگان را بیشتر کند. به همین دلیل GitHub و مایکروسافت با خود نگه‌دارندگان آزمایشی مشترک انجام دادند: آیا هوش مصنوعی می‌تواند به نگه‌دارندگان کمک کند وصله تحویل دهند، نه این‌که یافته‌های بیشتری به دستشان برسد؟

GitHub و مایکروسافت از Codename MDASH استفاده می‌کنند؛ چارچوب اسکن عامل‌محور چندمدلی مایکروسافت که برای یافتن و رفع آسیب‌پذیری‌های امنیتی در نرم‌افزارهای متن‌باز پرکاربرد به کار می‌رود و پایه‌ای را تقویت می‌کند که بخش بزرگی از کد جهان بر آن ساخته شده است.

روند کار

آزمایش ما دو هدف داشت: فقط یافته‌هایی فرستاده شود که اهمیت دارند، و هیچ یافتهٔ تأییدنشده‌ای به دست نگه‌دارنده نرسد. روند کار چنین بود:

یافتن. Codename MDASH، سامانهٔ هوش مصنوعی مایکروسافت Security، هر پروژه را با مدل MAI Cyber مایکروسافت اسکن کرد و برای آنچه یافت، وصله پیشنهاد داد.

غربالگری. یک عامل غربالگری هوش مصنوعی از GitHub Security Lab که بر پایهٔ مهارت‌های سفارشی‌شدهٔ Copilot ساخته شده بود، موارد تکراری را حذف کرد، اعتبار آن‌ها را بررسی کرد و روی باگ‌های پرتأثیر تمرکز کرد تا نگه‌دارندگان هرگز مجبور به بازبینی نتایج خام اسکن نشوند.

گزارش خصوصی. گزارش‌ها همراه با اثبات مفهوم (proof of concept) و وصلهٔ پیشنهادی، از طریق گزارش‌دهی خصوصی آسیب‌پذیری (private vulnerability reporting) در GitHub به نگه‌دارندگان رسید.

رفع. نگه‌دارندگان تصمیم گرفتند چه چیزی را رفع کنند، چگونه رفع کنند و چه زمانی.

گزارش‌ها و وصله‌ها در GitHub ماندند؛ همان‌جایی که نگه‌دارندگان از قبل کار می‌کنند.

نتیجه: Codename MDASH با استفاده از مدل MAI Cyber مایکروسافت هزاران مشکل احتمالی را در شش پروژه علامت زد. پس از غربالگری هوش مصنوعی و بازبینی دستی هفت پژوهشگر Microsoft FORGE Lab، نگه‌دارندگان ۹۹ گزارش خصوصی دریافت کردند. تا ۱۵ نوامبر، ۵۵ مورد را رفع کرده بودند و ۱۴ وصله از این تعداد پیش‌تر در یک انتشار قرار گرفته بود.

آنچه آموختیم

این درس‌ها از آنچه شش پروژه رفع کردند و آنچه نگه‌دارندگانشان تصمیم گرفتند به اشتراک بگذارند به دست آمده است. شش پروژه نمونهٔ کوچکی است، پس آن‌ها را درس‌های اولیه بدانید.

۱. وصله مهم‌تر از یافته است

نگه‌دارندگان وقت خود را صرف رفع می‌کنند. به همین دلیل هر گزارش از پیش بررسی‌شده می‌رسید و وصلهٔ پیشنهادی داشت تا بازبینی، اصلاح و ادغام شود. نگه‌دارندگان از یک وصلهٔ دقیق و مشخص شروع می‌کردند، نه از یک یافتهٔ خام.

نخستین وصله‌ها حدود یک هفته پس از اسکن اولیه منتشر شدند. نگه‌دارندگان Caddy هر ۲۲ گزارشی را که دریافت کردند در یک هفته یا کمتر رفع کردند. نگه‌دارندگان از وصله‌های پیشنهادی استفاده کردند؛ برخی را همان‌طور که نوشته شده بود و برخی را با تغییر.

نگه‌دارندگان AutoGPT به‌تازگی یک بررسی تازه را منتشر کرده بودند و این بررسی خراب بود. گزارش سه روز بعد رسید و به خط درست اشاره می‌کرد. آن‌ها رفع را فراتر از وصلهٔ پیشنهادی بردند، ظرف یک روز نوشتندش و کمتر از یک هفته بعد در محیط عملیاتی داشتند.

یافتن آسیب‌پذیری دیگر گلوگاه ما نیست. رفع آن‌ها بخش سخت ماجراست و این کار به نگه‌دارندگان بستگی دارد.

نگه‌دارندهٔ Netty

۲. Codename MDASH همراه با بازبینی پژوهشگران، یافته‌های باکیفیت همراه با وصله به نگه‌دارندگان داد

نگه‌دارندگان فهرست کوتاهی دریافت کردند، نه سیل گزارش. نگه‌دارندگان Express گفتند گزارش‌ها از میان هیاهو راه را باز کردند. نگه‌دارندگان Caddy گفتند باگ‌های مبهم را آشکار کردند و شکاف‌هایی را پر کردند که گزارش‌های پیشین از دست داده بودند. برای FastMCP، اسکن فراتر از آن چیزی رفت که اسکنرهای هوش مصنوعی پیش‌تر به آن‌ها داده بودند. ImageMagick که تیمی دو نفره نگهداری‌اش می‌کند، ۲۲ گزارش دریافت کرد.

هوش مصنوعی یافتن را انجام داد، پژوهشگران بررسی را، و نگه‌دارندگان همچنان تصمیم‌گیرنده ماندند.

یکی از گزارش‌های ImageMagick در نگاه اول شبیه نوعی مشکل بود که نگه‌دارندگان قبلاً دیده بودند. خلاصهٔ گزارش نشان داد این‌طور نیست و به خطوط دقیق کد اشاره می‌کرد. آن‌ها توانستند ظرف ۱۵ دقیقه وصله را منتشر کنند.

معمولاً خواندن، فهمیدن و رفع یک مشوریهٔ امنیتی (security advisory) به‌طور میانگین حدود ۳۰ دقیقه تا ۱ ساعت وقت ما را می‌گیرد. تفاوت بسیار بزرگی است.

نگه‌دارندهٔ ImageMagick

Codename MDASH توانست باگ‌های امنیتی ناشناخته و مبهم را با گزارش‌های موجز در پروژهٔ ما پیدا کند و شکاف‌های برخی گزارش‌های پیشین را که دیده نشده بودند پر کند.

نگه‌دارندهٔ Caddy

۳. متن‌باز هنوز شکاف‌هایی دارد که باید پر شوند

این آزمایش جواب داد چون افراد در هر مرحله کار دقیقی انجام دادند و این کار هنوز مقیاس‌پذیر نیست. هفت پژوهشگر حدود دو روز برای هر پروژه صرف کردند تا یافته‌ها را دستی بررسی کنند. در همین حال، گزارش‌های بی‌کیفیت هر روز به دست نگه‌دارندگان می‌رسد.

در متن‌باز، وصله‌ها باید از طریق گزارش‌دهی خصوصی آسیب‌پذیری (private vulnerability reporting یا PVR) تحویل داده شوند. نگه‌دارندگان باید آزمون‌های CI/CD را روی انشعاب‌های خصوصی اجرا کنند تا آن وصله‌ها را تأیید کنند. و برای بستن شکاف میان مدافعان و مهاجمان، نگه‌دارندگان باید به مدل‌های توانمند در حوزهٔ سایبری دسترسی داشته باشند تا اثبات مفهوم (proof of concept) را پیش و پس از رفع بررسی کنند.

اسکن Codename MDASH بینشی بی‌سابقه دربارهٔ امنیت پروژهٔ ما فراهم کرد، فراتر از آنچه اسکنرهای هوش مصنوعی در گذشته به ما داده بودند

نگه‌دارندهٔ FastMCP

چرا اهمیت دارد

اگر نگه‌دارنده هستید، این رویکرد هزینهٔ یک گزارش امنیتی را برایتان تغییر می‌دهد. گزارش خصوصی بررسی‌شده‌ای که وصلهٔ پیشنهادی دارد، وقت کمتری از شما می‌گیرد. نباید مجبور باشید خروجی یک اسکنر را غربال کنید. این کار فرستنده است.

اگر از هوش مصنوعی برای یافتن آسیب‌پذیری در متن‌باز استفاده می‌کنید، بازخورد نگه‌دارندگان به این استاندارد اشاره دارد:

هر یافته را پیش از فرستادن بررسی کنید؛ هم در برابر آنچه پروژه از قبل می‌داند و هم در برابر مدل تهدید (threat model) و سیاست امنیتی آن.

آن را خصوصی گزارش کنید.

وصلهٔ پیشنهادی را همراه داشته باشید. بگذارید نگه‌دارندگان سرعت را تعیین کنند.

انتشار قابلیت‌ها هر روز آسان‌تر می‌شود، اما در آینده نگهداری نرم‌افزار احتمالاً به این برمی‌گردد که چه کسی به‌قدر کافی اهمیت می‌دهد که امنیت را مدیریت کند.

نگه‌دارندهٔ AutoGPT

Codename MDASH برای عبور از هیاهوی گزارش‌های آسیب‌پذیری بسیار مفید است.

نگه‌دارندهٔ Express

کاری که امروز می‌توانید بکنید

اگر نگه‌دارندهٔ هر پروژهٔ متن‌باز هستید، گزارش‌دهی خصوصی آسیب‌پذیری را روشن کنید تا پژوهشگران بتوانند مسائل امنیتی را بدون عمومی‌کردن به شما گزارش دهند. اگر پروژه‌تان روی GitHub است، با gh-secure در حدود دو دقیقه ویژگی‌های امنیتی اصلی را روشن کنید.

اگر روی متن‌باز کار می‌سازید، هشدارهای Dependabot را روشن کنید تا بدانید وقتی وابستگی‌ای که استفاده می‌کنید به به‌روزرسانی امنیتی نیاز دارد.

اگر گزارش‌های آسیب‌پذیری تولیدشده با هوش مصنوعی را به پروژه‌های متن‌باز می‌فرستید، پیش از ارسال آن‌ها را با استاندارد بالا بسنجید.

مخزن‌هایی که از امنیت کد GitHub استفاده می‌کنند می‌توانند با agentic autofix هشدارهای خود را به کمک Copilot به‌طور خودکار رفع کنند

قدم بعدی چیست

وصله‌ها، همان‌جایی که نگه‌دارندگان از قبل کار می‌کنند. GitHub این درس‌ها را به گزارش‌دهی خصوصی آسیب‌پذیری و مشوریه‌های امنیتی (security advisories) می‌آورد؛ حوزه‌ای که GitHub Security Lab از قبل در آن سرمایه‌گذاری می‌کند تا بار گزارش‌های بی‌کیفیت بر نگه‌دارندگان را کم کند.

MAI Cyber 2. مایکروسافت امروز MAI Cyber 2 را معرفی کرد. آزمایش Codename MDASH با مدل قبلی MAI Cyber اجرا شده بود. GitHub و مایکروسافت به همکاری ادامه می‌دهند تا به امن‌سازی متن‌باز کمک کنند.

پر کردن شکاف‌ها، با شروع از GitHub Secure Open Source Fund. ما با مایکروسافت کار می‌کنیم تا بازبینی پژوهشگران را بدون کم‌گذاشتن از کیفیت مقیاس‌پذیر کنیم. GitHub به هر پروژهٔ فارغ‌التحصیل اسکن‌های امنیتی هوش مصنوعی ارائه می‌دهد و یافته‌ها پیش از گزارش خصوصی بررسی می‌شوند. فارغ‌التحصیلان GitHub Copilot Max هم دریافت می‌کنند. این پشتیبانی را به دوره‌های آیندهٔ صندوق هم می‌بریم.

همهٔ بازیگران پایین‌دستی از این نظام بهره می‌برند. وقتی نگه‌دارنده‌ای مشوریهٔ امنیتی را در GitHub منتشر می‌کند و آن مشوریه برای GitHub Advisory Database بازبینی می‌شود، Dependabot می‌تواند به مخزن‌هایی هشدار دهد که به آن بسته وابسته‌اند. این همان ایدهٔ پشت GitHub Secure Open Source Fund است: تاکنون ۲۱۶ پروژه، با بیش از ۳۰۰ نگه‌دارنده که بیش از ۴٬۰۰۰ آسیب‌پذیری را در نرم‌افزاری رفع کرده‌اند که ماهانه بیش از ۲۰ میلیارد بار دانلود می‌شود.

سپاسگزاری

از نگه‌دارندگان AutoGPT، Caddy، Express، FastMCP، ImageMagick و Netty: از وقت، اعتماد و بازخوردتان سپاسگزاریم. همچنین از تیم Codename MDASH در مایکروسافت Security، تیم MAI Cyber، پژوهشگران Microsoft FORGE Lab و GitHub Security Lab سپاسگزاریم.

نگه‌دارندگان کار رفع را انجام می‌دهند. کار ما این است که مطمئن شویم هرگز تنها انجامش نمی‌دهند.

از زبان نگه‌دارندگان دربارهٔ تجربه‌شان با Codename MDASH بشنوید. 👇

دربارهٔ GitHub Secure Open Source Fund

هر شش پروژهٔ این آزمایش از فارغ‌التحصیلان GitHub Secure Open Source Fund هستند؛ صندوقی که به هر پروژه از طریق GitHub Sponsors ۱۰٬۰۰۰ دلار می‌دهد، به‌همراه آموزش امنیتی و جامعهٔ حمایتی فارغ‌التحصیلان.

GitHub Secure Open Source Fund که با پشتیبانی GitHub Sponsors اداره می‌شود، پروژه‌های متن‌بازی را تأمین مالی می‌کند که زیربنای زنجیرهٔ تأمین دیجیتال‌اند، نوآوری را ممکن می‌کنند و برای پشتهٔ هوش مصنوعی حیاتی‌اند. می‌خواهید شرکتتان به امن‌سازی متن‌بازی کمک کند که به آن وابسته است؟ از طریق صفحهٔ صندوق شریک تأمین مالی شوید. دربارهٔ صندوق بیشتر بدانید یا درخواست دهید.

از طریق GitHub Secure Open Source Fund، نگه‌دارندگان آموزش امنیتی و اعتبار Azure را از Microsoft for Startups دریافت می‌کنند. این پشتیبانی در کنار European Security Program مایکروسافت و Secure Future Initiative آن قرار می‌گیرد که اصلش اولویت امنیت بر هر چیز دیگر است. بیشتر سازمان‌ها هم به همین شکل پایین‌دست هستند. اگر نرم‌افزارتان به متن‌باز وابسته است، همین کار را بکنید: از نگه‌دارندگانی که به آن‌ها تکیه دارید پشتیبانی کنید.

من روی راهبرد و برنامه‌های متن‌باز کار می‌کنم که از نگه‌دارندگان در GitHub و در کل اکوسیستم پشتیبانی می‌کند. همچنین در کمیتهٔ راهبری TODO Group عضویت دارم؛ جایی که به سازمان‌ها کمک می‌کنیم متن‌باز را مسئولانه استفاده و پایدار نگه دارند.

Git به‌روزرسانی‌هایی منتشر می‌کند که شش آسیب‌پذیری امنیتی را رفع می‌کند؛ آسیب‌پذیری‌هایی در کلون‌کردن، مدیریت ارجاع‌ها، ادغام‌ها، وصله‌های دودویی و واردکردن‌ها. آنچه کاربران باید بدانند این است.

GitHub اکنون فایل‌های ACCESSIBILITY.md را برجسته می‌کند و به نگه‌دارندگان کمک می‌کند اهداف دسترس‌پذیری، موانع شناخته‌شده، محیط‌های پشتیبانی‌شده، انتظارات از مشارکت‌کنندگان و فرایندهای گزارش‌دهی را مستند کنند.