نسخهٔ وایرالشدهٔ آخرین پست پژوهشی گوگل میگوید مدل خودش را هوشمندتر میکند، اما خودِ پست چیز مفیدتری برای کسانی میگوید که شغلشان به آنچه گوگل دربارهٔ شرکتشان به یاد میآورد وابسته است. در ۲۷ اکتبر، علی بهروز (Ali Behrouz) و وهاب میررکنی (Vahab Mirrokni) از Google Research چارچوب خواب (sleep framework) را منتشر کردند؛ روشی که به یک مدل زبانی یک مرحلهٔ آفلاین زمانبندیشده میدهد تا در آن، آنچه را در حین استفاده دریافت کرده به وزنهای بلندمدتش منتقل کند و سپس روی دادهای که خودش تولید میکند تمرین کند. قالببندی وایرال به شکلی مشخص غلط است: پست میگوید این روش درون یک معماری ثابت و زیر قواعد آموزشی انسانتعریفشده کار میکند، پس هیچ چیز بدون نظارت خودش را تغییر نمیدهد. آنچه این قالببندی از دست میدهد، بخشی است که اینجا اهمیت دارد. اگر این طراحی عملیاتی شود، دانش درون مدلهای گوگل دیگر در یک تاریخ مشخص ثابت نمیماند و بهصورت چرخهای بهروزرسانی میشود که هیچکس بیرون از گوگل آن را نخواهد دید.
در ماه مارس استدلال کردم که تاریخ قطع دادهٔ آموزشی به یک عامل رتبهبندی تبدیل شده است، چون محتوای دو سوی این تاریخ در سیستمهای متفاوتی با رفتار اطمینان متفاوت قرار میگیرد، و پیشنهاد کردم ادعاهای مهم را طوری زمانبندی کنید که پیش از دورههای آموزشی بزرگ منتشر شوند. آن توصیه بر این فرض بود که تاریخ قطع، دیواری است که تاریخی روی آن نوشته شده. این مقاله دیواری را توصیف میکند که بر اساس برنامهٔ خودش و بدون تاریخ جابهجا میشود، و راه درست خواندنش این است که آن را شکل بعدی بهروزرسانی گوگل ببینیم: بهروزرسانیای که باور مدل را تغییر میدهد، نه نحوهٔ رتبهبندی ایندکس را، و بدون هیچ اعلامی میرسد، چون رویدادی برای اعلام وجود ندارد.
گوگل واقعاً چه منتشر کرد
پست یک چرخهٔ دو مرحلهای را توصیف میکند. در مرحلهٔ بیداری، مدل ورودی میگیرد و اطلاعات تازه را در اجزای حافظهٔ کوتاهمدت و سریع نگه میدارد، که تقریباً همان کاری است که امروز بافت (context) انجام میدهد. در مرحلهٔ خواب، دریافت ورودی متوقف میشود و دو مرحله اجرا میشود. اولی تثبیت است. مدل خبرگان کمرتبهٔ تازه و پیشتر خفته را درون چیدمان ترکیب خبرگان فعال میکند، آنها را به بلوکهای حافظهٔ کندتر اختصاص میدهد و ردهای کوتاهمدت را از طریق فرایندی که نویسندگان بذرپاشی دانش مینامند در آنها میگنجاند؛ به زبان ساده یعنی حقایق تازه پارامترهای تازهٔ خودشان را میگیرند، نه اینکه روی پارامترهای قدیمی نوشته شوند. سپس پارامترهای موقت بازنشانی میشوند تا ظرفیت دوباره قابل استفاده باشد. مرحلهٔ دوم همان چیزی است که نویسندگان خوابدیدن مینامند. مدل با مسیریابی تصادفی میان خبرگانش نمونههای مصنوعی تولید میکند تا دانش حوزههای مختلف با هم ترکیب شود، این نمونهها را با روشی مبتنی بر گرادیان برای انتخاب غربال میکند و روی نمونههایی که باقی میمانند تنظیم دقیق انجام میدهد.
نتایج گزارششده از چهار سناریو به دست آمدهاند: ترجمهٔ متوالی به زبانهایی که مدل هرگز ندیده بود، جایی که تنظیم دقیق استاندارد و روشهای درونبافتی زبانهای قبلی را فراموش کردند و مدل خواب افت عملکرد نزدیک به صفر داشت؛ بازیابی روی یک محک بافت بلند تا ۱۰ میلیون توکن؛ درج دانش واقعی از قطعههای اسناد، جایی که مدل خواب از تنظیم دقیق با نظارت و یک روش خودویرایشی پیشین بهتر عمل کرد؛ و استدلال ریاضی روی یک مدل پایهٔ باز با ۸ میلیارد پارامتر. مقالهٔ اصلی از ژوئن در arXiv و از سپتامبر ۲۰۲۵ در OpenReview بوده است، پس این پست وبلاگ یعنی گوگل تصمیم گرفته این را بلند بگوید، نه اینکه گوگل آن را کشف کرده باشد.
این یک مورد تکافتاده نیست. همان نویسندگان در نوامبر ۲۰۲۵ مقالهٔ Nested Learning را با معماری Hope و ایدهٔ یک سیستم حافظهٔ پیوسته منتشر کردند؛ زنجیرهای از بلوکهای حافظه که با بسامدهای متفاوت بهروزرسانی میشوند، بلوکهای سریع اطلاعات کوتاهمدت را نگه میدارند و بلوکهای کند دانش پایدار را. چارچوب خواب چیزی است که وقتی بلوکهایی با نرخ بهروزرسانی متفاوت دارید میسازید: برنامهای برای انتقال اطلاعات از بلوکهای سریع به کند. Titans پیش از Hope آمد، Hope پیش از خواب آمد، و این قوس اکنون حدود دو سال را در بر میگیرد. مقالهٔ رتبهبندی خودرگرسیو که در سپتامبر پوشش دادم، قوسی پنجساله را دربارهٔ نحوهٔ مرتبشدن نتایج بست. این یکی جوانتر است و به همان اندازه عامدانه.
این چه چیزی نیست، و بخشی که همه از آن میگذرند
این پژوهش است، نه محصول. پست هیچ اظهارنظری دربارهٔ استقرار، زمانبندی یا اینکه کدام مدلهای گوگل ممکن است از آن استفاده کنند نمیکند. آزمایشها روی مدلهای باز Qwen با ۱.۷ و ۸ میلیارد پارامتر انجام شدهاند، نه روی Gemini. هیچ هزینهٔ محاسباتی برای یک چرخهٔ خواب گزارش نشده و هیچکس بیرون از تیم نتایج را تکرار نکرده است. در آزمایشها، حقایق تازه بهصورت اسناد میرسند، نه مکالمات کاربر یا صفحات وب خزششده، پس هر کسی که ادعا کند مدل از چتهای شما یاد میگیرد، از محدودهٔ مقاله فراتر رفته است.
این محدودیتها واقعیاند و چیزی را عوض نمیکنند. گوگل قوسهای پژوهشی منتشر میکند و بعد تکههایی از آنها را عرضه میکند، و این الگو بهقدر کافی تکرار شده که پرسش اهل عمل این نباشد که آیا این روش دقیقاً عملیاتی میشود، بلکه این باشد که طراحی چه چیزی دربارهٔ جهت حرکت میگوید. جهت حرکت، مدلی است که حافظهٔ بلندمدتش بهصورت چرخهای بازنویسی میشود.
بهروزرسانیها یک بار دیگر بیصدا شدهاند
هر کسی که بیش از چند سال این کار را کرده باشد، نسخهٔ اول این تغییر را زیسته است. گوگل میگوید جستوجو را هزاران بار در سال بهروزرسانی میکند و فقط مواردی را به اشتراک میگذارد که قابل توجه بداند، و دنی سالیوان (Danny Sullivan) در مصاحبهای در ۲۰۲۲ شمار آزمایشها و تستهای کیفیت سال قبل را بیش از ۸۰۰,۰۰۰ اعلام کرد. بهروزرسانیهای اصلی نامگذاریشده همان چند موردی هستند که در داشبورد ثبت میشوند. بقیه پیوسته و بیصدا میرسند، و صنعت با ساختن یک آیین تشخیصی حول همان چند مورد نامگذاریشده سازگار شد: ترافیک جابهجا میشود، تاریخ را با ردیابهای بهروزرسانی مقایسه میکنید و انتساب دنبال میشود.
بازیابی پیشتر همین مسیر را برای تازگی طی کرده است. AI Overviews و پاسخهای مبتنی بر بازیابی هر روز صفحات تازه را میکشند بدون اینکه چیزی اعلام شود، پس ادعای اینکه سکوت چیز تازهای است غلط خواهد بود. آنچه چارچوب خواب تغییر میدهد این است که کدام لایه بیصدا میشود. بازیابی تغییر میدهد مدل چه چیزی را میتواند جستوجو کند. تثبیت تغییر میدهد مدل بدون جستوجوی هیچ چیز به چه چیزی باور دارد. این دو برای یک برند چیزهای متفاوتی هستند. یک حقیقت بازیابیشده ارجاع داده میشود، با احتیاط بیان میشود و دفعهٔ بعد که صفحه واکشی شود قابل جایگزینی است. یک حقیقت تثبیتشده با اطمینان چیزی گفته میشود که مدل میداند، و مقالهٔ مارس پوشش داد که چرا این تفاوت اطمینان شکل ظاهر شدن یک برند در یک پاسخ را میسازد.
پس همان شکلی که اهل عمل میشناسند، یعنی بهروزرسانیهای اصلی اعلامشده در بیرون و تغییرات اعلامنشده میان آنها، یک نسخهٔ دوم در یک لایه پایینتر میگیرد: نسخههای مدل اعلامشده در بیرون و تثبیت اعلامنشدهای که میان آنها انباشته میشود. پشتهٔ رتبهبندی از بین نمیرود و این جای آن را نمیگیرد. روی آن مینشیند، در مدلی که پاسخ را مینویسد.
یاد گرفته شدن، معنای تازهٔ ایندکس شدن میشود
جزئیاتی در پست که مدام به آن برمیگردم این است که تثبیت گزینشی است. نویسندگان میگویند از مدل خواسته نمیشود هر جزئیاتی را از ردهای کوتاهمدتش در پارامترهایش کپی کند، و مرحلهٔ خوابدیدن نمونههای خودش را با یک فیلتر مبتنی بر گرادیان امتیازدهی میکند پیش از آنکه چیزی روی آنها آموزش ببیند. این یک تابع رتبهبندی است. تعیین میکند مدل کدام حقایق را بهعنوان دانش پایدار با خود حمل میکند و کدام را همراه با پارامترهای موقت منقضی میکند. دیده شدن در مرحلهٔ بیداری به معنای یاد گرفته شدن نیست. یاد گرفته شدن همان چیزی است که ایندکس شدن قبلاً معنا میداد، و چیزی که دربارهٔ آن تصمیم میگیرد یک محاسبهٔ خطاست که هیچکس بیرون از گوگل نمیتواند بررسیاش کند.
سه پیامد از این نتیجه میشود، و دو مورد اول استنباط من از طراحی است، نه ادعاهایی که مقاله مطرح میکند.
اول، فیلتر حقایقی را ترجیح میدهد که در منابع مختلف یکدست باشند. یک روش انتخاب مبتنی بر گرادیان نمونههایی را نگه میدارد که خطا را بهطور گسترده کاهش میدهند، و حقیقی که با همهٔ چیزهای دیگری که مدل دیده همخوان است، خطا را مطمئنتر از حقیقی کاهش میدهد که با صفحهٔ یک رقیب، یک فهرست راهنمای قدیمی یا محتوای قدیمیتر خودتان تناقض دارد. نسخههای متناقض از شرکت شما دیگر فقط یک ریسک درهمآمیختگی در زمان بازیابی نیست، که وقتی دادگاههای آلمان شروع کردند پلتفرم را برای پاسخهای نادرست مسئول بدانند پوشش دادم، بلکه یک ریسک تثبیت است، چون نسخهای که یاد گرفته میشود همان است که بهترین تناسب را دارد، نه همان که شما ترجیح میدهید.
دوم، خوابدیدن یعنی مدل روی دادهای تمرین میکند که شما هرگز منتشر نکردهاید. نمونههای مصنوعی با ترکیب خبرگان حوزههای مختلف تولید میشوند، پس بازنمایی مدل از یک شرکت میتواند از طریق تمرین تغییر کند بدون هیچ ورودی تازه از سوی هیچکس. هیچ رقیبی جابهجا نشد، هیچ صفحهای تغییر نکرد، هیچ بهروزرسانیای اجرا نشد، و پاسخ دربارهٔ شما با این حال متفاوت است. این یک سازوکار نامزد برای پرسشی است که امسال بارها از من پرسیدهاند: چرا پاسخی تغییر کرد وقتی هیچ چیز قابل مشاهدهای تغییر نکرده بود.
سوم، و این یکی مستقیماً در طراحی مقاله قرار دارد، یک پنجره وجود دارد. میان ورود یک حقیقت به حافظهٔ سریع و تثبیت بعدی، اصلاح ارزان است چون هنوز هیچ چیز پایداری نوشته نشده. پس از تثبیت، اصلاح یک حقیقت نادرست دیگر مسئلهٔ بهروزرسانی یک صفحه و انتظار برای خزش دوباره نیست. این یادزدایی است، و حذف یک حقیقت مشخص از وزنهای یک مدل بدون آسیب زدن به بقیه همچنان یک مسئلهٔ پژوهشی باز است. اصطلاحی که به کار میبرم پنجره تثبیت است، دورهای که در آن یک حقیقت نادرست هنوز میتواند پیش از آنکه مدل آن را تثبیت کند گرفته شود، و ویژگی ناخوشایند این پنجره این است که طول و زمانبندیاش برای شما ناشناخته است.
چه چیزی ثابت میکند اشتباه میگویم
اگر هیچ اعلامیهٔ مدل گوگل در حدود ۱۸ ماه آینده به بهروزرسانیهای دورهای میان نسخهها، یادگیری پیوسته در محیط عملیاتی یا چیزی شبیه یک چرخهٔ تثبیت اشاره نکند، این یک جهت پژوهشی میماند و تاریخ قطع همان دیوار میماند. اگر هزینهٔ محاسباتی یک چرخهٔ خواب با یک دورهٔ آموزشی قابل مقایسه از آب دربیاید، اقتصادِ مسئله ایدهٔ تواتر را از بین میبرد حتی اگر روش کار کند. و اگر گوگل تصمیم بگیرد رویدادهای تثبیت را همانطور منتشر کند که بهروزرسانیهای اصلی را منتشر میکند، استدلال سکوت شکست میخورد و آیین تشخیصی با یک ردیف تازه در داشبورد زنده میماند. فکر میکنم سومین مورد از این سه کماحتمالترین است، چون گوگل هرگز تغییرات بینامش را منتشر نکرده و صریح گفته است که قصد چنین کاری را ندارد.
حالا چه باید کرد
پاسخ مفید این است که دست از ساختن فرایند حول رویدادی برداریم که ممکن است دیگر وجود نداشته باشد.
آنچه از قبل پارامتری است را به تفکیک هر پلتفرم بررسی کنید. هر دستیار را با پرسشهایی آزمایش کنید که بازیابی را فعال نمیکنند و ثبت کنید از حافظهٔ خودش دربارهٔ شرکت شما چه میگوید. این فهرست، مخزن تمرین است، و حقایق نادرست درون آن همانهایی هستند که احتمال تقویتشان بیشتر از اصلاحشان است.
صفحههای حقیقت مرجع منتشر کنید. دانش تازه در مقاله بهصورت اسناد میرسد. یک صفحهٔ خودبسنده، تاریخدار و اظهاری برای هر مجموعه از حقایق یک نهاد، بدون زبان بازاریابی که مانع شود، همان قالبی است که یک مرحلهٔ تثبیت میتواند از آن بهصورت تمیز بذر بردارد.
تناقضها را در داراییهای خودتان و فهرستهای راهنمایی که شما را توصیف میکنند برطرف کنید. اگر انتخاب نسخهٔ یکدست را ترجیح میدهد، کار این است که نسخهٔ درست را به نسخهٔ یکدست تبدیل کنید.
خطاهای شناختهشده را همین حالا در منبع اصلاح کنید، وقتی تنها سازوکاری که میتواند آنها را قفل کند هنوز یک مقاله است. سپس دوباره آزمایش کنید تا تأیید شود پاسخ واقعاً تغییر کرده، چون صفحهٔ اصلاحشده و پاسخ اصلاحشده دو رویداد متفاوتاند.
تشخیص رویدادمحور را با پایش روند جایگزین کنید. اگر بهروزرسانیهای دانش پیوسته برسند، پرسش دیگر این نیست که کدام بهروزرسانی این را ایجاد کرد، بلکه این است که رانش از کِی شروع شد و کدام حقایق جابهجا شدند. این کار نمونهگیری از پاسخها بر اساس یک برنامه و مقایسه در طول زمان را میطلبد، که دلیل وجود CitationIQ است، و همان نظم اندازهگیری است که این طراحی میطلبد، چه از ابزار خاصی استفاده کنید چه نه.
تاریخ قطع را بهعنوان یک فیلد ثابت در گزارشهایتان کنار بگذارید. به جای آن شواهد تازهسازی را به تفکیک هر پلتفرم پیگیری کنید: یادداشتهای انتشار، رفتار مبتنی بر بازیابی و رانش پاسخی که خودتان اندازه میگیرید.
نشانه را زیر نظر بگیرید. هر زبان Gemini یا Vertex دربارهٔ مدلهایی که یاد میگیرند، میان نسخهها بهروزرسانی میشوند یا از اسناد سازمان شما یاد میگیرند، اولین تکهٔ عرضهشده از این طراحی است، و با عنوان یک ویژگی میرسد، نه یک بهروزرسانی.
زمانبندی آگاه از تاریخ قطع که در مارس پیشنهاد کردم، برای دورهٔ آموزشی بزرگ بعدی همچنان معتبر است، چون آنها همچنان رخ خواهند داد. آنچه تغییر میکند، نیمهعمر واژهٔ «پارامتری» است. امنترین فرض این است که آنچه مدل دربارهٔ شما میداند، بر اساس برنامهای بازنگری میشود که نمیبینید، با فیلتری که نمیتوانید بررسی کنید، و تنها چیز قابل مشاهده خودِ پاسخ است.
منابع بیشتر:
وقتی تاریخ قطع دادهٔ آموزشی به یک عامل رتبهبندی تبدیل میشود
چگونه دیدهشدن در جستوجوی هوش مصنوعی را اندازه بگیریم
بازیابی اطلاعات، بخش دوم: چگونه وارد دادهٔ آموزشی مدل شویم
این مطلب در ابتدا در Duane Forrester Decodes منتشر شده است.
سارا نادری


آرمان کریمی
نگار رضایی