Cloudflare به یک نئولب تبدیل شده است. ما در حال ساخت مدلهای پیشرو هوش مصنوعی خودمان برای مشتریان و جامعهٔ متنباز هستیم.
امروز دو مدل وزنباز معرفی میکنیم:
نسخهٔ بهروزشدهٔ Clairic را معرفی میکنیم. از زمان انتشار پیشنمایش، استخراج اطلاعات از اسناد پیچیده از جمله تصاویر و PDF (قابلیت جدید!) را بهبود دادهایم؛ پردازش جدولها، فهرستها و تاریخها اکنون قابلاعتمادتر است و پاسخها بهتر به منبع اصلی متصل میشوند.
Clairic-flash را معرفی میکنیم؛ نسخهای سبکتر و سریعتر از Clairic که با مدلی فشرده و ۹ میلیارد پارامتری، عملکرد قوی در استخراج و پیشبینی ارائه میدهد.
هر دو مدل استخراج روی Workers AI میزبانی میشوند و وزنهای باز کامل آنها در Hugging Face در دسترس است.
همچنین خوشحالیم که خودمان را دوباره معرفی کنیم: تیم Workers AI Superintelligence، تیم پژوهش هوش مصنوعی پیشرو که پشت Clef، Clairic و پروژههای بسیار دیگری است که در دست اجرا دارد. این تیم با سرعت در حال پیشبردن مرزهای هوش مصنوعی و ساخت مدلهای کاربردی برای مشتریان Cloudflare و جامعهٔ متنباز است.
نسخهٔ جدید Clairic: بازطراحیشده پس از انتشار پیشنمایش
از زمان معرفی Clairic در نسخهٔ پیشنمایش، موارد استفادهٔ فراوانی و بازخوردهای مفیدی دربارهٔ نحوهٔ استفادهٔ مشتریان از یک مدل استخراج دریافت کردهایم. موارد استفادهای از استخراج داده از تصاویری مانند رسیدها تا خواندن مقادیر از تیکتهای پشتیبانی به ما گزارش شد. میدانستیم که استخراج باید تمرکز اصلی مدل باشد، بنابراین لازم بود در خواندن از دادههای بدون ساختار عملکرد بسیار خوبی داشته باشد.
تصمیم گرفتیم Clairic را از پایه بازطراحی کنیم و معماری آن را تغییر دادیم تا این نسخهٔ جدید با نسخهٔ پیشنمایش متفاوت باشد. برای فیلدهای معمول استخراج متن و عدد، اکنون به جای یک گذر رو به جلو، از تولید خودرگرسیو موازی جایگاهها استفاده میکنیم. هر فیلد با استفاده از توکنهایی که تاکنون نوشته است، توکن بعدی خود را انتخاب میکند و سپس در نشانگر پایان خودش متوقف میشود. همهٔ فیلدها همزمان در دستهٔ پردازش سرور پیش میروند و تأخیر هر درخواست همچنان بسیار پایین میماند. این تغییر دقت استخراج ما را برای متن و تصویر افزایش داد و افت دقت در ازای این تغییر، هزینهٔ اندک تأخیر را جبران میکند. برای موارد استفادهٔ محاسبه، برآورد و استخراج، سرهای تخصصی آموزش دادیم که میتوانند برآوردها، پیشبینیها، مدتزمانها، تاریخهای محاسبهشده و محاسبات صریح را مدیریت کنند.
هرچند معماری مدل تغییر کرده، بخشهایی از رابط API نوعدار را که پاسخها را کاربردی میکند حفظ کردهایم: امتیازهای اطمینان، بازههای کاراکتری و احتمالها همچنان با هر درخواست ارائه میشوند. مدل هنوز بسیار سریع و ارزان است. در ارزیابیهای زیر میبینید که نسخههای جدیدتر Clairic تا چه حد استخراج از متن، تصویر، PDF و موارد دیگر را بهبود دادهاند.
ارزیابی | Clairic-preview | Clairic | Clairic-flash | D1.2 + OCR | ScaleDown
فیلدهای متنی تازه، ۹۶ درخواست | ۲۹۵/۳۳۶ | ۳۳۵/۳۳۶ | ۳۲۸/۳۳۶ | ۳۰۴/۳۳۶ | ۲۵۹/۳۳۶
ارزیابی داخلی (mchen) - فیلدهای با ورودی ترکیبی، ۳۶ درخواست | ۲۰۷/۲۲۶ | ۲۲۱/۲۲۶ | ۲۱۳/۲۲۶ | ۱۱۶/۲۲۶ | ۱۵۶/۲۲۶
ادعاهای ردیابیشدهٔ مشتریان، ۱۳۹ شکل درخواست | ۱٬۰۳۳/۱٬۲۶۳ | ۱٬۲۶۳/۱٬۲۶۳ | ۱٬۲۶۳/۱٬۲۶۳ | ۹۷۳/۱٬۲۶۳ | ۶۵۳/۱٬۲۶۳
فیلدهای مصنوعی رسید در متن و تصویر | ۳۶۹/۵۷۶ | ۵۷۶/۵۷۶ | ۵۷۶/۵۷۶ | ۳۹۷/۵۷۶ | ۲۸۰/۵۷۶
هنوز بنچمارک عمومی برای استخراج وجود ندارد، اما ارزیابیهای داخلی خود را برای دیگر مدلهای استخراج نوظهور بازار نیز اجرا کردیم؛ مانند D1.2 از Liquid AI (که با Apple Vision برای تشخیص نویسه نوری ترکیب شده بود) و Extract از Scaledown. مدلهای Clairic ما در موارد استفادهٔ استخراج عملکرد بهتری دارند، اما این ارزیابیها را باید راهنمای جهتگیری دانست، چون خودگزارششده هستند. میخواستیم تصویری گویا از عملکرد Clairic در موارد استفادهٔ عمومی استخراج نشان دهیم و این نکته را هم گرامی بداریم که شرکتهای دیگر نیز مدلهای استخراج منتشر میکنند؛ این موضوع فرضیهٔ اولیهٔ ما را تأیید میکند که استخراج به دلیل هزینه، تأخیر و دقت، یکی از نقاط درد کاربران LLM بوده است.
اما آیا سریع است؟
آزمونهای تأخیر را برای Clairic و Clairic-flash اجرا کردیم و پاسخ کامل HTTP را از یک سرور خودمیزبان، شامل همهٔ فیلدهای درخواست، اندازه گرفتیم. حتی با معماری بازطراحیشده، میتوانید انتظار پاسخ زیر یک ثانیه را داشته باشید؛ بسیار سریعتر از پاسخهای معمول LLM برای بارهای کاری مشابه.
مجموعهٔ ارزیابی | تعداد درخواست به ازای هر مدل | Clairic صدک ۵۰ / صدک ۹۵ | Clairic-flash صدک ۵۰ / صدک ۹۵
فیلدهای متنی تازه | ۹۶ | ۳۵۸ / ۷۳۶ میلیثانیه | ۱۵۵ / ۳۲۸ میلیثانیه
فیلدهای تصویری تازه | ۴۸ | ۴۵۳ / ۹۷۶ میلیثانیه | ۳۰۵ / ۶۰۵ میلیثانیه
اجارهنامههای تجاری | ۱۸۰ | ۶۹۱ / ۸۰۳ میلیثانیه | ۳۷۹ / ۵۱۹ میلیثانیه
قیمتگذاری وام | ۶۰۰ | ۳۹۵ / ۴۰۷ میلیثانیه | ۱۸۸ / ۱۹۲ میلیثانیه
پیشبینی ترافیک | ۱۱۴ | ۵۳۲ / ۵۸۵ میلیثانیه | ۲۴۳ / ۲۶۱ میلیثانیه
حسابرسی هزینه، توسعه | ۶۰ | ۶۳۲ / ۷۴۲ میلیثانیه | ۳۹۳ / ۵۱۲ میلیثانیه
استخراج بهتر از تصاویر و PDF
در پست وبلاگ پیشنمایش، Clairic عکسی از یک رسید را میخواند. اکنون خانوادهٔ مدلهای Clairic میتوانند PDF هم بخوانند؛ بنابراین میتوانید نام تأمینکننده، اقلام و مبلغ کل را در یک درخواست بخواهید، حتی اگر در صفحههای مختلف آمده باشند. میتوانید در مجموع حداکثر چهار تصویر یا صفحهٔ PDF وارد کنید و اقلام میتوانند به صورت ردیفهایی برگردند که هر توضیح، مقدار و قیمت را کنار هم نگه میدارند. به لطف معماری جدید Clairic، دقت خواندن تصویر در بنچمارکهای داخلی ما از ۲۰۷ خطا به صفر رسیده است؛ بنچمارکهایی که بهطور مشخص متن و تصویر را پوشش میدهند.
قیمتگذاری تبلیغاتی Clairic برای مدت محدود
وقتی نخستین بار نقطهٔ پایانی پیشنمایش Clairic را در @cf/cloudflare/clairic راهاندازی کردیم، نسخهٔ ۹ میلیارد پارامتری را میزبانی کردیم چون سریعتر و آموزش آن آسانتر بود، با قیمت پیشنمایش ۰.۱۰ دلار به ازای هر میلیون توکن ورودی. اکنون مدل ۹ میلیارد پارامتری را به نقطهٔ پایانی @cf/cloudflare/clairic-flash منتقل میکنیم و مدل ۲۷ میلیارد پارامتری در @cf/cloudflare/clairic قرار میگیرد.
قیمت مدل ۲۷ میلیارد پارامتری Clairic ۰.۲۴ دلار به ازای هر میلیون توکن ورودی خواهد بود، در حالی که مدل ۹ میلیارد پارامتری Clairic-flash با قیمت ۰.۱۰ دلار به ازای هر میلیون توکن ورودی عرضه میشود. هرچند مدل از نظر فنی توکن خروجی تولید میکند، تصمیم گرفتیم اصول قیمتگذاری System One را حفظ کنیم و فقط بر اساس توکن ورودی هزینه بگیریم: هزینهٔ تولید توکن خروجی را خودمان متقبل میشویم.
برای اینکه این جابهجایی بدون دردسر انجام شود، تخفیف تبلیغاتی روی Clairic ارائه میدهیم؛ تا ۱ دسامبر ۲۰۲۶، هم Clairic و هم Clairic-flash هر کدام ۰.۱۰ دلار به ازای هر میلیون توکن ورودی هزینه خواهند داشت. یعنی میتوانید نسخهٔ باکیفیتتر Clairic را با همان قیمت امتحان کنید. اگر برنامههای شما به نقطهٔ پایانی Clairic که در پیشنمایش منتشر کردیم متصل است، بهطور خودکار از قابلیتهای بهتر استخراج مدل جدید ما بهرهمند میشوید؛ مدلی که در همان نقطهٔ پایانی جایگزین میکنیم.
اگر میخواهید بارهای کاری حساستر به هزینه را به نسخهٔ ارزانتر ۹ میلیارد پارامتری Clairic-flash منتقل کنید، تشویقتان میکنیم این کار را انجام دهید. در ۱ دسامبر، تخفیف تبلیغاتی Clairic پایان مییابد و قیمتگذاری به ۰.۲۴ دلار به ازای هر میلیون توکن ورودی بازمیگردد، نه ۰.۱۰ دلار تخفیفخورده.
Clairic و Clairic-flash (جدید) وزنباز هستند
هر دو مدل Clairic اکنون در Hugging Face نیز وزنباز هستند. پس از انتشار Clef شاهد حجم زیادی از آزمایشها و مدلهای تنظیمشده بودیم و خوشحالیم که با انتشار وزنباز Clairic به حمایت از تیمها و پژوهشها ادامه میدهیم.
مأموریت ما با این مدلهای System One این است که به افراد کمک کنیم استفادهٔ پرهزینهٔ خود از LLM را با مدلهای کوچکتر، سریعتر و ارزانتری که برای کاری مشخص ساخته شدهاند تکمیل کنند. امیدواریم انتشار وزنباز این مدلها دیگران را به آزمایش و ساختن بر پایهٔ ایدههای ما تشویق کند.
امتحانشان کنید
Clairic و Clairic-flash در Workers AI با شناسههای @cf/cloudflare/clairic و @cf/cloudflare/clairic-flash در دسترس هستند. مستندات توسعهدهندگان شامل طرحوارهٔ کامل API است که نسبت به نقطه پایانی پیشنمایش تغییری نکرده است. همچنین نسخههای وزنباز Clairic و Clairic-flash را در Hugging Face منتشر میکنیم.
تیم پشت این مدلها، یعنی تیم Workers AI Superintelligence، تازه کار خود را آغاز کرده و با سرعت در حال رشد است تا پژوهش هوش مصنوعی پیشرو را در Cloudflare پیش ببرد. زود به ما بپیوندید و در شکلدادن به آیندهٔ این تیم نقش داشته باشید.
سارا نادری



آرمان کریمی