نمای کلی اجرایی و اهمیت معماری

انتشار ورسل ۳.۰ بهبودهای معماری عمیقی را در درگاه هوش مصنوعی این پلتفرم به ارمغان می‌آورد و فاصله میان زیرساخت بدون سرور مقیاس‌پذیر و ارکستراسیون مدل‌های زبان بزرگ (LLM) با کارایی بالا را پر می‌کند. در مرکز این انتشار، یکپارچه‌سازی مدل کوچک Ling 3.0 از گروه ANT قرار دارد که با موفقیت جایگزین مدل‌های پایه‌ای قدیمی‌تر در اکوسیستم سطح رایگان شده است. این نسخه توانایی ورسل را در ارائه خدمات به ایجنت‌های هوش مصنوعی پیشرفته و پاسخگو، مکالمات چندمرحله‌ای پیچیده و بارهای کاری تولیدی حساس به تأخیر از طریق یک لایه زیرساختی واحد، ارتقا می‌دهد.

از نظر معماری، ورسل ۳.۰ درگاه هوش مصنوعی را به عنوان یک لایه میانجی مستحکم تثبیت می‌کند. با جداسازی فراخوانی مدل از محدودیت‌های ارائه‌دهنده زیرین، ورسل به برنامه‌های توزیع‌شده قدرت می‌دهد تا از قابلیت‌های قابلیت اطمینان در سطح سازمانی، از جمله فیلور خودکار، بهینه‌سازی‌های عملکرد، گزارش‌دهی سفارشی و پشتیبانی از عدم نگهداری داده‌ها (ZDR) بهره‌برداری کنند. گنجاندن مسیریابی بومی ترکیب کارشناسان (MoE) از طریق Ling 3.0 Tiny نشان‌دهنده تعهد ورسل به بهینه‌سازی هزینه و بهره‌وری محاسباتی است و تضمین می‌کند که توسعه‌دهندگان می‌توانند ایجنت‌های دستورالعمل‌پذیر با زمینه بالا را بدون تحمیل سربار زیرساختی گزاف یا قربانی کردن پاسخگویی کاربر نهایی، مستقر کنند.

بهبودهای هسته و ارگونومی توسعه‌دهنده

ارگونومی توسعه‌دهنده در ورسل ۳.۰ به طور قابل توجهی اصلاح شده است، به‌ویژه در نحوه تعامل تیم‌های مهندسی با ارائه‌دهندگان مختلف مدل. درگاه به‌روزرسانی‌شده هوش مصنوعی یک لایه انتزاعی API واحد معرفی می‌کند که محموله‌های درخواست و جریان‌های پاسخ را در نقاط پایانی مختلف LLM استانداردسازی می‌کند. این انتزاع، کدهای بویلرپلیت سنتی مورد نیاز برای مدیریت شناسه‌های خاص ارائه‌دهنده، مدیریت خطا و منطق تلاش مجدد را حذف می‌کند. علاوه بر این، پلتفرم شامل پریمیتیوهای پیشرفته مدیریت هزینه، مانند پیکربندی‌های صریح بودجه برای کلیدهای API و پشتیبانی بومی از معماری‌های «کلید خود را بیاورید» (BYOK) بدون حاشیه‌سود استنتاج پلتفرم است.

یکپارچه‌سازی Ling 3.0 Tiny قابلیت‌های پیشرفته ترکیب کارشناسان را مستقیماً وارد اکوسیستم ورسل می‌کند. این مدل با داشتن ۷.۹ میلیارد پارامتر کل و ردپای پارامتر فعال بهینه‌شده حدود ۱.۳ میلیارد به ازای هر توکن، توان عملیاتی استثنایی در استنتاج ارائه می‌دهد. توسعه‌دهندگان از یک پنجره زمینه گسترده ۲۵۶ هزار توکنی به همراه سقف ۳۲ هزار توکن خروجی بهره‌مند می‌شوند. پریمیتیوهای پیشرفته توسعه‌دهنده - مانند فراخوانی توابع بومی و کش کردن پرامپت داخلی - تأخیر رفت‌وبرگشت را کاهش داده و اقتصاد توکن را برای جریان‌های کاری پیچیده ایجنت‌محور بهینه‌سازی می‌کنند و ورسل ۳.۰ را به یک جعبه‌ابزار ضروری برای توسعه برنامه‌های کاربردی مدرن مبتنی بر هوش مصنوعی تبدیل می‌کنند.

ماتریس مقایسه معماری

تغییرات ناسازگار و نکات مهاجرت

ورسل ۳.۰ درجه بالایی از سازگاری با نسخه‌های قبلی را برای استقرارهای موجود درگاه هوش مصنوعی حفظ می‌کند و تضمین می‌کند که قوانین مسیریابی استاندارد و نقاط پایانی پروکسی بدون وقفه فوری به کار خود ادامه دهند. با این حال، توسعه‌دهندگانی که از اسلات‌های سطح رایگان تبلیغاتی استفاده می‌کنند باید به یک جدول زمانی انتقالی حیاتی توجه داشته باشند. شناسه مدل موقت inclusionai/ling-3.0-tiny-free که تا ۱۴ اوت (ساعت ۸:۰۰ صبح به وقت اقیانوس آرام) فعال است، منسوخ شده و با شناسه تولید inclusionai/ling-3.0-tiny جایگزین خواهد شد. برنامه‌هایی که به رشته تبلیغاتی موقت متصل شده‌اند، پس از بسته شدن پنجره تبلیغاتی با خطاهای وضوح مواجه خواهند شد و نیاز به به‌روزرسانی پیشگیرانه پیکربندی در تمام محیط‌های کدبیس آسیب‌دیده دارند.

راهنمای گام‌به‌گام ارتقاء

مهاجرت برنامه شما برای بهره‌برداری از Ling 3.0 Tiny در SDK هوش مصنوعی ورسل نیازمند به‌روزرسانی رشته‌های پیکربندی مدل شما است. برای تکمیل ارتقاء، این مراحل عملیاتی را دنبال کنید:

1. به‌روزرسانی پیکربندی SDK: بلوک راه‌اندازی SDK هوش مصنوعی خود را پیدا کرده و ویژگی model را تغییر دهید تا به نقطه پایانی تبلیغاتی Ling 3.0 Tiny اشاره کند:

   import { generateText } from 'ai';
   import { aiGateway } from '@vercel/ai-gateway';
   
   const response = await generateText({
     model: aiGateway('inclusionai/ling-3.0-tiny-free'), // از رشته تولیدی پس از ۱۴ اوت استفاده کنید
     prompt: 'پیامدهای معماری مدل‌های MoE بدون سرور را تحلیل کنید.',
   });
   

2. پیکربندی ایجنت‌های کدنویسی (CLI): اگر ایجنت‌های کدنویسی را در جریان کاری توسعه خود مستقر می‌کنید، دستور راه‌اندازی را اجرا کرده و نمونه مدل جدید را به صورت تعاملی انتخاب کنید:

   npx vercel ai-gateway coding-agents setup
   

   گزینه inclusionai/ling-3.0-tiny-free را از فهرست پرامپت تعاملی انتخاب کنید تا زمان اجرای ایجنت متصل شود.

3. اعتبارسنجی پس از مهاجرت: ردیابی مصرف، معیارهای گزارش‌دهی سفارشی و محدودیت‌های بودجه را در داشبورد ورسل خود تأیید کنید تا مطمئن شوید تله‌متری به درستی ردپای اجرای مدل جدید را ثبت می‌کند.