پلتفرم ارائه‌دهنده هوش مصنوعی Clarifai قابلیت جدیدی به نام اورتستریشن محاسباتی (Compute Orchestration) معرفی کرده است که به کسب‌وکارها کمک می‌کند تا بارهای کاری هوش مصنوعی خود را در هر محیط محاسباتی بهینه‌سازی کنند، هزینه‌ها را کاهش دهند و از قفل شدن به یک تأمین‌کننده خاص جلوگیری کنند.
این قابلیت در تاریخ 3 دسامبر 2024 معرفی شد و نسخه پیش‌نمایش عمومی آن به سازمان‌ها این امکان را می‌دهد تا بارهای کاری هوش مصنوعی خود را از طریق یک صفحه کنترل یکپارچه مدیریت کنند، فارغ از اینکه این بارهای کاری در فضای ابری، در محل (on-premises) یا در زیرساخت‌های ایزوله‌شده (air-gapped) اجرا شوند. این پلتفرم قادر است با هر مدل هوش مصنوعی و شتاب‌دهنده سخت‌افزاری شامل GPUها، CPUها و TPUها همکاری کند.
مَت زیلر، بنیان‌گذار و مدیرعامل Clarifai، در این رابطه گفت: “Clarifai همیشه پیشرو بوده است، با بیش از یک دهه تجربه در حمایت از نیازهای شرکت‌های بزرگ و پروژه‌های حیاتی دولت‌ها با مجموعه کامل ابزارهای هوش مصنوعی برای ایجاد بارهای کاری سفارشی. اکنون، ما قابلیت‌هایی را که به‌طور داخلی ساخته‌ایم برای بهینه‌سازی هزینه‌های محاسباتی خود به منظور مقیاس‌گذاری برای ارائه همزمان میلیون‌ها مدل، در دسترس قرار داده‌ایم.”
شرکت ادعا می‌کند که پلتفرم آن می‌تواند مصرف محاسباتی را از طریق بهینه‌سازی‌های بسته‌بندی مدل (model packing) تا 3.7 برابر کاهش دهد و همزمان از بیش از 1.6 میلیون درخواست استنتاج در ثانیه با 99.9997% قابلیت اطمینان پشتیبانی کند. طبق گفته Clarifai، این بهینه‌سازی‌ها می‌توانند هزینه‌ها را بسته به پیکربندی تا 60-90% کاهش دهند.
ویژگی‌های پلتفرم اورکستراسیون محاسباتی:
• بهینه‌سازی هزینه‌ها از طریق مدیریت خودکار منابع، شامل بسته‌بندی مدل‌ها، ساده‌سازی وابستگی‌ها، و گزینه‌های مقیاس‌گذاری خودکار قابل تنظیم که می‌توانند برای مدل‌های تکثیر شده و گره‌های محاسباتی به صفر برسند.
• انعطاف‌پذیری در استقرار بر روی هر تأمین‌کننده سخت‌افزاری شامل فضای ابری، در محل، ایزوله‌شده، و سخت‌افزارهای مخصوص Clarifai.
این پلتفرم می‌تواند به سازمان‌ها کمک کند تا با کاهش هزینه‌های محاسباتی، به طور بهینه از منابع سخت‌افزاری خود استفاده کرده و مدل‌های هوش مصنوعی خود را به مقیاس‌های بسیار بزرگ‌تری گسترش دهند.
