از زمانی که OpenAI ChatGPT را در پایان سال گذشته منتشر کرد، عباراتی مانند هوش مصنوعی مولد و مدل‌های زبان بزرگ بر سر زبان‌ها افتاده است. اما زمانی که از هیاهوها غوطه‌ور می‌شوید، مدل‌های زبان بزرگ معمولاً برای اجرا به تراشه‌های GPU گران قیمت نیاز دارند. SambaNova امروز تراشه ای را معرفی می کند که ادعا می کند این هزینه را به میزان قابل توجهی کاهش می دهد، در حالی که مدل پارامتری 5 تریلیون را مدیریت می کند.
SambaNova ممکن است نام آشنای مانند گوگل، مایکروسافت یا آمازون نباشد، اما چندین سال است که در حال ساخت یک راه حل هوش مصنوعی کامل است که شامل سخت افزار و نرم افزار است و بیش از یک میلیارد دلار در هر Crunchbase از سرمایه گذارانی مانند اینتل کپیتال جمع آوری کرده است. BlackRock و SoftBank Vision Fund. امروز، این شرکت از جدیدترین تراشه خود، SN40L، چهارمین نسل از تراشه‌های AI سفارشی داخلی خود، رونمایی کرد.
رودریگو لیانگ موسس و مدیر عامل شرکت می‌گوید ایده پشت ساخت تراشه‌های خود کنترل سخت‌افزار زیربنایی برای حداکثر بازدهی است، چیزی که با تغییر جهان به سمت پردازش این مدل‌های زبانی بزرگ با منابع فشرده، ضروری‌تر می‌شود.
ما باید استفاده از این رویکرد brute force را برای استفاده بیشتر و بیشتر از تراشه‌ها برای موارد استفاده از مدل‌های زبانی بزرگ متوقف کنیم. بنابراین ما شروع به کار کردیم و SN40L را ایجاد کردیم که به طور خاص برای مدل‌های زبان بسیار بسیار بزرگ تنظیم شده است تا هوش مصنوعی را برای شرکت‌ها تقویت کند.» لیانگ به TechCrunch گفت.
لیانگ می‌گوید تراشه‌های جدید او با کاهش تعداد تراشه‌های مورد نیاز برای تامین انرژی این مدل‌ها، 30 برابر کارآمدتر هستند. در واقع، او ادعا می‌کند که اجرای همان مدل تریلیون پارامتر روی تراشه‌های رقیب، 50 تا 200 تراشه نیاز دارد، در حالی که ادعا می‌کند که SambaNova آن را به هشت تراشه کاهش داده است.
برای اجرای یک مدل پارامتری تریلیون مانند GPT-4 به چند منبع نیاز است؟ من می‌توانم آن را در هشت سوکت انجام دهم، می‌توانم آن را به صورت اولیه تحویل دهم، و می‌توانم آن را کاملاً بهینه‌سازی شده بر روی آن سخت‌افزار ارائه دهم، و شما به دقت پیشرفته‌ای دست خواهید یافت.»
این ادعایی جسورانه است، اما این شرکت یک راه‌حل سخت‌افزاری و نرم‌افزاری کامل با همه چیز برای ساخت برنامه‌های هوش مصنوعی ارائه می‌کند. او گفت: «ما در کسب و کار ایجاد دارایی‌های هوش مصنوعی هستیم که به شما امکان می‌دهد به سرعت مدل‌هایی را بر اساس داده‌های خصوصی خود آموزش دهید و این به یک دارایی برای شرکت شما تبدیل می‌شود. او اشاره می‌کند که اگرچه SambaNova به مشتریان کمک می‌کند این مدل را آموزش دهند، اما تحت مالکیت آنها باقی می‌ماند. بنابراین آنچه به مشتری می گوییم این است که داده ها و مدل شما هستند. پس از اینکه مدل را بر روی داده های شما آموزش دادیم، در واقع مالکیت مدل را برای همیشه به شرکت واگذار می کنیم.”
لیانگ با ارائه راه‌حل سخت‌افزاری و نرم‌افزاری در قالب یک اشتراک چند ساله، می‌گوید که مشتری نسبت به پروژه‌های هوش مصنوعی خود اطمینان بیشتری نسبت به هزینه دارد.
تراشه جدید SN40L از امروز در دسترس است، اما به گفته این شرکت، کاملاً با تراشه های نسل قبلی سازگار است.
