Nvidia вложилась в ПО, снизившее расходы InVideo на GPU на 56%

Компания утверждает, что её программное обеспечение подбирает настройки под требования заказчика и для некоторых задач позволяет обойтись меньшим числом GPU. Раунд серии B возглавила Dallas Venture Capital; его объём составил $14 млн (около 1,1 млрд ₽).

В раунде также участвовали Accel, Shastra VC и Micromax. Все $14 млн — новые вложения в Simplismart, а оценка компании с учётом привлечённых средств составляет около $100 млн (около 8 млрд ₽). Стартап работает в Бангалоре и разрабатывает программное обеспечение для инференса — выполнения запросов к уже подготовленным ИИ-моделям.

Как работает платформа Simplismart

Программное обеспечение Simplismart находится между ИИ-моделью и инфраструктурой, на которой она работает. Оно помогает настраивать развёртывание под нужное время ответа, количество обрабатываемых запросов и расход вычислительных ресурсов. По словам компании, значительную часть настроек платформа выполняет автоматически, поэтому клиентам не нужно управлять конфигурациями самостоятельно.

Заказчики могут запускать модели на платформе Simplismart, в собственном облаке или на локальной инфраструктуре. Компания также предлагает инструменты для дообучения моделей, автоматического изменения объёма ресурсов при колебаниях спроса и наблюдения за производительностью. Облачные провайдеры могут использовать её ПО, чтобы строить собственные сервисы инференса на инфраструктуре с GPU.

Simplismart заявляет о поддержке языковых моделей, а также моделей для работы с изображениями, зрением и речью. Клиентам доступны общие и выделенные точки доступа к моделям, частное облако и локальное развёртывание. Вариант запуска можно выбрать с учётом требований к безопасности, затратам и производительности.

Один из примеров, который приводит Simplismart, — платформа генерации видео InVideo. По утверждению стартапа, его ПО помогло ей сократить затраты на обслуживание моделей с помощью GPU на 56%. Среди других клиентов — видеосервисы HeyGen и Higgsfield, компания Ema, работающая с корпоративным ИИ, а также Shiprocket и Apna. Индийский облачный провайдер Yotta применяет технологию Simplismart в сервисе инференса без выделенного сервера на платформе Shakti Studio.

Сооснователь и гендиректор Simplismart Амританшу Джайн считает, что заказчикам обычно не нужен инференс с минимальной задержкой любой ценой или самый дешёвый вариант. Им требуется сочетание скорости и расходов, подходящее конкретному приложению. По его словам, компания подбирает этот баланс индивидуально, в отличие от готовых вариантов, ориентированных только на скорость или экономию.

Рост компании и планы после раунда

Simplismart основали в 2022 году Джайн, ранее работавший инженером в Oracle, и бывший инженер Google Деванш Гхатак. Они познакомились во время учёбы в BITS Pilani, а идею компании связали со своим опытом разработки и развёртывания систем машинного обучения. В стартапе работают 58 человек.

По словам Джайна, за последние шесть месяцев годовой темп выручки Simplismart вырос в 14 раз и достиг восьмизначной суммы в долларах. Точную цифру он не назвал. Компания уточняет, что показатель рассчитан по недавнему использованию сервисов клиентами, а не по заключённым договорам на регулярные платежи. Деньги, проходящие через компанию к поставщикам инфраструктуры, в расчёт не входят.

Более половины выручки Simplismart приносит рынок США, хотя клиентов у неё больше в Индии. Привлечённые средства стартап собирается направить на расширение присутствия в США, увеличение команды и развитие ПО для инференса. Компания также намерена улучшать механизм выполнения моделей и инструменты управления нагрузкой, а в Северной Америке — расширять сотрудничество с облачными провайдерами.

Как сообщает Crypto Briefing, Simplismart разрабатывает систему, которая будет распределять задачи между подходящими мощностями с GPU в разных регионах и часовых поясах. Система должна согласовывать доступность вычислительных ресурсов со спросом клиентов. При распределении она будет учитывать требования к производительности и местонахождению данных.

Связь с Nvidia не ограничивается вложением денег. По словам Джайна, инженеры Simplismart и специалисты Nvidia по решениям работают над техническими интеграциями, в том числе с программным обеспечением для инференса Dynamo. Nvidia также знакомила стартап с потенциальными клиентами и партнёрами. При этом Simplismart конкурирует с предложениями самой Nvidia и крупных облачных платформ, включая Amazon Web Services, Google Cloud и Microsoft Azure.

Ранее The Economic Times сообщала, что Simplismart обсуждала привлечение $40—50 млн (около 3,2—4 млрд ₽) при оценке в $300—400 млн (около 24—32 млрд ₽). Джайн отказался комментировать публикацию. Он сообщил, что стартап не ведёт активный поиск финансирования: объявленный раунд серии B уже закрыт, и расширять его компания не планирует.