Цивилизация
Компания MTS AI, разрабатывающая продукты и решения на базе генеративного ИИ, технологии обработки естественного языка и компьютерного зрения, полностью перенесла в облако MWS процесс обучения и инференса моделей ИИ, а также больших языковых моделей, сообщает пресс-служба компании.
В MTS AI отметили, что за счет этого удалось сэкономить более 1 млрд рублей инвестиций.
Основу сервисов компании составляют ML-модели, обучающиеся на тысячах терабайтов данных. Также компания использует GPU, чтобы ускорить процесс обучения.
Для сложных задач клиенты компании используют сервисы на основе больших языковых моделей, среди которых LLM, Cotype, Kodify и другие.
В MTS AI отметили, что работа с моделями в облаке делится на 3 этапа. Первый – деплой и предобучение моделей с помощью виртуальной инфраструктуры с GPU ускорителями. Второй – глубокое обучение моделей на суперкомпьютере. Третий – переход моделей на инференс в облаке MWS.
Как рассказал директор по LLM-продуктам MTS AI Сергей Пономаренко, переход в облако позволяет использовать тот объем вычислительных ресурсов, который необходим для работы, не тратя большие суммы на закупку серверов.
«Благодаря использованию мощностей MWS мы можем перераспределить инвестиции на новые проекты. Кроме того, облачная модель потребления позволяет нам ускорять запуск новых продуктов, так как отпадает необходимость ждать поставки оборудования», — сказал он.