Как инженеры Скала^р построили первый ПАК для ИИ

Антон Юдин, начальник отдела разработки аппаратного обеспечения и развития технологий ИИ Скала^р (группа Rubytech), в интервью изданию «Коммерсант Наука» рассказал, как инженеры Скала^р построили первый программно-аппаратный комплекс для искусственного интеллекта.

— Когда появилась идея создания программно-аппаратного комплекса для искусственного интеллекта?

— Около трех лет назад у команды возникла гипотеза: можем ли мы создать инфраструктурную единицу, адаптированную специально под задачи искусственного интеллекта для крупного бизнеса и государства. На тот момент мы умели накапливать и обрабатывать данные, и следующим логичным шагом стало их использование с помощью ИИ.

Повлиял и мой личный опыт: ранее я работал с NVIDIA и видел, как ведущий вендор выстраивает экосистему — от создания инфраструктуры до поддержки стартапов. В России таких решений пока не существовало. Поэтому, ориентируясь на запросы заказчиков и нормативные требования, мы начали разрабатывать собственную архитектуру российского апплаенса, а активная реализация стартовала уже в 2025 году.

— С какими сложностями вы столкнулись при разработке?

— На начальном этапе мы долго проверяли реальную потребность рынка в подобном продукте, общались с заказчиками и партнерами, выясняли их задачи и инфраструктурные ограничения, чтобы не тратить ресурсы на разработку ненужного решения. Благодаря этому удалось определить наиболее востребованные сценарии, такие как обучение на защищенных данных в изолированных кластерах.

Сложности были и технические, и организационные. Одной из основных задач стала необходимость RnD и создания технологического альянса с российскими производителями для создания специализированных аппаратных и программных комплексов под задачи ИИ. Да, многие действительно чувствовали потребность в таких продуктах, но у вендоров не было уверенности, что рынок примет их решения. Мы стали для них одним из этапов CustDev с технологической интервенцией, основанной на опыте на стыке исполнительного софта, микропрограммного обеспечения и высоконагруженных аппаратных систем.

Одной из наиболее трудоемких стала задача по объединению отечественного программного обеспечения и оборудования — приходилось не просто настраивать компоненты, но и вносить изменения в их внутреннюю логику. Например, для платформы MLOps потребовалась ручная адаптация конфигураций RedOS и Deckhouse. Следом появились инженерные задачи: написание собственных драйверов, оптимизация сетей, отладка взаимодействия с системами хранения данных. Другими словами, требовалось вручную «учить» разные компоненты правильно взаимодействовать друг с другом, чтобы система работала стабильно и без перебоев.

Еще одним вызовом стала адаптация азиатских графических карт для работы с моделью LLaMA. Процесс включал и глубокий технический анализ, и многочисленные оптимизации, и длительную отладку. В результате модель удалось успешно запустить, и кейс можно назвать значимым для всего рынка.

Ну и наконец, немало усилий команда инвестировала в адаптацию программно-аппаратного комплекса под требования Минцифры и Минпромторга, его сертификацию как единого изделия.

Полный текст интервью читайте на сайте Коммерсантъ