Скала^р представила Машину для искусственного интеллекта
Скала^р представила новый программно-аппаратный комплекс (ПАК) для работы с моделями искусственного интеллекта — Машину Скала^р МБД.ИИ. Высокопроизводительное и экономически эффективное инфраструктурное решение для разработки, обучения и исполнения различных типов моделей ИИ: от языковых моделей (LLM) до классического машинного обучения (ML) и компьютерного зрения (CV) с применением практик HPC.
Машина Скала^р МБД.ИИ является функциональным аналогом известных инфраструктурных продуктов для поддержки работы с ИИ — NVIDIADGXSuperPODи HuaweiAtlas900 PoD. Она может использоваться как для построения полностью On-Premise решений в периметре предприятия или отдельной производственной площадки, так и в составе частных и гетерогенных облачных систем.
Для Машины Скала^р МБД.ИИ в инфраструктурах заказчиков подтверждена работа различных MLплатформ и моделей, в том числе: MTSAICotypePro, T1 Сайбокс, Смарт-платформа Neuraldeep.tech от Red_Mad_Robot, WaveAccess ValueAI, DeepSeekи LLaMA. При реализации сценариев использования больших языковых моделей для устранения ИИ-галлюцинаций, удержания контекста и работы с данными в периметре ПАК применяются RAG платформы. Машина имеет гибкую унифицированную архитектуру, соответствующую отраслевым стандартам, что позволяет, при необходимости, использовать её с такими приложениям, как YandexGPT, GigaChat и др. Машина для ИИ может интегрироваться с другими ПАК линейки Скала^р, обеспечивающими высокую производительность и надежность при работе с большими объемами и потоками данных.
В основе новой Машины для ИИ – передовые технологии распределенных вычислений, в том числе: технология высокоскоростного соединения графических процессоров NVLink с использованием платформ на 2, 4 или 8 GPU, система прямого доступа к ресурсам RDMA, технологии GPUDirect и NVMeoF для обработки и передачи данных, а также поддержкой всех популярных фреймворков для машинного обучения: TensorFlow, PyTorch, Keras и др. Развёртывание приложений ИИ в контейнерной среде обеспечивает эффективное использование аппаратных ресурсов, а реализация сети интерконнекта с применением топологий Fat-tree, HyperCube, DragonFly или классической архитектуры Leaf-Spine дает возможность более гибко масштабировать вычислительный кластер.
Использование ПАК позволяет значительно сократить время на внедрение прикладных приложений ИИ, ускорить вывод новых продуктов на рынок (time-to-market), оптимизировать использование производственных ресурсов и повысить качество сервисов. Машина Скала^р для ИИ отличается глубоко интегрированным программно-аппаратным стеком для максимальной производительности при работе с ИИ-моделями и высоким уровнем информационной безопасности. Модульная архитектура позволяет создавать оптимальные комплексы без избыточности ресурсов и легко их масштабировать.
Информационная безопасность Машины реализована по принципу «Secure by Design», который предусматривает внедрение механизмов защиты на всех этапах жизненного цикла разработки продукта. Решение обеспечивает легкость аттестации по критериям информационной безопасности, что критически важно для государственных организаций и предприятий с высокими требованиями к защите данных.
«Машина Скала^р МБД.ИИ позволяет создать надежную и производительную инфраструктуру для работы с искусственным интеллектом, используя проверенные технологии и компоненты из реестра Минпромторга и Минцифры РФ с подтвержденной производительностью до 1,5 петафлопс на вычислительный кластер. Мы видим большой потенциал применения комплекса в различных отраслях экономики, включая промышленность и финансы, где использование ИИ помогает существенно повысить эффективность бизнес-процессов.», — отметил Пётр Дубенсков, директор по технологическим инновациям Скала^р.
Вычислительные комплексы Скала^р представлены как в классических конфигурациях с графическими ускорителями NVIDIA, так и в вариантах с альтернативными графическими и тензорными ускорителями азиатских производителей. Это обеспечивает организациям свободу технологического развития и возможность миграции между различными GPU и TPU. Также в разработке находятся модули с поддержкой отечественных ускорителей.
Использование Машины Скала^р МБД.ИИ существенно снижает требования к необходимому уровеню квалификации администраторов, за счет наличия единой системы обслуживания и управления Машин.
Благодаря накопленному опыту Скала^р в создании высоконагруженных ИТ-инфраструктур для работы с большими массивами информации, профилированы потоки данных для разных типов исполняемых задач на базе ИИ. ПАК предоставляет оптимальную инфраструктуру как для проприетарных, так и для открытых решений, обеспечивая стабильность не только на уровне архитектурного стека, но и на уровне исполнения моделей.
Специалисты Скала^р непрерывно совершенствуют продукт, проводя исследования и разработки в партнерстве с технологическими лидерами в области искусственного интеллекта, а также регулярно выполняют комплексные тестирования интеллектуальных систем ведущих российских разработчиков на базе собственной Лаборатории ИИ. Это обеспечивает совместимость и эффективную интеграцию ИИ-решений с инфраструктурным стеком технологий, гарантирует стабильную работу и высокие показатели производительности ПАК, благодаря чему заказчики получают надежный преднастроенный продукт, оптимизированный для работы с современными ИИ-моделями в корпоративной среде.
О Скала^р:
Скала^р— модульная платформа для построения высоконагруженной ИТ-инфраструктуры (продукт Группы Rubytech). Лидер российского рынка ПАК (по версии CNews Analytics, 2024).
Программно-аппаратные комплексы (Машины) Скала^р выпускаются с 2015 года и представляют широкий технологический стек для построения динамических инфраструктур и инфраструктур управления данными высоконагруженных информационных систем.
Продукты Скала^р включены в Реестр промышленной продукции, произведенной на территории Российской Федерации, и в Единый реестр российских программ для ЭВМ и БД. Соответствует критериям доверенности и использованию для объектов критической информационной инфраструктуры (КИИ).
Машины Скала^р являются серийно выпускаемыми преднастроенными комплексами, которые быстро развертываются и вводятся в эксплуатацию. Глубокая интеграция технических средств и программного обеспечения в ПАК Скала^р позволяет получить расширенные возможности и функциональность, которые недоступны при использовании отдельных компонентов.
Модульный принцип обеспечивает интеграцию разнородных компонентов ИТ-инфраструктуры в единую платформу предприятий, корпораций и ведомств. Единые поддержка и сервисное обслуживание для всех продуктов линейки Скала^р от производителя обеспечивают оперативное разрешение инцидентов на стыке технологий.