Ключові компоненти
Інфраструктура має підтримувати як веб-системи, так і AI-сервіси.
- Proxmox cluster
- Kubernetes
- Docker ecosystem
- GPU inference servers
- моніторинг ресурсів
- CI/CD для деплою
Infrastructure
Cloud, DevOps та інфраструктура: сервери, Kubernetes, Docker, CI/CD і AI inference
AI-рішення потребують не лише моделей, а й інфраструктури: серверів, контейнерів, черг задач, моніторингу, inference-сервісів і стабільного деплою, який можна повторювати.
DevOpsKubernetesDockerProxmoxGPU inference
Контекст
Інфраструктура як основа AI-проєктів
Лабораторія має власну обчислювальну інфраструктуру і використовує її для навчальних, дослідницьких та прикладних задач. Це дозволяє швидше перевіряти гіпотези і розгортати прототипи.
DevOps-підхід важливий для будь-якого серйозного проєкту: код має запускатися однаково на тестовому і робочому середовищі, а помилки мають бути видимими через моніторинг.
Для чого це потрібно
Серверна інфраструктура дозволяє запускати моделі, API, бази даних, черги, аналітику і навчальні середовища без залежності від одного локального комп’ютера.
Надійність
Для серйозних систем потрібні резервне копіювання, журналювання, контроль навантаження, оновлення без хаосу і розуміння, які сервіси критичні.
Пов’язані роботи
Проєкти та дослідження лабораторії
Дослідження Система розпізнавання хірургічних інструментів для Лікарні Святого Пантелеймона Лабораторія дослідила та розробила комп’ютерну систему з камерою для розпізнавання, навчання і цифрового обліку тисяч хірургічних інструментів.
Дослідження Дослідження та розробка CRM системи для лікарні Unbroken Лабораторія дослідила та розробила демонстраційну CRM-систему для медичної установи: пацієнти, персонал, палати, задачі, діагнози НК 025:2021, PDF-звіти, права доступу та логування.
FAQ
Питання, які зазвичай ставлять партнери
Чому AI-проєктам потрібні GPU-сервери?
GPU прискорює навчання моделей і inference для задач комп’ютерного зору, NLP та інших ML-сценаріїв, де CPU може бути занадто повільним.
Чи завжди потрібен Kubernetes?
Ні. Kubernetes корисний для багатьох сервісів, масштабування і стабільного деплою. Для малих прототипів іноді достатньо Docker Compose або простішої схеми.
Чи можна отримати ресурси для навчальних задач?
Так, для навчальних задач студенти можуть звертатися до лабораторії з описом цілі, часу використання і потреби в CPU або GPU ресурсах.
Співпраця
Є задача у цьому напрямі?
Лабораторія готова обговорювати дослідження, прототипи та некомерційні проєкти з університетами, лабораторіями, компаніями, лікарнями й державними установами.