|
Система управления заданиями автоматизированного сбора данных из сети Интернет
В. А. Лазаревab, М. И. Варламовb, А. К. Яцковb a Московский государственный университет имени М. В. Ломоносова
b Институт системного программирования им. В.П. Иванникова РАН
Аннотация:
Работа посвящена исследованию и разработке системы управления заданиями автоматизированного сбора данных из сети Интернет. Статья содержит описание реализованных методологий и повествует о созданных приемах взаимодействия с контейнерами, содержащими в себе приложения для сбора данных. В ходе работы были изучены и представлены существующие различные сервисы автоматизированного сбора данных из сети Интернет: готовые решения с открытым исходным кодом, облачные сервисы с обширным функционалом, а также собственное решение под управлением Kubernetes. В результате работы реализована и внедрена в платформу для анализа данных Talisman система управления заданиями, которая обеспечивает горизонтальную масштабируемость, изолированность окружения сборщиков и независимость от технологии их разработки.
Ключевые слова:
сбор данных, система управления заданиями, виртуализация, Kubernetes
Образец цитирования:
В. А. Лазарев, М. И. Варламов, А. К. Яцков, “Система управления заданиями автоматизированного сбора данных из сети Интернет”, Труды ИСП РАН, 34:2 (2022), 111–122
Образцы ссылок на эту страницу:
https://www.mathnet.ru/rus/tisp681 https://www.mathnet.ru/rus/tisp/v34/i2/p111
|
Статистика просмотров: |
Страница аннотации: | 24 | PDF полного текста: | 14 |
|