Обзор архитектуры и
подсистем деплоя и
мониторинга. Как
инженеры делают систему
прозрачной для
разработки.
Константин Никифоров
Содержание
• Структура нашего puppet.
Организация выкладки.
• Graphite как способ
визуализации работы проекта.
• Как объединяем puppet,
graphite и мониторинг.
Environments и базовые настройки
• GIT как хранилище
манифестов.
• Каждому пользователю по
своему environment.
• Base - един для всех нод.
Hiera
общие переменные
ОС
площадка
роль
Host
Соглашения о написании манифестов
• обнови ( версию )
• не спали ( пароли )
• расскажи ( всем )
deploy.sh
• мастер
• мастер на дату
• определенный коммит
• выложить и залочить
Порядок действий
Branch
Редактируем
Тестируем из
environment
Merge в мастер
deploy.sh
3 уровня масштабирования
• DNS
• динамическая
маршрутизация
• nginx upstream
Альтернативный puppet kick
name
status
last_check, last_update, last_connect
kick
lock,lock_user
Graphite прост
• хранит числа
• показывает числа
3 кита
• carbon
• whisper, ceres
• graphite-web
Метрики
• стандартные метрики
серверов
• метрики приложений
• сложно получаемые
метрики
graphite-nginx-module
• собирает и агрегирует статистику
• работает в неблокирущем режиме
• набор отображаемых метрик может быть
дополнен
Стандартные метрики
body_bytes_sent, bytes_sent, content_time,
gzip_time, keepalive_rps, request_length, rps,
ssl_cache_usage, ssl_handshake_time,
upstream_time
Проблемы Graphite
• Огромный udp pps
• Кластеризация
• Медленный
carbon
go-carbon
6-8 млн метрик в минуту
E5-2620 v2; 64G RAM; 16*SAS 512GB
Черный мониторинг
Функционал клиентской части
• собирает метрики и шлет в Graphite
• собирает информацию о хосте и шлет в свой
коллектор
• генерирует и пушит сообщения в мониторинг
Функционал серверной части
• Прием и отображение ошибок и мониторинг своих
клиентов
• Отображение собранной информации о хостах
• Экспорт ошибок в "большой мониторинг"
Информация для разработки
• манифесты puppet
• где и какой софт работает
• какие машины свободны
• конфигурация любого сервера и его расположение
• история метрик серверов более чем за 3 года
• история алертов за все время
• история изменений в production окружении
Спасибо за внимание
http://graphite.readthedocs.org
Спасибо разработчикам
за помощь и содействие.
https://github.com/mailru/graphite-nginx-module
Михаил Кириченко, Александр Быков
https://github.com/lomik/go-carbon
Роман Ломоносов

More Related Content

PPTX
Мониторинг в высоконагруженных (и не только) проектах: сравнительный анализ с...
PDF
Путь DevOps в «Parallels» / Константин Назаров (Parallels)
PDF
RootConf 2015
PPTX
Chef по обе стороны Bamboo / Артем Семенов (Align Technology)
PDF
RootConf 2015: Как Vagrant и Chef ускорили разработку в несколько раз
PDF
Что нового и полезного в PostgreSQL 9.5 / Илья Космодемьянский (PostgreSQL-Co...
PDF
Кластеры баз данных делаем сложные вещи просто / Андрей Тихонов (Avito)
PDF
Эволюция процесса деплоя в проекте / Денис Яковлев (2ГИС)
Мониторинг в высоконагруженных (и не только) проектах: сравнительный анализ с...
Путь DevOps в «Parallels» / Константин Назаров (Parallels)
RootConf 2015
Chef по обе стороны Bamboo / Артем Семенов (Align Technology)
RootConf 2015: Как Vagrant и Chef ускорили разработку в несколько раз
Что нового и полезного в PostgreSQL 9.5 / Илья Космодемьянский (PostgreSQL-Co...
Кластеры баз данных делаем сложные вещи просто / Андрей Тихонов (Avito)
Эволюция процесса деплоя в проекте / Денис Яковлев (2ГИС)

What's hot (20)

PDF
Алексей Фомкин, Практическое применение Web Workers
PDF
Чему мы научились разрабатывая микросервисы?
PDF
Платформа для поставки счастья в команду QA
PDF
Веб-разработка без наркотиков с помощью PostgreSQL, Nginx и c2h5oh / Миша Кир...
PDF
Облако в Badoo год спустя
PDF
Юрий Насретдинов, Badoo
PDF
Быстрое прототипирование бэкенда игры с геолокацией на OpenResty, Redis и Doc...
PPTX
Что нового в nginx? / Максим Дунин (Nginx, Inc.)
PDF
Микросервисы: опыт использования в нагруженном проекте / Вадим Мадисон (М-Тех)
PPTX
Дизайн REST API для высокопроизводительных систем / Александр Лебедев (Новые ...
PPTX
Виртуальный ЦОД для корпоративных клиентов на базе Virtuozzo: стабильность, п...
PDF
Как не положить тысячи серверов с помощью системы централизованного управлени...
PDF
DPDK в виртуальном коммутаторе Open vSwitch / Александр Джуринский (Selectel)
PPTX
Настройка и оптимизация высоконагруженных J2EE веб-приложений / Шамим Ахмед (...
PPTX
Monitoring driven эксплуатация / Николай Сивко (HeadHunter)
PPTX
Дмитрий Лазаренко-«Живая миграция и отказоустойчивость контейнеров в гибридно...
PDF
Инфраструктура распределенных приложений на nodejs / Станислав Гуменюк (Rambl...
PPTX
LuaJIT как основа для сервера приложений - проблемы и решения / Игорь Эрлих (...
PPTX
smart balancing with nginx+lua / Андрей Кононов (IPONWEB)
PPTX
Системный администратор Vkontakte. Как? / Антон Кирюшкин (Vkontakte)
Алексей Фомкин, Практическое применение Web Workers
Чему мы научились разрабатывая микросервисы?
Платформа для поставки счастья в команду QA
Веб-разработка без наркотиков с помощью PostgreSQL, Nginx и c2h5oh / Миша Кир...
Облако в Badoo год спустя
Юрий Насретдинов, Badoo
Быстрое прототипирование бэкенда игры с геолокацией на OpenResty, Redis и Doc...
Что нового в nginx? / Максим Дунин (Nginx, Inc.)
Микросервисы: опыт использования в нагруженном проекте / Вадим Мадисон (М-Тех)
Дизайн REST API для высокопроизводительных систем / Александр Лебедев (Новые ...
Виртуальный ЦОД для корпоративных клиентов на базе Virtuozzo: стабильность, п...
Как не положить тысячи серверов с помощью системы централизованного управлени...
DPDK в виртуальном коммутаторе Open vSwitch / Александр Джуринский (Selectel)
Настройка и оптимизация высоконагруженных J2EE веб-приложений / Шамим Ахмед (...
Monitoring driven эксплуатация / Николай Сивко (HeadHunter)
Дмитрий Лазаренко-«Живая миграция и отказоустойчивость контейнеров в гибридно...
Инфраструктура распределенных приложений на nodejs / Станислав Гуменюк (Rambl...
LuaJIT как основа для сервера приложений - проблемы и решения / Игорь Эрлих (...
smart balancing with nginx+lua / Андрей Кононов (IPONWEB)
Системный администратор Vkontakte. Как? / Антон Кирюшкин (Vkontakte)
Ad

Viewers also liked (20)

PDF
Использование haproxy/iptables+etcd+confd для автоматического service discove...
PDF
Лучшие практики Continuous Delivery с Docker / Дмитрий Столяров (Флант)
PPTX
Опыт построения и эксплуатации большого файлового хранилища / Даниил Подольск...
PPTX
Мониторинг веб-проектов real-time мониторинг и аналитика, поиск ошибок и боев...
PDF
NVMf: 5 млн IOPS по сети своими руками / Андрей Николаенко (IBS)
PPTX
обзор архитектуры и подсистем деплоя и мониторинга
PPTX
Стандартизация предмета системной инженерии
PDF
Как Vagrant и Chef ускорили разработку в несколько раз / Тимур Батыршин (Cina...
PDF
Релиз инжиниринг Mail.ru, взгляд изнутри / Максим Глеков (Mail.Ru Group)
PPTX
Управление релизами, как оно есть / Рыжкин Андрей Яковлевич (AGIMA)
PDF
PPTX
1145 1230 Технологическое партнерство с Microsoft – опыт Mail.Ru Group
PPTX
Эволюция разработки (Ермаков Игорь), Форум технологий Mail.Ru Group
PPTX
Tech forum 2011-почта
PPTX
Alekseev
PPTX
Опыт внедрения и использования распределенной системы хранения данных на осно...
PPTX
Sumin
PPTX
Технологии тестирования Rich Web client, Андрей Плешков, Форум Технологий Mai...
PPTX
Платформа@Mail.Ru: настоящее и будущее
PPTX
Создание мобильных приложений: платформы, тренды, тонкости
Использование haproxy/iptables+etcd+confd для автоматического service discove...
Лучшие практики Continuous Delivery с Docker / Дмитрий Столяров (Флант)
Опыт построения и эксплуатации большого файлового хранилища / Даниил Подольск...
Мониторинг веб-проектов real-time мониторинг и аналитика, поиск ошибок и боев...
NVMf: 5 млн IOPS по сети своими руками / Андрей Николаенко (IBS)
обзор архитектуры и подсистем деплоя и мониторинга
Стандартизация предмета системной инженерии
Как Vagrant и Chef ускорили разработку в несколько раз / Тимур Батыршин (Cina...
Релиз инжиниринг Mail.ru, взгляд изнутри / Максим Глеков (Mail.Ru Group)
Управление релизами, как оно есть / Рыжкин Андрей Яковлевич (AGIMA)
1145 1230 Технологическое партнерство с Microsoft – опыт Mail.Ru Group
Эволюция разработки (Ермаков Игорь), Форум технологий Mail.Ru Group
Tech forum 2011-почта
Alekseev
Опыт внедрения и использования распределенной системы хранения данных на осно...
Sumin
Технологии тестирования Rich Web client, Андрей Плешков, Форум Технологий Mai...
Платформа@Mail.Ru: настоящее и будущее
Создание мобильных приложений: платформы, тренды, тонкости
Ad

Similar to Обзор архитектуры и подсистем деплоя и мониторинга. Как инженеры делают систему прозрачной для разработки / Константин Никифоров (10)

PDF
Мониторинг в микросервисной архитектуре / Владимир Колобаев (Avito)
PPTX
Мониторинг в высоконагруженных (и не только) проектах: сравнительный анализ с...
PDF
PDF
[Ru] Cocaine Platform – A Closer Look
PDF
IT-инфраструктура. FAQ для разработчика
PDF
PPTX
Анатомия Интернета вещей
PDF
CodeFest 2014. Сибирев А. — Управление инфраструктурой под Cocaine
PDF
Логгинг, мониторинг и все остальное
PDF
"Cocaine — облачная платформа Яндекса". Андрей Сибирёв, Яндекс
Мониторинг в микросервисной архитектуре / Владимир Колобаев (Avito)
Мониторинг в высоконагруженных (и не только) проектах: сравнительный анализ с...
[Ru] Cocaine Platform – A Closer Look
IT-инфраструктура. FAQ для разработчика
Анатомия Интернета вещей
CodeFest 2014. Сибирев А. — Управление инфраструктурой под Cocaine
Логгинг, мониторинг и все остальное
"Cocaine — облачная платформа Яндекса". Андрей Сибирёв, Яндекс

More from Ontico (20)

PDF
One-cloud — система управления дата-центром в Одноклассниках / Олег Анастасье...
PDF
Масштабируя DNS / Артем Гавриченков (Qrator Labs)
PPTX
Создание BigData-платформы для ФГУП Почта России / Андрей Бащенко (Luxoft)
PDF
Готовим тестовое окружение, или сколько тестовых инстансов вам нужно / Алекса...
PDF
Новые технологии репликации данных в PostgreSQL / Александр Алексеев (Postgre...
PDF
PostgreSQL Configuration for Humans / Alvaro Hernandez (OnGres)
PDF
Inexpensive Datamasking for MySQL with ProxySQL — Data Anonymization for Deve...
PDF
Опыт разработки модуля межсетевого экранирования для MySQL / Олег Брославский...
PPTX
ProxySQL Use Case Scenarios / Alkin Tezuysal (Percona)
PPTX
MySQL Replication — Advanced Features / Петр Зайцев (Percona)
PDF
Внутренний open-source. Как разрабатывать мобильное приложение большим количе...
PPTX
Подробно о том, как Causal Consistency реализовано в MongoDB / Михаил Тюленев...
PPTX
Балансировка на скорости проводов. Без ASIC, без ограничений. Решения NFWare ...
PDF
Перехват трафика — мифы и реальность / Евгений Усков (Qrator Labs)
PPT
И тогда наверняка вдруг запляшут облака! / Алексей Сушков (ПЕТЕР-СЕРВИС)
PPTX
Как мы заставили Druid работать в Одноклассниках / Юрий Невиницин (OK.RU)
PPTX
Разгоняем ASP.NET Core / Илья Вербицкий (WebStoating s.r.o.)
PPTX
100500 способов кэширования в Oracle Database или как достичь максимальной ск...
PPTX
Apache Ignite Persistence: зачем Persistence для In-Memory, и как он работает...
PDF
Механизмы мониторинга баз данных: взгляд изнутри / Дмитрий Еманов (Firebird P...
One-cloud — система управления дата-центром в Одноклассниках / Олег Анастасье...
Масштабируя DNS / Артем Гавриченков (Qrator Labs)
Создание BigData-платформы для ФГУП Почта России / Андрей Бащенко (Luxoft)
Готовим тестовое окружение, или сколько тестовых инстансов вам нужно / Алекса...
Новые технологии репликации данных в PostgreSQL / Александр Алексеев (Postgre...
PostgreSQL Configuration for Humans / Alvaro Hernandez (OnGres)
Inexpensive Datamasking for MySQL with ProxySQL — Data Anonymization for Deve...
Опыт разработки модуля межсетевого экранирования для MySQL / Олег Брославский...
ProxySQL Use Case Scenarios / Alkin Tezuysal (Percona)
MySQL Replication — Advanced Features / Петр Зайцев (Percona)
Внутренний open-source. Как разрабатывать мобильное приложение большим количе...
Подробно о том, как Causal Consistency реализовано в MongoDB / Михаил Тюленев...
Балансировка на скорости проводов. Без ASIC, без ограничений. Решения NFWare ...
Перехват трафика — мифы и реальность / Евгений Усков (Qrator Labs)
И тогда наверняка вдруг запляшут облака! / Алексей Сушков (ПЕТЕР-СЕРВИС)
Как мы заставили Druid работать в Одноклассниках / Юрий Невиницин (OK.RU)
Разгоняем ASP.NET Core / Илья Вербицкий (WebStoating s.r.o.)
100500 способов кэширования в Oracle Database или как достичь максимальной ск...
Apache Ignite Persistence: зачем Persistence для In-Memory, и как он работает...
Механизмы мониторинга баз данных: взгляд изнутри / Дмитрий Еманов (Firebird P...

Обзор архитектуры и подсистем деплоя и мониторинга. Как инженеры делают систему прозрачной для разработки / Константин Никифоров