SlideShare a Scribd company logo
Обзор архитектуры и
подсистем деплоя и
мониторинга. Как
инженеры делают систему
прозрачной для
разработки.
Константин Никифоров
Содержание
• Структура нашего puppet.
Организация выкладки.
• Graphite как способ
визуализации работы проекта.
• Как объединяем puppet,
graphite и мониторинг.
Environments и базовые настройки
• GIT как хранилище
манифестов.
• Каждому пользователю по
своему environment.
• Base - един для всех нод.
Hiera
общие переменные
ОС
площадка
роль
Host
Соглашения о написании манифестов
• обнови ( версию )
• не спали ( пароли )
• расскажи ( всем )
deploy.sh
• мастер
• мастер на дату
• определенный коммит
• выложить и залочить
Порядок действий
Branch
Редактируем
Тестируем из
environment
Merge в мастер
deploy.sh
3 уровня масштабирования
• DNS
• динамическая
маршрутизация
• nginx upstream
Альтернативный puppet kick
name
status
last_check, last_update, last_connect
kick
lock,lock_user
Graphite прост
• хранит числа
• показывает числа
3 кита
• carbon
• whisper, ceres
• graphite-web
Метрики
• стандартные метрики
серверов
• метрики приложений
• сложно получаемые
метрики
graphite-nginx-module
• собирает и агрегирует статистику
• работает в неблокирущем режиме
• набор отображаемых метрик может быть
дополнен
Стандартные метрики
body_bytes_sent, bytes_sent, content_time,
gzip_time, keepalive_rps, request_length, rps,
ssl_cache_usage, ssl_handshake_time,
upstream_time
Проблемы Graphite
• Огромный udp pps
• Кластеризация
• Медленный
carbon
go-carbon
6-8 млн метрик в минуту
E5-2620 v2; 64G RAM; 16*SAS 512GB
Черный мониторинг
Функционал клиентской части
• собирает метрики и шлет в Graphite
• собирает информацию о хосте и шлет в свой
коллектор
• генерирует и пушит сообщения в мониторинг
Функционал серверной части
• Прием и отображение ошибок и мониторинг своих
клиентов
• Отображение собранной информации о хостах
• Экспорт ошибок в "большой мониторинг"
Информация для разработки
• манифесты puppet
• где и какой софт работает
• какие машины свободны
• конфигурация любого сервера и его расположение
• история метрик серверов более чем за 3 года
• история алертов за все время
• история изменений в production окружении
Спасибо за внимание
http://graphite.readthedocs.org
Спасибо разработчикам
за помощь и содействие.
https://github.com/mailru/graphite-nginx-module
Михаил Кириченко, Александр Быков
https://github.com/lomik/go-carbon
Роман Ломоносов

More Related Content

PPTX
Мониторинг в высоконагруженных (и не только) проектах: сравнительный анализ с...
Ontico
 
PDF
Путь DevOps в «Parallels» / Константин Назаров (Parallels)
Ontico
 
PDF
RootConf 2015
Evgeny Uskov
 
PPTX
Chef по обе стороны Bamboo / Артем Семенов (Align Technology)
Ontico
 
PDF
RootConf 2015: Как Vagrant и Chef ускорили разработку в несколько раз
Timur Batyrshin
 
PDF
Что нового и полезного в PostgreSQL 9.5 / Илья Космодемьянский (PostgreSQL-Co...
Ontico
 
PDF
Кластеры баз данных делаем сложные вещи просто / Андрей Тихонов (Avito)
Ontico
 
PDF
Эволюция процесса деплоя в проекте / Денис Яковлев (2ГИС)
Ontico
 
Мониторинг в высоконагруженных (и не только) проектах: сравнительный анализ с...
Ontico
 
Путь DevOps в «Parallels» / Константин Назаров (Parallels)
Ontico
 
RootConf 2015
Evgeny Uskov
 
Chef по обе стороны Bamboo / Артем Семенов (Align Technology)
Ontico
 
RootConf 2015: Как Vagrant и Chef ускорили разработку в несколько раз
Timur Batyrshin
 
Что нового и полезного в PostgreSQL 9.5 / Илья Космодемьянский (PostgreSQL-Co...
Ontico
 
Кластеры баз данных делаем сложные вещи просто / Андрей Тихонов (Avito)
Ontico
 
Эволюция процесса деплоя в проекте / Денис Яковлев (2ГИС)
Ontico
 

What's hot (20)

PDF
Алексей Фомкин, Практическое применение Web Workers
Aleksey Fomkin
 
PDF
Чему мы научились разрабатывая микросервисы?
Vadim Madison
 
PDF
Платформа для поставки счастья в команду QA
Slava Kuznetsov
 
PDF
Веб-разработка без наркотиков с помощью PostgreSQL, Nginx и c2h5oh / Миша Кир...
Ontico
 
PDF
Облако в Badoo год спустя
Yuriy Nasretdinov
 
PDF
Юрий Насретдинов, Badoo
Ontico
 
PDF
Быстрое прототипирование бэкенда игры с геолокацией на OpenResty, Redis и Doc...
Ontico
 
PPTX
Что нового в nginx? / Максим Дунин (Nginx, Inc.)
Ontico
 
PDF
Микросервисы: опыт использования в нагруженном проекте / Вадим Мадисон (М-Тех)
Ontico
 
PPTX
Дизайн REST API для высокопроизводительных систем / Александр Лебедев (Новые ...
Ontico
 
PPTX
Виртуальный ЦОД для корпоративных клиентов на базе Virtuozzo: стабильность, п...
Ontico
 
PDF
Как не положить тысячи серверов с помощью системы централизованного управлени...
Ontico
 
PDF
DPDK в виртуальном коммутаторе Open vSwitch / Александр Джуринский (Selectel)
Ontico
 
PPTX
Настройка и оптимизация высоконагруженных J2EE веб-приложений / Шамим Ахмед (...
Ontico
 
PPTX
Monitoring driven эксплуатация / Николай Сивко (HeadHunter)
Ontico
 
PPTX
Дмитрий Лазаренко-«Живая миграция и отказоустойчивость контейнеров в гибридно...
Tanya Denisyuk
 
PDF
Инфраструктура распределенных приложений на nodejs / Станислав Гуменюк (Rambl...
Ontico
 
PPTX
LuaJIT как основа для сервера приложений - проблемы и решения / Игорь Эрлих (...
Ontico
 
PPTX
smart balancing with nginx+lua / Андрей Кононов (IPONWEB)
Ontico
 
PPTX
Системный администратор Vkontakte. Как? / Антон Кирюшкин (Vkontakte)
Ontico
 
Алексей Фомкин, Практическое применение Web Workers
Aleksey Fomkin
 
Чему мы научились разрабатывая микросервисы?
Vadim Madison
 
Платформа для поставки счастья в команду QA
Slava Kuznetsov
 
Веб-разработка без наркотиков с помощью PostgreSQL, Nginx и c2h5oh / Миша Кир...
Ontico
 
Облако в Badoo год спустя
Yuriy Nasretdinov
 
Юрий Насретдинов, Badoo
Ontico
 
Быстрое прототипирование бэкенда игры с геолокацией на OpenResty, Redis и Doc...
Ontico
 
Что нового в nginx? / Максим Дунин (Nginx, Inc.)
Ontico
 
Микросервисы: опыт использования в нагруженном проекте / Вадим Мадисон (М-Тех)
Ontico
 
Дизайн REST API для высокопроизводительных систем / Александр Лебедев (Новые ...
Ontico
 
Виртуальный ЦОД для корпоративных клиентов на базе Virtuozzo: стабильность, п...
Ontico
 
Как не положить тысячи серверов с помощью системы централизованного управлени...
Ontico
 
DPDK в виртуальном коммутаторе Open vSwitch / Александр Джуринский (Selectel)
Ontico
 
Настройка и оптимизация высоконагруженных J2EE веб-приложений / Шамим Ахмед (...
Ontico
 
Monitoring driven эксплуатация / Николай Сивко (HeadHunter)
Ontico
 
Дмитрий Лазаренко-«Живая миграция и отказоустойчивость контейнеров в гибридно...
Tanya Denisyuk
 
Инфраструктура распределенных приложений на nodejs / Станислав Гуменюк (Rambl...
Ontico
 
LuaJIT как основа для сервера приложений - проблемы и решения / Игорь Эрлих (...
Ontico
 
smart balancing with nginx+lua / Андрей Кононов (IPONWEB)
Ontico
 
Системный администратор Vkontakte. Как? / Антон Кирюшкин (Vkontakte)
Ontico
 
Ad

Viewers also liked (20)

PDF
Использование haproxy/iptables+etcd+confd для автоматического service discove...
Ontico
 
PDF
Лучшие практики Continuous Delivery с Docker / Дмитрий Столяров (Флант)
Ontico
 
PPTX
Опыт построения и эксплуатации большого файлового хранилища / Даниил Подольск...
Ontico
 
PPTX
Мониторинг веб-проектов real-time мониторинг и аналитика, поиск ошибок и боев...
Ontico
 
PDF
NVMf: 5 млн IOPS по сети своими руками / Андрей Николаенко (IBS)
Ontico
 
PPTX
обзор архитектуры и подсистем деплоя и мониторинга
Константин Никифоров
 
PPTX
Стандартизация предмета системной инженерии
Anatoly Levenchuk
 
PDF
Как Vagrant и Chef ускорили разработку в несколько раз / Тимур Батыршин (Cina...
Ontico
 
PDF
Релиз инжиниринг Mail.ru, взгляд изнутри / Максим Глеков (Mail.Ru Group)
Ontico
 
PPTX
Управление релизами, как оно есть / Рыжкин Андрей Яковлевич (AGIMA)
Ontico
 
PDF
Watson
Nikita Makarov
 
PPTX
1145 1230 Технологическое партнерство с Microsoft – опыт Mail.Ru Group
tfmailru
 
PPTX
Эволюция разработки (Ермаков Игорь), Форум технологий Mail.Ru Group
tfmailru
 
PPTX
Tech forum 2011-почта
tfmailru
 
PPTX
Alekseev
tfmailru
 
PPTX
Опыт внедрения и использования распределенной системы хранения данных на осно...
tfmailru
 
PPTX
Sumin
tfmailru
 
PPTX
Технологии тестирования Rich Web client, Андрей Плешков, Форум Технологий Mai...
tfmailru
 
PPTX
Платформа@Mail.Ru: настоящее и будущее
tfmailru
 
PPTX
Создание мобильных приложений: платформы, тренды, тонкости
tfmailru
 
Использование haproxy/iptables+etcd+confd для автоматического service discove...
Ontico
 
Лучшие практики Continuous Delivery с Docker / Дмитрий Столяров (Флант)
Ontico
 
Опыт построения и эксплуатации большого файлового хранилища / Даниил Подольск...
Ontico
 
Мониторинг веб-проектов real-time мониторинг и аналитика, поиск ошибок и боев...
Ontico
 
NVMf: 5 млн IOPS по сети своими руками / Андрей Николаенко (IBS)
Ontico
 
обзор архитектуры и подсистем деплоя и мониторинга
Константин Никифоров
 
Стандартизация предмета системной инженерии
Anatoly Levenchuk
 
Как Vagrant и Chef ускорили разработку в несколько раз / Тимур Батыршин (Cina...
Ontico
 
Релиз инжиниринг Mail.ru, взгляд изнутри / Максим Глеков (Mail.Ru Group)
Ontico
 
Управление релизами, как оно есть / Рыжкин Андрей Яковлевич (AGIMA)
Ontico
 
1145 1230 Технологическое партнерство с Microsoft – опыт Mail.Ru Group
tfmailru
 
Эволюция разработки (Ермаков Игорь), Форум технологий Mail.Ru Group
tfmailru
 
Tech forum 2011-почта
tfmailru
 
Alekseev
tfmailru
 
Опыт внедрения и использования распределенной системы хранения данных на осно...
tfmailru
 
Sumin
tfmailru
 
Технологии тестирования Rich Web client, Андрей Плешков, Форум Технологий Mai...
tfmailru
 
Платформа@Mail.Ru: настоящее и будущее
tfmailru
 
Создание мобильных приложений: платформы, тренды, тонкости
tfmailru
 
Ad

Similar to Обзор архитектуры и подсистем деплоя и мониторинга. Как инженеры делают систему прозрачной для разработки / Константин Никифоров (20)

PPTX
Мониторинг в высоконагруженных (и не только) проектах: сравнительный анализ с...
Anton Baranov
 
PDF
Sivko
kuchinskaya
 
PDF
DUMP-2012 - Управление разработкой - "Опыт смены системы контроля версий" Кон...
it-people
 
PPTX
Net core and linux in production
Anatoly Popov
 
PDF
"How to build powerful CI / CD based on GitLab and Docker", Aleksandr Matkovs...
Provectus
 
PDF
Jiramania презентации @augspb
Gonchik Tsymzhitov
 
PDF
Фронтенд для миллионов (Орёл)
Anastasia Goryacheva
 
PDF
IT-инфраструктура. FAQ для разработчика
Mikhail Chinkov
 
PDF
И снова разработка под iOS. Павел Тайкало
Stanfy
 
PDF
Программируемость коммутаторов для ЦОД Cisco Nexus
Cisco Russia
 
ODP
Распределенные системы контоля версия на примере git
Ivan Evtukhovich
 
PDF
Building deployment pipeline - DevOps way
Andrey Rebrov
 
PPTX
Мониторинг проектов: сравнительный анализ существующих решений
Anton Baranov
 
PPTX
Monitoring-driven эксплуатация (rootconf2015)
Nikolay Sivko
 
PPTX
Путь мониторинга, DevOps club в Grammarly
Vsevolod Polyakov
 
PPTX
Gitlab devconf
Andrey Kumanyaev
 
PDF
Советы для начинающих разработчиков PostgreSQL
Anastasia Lubennikova
 
PPTX
Чеклист по клиентской оптимизации - Лавлинский Николай, РИТ++ 2017
Николай Лавлинский
 
PPTX
Чеклист по клиентской оптимизации / Николай Лавлинский (Метод Лаб)
Ontico
 
PDF
Zero Downtime PHP Deployment with Envoyer And Forge
Yehor Herasymchuk
 
Мониторинг в высоконагруженных (и не только) проектах: сравнительный анализ с...
Anton Baranov
 
DUMP-2012 - Управление разработкой - "Опыт смены системы контроля версий" Кон...
it-people
 
Net core and linux in production
Anatoly Popov
 
"How to build powerful CI / CD based on GitLab and Docker", Aleksandr Matkovs...
Provectus
 
Jiramania презентации @augspb
Gonchik Tsymzhitov
 
Фронтенд для миллионов (Орёл)
Anastasia Goryacheva
 
IT-инфраструктура. FAQ для разработчика
Mikhail Chinkov
 
И снова разработка под iOS. Павел Тайкало
Stanfy
 
Программируемость коммутаторов для ЦОД Cisco Nexus
Cisco Russia
 
Распределенные системы контоля версия на примере git
Ivan Evtukhovich
 
Building deployment pipeline - DevOps way
Andrey Rebrov
 
Мониторинг проектов: сравнительный анализ существующих решений
Anton Baranov
 
Monitoring-driven эксплуатация (rootconf2015)
Nikolay Sivko
 
Путь мониторинга, DevOps club в Grammarly
Vsevolod Polyakov
 
Gitlab devconf
Andrey Kumanyaev
 
Советы для начинающих разработчиков PostgreSQL
Anastasia Lubennikova
 
Чеклист по клиентской оптимизации - Лавлинский Николай, РИТ++ 2017
Николай Лавлинский
 
Чеклист по клиентской оптимизации / Николай Лавлинский (Метод Лаб)
Ontico
 
Zero Downtime PHP Deployment with Envoyer And Forge
Yehor Herasymchuk
 

More from Ontico (20)

PDF
One-cloud — система управления дата-центром в Одноклассниках / Олег Анастасье...
Ontico
 
PDF
Масштабируя DNS / Артем Гавриченков (Qrator Labs)
Ontico
 
PPTX
Создание BigData-платформы для ФГУП Почта России / Андрей Бащенко (Luxoft)
Ontico
 
PDF
Готовим тестовое окружение, или сколько тестовых инстансов вам нужно / Алекса...
Ontico
 
PDF
Новые технологии репликации данных в PostgreSQL / Александр Алексеев (Postgre...
Ontico
 
PDF
PostgreSQL Configuration for Humans / Alvaro Hernandez (OnGres)
Ontico
 
PDF
Inexpensive Datamasking for MySQL with ProxySQL — Data Anonymization for Deve...
Ontico
 
PDF
Опыт разработки модуля межсетевого экранирования для MySQL / Олег Брославский...
Ontico
 
PPTX
ProxySQL Use Case Scenarios / Alkin Tezuysal (Percona)
Ontico
 
PPTX
MySQL Replication — Advanced Features / Петр Зайцев (Percona)
Ontico
 
PDF
Внутренний open-source. Как разрабатывать мобильное приложение большим количе...
Ontico
 
PPTX
Подробно о том, как Causal Consistency реализовано в MongoDB / Михаил Тюленев...
Ontico
 
PPTX
Балансировка на скорости проводов. Без ASIC, без ограничений. Решения NFWare ...
Ontico
 
PDF
Перехват трафика — мифы и реальность / Евгений Усков (Qrator Labs)
Ontico
 
PPT
И тогда наверняка вдруг запляшут облака! / Алексей Сушков (ПЕТЕР-СЕРВИС)
Ontico
 
PPTX
Как мы заставили Druid работать в Одноклассниках / Юрий Невиницин (OK.RU)
Ontico
 
PPTX
Разгоняем ASP.NET Core / Илья Вербицкий (WebStoating s.r.o.)
Ontico
 
PPTX
100500 способов кэширования в Oracle Database или как достичь максимальной ск...
Ontico
 
PPTX
Apache Ignite Persistence: зачем Persistence для In-Memory, и как он работает...
Ontico
 
PDF
Механизмы мониторинга баз данных: взгляд изнутри / Дмитрий Еманов (Firebird P...
Ontico
 
One-cloud — система управления дата-центром в Одноклассниках / Олег Анастасье...
Ontico
 
Масштабируя DNS / Артем Гавриченков (Qrator Labs)
Ontico
 
Создание BigData-платформы для ФГУП Почта России / Андрей Бащенко (Luxoft)
Ontico
 
Готовим тестовое окружение, или сколько тестовых инстансов вам нужно / Алекса...
Ontico
 
Новые технологии репликации данных в PostgreSQL / Александр Алексеев (Postgre...
Ontico
 
PostgreSQL Configuration for Humans / Alvaro Hernandez (OnGres)
Ontico
 
Inexpensive Datamasking for MySQL with ProxySQL — Data Anonymization for Deve...
Ontico
 
Опыт разработки модуля межсетевого экранирования для MySQL / Олег Брославский...
Ontico
 
ProxySQL Use Case Scenarios / Alkin Tezuysal (Percona)
Ontico
 
MySQL Replication — Advanced Features / Петр Зайцев (Percona)
Ontico
 
Внутренний open-source. Как разрабатывать мобильное приложение большим количе...
Ontico
 
Подробно о том, как Causal Consistency реализовано в MongoDB / Михаил Тюленев...
Ontico
 
Балансировка на скорости проводов. Без ASIC, без ограничений. Решения NFWare ...
Ontico
 
Перехват трафика — мифы и реальность / Евгений Усков (Qrator Labs)
Ontico
 
И тогда наверняка вдруг запляшут облака! / Алексей Сушков (ПЕТЕР-СЕРВИС)
Ontico
 
Как мы заставили Druid работать в Одноклассниках / Юрий Невиницин (OK.RU)
Ontico
 
Разгоняем ASP.NET Core / Илья Вербицкий (WebStoating s.r.o.)
Ontico
 
100500 способов кэширования в Oracle Database или как достичь максимальной ск...
Ontico
 
Apache Ignite Persistence: зачем Persistence для In-Memory, и как он работает...
Ontico
 
Механизмы мониторинга баз данных: взгляд изнутри / Дмитрий Еманов (Firebird P...
Ontico
 

Обзор архитектуры и подсистем деплоя и мониторинга. Как инженеры делают систему прозрачной для разработки / Константин Никифоров